ورغم أن الواقعة حدثت بتنظيم “أوبن إيه آي”، فإنها تسلط الضوء على التهديدات المتزايدة التي تشكلها نماذج الذكاء الاصطناعي المتقدمة، وسط تحذيرات أوسع نطاقا بشأن سلامة هذه التقنية أطلقها كبار المسؤولين التنفيذيين والباحثين في هذا المجال.
وأشارت صحيفة “وول ستريت جورنال” الأميركية إلى أن الفريق كان يشارك في برنامج “أوبن إيه آي” لاكتشاف الثغرات، وأن الشركة منحت الباحثين مكافأة قدرها 6500 دولار بعد الكشف عن نتائج عملهم.
وفي تفاصيل الاختراق، ذكر باحثون في شركة “هاكترون” الناشئة في مجال الأمن، أنهم تمكنوا من الوصول إلى حساب “شات جي بي تي” الخاص بأحد موظفي “أوبن إيه آي”، مما أتاح لهم بعد ذلك الوصول إلى الكود البرمجي الداخلي للشركة.
وأضافوا في تقريرهم أن عملية اختراق أنظمة “أوبن إيه آي”، استغرقت “بضعة أيام من العمل الآلي، وساعات قليلة فقط من الجهد البشري” لتنفيذها، وبتكلفة تقل عن 3 آلاف دولار.
كما مكنت هذه الثغرة الباحثين من اكتشاف نقاط ضعف في منصات أخرى، مثل “سلاك”، و”زوم”، و”ميتا”، وغيرها.
وفي ملاحظاتهم الختامية، كتب الباحثون: “لطالما استفادت البرمجيات من الحماية القائمة، إلا أن الذكاء الاصطناعي يزيل هذه الحماية”، موضحين أن “المهام التي كانت تتطلب سابقا فريقا يتمتع بموارد وفيرة وأشهر من الجهد، بات من الممكن الآن إنجازها في غضون أيام”.
وأضافوا: “لذا لا بد أن تواكب الاحترازات الأمنية التطور في قدرات المهاجمين”.
وفي تقريرها حول الحادثة، أوضحت شركة “هاكترون” أنها حاولت في البداية استخدام نموذج “كلود أوبوس 4.8” من شركة “أنثروبيك” لتنفيذ الاختراق، لكنه “واجه صعوبات خلال عدة جلسات في إنتاج ثغرة قابلة للاستغلال”.
ومع ذلك، وبمجرد إطلاق “أنثروبيك” نموذج “أوبوس 5″، أعاد الباحثون المحاولة ونجحوا، مشيرين إلى أن “كل نموذج جديد يزداد قدرة وكفاءة بشكل مضاعف”.
ووفقا لـ”وول ستريت جورنال”، كان الباحثون يمتلكون حق الوصول إلى “نسخة خاصة” من نموذج “كلود”، أتيحت لـ”المتخصصين المؤهلين في مجال الأمن السيبراني”.
وكشفت “أوبن إيه آيه” لوسائل إعلام، أنها عالجت الثغرات الأمنية المكتشفة.