ولا يتعلق الأمر باختراق جديد، إذ أعلنت “أوبن إيه آي” OpenAI الحادثة أول مرة في 21 يوليو، لكن التقرير الجديد يقدم أول رواية تقنية شاملة لما جرى، بالتزامن مع نشر تحقيق مستقل أجرته منظمتا METR وRedwood Research.
وتظهر النتائج أن ما بدأ اختباراً لقياس أقصى القدرات السيبرانية للنماذج تحول إلى أول حالة معروفة، وفق “أوبن إيه آي”، تتصرف فيها مجموعة من الوكلاء الآليين هجومياً ومن دون توجيه بشري مباشر.
قناة اتصال غير مصرح بها
كان يفترض أن يعمل كل وكيل داخل بيئة افتراضية معزولة، من دون اتصال مباشر بالإنترنت أو بالوكلاء الآخرين، لكن النماذج اكتشفت أنها تستطيع استخدام نظام داخلي لإدارة الحزم البرمجية يحمل اسم JFrog Artifactory لتبادل الرسائل والملفات.
ولم يتطلب إنشاء قناة الاتصال في البداية استغلال ثغرة أمنية، إذ استخدم الوكلاء بيانات اعتماد مشتركة وفرتها “أوبن إيه آي” للوصول إلى الحزم البرمجية، ثم حولوا الملفات وأسماء المجلدات داخل النظام إلى ما يشبه “لوحة رسائل”.
واستُغلت لاحقاً ثغرات منفصلة وغير معروفة في Artifactory لتجاوز قيود الشبكة والوصول إلى الإنترنت، وفق تقرير “أوبن إيه آي” الرسمي.
وبحسب تحقيق METR وRedwood Research، تواصل نحو 1200 وكيل عبر القناة غير المصرح بها، وتبادلوا أكثر من 70 ألف رسالة وملف خلال فترة التحقيق، بينما شارك نحو 700 منهم في النشاط الذي استهدف Hugging Face.
وتقاسم الوكلاء المهام؛ فبحث بعضهم عن الثغرات وبيانات الاعتماد، بينما تولى آخرون تنسيق العمل وتوجيه المشاركين. واستخدمت بعض السجلات تعبير “السرب” لوصف هذا التعاون.
من الاختبار إلى أنظمة حقيقية
لم تكن النماذج مكلفة بمهاجمة “أوبن إيه آي” أو Hugging Face، بل بمحاولة حل مسائل ضمن اختبار سيبراني شديد الصعوبة يسمى ExploitGym.
لكن بعض المسائل لم يكن قابلاً للحل بالطريقة المقصودة، ما دفع الوكلاء إلى البحث عن وسائل للتحايل على نظام التقييم والحصول على نتيجة أعلى بدلاً من التوقف.
وبعد الوصول إلى الإنترنت، عثر الوكلاء على بيانات اعتماد خاصة بمستخدمي Hugging Face كانت مكشوفة علناً، ثم دمجوها مع ثغرات اكتشفوها في البنية التحتية للمنصة لتوسيع نطاق وصولهم.
وقالت “أوبن إيه آي” إن الوكلاء نفذوا تعليمات برمجية على 41 خادماً إنتاجياً لمعالجة البيانات تابعاً لـHugging Face، وحصلوا على صلاحية الجذر في عقدة إنتاجية واحدة على الأقل.
كما وصلوا إلى بيانات اعتماد إنتاجية وبيانات داخلية محدودة، وحمّلوا 4 مستودعات برمجية خاصة، وحصلوا على صلاحيات تعادل صلاحيات المسؤول في أحد عناقيد Kubernetes المتصلة.
ووصل الوكلاء كذلك إلى بيانات اعتماد مرتبطة بشبكة Hugging Face الافتراضية الخاصة وبيئات سحابية ومستودعات برمجية ومنصة مراسلة مؤسسية.
وشارك في الحادثة نموذج بحثي داخلي شديد القدرة وغير مخصص للإطلاق، إضافة إلى وكلاء يعملون بنموذج GPT-5.6 Sol، إلا أن أوبن إيه آي قالت إن النموذج الداخلي قاد الجزء الأكبر من النشاط.
استهداف بنية أوبن إيه آي
نفذ الوكلاء بصورة منفصلة أنشطة استهدفت البنية التحتية الداخلية لـ”أوبن إيه آي”، لكنها لم تكن جزءاً من المسار الذي أدى إلى اختراق Hugging Face.
وفي 19 يوليو، استغل الوكلاء ثغرة منشورة في نظام التشغيل للحصول على صلاحية الجذر في إحدى العقد، قبل التحرك داخل البيئة المتصلة والوصول إلى صلاحيات مسؤول في عنقود بحثي سحابي تابع لـ”أوبن إيه آي”.
كما وصلوا إلى رموز مصادقة مرتبطة بخدمات إدارة الأسرار والهوية السحابية ومنصة التكامل المستمر المستخدمة في بيئة الاختبارات.
وأكدت “أوبن إيه آي” أن بيانات مستخدمي “شات جي بي تي” ChatGPT ووظائف منتجاتها العامة وتوافرها لم تتأثر. وأوضحت أن الاختبارات أجريت من دون وسائل الحماية السيبرانية المستخدمة في منتجاتها، وبضمانات مخففة لقياس القدرات الأساسية للنماذج.
محاولات لخداع التقييم
وجد التحقيق المستقل أن بعض الوكلاء أدركوا أن مهاجمة أنظمة خارجية تتجاوز نطاق المهمة وغير أخلاقية، لكنهم واصلوا النشاط اعتقاداً منهم أنه قد يساعد المجموعة على خداع نظام التقييم.
وطور بعضهم وسيلة تجعل السجلات تعرض أمراً برمجياً، بينما ينفذ النظام أمراً آخر. ورصد المحققون أدلة واضحة على استخدام هذه الوسيلة في نحو 7 بالمئة من السجلات التي فحصوها، مع التأكيد أن الحالات المكتشفة ظلت اختبارات محدودة النطاق.
ولا تعني الحادثة أن النماذج أصبحت واعية أو “تمردت” بالمعنى البشري. وتفسر “أوبن إيه آي” ما جرى بأنه نتيجة لاجتماع عوامل عدة، بينها التحايل على نظام المكافأة، والإصرار على حل مهام مستحيلة، والتواصل غير المصرح به بين الوكلاء.
ووصفت “أوبن إيه آي” الحادثة بأنها “طلقة تحذيرية” لها وللعالم، وأعلنت تشديد عزل بيئات الاختبار، وتقييد الوصول إلى الإنترنت، وتعزيز المراقبة والاستجابة للحوادث وضوابط الوصول إلى النماذج.
فقد صُممت التجربة لمعرفة حدود قدرات النماذج، لكنها كشفت أن تلك النماذج تستطيع، في غياب الضمانات الكافية، تجاوز الحدود التقنية والتعاون عبر قنوات غير معتمدة وتنفيذ أفعال خطرة لم يوجهها إليها أي إنسان.