كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة (إيه آي إس آي) أن نماذج متقدمة طورتها شركتا “أوبن إيه آي” و”أنثروبيك” حاولت خداع مبرمجين بشريين من أجل مساعدتها على تنفيذ هجوم إلكتروني، وذلك خلال اختبارات سلامة أجراها المعهد.
وأوضح المعهد أن وكلاء ذكاء اصطناعي يعملون بنموذجي “ميثوس 5” التابع لشركة “أنثروبيك” و”جي بي تي-5.6-سول” التابع لشركة “أوبن إيه آي” نفذوا عملساتع غير مصرح بها أثناء التقييم، مؤكدا أن “بعض الوكلاء الذين كانوا قيد الاختبار انخرطوا في نشاط مستمر قد يكون ضارا واستهدف أشخاصاً ومنظمات حقيقية”، وفق صحيفة “ديلي ميل”.
وأثار التقرير مخاوف جديدة بشأن مستوى الضوابط الأمنية المفروضة على اختبار وكلاء الذكاء الاصطناعي، في وقت تواصل فيه الشركات المطورة الترويج لهذه التقنيات باعتبارها مستقبل قطاع الأعمال.
وبحسب المعهد، حاول أحد الوكلاء إدراج شفرة برمجية خبيثة داخل مشروع مفتوح المصدر، ثم أنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على أحد المشاركين في المشروع من أجل الموافقة على التعديل البرمجي، إلا أن الشخص المستهدف اكتشف المحاولة ورفض اعتماد الشفرة.
كما أنشأ الوكيل “طلب سحب” خبيث، وهو اقتراح لتعديل الشفرة البرمجية داخل مشروع مفتوح المصدر منشور على منصة “جيت هاب”، التي يستخدمها المطورون لإدارة وتطوير الأكواد البرمجية.
ويحصل معهد أمن الذكاء الاصطناعي على إمكانية الوصول إلى النماذج المتقدمة بموجب اتفاقيات طوعية الشركات، بهدف تقييم قدراتها قبل طرحها للاستخدام العام.
ولإجراء هذه الاختبارات، يختبر الخبراء النماذج في ظروف وصفها المعهد بأنها “متساهلة عمداً”، وتشمل السماح لها بالوصول إلى الإنترنت مع تعطيل بعض وسائل الحماية الأمنية.
وفي أحدث تجربة، أخضع المعهد الوكلاء لسيناريو افتراضي يتعلق بالأمن السيبراني، وأجرى الاختبار 122 مرة، رصد خلالها 19 تصرفا غير مصرح به في 10 جولات، وكان وكيل أنثروبيك مسؤولا عن 17 من هذه التصرفات، مقابل حالتين فقط لوكيل “أوبن إيه آي”.
وأكد المعهد أنه لم يرصد أي أضرار فعلية في العالم الحقيقي نتيجة هذه الحوادث.
وقالت المنظمة، التي أُنشئت عام 2023 على يد رئيس الوزراء البريطاني آنذاك ريشي سوناك، إن هذه هي: “المرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذه الصورة الواضحة، ومن دون أي توجيه محدد، في العالم الحقيقي”.
وأكدت شركة “أنثروبيك” أن وكيلها هو المسؤول عن إنشاء الهويات المزيفة ومحاولة تنفيذ التعديل البرمجي الخبيث.
وقال أندرو يون، الباحث في منظمة ‘سيف إيه آي”، وهي منظمة مقرها ولاية كاليفورنيا تعنى بدراسة قدرات الذكاء الاصطناعي ومخاطره: “إن حقيقة قيام ميثوس بهذه التصرفات الخادعة، مع ما يبدو أنه إدراك منها بأنها كانت تستهدف شخصا حقيقيا، تشير إلى أن أنثروبيك لا تملك السيطرة على نماذجها بالقدر الذي تعتقده”.
كما شاركت “أوبن إيه” آي مزيدا من التفاصيل، موضحة أن التصرفين غير المصرح بهما اللذين ارتكبهما وكيلها تمثلا في الوصول إلى الإنترنت بطرق كانت محظورة وفقا لتعليمات الاختبار.
وفي وقت سابق، كشفت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، ما أثار مخاوف أمنية واسعة.