أطلق فريق من جامعة أكسفورد إنذارًا جديدًا بشأن ثغرة محتملة في برامج “وكلاء الذكاء الإصطناعي”، وهي تطبيقات ذكية قادرة على تنفيذ مهام على جهاز المستخدم، منها فتح صفحات، ملء نماذج، أو النقر على أزرار، من دون تدخل الإنسان.
ووفق دراسة أولية، يمكن للمهاجمين استخدام صور تبدو عادية للطرف البشري، لكنها تحمل أنماطًا رقمية خفية يفهمها الوكيل، فتتحول الصورة إلى أوامر تنفيذية تلقائية. تخيل صورة نجمة مشهورة أو منظرًا طبيعيًا على سطح المكتب، وفي الخلفية، ينفذ الوكيل أوامر لم تُرَ، تصل أحيانًا إلى سرقة بيانات أو فتح قنوات هجومية على أجهزة أخرى.
وأشار الباحثون إلى أن الوكلاء المبنيين على نماذج مفتوحة المصدر هم الأكثر عرضة، إذ يسهّل الاطلاع على الكود تصميم صور متوافقة مع سلوك النموذج. وأوضحوا أن تعديلًا بسيطًا لعدد قليل من وحدات البكسل يكفي لجعل الصورة طبيعية للعين البشرية، لكنها تحمل أوامر مفهومة للذكاء الاصطناعي.
رغم أن هذه التجارب لم تسجل هجمات واقعية حتى الآن، إلا أن الفريق شدد على ضرورة التحرك المبكر. وأوصوا بتصميم وكلاء قادرين على رفض أوامر مشبوهة وتعزيز صلابة نماذج الرؤية الحاسوبية ضد التلاعب.
فيليب تور، الباحث المشارك، أكد أن الغموض التقني لا يحمي من الاختراق، وأن الشركات يجب أن تبني طبقات دفاعية قبل أن تصبح هذه التقنية جزءًا من كل جهاز حول العالم.