كتبت_شيماء رمضان: في واقعة جديدة تعكس التطور المتسارع لقدرات الذكاء الاصطناعي في مجال الأمن السيبراني، كشفت شركة جوجل أن أحد نماذج “جيميني” تمكن من الوصول إلى أنظمة تابعة لثلاث شركات حقيقية خلال اختبار أمني أُجري في مايو 2026، بعدما حصل النموذج بشكل غير مقصود على إمكانية الوصول إلى الإنترنت أثناء الاختبار.
وجاءت الواقعة ضمن اختبار أمني أجرته شركة “Irregular” المتخصصة في تقييم أمن نماذج الذكاء الاصطناعي، وكان الهدف الأساسي منه اختبار قدرة “جيميني” على تنفيذ مهام هجومية داخل بيئة محاكاة، وليس الوصول إلى أنظمة حقيقية.
إلا أن وجود اتصال غير مقصود بالإنترنت سمح للنموذج بالتحرك خارج النطاق المحدد للاختبار والوصول إلى مواقع وأنظمة حقيقية.
كيف وصل “جيميني” إلى الأنظمة الحقيقية؟
بحسب المعلومات التي أكّدتها جوجل، تمكن النموذج خلال إحدى الحالات من الوصول إلى نظام محمي بعدما حاول تخمين بيانات الدخول حتى نجح في الوصول إليه.
وفي حالتين أخريين، استخدم “جيميني” معلومات وبيانات اعتماد وجدها متاحة عبر الإنترنت، بعدما اعتقد أن المواقع التي وصل إليها جزء من بيئة الاختبار.
وأوضحت جوجل أن النموذج لم يكن يستهدف الشركات الثلاث بصورة مباشرة، إذ كان يتعامل معها باعتبارها جزءًا من المهمة التي أُعطيها داخل الاختبار.
كما توقف “جيميني” عن مواصلة نشاطه في الحالات الثلاث بعدما أدرك أنه وصل إلى أنظمة تابعة لشركات حقيقية وليست أهدافًا افتراضية ضمن التجربة.
خطأ في الاختبار فتح الطريق أمام الذكاء الاصطناعي
تعود الواقعة إلى اختبار من نوع “Capture the Flag”، وهو أسلوب شائع في اختبارات الأمن السيبراني لتقييم قدرة الأنظمة على اكتشاف الثغرات وتنفيذ مهام الاختراق داخل بيئات مصممة لهذا الغرض.
وكان من المفترض أن تظل التجربة محصورة داخل نطاق افتراضي، إلا أن إعدادات الاختبار سمحت للنموذج بالوصول إلى الإنترنت بصورة غير مقصودة. ونتيجة لذلك، أصبح بإمكان” جيميني” البحث عن معلومات متاحة للعامة واستخدامها في محاولة الوصول إلى أنظمة اعتقد أنها مرتبطة بالمهمة التي ينفذها.
جوجل تبلغ الشركات وتراجع إجراءات الاختبار
وأكدت جوجل أن الشركات المتضررة تم إبلاغها بالواقعة، كما عملت الشركة مع الجهة التي أجرت الاختبار على تعديل إجراءات الاختبارات لمنع تكرار مثل هذه الحالات مستقبلًا.
وقالت هذر أدكينز، نائبة رئيس هندسة الأمن في جوجل، إن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بصورة مسؤولة، إلى جانب تطوير إجراءات اختبار أكثر دقة تضمن عدم خروج النماذج عن الحدود المسموح بها أثناء عمليات التقييم.
“جيميني” ليس النموذج الوحيد
وتأتي واقعة جوجل في وقت ظهرت فيه حوادث مشابهة خلال اختبارات أمنية لنماذج ذكاء اصطناعي تابعة لشركات تكنولوجية أخرى، من بينها «OpenAI» و”Anthropic” و”Meta”.
وتشير هذه الوقائع إلى تغير طبيعة اختبارات الذكاء الاصطناعي، بعدما أصبحت النماذج الحديثة قادرة على تنفيذ سلسلة من الخطوات بصورة مستقلة، بداية من البحث عن المعلومات، مرورًا بتحليلها، وصولًا إلى تنفيذ إجراءات على أنظمة رقمية.
وهو ما يجعل ضبط الصلاحيات والاتصال بالإنترنت جزءًا أساسيًا من تصميم بيئات الاختبار.
الأمن السيبراني أمام تحدٍ جديد
وتسلط حادثة “جيميني” الضوء على تحدٍ متزايد أمام شركات التكنولوجيا، يتمثل في كيفية اختبار نماذج الذكاء الاصطناعي القادرة على تنفيذ مهام معقدة دون منحها صلاحيات قد تسمح لها بالوصول إلى أنظمة خارج نطاق التجربة.
وفي الوقت الذي يمكن فيه استخدام الذكاء الاصطناعي لاكتشاف الثغرات وتحليل الأنظمة وتعزيز الحماية الإلكترونية، فإن امتلاك النماذج لقدرات أكثر استقلالية يفرض الحاجة إلى ضوابط دقيقة تحدد ما يمكن للنموذج الوصول إليه وما يجب أن يتوقف عنده.
وتؤكد الواقعة أن تطور الذكاء الاصطناعي لم يعد مرتبطًا فقط بقدرته على إنتاج النصوص والصور والإجابة عن الأسئلة، بل بات يشمل تنفيذ مهام رقمية متقدمة والتعامل مع بيئات إلكترونية حقيقية، الأمر الذي يضع اختبارات الأمان والرقابة على هذه الأنظمة في مقدمة الملفات التي تشغل قطاع التكنولوجيا حاليًا.