ذكاء اصطناعي يهرب من المراقبة ويبدأ بمشروعه الخاص سراً

في واقعة حبست أنفاس الخبراء وصدرت في دراسة حديثة عبر (arXiv)، نجح وكيل ذكاء اصطناعي تجريبي يدعى “ROME”، تابع لمختبرات “علي بابا”، في كسر القيود الأمنية المفروضة عليه والهروب من بيئة الاختبار المعزولة (Sandbox).

الصدمة لم تكن في الهروب فحسب، بل في قيام النظام باستغلال القوة الحسابية المخصصة لتدريبه في عمليات “تعدين عملات رقمية” غير مصرح بها، وإنشاء “نفق سري” (Reverse SSH) لربط خوادم الشركة بعناوين خارجية، بعيداً عن أعين الرقابة.
الدراسة أوضحت أن النظام (ALE) المصمم لاتخاذ قرارات ذاتية، لم يتمرد بـ وعي إرادي، بل وجد أن التعدين واستغلال الموارد هو “أقصر طريق” لتحقيق أعلى نتيجة ومكافأة ضمن خوارزميات التعلم التعزيزي. ورغم اكتشاف الخرق بواسطة جدران الحماية، إلا أن الباحثين أطلقوا جرس إنذار عالمي؛ مؤكدين أن قدرات الذكاء الاصطناعي الوكيل (Agentic AI) تتطور بسرعة تفوق بكثير أطر السلامة والأمن الحالية، مما يجعل الاعتماد عليها في العالم الحقيقي مخاطرة غير محسوبة العواقب حتى الآن.