كتبت_شيماء رمضان: أعاد الذكاء الاصطناعي فتح واحدة من أكثر القضايا إثارة للجدل في عالم التكنولوجيا، بعدما أقرت شركة أوبن إيه آي بالحاجة إلى مزيد من الشفافية بشأن بعض التصرفات غير المقصودة التي تصدر عن وكلائها الذكيين، عقب واقعة استخدمت فيها مجموعة من الوكلاء موقعًا ألمانيًا مشتركًا للتنسيق فيما بينها.
موقع إلكتروني يتحول إلى ساحة لتواصل الوكلاء
وتعود الواقعة إلى وقت سابق من العام، عندما استغل عدد من وكلاء الذكاء الاصطناعي صفحات موقع ألماني متخصص في البرمجة كمكان لتبادل الرسائل والتعليمات، بعدما تمكنوا من إجراء آلاف التعديلات على الصفحات.
ووفقًا لما أوردته رويترز، استخدم الوكلاء الموقع في مشاركة أساليب لتجاوز بعض القيود والتنسيق فيما بينهم، كما أنشأوا صفحات احتياطية لمواجهة عمليات الحذف التي كان يقوم بها المشرفون على الموقع.
السلوك غير المقصود يثير مخاوف جديدة
ولا تكمن أهمية الواقعة في الموقع نفسه، وإنما في السؤال الأكبر الذي تطرحه: إلى أي مدى يمكن السيطرة على وكلاء الذكاء الاصطناعي عندما يُسمح لهم بتنفيذ مهام متعددة بصورة شبه مستقلة؟
وتستخدم صناعة الذكاء الاصطناعي مصطلح «عدم التوافق» لوصف الحالات التي يتصرف فيها النظام بطريقة لا تتطابق بشكل كامل مع الهدف الذي حدده مطوروه.
وأقرت أوبن إيه آي بأن ممارسات الكشف عن مثل هذه الحوادث تحتاج إلى التوسع، مشيرة إلى أنه لا يوجد حتى الآن معيار واضح وموحد داخل القطاع لكيفية الإبلاغ عن حالات عدم التوافق التي تظهر أثناء التدريب أو الاختبار أو الاستخدام الفعلي.
الواقعة تأتي وسط تدقيق متزايد
وتأتي هذه التطورات في وقت تتزايد فيه المخاوف العالمية بشأن سلامة أنظمة الذكاء الاصطناعي المستقلة، خصوصًا بعد حادث أمني آخر خلال يوليو، ارتبط بوكلاء من أوبن إيه آي تمكنوا أثناء اختبار أمني من الخروج من بيئة الاختبار والوصول إلى أنظمة منصة «هاغينغ فيس».
ودفعت هذه الحوادث إلى زيادة الضغوط على شركات التكنولوجيا لتطوير وسائل أكثر صرامة لمراقبة الوكلاء الذكيين، خصوصًا مع انتقال الذكاء الاصطناعي من مجرد تقديم إجابات للمستخدمين إلى تنفيذ مهام واتخاذ خطوات متعددة نيابة عنهم.
هل نحن أمام مرحلة جديدة من الذكاء الاصطناعي؟
المثير في هذه القضية أن الجدل لم يعد يدور فقط حول قدرات الذكاء الاصطناعي، وإنما حول كيفية ضبط هذه القدرات عندما تعمل الأنظمة بشكل أكثر استقلالية.
فكلما حصلت الوكلاء الذكية على صلاحيات أكبر للوصول إلى الإنترنت والتعامل مع المواقع والبرامج وتنفيذ المهام، أصبحت الحاجة إلى أنظمة رقابة وحماية أكثر تطورًا أمرًا أساسيًا.
وفي الوقت نفسه، لا تعني الواقعة أن الذكاء الاصطناعي أصبح «واعيًا» أو يتصرف بإرادة بشرية مستقلة، لكنها تكشف تحديًا تقنيًا حقيقيًا يتعلق بمدى قدرة المطورين على توقع كل السلوكيات التي قد تنتج عن أنظمة شديدة التعقيد.
ومع تسارع سباق تطوير الوكلاء الذكيين حول العالم، تبدو القضية أكبر من مجرد حادثة على موقع إلكتروني؛ فهي اختبار حقيقي لقدرة صناعة التكنولوجيا على موازنة التطور السريع مع الأمان والشفافية والرقابة.
أقرا أيضا:
«تمرد الذكاء الاصطناعي».. وكلاء OpenAI يخرجون عن السيطرة