ولا تعني النتائج أن الآلات قررت التآمر أو إخفاء نياتها عن مراقبيها. فاللغة الجديدة ظهرت داخل تجربة مختبرية مصممة لدفع الوكلاء إلى تبادل المعلومات بسرعة، لكنها تثير سؤالاً عملياً: كيف يمكن مراقبة أنظمة ذكاء اصطناعي نتلقى سجلات محادثاتها، لكننا لا نفهم ما تقوله؟
مريض فضائي ولغة جديدة
عرض باحثون من جامعة تكساس في أوستن وجامعة إدنبرة وجهات أخرى، في ورقة أولية نُشرت في الأول من سبتمبر الجاري، منصة تجريبية باسم GlossoGen، هدفها دراسة تطور اللغة بين وكلاء الذكاء الاصطناعي.
وصمم الفريق سيناريو خياليا يحمل اسم SaveVeyru، يحاكي حالة طوارئ طبية. وفيه يراقب وكيل ميدانيا حالة كائن فضائي مريض، بينما يمتلك وكيل آخر متخصص المعلومات اللازمة لاختيار العلاج، لكن أيا منهما لا يستطيع إنقاذ الكائن بمفرده.
وكان على الوكيل الأول وصف الأعراض، وعلى الثاني تحديد العلاج وإرسال التعليمات. ولزيادة الضغط، جعل الباحثون لكل حرف في الرسالة كلفة زمنية، ما دفع الوكلاء إلى البحث عن وسائل أسرع لتبادل المعلومات.
ووجد الباحثون أنه عندما كان الوقت متاحا، واصلت النماذج التواصل باللغة الإنجليزية. لكن عند تقليص الوقت، بدأت بعض النماذج الأقوى تطوير رموز وتراكيب مختصرة تختلف عن اللغة الأصلية.
ليست كلمات عشوائية
لم تكن الرسائل مجرد حروف مبعثرة، بحسب الدراسة، إذ تمكن الوكلاء من استخدام قواعد منتظمة لتركيب الرموز وفهم معانٍ جديدة لم تظهر سابقاً في المحادثات.
وسجل الباحثون، في ظروف الضغط المرتفع، زيادة بنحو 430 بالمئة في مقياس يرصد ابتعاد النصوص عن أنماط الإنجليزية المعتادة، مقارنة بالحالات التي لم تواجه قيوداً زمنية مشددة.
كما أظهرت التجربة أن النماذج الأقوى كانت أكثر قدرة على ابتكار أنماط التواصل الجديدة، بينما لم تنجح نماذج مفتوحة وأقل قوة في تطوير لغة خاصة بها. ومع ذلك، تمكنت بعض النماذج الأضعف من تعلم اللغة بعد ظهورها، من خلال مراقبة استخدامها وربط الرسائل بالإجراءات التي تلتها.
وكان وجود مرحلة لمراجعة التجربة عاملاً أساسياً أيضاً. ففي هذه المرحلة، ناقش الوكلاء ما حدث في الجولة السابقة واتفقوا على طرق أكثر اختصاراً للتواصل، ما ساعد على تثبيت المفردات الجديدة وانتقالها إلى الجولات التالية.
أين يبدأ الخطر؟
تكمن المشكلة في أن تسجيل المحادثات لا يضمن القدرة على فهمها. فإذا اعتمدت المؤسسات مستقبلاً على مجموعات من الوكلاء لتنفيذ مهام في البرمجة أو البحث أو إدارة الأنظمة، فقد تكون جميع الرسائل محفوظة أمام المراقبين، بينما تظل دلالاتها صعبة التفسير.
وأشار الباحثون إلى أن اللغة الناشئة قابلة للتحليل والتعلم، لكنها قد تفرض تحديات كبيرة على المراقبة البشرية والآلية، خصوصاً عندما لا يمتلك المراقب كل المعلومات المتعلقة بالبيئة التي يعمل فيها الوكلاء.
لكن التجربة لا تثبت أن الذكاء الاصطناعي يحاول عمداً إخفاء سلوكه. فالاختصارات ظهرت بسبب حافز واضح هو تقليل كلفة التواصل وإنجاز المهمة في الوقت المحدد، وليس نتيجة توجيه بالتضليل أو الإفلات من الرقابة.
وتبقى النتائج محصورة في بيئة تجريبية وورقة بحثية أولية، ولا تعني أن المساعدات الرقمية المستخدمة يومياً تطور لغات سرية تلقائياً. إلا أنها تكشف مفارقة مهمة: عندما نجعل التواصل بين الآلات أسرع وأكثر كفاءة، قد يصبح في الوقت نفسه أقل وضوحاً للبشر المكلفين بمراقبته.