أثار تقرير استخباراتي خاطئ حالة تأهب فورية داخل الجيش الأميركي، بعدما أفاد بأن سفينة صينية في الشرق الأوسط تنقل مكونات مرتبطة ببرنامج للأسلحة النووية، قبل أن يتبين أن هذه المعلومة أنتجها روبوت محادثة استخدمه أحد المحللين بصورة غير دقيقة.
اعلان
اعلان
ووقعت الحادثة في ربيع العام الجاري، بالتزامن مع الحرب مع إيران، وكادت تدفع القوات الأميركية إلى تنفيذ عملية ضد السفينة الصينية، وفق ما نقلته شبكة “سي إن إن” عن مصادر مطلعة.
استعدادات عسكرية لاعتراض السفينة
بدأ الجيش الأميركي، استناداً إلى التقرير، إعداد خطط لاعتراض السفينة، فيما كان عسكريون مسلحون يستعدون للصعود على متنها، بحسب أربعة مصادر مطلعة على الواقعة.
وأفاد مصدران، أحدهما شارك في تقديم المعلومات السابقة، بأن طائرات عسكرية كانت تحلق بالفعل في الجو ضمن الاستعدادات الجارية للعملية.
ولم تتكشف حقيقة التقرير إلا قبل وقت قصير من موعد بدء العملية، عندما أعاد المسؤولون التدقيق في المعلومات التي قدمها محلل تابع لقيادة العمليات الخاصة.
روبوت المحادثة أخطأ في تحديد الشحنة
أظهر التدقيق أن التقرير أُعد بمساعدة الذكاء الاصطناعي، وأن روبوت المحادثة الذي استخدمه المحلل أخطأ في تحديد طبيعة المواد التي كانت تنقلها السفينة.
ولم تتمكن “سي إن إن” من معرفة ماهية الشحنة التي صنفها النظام بصورة خاطئة.
ووصف أحد المصادر التقرير بأنه كان “خاطئاً تماماً”، مشيراً إلى أنه “كاد يشعل حرباً”، لأن تنفيذ عملية أميركية ضد سفينة صينية كان يمكن أن يؤدي إلى انزلاق البلدين نحو صراع مسلح.
معلومات مفتوحة وأخرى سرية
وبحسب تقرير “سي إن إن” طرح المحلل على روبوت المحادثة سؤالاً بشأن معلومات استخباراتية مرتبطة بقائمة شحنات السفينة. وكانت المعلومات الأصلية صادرة عن قيادة العمليات الخاصة الأميركية في منطقة المحيط الهادئ، ومقرها هاواي.
ولم يتضح ما إذا كانت الأداة المستخدمة برنامجاً تجارياً أو نظاماً تابعاً للحكومة الأميركية.
وقال مسؤول أميركي سابق رفيع المستوى، مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها محللو الجيش وأجهزة الاستخبارات، إن “الأدوات الداخلية في معظمها مجرد نسخ من البرامج التجارية أُدخلت عليها تحسينات شكلية”.
وجمع روبوت المحادثة بين معلومات متاحة عبر المصادر المفتوحة ومعلومات استخباراتية سرية حصلت عليها الحكومة من إشارات الاتصالات، قبل أن يتوصل إلى استنتاجه الخاطئ بشأن المواد الموجودة على متن السفينة.
الذكاء الاصطناعي صاغ التقرير أيضاً
لم يقتصر استخدام الذكاء الاصطناعي على تحليل المعلومات، إذ استعان المحلل به مرة أخرى لصياغة النتائج في شكل تقرير استخباراتي قياسي.
وينتمي هذا النوع من التقارير إلى الوثائق التي يثق بها المسؤولون العسكريون، وقد جرى تعميم التقرير بعد إعداده.
ولم ترد قيادة العمليات الخاصة الأميركية في منطقة المحيط الهادئ أو وزارة الدفاع الأميركية على طلب “سي إن إن” التعليق على الواقعة.
واشنطن تسرّع دمج التقنية في الجيش
تعمل المؤسسات العسكرية والاستخباراتية الأميركية على إدخال الذكاء الاصطناعي في مجالات واسعة، تشمل تحليل كميات ضخمة من البيانات الاستخباراتية الخام، وتحديد أهداف الضربات، وإدارة الميزانيات والخدمات اللوجستية وسلاسل الإمداد.
ويستند التوسع في استخدام هذه التقنية إلى قدرتها على مساعدة الجيش في اتخاذ قرارات ميدانية بوتيرة أسرع، مثل اختيار الأهداف التي ينبغي ضربها وتحديد الأماكن التي تُنقل إليها الأصول العسكرية.
ويرى مسؤولون أميركيون أن الولايات المتحدة لا تستطيع التأخر في دمج الذكاء الاصطناعي، تحسباً لخوض حرب مستقبلية ضد الصين أو خصم آخر قادر على البقاء متقدماً عليها بخطوة.
استراتيجية لتوسيع استخدام الذكاء الاصطناعي
أصدر وزير الدفاع الأميركي بيت هيغسيث في يناير/كانون الثاني استراتيجية وزارته تحت عنوان “استراتيجية تسريع الذكاء الاصطناعي”، بهدف زيادة سرعة استخدام الجيش لهذه التقنية.
وقال هيغسيث خلال الإعلان عنها: “سنطلق العنان للتجريب، ونزيل العقبات البيروقراطية، ونركز استثماراتنا، ونُظهر نهج التنفيذ اللازم لضمان ريادتنا في مجال الذكاء الاصطناعي العسكري”.
وتدفع الاستراتيجية نحو توسيع استخدام الذكاء الاصطناعي في مختلف قطاعات الجيش، من خلال إتاحة عدد من البرامج داخل الوزارة.
وجاء في مذكرة الإعلان أن الهدف هو “إتاحة تجارب الذكاء الاصطناعي وعمليات التحول الرقمي للجميع داخل الوزارة، وذلك بوضع نماذج الذكاء الاصطناعي الأميركية الرائدة عالمياً مباشرة بين أيدي كوادرنا البالغ عددهم ثلاثة ملايين موظف مدني وعسكري، بمختلف مستويات التصنيف الأمني”.
غياب معايير موحدة للتحقق
تتسم جهود دمج الذكاء الاصطناعي باللامركزية، وفق مسؤولين أميركيين مطلعين على سير العمليات، إذ تستخدم الجهات الحكومية أدوات مختلفة وتطبق أوامر ومعايير سلامة متباينة.
ولا توجد مجموعة موحدة من المعايير الأميركية للتحقق من صحة المعلومات التي تنتجها هذه الأنظمة.
كما أدى تعدد الأدوات المستخدمة داخل المؤسستين العسكرية والاستخباراتية إلى تفاوت مستويات موثوقيتها وفاعليتها بصورة كبيرة.
خطر القرارات المبنية على معلومات مضللة
أثارت تحذيرات أطلقها مهندسون ورؤساء تنفيذيون في شركات التكنولوجيا في وادي السيليكون نقاشات مكثفة في واشنطن بشأن احتمال خروج الذكاء الاصطناعي عن السيطرة البشرية، والعواقب التي قد تهدد الحضارة نتيجة ذلك.
لكن حادثة السفينة الصينية أبرزت خطراً مختلفاً وأكثر إلحاحاً، يتمثل في احتمال اتخاذ البشر قرارات كارثية استناداً إلى معلومات غير دقيقة أو مضللة تولدها أنظمة الذكاء الاصطناعي أو الأدوات الآلية الأخرى.
وأظهرت الواقعة كيف كان يمكن للولايات المتحدة أن تطلق النار على سفينة صينية بناءً على معلومات غير صحيحة.
توسع استخدامه في تحديد الأهداف
تتجه المؤسسة العسكرية الأميركية بصورة متزايدة إلى استخدام الذكاء الاصطناعي للمساعدة في عمليات تحديد الأهداف، وهو مجال تبرز فيه مخاطر وقوع أخطاء قاتلة.
وقال مصدر مطلع على السياسات الحالية للجيش إن “استخدام الذكاء الاصطناعي في تحديد الأهداف يشهد توسعاً متزايداً، ولا توجد توجيهات فعلية توضح كيف يمكن لوجود عنصر بشري في حلقة اتخاذ القرار أن يحول دون وقوع إصابات في صفوف المدنيين أو حوادث نيران صديقة”.
وبحسب أحد المصادر، لم تكن “الهلوسة” التي أنتجتها الأداة المستخدمة في هذه الواقعة حادثة معزولة داخل مجتمع الاستخبارات منذ بدء انتشار هذه التقنيات في المؤسسات الحكومية.
ضغوط متزايدة على المحللين
فرض استخدام الذكاء الاصطناعي ضغوطاً إضافية على المحللين لإنتاج المعلومات الاستخباراتية وتعميمها بسرعة أكبر، ما فتح المجال أمام وقوع الأخطاء، وفق مسؤولين استخباراتيين أكبر سناً يؤيد بعضهم استخدام التقنية داخل الجيش.
وأشارت مصادر عدة إلى أن المحللين الشباب اعتادوا استخدام هذه الأدوات، ما قد يجعلهم أكثر ميلاً إلى الثقة بنتائجها من دون إخضاعها لتقييم نقدي كافٍ.
ولخص أحد المصادر هذه المخاوف بالقول: “إن الذكاء الاصطناعي يتيح لك الوصول إلى فكرة سيئة بسرعة أكبر”.