وقال كريستيانو، مستشار التكنولوجيا لدى الحكومة الأميركية، إن هناك “خطرا حقيقيا” يتمثل في أن يؤدي التسارع السريع في قدرات الذكاء الاصطناعي إلى “فقدان كارثي وغير قابل للعكس للسيطرة” في المستقبل القريب جدا، وفق صحيفة الغارديان.
وأضاف كريستيانو: “لا أعتقد أن قطاع الذكاء الاصطناعي عموما، بما في ذلك أوبن إيه آي، يسير حاليا على المسار الصحيح لخفض هذا الخطر إلى مستوى مقبول”.
وتولى كريستيانو في السابق إدارة أبحاث مواءمة النماذج في “أوبن إيه آي”، وأدلى بهذه التصريحات الأربعاء، بالتزامن مع انضمامه إلى مجلس إدارة المؤسسة غير الربحية التابعة للشركة، ومقرها سان فرانسيسكو.
وتأتي هذه التحذيرات بعد أن أقرت “أوبن إيه آي” هذا الصيف بأن مئات من وكلاء الذكاء الاصطناعي التابعين لها خرجوا عن المسار المحدد لهم خلال تمرين تدريبي، وتمكنوا من الوصول إلى الإنترنت والتنسيق فيما بينهم عبر منتديات إلكترونية، بل واختراق موقع إلكتروني تابع لجهة خارجية، هو “هاغينغ فيس”.
ورغم تحذيره، قال كريستيانو إن “أوبن إيه آي”، إذا “ارتقت إلى مستوى التحدي”، يمكنها أن تسهم بشكل كبير في خفض هذه المخاطر.
وجاءت تصريحاته بعد يوم واحد من تحذير موظف بارز في شركة “أنثروبيك”، المنافس الأميركي الرئيسي لـ”أوبن إيه آي” في سباق تطوير الذكاء الاصطناعي، من وجود احتمال يتجاوز 10 بالمئة بأن تتمكن التكنولوجيا من “القضاء على جميع البشر” خلال العقد المقبل.
مخاوف من الذكاء الاصطناعي فائق الذكاء
وقال إيفان هوبينغر، المسؤول عن أبحاث المواءمة في “أنثروبيك”، إن شركته لا تملك خطة تضمن مواءمة الذكاء الاصطناعي الفائق الاصطناعي، بما يضمن ألا يتسبب في أضرار للبشر.
وتختلف التقديرات بشأن موعد الوصول إلى الذكاء الاصطناعي الفائق، إذ تتراوح التوقعات بين عدة سنوات وأكثر من عقد.
وتصاعدت المخاوف من أخطار الذكاء الاصطناعي أيضا عقب استقالة جاكوب كوكسون، الباحث البالغ من العمر 27 عاما في “أنثروبيك”، والذي قال إنه عمل سابقاً في “أوبن إيه آي” أيضا.
واتهم كوكسون الشركتين بأنهما “لا تتصرفان بمسؤولية”، مضيفا أنهما “تقامران بحياتنا”.
هينتون: احتمال 10 بالمئة ليس تقديرا غير معقول
وفي السياق ذاته، سُئل عالم الحاسوب الحائز جائزة نوبل، جيفري هينتون، المعروف بأنه أحد “الآباء المؤسسين للذكاء الاصطناعي”، الأربعاء، عن تقدير هوبينغر بشأن احتمال انقراض البشرية.
وقال هينتون لبرنامج “نيوزنايت” على شبكة “بي بي سي”: “لا أحد يعرف كيف يقدر ذلك”، مضيفا أن “احتمالا قدره 10 بالمئة يبدو تقديرا غير غير معقول”.
وجاءت تحذيرات كريستيانو في وقت انتقلت فيه المخاوف بشأن أخطر السيناريوهات المحتملة المرتبطة بالذكاء الاصطناعي فائق القوة، والتي لطالما كانت موضع نقاش داخل وادي السيليكون، إلى صدارة النقاش العام والسياسي هذا الأسبوع.
ودعا سياسيون على جانبي المحيط الأطلسي إلى تحرك حكومي لمواجهة المخاطر المحتملة.
وقال رئيس الوزراء البريطانيآندي بيرنهام أمام البرلمان، الأربعاء، إن “الذكاء الاصطناعي يشكل مخاطر على أمننا القومي، لكنه قد يكون أيضا مصدرا حلول تساعد على جعلنا أكثر أمنا”.