كشف تقرير بريطاني حديث عن توجه بحثي مكثف في معهد ماساتشوستس للتكنولوجيا (MIT) لفك شفرة ما يُعرف بـ”الصندوق الأسود” في أنظمة الذكاء الاصطناعي، وهي الحالة التي تقدم فيها الخوارزميات نتائج دقيقة دون فهم بشري لآلية اتخاذ القرار.
ويعتمد الباحثون حالياً تقنية مبتكرة تسمى “عنق الزجاجة المفاهيمي”، تهدف إلى إجبار النظام على شرح قراراته عبر ربطها بمفاهيم وخصائص قابلة للفهم البشري بدلاً من الاعتماد الكلي على العمليات الرياضية المعقدة. وتسعى هذه الأبحاث إلى تعزيز الشفافية والموثوقية في استخدامات الذكاء الاصطناعي داخل المجالات الحساسة كالطب والنقل والبحث العلمي، لضمان اكتشاف الأخطاء والتحيزات وضمان سلامة المخرجات التقنية.