خطر داخل الشركات.. مايكروسوفت تحذّر من الثقة بوكلاء الذكاء الاصطناعي

حذّرت شركة مايكروسوفت من المخاطر الأمنية المتزايدة لوكلاء الذكاء الاصطناعي داخل المؤسسات، مؤكدةً أن النماذج المتقدمة لا يمكن الوثوق بها بالكامل، حتى عندما تطوّرها شركات متخصصة. وأعلنت الشركة عن أدوات جديدة لمراقبة سلوك هذه الوكلاء، وتقييد صلاحياتهم، والحد من المخاطر التي قد تنجم عن قراراتهم. وأعلنت مايكروسوفت ميزة “Guardian Agents” المصممة لمراقبة وكلاء الذكاء الاصطناعي …