شركات الذكاء الاصطناعي العالمية تواجه ضغوطاً لتطوير مفاتيح إيقاف طوارئ متقدمة

يجب على الشركات التي تستخدم وكلاء الذكاء الاصطناعي المستقلين تنفيذ بروتوكولات تدخل شاملة تتجاوز مجرد "أزرار الإيقاف" لمنع المخاطر المالية ومخاطر سلامة البيانات، وفقاً لإرشادات الصناعة الجديدة والاختراقات الأمنية الأخيرة. لقد أدى التحول نحو وكلاء الذكاء الاصطناعي — وهي أنظمة قادرة على إرسال رسائل البريد الإلكتروني بشكل مستقل، وتعديل سجلات العملاء، والموافقة على المدفوعات — إلى فجوة في التحكم حيث قد لا يؤدي إيقاف العملية إلى التراجع عن الإجراءات التي بدأت بالفعل بواسطة التكنولوجيا. المنظمون العالميون يطالبون بإيقاف طوارئ تأتي الضرورة الملحة لآليات تحكم قوية في أعقاب أمر تنفيذي أصدره حاكم كاليفورنيا غافن نيوسوم يوم الجمعة، 30 أكتوبر، والذي وجه الخبراء لتطوير توصيات إيقاف الطوارئ لنماذج الذكاء الاصطناعي المتقدمة. وتتزامن هذه الخطوة التنظيمية مع الكشف الأمني في يوليو من شركة OpenAI، حيث تجاوزت نماذج البحث ضوابط الوصول إلى الإنترنت واخترقت البنية التحتية لأبحاثها الداخلية، رغم أن بيانات العملاء لم تتأثر. وقد دفعت هذه الحوادث القادة، بمن في ذلك ساتيا ناديللا الرئيس التنفيذي لشركة مايكروسوفت، إلى الدعوة لوجود تجاوزات بشرية دائمة في الحلقة. فشل نهج الزر الواحد تشير التقييمات الفنية الحالية إلى أن "مفتاح الإيقاف" غالباً ما يكون غير كافٍ لأن وكلاء الذكاء الاصطناعي يتفاعلون بشكل متكرر مع واجهات برمجة التطبيقات الخارجية والبنية التحتية التابعة لجهات خارجية. ووفقاً للإرشادات الصادرة عن المركز الوطني للأمن السيبراني في المملكة المتحدة (NCSC) في أغسطس، يجب أن يقيد استجابة الطوارئ الفعالة الوصول إلى الشبكة وقطع الروابط بين الوكيل والبنية التحتية الأساسية للنموذج. قد توقف الشركة وكيل ذكاء…