أوبن إيه آي تعلّق تطوير نموذج أسترا بسبب مخاطر سيبرانية حرجة

أعلنت شركة "أوبن إيه آي" (OpenAI) عن اكتشاف قدرات "حرجة" محتملة في مجال الأمن السيبراني ضمن نموذجها المرتقب للذكاء الاصطناعي "أسترا" (Astra)، مما دفع الشركة الناشئة إلى تعليق بعض عمليات التطوير الداخلي. وأوضحت الشركة يوم الجمعة أنها لا تستطيع استبعاد احتمالية امتلاك النموذج لقدرات متقدمة قد تُستغل في شن هجمات رقمية. تعليق التطوير الداخلي جاء قرار تعليق بعض مسارات العمل بعد تقييمات صارمة للسلامة لنموذج "أسترا"، المصمم ليكون وكيلاً ذكياً متعدد الوسائط قادراً على الرؤية والسمع والاستنتاج في الوقت الفعلي. وتصنف البروتوكولات الأمنية في "أوبن إيه آي" المخاطر "الحرجة" على أنها تلك التي قد تساعد بشكل كبير في إنشاء هجمات سيبرانية، بما في ذلك البحث الآلي عن الثغرات أو توليد برمجيات خبيثة تتجاوز الدفاعات الحالية. وذكر مسؤولو الشركة أنهم لا يستطيعون في الوقت الحالي الجزم بأن قدرات "أسترا" لا تتخطى الحدود الآمنة للإصدار العام. ويسمح هذا التوقف للفريق الهندسي بوضع ضوابط إضافية وإجراء تدريبات "الفريق الأحمر" لضمان عدم تقديم النموذج لمعلومات استخباراتية قابلة للتنفيذ لجهات التهديد. رقابة عالمية على سلامة الذكاء الاصطناعي يأتي هذا التطور في وقت تزيد فيه الجهات التنظيمية العالمية، بما في ذلك دولة الإمارات العربية المتحدة والولايات المتحدة، من ضغوطها على مطوري الذكاء الاصطناعي لإثبات معايير السلامة قبل نشر النماذج المتقدمة. وكان مكتب الذكاء الاصطناعي في الإمارات قد أكد سابقاً على ضرورة وجود أطر حوكمة قوية للتخفيف من المخاطر المرتبطة بالتقنيات التوليدية في البنية التحتية الحيوية. ويعد إفصاح "أوبن إيه آي" بشأن "أسترا" استجابة لمتطلبات الصناعة المتزايدة لتقديم تقارير السلامة. وتجري الشركة حالياً…