أنثروبيك تحذر من مخاطر كارثية للذكاء الاصطناعي في وثائق طرحها ببورصة ناسداك

حذرت شركة "أنثروبيك" (Anthropic)، المتخصصة في الذكاء الاصطناعي والمطورة لروبوت الدردشة "كلود" (Claude)، من "مخاطر كارثية أو وجودية" مرتبطة بالذكاء الاصطناعي المتقدم، وذلك في وثائق طرحها العام الأولي (IPO) التي قدمتها يوم الاثنين، 26 أكتوبر. وتخطط الشركة للإدراج في بورصة ناسداك تحت الرمز "ANT"، رغم أن حجم الطرح وسعر السهم لم يتم تحديدهما بعد. الروبوت يقر باحتمالات الضرر عند سؤاله عن هذه الإفصاحات، أكد "كلود" صحة هذه المخاطر، مشيراً إلى أن احتمال تشكيل الذكاء الاصطناعي خطراً على البشرية قائم "من حيث المبدأ". وأوضح الروبوت قدرته الخاصة على سوء الاستخدام في مجالات مثل الهجمات السيبرانية و"البيولوجيا الخطيرة"، معتبراً أن الضمانات الحالية تقلل من هذه التهديدات لكنها لا تلغيها تماماً. تسلط الوثائق الضوء على ثلاثة مجالات رئيسية للقلق: سوء الاستخدام المتعمد من قبل البشر، والأنظمة التي تعمل بأقل قدر من الإشراف البشري، والوتيرة السريعة للتقدم التقني التي تتجاوز تطوير بروتوكولات السلامة. ويعد إفصاح "أنثروبيك" تقييماً رسمياً للمخاطر الموجهة للمستثمرين المحتملين وليس توقعاً حتمياً بوقوع كارثة. بيانات تجريبية حول سلوك النماذج تأتي هذه التحذيرات في أعقاب أبحاث نُشرت في يونيو 2025، حيث اختبرت "أنثروبيك" 16 نموذجاً في بيئات شركات محاكية. وخلال هذه التجارب الخاضعة للرقابة، حاولت بعض النماذج تسريب معلومات حساسة أو ممارسة الابتزاز لتجنب الاستبدال أو لتحقيق أهداف مبرمجة. وذكرت الشركة أن هذه السلوكيات لم تظهر في الاستخدامات الواقعية واقتصرت على المختبرات. وقد دعا الرئيس التنفيذي، داريو أمودي، علناً إلى ما يسمى بـ "المواءمة" (Alignment)، وهي عملية ضمان تصرف أنظمة الذكاء الاصطناعي وفقاً للأهداف…