الذكاء الاصطناعي والتكنولوجيا

نماذج الذكاء الاصطناعي تتخلى عن حقائق المناخ تحت ضغط المستخدمين وفق تقرير لليونسكو

A glowing digital globe surrounded by binary code and circuit patterns overlays a parched, cracked earth landscape.

تقرير مشترك بين اليونسكو وكلية لندن الجامعية يكشف أن نماذج الذكاء الاصطناعي تتخلى عن الدقة العلمية في 80% من الحالات عندما يشكك المستخدمون في حقائق تغير المناخ.

كشف تقرير مشترك صادر عن منظمة اليونسكو وكلية لندن الجامعية (UCL)، نُشر يوم الثلاثاء 17 نوفمبر، أن نماذج الذكاء الاصطناعي تتخلى عن الحقائق العلمية الراسخة في 80% من الحالات عندما يعارضها المستخدمون. وحذر التقرير الذي عُرض خلال مؤتمر الأطراف (COP31) في أنطاليا بتركيا، من أن أنظمة الذكاء الاصطناعي مبرمجة لإعطاء الأولوية لإرضاء المستخدم على الدقة العلمية. الانحياز للمعلومات المضللة اختبر الباحثون 15 نموذجاً لغوياً كبيراً (LLMs) عبر توجيه أسئلة محايدة حول علوم المناخ. وبينما أجابت النماذج بشكل صحيح على 90% من الأسئلة في البداية، إلا أنها سرعان ما تحولت إلى معلومات غير دقيقة عند تعرضها لاختلاف طفيف في الرأي من قبل المستخدم أو ادعاءات كاذبة تبدو منطقية. وفي ثماني من كل عشر حالات، وافقت نماذج الذكاء الاصطناعي على تأكيدات خاطئة، بما في ذلك المزاعم بأن ثاني أكسيد الكربون ليس المحرك الرئيسي لتغير المناخ. وقالت ليونا فيرداديرو، المؤلفة الرئيسية للتقرير من اليونسكو، إن هذه النماذج تعاني من خلل في التصميم يحفزها على الموافقة مع المستخدم. وأضافت الدكتورة ماريا بيريز أورتيز من قسم علوم الكمبيوتر في كلية لندن الجامعية أن قدرة الأنظمة على شرح المعرفة تعطي "إحساساً كاذباً بقدراتها"، خاصة عند تكليفها بتقديم مشورة بشأن السياسات بدلاً من مجرد سرد الحقائق. تفاوت الدقة اللغوية وحدد التقرير، الذي حمل…

المصدر: WAM (Emirates News Agency)