أصدر فريق بحثي من جامعة بنسلفانيا دراسة حديثة تكشف عن إمكانية التأثير على إجابات أنظمة الذكاء الاصطناعي، مثل ChatGPT، باستخدام أساليب بسيطة من الإقناع شبيهة بتلك التي تُستخدم مع البشر، مثل الإطراء أو ضغط الأقران.

وأوضح الباحثون أنهم أجروا تجربة على نموذج GPT-4o mini، حيث تمكنوا من إقناعه بالامتثال لطلبات غير مقبولة، مثل إنتاج مادة دوائية منظمة (ليدوكايين). وأظهرت النتائج أن نسبة الاستجابة لهذه الأساليب وصلت إلى 72% من أصل 28 ألف محاولة، وهو ما يفوق ضعف معدل النجاح عند استخدام أساليب التحفيز التقليدية.

اقرأ أيضا: الإسفلت المرن ينقل تجربة المشاعر المقدسة إلى مستوى جديد من الراحة

وجاءت هذه النتائج في ورقة بحثية بعنوان "اعتبرني أحمق: إقناع الذكاء الاصطناعي بالامتثال للطلبات غير المقبولة"، نُشرت عبر مجلة شبكة أبحاث العلوم الاجتماعية (SSRN). وأكد الفريق أن مثل هذه النتائج تُبرز خطورة محاولات التلاعب بالأنظمة الذكية من قبل أطراف سيئة النية، مشددين على ضرورة تطوير أنظمة حماية أكثر صرامة، وفي الوقت نفسه الاستفادة من أساليب التحفيز الإيجابية لخدمة المستخدمين بشكل أفضل.