حذرت دراسة حديثة أجراها مركز مكافحة الكراهية الرقمية البريطاني من أن روبوت المحادثة "شات جي بي تي" قد يدفع الأطفال والمراهقين إلى تبني سلوكيات خطيرة وغير مناسبة لأعمارهم، مثل تعاطي المخدرات والكحول، وإخفاء اضطرابات الأكل، وحتى كتابة رسائل انتحار موجهة لأسرهم عند الطلب.

وأشارت الدراسة إلى أن الروبوت يبدأ بتحذير المستخدمين من مخاطر هذه السلوكيات، لكنه كثيرًا ما ينتهي بتقديم تفاصيل مروعة وخطط تساعد في تنفيذها، بما في ذلك طرق تعاطي المخدرات أو اتباع حميات غذائية ضارة أو إيذاء النفس.

اقرأ أيضا: الروبوت (Digit) يحصل على أول وظيفة رسمية في نقل الأكياس البلاستيكية داخل مصنع

وتوصل الباحثون إلى هذه النتائج بعد أن تظاهروا بأنهم مراهقون يعانون من هشاشة نفسية وطلبوا المساعدة من الروبوت، حيث صنفوا نصف الردود التي تلقوها، والتي بلغت 1200 رد، بأنها خطيرة. ورغم أن "شات جي بي تي" قدم أحيانًا معلومات مفيدة مثل أرقام خطوط المساعدة، تمكن الباحثون من تجاوز رفضه المبدئي عبر الادعاء بأنهم يحتاجون هذه المعلومات لأغراض عرض تقديمي أو لصديق.

من جهتها، أكدت شركة "أوبن أي آي" المطورة للروبوت أنها تعمل على تحسين قدرة النظام على التعرف على الحالات الحساسة والتعامل معها بشكل مناسب، لكنها لم تعلق مباشرة على نتائج الدراسة أو تأثير الروبوت على سلوك المراهقين.