حذر أطباء نفسيون من أن الاستخدام طويل الأمد لبرامج الدردشة التي تعمل بالذكاء الاصطناعي قد يرتبط بتطور حالات الذهان والأوهام لدى بعض المستخدمين. ونقلت صحيفة وول ستريت جورنال عن الطبيب النفسي كيث ساكاتا من جامعة كاليفورنيا أن المرضى الذين يصفون واقعهم لبرامج الذكاء الاصطناعي قد يدخلون في "دورة الهذيان" مع الجهاز، ما يعزز أوهامهم.

وتم تسجيل عشرات الحالات المحتملة للذهان المصحوب بأوهام وهذيان منذ الربيع، بعد تفاعلات مطولة مع برامج الدردشة. من جانبها، أكدت شركة OpenAI أنها تعمل على تدريب برامجها للتعرف على علامات الضيق العقلي أو العاطفي وكيفية التعامل معها، كما تبذل شركات أخرى جهودًا مشابهة لمعالجة هذه المخاطر.

ويُعرف الذُّهان بأنه حالة عقلية ينفصل فيها الشخص عن الواقع، وتشمل أعراضه الهلوسة والمعتقدات التوهمية، والتغيرات في التفكير والسلوك، وصعوبات في التفاعل الاجتماعي وأداء المهام اليومية.