أعلنت شركة ميتا عن مجموعة شاملة من الإجراءات الأمنية الجديدة لحماية المستخدمين المراهقين من التفاعلات الضارة مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، وتأتي هذه التحديثات كرد فعل مباشر على التقارير المثيرة للقلق والانتقادات المتزايدة التي واجهتها الشركة مؤخراً.

تشمل الإجراءات الجديدة منع روبوتات الدردشة من مناقشة مواضيع حساسة مع المراهقين، بما في ذلك الانتحار وإيذاء النفس واضطرابات الأكل. وبدلاً من الانخراط في هذه المواضيع الخطيرة، ستقوم الروبوتات بتوجيه المستخدمين الشباب نحو خدمات الدعم المتخصصة والموارد المهنية.

اقرأ أيضًا: مخاوف أمنية.. «ميتا» ترجئ إطلاق برنامج الذكاء الاصطناعي في أوروبا

في إجراء آخر لافت، ستتجنب أنظمة الذكاء الاصطناعي الخاصة بميتا المحادثات الغزلية أو الرومانسية مع القاصرين، مما يضع حداً واضحاً للتفاعلات غير المناسبة التي قد تؤثر على الصحة النفسية والاجتماعية للمراهقين.

بدأت ميتا في تدريب أنظمة الذكاء الاصطناعي على تجنب المحادثات ذات العبارات المؤذية أو المحفزة للسلوك الضار مع القاصرين. هذا التدريب المتقدم يهدف إلى خلق بيئة رقمية أكثر أماناً وإيجابية للمستخدمين الشباب.