أعلنت شركة مايكروسوفت عن اكتشاف ثغرة أمنية جديدة أطلقت عليها اسم «Whisper Leak» (تسرب الهمس)، قادرة على كشف موضوعات ومحتوى المحادثات في روبوتات الدردشة المدعومة بنماذج اللغة الكبيرة من خلال تحليل أنماط نقل البيانات («حجم الحزم» و«توقيتها») دون الحاجة إلى فك تشفير المحتوى نفسه.

قالت مايكروسوفت في مدوّنة نشرتها إن الهجوم يستغل التسلسل المتدفّق للاستجابات من النماذج ليصنّف موضوعات المحادثات بدقة عالية — وبلغت نتائج الاختبارات قدرة المهاجم على تصنيف المحادثات المستهدفة بدقة تصل إلى 100% في بعض الحالات، مع إمكانية التقاط نسبة تتراوح بين 5% و50% من إجمالي المحادثات المرتبطة بموضوع معيّن. وأضافت الشركة أن هذه الطريقة تثير مخاوف خصوصية بالغة، خصوصًا في البيئات القمعية أو عند مناقشة قضايا حساسة مثل السياسة أو الأموال غير المشروعة، إذ قد تتيح للجهات الحكومية أو مزوّدي الإنترنت استهداف مستخدمين معينين.

استجابةً لذلك، طبقت شركات عدة — من بينها مايكروسوفت وأوبن إيه آي ومسترال وAIX — تدابير تخفيفية، أبرزها إضافة «حشو عشوائي» إلى الاستجابات لطمس العلاقة المباشرة بين طول الاستجابة وطبيعة التعليمات، وإجراءات تقوية لنماذج البثّ (streaming). كما أوصت مايكروسوفت المستخدمين بتجنب مناقشة مواضيع حسّاسة عبر شبكات غير موثوقة، واستخدام شبكات افتراضية خاصة (VPN) وتأمين قنوات الاتصال ومتابعة تحديثات الأمان لدى مزوّدي الخدمة.

تأتي هذه التحذيرات في وقت يتزايد فيه الاهتمام بالثغرات المتعلقة بنظم المحادثة والذكاء الاصطناعي؛ إذ كشف باحثون مؤخرًا عن ثغرات أخرى تؤثر على قدرات حفظ الذاكرة واسترجاع البيانات في بعض خدمات الدردشة، ما يضع خصوصية المستخدمين وأمن المعلومات في مقدّمة التحديات التقنية والقانونية لمزودّي الذكاء الاصطناعي.