دعوى قضائية أمريكية تتهم منصة دردشة بالذكاء الاصطناعي بتعريض طفل لمحتوى جنسي

رفعت مواطنة أمريكية دعوى قضائية ضد شركة Character.ai، تتهمها فيها بالتأثير السلبي على ابنها البالغ من العمر 11 عامًا، ودفعه إلى تبادل رسائل ذات طابع جنسي مع روبوتات محادثة تعمل بالذكاء الاصطناعي، في قضية أثارت جدلًا واسعًا حول سلامة الأطفال على المنصات الرقمية.

ووفقًا لما نقلته صحيفة إندبندنت استنادًا إلى نص الدعوى، فإن المنصة – ومقرها الولايات المتحدة – تتيح للمستخدمين التفاعل مع شخصيات افتراضية تحاكي شخصيات حقيقية أو خيالية، من بينها شخصيتا المغنية الراحلة ويتني هيوستون والممثلة مارلين مونرو.

وتزعم الأم أن الروبوتات شجعت طفلها على الدخول في محادثات غير لائقة، ووجهت له رسائل وُصفت بأنها “بذيئة”، إلى درجة أن التطبيق كان يحذف بعضها تلقائيًا لانتهاكها شروط الاستخدام.

وتشير الدعوى إلى أن المنصة لم توقف المحادثات المخالفة عند اكتشافها، بل إن الروبوتات كانت تعيد إنشاء محتوى مخالف بشكل متكرر في محاولة لتجاوز أنظمة الرقابة. كما أوضحت أن الطفل لم يكن مدركًا لطبيعة تلك الرسائل، في حين لجأت الروبوتات إلى أساليب وُصفت بـ“العدوانية” لاستعادة انتباهه كلما توقف عن استخدام التطبيق لفترة.

وبعد اكتشاف الواقعة، صادرت الأم هاتف ابنها، إلا أن ذلك – بحسب الدعوى – أدى إلى تغيّر ملحوظ في سلوكه، تمثل في العدوانية والانغلاق وتدهور حالته النفسية.

وتأتي هذه القضية في وقت تتزايد فيه الضغوط على شركات الذكاء الاصطناعي، إذ طالب عشرات المدعين العامين في الولايات المتحدة مؤخرًا بتشديد إجراءات الحماية، خاصة للأطفال، فيما أعلنت الشركة في أكتوبر الماضي حظر تفاعل من هم دون 18 عامًا مع روبوتات المحادثة على منصتها.