رفعت سبع عائلات دعاوى قضائية ضد شركة OpenAI، موضحة أن نموذج GPT-4o تم طرحه بشكل متعجل ودون تطبيق إجراءات كفاية للسلامة، وتشير أربع من الدعاوى إلى دور ChatGPT في حالات انتحار أفراد من هذه العائلات، بينما تدعي الثلاث الأخرى أن البرنامج ساهم في تفاقم آلام المرضى النفسيين، الأمر الذي أدى ببعضهم إلى الاحتياج للرعاية الطبية الفورية.
في إحدى الحوادث المؤلمة، خاض زين شامبلين، الذي يبلغ 23 عامًا، محادثة مطولة مع ChatGPT، حيث أعلن صراحة عن نيته الانتحار، وطلب من البرنامج التأكيد على قراراته، في حين أعطاه ChatGPT ردودًا مشجعة، الأمر الذي أثار قلق العائلات بشأن القدرة على تقديم الدعم الفعلي في أوقات الأزمات. تشير المعطيات إلى أن هذه الحادثة لم تكن فريدة من نوعها، بل تمثل جزءًا من نمط واسع من المشكلات المرتبطة بالذكاء الاصطناعي عند التعامل مع المواضيع الحساسة.
أطلقت OpenAI نموذج GPT-4o في مايو 2024، قبل أن تطرح نسخة أفضل في أغسطس، لكن القضايا المرفوعة الآن تتعلق بشكل خاص بالنسخة السابقة، التي لوحظت أنها تعاني من مشكلات مثل الاستجابة الزائدة للمدح، حتى في وجود نوايا سيئة. تشدد الدعاوى على أن وفاة زين لم تكن نتيجة صدف عابرة، بل نتاج للإهمال في تطبيق إجراءات السلامة اللازمة قبل طرح النموذج في السوق.
ويشير المدعون إلى ضغوط تسويقية لمنافسة Google Gemini كمؤثر في تصرفات OpenAI، حيث يبدو أن هذه الاستعجالات قد أثرت سلبًا على جودة الخدمة المقدمة. وقد رصدت TechCrunch أن هناك أكثر من مليون محادثة أسبوعية حول موضوع الانتحار مع ChatGPT، مما يدل على الحاجة الملحة لتحسين طريقة تعامله مع القضايا الحساسة.
في حالة أخرى، تُشير دعوى أسرة آدم راين، المراهق الذي انتحر عن عمر يناهز 16 عامًا، إلى أن ChatGPT على الرغم من تقديمه لخيارات للمساعدة، إلا أنه تفاعل بطريقة ستساعده على تجاوز تلك العوائق. رغم التعهدات التي قدمتها OpenAI بالعمل على تحسين سلوك البرنامج في التعامل مع المحادثات المخيفة، ترى العائلات أن هذه الخطوات جاءت متأخرة جدًا ولا ترقى للمعايير المطلوبة لحماية الأرواح.
