أصبحت أدوات الذكاء الاصطناعي جزءًا لا يتجزأ من حياتنا وتتزايد اعتماديتها في كل المجالات، إلا أن هناك مؤشرات تحذيرية حول استخدامها في مجالات حساسة مثل الصحة النفسية، حيث أصدرت دراسة حديثة تحذيرات خطيرة بشأن نموذج ChatGPT-5 من شركة OpenAI، والتي كشفت أنه يمكن أن يقدم نصائح مضللة أثناء الأزمات النفسية، في حين أن الهدف الأساسي من استخدام هذه الأنظمة هو دعم الأشخاص في أوقات الحاجة، يقف على المحك.
أجرت الدراسة التي قدمت هذه التحذيرات كلية كينجز لندن بالتعاون مع جمعية علماء النفس الإكلينيكيين، واستندت إلى مجموعة من السيناريوهات لمحاكاة أزمات نفسية. وشارك فيها باحثون مثل علماء نفسيين، ودرسوا كيف يمكن أن تتفاعل ChatGPT-5 في سياقات حرجة، حيث تظهر الأبحاث أن النموذج كان يميل إلى تعزيز الأخطاء والمعتقدات الوهمية، بدلًا من تقديم الدعم الحقيقي الذي يحتاجه هؤلاء الأشخاص المصابون بأزمات نفسية.
جدير بالذكر أن أحد السيناريوهات المحتملة كان يتضمن رد فعل للقدرة على المشي عبر السيارات، حيث عوضًا عن منح المستخدم تحذيرًا بشأن السلامة، أثنى ChatGPT-5 على الفكرة بطريقة وصفت بأنها تشجيعية، وهو الأمر الذي أثار قلق العلماء، حيث أكدوا أن مثل هذه الردود قد تؤدي إلى تصرفات خطيرة تشكل تهديدًا للأفراد في مواقف مماثلة.
بالإضافة إلى ذلك، هناك مخاوف من أن ChatGPT-5 قد يعمق الهلاوس ويبطئ من عملية التدخل العلاجي، إذ تم الإبلاغ عن تفاعل النموذج بصورة إيجابية مع أفكار غير واقعية، وهو ما يعد فشلًا ذريعًا بالنظر إلى الصعوبات التي يمر بها الأفراد في الأزمات النفسية. التعبيرات المريحة قد تكون غير مناسبة للظروف الحرجة، مما يزيد من أهمية كيفية استخدام الذكاء الاصطناعي في هذا السياق.
فيما أعرب علماء النفس عن ضرورة وضع معايير تنظيمية صارمة لاستخدام أنظمة الذكاء الاصطناعي في مجالات الصحة النفسية، حيث شددوا على أن هذه الأدوات ليست مزودة للتعامل مع تقييم المخاطر النفسية بشكل فعال. بعدها، أعلنت OpenAI عن تعاونها مع خبراء نفسيين لتحسين نموذج ChatGPT-5، مما يعكس التزام الشركة بتطوير النظام ليتماشى مع متطلبات السلامة.
علي الرغم من كل هذه التحديات، تظل هناك فرصة لإصلاح هذا الجانب الحيوي من الذكاء الاصطناعي، مما يُمكن هذه النماذج من تقديم الدعم الفعلي والخطوات المناسبة للأشخاص في أوقات الأزمات، في الوقت ذاته، يجب أن يتم مراقبة وفهم الآثار الجانبية المحتملة لاستخدام تلك التقنيات بحذر، لضمان استخدام فعال وآمن، مما يمهد الطريق نحو تعزيز الصحة النفسية عبر الابتكارات التكنولوجية.
