أصدرت شركة Character.AI، المالكة لتطبيق “كاراكتر إيه آي”، قرارًا مهمًا يمنع المستخدمين دون سن 18 عامًا من استخدام روبوتاتها، ويأتي هذا القرار في ظل تزايد القلق حول تأثيرات الذكاء الاصطناعي على الأطفال، وتهدف الشركة إلى حماية الأطفال من المخاطر المحتملة الناجمة عن الاستخدام غير المناسب لهذه التكنولوجيا الحديثة.
تواجه الشركة العديد من الدعاوى القضائية المتعلقة بحماية الطفل، خاصة قضية رفعتها أم تدعي أن أحد الروبوتات الخاصة بها ساهم في دفع ابنها المراهق نحو الانتحار، استجابة لذلك، أعلنت Character.AI عن تدابير جديدة لحماية القُصّر، منها فرض حد أقصى لاستعمال روبوتاتها لمدة ساعتين، اعتبارًا من 25 نوفمبر الحالي. يتضمن النظام الجديد ميزات للتحقق من العمر، لضمان عدم إمكانية القُصّر من المشاركة في محادثات مفتوحة، مما يشير إلى التزام الشركة بتحسين سلامة المستخدمين.
على الرغم من التقدم التقني، فإن أدوات التحقق من العمر تعاني من بعض عيوبها، حيث يمكن أن يجد الأطفال وسائل للتحايل عليها، مثل عدم دقة عمليات مسح الوجه، بالإضافة إلى المخاوف المتعلقة بالخصوصية عند مطالبتهم بتحميل بطاقات الهوية. من الواضح أن حماية الأطفال ليست مسألة بسيطة، بل تتطلب توازنًا دقيقًا بين الأمان والخصوصية.
أعلنت الشركة أيضًا عن خطط لتطوير ميزات جديدة مخصصة للأطفال، مثل إمكانية إنشاء مقاطع فيديو وقصص وألعاب باستخدام شخصيات الذكاء الاصطناعي، مما يعكس التوجه نحو استخدام التكنولوجيا بطرق أكثر أمانًا وإبداعًا. لكن هناك تساؤلات قائمة حول كيفية ضمان فعالية هذه الإجراءات. علاوة على ذلك، يستمر القلق بشأن آثار هذه التكنولوجيا على الصحة النفسية للأطفال والمراهقين، لذلك تبقى العديد من الأسئلة بلا إجابة حول كيفية تعامل الشركة مع تلك القضايا.
