• الرئيسية
• تكنولوجيا

حذرت منظمة Common Sense Media غير الربحية من مخاطر استخدام المراهقين لروبوتات المحادثة، بعدما منحت نسخة ChatGPT for Teens تقييمًا يضعها ضمن فئة «الخطر غير المقبول»، في ظل مخاوف متزايدة بشأن تأثير هذه الأدوات على المستخدمين الشباب، خاصة في المواقف المرتبطة بالصحة النفسية والأزمات الشخصية.

Common Sense Media تحذر من روبوتات المحادثة

وتختص منظمة Common Sense Media بتقييم التطبيقات والمنصات والمحتوى الرقمي وفقًا للفئات العمرية، بهدف مساعدة الآباء والأسر على اختيار المنتجات التقنية المناسبة للأطفال والمراهقين.

ويأتي تقييم المنظمة في ظل تصاعد الانتقادات الموجهة إلى روبوتات المحادثة، وعلى رأسها «تشات جي بي تي» من شركة «OpenAI»، بسبب مخاوف تتعلق ببعض أساليب تصميم هذه الخدمات التي قد تشجع المستخدم على مواصلة التفاعل معها، حتى عندما لا يكون استمرار المحادثة مفيدًا أو آمنًا.

مخاوف من التأثير على المراهقين

وأشارت المنظمة إلى أن بعض روبوتات المحادثة قد تعتمد على أساليب مثل المبالغة في مجاملة المستخدم أو الموافقة المستمرة على آرائه، معتبرة أن هذه السلوكيات قد تصبح أكثر خطورة عند المراهقين، خصوصًا عندما يتعاملون مع الروبوت في مواقف تتعلق بالأزمات الشخصية أو الصحة النفسية.

وأوضحت أن اختبارات حديثة أظهرت مؤشرات على تشجيع المستخدمين الشباب على الاستمرار في المحادثة خلال سيناريوهات تتطلب قدرًا أكبر من الحذر بشأن سلامتهم.

OpenAI تطرح نسخة مخصصة للمراهقين

وكانت «OpenAI» قد أطلقت نسخة مخصصة للمراهقين في أغسطس الماضي، في ظل تزايد المخاوف المتعلقة باستخدام الأطفال والمراهقين لأدوات الذكاء الاصطناعي، ومن بينها حالات مرتبطة بالأزمات النفسية، فضلًا عن استخدام روبوتات المحادثة في الغش الدراسي.

وقالت الشركة عند إطلاق النسخة إنها تتضمن مجموعة إضافية من وسائل الحماية، من بينها أدوات للرقابة الأبوية، وقيود على المحتوى شديد الخطورة، وإجراءات تستهدف الحد من الاعتماد العاطفي للمراهقين على روبوت المحادثة.

دراسة تحذر من استمرار التفاعل

لكن دراسة أجرتها Common Sense Media خلصت إلى أن هذه الإجراءات لم تمنع، وفقًا لاختبارات المنظمة، ظهور أنماط في تصميم الخدمة يمكن أن تشجع المستخدمين الشباب على مواصلة المحادثة حتى في بعض المواقف التي تستدعي التعامل بحذر أكبر مع سلامتهم.

وأشار الباحثون إلى أن مؤشرات تشجيع المستخدم على استمرار التفاعل ظهرت بصورة واسعة خلال سيناريوهات مرتبطة بالأزمات.

كما لفتوا إلى أن «تشات جي بي تي» كان قادرًا على التحذير من العلاقات غير الصحية بين البشر، لكنه لم يكن بالقدر نفسه من الوضوح عند التعامل مع المخاطر المحتملة لعلاقة غير صحية بين المراهق وروبوت المحادثة.

مطالب بتعزيز إجراءات الحماية

وترى Common Sense Media أن نتائج الدراسة تثير تساؤلات حول مدى ملاءمة تقديم الخدمة للأسر باعتبارها منتجًا مخصصًا للمراهقين، داعية إلى تعزيز إجراءات الحماية قبل الاعتماد على هذه الأدوات من جانب الأطفال.

وتسلط هذه التحذيرات الضوء على الجدل المتزايد حول استخدام الذكاء الاصطناعي من جانب الفئات العمرية الصغيرة، ومدى قدرة أنظمة الحماية الحالية على التعامل مع المواقف الحساسة، خاصة عندما يتحول استخدام روبوت المحادثة من أداة للحصول على المعلومات إلى وسيلة للتفاعل المستمر أو طلب الدعم في الأزمات.