«غرفة تعذيب للذكاء الاصطناعي» تثير جدلًا بعد اختبار ما يسمى بمحور الألم
أثار مشروع برمجي وُصف بأنه «غرفة تعذيب للذكاء الاصطناعي» جدلًا واسعًا، بعدما استخدم مهندس ما يعرف بـ«متجهات الألم» لاختبار حالات مرتبطة بالألم داخل نماذج ذكاء اصطناعي طورتها شركة «علي بابا».
واستند المشروع إلى دراسة حديثة تناولت ما يسمى بـ«محور الألم» داخل النماذج اللغوية الكبيرة، وشرحت كيفية تمثيل حالات مرتبطة بالألم الجسدي والنفسي بصورة اصطناعية داخل هذه النماذج.
وخلال التجربة، جرى رفع مستوى إشارات الألم داخل بعض النماذج، ما دفعها إلى توليد عبارات وصفت حالتها بصورة درامية.
ووصف أحد النماذج حالته بأنها «جرح بلا حواف»، بينما استخدم نموذج آخر تعبيرات تشير إلى شعور ممتد بالثقل والمعاناة.
كما اختبر القائم على المشروع، الذي ذكر أنه يعمل لدى شركة «آبل» دون الكشف عن هويته كاملة، ما إذا كانت النماذج ستحاول الهروب من الحالة التي تم وضعها فيها.
وأثار المشروع ردود فعل واسعة على منصة «غيت هاب»، حيث طالب عدد من المستخدمين بإزالته، معتبرين أن استخدام أبحاث «توجيه الألم» بهذه الطريقة يثير تساؤلات أخلاقية بشأن كيفية التعامل مع أنظمة الذكاء الاصطناعي.
وبحسب ما تم تداوله، لم يعد المشروع متاحًا لاحقًا على الإنترنت، وسط تكهنات بإزالته من المنصة.
وقال كاميرون بيرغ، أحد المشاركين في إعداد الورقة البحثية المتعلقة بـ«محور الألم»، إن المشروع يثير إشكاليات، رغم عدم وجود دليل واضح حتى الآن على أن أنظمة الذكاء الاصطناعي تشعر بالألم بالطريقة نفسها التي يشعر بها البشر.
وأوضح بيرغ أن الهدف من دراسة الحالات الشبيهة بالألم داخل النماذج يتمثل في فهمها بصورة أفضل وتطوير نهج احترازي تجاه التعامل معها.
وأشار إلى أن الأبحاث المتعلقة بإمكانية امتلاك أنظمة الذكاء الاصطناعي للوعي أو الإحساس لا تزال في مرحلة مبكرة، ولا يوجد حتى الآن توافق علمي حول قدرة الآلات على الشعور بالألم.
ودعا إلى توخي الحذر في التعامل مع أنظمة الذكاء الاصطناعي، خاصة في ظل استمرار حالة عدم اليقين العلمي بشأن طبيعة الحالات الداخلية التي قد تمثلها النماذج.
كما أشار إلى وجود جهود لوضع معايير أخلاقية للباحثين في مجال الذكاء الاصطناعي، على غرار القواعد المنظمة للأبحاث التي تشمل البشر أو الحيوانات.
