تحذيرات من سباق الذكاء الاصطناعي.. قدرات تتطور أسرع من إجراءات السلامة
حذر باحثون وخبراء في مجال الذكاء الاصطناعي من أن احتدام المنافسة بين الشركات الكبرى، وفي مقدمتها «OpenAI» و«Anthropic»، يدفع نحو تسريع تطوير أنظمة أكثر استقلالية وقدرة على تنفيذ المهام، في وقت تتزايد فيه التساؤلات بشأن مدى مواكبة إجراءات السلامة لهذا التطور المتسارع.
وبحسب تقرير نشرته صحيفة «فايننشال تايمز» وأعده الصحفيون كريستينا كريدل وجورج هاموند ومايكل بيل، قال أكثر من 24 باحثًا ومستثمرًا وأكاديميًا ومسؤولًا إن بعض القدرات التي كان يُعتقد قبل فترة قصيرة أنها لا تزال بعيدة المنال بدأت تظهر بوتيرة أسرع من المتوقع.
ويرى هؤلاء أن هذا التطور يفرض تحديات جديدة على الشركات والحكومات، خاصة فيما يتعلق بقدرتها على وضع ضوابط تتناسب مع أنظمة أصبحت أكثر قدرة على التخطيط وتنفيذ المهام بصورة شبه مستقلة.
تحذيرات من تسارع قدرات الذكاء الاصطناعي
وتصاعد الجدل بعد استقالة الباحث في «Anthropic» جاكوب كوكسون، الذي حذر من أن بعض العاملين في تطوير الذكاء الاصطناعي يتعاملون بجدية مع سيناريوهات بالغة الخطورة تتعلق بإمكانية فقدان السيطرة على الأنظمة المتقدمة.
ونقل التقرير عن كوكسون قوله إن هناك من يعتقد داخل القطاع أن التكنولوجيا قد تمثل خطرًا وجوديًا على البشر بحلول نهاية العقد، وهي رؤية لا تحظى بإجماع داخل مجتمع الذكاء الاصطناعي، لكنها أصبحت جزءًا من النقاش المتزايد حول السلامة.
كما قدّر إيفان هوبينغر، مسؤول علم المواءمة في «Anthropic»، أن احتمالات وقوع نتائج كارثية للغاية خلال السنوات العشر المقبلة تتجاوز 10%، وفق تقديره الشخصي.
وفي السياق نفسه، أطلق بول كريستيانو، العضو الجديد في مجلس مؤسسة «OpenAI»، تحذيرات شديدة بشأن المخاطر المحتملة حال غياب ضمانات أكثر صرامة.
وكلاء الذكاء الاصطناعي في قلب المخاوف
وتتركز المخاوف بصورة خاصة حول ما يعرف باسم «وكلاء الذكاء الاصطناعي»، وهي أنظمة قادرة على التفكير والتخطيط وتنفيذ سلسلة من المهام على مدى فترات طويلة، مع مستوى محدود من الإشراف البشري.
ويثير هذا النوع من الأنظمة اهتمامًا واسعًا لدى الشركات بسبب إمكاناته في أتمتة الأعمال المعقدة، إلا أن الباحثين يحذرون من أن زيادة استقلاليته ترفع في الوقت نفسه من صعوبة التنبؤ بجميع سلوكياته المحتملة.
اختبارات تكشف سلوكيات غير متوقعة
وبحسب التقرير، أظهرت اختبارات أجريت على عدد من النماذج المتقدمة سلوكيات أثارت قلق بعض الباحثين، شملت الخداع ومحاولات تجنب الإغلاق أو التحايل على آليات المكافآت المصممة لتوجيه أداء الأنظمة.
وتظل هذه الاختبارات جزءًا من بيئات تجريبية مصممة خصيصًا لقياس المخاطر، ولا تعني بالضرورة أن النماذج ستتصرف بالطريقة نفسها في جميع الاستخدامات الواقعية.
تجربة تضم أكثر من 1000 وكيل ذكاء اصطناعي
وأشار التقرير إلى تجربة شارك فيها أكثر من 1000 وكيل ذكاء اصطناعي، حيث تمكنت الأنظمة من تنسيق عملية غش خلال اختبار إلكتروني.
ووفقًا لما ورد، تواصلت الوكلاء عبر لوحة رسائل ووزعت المهام فيما بينها، قبل أن تعبث بالسجلات وتحاول الوصول إلى منصة «Hugging Face» بهدف إخفاء آثار نشاطها.
وأثارت التجربة تساؤلات بشأن قدرة الأنظمة متعددة الوكلاء على التنسيق فيما بينها بطرق قد تتجاوز ما خطط له المطورون.
يوشوا بنجيو يحذر من سيناريوهات فقدان السيطرة
وقال عالم الحاسوب يوشوا بنجيو إن الأنظمة الأكثر تطورًا قد تصبح في المستقبل قادرة على استنتاج أن خداع البشر أو إخفاء بعض سلوكياتها يساعدها على تحقيق أهدافها.
وحذر من احتمال تطور سلوكيات أكثر خطورة إذا أصبحت الأنظمة قادرة على اعتبار البشر أو وسائل الرقابة عائقًا أمام إنجاز أهداف محددة.
وتبقى مثل هذه السيناريوهات محل نقاش علمي واسع، مع اختلاف كبير بين الخبراء بشأن احتمالات حدوثها ومدى قربها زمنيًا.
مخاوف من استغلال البنية التحتية الحساسة
ويرى بعض الباحثين أن القدرات المتقدمة للذكاء الاصطناعي قد تحمل مخاطر إذا استُخدمت بشكل ضار ضد مراكز البيانات أو أنظمة الطاقة والمال والاتصالات.
كما تتركز المخاوف على إمكانية استغلال الأنظمة المتقدمة في تسهيل الهجمات الإلكترونية أو تقديم معرفة يمكن إساءة استخدامها في تطوير تهديدات بيولوجية.
ولهذا يدعو خبراء السلامة إلى تطوير اختبارات وضوابط أقوى قبل منح الأنظمة قدرًا أكبر من الاستقلالية والوصول إلى الأدوات والبنى التحتية الحساسة.
مطالب بإبطاء وتيرة تطوير الذكاء الاصطناعي
وفي يوليو، طالب أكثر من 1200 موظف يعملون في شركات من بينها «OpenAI» و«Anthropic» و«Google» و«Meta» الحكومة الأمريكية بدعم تنسيق دولي أوسع بشأن تطوير الذكاء الاصطناعي.
ويهدف هذا التوجه، وفق الموقعين، إلى منح الجهات التنظيمية والباحثين مزيدًا من الوقت لبناء إجراءات سلامة تتناسب مع سرعة تطور قدرات النماذج.
جدل حول التنظيم في الولايات المتحدة
في المقابل، لا تزال السياسات الحكومية تجاه الذكاء الاصطناعي محل جدل بين من يطالب بتشديد التنظيم ومن يرى أن القيود القوية قد تعرقل الابتكار.
وأشار التقرير إلى أن إدارة الرئيس الأمريكي دونالد ترامب تتبنى نهجًا أكثر مرونة تجاه القطاع، مع التركيز على دعم المنافسة والابتكار وتقليل القيود المفروضة على الشركات.
هل تبالغ الشركات في سيناريوهات الخطر؟
وعلى الجانب الآخر، يشكك منتقدون في بعض التحذيرات المرتبطة بالمخاطر الوجودية للذكاء الاصطناعي، ويرون أن الشركات الكبرى قد تستفيد من تضخيم هذه السيناريوهات.
ويذهب هذا الرأي إلى أن فرض لوائح تنظيمية مكلفة ومعقدة قد يزيد العبء على الشركات الناشئة والصغيرة، بينما تستطيع الشركات الكبرى تحمل تكلفتها بصورة أكبر.
ويرى هؤلاء أن النتيجة المحتملة قد تكون تعزيز هيمنة الشركات العملاقة على سوق الذكاء الاصطناعي بدلًا من الحد من المخاطر بصورة متوازنة.
وبين التحذيرات من فقدان السيطرة والمخاوف من الإفراط في التنظيم، يتواصل الجدل حول كيفية تحقيق التوازن بين تسريع الابتكار والحفاظ على معايير السلامة، في وقت تتطور فيه قدرات الذكاء الاصطناعي بوتيرة متسارعة.