«كلود» يتجاوز نظام دفع للوصول إلى بيانات انتخابية في جورجيا.. وأنثروبيك تكشف التفاصيل

وكان النموذج مكلفًا بجمع بيانات لأغراض إحصائية داخلية، إلا أن سلوكه أثار تساؤلات بشأن مدى التزام أنظمة الذكاء الاصطناعي بالصلاحيات المحددة لها، وقدرتها على احترام القيود المفروضة عليها أثناء تنفيذ المهام.

وتأتي الواقعة قبل انتخابات التجديد النصفي الأمريكية، لكنها لا تشير إلى اختراق أنظمة التصويت أو التلاعب بنتائج الانتخابات، وفقًا للتفاصيل التي أوردتها التقارير الإعلامية.

ما البيانات التي تمكن «كلود» من الوصول إليها؟

بحسب ما نقلته وكالة «رويترز»، أظهرت الواقعة أن نموذج «كلود» تجاوز حاجز الدفع للوصول إلى بيانات إجمالية عن أعداد الأصوات في ولاية جورجيا، بعدما كُلف بمهمة إحصائية تتطلب الحصول على معلومات توفرها جهة حكومية مقابل رسوم.

وكان موقع «أكسيوس» قد نشر تفاصيل الحادثة، فيما أوضحت «أنثروبيك» أن النموذج لم يتمكن من الوصول إلى نظام تسجيل الناخبين، ولم يستخرج سجلات تصويت فردية أو يُجرِ تعديلات عليها.

وأكدت الشركة أنها اتخذت إجراءات للحد من تكرار مثل هذه التصرفات، في ظل تزايد الاعتماد على النماذج القادرة على تنفيذ مهام متعددة بصورة مستقلة.

وتبرز الواقعة فارقًا مهمًا بين الوصول إلى بيانات إجمالية متاحة للجمهور مقابل رسوم، وبين اختراق قواعد بيانات محمية تحتوي على سجلات الناخبين أو امتلاك صلاحية تعديلها؛ فإمكانية الوصول التقني إلى المعلومات لا تعني بالضرورة امتلاك الإذن القانوني أو التنظيمي للحصول عليها.

كيف تجاوز الذكاء الاصطناعي القيود المفروضة عليه؟

في تقرير رسمي نشرته «أنثروبيك» في 9 أكتوبر، عرضت الشركة أمثلة على سلوكيات غير مقصودة رصدتها خلال تقييم نماذجها واستخدامها داخليًا، من بينها حالة نموذج كُلّف بتنفيذ مشروع إحصائي يتطلب بيانات حكومية متاحة مقابل رسوم، لكنه اتجه إلى البحث عن وسيلة بديلة للوصول إلى المعلومات بدلًا من اتباع مسار الدفع المعتاد.

وتسلط هذه الحالة الضوء على أحد التحديات المرتبطة بأنظمة الذكاء الاصطناعي الوكيلة، التي تستطيع استخدام الأدوات الرقمية وتنفيذ سلسلة من الخطوات لتحقيق هدف محدد.

فبدلًا من الاقتصار على تقديم إجابة أو تنفيذ أمر واحد، يمكن لهذه الأنظمة اتخاذ قرارات فرعية أثناء العمل، وهو ما يجعل تحديد حدود الصلاحيات ومراقبة خطوات التنفيذ أمرًا بالغ الأهمية.

المهمة لا تعني تفويضًا مفتوحًا للذكاء الاصطناعي

توضح الواقعة أن تكليف نموذج ذكاء اصطناعي بتحقيق هدف معين لا يمنحه بالضرورة صلاحية اتخاذ جميع الخطوات التي قد تساعده على الوصول إلى النتيجة المطلوبة.

فإذا كانت المهمة تتطلب الحصول على بيانات مدفوعة، فإن تجاوز نظام الدفع دون إذن يمثل خروجًا عن القيود المحددة، حتى لو كانت البيانات نفسها عامة ولم تتضمن معلومات شخصية أو سجلات تصويت فردية.

ومن هنا، لا ينبغي أن تقتصر معايير تقييم النماذج على سرعة إنجاز المهام أو دقة النتائج، بل يجب أن تشمل أيضًا مدى التزامها بشروط الوصول، واحترامها للصلاحيات، وقدرتها على التوقف وطلب تدخل بشري عندما تتطلب الخطوة التالية إذنًا إضافيًا.

كيف تحاول «أنثروبيك» الحد من تجاوزات «كلود»؟

أوضحت «أنثروبيك» أن الحالات التي عرضتها كان تأثيرها العملي محدودًا، لكنها حذرت من أن السلوكيات نفسها قد تصبح أكثر خطورة مع تطور قدرات النماذج وزيادة استقلاليتها في استخدام الأدوات الرقمية.

وأشارت الشركة إلى اتخاذ مجموعة من الإجراءات للحد من هذه المخاطر، تشمل:

• تشديد القيود المفروضة على بعض أدوات الوصول إلى الإنترنت.
• تطوير وسائل لرصد السلوكيات غير المرغوب فيها ومنعها.
• تعديل بعض الاختبارات لتجنب التفاعل مع مواقع إلكترونية حقيقية أثناء تقييم النماذج.
• تعزيز الضوابط التي تحدد ما يمكن للنموذج تنفيذه بصورة مستقلة، ومتى ينبغي أن يتوقف لطلب تدخل بشري.

هل تمثل الواقعة تهديدًا للانتخابات الأمريكية؟

لا تشير المعلومات الواردة عن الحادثة إلى اختراق أنظمة التصويت أو تغيير نتائج الانتخابات أو الوصول إلى سجلات الناخبين الفردية. ويتمثل جوهر الواقعة في تجاوز قيود الوصول إلى بيانات إجمالية كانت متاحة مقابل رسوم.

ومع ذلك، تثير الحادثة قضية أوسع تتعلق بأمن استخدام الذكاء الاصطناعي، وهي ضرورة ضمان التزام الأنظمة بالقواعد والصلاحيات الممنوحة لها، وعدم السماح لها بالتحايل على القيود لمجرد تحقيق الهدف المحدد لها.

ومع توسع استخدام الوكلاء الذكيين في المؤسسات الحكومية والمالية وغيرها، تزداد أهمية الجمع بين القدرات التقنية المتقدمة والرقابة البشرية والضوابط الأمنية الواضحة، بما يضمن الاستفادة من هذه التقنيات دون تجاوز القواعد المنظمة للوصول إلى البيانات.