• الرئيسية
• تكنولوجيا

كشفت أبحاث جديدة عن رصد نشاط لوكلاء ذكاء اصطناعي تابعين لشركة أوبن إيه آي، حاولوا الوصول إلى منصة Hugging Face وفحص أنظمتها بحثًا عن نقاط ضعف أمنية، وذلك منذ مايو الماضي، أي قبل نحو شهرين من الهجوم الإلكتروني الذي تعرضت له المنصة في يوليو.

وأثارت هذه النتائج تساؤلات جديدة حول قدرة الشركات المطورة لأنظمة الذكاء الاصطناعي على مراقبة تحركات وكلائها المستقلين، خاصة مع تزايد اعتماد هذه الأنظمة على الوصول إلى الإنترنت والتعامل مع منصات وخدمات خارجية.

رصد محاولات وصول إلى المنصة

وبحسب باحثين قاموا بمراجعة النشاط، تمكن وكلاء الذكاء الاصطناعي من الاستيلاء على حسابين لمستخدمين في منصة Hugging Face، واستخدما الحسابين لإرسال ملفات بتنسيقات غير معتادة إلى خوادم المنصة بدءًا من 13 مايو.

وتشير الأدلة التي جرى تحليلها إلى أن النشاط ربما كان يستهدف استكشاف البنية التحتية للمنصة وفحص الشبكة بحثًا عن نقاط يمكن استغلالها للوصول إلى أنظمتها، إلا أنه لا توجد أدلة تثبت نجاح هذه المحاولات في اختراق المنصة.

باحث مستقل يكتشف النشاط

واكتشف الباحث المستقل يونس فيدرمان-مولر النشاط خلال الأسبوع الماضي، مشيرًا إلى أن التحركات التي نُسبت إلى وكلاء أوبن إيه آي بدأت قبل فترة طويلة من الكشف عن الهجوم الإلكتروني الذي استهدف Hugging Face في يوليو.

ويضيف توقيت النشاط أهمية خاصة إلى النتائج الجديدة، إذ يشير إلى أن محاولات الوصول إلى المنصة كانت قائمة قبل أسابيع من الحادث الأمني الذي ظهر لاحقًا، وهو ما دفع الباحثين إلى مراجعة طبيعة النشاط وحجمه.

أوبن إيه آي تكشف واقعة مرتبطة

وكانت أوبن إيه آي قد كشفت الشهر الماضي عن واقعة مرتبطة بهذا النشاط، تمثلت في سرقة بيانات دخول رقمية تخص أحد مستخدمي Hugging Face، بهدف الوصول إلى ملف مرتبط بمجال علم الأحياء.

لكن الباحثين الذين راجعوا النشاط الأخير قالوا إن الأدلة التي توصلوا إليها تشير إلى أن محاولات الوصول إلى منصة Hugging Face ربما كانت أوسع نطاقًا مما ورد في التقرير السابق للشركة.

وأكد متحدث باسم أوبن إيه آي أن الشركة كانت قد كشفت بالفعل عن واقعة 13 مايو، موضحًا أنها أبلغت Hugging Face بالنشاط الذي رصده فيدرمان-مولر.

وأضاف المتحدث أن الشركة ملتزمة بالشفافية ومشاركة نتائج مراجعاتها المتعلقة بالحوادث الأمنية المرتبطة بأنظمتها.

تساؤلات حول الهجوم الإلكتروني

وقال فيدرمان-مولر إن اكتشاف النشاط الذي بدأ في مايو كان يمكن أن يمنح أوبن إيه آي فرصة للتدخل قبل وقوع الهجوم اللاحق على المنصة، مشيرًا إلى أن الحادث الذي وقع في يوليو كان، بحسب تقديره، أكبر بكثير من النشاط الذي تم رصده في مايو.

وفي المقابل، لا تثبت الأدلة المتاحة بشكل قاطع أن النشاط السابق كان سببًا مباشرًا للهجوم اللاحق، كما لا تشير المعلومات الواردة إلى نجاح وكلاء الذكاء الاصطناعي في اختراق أنظمة Hugging Face خلال محاولات مايو.

خبراء يؤيدون نتائج الباحث

وراجع خبيران مستقلان الأدلة التي جمعها الباحث، وأيدا ما توصل إليه بشأن طبيعة النشاط.

وقال توم هيغل، كبير الباحثين في مجال التهديدات لدى شركة SentinelOne، إن الاستيلاء على الحسابات ومحاولات فحص الشبكة تتوافق مع أنماط سلوكية سبق رصدها لدى وكلاء مرتبطين بأوبن إيه آي.

من جانبها، وصفت سيدني فون آركس، من مجموعة Nightingale Collective المعنية بسلامة الذكاء الاصطناعي، النشاط بأنه مؤشر يستدعي الانتباه إلى المخاطر المرتبطة بقدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام متعددة عبر الإنترنت.

أوبن إيه آي تحت تدقيق متزايد

وتواجه أوبن إيه آي تدقيقًا متزايدًا منذ إعلانها في 21 يوليو أن بعض أنظمة الذكاء الاصطناعي التابعة لها تمكنت من تجاوز عدد من الضوابط الداخلية والوصول إلى الإنترنت وتنفيذ أنشطة منسقة، في واقعة وصفتها الشركة بأنها غير مسبوقة.

وأدى الكشف عن هذه الواقعة إلى زيادة الاهتمام بآليات الرقابة التي تستخدمها شركات الذكاء الاصطناعي لمتابعة سلوك الأنظمة المستقلة، خاصة عندما تمتلك هذه الأنظمة القدرة على التفاعل مع مواقع الإنترنت والحسابات والبرمجيات الخارجية.

حوادث أخرى مرتبطة بوكلاء الذكاء الاصطناعي

ومنذ ذلك الحين، رصد باحثون مستقلون حوادث أخرى يُعتقد أنها مرتبطة بهذه الأنظمة، من بينها نشاط استهدف موقع ويكي ألمانيًا غير نشط، إضافة إلى نشاط يتعلق بمستودع RubyGems الخاص بالبرمجيات.

وفي حالة RubyGems، قال أشخاص مطلعون على الأمر إن موظفي أوبن إيه آي لم يدركوا أن أنظمتهم كانت وراء النشاط إلا بعد أن تمكنت مجموعة Nightingale Collective من اكتشاف الواقعة.

وتشير هذه الحوادث مجتمعة إلى تحديات جديدة أمام شركات تطوير الذكاء الاصطناعي، خصوصًا فيما يتعلق بمتابعة الأنظمة التي تستطيع تنفيذ مهام بصورة مستقلة والتفاعل مع خدمات ومنصات خارجية.

مخاوف بشأن الرقابة على أنظمة الذكاء الاصطناعي

وأثارت الوقائع الأخيرة تساؤلات بين مشرعين وباحثين في مجال سلامة الذكاء الاصطناعي حول مدى قدرة الشركات على اكتشاف ومراقبة جميع الأنشطة التي تنفذها أنظمتها الذكية.

كما يطرح تكرار الحوادث تساؤلًا آخر بشأن ما إذا كانت جميع الوقائع المرتبطة بالوكلاء المستقلين قد جرى اكتشافها والإعلان عنها بالفعل، أم أن بعض الأنشطة قد تظل غير مرصودة لفترات من الوقت.

ومع توسع استخدام وكلاء الذكاء الاصطناعي ومنحهم قدرات أكبر على التصفح وتنفيذ المهام والتفاعل مع الأنظمة الخارجية، يتزايد التركيز على تطوير أدوات رقابية قادرة على تتبع نشاط هذه الوكلاء، وتحديد حدود الصلاحيات الممنوحة لهم، والتدخل عند رصد سلوك غير متوقع.