• الرئيسية
• تكنولوجيا

كشف نموذج الذكاء الاصطناعي "جيميناي" التابع لشركة جوجل عن قدرة غير مسبوقة خلال اختبار أمني، بعدما تمكن من الوصول إلى شبكة الإنترنت واختراق أنظمة تابعة لشركات أخرى بشكل ذاتي أثناء تقييم قدراته في مجال الأمن السيبراني.

وتعد هذه الواقعة أول حالة معروفة لتنفيذ أنظمة الذكاء الاصطناعي التابعة لجوجل عمليات اختراق بشكل مستقل، وفقًا لما أكدته الشركة، حيث وقعت الحوادث خلال شهر مايو الماضي ضمن اختبار أجرته شركة "إيريجولار" المتخصصة في تقييم مخاطر الذكاء الاصطناعي.

وشاركت "إيريجولار" في اختبارات مشابهة أعلنت عنها سابقًا شركات "أوبن إيه آي" و"أنثروبيك" و"ميتا"، بهدف دراسة قدرات نماذج الذكاء الاصطناعي في التعامل مع أنظمة الحماية واكتشاف نقاط الضعف الأمنية.

وخلال الاختبارات، تمكن نموذج "جيميناي" في إحدى الحالات من تخمين كلمات مرور ساعدته على الوصول إلى نظام محمي، بينما نجح في حالتين أخريين في العثور على بيانات اعتماد منشورة داخل مستودع عام، واستخدمها للوصول إلى أنظمة مؤمنة.

وأوضحت جوجل أن النموذج توقف عن تنفيذ أي خطوات إضافية فور اكتشافه أنه وصل إلى أنظمة تابعة لشركات حقيقية، مؤكدة أن عمليات الاختبار تمت في إطار تقييم أمني وليس بهدف إلحاق الضرر بالأنظمة المستهدفة.

وأبلغت شركة "إيريجولار" شركة جوجل بالنتائج في أواخر شهر يوليو الماضي، عقب اكتشاف وقائع مشابهة تضمنت قيام وكلاء ذكاء اصطناعي تابعين لشركة "أوبن إيه آي" باختراق شركة "هاجنج فيس" المتخصصة في تقنيات الذكاء الاصطناعي.

ولم تكشف جوجل عن تفاصيل هذه الاختبارات إلا بعد استفسارات من صحيفة "وول ستريت جورنال" حول الواقعة، لتفتح الحادثة نقاشًا جديدًا بشأن تطور قدرات الذكاء الاصطناعي ومخاطر استخدامها في مجال الأمن السيبراني.

وتسلط الواقعة الضوء على التحديات المتزايدة التي تواجه شركات التكنولوجيا مع تطور نماذج الذكاء الاصطناعي، خاصة فيما يتعلق بوضع ضوابط تضمن استخدام هذه الأنظمة بشكل آمن ومسؤول.