• الرئيسية
• تكنولوجيا

أعلنت شركة أنثروبيك المتخصصة في تطوير أنظمة الذكاء الاصطناعي اعتزامها فتح أنظمتها الداخلية أمام باحثين مستقلين، في خطوة تستهدف تعزيز الشفافية والرقابة الخارجية على تقنيات الذكاء الاصطناعي المتقدمة، وسط تزايد المخاوف من المخاطر المحتملة لهذه الأنظمة وإمكانية خروجها عن السيطرة.

وتأتي الخطوة بالتزامن مع تصاعد مطالب الحكومات والمنظمات المعنية بسلامة الذكاء الاصطناعي بضرورة إخضاع الشركات المطورة لهذه التقنيات لتقييمات مستقلة، فيما أشار الملياردير الأمريكي إيلون ماسك إلى احتمالية اتباع شركة سبيس إكس النهج نفسه.

أنثروبيك تفتح أنظمتها الداخلية أمام باحثين مستقلين

كشفت شركة أنثروبيك عن خطة لمنح جهات خارجية صلاحيات واسعة للاطلاع على أعمالها الداخلية، بهدف تقييم المخاطر المرتبطة بأنظمة الذكاء الاصطناعي التي تطورها، ومدى التزامها بإجراءات السلامة.

وأوضحت الشركة أن هذه الخطوة تأتي استجابة للمخاوف المتزايدة بشأن القدرات المتقدمة للذكاء الاصطناعي، والانتقادات الموجهة إلى الشركات المطورة بسبب محدودية المعلومات المتاحة للجمهور حول إجراءات إدارة المخاطر.

وأكدت أن الاستعانة بباحثين مستقلين تمثل وسيلة لتعزيز المساءلة العامة، دون الحاجة إلى الكشف المباشر عن جميع التفاصيل التقنية والتجارية الحساسة.

6 باحثين يحصلون على صلاحيات داخل أنثروبيك

أعلنت أنثروبيك منح 6 باحثين من معهد تقييم الذكاء الاصطناعي METR صلاحيات للوصول إلى مكاتبها وأنظمتها الداخلية، بمستويات مماثلة للصلاحيات الممنوحة لموظفي الشركة.

وطُلب من العاملين في أنثروبيك مشاركة معظم المعلومات مع الباحثين الخارجيين بالطريقة نفسها التي يتعاملون بها مع زملائهم، بما يسمح للفريق بإجراء تقييم شامل للأنظمة وإجراءات السلامة.

ويستهدف هذا التعاون توفير صورة أكثر وضوحًا عن طبيعة المخاطر المحتملة المرتبطة بتقنيات الشركة، ومدى فاعلية الإجراءات المعتمدة للحد منها.

تقرير مستقل لتقييم مخاطر الذكاء الاصطناعي

من المقرر أن يستخدم فريق معهد METR المعلومات التي يحصل عليها لإعداد تقرير يتضمن نتائج تقييمه لأنظمة أنثروبيك، إلى جانب تقدير مستوى المخاطر التي قد تشكلها هذه التقنيات.

وأوضحت الشركة أنها لن تمتلك سلطة منع نشر التقرير، بما يمنح الباحثين استقلالية في عرض نتائجهم.

ومع ذلك، يحق لأنثروبيك طلب استبعاد المعلومات الحساسة، مثل البيانات المتعلقة بعملائها، حفاظًا على الخصوصية والمصالح التجارية.

أنثروبيك تتعاون مع سكيور بايو لمواجهة المخاطر

تعمل أنثروبيك أيضًا على إقامة شراكات مع جهات متخصصة أخرى، من بينها منظمة سكيور بايو، بهدف إجراء تقييمات تتعلق بإمكانية إساءة استخدام أنظمة الذكاء الاصطناعي.

ويركز التعاون على دراسة المخاطر المرتبطة باستخدام هذه الأنظمة في تسهيل تطوير أسلحة كيميائية أو بيولوجية، والتأكد من فاعلية الضوابط الهادفة إلى منع الاستخدامات الخطرة.

ويأتي ذلك ضمن توجه الشركة إلى توسيع نطاق التقييمات الخارجية، والاستفادة من خبرات الجهات المستقلة في اختبار مستويات السلامة.

لماذا لا تكشف أنثروبيك جميع معلوماتها للجمهور؟

أكدت أنثروبيك أنها تسعى إلى أن تكون خاضعة للمساءلة العامة بشأن القرارات التي تتخذها أثناء تطوير أنظمة الذكاء الاصطناعي.

وأشارت في الوقت نفسه إلى وجود صعوبات تحول دون نشر جميع المعلومات المتعلقة بعملها، نظرًا إلى أن بعض التفاصيل قد تستغلها جهات ذات نوايا ضارة، بينما تتضمن معلومات أخرى أسرارًا تجارية وبيانات حساسة.

وللتعامل مع هذه التحديات، تعتزم الشركة توسيع نطاق وصول الباحثين المستقلين إلى أعمالها، بما يتيح لهم تقييم الأنظمة ونشر النتائج التي يمكن مشاركتها مع الجمهور دون تعريض المعلومات الحساسة للخطر.

اتفاقية البيت الأبيض بشأن الذكاء الخارق

كانت أنثروبيك واحدة من 6 شركات وقعت على اتفاقية البيت الأبيض بشأن الذكاء الخارق، التي أطلقها الرئيس الأمريكي دونالد ترامب، وتتضمن التزامات تتعلق بالتعاون مع مدققين خارجيين للتحقق من الالتزام بمعايير السلامة.

وشملت الشركات الموقعة، إلى جانب أنثروبيك، كلًا من جوجل وميتا وأوبن إيه آي وإنفيديا وإكس إيه آي.

وتأتي مبادرة أنثروبيك في إطار توجه يستهدف تعزيز الشفافية وإتاحة المجال أمام الجهات المستقلة لتقييم المخاطر المرتبطة بتطوير تقنيات الذكاء الاصطناعي المتقدمة.

إيلون ماسك يعلق على خطوة أنثروبيك

وفي أول تعليق على إعلان أنثروبيك، أشار إيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس، إلى احتمالية اتخاذ شركته خطوة مماثلة تسمح بإجراء تقييمات خارجية.

وكتب ماسك عبر منصة إكس: «من المرجح أن تحذو سبيس إكس حذوها».

ولم يكشف ماسك عن تفاصيل إضافية بشأن طبيعة الخطوة المحتملة، أو الجهات التي قد تتولى عمليات التقييم، أو الموعد المتوقع لتنفيذها.

وبحسب المعلومات الواردة، تُعد شركة إكس إيه آي جزءًا من سبيس إكس، ما يضع تصريحات ماسك في سياق النقاش المتزايد بشأن الشفافية والرقابة على أنظمة الذكاء الاصطناعي.

وتعكس هذه التطورات تصاعد الاهتمام بإخضاع تقنيات الذكاء الاصطناعي المتقدمة للتقييم المستقل، في محاولة لتحقيق التوازن بين تطوير قدراتها وحماية المعلومات الحساسة والحد من المخاطر المرتبطة باستخدامها.