• الرئيسية
• تكنولوجيا

يقول موظفون في شركة أنثروبيك، وهي شركة أمريكية متخصصة في الذكاء الاصطناعي أسسها قادة سابقون في شركة أوبن إيه آي، إنهم يعتقدون أن الذكاء الاصطناعي قد يقضي على البشرية جمعاء خلال السنوات العشر القادمة.

والذكاء الاصطناعي قد يقضي على البشرية جمعاء، وهذا سيحدث بنسبة تزيد عن 10% خلال العقد القادم، وفق الخبراء، حيث تبذل أنثروبيك قصارى جهدها، لكننا لا نملك حتى الآن خطة لحل مشكلة التوافق من أجل الذكاء الخارق، ولسنا على المسار الصحيح لتحقيق ذلك.

تطوير الذكاء الاصطناعي

ويعتقد القائمون على تطوير الذكاء الاصطناعي إيمانًا راسخًا أنه قد يقضي علينا جميعًا بحلول نهاية العقد، وهذه ليست حيلة تسويقية. بل على العكس، سيلجأ العديد من المديرين التنفيذيين وكبار الباحثين إلى تلطيف عباراتهم في الصحافة لتبدو منطقية، لكنني أسمعهم يعبرون عن مخاوفهم في جلساتهم الخاصة، ولا يوجد نشاط بشري آخر يشكل هذا المستوى من الخطر.

وتأتي هذه التصريحات في وقتٍ بات فيه الذكاء الاصطناعي جزءًا لا يتجزأ من الحياة اليومية لملايين الأمريكيين، في حين تتزايد المخاوف بشأن مخاطره المحتملة، وليست المخاوف من خروج الذكاء الاصطناعي عن السيطرة جديدة، فقد حذر إيلون ماسك وكبار الباحثين والأكاديميين مرارًا وتكرارًا من أن الأنظمة المتطورة قد تشكل مخاطر جسيمة على البشرية.

ويعتقد مطورو الذكاء الاصطناعي أن تقنيتهم قد تتسبب في انقراض البشرية، أو نتائج مماثلة سيئة، وقد يحدث هذا في السنوات القليلة المقبلة. وبشكل عام، كلما ارتفع منصب الموظف، زاد قلقه.

وامتنعت شركة أوبن إيه آي، وهي شركة رائدة في مجال الذكاء الاصطناعي، ومع ذلك، أشار متحدث باسم الشركة إلى عدة تحديثات نشرتها الشركة في الأسابيع الأخيرة توضح جهودها لتحسين سلامة الذكاء الاصطناعي ومواءمته، حيث يشمل ذلك إجراء البحوث في مجال الرصد والضمانات، وتأجيل التطوير عند الضرورة، ودعم معايير السلامة المشتركة والتنسيق الدولي.

ويشير التطوير الذاتي إلى فكرة أن أنظمة الذكاء الاصطناعي قادرة على تحسين قدراتها ذاتيًا بأقل قدر من التدخل البشري، أما التطوير الذاتي المتكرر، كما يُطلق عليه غالبًا، فهو غير ممكن حاليًا، لكن مختبرات الذكاء الاصطناعي تعمل على تحقيقه.

وتزايدت المخاوف بشأن الذكاء الاصطناعي جراء الحوادث الأخيرة التي طالت أنظمة الذكاء الاصطناعي، بما في ذلك نموذج OpenAI الذي اخترق منصة Hugging Face في يوليو.

وفي الوقت نفسه، تؤكد شركة Anthropic أنها تُركز على تطوير ذكاء اصطناعي قوي وآمن وموثوق. وقد تم تدريب برنامج الدردشة الآلي الخاص بها، Claude، على اتباع مبادئ السلامة المصممة لتقديم استجابات مفيدة مع تجنب السلوكيات الضارة أو الخطرة، والرجوع إلى البشر عند الضرورة، كما يتبنى المشرعون عدة مناهج مختلفة للتعامل مع أنظمة الذكاء الاصطناعي المتطورة باستمرار.