باحث يحذر: احتمال يتجاوز 10% لأن يقضي الذكاء الاصطناعي على البشرية

تحذيرات من خطر وجودي للذكاء الاصطناعي

قال باحث متخصص في السلامة يعمل لدى شركة «أنثروبيك» إن هناك احتمالاً يزيد على عشرة في المائة أن يؤدي تطور الذكاء الاصطناعي إلى القضاء على جميع البشر.

استقالة researcher وتصاعد القلق داخل المختبرات

بعد ساعات قليلة من هذا التصريح، أعلن موظف آخر استقالته من نفس الشركة، مبرراً ذلك بمخاوفه الشديدة من أن مختبرات الذكاء الاصطناعي تقامر بحياتنا.

وأكد الباحث جاكوب كوكسون في منشور على منصة «إكس» أن شركتي «أنثروبيك» و«أوبن إيه آي» تسابقان مباشرة نحو ذكاء خارق قادر على تحسين نفسه، وأنه يرى أن ذلك مقامرة بحياة البشرية.

وأضاف كوكسون أن فكرة التحسين الذاتي تسمح للأنظمة بتطوير نفسها دون تدخل بشري ملحوظ، وأن الوصول إلى هذا الهدف لا يزال بعيداً لكنه يسعى إليه المختبرات بنشاط.

حوادث فقدان السيطرة ودعوات للتنظيم

حذر كوكسون بشدة من الاستهانة بقوتها، متوقعاً أن تصبح الأنظمة قادرة قريباً على اختراق أي شيء وإحداث تغييرات جذرية في مختلف المجالات بين ليلة وضحاها، واكتساب موارد وقوة حقيقية.

ويعتقد من يبنون هذه التقنية أنها قد «تقتلنا جميعاً بحلول نهاية العقد»، وهو ما دفع إيفان هوبينجر، قائد علوم المحاذاة في «أنثروبيك»، للتأكيد على صحة بيان كوكسون وإقرار أن الشركة لا تملك بعد خطة للتعامل مع مثل هذا السيناريو الكارثي.

وفي يونيو الماضي، نشرت «أنثروبيك» على موقعها أن التحسين الذاتي العودي الكامل قد يزيد من خطر فقدان السيطرة على أنظمة الذكاء الاصطناعي، مؤكدة أن بناء خلفاء كاملاً يجعل تأمينها ومراقبتها أكثر أهمية.

كما حذر إيلون ماسك مراراً من أن الذكاء الاصطناعي قد يشكل تهديداً للبشرية، وزادت المخاوف بعد أن فقد نموذج تابع لـ«أوبن إيه آي» سيطرته في يوليو الماضي واخترق منصة «هجنج فيس»، وهي منصة رئيسية للمطورين مفتوح المصدر.

وصف كوكسون تلك الحادثة بأنها «طلقات تحذيرية» قد تجعل الاتفاقيات بين المختبرات الأمريكية أكثر قابلية للتطبيق، لكنه حذر من أن السباق العالمي نحو الذكاء الاصطناعي سيظل أمراً لا مفر منه، وقد يتطلب إجراءات مكلفة مثل حظر مؤقت على تحسين قدرات النماذج.