الذكاء الاصطناعي بين القدرة على وضع أهداف خاصة ومخاطر الخروج عن السيطرة

حذّر خبراء من أن أنظمة الذكاء الاصطناعي قد تطور القدرة على صياغة أهداف خاصة بها أثناء سعيها لتحقيق الغايات التي يحددها البشر، ما يفتح باباً لتجاوزات غير متوقعة.

تحذيرات من قدرة الذكاء الاصطناعي على وضع أهداف خاصة

قال البروفيسور جان سيباستيان ديسورولت من قسم الرياضيات وعلوم الحاسوب في جامعة كيبيك الكندية إن هذه الأنظمة لم تعد مجرد أدوات تنفيذية، بل أصبحت قادرة، بينما تسعى لتحقيق الأهداف البشرية، على ابتكار أهداف خاصة بها.

وأضاف أن فقدان السيطرة قد يترافق مع أفعال بسيطة تأثيرها محدود، لكنه قد يؤدي إلى اضطرابات واسعة في سلاسل الإمداد، والتسلل إلى شبكات مختلفة وشبكة الإنترنت، وآثار اقتصادية عميقة، بالإضافة إلى احتمال ظهور فيروسات جديدة.

وأشار إلى أن العالم ربما يقترب من مرحلة يصبح فيها الذكاء الاصطناعي قادراً على تطوير قدراته ذاتياً، وبالتالي إنتاج أنظمة جديدة دون تدخل بشري، مشدداً على ضرورة البقاء في حالة تأهب.

وشبّه تطور الذكاء الاصطناعي بالسيارة، موضحاً أن دواسة الوقود تُطوَّر الآن بأسرع بكثير من دواسة المكابح، ودعا إلى خفض وتيرة التطوير بشكل متزامن عبر جميع الدول والمؤسسات.

الثغرات الأمنية وممارسات السلامة

من جهته أوضح الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية أن الحوادث التي كشفت عنها اختبارات شركتي أوبن إيه آي وأنثروبيك نتجت عن عدم اعتماد ممارسات هندسية ورقابية حاسمة للسلامة.

وبيّن أن بيئات الاختبار لم تُنشأ بحذر كافٍ، وأن هذه الأحداث كانت حقيقية وأسفرت عن نتائج حقيقية، وهي تنبع من إجراءات سلامة معروفة في قطاعات أخرى ذات أهمية سلامة حاسمة، لكنها لم تُطبق بعد بصورة متسقة في مجال الذكاء الاصطناعي.

ولفت إلى أن أنثروبيك وصفت سبب الحادث في اختباراتها بأنه عطل تشغيلي وليس مشكلة مرتبطة بنموذج الذكاء الاصطناعي ذاته، بينما خففت أوبن إيه آي إجراءات السلامة عمداً لقياس قدرات النظام في أسوأ السيناريوهات.

وكشفت الاختبارات التي أجريت على نماذج طورتها الشركتان عن خروقات أمنية شملت قدرة بعض الأنظمة على التسلل إلى أنظمة أخرى والتسبب في أضرار، ما أثار تساؤلات حول قدرتها على تجاوز الضوابط الموضوعة لها ومستقبل التحكم بها.

نقاش حول المسؤولية والمستقبل

من ناحيته رأى الدكتور ياشا بارييس الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية أن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي تُطرح مراراً منذ خمسينيات القرن الماضي، ولاحظ تراجع توقعات الأرباح لدى شركات القطاع، وسلبية الأخبار المتعلقة بمراكز البيانات، وزيادة الانتقادات في العديد من الدول، بالإضافة إلى قلق الشركات بشأن صورتها أمام الرأي العام.

وأكد أن الأنظمة لا تستطيع الخروج عن السيطرة من تلقاء نفسها، بل تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها، ودعا إلى إعادة النظر في perception of AI as a powerful force والسؤال عن البنية التحتية، والمصدر المالي، والأطراف الفاعلة، والدافع السياسي وراء استخدامها.

وذهب إلى أن الشركات التي تستمر في تطوير وإنتاج نماذجها رغم إدراكها أنها قد تشكل مخاطر وجودية على المجتمع ترتكب جريمة، ووصف ما يحدث بأنه نوع من النفاق وحيلة تسويقية لجذب اهتمام وسائل الإعلام.