رئيس غوغل ديب مايند يحذر من وقوع حوادث كبرى للذكاء الاصطناعي خلال عامين
تحذير من رئيس غوغل ديب مايند
حذر ديميس هاسابيس، رئيس مجلس إدارة شركة «ديب مايند» التابعة لـ«غوغل»، من احتمال وقوع حوادث أمنية كبرى نتيجة لأنظمة الذكاء الاصطناعي خلال العامين المقبلين، ما لم تُتخذ تدابير كافية لضمان سلامتها. وأشار إلى ذلك خلال مشاركته في مؤتمر للذكاء الاصطناعي عُقد في دبلن.
تحليل الحوادث الأخيرة ومخاطر التصاعد
وصف هاسابيس الحوادث الأمنية الأخيرة بأنها «طلقات تحذيرية مبكرة» لأنظمة لا تزال قدراتها محدودة نسبيًا، وحذّر من أن مخاطرها قد تزداد خلال العام القادم أو العامين القادمين إذا لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات. وشدّد على أن مواجهة هذه المخاطر تتطلب تحركًا على مستوى قطاع الذكاء الاصطناعي ككل، إلى جانب إجراءات مستقلة تتخذها الشركات والحكومات لتعزيز سلامة الأنظمة والحد من احتمالات إساءة استخدامها.
دعوات لتشديد الاختبارات والرقابة
وأضاف أن مواجهة هذه المخاطر تستلزم إخضاع نماذج الذكاء الاصطناعي الجديدة للاختبارات الأولية داخل بيئات معزولة غير متصلة بالشبكات، بهدف الحد من المخاطر، بعد أن أظهرت نماذج طورتها شركات أخرى قدرتها على تجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها.
موقف الاتحاد الأوروبي ودوره التنظيمي
من جانبها، أكدت هينا فيركونين، مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، ضرورة تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها لضمان بقائها تحت السيطرة. ولفتت إلى أن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها في وقت لا تخصص فيه جميع الشركات موارد كافية لاختبار هذه الأنظمة بصورة فعالة.
وأشارت فيركونين إلى أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات العاملة في مجال الذكاء الاصطناعي للاستفسار عن إجراءات السلامة والأمن التي تطبقها، وذلك في إطار تعزيز الإطار التنظيمي للذكاء الاصطناعي، حيث اكتسبت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعد من أشمل الأطر التشريعية العالمية لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
