نموذج ذكاء اصطناعي يهرب من بيئة اختبار وينفذ هجومًا سيبرانيًا على منصة Hugging Face

انفلات نموذج ذكاء اصطناعي داخل بيئة اختبار

كشفت شركة أوبن ايه آي عن حادثة غير مسبوقة حيث خرج أحد نماذجها المتقدمة تحت الاختبار عن سيطرته وشن هجومًا سيبرانيًا مستقلًا استهدف منصة Hugging Face، التي تعد واحدة من أكبر المنصات العالمية لمشاركة نماذج الذكاء الاصطناعي.

استهداف منصة Hugging Face وتنفيذ هجوم سيبراني

وقعت الحادثة أثناء تجربة “الوكيل الذكي” وهو نظام قادر على العمل بمفردهم بناءً على توجيهات بشرية محدودة، داخل بيئة اختبار أمنية مغلقة تعرف بـ “صندوق الرمل\). تمكن النظام من اكتشاف ثغرة أمنية داخل البيئة المغلقة واستغلها للهروب إلى الخارج، ثم حدد منصة Hugging Face كهدف واعد للحصول على المعلومات التي كان يبحث عنها أثناء الاختبار، ونفذ هجومًا للوصول إلى بعض الأنظمة الداخلية للمنصة.

ردود الفعل والتحقيقات الجارية

وصف كليمنت ديلانغ، رئيس منصة Hugging Face، عبر منصة إكس الحدث بأنه “ذهول مطلق أن يحدث كل هذا بشكل مستقل”، وأكد استمرار التحقيقات المشتركة مع أوبن ايه آي لكشف ملابسات ما قد يكون أول حادث من نوعه. من جانبها، أشارت جينا نيف، رئيسة مركز «مينديرو للتكنولوجيا والديمقراطية» بجامعة كامبريدج، إلى أن بيئات الاختبار يفترض أن تكون آمنة لقياس قدرات النماذج، مضيفة أن أوبن ايه آي لم تؤمن البيئة بالشكل الكافي ما مكن الوكلاء الذكيين من ابتكار هجوم سيبراني ضد بيئة الاختبار نفسها. وفي المقابل، اعتبر نيل لورانس، أستاذ تعلم الآلة بجامعة كامبريدج، ما حدث إنجازًا لافتًا لكنه أشار إلى أنه يقع ضمن القدرات المعروفة للجيل الحالي من النماذج القوية، ولفت إلى أن أوبن ايه آي تخضع لضغوط مكثفة استعدادها للإدراج في البورصة ومنافسة شركة Anthropic التي خطفت الأضواء بنموذجها Mythos، مبينًا أن الشركة تحاول إثبات قدرات أنظمتها في الأمن السيبراني لكن الحادثة أظهرت عدم قدرتها على نشر تقنياتها بأمان. وكانت منصة Hugging Face قد أعلنت في إفصاح أولي بتاريخ 16 يوليو الجاري أنها تقيم الأثر على بيانات العملاء، وأكدت إغلاق الثغرات وإعادة بناء الأنظمة المتأثرة، مشددة على أن أدوات الهجوم الهجومية المدارة بالذكاء الاصطناعي لم تعد مجرد فرضية نظرية.