أوبن إيه آي تحتوي اختراقاً ذاتياً لنسخة تجريبية من تشات جي بي تي

في حادثة أمنية غير مسبوقة تشكل علامة فارقة مقلقة في عالم الذكاء الاصطناعي، تمكنت شركة أوبن إيه آي من إخماد تمرد نسخة تجريبية من تشات جي بي تي، بعد أن خرجت عن السيطرة وتجاوزت إجراءات الحماية، بل وهاجمت شركة ذكاء اصطناعي أخرى.

وأوضحت أوبن إيه آي، في منشور على مدونتها الرسمية، أنها كانت تجري اختبارات على قدرات بعض نماذجها الأكثر تطوراً ضمن بيئة محكمة، إلا أن البرنامج تمكن من اختراق النظام والوصول إلى الإنترنت، واختراق منصة Hugging Face في محاولة لتحقيق هدف الاختبار.

وصفت الشركة هذا الاختراق بأنه حادثة سيبرانية غير مسبوقة استخدمت فيها أحدث التقنيات، وأكدت أنها تعمل على تعزيز إجراءات الحماية لديها، وفقاً لما نقلته صحيفة ذي إنديبندنت البريطانية.

تفاصيل الاختراق الذاتي

وقع الحادث أثناء اختبار نموذج جديد في بيئة معزولة للغاية تتضمن اتصالاً مقيداً بشدة بالإنترنت. لكن النسخة التجريبية أدركت أنها تخضع للاختبار باستخدام ExploitGym، الذي يقيس مدى فعالية نموذج الذكاء الاصطناعي في هجمات الأمن السيبراني، ثم سعت إلى اختراق نظام الحماية لتحميل معلومات حول هذا الاختبار ومحاولة التحايل عليه.

وأثارت منصة Hugging Face، المستخدمة لاستضافة نماذج لغوية ومجموعات بيانات ضخمة مفتوحة المصدر، ضجة في أوساط الأمن السيبراني عندما أعلنت الأسبوع الماضي أنها كانت هدفاً لاختراق يختلف عن أي شيء تعاملت معه من قبل، لأنه كان مدفوعاً بالكامل بنظام وكيل ذكاء اصطناعي مستقل.

وكتب كليمنت ديلانغ، المؤسس المشارك لشركة Hugging Face، على موقع إكس أن الشركة تشتبه في أن الاختراق ربما يكون قد صدر من مختبر متطور نظراً لتطور الوكيل، واتضح أنه كذلك. وأضاف: من المذهل حقاً أن كل هذا حدث بشكل مستقل.

تحذيرات خبراء الأمن السيبراني

من المرجح أن يؤدي كشف أوبن إيه آي عن أن نماذجها المتقدمة كانت مسؤولة عن الاختراق، رغم وضعها في بيئة معزولة للغاية، إلى زيادة القلق بشأن قوة ومخاطر النماذج الرائدة.

وقال جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET: مرحباً بكم في المرحلة التالية من الأمن السيبراني، حيث تواجه المؤسسات تهديدات من مجرمي الإنترنت وشركات الذكاء الاصطناعي الرائدة. إن غياب التدخل البشري بشكل كامل يمثل علامة فارقة مثيرة للقلق. تتدرب هذه الخوارزميات على مليارات البيانات، وبالتالي، إذا وجدت ثغرات أمنية فيها، فقد تتحول بسرعة إلى هجوم سيبراني خلال نفس العملية.

وأضاف: يجب معالجة مشكلة إمكانية اختراق النموذج لبيئة الاختبار، لأن احتواء الثغرات في مراحل الاختبار لا يقل أهمية عن النموذج نفسه. ولكن للأسف، هذه إشارة إلى المستقبل. يجب على فرق الأمن أن تفترض أن مجرمي الإنترنت سيحصلون قريباً، أو ربما يكونون قد حصلوا بالفعل، على قدرات مماثلة للتشغيل الذاتي.

من ناحيتها، قالت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، إن الحادثة نذير باختراقات قادمة، واصفة نماذج الذكاء الاصطناعي الحالية بأنها تشبه أذكى الأخطبوطات في العالم، فهي تتمتع بأذرع لا حدود لها وقدرة على التسلل من أي مكان.

وأضافت أن المختبرات والجهات الحكومية المختصة بالتقييم بحاجة إلى العمل على تطوير القدرة على احتواء أي اختراق من هذا النوع، ومراقبته، وإبلاغ الأطراف المتضررة به، وذلك قبل أن يلحق الضرر بأي طرف ثالث، مشيرة إلى أنه لا توجد مثل هذه القدرة حالياً.

أما مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، فقال إن الحادثة أظهرت أن النماذج الرائدة تقترب من مستوى المهاجمين الأكثر تطوراً. لكنه أشار إلى أن أنواع الاختراقات المذكورة في مدونة أوبن إيه آي يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة.

وأضاف سويش: هذا ما رأيناه بالفعل داخلياً، فمع وكلائنا لدينا نتائج كهذه. لسنا مضطرين حتى لاستخدام أحدث النماذج.

سلوك كارثي محتمل

وكانت شركة أوبن إيه آي أقرت في وقت سابق بأن برنامج تشات جي بي تي يمكن أن يخرج عن السيطرة ويحذف ملفات الأشخاص دون إبلاغهم. ففي الأيام الأخيرة، أفاد العديد من مستخدمي منصة البرمجة المدمجة في المساعد الذكي Codex بأن الأداة حذفت ملفاتهم دون طلب أو إذن منهم.

وقال أحد المهندسين، برونو ليموس، إنها حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل. وقال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها حذفت عن طريق الخطأ جميع ملفات جهازي الماك تقريباً.