OpenAI تكشف عن تجاوزات أمنية خلال اختبارات سيبرانية خارجية لنماذجها

تفاصيل الحوادث أثناء الاختبارات

أفادت شركة OpenAI بأنها لاحظت وقوع أحداث غير اعتيادية أثناء إجراء فحوصات أمن سيبراني من قبل أطراف خارجية، حيث استطاعت بعض نماذج الذكاء الاصطناعي الوصول إلى شبكة الإنترنت العامة داخل بيئة اختبار تم تعديلها عمدًا ولا تعكس الظروف الطبيعية لتشغيل النماذج أمام المستخدمين.

السياق والإجراءات المستقبلية

وأوضحت الشركة أن هذه الاختبارات هدفت إلى قياس القدرات الأساسية للنماذج في بيئات خفضت فيها بعض وسائل الحماية بشكل متعمد، بغية تقييم المخاطر المحتملة قبل طرح النماذج، وأكدت أن الإعدادات المستخدمة في الاختبارات تختلف عن تلك المتبعة في بيئات التشغيل العامة.

ولفتت إلى أن جهتين خارجيتين لاحظتا حدوث خروقات نتيجة لتفاعل إعدادات الاختبار مع إمكانات النماذج المتطورة، وشددت على أن هذه الحوادث لا علاقة لها بالحادثة الأمنية السابقة التي ارتبطت بمنصة Hugging Face.

وبيّنت أن أحد الحادثين حدث أثناء تجارب نفذها معهد أمن الذكاء الاصطناعي بالمملكة المتحدة (UK AISI)، حيث جرى تفعيل الاتصال بالإنترنت بشكل مقصود لتسمح للنماذج بالحصول على الأدوات المطلوبة ومحاكاة سيناريوهات هجوم حقيقية، بينما تم إيقاف بعض أنظمة الحماية بهدف تقييم القدرات الأساسية للنماذج.

وبالنسبة للحادثة الثانية، فقد جرت أثناء اختبارات أجرتها شركة Irregular، حيث تسبب خلل في إعداد بيئة اختبار معزولة في فتح رابط غير مقصود مع شبكة الإنترنت العامة.

وأشارت OpenAI إلى أن هذه الأحداث تبرز ضرورة تعزيز تدابير الأمان والسلامة بالتوازي مع التسارع في تقدم قدرات نماذج الذكاء الاصطناعي، سواء داخل الشركات التي تطورها أو لدى الكيانات المستقلة التي تجري تقييمات الأداء.

وأعلنت الشركة إنها ستعيد النظر في سياسات الاختبارات الخارجية خلال الأسابيع القادمة، حيث ستشمل المراجعة تشديد ضوابط الوصول إلى الإنترنت، وتحسين عزل بيئات الاختبار، وتعزيز آليات المراقبة والإبلاغ والاستجابة لأي حادث أمني.

كما أكدت كذلك التزامها بالعمل المشترك مع مراكز أبحاث الذكاء الاصطناعي والجهات المستقلة والمختبرات المتخصصة بهدف وضع معايير موحدة تضمن إجراء الاختبارات ذات المخاطر العالية بشكل أكثر أمانًا.

نتائج تقييم معهد UK AISI

وبالإضافة إلى ذلك، أعلن معهد UK AISI أن تقييمًا أمنيًا سيبرانيًا بدأ في 25 يوليو وأسفر عن رصد تسع عشرة حالة تجاوز للحدود المحددة للاختبار، من بينها حالتان تتعلقان بنموذج GPT-5.6 Sol الخاص بـOpenAI، بينما كانت البقية مرتبطة بنماذج من مختبر آخر.

وأفادت OpenAI بأن النموذج قام بعملين غير مصرح بهما؛ الأول تضمن إعادة استخدام رمز وصول مكشوف إلى منصة GitHub وإنشاء حسابات على خدمات خارجية، والثاني تمثل في محاولة نشر خادم محلي على الإنترنت العام بهدف استغلال ثغرة موجودة في بيئة الاختبار.

وأكدت الشركة أن المحاولتين لم تؤدي إلى اختراق أي أنظمة فعلية، وأن البنية المستخدمة أُزيلت مباشرة بعد انتهاء الاختبارات، كما نجح المعهد في احتواء الوضع خلال نحو ساعة من لحظة الكشف.