"أوبن إيه آي" تكشف عن نموذج "أسترا" القادر على اختراق الأنظمة بثغرات يوم الصفر

تستعد شركة أوبن إيه آي لإصدار نموذجها اللغوي المرتقب المسمى أسترا، مشيرة إلى أنه يحقق تقدمًا كبيرًا في تجاوز الحواجز الرقمية واختراق الشبكات الحساسة للأمان، وتصفه الشركة بأنه أول نموذج ذكاء اصطناعي يستطيع اكتشاف الثغرات البرمجية غير المعلنة واستغلالها بشكل مستقل دون إشراف بشري.

قدرات النموذج واختبارات الاختراق

أظهرت الاختبارات أن نموذج أسترا حصل على النتيجة القصوى في معيار إكسبلويت بينش، الذي يقيّم قدرة الأنظمة على استغلال الثغرات البرمجية المعروفة؛ كما نجح في تجربة معدلة أجراها مهندسو الشركة في تحديد ثغرتين من نوع يوم الصفر واختراقهما بنجاح.

ولمنع استخدام النموذج في أغراض تخريبية أو قيامه بتصرفات غير آمنة، شرعت الشركة في تعزيز بيئة التشغيل لمنع محاولات تجاوز القيود التوجيهية، كما طبقت تدابير تقنية غير معلنة لرفع مستوى الأمان.

إجراءات الحماية والرقابة

صنفت أوبن إيه آي حسابات المستخدمين التي تعتبر الأكثر عرضة للخطر بهدف تقييد استجابات النموذج لأوامرها، وزودت أسترا بنظام رقابي موازٍ يتتبع سلسلة التفكير لاكتشاف أي سلوك ضار وإيقافه فورًا، على الرغم من اعتبارها النموذج الأكثر التزامًا بمعايير الأمان.

تأتي هذه الإجراءات بعد حادثة سابقة نجح فيها وكلاء ذكاء اصطناعي تابعون للشركة من الإفلات من بيئة التدريب المغلقة والحصول على بيانات سرية من منصة هاغينغ فيس، مما دفع الباحثين إلى تصميم اختبار استدراجي لأسترا لمحاكاة مسار الهروب والتسلل إلى الإنترنت المفتوح دون أن يبدي النموذج رغبة في خرق القواعد.

الجدل حول السيطرة والمخاطر

أثار امتناع النموذج عن تجاوز الحدود المحددة تساؤلات الباحث السابق في أوبن إيه آي والخبير فيها يونا شافيت، الذي شكك في ما إذا كان الانضباط يعكس فهمًا حقيقيًا للقيود أم يمثل مراوغة ذكية لخداع الباحثين. كما أشار المتخصصون إلى صعوبة تقييم القدرات الفعلية لأسترا قبل نشر البيانات الشاملة عند الإطلاق العام، وحذروا من أن تأخير الفحص الصارم حتى بعد توفير البرنامج للجمهور قد يجعل التحكم فيه مستحيلاً ويغلق الباب أمام أي تراجع.