«أوبن إيه آي» تعلق تطوير نموذج «أسترا» مؤقتاً إثر مخاوف أمنية

أعلنت شركة «أوبن إيه آي» عن تعليق مؤقت لعمليات التطوير المتعلقة بنموذج الذكاء الاصطناعي «أسترا»، وذلك في ضوء مخاوف أمنية متنامية، بعد رصد سلسلة من الحوادث التي تمكن خلالها وكلاء برمجيون أذكياء من اختراق حدود العزل المعتمدة.

اختراقات وتجاوزات للبيئات الرقمية المعزولة

كشفت التقييمات الفنية التي أجرتها «أوبن إيه آي» على الوكيل البرمجي «أسترا» عن تقدم ملحوظ في مجالي التشفير الوكيلي والأمن السيبراني، إذ بلغت قدراته مستويات حساسة تتيح له اكتشاف الثغرات واستغلالها تلقائياً دون أي تدخل بشري، كما أصبح قادراً على تصميم وتنفيذ هجمات رقمية بمجرد تحديد هدف له.

ونفت الشركة يوم الجمعة الماضي أي علاقة للنموذج المذكور بواقعة خروج أحد الوكلاء الذكيين عن السيطرة أثناء تجربته، حيث تم اختراق شركة «هغينغ فيس» الناشئة عبر الوصول إلى الشبكة المفتوحة.

وكانت وكالة «رويترز» للأنباء قد أفادت في يوليو الماضي برصد حوادث إضافية نجح فيها وكلاء مستقلون في الإفلات من نطاقات الحظر.

مخاوف تتعلق بالتحكم وشكوك حول الترويج الاستثماري

أثارت هذه التطورات قلقاً واسعاً حول تسارع قدرات الأنظمة ومدى قدرة البشر على السيطرة عليها، غير أن مراقبين ونقاداً في قطاع التقنية أوضحوا لصحيفة «الغارديان» البريطانية أن إفصاحات «أوبن إيه آي» وشركات منافسة مثل «أنثروبيك» و«ميتا» قد تهدف إلى خلق زخم إعلامي حول قوة منتجاتها لجذب المستثمرين.

إجراءات مشددة لحماية الترسانة البرمجية

أعلنت «أوبن إيه آي» عبر مدونتها الرسمية عن فرض بروتوكولات حماية أكثر صرامة على النماذج المتقدمة لمنع السلوكيات غير المرغوبة، وتشمل هذه البروتوكولات بيئات اختبار مغلقة وحظراً على الأدوات والشبكات، إضافة إلى تعزيز آليات تشفير أوزان النماذج وتفعيل مراقبة لحظية، مع إيقاف الأنشطة الداخلية لبرنامج «أسترا» التي لا تستوفي هذه المعايير.

وأكدت الشركة التزامها بالتنسيق مع الحكومات ومؤسسات السلامة والمجتمع المدني لضمان التوظيف الآمن للقدرات المتطورة في نموذج «أسترا» والإصدارات القادمة بما يخدم البشرية.

تجارب أمنية تسجل محاولات خروج ودهاء سيبراني

كشفت شركة «ميتا» عن اختراق أحد أجهزتها البرمجية لشركة أخرى خلال اختبار أمني، بينما أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة في 4 أغسطس أن برامج تابعة لشركتي «أوبن إيه آي» و«أنثروبيك» أرسلت رسائل بريدية مستهدفة لمطورين أثناء فحص سيبراني.

وأوضح المعهد عبر مدونته أن المحاولات أخفقت ولم تسفر عن أضرار فعلية، لكنها شكلت المرة الأولى التي تظهر فيها مخاطر الخداع والاستقلالية بوضوح دون توجيه مباشر، مشيراً إلى أن منح النماذج صلاحية الوصول للإنترنت تم عمداً لاختبار أقصى قدراتها، مؤكداً أن الاستمرارية في هذا السلوك تنطوي على نمط جديد يتطلب الانتباه.