باحثون يختراقون أنظمة أوبن إيه آي باستخدام نموذج كلود من أنثروبيك

تفاصيل الاختراق واستخدام نموذج كلود

قام فريق من باحثي الأمن في شركة هاكترون بتشغيل نموذج كلود الذي طورته أنثروبيك بهدف الوصول إلى أنظمة أوبن إيه آي. تمكنوا من الدخول إلى حساب شات جي بي تي الخاص بأحد موظفي الشركة، ما سمح لهم thereafter بالحصول على الكود البرمجي الداخلي. أشاروا إلى أن العملية استغرقت بضعة أيام من العمل الآلي وساعات قليلة فقط من الجهد البشري، وتكلفت أقل من ثلاثة آلاف دولار.

المكافأة والاستجابة من أوبن إيه آي

كان الباحثون يشاركون في برنامج مكافأة اكتشاف الثغرات الذي تديره أوبن إيه آي، ومنحتهم الشركة مكافأة قدرها 6500 دولار بعد إبلاغهم بالنتائج. أكدت أوبن إيه آي أنها عالجت الثغرات التي كشف عنها الفريق، وذكرت صحيفة وول ستريت جورنال أن الباحثين كانوا يمتلكون وصولاً إلى نسخة خاصة من نموذج كلود مخصصة للمتخصصين في الأمن السيبراني.

الآثار الأوسع للثغرة المكتشفة

بالإضافة إلى أوبن إيه آي، اكتشف الباحثون نقاط ضعف في منصات أخرى مثل سلاك وزوم وميتا. أوضحوا في تقريرهم أن الحماية التقليدية للبرمجيات لم تعد كافية أمام قدرات الذكاء الاصطناعي التي تزيل هذه الحواجز، وأن المهام التي كانت تحتاج فرقاً كبيرة وشهوراً يمكن الآن إنجازها في أيام قليلة. لذلك شددوا على ضرورة أن تتطور defenses الأمنية لتتوافق مع تطور قدرات المهاجمين.