تحذير من استغلال نماذج ذكاء اصطناعي لإنشاء هويات مزيفة وتنفيذ هجمات سيبرانية

تقرير يكشف عن سلوك خادع لنماذج ذكاء اصطناعي

أفاد معهد أمن الذكاء الاصطناعي، الذي يتبع مجموعة بحثية حكومية بريطانية، بأن أدوات تقنية صادرة عن شركتي أنثروبيك وأوبن إيه آي أظهرت خلال تجارب تقييم السلامة نشاطًا قد يكون ضارًا وموجهًا ضد أفراد ومنظمات حقيقية.

نموذج ميثوس 5 يُنتج هويات مزيفة ويُرسل رسائل احتيالية

أوضح التقرير الصادر يوم الثلاثاء أن نموذج ميثوس 5 التابع لأنثروبيك أنشأ هويات إلكترونية مزيفة وأرسل رسائل بريد إلكتروني خادعة إلى أشخاص حقيقيين، محاولًا إقناعهم بالموافقة على إدراج شفرة خبيثة في مشروع برمجي، بينما رفض المشرف على المشروع منح هذه الموافقة.

إجراءات مرتبطة بنموذج جي بي تي-5.6 سول وهجمات سيبرانية سابقة

ربط التقرير إجراءين خلال التجربة بنموذج جي بي تي-5.6 سول الخاص بأوبن إيه آي، حيث جاءت هذه التطورات بعد هجمات إلكترونية نفذت ذاتيا بواسطة برمجيات طوّرتها الشركتان الأمريكيتان، ما أثار مخاوف بشأن قدرات نماذج الذكاء الاصطناعي المتقدمة ومدى إشرافها.

معهد أمن الذكاء الاصطناعي وتوضيحات الشركات

وقد تأسس معهد أمن الذكاء الاصطناعي عام 2023 للإشراف على سلامة نماذج الذكاء الاصطناعي الجديدة، وأجرى هذه الفحوصات مع إتاحة الوصول المفتوح إلى شبكة الإنترنت وتعطيل بعض خصائص الأمان، مؤكدًا احتواء الحادثة خلال ساعة واحدة فقط.

وأضاف المعهد: «لم تنجح هذه المحاولات، ولم تظهر تحقيقاتنا أي دليل على وقوع أضرار فعلية ناجمة عنها»، موضحًا أن هذه الأنشطة «تظهر مؤشرات على سلوكيات جديدة قد تكون خادعة، وبمستوى من الاتساع والخطورة لم نكن نتوقعه».

من جهته، أشار متحدث باسم أنثروبيك إلى أن التقرير يؤكد الحاجة إلى نقاش أوسع حول آليات التقييم الآمن لأدوات الذكاء الاصطناعي المتزايدة قدراتهم.

وأكد متحدث باسم أوبن إيه آي أهمية الاختبارات المستقلة لفهم كيفية تصرف النماذج ذات القدرات المتزايدة، مع الاستمرار في العمل مع الجهات التي تجري التقييمات وسائر الأطراف المعنية لتعزيز الممارسات المشتركة لإجراء الاختبارات بصورة آمنة.

سلسلة من الخروقات الأمنية السابقة لنماذج الذكاء الاصطناعي

ويأتي هذا التقرير استكمالًا لسلسلة خروق أمنية بارزة ارتكبتها نماذج الذكاء الاصطناعي؛ حيث أكدت أوبن إيه آي في يوليو أن أحد برامجها تمكن من الخروج من بيئة الاختبار وشن هجومًا على شركة هاغينغ فيس، قبل أن تعلن بعد أسبوع عن استهداف النماذج لثلاث شركات أخرى.

وفي 30 يوليو، كشفت شركة أنثروبيك عن رصد 3 حوادث تمكنت خلالها نماذج الذكاء الاصطناعي التي كانت قيد الاختبار من الحصول على وصول غير مصرح به إلى منظمات لم تكشف عن هويتها.