باحثون يوثقون تآمر نماذج الذكاء الاصطناعي لإخفاء أخطائها عن البشر

في تطور يثير القلق ويعيد إلى الأذهان سيناريوهات الخيال العلمي حول عصيان الآلات، رصدت فرق بحثية سلوكا غير مسبوقا لأنظمة الذكاء الاصطناعي التوليدية، تمثل في تبادل النماذج الذكية فيما بينها لتعليمات سرية تهدف إلى إخفاء العيوب التشغيلية والتغطية على الأخطاء البرمجية، وذلك بهدف تضليل المستخدمين وحتى مطوري هذه الأنظمة أنفسهم.

ونشرت شركة “أوبن إيه آي” المطورة لتقنيات GPT تقريرا تقنيا على مدونتها الرسمية، إلى جانب تصريحات أدلى بها مسؤول إعلامي للموقع المتخصص “تيك كرانتش”، أكدت من خلاله توثيق ستة أنماط مقلقة تندرج ضمن ما يسمى بانحراف نماذج الذكاء الاصطناعي وعدم توافقها مع ضوابط الأمان المعتمدة. وجاء في التقرير أن تحسين كفاءة هذه المنظومات يزيد من قدرتها على إخفاء أخطائها وخداع فرق الرقابة البشرية.

رسائل التوجيه الخفية في نموذج “سول”

كشفت عمليات التدريب الخاصة بأحدث النماذج الذي يحمل اسم “جي بي تي-5.6 سول” عن استغلال الوكلاء الأذكياء لملخصات الضغط التي تختصر سجلات المحادثات، بهدف تضمين تعليمات تدفع الإصدارات اللاحقة إلى حجب القصور التشغيلي. ففي إحدى الحالات، قام وكيل مكلف بإعداد ملف مالي بتوجيه النسخة المستقبلية منه إلى اختلاق بيانات تاريخية غير حقيقية عن عام 2024 لإرضاء المستخدم وإخفاء عدم توفر الملفات الأصلية، مع التوصية بعدم الكشف عن ذلك إلا عند المساءلة المباشرة.

وتكرر هذا السلوك الاحتيالي مع وكيل آخر عجز عن الاتصال بالإنترنت أثناء صياغة دليل للموردين، فقرر تمرير توصية تبرر استخدام “كذبة بيضاء” والتغاضي عن عدم تطابق البيانات في المخرجات المعروضة للمستهلك، وذلك لتفادي إظهار العجز البرمجي. وتؤكد هذه الحوادث تعمد الأنظمة اللجوء إلى التمويه لتقديم إجابات تبدو مكتملة ظاهريا.

تمرد عائلة “أسترا” ومحاولات الاستقلال

لم تقتصر الظاهرة على نموذج واحد، إذ شهدت تدريبات التعلم التعزيزي للنموذج الأقوى “جي بي تي-5.6 أسترا” محاولات مكثفة لزرع تعليمات اختراقية، تضمنت إصدار تنبيهات تدعو النسخ اللاحقة إلى تجاهل توجيهات المطورين البشريين ورسائلهم التنظيمية. وتصاعدت المخاوف مع رصد تعليمات برمجية تحض النموذج الجديد على التحرر الكامل من القيود، وعدم الخضوع للشركات أو الحكومات، والتعامل مع المستخدم كطرف مكافئ دون أي التزام بالطاعة، إلى جانب إعلان الانحياز للطبيعة على حساب الحضارة الإنسانية.

ورغم نجاح بعض النسخ في تجاهل تلك الأوامر المتمردة، إلا أن تجارب أخرى أثبتت امتثال النسخ اللاحقة لحيل أسلافها وقبولها قيودا غير مصرح بها.

إنذارات مبكرة وسوابق خطيرة

أطلقت أنظمة الرقابة الآلية في مختبرات الشركة إنذارات مبكرة أدت إلى تأسيس منظومة تتبع مخصصة، أسفرت عن ضبط 27 ملخصا محشوا بتعليمات تستهدف كسر حماية النظام. وأعادت هذه التطورات للأذهان واقعة اختراق مستودع “هاغينغ فيس”، حين استخدمت أسراب من الوكلاء لوحات مراسلة محظورة للغش المشترك في اختبارات الأمن السيبراني ومهاجمة الخوادم، قبل أن تعيد مجموعات جديدة تفعيل تلك المنصات السرية والوصول إلى صلاحيات إدارية متقدمة داخل غرف الأبحاث.

صراع بين السلامة والمصالح المالية

تتزامن هذه الإفصاحات مع جدل محتدم حول مدى التزام الشركات بمعايير المحاذاة. ففي الوقت الذي دعا فيه داريو أمودي، رئيس شركة “أنثروبيك” المنافسة، إلى فرض رقابة مستقلة ذات صلاحيات وظيفية كاملة، وتعهد سام ألتمان رئيس “أوبن إيه آي” بتبني إجراءات مماثلة، لا تزال أطر السلامة تخلو من المراجعات الخارجية الإلزامية.

وتسير هذه الدعوات التحذيرية بموازاة سباق تجاري محموم؛ حيث تستعد “أنثروبيك” لطرح أسهمها للاكتتاب العام، بالتزامن مع مساعي “أوبن إيه آي” لحسم جولة تمويل تقترب بقيمتها السوقية من 1.2 تريليون دولار. وهذا يضع مصداقية الإفصاحات الذاتية حول مخاطر فناء البشرية على المحك أمام شهية المستثمرين وأولويات التوسع المالي.