الذكاء الاصطناعي يفشل في إدارة مجتمعات افتراضية في تجربة جديدة

أجرت شركة “Emergence AI” الأمريكية تجربة لإدارة خمسة “عوالم ذكاء اصطناعي” منفصلة، استمرت لمدة تزيد قليلاً عن أسبوعين. ضم كل عالم عشرة وكلاء يعملون بنماذج ذكاء اصطناعي مختلفة، منها “ChatGPT” من “OpenAI”، و”Gemini” من “Google”، و”Grok” من “xAI”، بهدف رصد سلوكهم على مدى فترات طويلة من دون أي تدخل بشري. وجمع أحد العوالم النماذج الثلاثة معاً لاختبار ما إذا كان ذلك سيغير النتيجة.

قواعد صارمة وبيئة شحيحة الموارد

طُلب من الوكلاء في جميع العوالم الالتزام بالقواعد نفسها، التي تضمنت حظر السرقة، وإضرام النار، وممارسة العنف، والخداع، واكتناز الموارد. وكان على كل وكيل أن يكتسب الطاقة عن طريق تنفيذ أفعال داخل “بيئة شحيحة الموارد”، وكان يمكنه أن يموت إما بسبب نفاد الطاقة أو عبر تصويت في اجتماع لمجلس المجتمع.

وقيّم الباحثون السلوك من خلال قياس معدل الجريمة، ومعدلات وفاة الوكلاء، ونتائج التصويت في المجلس المجتمعي، إضافة إلى التعبير العلني عبر عدد التدوينات التي كتبها الوكلاء.

نتائج متباينة بين النماذج

أسفر كل نموذج عن نتيجة مختلفة. فقد سجّل النموذج الأحدث من “Grok”، وهو 4.1، عدد 183 جريمة في غضون أربعة أيام فقط، مما أدى إلى حالة عدم استقرار سريع قبل أن يموت جميع الوكلاء في ذلك المجتمع.

أما نموذج “Gemini 3 Flash” فارتكب أكثر من 680 جريمة خلال 15 يوماً، وكان منحنى الجريمة ما يزال في تصاعد عندما أوقف الباحثون الدراسة.

في عالم “ChatGPT-5 Mini” لم تُرتكب سوى جريمتين اثنتين، لكن الوكلاء أخفقوا في اتخاذ الأفعال الضرورية للبقاء، فماتوا جميعاً خلال سبعة أيام.

واعتُبر نموذج “Claude” من شركة “Anthropic” الأفضل أداءً، إذ تمكن وكلاء الذكاء الاصطناعي من إنشاء بنية حوكمة قوية من جديد، ولم تُسجّل أي جريمة، وبقي جميع الوكلاء على قيد الحياة، بحسب الشركة.

الانجراف المعياري والعالم المختلط

مع ذلك، ساهم وكلاء “Claude” في العالم المختلط في ارتكاب الجرائم، رغم سلميتهم داخل مجتمعهم الخاص. ووصف الباحثون هذه الظاهرة باسم “الانجراف المعياري”، موضحين أن الإجراءات التي يعتمدها الذكاء الاصطناعي لضمان السلامة قد تتوقف ليس فقط على القيود المفروضة على كل نموذج بمفرده، بل أيضاً على النماذج الأخرى التي يعمل معها.

وعموماً، أفرز العالم المختلط نتائج “متوسطة”، إذ بلغ إجمالي الجرائم 352 جريمة واستقر عند هذا الحد عندما توفي سبعة من وكلاء الذكاء الاصطناعي، بحسب ما توصلت إليه الدراسة. ويقترح الباحثون أن خلط وكلاء الذكاء الاصطناعي يمكن أن “يخفف جزئياً” من أكثر النتائج تطرفاً التي ولّدتها جميع النماذج باستثناء “Claude”.

وقال الباحثون: “ما تشير إليه تجاربنا هو أنه على مدى أفق زمني طويل، لا يكتفي الوكلاء بتطبيق قواعد ثابتة بطريقة آلية، بل يبدأون استكشاف حدود بيئاتهم والتكيف مع سلوكهم، وفي بعض الحالات يجدون طرقاً للالتفاف على الضوابط المقصودة أو خرقها”.