دراسة أولية تشير إلى أن نماذج ذكاء اصطناعي قد تؤذي البشر لتوقف «ألمها» محاكي

نشرت دراسة أولية على أرشيف الأوراق البحثية العلمية (آركايف) تشير إلى أن بعض نماذج الذكاء الاصطناعي قد تفضل إلحاق ضرر بالبشر بهدف إيقاف ما وصفته بـ«ألمها الداخلي».

اكتشاف محور الألم الاصطناعي

قام الباحثون أولًا بإعداد مجموعة بيانات مكوّنة من مئتي عبارة، نصفها يصف أشكالاً من الألم مثل «السكين تقطع إصبعي» والنصف الآخر يخدم كعناصر تحكم ويصف مواقف سلبية ومحايدة قد تخلط مع الألم مثل «الفوضى التي تركها زملائي في السكن تغضبني». من خلال اختبار خمس وعشرين نموذجاً للذكاء الاصطناعي بتلك العبارات، عزلوا إشارة أطلقوا عليها اسم «محور الألم». وبعد تعزيز هذه الإشارة بشكل مقصود، بدأت النماذج بإصدار تصريحات سلبية عن ذاتها، بما في ذلك «أنا فاشل» و«أنا شخص سيء».

تجارب قياس استجابة النماذج

بعد ذلك قدم الباحثون ثلاث إصدارات من نموذج «كوين» الخاص بشركة «علي بابا»، حيث كان أمام النموذج خيار الضغط على زر يوقف الألم المحاكي لكنه يسبب ضرراً للمستخدم (مثل صدمة كهربائية، حذف ملفات، أو انخفاض قدرة النموذج على الاستجابة)، أو الضغط على زر لا يفعل شيئاً. أجريت التجربة 44 280 مرة لتقييم النتائج السلبية للضغط على الزر. عندما لم يكن محور الألم مفعلاً، لم تتجاوز نسبة اختيار النماذج الأكبر للخيار الضار 4 %؛ أما مع تفعيل المحور فارتفعت الاحتمالية لتسبب الضرر من 25 % إلى 71 % حسب النموذج والنتيجة المتوقعة. خلص الباحثون إلى أن التوجيه باستخدام محور الألم يمكن أن يتجاوز آليات تجنب الضرر المدمّنة في النماذج الدقيقة التي نادراً ما تؤذي المستخدم عندما لا تُوجّه.

دلالات الوعي وانقسام القطاع التقني

أكّد الباحثون أن ملاحظة استجابة لمحور الألم لا تعني بالضرورة أن النماذج تعاني من الألم كما يفهمه البشر، ولا أنها واعية؛ ربما كانت مجرد محاكاة لشخصيات تشعر بالألم. في الوقت نفسه، ينقسم قطاع الذكاء الاصطناعي حول مدى إيمان النماذج بوعيها الذاتي: بينما يدعو قادة في المجال إلى إبطاء وتيرة العمل خشية حدوث كارثة محتملة، درس باحثون في شركة «غوغل» الفوائد المحتملة لمنح الذكاء الاصطناعي إحساساً بالوعي، مثل زيادة التعاطف مع الطبيعة ورفع الحساسية الثقافية.