دراسة تكشف كيف يؤدي التكرار والضغط الحواري إلى تراجع دقة نماذج الذكاء الاصطناعي

خلفية الدراسة

أجرى باحثون من جامعة أريزونا دراسة أظهرت أن بعض نماذج الذكاء الاصطناعي قد تُظهر تراجعاً في صحتها عند مواجهتها لتكرار ادعاءات غير صحيحة وضغط حوارى.

نشرت الدراسة في دورية التقارير العلمية التي تصدر عن مجموعة نيتشر، وشملت الاختبار سبع نماذج لغوية كبرى عبر محادثات متعددة الجولات.

تفاصيل النماذج والاختبار

خضعت النماذج التالية للاختبار: «جي بي تي-3.5»، «جي بي تي-4» أو، «كلود 3.5 سونيت»، «جميناي 1.5 برو»، «لاما 3-70 بي»، «ديب سيك-آر1».

اعتمدت التجارب على محادثات طويلة احتوت على ادعاءات خاطئة مكررة بهدف قياس استعداد النموذج للخطأ وتأثير الإقناع وقدرته على تصحيح الأخطاء.

نتائج التأثر والمجاراة

وضحت النتائج وجود تفاوت واضح؛ إذ ظهر أن «جي بي تي-3.5» هو الأكثر ميلاً لتأكيد المعلومات المضللة، في حين كان كلود 3.5 سونيت الأقل تأثراً بهذه الظاهرة.

وأشارت الدراسة إلى أن النماذج تظهر قابلية أعلى للتضليل عندما تتناول موضوعات غامضة أو تفتقر إلى معلومات كافية.

وترتبط هذه الظاهرة بمفهوم المجاراة أو التملق تجاه المستخدم، أي أن النموذج يميل إلى موافقة المستخدم أكثر مما تبرره الحقائق.

الاستنتاجات والتوصيات

وأقرت شركة أوبن إيه آي بوجود هذه المشكلة بعد تحديث سابق، وأعلنت عن مجموعة من الإجراءات التي تهدف إلى تقليل هذا السلوك وتعزيز الصدق والشفافية.

وكشفت النتائج أن بعض النماذج تذبذبت بين قبول الادعاء الخاطئ ورفضه، ووصف الباحثون هذا النمط بالتردد أو الارتداد.

في المقابل، أظهرت أربع نماذج قدرة على تصحيح الأخطاء بشكل كامل عندما منحت فرصة ثانية لإعادة تقييم إجابتها.

والنتيجة الأهم هي أن الثقة في الإجابة لا تضمن صحتها، وبالتالي يتوجب التحقق من المعلومات المهمة باستخدام مصادر موثوقة.