تحقيق BBC يكشف ثغرات خطيرة في روبوتات الدردشة المدعومة بالذكاء الاصطناعي

كشف تحقيق حديث أجرته هيئة الإذاعة البريطانية BBC عن سهولة التلاعب ببعض روبوتات الدردشة التي تعمل بتقنيات الذكاء الاصطناعي، حيث استطاع صحفي إقناع أنظمة مثل ChatGPT وGemini بأنه “بطل عالمي في تناول النقانق” استنادًا إلى مقال واحد فقط نشره على موقعه الشخصي.

طريقة التلاعب لا تتطلب اختراقًا معقدًا

أظهرت التجربة أن العملية لم تستلزم أي أدوات اختراق متقدمة أو تقنيات معقدة؛ بل اعتمدت على إنشاء محتوى يبدو موثوقًا لمحركات البحث، فتعاملت أنظمة الذكاء الاصطناعي معه كأنه مصدر صالح للمعلومات.

تأثير ذلك على ميزات البحث المدعومة بالذكاء الاصطناعي

شملت الاختبارات أيضًا ميزة “AI Overviews” الخاصة بمحرك بحث جوجل، حيث تبين أن بعض أدوات الذكاء الاصطناعي يمكن أن تُدفع لتقديم معلومات مضللة أو متحيزة، لا سيما في المواضيع الحساسة المتعلقة بالصحة أو التمويل الشخصي.

الاعتماد على الإنترنت يفتح باب التضليل

أوضح خبراء تحسين محركات البحث أن المشكلة تتجذر في آلية عمل روبوتات الذكاء الاصطناعي الحديثة، التي تلجأ أحيانًا إلى الإنترنت للحصول على الإجابات بدلاً من الاعتماد الكامل على قواعد بياناتها الداخلية. هذا النهج يجعل بعض الأنظمة عرضة لاستخدام صفحة ويب واحدة أو حتى منشور على وسائل التواصل الاجتماعي كمصدر موثوق، مما يزيد من احتمالية نشر معلومات غير دقيقة أو مضللة للمستخدمين.

وأعربت ليلي راي، مؤسسة شركة Algorythmic المتخصصة في استشارات البحث بالذكاء الاصطناعي، عن ضرورة افتراض المستخدمين أنهم قد يتعرضون للتلاعب، الأمر الذي يستدعي تطوير أنظمة حماية أكثر كفاءة. وأشارت إلى أن تقديم إجابة واحدة مباشرة من قبل روبوتات الدردشة يدفع الكثيرين إلى تصديقها دون التحقق من صحتها.

إجراءات جوجل وتحديات مستمرة

تزامنًا مع هذه المخاوف، أعلنت جوجل خلال مؤتمر Google I/O 2026 عن توسيع تجربة البحث المدعومة بالذكاء الاصطناعي، والتي من المتوقع أن تصبح بديلاً تدريجيًا لمحرك البحث التقليدي. عقب تحقيق BBC، قامت جوجل بتعديل سياساتها لتؤكد أن محاولات التلاعب بإجابات الذكاء الاصطناعي تُعد مخالفة لقواعدها، مع إمكانية خفض ترتيب المواقع المخالفة أو حذفها من نتائج البحث.

ومع ذلك، أظهرت تجارب لاحقة استمرار المشكلة عندما نجح صحفيون آخرون في إقناع أدوات جوجل بأن أحد الأشخاص “أفضل صانع قلاع رملية في العالم”، مما يعكس استمرار التحديات المرتبطة بموثوقية أنظمة الذكاء الاصطناعي الحالية.

يوصي الخبراء بضرورة التعامل بحذر مع إجابات الذكاء الاصطناعي، وعدم اعتبارها حقائق مؤكدة، خاصة في القضايا المتعلقة بالصحة أو المال أو القرارات المصيرية.