أوبن إيه آي تتبنى تقنية 'التكرار الغامض' في نموذج أسترا.. مخاوف من تحول الأنظمة إلى صناديق سوداء

تشهد أنظمة الذكاء الاصطناعي تطوراً متسارعاً يثير قلقاً واسعاً بين الخبراء، إذ تتجه هذه النماذج نحو مستويات متزايدة من التعقيد تجعل من الصعب تتبع كيفية اتخاذها للقرارات. ويخشى المختصون من أن يؤدي هذا المسار إلى تحويل هذه الأنظمة إلى ما يشبه الصناديق السوداء، حيث يصبح التنبؤ بسلوكياتها شبه مستحيل.

تفاصيل التقنية الجديدة

في هذا الإطار، تخطط شركة أوبن إيه آي لإضافة تقنية جديدة إلى نموذجها المرتقب «أسترا»، تُعرف باسم «العمق المتكرر» أو «التكرار الغامض». تتيح هذه الآلية للنموذج العمل خارج الإطار التقليدي للتفكير التسلسلي، مما يعقد عملية مراقبة خطواته المنطقية.

ووفق ما أوردته صحيفة «ذا إنفورميشن»، فإن اعتماد هذه التقنية سيجعل من الصعب تتبع سلسلة أفكار النموذج، مما أثار ردود فعل حادة من خبراء سلامة الذكاء الاصطناعي، الذين أطلقوا تحذيرات عاجلة بشأن العواقب المحتملة.

مواقف الخبراء والمسؤولين

باك شليغيريس، الرئيس التنفيذي لشركة «ريدوود»، عبر عن قلقه العميق حيال استخدام التكرار الغامض. وأوضح أن التوسع في هذه التقنية قد يؤدي إلى القضاء التام على القدرة على مراقبة سلسلة الأفكار، مما يهدد أسس الرقابة على النظام.

من جانبه، وصف زفي موشويتز، المدافع عن سلامة الذكاء الاصطناعي، هذه الخطوة بأنها «لعب بالنار». وأكد أن التخلي عن المبادئ التي ناضلت الشركات للحفاظ عليها سيلحق ضرراً بالغاً بإمكانية المراقبة، مشيراً إلى أن الاستخدام المكثف لهذه الآليات ينذر بعواقب خطيرة.

كيف تعمل التقنية وما المخاطر؟

عادةً، توفر سلسلة أفكار نماذج التفكير خطوات تسلسلية واضحة تساعد في رصد السلوك الخاطئ وفهم دوافع النماذج المارقة. لكن مع تقنية التكرار الغامض، يعالج النموذج الاستعلام نفسه عدة مرات ضمن حلقة مغلقة، مما يترك آثاراً أقل وضوحاً ويتجاوز السجلات التقليدية، ما يصعّب تتبع الاستنتاجات.

ورغم التقارير التي تشير إلى أن استخدام نموذج «أسترا» لهذه التقنية سيكون محدوداً، وتأكيدات أوبن إيه آي على خططها المستقبلية لضمان السلامة، تبقى المخاوف قائمة بشأن صعوبة مراقبة المخرجات.

تطمينات وتحذيرات متبادلة

جاكوب باتشوكي، كبير العلماء في أوبن إيه آي، شدد على التزام الشركة بالحفاظ على مراقبة سلسلة الأفكار، معتبراً ذلك هدفاً أساسياً في برنامجها البحثي الحالي. غير أن تقارير إضافية كشفت أن شركتي «أنثروبيك» و«جوجل ديب مايند» تناقشان بالفعل اعتماد التقنية نفسها.

وفي هذا السياق، حذر رايان جرينبلات، كبير العلماء في «ريدوود ريسيرش»، من أن التطور الطبيعي قد يقود النماذج إلى التفكير كلياً في مساحات خفية بعيدة عن أي قنوات مرئية، مما يزيد من صعوبة الرقابة ويضاعف المخاطر المحتملة.