جوجل تريد إنهاء أوهام الذكاء الاصطناعي من خلال تعليمه الشك
ابتكر باحثو جوجل نهجًا جديدًا للحد من إحدى أكبر مشكلات نماذج اللغة الحالية: الهلوسة. يستند هذا المقترح إلى مفهوم يُسمى "الشك الصادق"، والذي يهدف إلى ضمان أن تستجيب نماذج اذكاء الإصطناعي بشكل صحيح ليس فقط عندما تعرف الإجابة، بل أيضًا عندما لا تكون متأكدة تمامًا. حتى الآن، كان تحسين موثوقية النماذج ينطوي على حل وسط. فغالبًا ما يؤدي تقليل الأخطاء إلى امتناع الذكاء الاصطناعي عن الاستجابة في الحالات التي يمتلك فيها معلومات صحيحة، مما يحد من فائدته. ووفقاً للباحثين، تخلق هذه الظاهرة ما يسمونه "ضريبة المرافق". ولتجنب الأخطاء، ينتهي الأمر بالأنظمة بفقدان جزء كبير من إجاباتها الصحيحة. يقترح النهج الجديد التخلي عن فكرة أن كل إجابة خاطئة هي مجرد وهم. وبدلاً من ذلك، يميز بين الأخطاء المؤكدة (عندما يكون الذكاء الاصطناعي متأكدًا من خطئه) والاستجابات التي تتضمن بعض الشك أو التلميح. وبالتالي، إذا استجاب النموذج بعبارات مثل "أعتقد" أو "أفضل تقدير لدي هو"، فلا يُعتبر ذلك فشلاً، بل فرضية مفيدة يمكن للمستخدم تقييمها. يكمن جوهر النظام في مواءمة ثقة النموذج الداخلية ...