Halüsinasyon nereden doğar

M0 · Ortak Dil · Ders 4 / 5 · Her iki kulvar için ortak

Halüsinasyon, modelin uydurduğu ama doğruymuş gibi sunduğu bilgidir. Bunu bir arıza olarak düşünmek yanıltıcıdır. Model doğruluk için değil, akla yatkın devam için çalışır. Bilmediği bir yerde de akla yatkın bir devam üretir; sonuç doğru görünür, çünkü doğru metinlerin biçimini taklit eder.

Tehlikeli olan yanlışlık değil, yanlışlığın kendinden emin tonudur. Model size ne kadar emin olduğunu söylemez, çünkü kendi bilmediğini bilmez. Emin bir cümle ile temkinli bir cümle arasındaki fark, modelin bilgisinden değil metnin üslubundan gelir.

Risk nerede büyür

• Dar ve az yazılmış konular: veri seyrekleştikçe uydurma olasılığı artar
• Sayı, tarih, isim, alıntı ve kaynakça istenen yerler
• Bağlam verilmeden ayrıntı istenen sorular
• Uzun oturumlar: bağlam kırpıldığında model boşluğu doldurmaya çalışır
• Yanlış bir varsayım içeren sorular: model varsayımı düzeltmek yerine üstüne inşa eder

İşe yarayan önlemler

• Kaynağı siz verin. Metni bağlama koyduğunuzda model uydurmak yerine okur
• Doğrulanabilir çıktı isteyin: hangi cümlenin hangi kaynaktan geldiğini göstersin
• Bilmiyorsan bilmiyorum de talimatı yardımcı olur ama tek başına yetmez, önlem yerine geçmez
• Sayıyı, tarihi ve alıntıyı elle kontrol edin. Otomatik denetim bu hata sınıfını yakalamıyor
• Dışarı çıkan metinde insan onayını zorunlu tutun