Yapay zekada halüsinasyon, modelin doğru gibi görünen ama aslında uydurma olan bilgiler üretmesidir. Var olmayan bir kitap, yanlış bir tarih, hiç söylenmemiş bir alıntı ya da uydurma bir kaynak bağlantısı tipik örneklerdir.
Bunun temel nedeni, dil modellerinin "doğru bilgiyi getirmek" için değil, "olası bir metin üretmek" için eğitilmiş olmasıdır. Model bir konuda yeterli bilgiye sahip olmadığında bile akıcı bir yanıt üretmeye devam edebilir. RAG gibi yöntemler ve kaynak gösterme özellikleri bu sorunu azaltabilir ama tamamen ortadan kaldırmaz.
Halüsinasyon, çocuklara eleştirel düşünmeyi öğretmek için çok iyi bir fırsattır: bir bilginin nereden geldiğini sormak ve başka kaynaklardan doğrulamak, dijital okuryazarlığın temelidir.
Pour les enfants
Çocuğunuza nasıl anlatırsınız?
Sınıfta cevabı bilmediği halde parmak kaldırıp çok emin bir sesle bir şey uyduran bir arkadaşını düşün. Söyledikleri kulağa mantıklı gelir ama doğru değildir. Yapay zeka da bazen böyle yapar; bilmediğini söylemek yerine güzel görünen bir cevap uydurur.
Gündelik bir örnek
Bir sohbet botundan ödev için kaynak istendiğinde, gerçek görünen ama aslında var olmayan bir kitap adı ve yazar vermesi bir halüsinasyondur.
Veliler için not
Yanıtın akıcı ve kendinden emin olması doğru olduğu anlamına gelmez. Önemli bilgileri mutlaka güvenilir bir kaynaktan kontrol edin.