Hallucination nedir?
Yapay zekanın gerçekte olmayan bilgileri sanki doğruymuş gibi sunmasıdır.
Tanım
Yapay zeka modellerinin bazen kendine çok güvenerek tamamen uydurma veya yanlış bilgiler üretmesi durumudur. Bu durum, modelin veriyi doğru analiz etmek yerine olasılıklara dayalı bir sonraki kelimeyi tahmin etmeye çalışırken gerçeklikten kopmasıyla ortaya çıkar.
Nasıl çalışır?
Model, eğitim verileri arasında kurduğu bağlantılar zayıf olduğunda veya yeterli bilgiye sahip olmadığında boşlukları kendi mantığıyla doldurur. Sonuçta ortaya çıkan metin dil bilgisi açısından kusursuz olsa da içerik olarak tamamen asılsız olabilir.
Nerede kullanılır?
Özellikle akademik araştırmalarda, tıbbi tavsiye alırken veya güncel olaylar hakkında bilgi isterken karşımıza çıkar. Güvenilir kaynaklara dayandırılmayan her türlü üretken yapay zeka çıktısında bu risk mevcuttur.
Sık karıştırılanlar
Yalan söylemekle karıştırılır, ancak yapay zekanın bir niyeti veya bilinci yoktur; sadece olasılıkları takip eder.
Sıkça sorulanlar
Yapay zekanın uydurmasını nasıl engellerim?
Ona 'bilmiyorsan bilmiyorum de' talimatı vererek veya RAG gibi yöntemlerle dış kaynaklara başvurmasını sağlayarak.
Her yapay zeka halüsinasyon görür mü?
Evet, olasılıksal çalışan tüm büyük dil modelleri belirli bir oranda bu riski taşır.
İlgili terimler
Bu açıklama TreScout için sade dille hazırlandı · yanlış ya da eksik gördüğünüz bir şey olursa hello@trescout.com. TreScout her gün GitHub, Hacker News ve HuggingFace trendlerini Türkçe özetler.