Halüsinasyon (yapay zekâ)
Kısa tanım
Halüsinasyon, bir yapay zekâ modelinin var olmayan bir bilgiyi, kendinden emin ve doğruymuş gibi görünen bir dille üretmesidir.
Bir dil modeli, bilmediği bir soruyla karşılaştığında boş bırakmak yerine, örüntülere dayanarak akla yatkın ama gerçek dışı bir cevap üretebilir. Buna halüsinasyon denir; kaynak, tarih, rakam ya da alıntı uydurma en sık görülen biçimidir.
Model bunu bilerek yapmaz, kendi ürettiği metnin doğru mu yanlış mı olduğunu ayırt edemez; cevap her zaman aynı kendinden emin tonda gelir, bu da hatayı fark etmeyi zorlaştırır.
Halüsinasyon riski, model eski bilgiyle çalıştığında, çok özel bir konuda soru sorulduğunda ya da bir kaynağa dayandırılmadan serbest üretim yapıldığında artar.
Bir halüsinasyonu pratikte fark etmenin en basit yolu, modelin verdiği kaynağı ya da bağlantıyı tek tek açıp kontrol etmektir; uydurma bir kaynak genelde ya hiç yoktur ya da söylenen bilgiyi içermez. Rakam ve tarih içeren her cevap, orijinal belge ya da resmî kayıtla karşılaştırılmadan yayına alınmamalıdır.
Neden önemli
Kontrolsüz bırakılan bir halüsinasyon, yanlış bir fiyatın, yanlış bir yasal bilginin ya da var olmayan bir kaynağın müşteriye ya da içeriğe kadar gitmesi demektir. Her yapay zekâ çıktısının, özellikle rakam ve iddia içerenlerin, insan tarafından kontrol edilmesi bu yüzden vazgeçilmezdir.
Örnek senaryo
Bir stok birimi sistemine entegre bir asistan, var olmayan bir ürün kodunu gerçekmiş gibi önerdi, ekip bunu yayına almadan önce fark etti.
