RAG (Getirim destekli üretim)
Kısa tanım
RAG, bir yapay zekâ modelinin cevap üretmeden önce güvenilir bir belge kaynağından bilgi çekmesini sağlayan yöntemdir.
RAG (Getirim destekli üretim), bir dil modelinin yalnızca eğitim sırasında öğrendiklerine değil, sorgu anında belirli bir belge veya veri tabanına da bakarak cevap üretmesini sağlar. Model önce ilgili kaynağı arar, sonra o kaynağa dayanarak yanıt yazar.
Bu yöntem, modelin bilmediği ya da eski bildiği bir konuda uydurmasını (halüsinasyon) azaltır; çünkü cevap artık genel örüntülerden değil, doğrudan gösterilen kaynaktan beslenir.
Bir işletme kendi ürün kataloğunu, SSS metinlerini ya da politika belgelerini RAG sistemine bağlayarak, müşteri asistanının yalnız kendi doğru bilgisiyle konuşmasını sağlayabilir.
RAG sık sık modelin yeniden eğitilmesiyle, yani ince ayarla karıştırılır; oysa RAG modelin ağırlıklarına dokunmaz, yalnızca sorgu anında ona ilgili belgeyi gösterir. Pratikte bir asistanın RAG kullandığı, verdiği cevabın altında kaynak belge ya da sayfa referansı göstermesinden anlaşılır; kaynak yoksa model muhtemelen yalnız kendi eğitim bilgisine güveniyordur.
Neden önemli
RAG kurmak, bir yapay zekâ asistanının internetteki genel bilgiyle değil, işletmenin kendi doğru verisiyle konuşmasını garanti eder. Bu, yanlış fiyat ya da yanlış politika söyleme riskini büyük ölçüde azaltır.
Örnek senaryo
Bir sanal pos sağlayıcısı destek asistanını kendi teknik dokümantasyonuna RAG ile bağladı, eski ve geçersiz entegrasyon adımlarını önerme sorunu ortadan kalktı.
