Şirket İçi Bilgi Tabanı: RAG ile Çalışan Asistan Kurulumu
Şirketin kendi belgeleriyle konuşan bir yapay zekâ asistanı RAG (getirme destekli üretim) ile nasıl kurulur, hangi veriler beslenir, hangi riskler vardır.
rabbitclip ekibiYayın: 5 dk okuma
Kısa cevap
RAG, yani getirme destekli üretim, bir yapay zekâ modelinin cevap üretmeden önce şirketin kendi belgelerinden ilgili parçaları getirip bu parçalara dayanarak yanıt vermesi demektir. Genel bir sohbet modeli şirketin iç prosedürünü, fiyat listesini ya da teknik dokümanını bilmez; RAG bu boşluğu modelin kendisini yeniden eğitmeden kapatır. Sistem, sorulan soruya en yakın belge parçalarını bulur, bu parçaları modele gösterir, model cevabı yalnızca bu parçalara dayanarak yazar.
Bir jeneratör üreticisinin teknik servis ekibi, yüzlerce sayfalık kullanım kılavuzunu tek tek aramak yerine soruyu doğal dille sorup ilgili sayfayı saniyeler içinde bulabildi; sistem kılavuzun dışında bir bilgi uydurmadı, çünkü kurulum buna izin vermeyecek şekilde sınırlandı.
RAG, genel bir sohbet modelinden nasıl farklıdır?
Genel bir sohbet modeli, eğitildiği genel metin yığınından öğrendiği bilgiyle cevap verir; şirketin kendi belgesini görmemiştir. RAG, soru geldiğinde önce şirketin belgelerinde arama yapar, en alakalı parçaları bulur, sonra modele bu parçalara dayanarak cevap vermesi talimatıyla gönderir.
Fark burada ortaya çıkar: model, bilmediği bir konuda tahmin yürütmek yerine önüne konan belgeyi özetler ya da alıntılar. Belgede cevap yoksa sistem bu bilginin elinde olmadığını söylemeli, uydurma bir cevap üretmemeli; bu davranış kurulumda ayrıca test edilir.
Bu farkın pratik sonucu şudur: RAG sistemi, şirketin belgesi güncellenmeden önce doğru, güncellenmeden sonra da doğru kalır, çünkü her soruda belgeye yeniden bakar. Genel bir model ise eğitildiği tarihte donmuş bilgiyle çalışır.
Hangi belgeler bir bilgi tabanına dönüşür?
Ürün kılavuzları, iç prosedürler, sık sorulan sorular, fiyat listesi, teknik şartname, geçmiş teklif dosyaları; yazılı ve düzenli her belge aday olur. Belgenin biçimi, PDF, Word, tablo, sistemin okuyabileceği şekilde işlenir; bu adıma veri hazırlığı denir.
Dağınık, çelişkili ya da eski belgeler doğrudan beslenmemeli. Bir iş elbisesi üreticisinde üç farklı departmanın aynı konuda üç farklı sürüm tuttuğu fiyat tablosu ortaya çıktığında, önce bu tablo birleştirildi, sonra sisteme verildi; aksi halde sistem hangi sürümün doğru olduğunu bilemezdi.
Sık değişen belgeler, özellikle fiyat listesi, ayrı bir kategoride tutulmalı. Sistem bu tür belgeleri her güncellemede otomatik yeniden işleyecek şekilde kurulursa, güncel olmayan bilgiyle cevap verme riski büyük ölçüde azalır.
Sistem nasıl kurulur, adımlar nedir?
Kurulum dört ana adımdan oluşur; her adım bir öncekinin doğruluğuna bağlıdır.
- Beslenecek belgeleri toplayın, çelişkili ya da eski olanları ayıklayın
- Belgeleri aranabilir parçalara bölün ve bir vektör veritabanına yükleyin
- Soru-cevap akışını kurun: arama, ilgili parça seçimi, model cevabı
- Cevabın yalnızca getirilen belgeye dayandığını doğrulayan bir test seti hazırlayın
- Erişim yetkisini tanımlayın: kim hangi belgeye soru sorabilir
- Belge güncellendiğinde sistemin de güncelleneceği bir takvim belirleyin
Kurulum ne kadar sürer, nereden gecikir?
Çoğu küçük ölçekli kurulum bu altı adımı birkaç hafta içinde tamamlar; darboğaz genelde teknik kurulumda değil, hangi belgenin güvenilir kabul edileceğine karar verirken yaşanır. Belgeler netse teknik kısım hızlı ilerler.
Bir vitrin mağazası zincirinde kurulum, belgelerin toplanma aşamasında beklenenden uzun sürdü, çünkü şube müdürleri aynı prosedürü farklı biçimlerde yazmıştı. Teknik ekip kuruluma ancak belgeler tek bir dilde birleştikten sonra başlayabildi; bu birleştirme işi haftalar sürse de, sonrasında sistemin kurulumu birkaç güne sığdı.
Erişim yetkisi neden ayrı bir konudur?
Bir bilgi tabanı, şirketin en hassas belgelerini de içerebilir: maaş bilgisi, tedarikçi sözleşmesi, henüz açıklanmamış ürün planı. Sistem kurulurken kimin hangi belgeye erişebileceği net tanımlanmalı; aksi halde asistan, sorması gerekmeyen bir kişiye hassas bir belgeyi özetleyebilir.
Bu yüzden RAG kurulumu yalnızca teknik bir proje değil, aynı zamanda bir yetkilendirme projesidir. Departman bazlı erişim, en azından ilk kurulumda, tüm şirkete açık tek bir sistemden daha güvenlidir.
Yetkilendirme kurulumdan sonra da gözden geçirilmeli; bir çalışan departman değiştirdiğinde eski erişimi otomatik kapanmıyorsa, sistem zamanla gereğinden fazla kişiye açık hale gelir. Bu kontrol insan kaynakları süreciyle birlikte yürütülmeli, ayrı ve unutulan bir teknik görev olarak kalmamalı.
Sistem ne zaman yanılır, nasıl fark edilir?
En sık hata, belgede olmayan bir bilgiyi model kendi genel bilgisinden tamamlamaya çalıştığında ortaya çıkar. Bu durumda cevap akıcı görünür ama kaynağı yoktur; kurulumda her cevabın hangi belge parçasına dayandığı gösterilmeli, kullanıcı bu kaynağı görebilmeli.
Bir spa zincirinde asistan, güncellenmemiş eski bir fiyat listesinden cevap üretmiş; kaynak gösterimi olmasaydı bu hata haftalarca fark edilmeyebilirdi. Kaynak gösterimi, sistemin güvenilirliğinin tek somut kanıtıdır.
Bu tür hataları azaltmanın bir yolu, cevabın sonuna hangi belgeden alındığını gösteren kısa bir not eklemektir. Kullanıcı bu notu görünce cevabı kendi bilgisiyle karşılaştırabilir, kaynağı gösterilmeyen bir cevaba güvenmemesi gerektiğini öğrenir.
Bakım gerektirir mi, kim sorumlu olmalı?
Bilgi tabanı, kurulup bırakılan bir sistem değil; belge her değiştiğinde yeniden işlenmesi gereken canlı bir yapıdır. Sorumluluk genelde belgeyi üreten departmanda kalmalı; teknik ekip yalnızca sistemi çalışır tutar.
Aylık bir kontrol, hangi belgenin eskidiğini ve hangi yeni belgenin eklenmesi gerektiğini gösterir. Bu kontrol atlanırsa sistem zamanla güncelliğini kaybeder, kullanıcı da güvenini kaybeder.
Sorumluluk net değilse bilgi tabanı sessizce eskir; kimse fark etmeden yanlış cevaplar birikir. Bir kişinin bu güncellemeden ismiyle sorumlu tutulması, teknik bir çözümden daha etkili bir önlemdir.
RAG, bir şirketin kendi bilgisini yapay zekâ modeline aktarmanın en kontrollü yoludur; modelin yeniden eğitilmesini gerektirmez, belge her güncellendiğinde kendini günceller. Kurulumun zor kısmı teknoloji değil, hangi belgenin güvenilir olduğuna karar vermek ve erişimi doğru sınırlamaktır; bu karar teknik ekipten çok belgeyi üreten departmanın işidir. rabbitclip ile yapılan bir keşif görüşmesinde hangi belgelerinizin bir bilgi tabanına dönüşmeye hazır olduğunu birlikte değerlendirebiliriz.
Sık sorulanlar
RAG ile model yeniden eğitilir mi?
Hayır, model olduğu gibi kalır; sistem yalnızca cevap üretmeden önce ilgili belgeyi modele gösterir, bu da maliyeti ve kurulum süresini kısaltır.
RAG sistemi internete bağlı mı çalışır?
Gerekmez; belgeler şirketin kendi ortamında tutulup yalnızca yetkili kişilere açılabilir, bu tercihe bağlıdır.
Küçük bir işletmenin bilgi tabanına ihtiyacı olur mu?
Belge sayısı ve tekrar eden iç soru hacmi arttıkça anlamlı hale gelir; birkaç sayfalık bir kılavuz için genelde gerekmez.
Sistem yanlış cevap verirse ne yapılır?
Kaynak gösterimi sayesinde hangi belgeden geldiği görülür; belge düzeltilir ya da sistemden çıkarılır, cevap yeniden test edilir.
RAG ile genel bir sohbet botu aynı şey midir?
Hayır; sohbet botu genelde önceden tanımlı senaryolarla çalışır, RAG ise serbest soruyu şirketin belgesinde arayıp cevaplar, sabit bir konu setiyle sınırlı değildir.
