RAG Nedir?

RAG neden bu kadar yaygınlaştı?

Büyük dil modelleri eğitim verisindeki bilgiyle yanıt verir; bu bilgi bir tarihte kesilir ve şirketinizin iç belgelerini hiç içermez. Modeli her yeni bilgiyle yeniden eğitmek pahalı ve yavaştır. RAG bu sorunu farklı bir yoldan çözer: model yanıt vermeden önce ilgili belgeleri bulur, bunları bağlamına ekler ve yanıtını bu belgelere dayandırır. Böylece model hem güncel hem de şirkete özel bilgiyle yanıt verebilir ve hangi kaynağı kullandığını gösterebilir.

Yöntem, 2020'de Facebook AI Research ve akademik ortaklarının yayımladığı çalışmayla adını aldı. Bugün şirket içi bilgi asistanlarından müşteri destek botlarına, yapay zeka arama sistemlerine kadar pek çok ürünün arkasında bu mantık var. Tipik bir RAG sisteminde belgeler önce anlamlı parçalara bölünür, her parça bir anlam vektörüne dönüştürülür ve bir vektör veritabanında saklanır. Soru geldiğinde en ilgili parçalar bulunur, yeniden sıralanır ve modele verilir.

Sayılarla bir örnek: Bir sigorta şirketinin 1.200 sayfalık poliçe belgelerinden oluşan bir bilgi asistanı var. Müşteri temsilcisi "yurt dışında trafik kazasında hangi masraflar karşılanır?" diye soruyor. Sistem ilgili 6 paragrafı buluyor ve model bunlara dayanarak yanıt veriyor, her iddianın yanında kaynak paragrafı gösteriyor. Temsilci yanıtı doğrulamak için kaynağa tek tıkla ulaşabiliyor. Bulunan paragraflardan biri eski bir poliçeye aitse yanıt da yanlış olabileceği için belge güncelliği sistemin en kritik parçası.

RAG ile ince ayar arasındaki fark

İçeriği RAG sistemlerine uygun yazmak

1. Her paragrafı kendi başına anlaşılır yaz. Sistemler sayfayı parçalara böler; bağlamdan kopuk bir paragraf seçilse bile anlamlı olmalı.
2. Başlıkları açıklayıcı tut. "Detaylar" yerine "Yurt dışı kargo süresi ve ücreti" gibi başlıklar parçanın konusunu netleştirir.
3. Tanımı ve rakamı açık ver. "Ücretsiz kargo 750 TL üzeri siparişlerde geçerlidir" gibi kesin cümleler alıntılanmaya daha uygundur.
4. Güncelliği göster. Tarih ve sürüm bilgisini sayfada açıkça belirt.
5. Çelişkili sayfaları temizle. Aynı konuda farklı bilgi veren eski sayfalar, sistemin yanlış parçayı seçmesine yol açar.

RAG hakkında yanlış bilinenler

• "RAG uydurma bilgiyi tamamen bitirir." Azaltır ama bitirmez; model kaynağı yanlış yorumlayabilir ya da yanlış parça bulunabilir.
• "Tüm belgeleri yüklemek yeterli." Parçalama, arama ve yeniden sıralama kalitesi sonucu belirler.
• "RAG yalnızca şirket içi asistanlar içindir." Yapay zeka arama sistemleri de web sayfalarını aynı mantıkla bulup yanıta ekler.
• "Kaynak gösterildiyse yanıt doğrudur." Kaynağın gerçekten iddiayı destekleyip desteklemediğini kontrol etmek gerekir.

Sıkça sorulan sorular

Yapay zeka aramaları RAG kullanıyor mu?

Yapay zeka arama sistemleri, arama sonuçlarından ilgili sayfa parçalarını bulup yanıta ekleme mantığıyla çalışıyor; bu, RAG'in web ölçeğindeki uygulamasıdır. Yanıtın kaynaklara dayandırılmasına grounding da denir.

Küçük bir şirket RAG kurabilir mi?

Evet. Birçok yapay zeka platformu belge yükleyerek çalışan hazır RAG çözümleri sunuyor; kendi altyapını kurmak ise büyük belge hacimlerinde anlamlı.

RAG için hangi veritabanı gerekir?

Genellikle anlamca arama yapabilen bir vektör veritabanı ya da vektör desteği olan mevcut bir veritabanı kullanılır; anahtar kelime aramasıyla birlikte kullanmak isabeti artırır.

Yöntemi tanıtan çalışma: Lewis ve diğerleri, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks" (2020).

Yapay zeka arama sistemlerinin sayfa parçalarını nasıl bulup yanıta eklediğini ve içeriğin bu sürece nasıl hazırlanacağını GEO rehberinin içerik yapısı bölümünde ayrıntılandırdım.