RAG Nedir?
RAG yani Retrieval-Augmented Generation mimarisinin ne olduğunu, nasıl çalıştığını ve hangi durumlarda kullanılması gerektiğini anlatan rehber.
RAG Nedir?
RAG, bir dil modeline cevap üretmeden önce dış bir bilgi kaynağından ilgili içerikleri bulup context olarak verme yaklaşımıdır.
Nasıl Çalışır?
Soru
↓
Arama / Retrieval
↓
İlgili doküman parçaları
↓
LLM
↓
Cevap
Neden RAG Kullanılır?
Modelin eğitim verisinde bulunmayan şirket dokümanları, ürün bilgileri veya güncel belgeler gibi içerikleri cevap sürecine dahil etmek için kullanılabilir.
Vector Database
Belgeler embedding adı verilen sayısal temsillere dönüştürülerek vector database'de tutulabilir. Kullanıcı sorusu da dönüştürülüp benzer içerikler aranabilir.
RAG ile Fine-Tuning Aynı mı?
Hayır. RAG, bilgi kaynağını inference sırasında modele sunar. Fine-tuning ise modelin davranışını veya belirli görevlerdeki yeteneğini değiştirmek için eğitim sürecini kullanır.
Özet
RAG, kendi verilerinle çalışan AI uygulamaları geliştirmek için en yaygın mimarilerden biridir.
İlgili yazılar