LLM tabanlı uygulamalar bağlamında RAG (Retrieval-Augmented Generation), temelde ne anlama gelir?
- aSistem ilgili dış içeriği getirir ve modelin bunu kullanarak cevap verebilmesi için prompt'a ekler.✓
- bModel yeni dokümanlarla yeniden eğitilir, böylece bilgi kalıcı olarak ağırlıklara kodlanır.
- cModel, farklı sampling koşularıyla birden fazla aday cevap üretir ve daha kararlı bir sonuç için bunları ortalar.
- dSistem önceki cevapları saklar ve benzer bir soru geldiğinde önbellekteki cevabı tekrar döndürür.
Açıklama:RAG, retrieval'i generation ile birleştirir: ilgili dokümanlar getirilir ve model cevap vermeden önce context'e yerleştirilir. (b) fine-tuning'i tarif eder, RAG değil. (c) retrieval ile ilgisi olmayan bir ensembling/self-consistency tekniğidir. (d) kaynak içerik getirmeyen bir cevap önbellekleme yöntemidir.