RAG için retrieval'da, dense (embedding tabanlı) retrieval ile sparse (keyword/BM25) retrieval arasındaki temel fark nedir?
- aDense yalnızca kısa dökümanlarda, sparse yalnızca uzun dökümanlarda çalışır.
- bDense anlama göre, sparse tam terim örtüşmesine göre eşleşir.✓
- cDense hiç index gerektirmez, sparse her zaman graph index gerektirir.
- dDense sonuçları alfabetik, sparse dosya boyutuna göre sıralar.
Açıklama:Dense retrieval, query ve döküman embedding'lerini semantik bir vektör uzayında karşılaştırır; bu yüzden ortak kelime olmasa bile eş anlamlı ya da yeniden ifade edilmiş metinler eşleşebilir. Sparse retrieval (ör. BM25) dökümanları tam token örtüşmesine göre, terim nadirliği ve frekansıyla ağırlıklandırarak skorlar; bu yüzden terimin birebir geçmesi gerekir. (a), (c) ve (d) bu iki yöntemin relevance'ı gerçekte nasıl hesapladığıyla ilgisi olmayan ayrımlar tarif eder.