Örnek sorular
Cml Probabilistic Models CalibrationZorluk 1
Naive Bayes'e "naif" denmesinin sebebi tek bir modelleme varsayımıdır. Bu varsayımı hangi ifade doğru anlatır?
- aSınıf etiketi bilindiğinde her öznitelik diğer her öznitelikten bağımsızdır✓
- bSınıf etiketi bilinmeden önce öznitelikler birbirinden bağımsızdır
- cSınıf etiketi bilindiğinde her öznitelik aynı dağılımı izler
- dHer öznitelik sınıf skoruna aynı miktarda kanıt katkısı yapar
Açıklama:Varsayım koşullu bağımsızlıktır: her öznitelik için P(x_i | y, x_1, ..., x_n) = P(x_i | y). Ortak olabilirliği tek boyutlu terimlerin çarpımına indiren şey budur. Sınıf bilinmediğinde özniteliklerin bağımsız olduğunu iddia etmez, aynı dağılımı paylaşmalarını ya da eşit ağırlık taşımalarını da gerektirmez.
Cml Probabilistic Models CalibrationZorluk 2
Naive Bayes sınıfları P(y) çarpı P(x_i | y) çarpımıyla sıralar ve P(x_1, ..., x_n) paydasını doğrudan atar. Sınıf seçerken bu payda neden atılabilir?
- aÖznitelik vektörü önceden normalize edildiyse tam olarak 1'e eşittir
- bHer sınıf için aynı değere sahiptir, hangi sınıfın kazandığını değiştiremez✓
- cModel uydurulurken alpha düzleştirme parametresine emilip kaybolur
- dYalnızca sınıf önselleri birbirine eşit olmadığında bilgi taşır
Açıklama:Kanıt terimi örneğe bağlıdır ama aday sınıfa bağlı değildir; tüm sınıflar için ortak pozitif bir çarpandır ve argmax'ı etkilemez. Skorları olasılığa çevirmek için yine de gerekir; predict_proba tam olarak bunun için sınıf skorlarını toplamları bire eşit olacak şekilde yeniden normalize eder.
Cml Probabilistic Models CalibrationZorluk 2
scikit-learn 1.6'da 0 numaralı sınıfın üç kelimelik bir sözlük üzerinde tek bir eğitim dokümanı var ve sayım vektörü [3, 2, 0]. MultinomialNB(alpha=1.0) bu sınıfta üçüncü kelimenin olasılığını kaç olarak tahmin eder?
- a0.0, çünkü kelime eğitim sırasında o sınıfta hiç geçmiyor
- b0.125, çünkü 0 sayımı 1'e, toplam 5 ise 8'e çıkar✓
- c0.2, çünkü düzleştirilmiş sayım 1, ham sınıf toplamı 5'e bölünür
- d0.1667, çünkü düzleştirilmiş sayım 1, sınıf toplamı 5 artı alpha'ya bölünür
Açıklama:MultinomialNB theta_yi = (N_yi + alpha) / (N_y + alpha öznitelik_sayısı) kullanır; burada (0 + 1) / (5 + 1 3) = 0.125. Paydada alpha'yı sözlük boyutu çarpar, satırın geçerli bir dağılım kalmasını sağlayan da budur; diğer değerler genellikle bu çarpanın unutulmasından çıkar.
Cml Probabilistic Models CalibrationZorluk 2
Multinomial naive Bayes hiç düzleştirme olmadan eğitiliyor. Test dokümanında, eğitimde 0 numaralı sınıfta hiç geçmemiş bir kelime var. Bu sınıfın skoruna ne olur?
- aGörülmemiş kelime atlanır ve sonucu belirleme işi kalan kelimelere bırakılır
- bSınıf, bildirdiği nihai skor olarak yalnızca kendi önsel olasılığına geri düşer
- cGörülmemiş kelimeye o sınıfta görülen kelimelerin ortalama olasılığı verilir
- dDiğer kelimeler sınıf 0 hakkında ne derse desin, çarpımın tamamı sıfıra çöker✓
Açıklama:Kelime başına düşen çarpanların hepsi birbiriyle çarpılır; tek bir sıfır çarpan, diğer kanıtlar ne olursa olsun sınıf skorunu yok eder. scikit-learn 1.6'da alpha=0.0 ile çalıştırıldığında bu sıfır olasılığın logaritması -inf olur ve predict_proba nan döner; düzleştirme önselinin varsayılan olmasının sebebi tam olarak budur.
Cml Probabilistic Models CalibrationZorluk 2
Dört kelimelik bir sözlükte ekip MultinomialNB'nin alpha'sını 1.0'dan 500'e çıkarıyor. Sınıf başına tahmin edilen kelime olasılıkları [0.6, 0.2, 0.1, 0.1] iken [0.252, 0.250, 0.249, 0.249] oluyor. Ne oluyor?
- aSayımlar yeniden ölçekleniyor ve en nadir kelimeler sınıf skoruna baskın gelmeye başlıyor
- bTahminler 0 ve 1'e doğru itiliyor, bu da sınıflandırıcıyı daha kararlı hâle getiriyor
- cDüzleştirme kütlesi sayımlara baskın gelip her kelimeyi 1/n değerine çekiyor✓
- dSınıf önselleri düzleşiyor, kelime olasılıkları da yalnızca onları takip ediyor
Açıklama:(N_yi + alpha) / (N_y + alpha * n) ifadesinde büyük alpha hem N_yi'yi hem N_y'yi bastırır, her giriş 1/n'e yaklaşır ve kelimeler sınıfları ayırt etmeyi bırakır. Düzleştirme, düzgün dağılıma doğru bir önseldir; şiddeti, sıfır sayıma karşı korumayı yanlılıkla takas eder.
Cml Probabilistic Models CalibrationZorluk 2
Naive Bayes implementasyonları neden olasılıkları doğrudan çarpmak yerine log P(x_i | y) değerlerini toplayarak biriktirir?
- aYüzlerce küçük olasılığın çarpımı float64'te tam olarak 0'a alt-taşar✓
- bLogaritma almak bağımsızlık varsayımını daha doğru kılar
- cTek tek olabilirlik terimleri negatif çıkabileceği için toplama işlemi zorunludur
- dLogaritma, öğrenilmiş sınıf önselini sınıflar üzerinde düzgün bir önsele çevirir
Açıklama:0.001 ile 0.05 arasından çekilen dört yüz çarpan float64'te tam olarak 0.0 verir; buna karşılık logaritmaların toplamı gayet kullanışlı bir -1542'dir. Logaritma kesin artan olduğu için sınıflar üzerindeki argmax değişmez; skorlar ancak en sonda üstel alınıp yeniden normalize edilir.