Gradient boosting'de yeni eklenen her ağaç neyi tahmin etmek üzere eğitilir?
- aYine orijinal hedefi; böylece topluluktaki her ağaç onun kendi başına bağımsız bir kestirimi olur.
- bHedefin bootstrap ile yeniden örneklenmiş hâlini; dizideki her ağaç için ayrı çekilerek.
- cDaha önce eğitilmiş tüm ağaçların o aynı satır için ürettiği tahminlerin ortalamasını.
- dMevcut topluluğun hâlâ yanlış bıraktığı sinyal parçasını; yani kaybın negatif gradyanını.✓
Açıklama:Boosting toplamsaldır: tahmin, bir başlangıç kestirimi artı sırayla her ağacın küçültülmüş çıktısıdır ve her ağaç, o anki tahminde kaybın negatif gradyanına fit edilir. Ham hedefi bağımsızca fit etmek ya da ağaç başına bootstrap almak, random forest gibi bagging tarzı toplulukları anlatır. Önceki tahminlerin ortalamasını almak ise hiç yeni bilgi eklemez.