bagging 側重于降低方差

方差-variance
方差描述的是預測值的變化范圍，離散程度，也就是離期真實值的距離。方差過大表現為過擬合，訓練數據的預測f-score很高，但是驗證或測試數據的預測f-score低很多。實際應用中表現為對新數據的泛化能力弱。例如：一個模型學習加減法運算，模型記憶能力非常好，對他所有訓練過的數據，他都能做出精準的運輸，但是一旦看到他沒有見過的數據，就算不出來了。模型記住了歷史的學習結果，但是沒有真正掌握加減法運算規律；屬于死記硬背的模型，不能靈活運用，這就過擬合了。

boosting 側重于降低偏差

偏差-bias
偏差描述預測值與真實值之間的差距。偏差過大表現為欠擬合，訓練數據和驗證數據的預測accuracy或f-score過低。實際應用中表現為對數據的預測能力不準確。例如：一個模型學習加減法運算，他根本沒有學會加減運算，你給他再多的訓練數據，還是老樣子，就是不會，老實算錯，就算你給他訓練過的數據都是這樣的。欠擬合。

bagging and boosting 區別在于的取樣方式不同

轉載于:https://www.cnblogs.com/james0/p/7902915.html

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的bagging and boosting的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。