使用SGD(Stochastic Gradient Descent)进行大规模机器学习
生活随笔
收集整理的這篇文章主要介紹了
使用SGD(Stochastic Gradient Descent)进行大规模机器学习
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
1 基于梯度下降的學(xué)習(xí)
對于一個(gè)簡單的機(jī)器學(xué)習(xí)算法,每一個(gè)樣例包含了一個(gè)(x,y)對,其中一個(gè)輸入x和一個(gè)數(shù)值輸出y。我們考慮損失函數(shù) ,它描述了預(yù)測值 和實(shí)際值y之間的損失。預(yù)測值是我們選擇從一函數(shù)族F中選擇一個(gè)以w為參數(shù)的函數(shù) 的到的預(yù)測結(jié)果。
我們的目標(biāo)是尋找這樣的函數(shù)
總結(jié)
以上是生活随笔為你收集整理的使用SGD(Stochastic Gradient Descent)进行大规模机器学习的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 信息论学习总结
- 下一篇: 偏差/方差、经验风险最小化、联合界、一致