高斯过程回归(GPR)—— 数学推导
生活随笔
收集整理的這篇文章主要介紹了
高斯过程回归(GPR)—— 数学推导
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
補(bǔ)充知識點(diǎn):1. 高斯分布; 2. 條件概率P的值:P = N(u, E) ??
posterior:后驗分布
GP:連續(xù)域上,無限多個高維隨機(jī)變量(高斯分布)所組成的隨機(jī)過程。
:高維高斯分布?
GPR可從兩個視角觀察
? ? ? 權(quán)重空間角度和函數(shù)空間角度,二者結(jié)果一樣,但函數(shù)空間角度更加簡單。
1. 權(quán)重空間角度
? ? ?GPR = Bayesian LR + Kernal Trick
2. 權(quán)重空間到函數(shù)空間
?因為f(x)的協(xié)方差函數(shù)cov是一個核函數(shù),因此其可看成一個高斯過程
(1)f(x)是一個函數(shù);
(2)f(x)是服從高斯分布的隨機(jī)變量。
存在定理:對任意集合S中的單個元素都存在某個均值函數(shù),以及對任意集合S中的2個元素都存在某個核函數(shù)(即協(xié)方差函數(shù)),則在S上一定存在一個高斯過程Z(t),其元素具有類似S形式的均值和方差。所以在給定集合S后,我們只需要給出一個一元的均值函數(shù),一個二元的核函數(shù)表達(dá)式,就可以構(gòu)造出一個高斯過程。
3. 函數(shù)空間角度
?
總結(jié)
以上是生活随笔為你收集整理的高斯过程回归(GPR)—— 数学推导的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 特征工程(3):特征选择—信息增益
- 下一篇: 数学基础:高斯分布