SVM是通過(guò)超平面將樣本分為兩類(lèi)。

在超平面確定的情況下，可以相對(duì)地表示點(diǎn)距離超平面的遠(yuǎn)近。對(duì)于兩類(lèi)分類(lèi)問(wèn)題，如果，則的類(lèi)別被判定為1；否則判定為-1。

所以如果，則認(rèn)為的分類(lèi)結(jié)果是正確的，否則是錯(cuò)誤的。且的值越大，分類(lèi)結(jié)果的確信度越大。反之亦然。

所以樣本點(diǎn)與超平面之間的函數(shù)間隔定義為

但是該定義存在問(wèn)題：即和同時(shí)縮小或放大M倍后，超平面并沒(méi)有變化，但是函數(shù)間隔卻變化了。所以，需要將的大小固定，如，使得函數(shù)間隔固定。這時(shí)的間隔也就是幾何間隔 。

幾何間隔的定義如下

實(shí)際上，幾何間隔就是點(diǎn)到超平面的距離。想像下中學(xué)學(xué)習(xí)的點(diǎn)到直線的距離公式

所以在二維空間中，幾何間隔就是點(diǎn)到直線的距離。在三維及以上空間中，就是點(diǎn)到超平面的距離。而函數(shù)距離，就是上述距離公式中的分子，即未歸一化的距離。

定義訓(xùn)練集到超平面的最小幾何間隔是

SVM訓(xùn)練分類(lèi)器的方法是尋找到超平面，使正負(fù)樣本在超平面的兩側(cè)，且樣本到超平面的幾何間隔最大。
所以SVM可以表述為求解下列優(yōu)化問(wèn)題

以上內(nèi)容在《統(tǒng)計(jì)學(xué)習(xí)方法》中，均有詳細(xì)的講解。

作者：Jason Gu
鏈接：https://www.zhihu.com/question/20466147/answer/28469993

總結(jié)

以上是生活随笔為你收集整理的几何间隔、函数间隔和||W||的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。