人脸识别技术大总结(1)——Face Detection Alignment
人臉檢測(cè)(detection)在opencv中早就有直接能拿來(lái)用的haar分類器,基于Viola-Jones算法。但是畢竟是老掉牙的技術(shù),Precision/Recall曲線渣到不行,在實(shí)際工程中根本沒(méi)法給boss看,作為MSRA腦殘粉,這里介紹一種MSRA在14年的最新技術(shù):Joint Cascade Face Detection and Alignment(ECCV14)。這篇文章直接在30ms的時(shí)間里把detection和alignment都給做了,PR曲線彪到很高,時(shí)效性高,內(nèi)存占用卻非常低,在一些庫(kù)上虐了Face++和Google Picasa,正好契合這篇想講的東西。可以作為本節(jié)的主線。
人臉校準(zhǔn)(alignment)是給你一張臉,你給我找出我需要的特征點(diǎn)的位置,比如鼻子左側(cè),鼻孔下側(cè),瞳孔位置,上嘴唇下側(cè)等等點(diǎn)的位置。如果覺(jué)得還是不明白,看下圖:
圖中紅色框框就是在做detection,白色點(diǎn)點(diǎn)就是在做alignment。
如果知道了點(diǎn)的位置做一下位置驅(qū)動(dòng)的變形,臉就成正的了,如何驅(qū)動(dòng)變形不是本節(jié)的重點(diǎn),在此省略。
首先介紹一下下面正文要寫的東西,由于干貨非常多所以可能會(huì)看著看著就亂了,所以給出框架圖:
=================================
廢話說(shuō)了這么多,正文開(kāi)始~
detection
作者建立了一個(gè)叫post classifier的分類器,方法如下:
1.樣本準(zhǔn)備:首先作者調(diào)用opencv的Viola-Jones分類器,將recal閥值設(shè)到99%,這樣能夠盡可能地檢測(cè)出所有的臉,但是同時(shí)也會(huì)有非常多的不是臉的東東被檢測(cè)出來(lái)。于是,檢測(cè)出來(lái)的框框們被分成了兩類:是臉和不是臉。這些圖片被resize到96*96。
2.特征提取:接下來(lái)是特征提取,怎么提取呢?作者采用了三種方法:
第一種:把window劃分成6*6個(gè)小windows,分別提取SIFT特征,然后連接著36個(gè)sift特征向量成為圖像的特征。
第二種:先求出一個(gè)固定的臉的平均shape(27個(gè)特征點(diǎn)的位置,比如眼睛左邊,嘴唇右邊等等),然后以這27個(gè)特征點(diǎn)為中心提取sift特征,然后連接后作為特征。
第三種:用他們組去年的另一個(gè)成果Face Alignment at 3000 FPS via Regressing Local Binary Features (CVPR14) ,也就是圖中的3000FPS方法,回歸出每張臉的shape,然后再以每張臉自己的27個(gè)shape points為中心做sift,然后連接得到特征。
3.分類:將上述的三種特征分別扔到線性SVM中做分類,訓(xùn)練出一個(gè)能分辨一張圖是不是臉的SVM模型。
緊接著作者將以上三種方法做出的分類器和初始分類器進(jìn)行比對(duì),畫了一個(gè)樣本分布的圖:
這個(gè)圖從左到右依次是原始級(jí)聯(lián)分類器得到的樣本分類分布和第一種到第三種方法提取的特征得到的樣本分類分布。可見(jiàn)做一下shape alignment可以得到一個(gè)更好的分類效果。但是問(wèn)題來(lái)了:如果把所有的windows都做一下alignment,即使是3000 faces per second的速度一張圖可能也要處理上1秒,這無(wú)法滿足一般一秒30幀的實(shí)時(shí)需求。作者也說(shuō),用opencv分類器,參數(shù)設(shè)成99%的recall率將會(huì)帶來(lái)很嚴(yán)重的效率災(zāi)難——一張圖能找出來(lái)3000個(gè)框,處理一張圖都要好幾秒。
這么渣的效率可咋辦呢?以上內(nèi)容已經(jīng)證明了alignment確實(shí)對(duì)detection的preciseness有幫助,這就夠啦,對(duì)下面的工作也是個(gè)啟發(fā)——能不能在做detection的同時(shí)把a(bǔ)lignment做了呢?alignment的中間結(jié)果是否能給detection帶來(lái)一些幫助呢?后面慢慢講。先說(shuō)兩個(gè)通用的面部檢測(cè)和矯正的模型:
1.級(jí)聯(lián)檢測(cè)分類器(bagging):不失一般性,一個(gè)簡(jiǎn)單的級(jí)聯(lián)分類器是這樣的:
圖中的Ci代表的是第i個(gè)弱分類器。x代表的是特征向量,f代表分類得分。每個(gè)Ci會(huì)根據(jù)自己的分類方法對(duì)x輸出一個(gè)分類結(jié)果,比如是一張臉或者不是一張臉,而fn(n=1~N)都會(huì)對(duì)應(yīng)一個(gè)thresholdΘi,讓任意一個(gè)fn小于對(duì)應(yīng)的Θi的時(shí)候,樣本就會(huì)被拒絕。通常不是一張臉的圖片在經(jīng)過(guò)前幾個(gè)弱分類器的判斷后就會(huì)被拒絕,根本不用做后面的判斷,所以速度很快。
2.級(jí)聯(lián)回歸校準(zhǔn)(我這翻譯…+_+):這里介紹的是另一個(gè)人在10年發(fā)的文章:Cascaded Pose Regression? (CVPR10),給圖像一個(gè)初始shape(通常采用平均shape),然后通過(guò)一次一次的回歸把shape回歸到正確的地方。算法結(jié)構(gòu)很簡(jiǎn)單,但是效果確實(shí)非常好:
回歸過(guò)程如下:首先提取特征,原作者采用的是Pose-Indexed point features,然后根據(jù)特征訓(xùn)練回歸函數(shù)(可以用線性回歸,CART,隨機(jī)森林等等),原作者采用了一個(gè)叫Random Fern Regressor的東西,這里翻譯成隨機(jī)蕨好了(這名字…),回歸出這一階段的偏移量,然后shape加上這個(gè)偏移量,反復(fù)這一過(guò)程,直到迭代上限或者shape錯(cuò)誤率不再下降。隨機(jī)蕨的算法過(guò)程和隨機(jī)森林類似,他是一個(gè)半樸素貝葉斯模型。首先選取M組每組K個(gè)特征建立M個(gè)蕨(弱分類器),然后假設(shè)蕨內(nèi)特征是相關(guān)的,蕨間特征是獨(dú)立的,這樣從統(tǒng)計(jì)學(xué)上隨機(jī)蕨是一個(gè)完整的把樸素貝葉斯分類器,讓計(jì)算變得簡(jiǎn)單:
式中C代表分類,ci代表第I類,M代表蕨數(shù)量。
綜上,這樣回歸的過(guò)程可以總結(jié)成如下形式:
S代表shape,St代表在回歸第t階段的shape,他等于上一階段的shape加上一個(gè)偏置,這個(gè)偏置就是上述回歸方法之一搞定的。比如隨機(jī)森林或者隨機(jī)蕨,或者線性回歸。
現(xiàn)在再說(shuō)說(shuō)怎么訓(xùn)練得到這個(gè)回歸Rt。
有兩種思路:一種是像剛才隨機(jī)蕨那樣,每個(gè)每個(gè)蕨的葉子節(jié)點(diǎn)存儲(chǔ)一個(gè)偏移量,計(jì)算訓(xùn)練的時(shí)候落入這個(gè)葉子節(jié)點(diǎn)的樣本偏移之平均,然后作為最終的葉子節(jié)點(diǎn)偏移量。其實(shí)就是在優(yōu)化一個(gè)如下目標(biāo)函數(shù):
然而MSRA組在3000fps中采用的是另一種方法,形狀的偏移量ΔδS為:
目標(biāo)函數(shù)是:
其實(shí)也是同樣的思路,Φ代表特征提取函數(shù),論文中稱Φ的輸出為局部二值特征(LBF),W為線性回歸參數(shù)矩陣,其實(shí)就是把提取出來(lái)的特征映射到一個(gè)二維的偏移量上,是一個(gè)2*lenth(特征空間維數(shù))的變換矩陣。
首先講Φ是怎么訓(xùn)練的:Φ其實(shí)就是一個(gè)隨機(jī)森林。輸入像素差特征(pixel-difference features),輸出一個(gè)offest。訓(xùn)練的時(shí)候隨機(jī)給每個(gè)根節(jié)點(diǎn)像素差特征中的一部分。非葉節(jié)點(diǎn)的分裂依據(jù)是從輸入的pixel-difference features中找出能夠做到最大的方差衰減的feature。在最后的葉子節(jié)點(diǎn)上寫上落在葉子節(jié)點(diǎn)上的樣本偏移量,這個(gè)偏移量在之前說(shuō)到的fern里有用,但是在這里沒(méi)啥用,因?yàn)樽髡咦詈蟛皇怯眠@個(gè)做回歸的而是用LBF,詳細(xì)的得往下看。如果有多個(gè)樣本都落在這里,則求平均。這樣訓(xùn)練出來(lái)的東西就是下面這個(gè)公式所表達(dá)的東西:
可能有讀者看到這就會(huì)不懂了,不用管這個(gè)公式,等下面的看完了就會(huì)懂了。
但是我只想要其中的Φ,于是這里給出了LBF(local binary feature)的定義,直接簡(jiǎn)單粗暴地統(tǒng)計(jì)所有樹(shù)葉節(jié)點(diǎn)是否被該樣本落入,如果落入了就記為1否則記為0,然后把所有的01串連起來(lái)就是LBF了。還是看圖說(shuō)話:
先看b,隨機(jī)森林的三棵樹(shù),樣本經(jīng)過(guò)三棵樹(shù)后分別落在了第1,2,3個(gè)葉子節(jié)點(diǎn)上,于是三棵樹(shù)的LBF就是1000,0100,0010.連接起來(lái)就是100001000010.然后看a,把27個(gè)特征點(diǎn)的lbf都連接起來(lái)形成總的LBF就是Φ了。
接下來(lái)是訓(xùn)練w:之前已經(jīng)得到了wΦ(I,S)以及Φ(I,S),現(xiàn)在想求w,這還不容易嗎,直接算呀。不過(guò)作者又調(diào)皮了,他說(shuō)他不想求w,而是想求一個(gè)總的大W=[w1,w2,w3,…,w27].怎么求呢?得做二次回歸。至于為什么要這么做下面會(huì)介紹。目標(biāo)函數(shù):
后面加了個(gè)L2項(xiàng),因?yàn)閃是炒雞sparse的,防止過(guò)擬合。做線性回歸即可得到W。
現(xiàn)在解釋一下為啥不直接用w1w2w3…而是要再回歸出來(lái)一個(gè)W:原因有兩個(gè):
1. 再次回歸W可以去除原先小wi葉子節(jié)點(diǎn)上的噪聲,因?yàn)殡S機(jī)森林里的決策樹(shù)都是弱分類器嘛噪聲多多滴;
2.大W是全局回歸(之前的一個(gè)一個(gè)小w也就是一個(gè)一個(gè)特征點(diǎn)單獨(dú)的回歸是local回歸),全局回歸可以有效地實(shí)施一個(gè)全局形狀約束以減少局部誤差以及模糊不清的局部表現(xiàn)。
這樣一來(lái),測(cè)試的時(shí)候每輸入一張圖片I,先用隨機(jī)森林Φ求出它的LBF,然后在用W乘一下就得到了下一個(gè)stage的shape,然后迭代幾次就得到了最終的shape。所以效率十分的快。
好了,兜了一大圈該回來(lái)了,剛才講的是兩個(gè)uniform的model來(lái)做detection和shape regression的。接下來(lái)該講作者是怎么邊detection邊regression shape的了!
作者建立了一個(gè)分類回歸樹(shù),就叫CRT好了。這個(gè)CRT在距離根節(jié)點(diǎn)比較近的幾層偏重于分類,在接近葉子節(jié)點(diǎn)的幾層偏重于回歸,具體實(shí)現(xiàn)上,每個(gè)節(jié)點(diǎn)究竟用于回歸還是分類呢?用一個(gè)概率p表示用于分類的概率,自然回歸就是1-p了。而這個(gè)p隨著深數(shù)的深度減小,作者采用了一個(gè)經(jīng)驗(yàn)公式:
知道了CRT怎么建立,那就直接就看算法細(xì)節(jié)吧!邊測(cè)試是不是臉邊做特征點(diǎn)回歸的算法如下:
這個(gè)模型的訓(xùn)練方法如下:
這樣就算完了嗎?不,既然要實(shí)現(xiàn),就要細(xì)看一下以上用到的各類算法細(xì)節(jié):
部分摘自其他博客,詳見(jiàn)參考文獻(xiàn)。
1.CART(Classification And Regression Tree)
思想:遞歸地將輸入空間分割成矩形
優(yōu)點(diǎn):可以進(jìn)行變量選擇,可以克服missing data,可以處理混合預(yù)測(cè)
缺點(diǎn):不穩(wěn)定
分類訓(xùn)練過(guò)程:
???????
就這樣不斷分割之后可以建立如下這樣的決策樹(shù):
2.Bagging (Breiman1996): 也稱bootstrap aggregation
Bagging的策略:
– 從樣本集中用Bootstrap采樣選出n個(gè)樣本
– 在所有屬性上,對(duì)這n個(gè)樣本建立分類器(CART or SVM or …)
– 重復(fù)以上兩步m次,i.e.build m個(gè)分類器(CART or SVM or …)
– 將數(shù)據(jù)放在這m個(gè)分類器上跑,最后vote看到底分到哪一類
Fit many large trees to bootstrap resampled versions of the training data, and classify by majority vote.
下圖是Bagging的選擇策略,每次從N個(gè)數(shù)據(jù)中采樣n次得到n個(gè)數(shù)據(jù)的一個(gè)bag,總共選擇B次得到B個(gè)bags,也就是B個(gè)bootstrap samples.
流程圖如下:
3.隨機(jī)森林:
隨機(jī)森林,指的是利用多棵樹(shù)對(duì)樣本進(jìn)行訓(xùn)練并預(yù)測(cè)的一種分類器。該分類器最早由Leo Breiman和Adele Cutler提出,并被注冊(cè)成了商標(biāo)。簡(jiǎn)單來(lái)說(shuō),隨機(jī)森林就是由多棵CART(Classification And Regression Tree)構(gòu)成的。對(duì)于每棵樹(shù),它們使用的訓(xùn)練集是從總的訓(xùn)練集中有放回采樣出來(lái)的,這意味著,總的訓(xùn)練集中的有些樣本可能多次出現(xiàn)在一棵樹(shù)的訓(xùn)練集中,也可能從未出現(xiàn)在一棵樹(shù)的訓(xùn)練集中。在訓(xùn)練每棵樹(shù)的節(jié)點(diǎn)時(shí),使用的特征是從所有特征中按照一定比例隨機(jī)地?zé)o放回的抽取的,根據(jù)Leo Breiman的建議,假設(shè)總的特征數(shù)量為M,這個(gè)比例可以是sqrt(M),1/2sqrt(M),2sqrt(M)。
因此,隨機(jī)森林的訓(xùn)練過(guò)程可以總結(jié)如下:
(1)給定訓(xùn)練集S,測(cè)試集T,特征維數(shù)F。確定參數(shù):使用到的CART的數(shù)量t,每棵樹(shù)的深度d,每個(gè)節(jié)點(diǎn)使用到的特征數(shù)量f,終止條件:節(jié)點(diǎn)上最少樣本數(shù)s,節(jié)點(diǎn)上最少的信息增益m
對(duì)于第1-t棵樹(shù),i=1-t:
(2)從S中有放回的抽取大小和S一樣的訓(xùn)練集S(i),作為根節(jié)點(diǎn)的樣本,從根節(jié)點(diǎn)開(kāi)始訓(xùn)練
(3)如果當(dāng)前節(jié)點(diǎn)上達(dá)到終止條件,則設(shè)置當(dāng)前節(jié)點(diǎn)為葉子節(jié)點(diǎn),如果是分類問(wèn)題,該葉子節(jié)點(diǎn)的預(yù)測(cè)輸出為當(dāng)前節(jié)點(diǎn)樣本集合中數(shù)量最多的那一類c(j),概率p為c(j)占當(dāng)前樣本集的比例;如果是回歸問(wèn)題,預(yù)測(cè)輸出為當(dāng)前節(jié)點(diǎn)樣本集各個(gè)樣本值的平均值。然后繼續(xù)訓(xùn)練其他節(jié)點(diǎn)。如果當(dāng)前節(jié)點(diǎn)沒(méi)有達(dá)到終止條件,則從F維特征中無(wú)放回的隨機(jī)選取f維特征。利用這f維特征,尋找分類效果最好的一維特征k及其閾值th,當(dāng)前節(jié)點(diǎn)上樣本第k維特征小于th的樣本被劃分到左節(jié)點(diǎn),其余的被劃分到右節(jié)點(diǎn)。繼續(xù)訓(xùn)練其他節(jié)點(diǎn)。有關(guān)分類效果的評(píng)判標(biāo)準(zhǔn)在后面會(huì)講。
(4)重復(fù)(2)(3)直到所有節(jié)點(diǎn)都訓(xùn)練過(guò)了或者被標(biāo)記為葉子節(jié)點(diǎn)。
(5)重復(fù)(2),(3),(4)直到所有CART都被訓(xùn)練過(guò)。
利用隨機(jī)森林的預(yù)測(cè)過(guò)程如下:
對(duì)于第1-t棵樹(shù),i=1-t:
(1)從當(dāng)前樹(shù)的根節(jié)點(diǎn)開(kāi)始,根據(jù)當(dāng)前節(jié)點(diǎn)的閾值th,判斷是進(jìn)入左節(jié)點(diǎn)(<th)還是進(jìn)入右節(jié)點(diǎn)(>=th),直到到達(dá),某個(gè)葉子節(jié)點(diǎn),并輸出預(yù)測(cè)值。
(2)重復(fù)執(zhí)行(1)直到所有t棵樹(shù)都輸出了預(yù)測(cè)值。如果是分類問(wèn)題,則輸出為所有樹(shù)中預(yù)測(cè)概率總和最大的那一個(gè)類,即對(duì)每個(gè)c(j)的p進(jìn)行累計(jì);如果是回歸問(wèn)題,則輸出為所有樹(shù)的輸出的平均值。
注:有關(guān)分類效果的評(píng)判標(biāo)準(zhǔn),因?yàn)槭褂玫氖荂ART,因此使用的也是CART的平板標(biāo)準(zhǔn),和C3.0,C4.5都不相同。
對(duì)于分類問(wèn)題(將某個(gè)樣本劃分到某一類),也就是離散變量問(wèn)題,CART使用Gini值作為評(píng)判標(biāo)準(zhǔn)。定義為Gini=1-∑(P(i)*P(i)),P(i)為當(dāng)前節(jié)點(diǎn)上數(shù)據(jù)集中第i類樣本的比例。例如:分為2類,當(dāng)前節(jié)點(diǎn)上有100個(gè)樣本,屬于第一類的樣本有70個(gè),屬于第二類的樣本有30個(gè),則Gini=1-0.7×07-0.3×03=0.42,可以看出,類別分布越平均,Gini值越大,類分布越不均勻,Gini值越小。在尋找最佳的分類特征和閾值時(shí),評(píng)判標(biāo)準(zhǔn)為:argmax(Gini-GiniLeft-GiniRight),即尋找最佳的特征f和閾值th,使得當(dāng)前節(jié)點(diǎn)的Gini值減去左子節(jié)點(diǎn)的Gini和右子節(jié)點(diǎn)的Gini值最大。
對(duì)于回歸問(wèn)題,相對(duì)更加簡(jiǎn)單,直接使用argmax(Var-VarLeft-VarRight)作為評(píng)判標(biāo)準(zhǔn),即當(dāng)前節(jié)點(diǎn)訓(xùn)練集的方差Var減去減去左子節(jié)點(diǎn)的方差VarLeft和右子節(jié)點(diǎn)的方差VarRight值最大。
Random Forest與Bagging的區(qū)別在于:Bagging每次生成決策樹(shù)的時(shí)候從全部的屬性Attributes里面選擇,而Random Forest是隨機(jī)從全部Attributes的集合里面生成一個(gè)大小固定的子集,相對(duì)而言需要的計(jì)算量更小一些。
4.Boosting(Freund & Schapire 1996):
boosting在選擇hyperspace的時(shí)候給樣本加了一個(gè)權(quán)值,使得loss function盡量考慮那些分錯(cuò)類的樣本(i.e.分錯(cuò)類的樣本weight大)。
怎么做的呢?
– boosting重采樣的不是樣本,而是樣本的分布,對(duì)于分類正確的樣本權(quán)值低,分類錯(cuò)誤的樣本權(quán)值高(通常是邊界附近的樣本),最后的分類器是很多弱分類器的線性疊加(加權(quán)組合),分類器相當(dāng)簡(jiǎn)單。
結(jié)構(gòu)如圖:
AdaBoost和RealBoost是Boosting的兩種實(shí)現(xiàn)方法。general的說(shuō),Adaboost較好用,RealBoost較準(zhǔn)確。由于Boosting算法在解決實(shí)際問(wèn)題時(shí)有一個(gè)重大的缺陷,即他們都要求事先知道弱分類算法分類正確率的下限,這在實(shí)際問(wèn)題中很難做到。后來(lái) Freund 和 Schapire提出了 AdaBoost 算法,該算法的效率與 Freund 方法的效率幾乎一樣,卻可以非常容易地應(yīng)用到實(shí)際問(wèn)題中。AdaBoost 是Boosting 算法家族中代表算法,AdaBoost 主要是在整個(gè)訓(xùn)練集上維護(hù)一個(gè)分布權(quán)值向量 D( x) t ,用賦予權(quán)重的訓(xùn)練集通過(guò)弱分類算法產(chǎn)生分類假設(shè) Ht ( x) ,即基分類器,然后計(jì)算他的錯(cuò)誤率,用得到的錯(cuò)誤率去更新分布權(quán)值向量 D( x) t ,對(duì)錯(cuò)誤分類的樣本分配更大的權(quán)值,正確分類的樣本賦予更小的權(quán)值。每次更新后用相同的弱分類算法產(chǎn)生新的分類假設(shè),這些分類假設(shè)的序列構(gòu)成多分類器。對(duì)這些多分類器用加權(quán)的方法進(jìn)行聯(lián)合,最后得到?jīng)Q策結(jié)果。這種方法不要求產(chǎn)生的單個(gè)分類器有高的識(shí)別率,即不要求尋找識(shí)別率很高的基分類算法,只要產(chǎn)生的基分類器的識(shí)別率大于 015 ,就可作為該多分類器序列中的一員。
尋找多個(gè)識(shí)別率不是很高的弱分類算法比尋找一個(gè)識(shí)別率很高的強(qiáng)分類算法要容易得多,AdaBoost 算法的任務(wù)就是完成將容易找到的識(shí)別率不高的弱分類算法提升為識(shí)別率很高的強(qiáng)分類算法,這也是 AdaBoost 算法的核心指導(dǎo)思想所在,如果算法完成了這個(gè)任務(wù),那么在分類時(shí),只要找到一個(gè)比隨機(jī)猜測(cè)略好的弱分類算法,就可以將其提升為強(qiáng)分類算法,而不必直接去找通常情況下很難獲得的強(qiáng)分類算法。通過(guò)產(chǎn)生多分類器最后聯(lián)合的方法提升弱分類算法,讓他變?yōu)閺?qiáng)的分類算法,也就是給定一個(gè)弱的學(xué)習(xí)算法和訓(xùn)練集,在訓(xùn)練集的不同子集上,多次調(diào)用弱學(xué)習(xí)算法,最終按加權(quán)方式聯(lián)合多次弱學(xué)習(xí)算法的預(yù)測(cè)結(jié)果得到最終學(xué)習(xí)結(jié)果。包含以下2點(diǎn):
AdaBoost 通過(guò)對(duì)樣本集的操作來(lái)訓(xùn)練產(chǎn)生不同的分類器,他是通過(guò)更新分布權(quán)值向量來(lái)改變樣本權(quán)重的,也 就是提高分錯(cuò)樣本的權(quán)重,重點(diǎn)對(duì)分錯(cuò)樣本進(jìn)行訓(xùn)練。
(1) 沒(méi)有先驗(yàn)知識(shí)的情況下,初始的分布應(yīng)為等概分布,也就是訓(xùn)練集如果有 n個(gè)樣本,每個(gè)樣本的分布概率為1/ n。(2) 每次循環(huán)后提高錯(cuò)誤樣本的分布概率,分錯(cuò)的樣本在訓(xùn)練集中所占權(quán)重增大,使得下一次循環(huán)的基分類器能夠集中力量對(duì)這些錯(cuò)誤樣本進(jìn)行判斷。
最后的強(qiáng)分類器是通過(guò)多個(gè)基分類器聯(lián)合得到的,因此在最后聯(lián)合時(shí)各個(gè)基分類器所起的作用對(duì)聯(lián)合結(jié)果有很大的影響,因?yàn)椴煌诸惼鞯淖R(shí)別率不同,他的作用就應(yīng)該不同,這里通過(guò)權(quán)值體現(xiàn)他的作用,因此識(shí)別率越高的基分類器權(quán)重越高,識(shí)別率越低的基分類器權(quán)重越低。權(quán)值計(jì)算如下: 基分類器的錯(cuò)誤率: e = ∑( ht ( x i) ≠yi) Di (1) 基分類器的權(quán)重:W t = F( e) ,由基分類器的錯(cuò)誤率計(jì)算他的權(quán)重。2.3 算法流程及偽碼描述 算法流程描述 算法流程可用結(jié)構(gòu)圖 1 描述,如圖 1 所示 AdaBoost重復(fù)調(diào)用弱學(xué)習(xí)算法(多輪調(diào)用產(chǎn)生多個(gè)分類器) ,首輪調(diào)用弱學(xué)習(xí)算法時(shí),按均勻分布從樣本集中選取子集作為該次訓(xùn)練集,以后每輪對(duì)前一輪訓(xùn)練失敗的樣本,賦予較大的分布權(quán)值( Di 為第i 輪各個(gè)樣本在樣本集中參與訓(xùn)練的概率) ,使其在這一輪訓(xùn)練出現(xiàn)的概率增加,即在后面的訓(xùn)練學(xué)習(xí)中集中對(duì)比較難訓(xùn)練的樣本進(jìn)行學(xué)習(xí),從而得到 T個(gè)弱的基分類器, h1 , h2 , …, ht ,其中 ht 有相應(yīng)的權(quán)值 w t ,并且其權(quán)值大小根據(jù)該分類器的效果而定。最后的分類器由生成的多個(gè)分類器加權(quán)聯(lián)合產(chǎn)生。?
==================================
參考文章:
[1]Joint Cascade Face Detection and Alignment(ECCV14)
?[2]Face Alignment at 3000 FPS via Regressing Local Binary Features (CVPR14)
[3]Cascaded Pose Regression? (CVPR10)
[4]Fast Keypoint Recognition in Ten Lines of Code
[5]女神的博文:http://blog.csdn.net/abcjennifer/article/details/8164315
http://blog.sina.com.cn/s/blog_605f5b4f01013r72.html
文章出處:http://www.cnblogs.com/sciencefans/
總結(jié)
以上是生活随笔為你收集整理的人脸识别技术大总结(1)——Face Detection Alignment的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 如何直观的解释back propagat
- 下一篇: cuDNN 5对RNN模型的性能优化