图解人工智能机器学习深度学习的关系和区别
圖解人工智能機(jī)器學(xué)習(xí)深度學(xué)習(xí)的關(guān)系和區(qū)別,先直觀看下圖的關(guān)系:
AI(Artificial Intelligence.人工智能)、機(jī)器學(xué)習(xí)(machine learning)、深度學(xué)習(xí)(Deep learning)
人工智能和機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的區(qū)別:機(jī)器學(xué)習(xí)是人工智能的一種實(shí)現(xiàn)方法,而且在許多的應(yīng)用領(lǐng)域應(yīng)用的非常成功,所以現(xiàn)在比較流行; 說(shuō)到機(jī)器學(xué)習(xí),就不得不提深度學(xué)習(xí),深度學(xué)習(xí)是機(jī)器學(xué)習(xí)中的一個(gè)組成分支,深度學(xué)習(xí)是機(jī)器學(xué)習(xí)研究中的一個(gè)新的領(lǐng)域,其動(dòng)機(jī)在于建立、模擬人腦進(jìn)行分析學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò),它模仿人腦的機(jī)制來(lái)解釋數(shù)據(jù),例如圖像,聲音和文本。
深度學(xué)習(xí)是無(wú)監(jiān)督學(xué)習(xí)的一種。深度學(xué)習(xí)的概念源于人工神經(jīng)網(wǎng)絡(luò)的研究。含多隱層的多層感知器就是一種深度學(xué)習(xí)結(jié)構(gòu)。
深度學(xué)習(xí)通過(guò)組合低層特征形成更加抽象的高層表示屬性類別或特征,以發(fā)現(xiàn)數(shù)據(jù)的分布式特征表示。
Deep learning本身算是machine learning的一個(gè)分支,簡(jiǎn)單可以理解為neural network的發(fā)展。
大約二三十年前,neural network曾經(jīng)是ML領(lǐng)域特別火熱的一個(gè)方向,但是后來(lái)確慢慢淡出了,原因包括以下幾個(gè)方面:
1)比較容易過(guò)擬合,參數(shù)比較難tune,而且需要不少trick;
2)訓(xùn)練速度比較慢,在層次比較少(小于等于3)的情況下效果并不比其它方法更優(yōu);
所以中間有大約20多年的時(shí)間,神經(jīng)網(wǎng)絡(luò)被關(guān)注很少,這段時(shí)間基本上是SVM和boosting算法的天下。
但是,一個(gè)癡心的老先生Hinton,他堅(jiān)持了下來(lái),并最終(和其它人一起B(yǎng)engio、Yann.lecun等)提成了一個(gè)實(shí)際可行的deep learning框架。
Deep learning與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)之間有相同的地方也有很多不同。
二者的相同在于deep learning采用了神經(jīng)網(wǎng)絡(luò)相似的分層結(jié)構(gòu),系統(tǒng)由包括輸入層、隱層(多層)、輸出層組成的多層網(wǎng)絡(luò),只有相鄰層節(jié)點(diǎn)之間有連接,同一層以及跨層節(jié)點(diǎn)之間相互無(wú)連接,每一層可以看作是一個(gè)logistic regression模型;
這種分層結(jié)構(gòu),是比較接近人類大腦的結(jié)構(gòu)的。而為了克服神經(jīng)網(wǎng)絡(luò)訓(xùn)練中的問(wèn)題,DL采用了與神經(jīng)網(wǎng)絡(luò)很不同的訓(xùn)練機(jī)制。
傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中,采用的是back propagation的方式進(jìn)行,簡(jiǎn)單來(lái)講就是采用迭代的算法來(lái)訓(xùn)練整個(gè)網(wǎng)絡(luò),隨機(jī)設(shè)定初值,計(jì)算當(dāng)前網(wǎng)絡(luò)的輸出,然后根據(jù)當(dāng)前輸出和label之間的差去改變前面各層的參數(shù),直到收斂(整體是一個(gè)梯度下降法)。
而deep learning整體上是一個(gè)layer-wise的訓(xùn)練機(jī)制。
這樣做的原因是因?yàn)?#xff0c;如果采用back propagation的機(jī)制,對(duì)于一個(gè)deep network(7層以上),殘差傳播到最前面的層已經(jīng)變得太小,出現(xiàn)所謂的gradient diffusion(梯度擴(kuò)散)。
?
人工智能的三大法寶: 大數(shù)據(jù),計(jì)算能力和算法。 因?yàn)槲覀冎?#xff0c;人工智能其實(shí)是通過(guò)不斷的吃數(shù)據(jù),自動(dòng)的處理數(shù)據(jù)變聰明的,而且數(shù)據(jù)訓(xùn)練的越多,其準(zhǔn)備度越高。無(wú)論是個(gè)人企業(yè)都逃離不了上面的三大區(qū)域。 隨著工業(yè)的現(xiàn)代化,人類的分工也越來(lái)越密切,一個(gè)人試圖掌握一切知識(shí)的能力所付出的成本也越來(lái)越高。如果你覺(jué)得你對(duì)數(shù)據(jù)的處理比較在行的話,就可以在大數(shù)據(jù)的獲取和分類方面鉆研的更深,其實(shí)也是投入了人工智能行業(yè)的懷抱的;如果你或者貴公司是做硬件設(shè)備的,或者有大型分布式處理的設(shè)計(jì)和使用經(jīng)驗(yàn)的話,在人工智能的計(jì)算方面進(jìn)行拓展也是非常不錯(cuò)的;如果你覺(jué)得你的算法和數(shù)學(xué)功底很好的話,那么可以在算法方面進(jìn)行深入的造詣。同時(shí),肯定還有一部分人需要結(jié)合上面的三大法寶進(jìn)行應(yīng)用開(kāi)發(fā)和參數(shù)調(diào)優(yōu),實(shí)際應(yīng)用AI去解決生產(chǎn)生活的一些問(wèn)題,這也是一個(gè)不錯(cuò)的轉(zhuǎn)型的方向。
?
------------------------------
?本人微信公眾帳號(hào): 心禪道(xinchandao)
?
本人微信公眾帳號(hào):雙色球預(yù)測(cè)合買(ssqyuce)
?
總結(jié)
以上是生活随笔為你收集整理的图解人工智能机器学习深度学习的关系和区别的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: OpenLayers 3+Geoserv
- 下一篇: 大学士带你领略“大院大所”黑科技!