昨日晚間，ACM（國際計算機學(xué)會）宣布，有“深度學(xué)習(xí)三巨頭”之稱的Yoshua Bengio、Yann LeCun、Geoffrey Hinton共同獲得了2018年的圖靈獎，這是圖靈獎1966年建立以來少有的一年頒獎給三位獲獎?wù)摺CM同時宣布，將于2019年6月15日在舊金山舉行年度頒獎晚宴，屆時正式給獲獎?wù)哳C獎，獎金100萬美元。

根據(jù)ACM官網(wǎng)上的信息顯示，ACM決定將2018年ACM A.M.圖靈獎授予約書亞·本吉奧(Yoshua Bengio)、杰弗里·辛頓(Geoffrey Hinton)和楊樂昆(Yann LeCun) 三位深度學(xué)習(xí)之父，以表彰他們給人工智能帶來的重大突破，這些突破使深度神經(jīng)網(wǎng)絡(luò)成為計算的關(guān)鍵組成部分。本吉奧是蒙特利爾大學(xué)教授，也是魁北克人工智能研究所Mila的科學(xué)主任。辛頓是谷歌副總裁兼工程研究員、Vector研究所首席科學(xué)顧問、多倫多大學(xué)名譽教授。楊樂昆是紐約大學(xué)教授、Facebook副總裁兼人工智能首席科學(xué)家。

?

本吉奧、辛頓和楊樂昆三人既有各自獨立的研究，又有相互間的合作，他們?yōu)槿斯ぶ悄茴I(lǐng)域發(fā)展了概念基礎(chǔ)，通過實驗發(fā)現(xiàn)了許多驚人的成果，并為證明深度神經(jīng)網(wǎng)絡(luò)的實際優(yōu)勢做出了貢獻(xiàn)。近年來，深度學(xué)習(xí)方法在計算機視覺、語音識別、自然語言處理和機器人等應(yīng)用領(lǐng)域取得了驚人的突破。

雖然人工神經(jīng)網(wǎng)絡(luò)作為一種幫助計算機識別模式和模擬人類智能的工具在20世紀(jì)80年代被引入，但直到21世紀(jì)初，只有楊樂昆、辛頓和本吉奧等一小群人仍然堅持使用這種方法。盡管他們的努力也曾遭到懷疑，但他們的想法最終點燃了人工智能社區(qū)對神經(jīng)網(wǎng)絡(luò)的興趣，帶來了一些最新的重大技術(shù)進(jìn)步。他們的方法現(xiàn)在是該領(lǐng)域的主導(dǎo)范式（dominant paradigm）。

圖靈獎（Turing Award），全稱“A.M. 圖靈獎（A.M Turing Award）”，由美國計算機協(xié)會（ACM）于1966年設(shè)立，專門獎勵那些對計算機事業(yè)作出重要貢獻(xiàn)的個人。它是以英國數(shù)學(xué)家阿蘭·M·圖靈（Alan M. Turing）的名字命名的，圖靈闡明了計算的數(shù)學(xué)基礎(chǔ)和極限。目前，圖靈獎由谷歌公司提供財政支持，獎金為100萬美元。

?

由于圖靈獎對獲獎條件要求極高，評獎程序又是極嚴(yán)，一般每年只獎勵一名計算機科學(xué)家，只有極少數(shù)年度有兩名合作者或在同一方向作出貢獻(xiàn)的科學(xué)家共享此獎。因此它是計算機界最負(fù)盛名、最崇高的一個獎項，有“計算機界的諾貝爾獎”之稱 。

“人工智能現(xiàn)在是所有科學(xué)領(lǐng)域中增長最快的領(lǐng)域之一，也是社會上談?wù)撟疃嗟脑掝}之一，”ACM主席Cherri M.Pancake說，“人工智能的發(fā)展和人們對它的興趣，在很大程度上要歸功于本吉奧、辛頓和樂昆獲得的深度學(xué)習(xí)最新進(jìn)展。這些技術(shù)正被數(shù)十億人使用。任何口袋里有智能手機的人都能實實在在體驗到自然語言處理和計算機視覺方面的進(jìn)步，而這在10年前是不可能的。除了我們每天使用的產(chǎn)品，深度學(xué)習(xí)的新進(jìn)展也為科學(xué)家們提供了研究醫(yī)學(xué)、天文學(xué)、材料科學(xué)的強大新工具。”

谷歌高級研究員、谷歌人工智能高級副總裁杰夫·迪恩（Jeff Dean）表示:“深度神經(jīng)網(wǎng)絡(luò)對現(xiàn)代計算機科學(xué)的一些重大進(jìn)步做出了巨大貢獻(xiàn)，幫助科學(xué)家在計算機視覺、語音識別和自然語言理解等領(lǐng)域長期存在的問題上取得了實質(zhì)性進(jìn)展。”這一進(jìn)步的核心是30多年前由以上三位深度學(xué)習(xí)大師開發(fā)的基礎(chǔ)技術(shù)。通過大幅提高計算機感知世界的能力，深度神經(jīng)網(wǎng)絡(luò)不僅改變了計算領(lǐng)域，而且正在改變科學(xué)和人類努力的每一個領(lǐng)域。”

機器學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)

在傳統(tǒng)計算中，計算機程序用明確的分步指令指導(dǎo)計算機。

而在人工智能研究的子領(lǐng)域——深度學(xué)習(xí)中，計算機并沒有被明確地告知如何解決特定的任務(wù)，比如對象分類。相反，它使用一種學(xué)習(xí)算法來提取數(shù)據(jù)中的模式，這些模式可以將輸入數(shù)據(jù)(如圖像的像素)與期望的輸出(如標(biāo)簽“貓”)關(guān)聯(lián)起來。“研究人員面臨的挑戰(zhàn)是開發(fā)有效的學(xué)習(xí)算法，使之能夠調(diào)整人工神經(jīng)網(wǎng)絡(luò)中連接的權(quán)重，從而捕捉數(shù)據(jù)中的相關(guān)模式。”

杰弗里·辛頓自上世紀(jì)80年代初以來一直倡導(dǎo)用機器學(xué)習(xí)方法研究人工智能。受人腦的啟發(fā)，他和其他人提出的“人工神經(jīng)網(wǎng)絡(luò)”成為了機器學(xué)習(xí)研究的基石。

在計算機科學(xué)中，“神經(jīng)網(wǎng)絡(luò)”一詞指的是計算機模擬的、由被稱為“神經(jīng)元”的計算元素層組成的系統(tǒng)。這些“神經(jīng)元”僅與人腦中的神經(jīng)元大致相似，它們通過加權(quán)連接相互影響。通過改變連接的權(quán)重，可以改變神經(jīng)網(wǎng)絡(luò)的計算。因為人們認(rèn)識到使用多個層次構(gòu)建深層網(wǎng)絡(luò)的重要性，從而有了“深度學(xué)習(xí)”這個術(shù)語。

由于強大的圖形處理單元(GPU)計算機的普及以及大量數(shù)據(jù)集的出現(xiàn)，本吉奧, 辛頓和楊樂昆在過去30年里奠定的概念基礎(chǔ)和工程進(jìn)展得到了顯著的推進(jìn)。近年來，這些因素和其他研究共同激發(fā)了計算機視覺、語音識別和機器翻譯等技術(shù)的跨越式發(fā)展。

此前，楊樂昆曾在辛頓的指導(dǎo)下進(jìn)行博士后工作，從20世紀(jì)90年代初開始，楊樂昆和本吉奧就在貝爾實驗室共同工作，即便沒有在一起工作，他們的研究也有著內(nèi)在的聯(lián)系和相互的影響。可以說，他們?nèi)吮舜酥g的影響成就了他們的研究。

本吉奧，辛頓和楊樂昆一直堅持探索機器學(xué)習(xí)、神經(jīng)科學(xué)和認(rèn)知科學(xué)之間的交叉地帶，他們最著名的合作是共同參與了加拿大高等研究院（CIFAR）發(fā)起的機器與大腦學(xué)習(xí)計劃（the Learning in Machines and Brains program）。

今年的圖靈獎得主在人工智能技術(shù)方面取得的重大突破包括但不限于：

杰弗里辛頓

反向傳播算法:在1986年的一篇論文“Learning Internal Representations by Error Propagation”中，辛頓與David Rumelhart和Ronald Williams證明了反向傳播算法可以幫助神經(jīng)網(wǎng)絡(luò)發(fā)現(xiàn)數(shù)據(jù)的內(nèi)部表示，使得神經(jīng)網(wǎng)絡(luò)可以用來解決從前無法解決的問題，反向傳播算法是目前大多數(shù)神經(jīng)網(wǎng)絡(luò)的標(biāo)準(zhǔn)算法。

玻爾茲曼機（Boltzmann Machines）:1983年，辛頓與泰倫斯·謝諾沃斯基(Terrence Sejnowski)一起發(fā)明了玻爾茲曼機，這是第一個能夠?qū)W習(xí)不屬于輸入或輸出的神經(jīng)元內(nèi)部表征的神經(jīng)網(wǎng)絡(luò)。

卷積神經(jīng)網(wǎng)絡(luò)的改進(jìn):2012年，辛頓和他的學(xué)生Alex Krizhevsky、Ilya Sutskever一起，利用分段線性神經(jīng)元（rectified linear neurons）和dropout正則化改進(jìn)了卷積神經(jīng)網(wǎng)絡(luò)。在著名的ImageNet比賽中，辛頓和他的學(xué)生們使物體識別的錯誤率幾乎減半，從而重塑了計算機視覺領(lǐng)域。

約書亞·本吉奧

序列概率模型（Probabilistic models of sequences）:20世紀(jì)90年代，本吉奧將神經(jīng)網(wǎng)絡(luò)與概率模型（如隱馬爾可夫模型）相結(jié)合。它被用在AT&T/NCR閱讀手寫支票的系統(tǒng)里，這被認(rèn)為是20世紀(jì)90年代神經(jīng)網(wǎng)絡(luò)研究的巔峰，現(xiàn)代深度學(xué)習(xí)語音識別系統(tǒng)正在擴展這些概念。

高維詞嵌入和注意力模型:2000年，本吉奧發(fā)表了具有里程碑意義的論文《神經(jīng)概率語言模型（A Neural Probabilistic Language Model）》，引入高維詞嵌入作為詞的意義表示，本吉奧的研究對自然語言處理任務(wù)產(chǎn)生了巨大而持久的影響，其中包括語言翻譯、問和視覺回答。他的團(tuán)隊還引入了一種注意力機制，這種注意力機制在機器翻譯方向取得了突破，成為深度學(xué)習(xí)中順序處理的關(guān)鍵組成部分。

生成對抗網(wǎng)絡(luò):自2010年以來，本吉奧關(guān)于生成深度學(xué)習(xí)的論文，特別是與Ian Goodfellow共同開發(fā)的生成對抗網(wǎng)絡(luò)(GANs)，在計算機視覺和計算機圖形學(xué)領(lǐng)域引發(fā)了一場革命。一個的由此引發(fā)的驚人應(yīng)用中，電腦可以自動生成原創(chuàng)圖像，而這種能力被認(rèn)為與人類智能類似。

楊樂昆

卷積神經(jīng)網(wǎng)絡(luò):在20世紀(jì)80年代，楊樂昆開發(fā)了卷積神經(jīng)網(wǎng)絡(luò)，這是該領(lǐng)域的一個基本原理。能夠提高深度學(xué)習(xí)的效率是它的眾多優(yōu)勢之一。上世紀(jì)80年代末，楊樂昆還在多倫多大學(xué)和貝爾實驗室工作時，他是第一個訓(xùn)練卷積神經(jīng)網(wǎng)絡(luò)系統(tǒng)處理手寫數(shù)字圖像的人。

如今，卷積神經(jīng)網(wǎng)絡(luò)已經(jīng)成為計算機視覺、語音識別、語音合成、圖像合成和自然語言處理領(lǐng)域的行業(yè)標(biāo)準(zhǔn)。它被廣泛應(yīng)用于各種應(yīng)用中，包括自動駕駛、醫(yī)學(xué)圖像分析、聲控助手和信息過濾。

改進(jìn)反向傳播算法:楊樂昆提出了早期版本的反向傳播算法(backprop)，并基于變分原理對其進(jìn)行了清晰的推導(dǎo)，他的工作加速了反向傳播算法，包括兩種加速學(xué)習(xí)時間的簡單方法。

拓寬神經(jīng)網(wǎng)絡(luò): 楊樂昆還為神經(jīng)網(wǎng)絡(luò)開拓了廣闊的空間，將其作為處理廣泛任務(wù)的一種計算模型，并在早期的工作中引入了一些現(xiàn)在廣為人知的基本概念。例如，在識別圖像領(lǐng)域，他研究了如何在神經(jīng)網(wǎng)絡(luò)中學(xué)習(xí)分層特征表示。如今，這一概念經(jīng)常被用于許多識別任務(wù)。

他和Léon Bottou一起提出了一個被應(yīng)用于每一個現(xiàn)代深度學(xué)習(xí)軟件中的理念，即學(xué)習(xí)系統(tǒng)可以被構(gòu)建為復(fù)雜的模塊網(wǎng)絡(luò)，在這個網(wǎng)絡(luò)中，反向傳播通過自動分化來執(zhí)行。他們還提出了能夠控制結(jié)構(gòu)化數(shù)據(jù)的深度學(xué)習(xí)體系結(jié)構(gòu)。

據(jù)悉，ACM將于6月15日加州舊金山年度頒獎晚宴上進(jìn)行2018年圖靈獎的頒獎儀式。

《新程序員》：云原生和全面數(shù)字化實踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的实至名归！ACM宣布深度学习三巨头共同获得图灵奖的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。