新的信息论诞生前的若干问题分析
個(gè)人認(rèn)為仿生學(xué)是最好的機(jī)器學(xué)習(xí)。哲學(xué)有助于科學(xué)研究的推進(jìn),有助于思想火花的碰撞。萬(wàn)物皆有靈性,或許整個(gè)自然界都在遵守著固定的規(guī)律向前走。因?yàn)閷?dǎo)師的研究方向是EEG信號(hào)的處理,最近看了些有關(guān)EEG信號(hào)處理的文章。現(xiàn)記錄如下。EEG信號(hào)的研究最困難的就是信號(hào)的提取,因?yàn)镋EG信號(hào)十分微弱,其中又會(huì)摻雜著噪聲。所以EEG的信號(hào)的提取阻擋了EEG信號(hào)分析,處理的研究。而EEG信號(hào)降噪的方法主要采取小波變換,小波變換主要特點(diǎn)是在時(shí)頻域都可以精準(zhǔn)的分析。小波變化主要涉及到尺度函數(shù)和小波函數(shù),尺度函數(shù)粗略的表示信號(hào),小波函數(shù)表示信號(hào)的細(xì)節(jié)。CSP是針對(duì)EEG信號(hào)多通道傳輸?shù)慕鉀Q辦法。提取共同的特征可以和數(shù)據(jù)融合(貝葉斯升級(jí)的那個(gè)算法)的方法相結(jié)合達(dá)到降噪的目的。格蘭杰關(guān)系用于檢測(cè)和分析信號(hào)處理的效果。哈哈哈一本正經(jīng)的胡說(shuō)八道啦。下面貼上轉(zhuǎn)載的好文章。
1948年,美國(guó)貝爾實(shí)驗(yàn)室青年科學(xué)家香農(nóng)(Shannon C)發(fā)表了《通訊的數(shù)學(xué)理論》的著名論文。他把熱力學(xué)中描述系統(tǒng)無(wú)序性的重要概念“熵”(entropy)引入信息論。把熵作為信息不確定度的一個(gè)測(cè)度。他同時(shí)定義了數(shù)字化信息的基本單位:比特。
香農(nóng)的這篇論文被認(rèn)為是現(xiàn)代信息論的奠基之作。同年,美國(guó)麻省理工學(xué)院教授維納(N.Wiener)出版了《控制論:關(guān)于在動(dòng)物和機(jī)器中控制和通訊的科學(xué)》。由此,控制論成為一門(mén)獨(dú)立的專(zhuān)門(mén)的學(xué)科。維納博士在這本書(shū)中指出:在科學(xué)發(fā)展上可以得到最大收獲的領(lǐng)域是各種已經(jīng)建立起來(lái)的部門(mén)之間的被忽視的無(wú)人區(qū)。
這里所說(shuō)的“無(wú)人區(qū)”,就是我們今天所說(shuō)的邊緣學(xué)科。
近50年來(lái),隨著信息論、控制論、生命科學(xué)、微電子學(xué)、計(jì)算機(jī)科學(xué)的發(fā)展,人們?cè)絹?lái)越驚異于人類(lèi)大腦的奇妙。至少到目前為止,人類(lèi)大腦信號(hào)處理的機(jī)制對(duì)人類(lèi)自身來(lái)說(shuō),仍是一個(gè)黑盒子。也就是說(shuō),科學(xué)家們除了對(duì)大腦的一些物理參數(shù)有所了解之外,對(duì)于人類(lèi)大腦如何處理外界信號(hào),如何把人類(lèi)感官所接收的信息進(jìn)行融合、處理并進(jìn)行存儲(chǔ)、傳輸和加工,幾乎一無(wú)所知。
現(xiàn)代電子計(jì)算機(jī)技術(shù)的發(fā)展,似乎使人越來(lái)越相信:我們?cè)谛盘?hào)處理理論和技術(shù)方面的進(jìn)展都已陸續(xù)地在大腦信號(hào)處理中得到了印證。計(jì)算機(jī)需要有聽(tīng)覺(jué)、視覺(jué),要能學(xué)習(xí),能理解:這些我們?nèi)祟?lèi)大腦早就具有了;人的機(jī)體會(huì)受到病毒感染,不料在計(jì)算機(jī)領(lǐng)域也出現(xiàn)了病毒:計(jì)算機(jī)的運(yùn)行需要有一個(gè)操作系統(tǒng),那么我們?nèi)祟?lèi)大腦中也存在操作系統(tǒng)嗎?
計(jì)算機(jī)、人工智能的下一步怎么發(fā)展呢?讓我們?nèi)ヌ剿饕幌氯祟?lèi)大腦的信號(hào)處理機(jī)制吧!如果把人類(lèi)大腦信號(hào)處理機(jī)制研究清楚,那么毫無(wú)疑問(wèn),新的信號(hào)處理理論就會(huì)應(yīng)運(yùn)而生。換句話說(shuō),有兩條看來(lái)完全不同的進(jìn)化道路,它們走向同一目標(biāo)并得出完全相同的結(jié)果。
一條是人類(lèi)大腦的信號(hào)處理系統(tǒng),經(jīng)過(guò)幾百萬(wàn)年的自然選擇,在“適者生存”鐵的規(guī)則的約束下,正不斷地沿著某種最佳的方向,緩慢地,但是有效地前進(jìn)著;另一條是人類(lèi)自身,根據(jù)對(duì)科學(xué)知識(shí)的積累,經(jīng)過(guò)在各領(lǐng)域內(nèi)的艱苦探索,不斷完善對(duì)客觀世界的認(rèn)識(shí),并得出一個(gè)又一個(gè)新的發(fā)現(xiàn)。
現(xiàn)代信號(hào)處理領(lǐng)域一個(gè)最引人注目的成就就是信號(hào)的數(shù)字化處理,它空前迅速發(fā)展的動(dòng)力來(lái)自于微電子技術(shù)、計(jì)算機(jī)技術(shù)、人工智能方面的推動(dòng)。但是,到目前為止我們還沒(méi)有證據(jù)可以證明,人類(lèi)大腦在進(jìn)行信號(hào)處理時(shí)也存在著某種類(lèi)型的數(shù)字化處理,這就使得我們有理由對(duì)信息的數(shù)字化進(jìn)程進(jìn)行冷靜的思考。
1995年,美國(guó)麻省理工學(xué)院教授、媒體實(shí)驗(yàn)室的負(fù)責(zé)人尼葛洛龐帝(Negroponte N)出版了《數(shù)字化生存》一書(shū),引起了美國(guó)和世界各地讀者的興趣。他把近20年來(lái)信息領(lǐng)域的數(shù)字化革命的豐碩成果,以及將要引起的對(duì)人類(lèi)生活的巨大沖擊展現(xiàn)在世人面前。1998年1月31日,美國(guó)前任副總統(tǒng)戈?duì)?#xff08;Gore S)在加利福尼亞科學(xué)中心作了題為“數(shù)字地球——認(rèn)識(shí)我們這顆星球”的講演,提出充分利用數(shù)字信息促進(jìn)社會(huì)進(jìn)步和發(fā)展。
根據(jù)粗略的估計(jì),人類(lèi)獲得信息的主要來(lái)源是聽(tīng)覺(jué)(約占5%)與視覺(jué)(約占90%),其他還有味覺(jué)、觸覺(jué)及嗅覺(jué)等。在60年代初期之前,對(duì)信息的處理方式主要限于模擬方式。它的特點(diǎn)是這種信號(hào)在時(shí)間上是不分間隔的,在幅度上是不分層的。從60年代開(kāi)始,由于計(jì)算機(jī)技術(shù)的迅猛發(fā)展,特別是70年代以來(lái)微電子技術(shù)的驚人進(jìn)步,使得信號(hào)的數(shù)字化處理以空前未有的速度向前發(fā)展。
1946年當(dāng)馮·諾伊曼等計(jì)算機(jī)專(zhuān)家研制成功第一臺(tái)電子計(jì)算機(jī)ENIA(時(shí),它的總重量為30噸,占地面積相當(dāng)于一個(gè)小的體育館,平均每7分鐘就有一個(gè)電子管失效。它的耗電也十分驚人,當(dāng)它工作時(shí),整個(gè)費(fèi)城燈光暗淡。1971年Intel公司推出的第一個(gè)微處理器芯片4001.其功能大體上和ENIA(相當(dāng),而它的體積只有后者的萬(wàn)分之一。微處理芯片的發(fā)展速度異常迅速,它基本上遵從所謂摩爾(Moore G)定律,這就是微處理器芯片每隔18個(gè)月性能提高一倍,價(jià)格降到原來(lái)的1/2。摩爾博士是Intel公司的創(chuàng)始人之一,他在1973年提出這一觀察結(jié)果。但是據(jù)他自己說(shuō),早在1964年他還在仙童公司工作時(shí),就注意到半導(dǎo)體工業(yè)發(fā)展的這一事實(shí)了。1998年1月在美國(guó)Proc.lEEE上重新公布了摩爾這一斷言的手稿(見(jiàn)附圖),摩爾聲稱(chēng)這一結(jié)論無(wú)需作任何改變。我們現(xiàn)在還很難預(yù)測(cè),這一定律能夠有效的時(shí)間究竟還有多長(zhǎng),有的科學(xué)家認(rèn)為,至少在2010年前是正確的。也有的科學(xué)家認(rèn)為,從固體物理學(xué)的基本理論來(lái)看,芯片的線寬是有限制的,從而微處理器芯片的性能就受到限制。
英國(guó)科學(xué)家福萊斯特(Frester T)在總結(jié)了微電子技術(shù)的這種驚人發(fā)展速度之后,在他所著的《高技術(shù)社會(huì)》中發(fā)出了感嘆,他說(shuō):“如果汽車(chē)或飛機(jī)行業(yè)也像計(jì)算機(jī)行業(yè)這樣發(fā)展,那么今天一輛羅爾斯·羅伊斯汽車(chē)的成本只有2.75美元;跑300萬(wàn)英里(482.8萬(wàn)km)只用1加侖汽油。而一架波音767飛機(jī)的價(jià)格只需500美元,用5加侖汽油在20分鐘內(nèi)便可環(huán)繞地球一周”。
數(shù)字化浪潮正在席卷全球,數(shù)字化信息處理技術(shù)正在使人類(lèi)生活質(zhì)量提到空前高的水平。
但是信息的數(shù)字化處理絕不是信息處理的完美無(wú)缺的方式,它只是信息處理理論與發(fā)展過(guò)程中的一個(gè)階段,下一階段是如何的呢?最直接的方法是去探求人類(lèi)大腦信號(hào)處理方式,且然,目前對(duì)我們來(lái)說(shuō),仍是一個(gè)黑盒子。
據(jù)測(cè)算,人類(lèi)大腦的平均重量約為1.6kg,占成年人體重的2%~3%,大腦的基本組成部分為神經(jīng)元,總數(shù)約為100~140億個(gè),大腦工作時(shí)要消耗人體氧氣攝入量的20%~30%,人腦的記憶容量大約是10^15比特,如果一個(gè)人活100歲,自出生后,每秒存儲(chǔ)103比特信息,那么,仍只用去這個(gè)容量的1%。科學(xué)家目前對(duì)人類(lèi)大腦的知識(shí),特別是大腦對(duì)外界信號(hào)處理系統(tǒng)的奧秘必將會(huì)大大擴(kuò)展我們現(xiàn)有信號(hào)處理理論和技術(shù)的研究范圍,大大推動(dòng)人工智能科學(xué)(包括人工語(yǔ)音合成、自然語(yǔ)言識(shí)別、圖像識(shí)別等領(lǐng)域)的發(fā)展,同時(shí)會(huì)為研制體積更小、速度更快、功耗更小、可靠性更高的智能計(jì)算機(jī)提供依據(jù)。
要探索大腦信號(hào)處理機(jī)制,要遵循由易到難、由表及里的途徑,因?yàn)槿祟?lèi)大腦的信號(hào)處理系統(tǒng)對(duì)我們?nèi)祟?lèi)本身來(lái)說(shuō),仍是一個(gè)黑盒子。用傳統(tǒng)的研究輸入/輸出關(guān)系的方法,或者用人工神經(jīng)網(wǎng)絡(luò)理論中的建模方法不能達(dá)到揭示這種系統(tǒng)秘密的目的。我們要解決的問(wèn)題實(shí)際上也迫使我們采用一種逐步逼近的方法,這些問(wèn)題歸結(jié)起來(lái)是:
·人類(lèi)大腦對(duì)聽(tīng)覺(jué)、視覺(jué)和其他感宮所接收到的信號(hào)是先進(jìn)行數(shù)據(jù)融合還是先進(jìn)行處理,也就是存在于人類(lèi)大腦中的數(shù)據(jù)融合系統(tǒng)是屬于哪一個(gè)層次的?(根據(jù)現(xiàn)代信息論的研究,數(shù)據(jù)融合可以分為三個(gè)層次,即數(shù)據(jù)級(jí)、特征級(jí)和決策級(jí)〉。
·自然界作用于人類(lèi)大腦的信號(hào),無(wú)論是聲音、光波或其他信號(hào)都是模擬信號(hào),大腦在接收這種信號(hào)之后進(jìn)行數(shù)字化處理嗎?即進(jìn)行時(shí)間采樣和幅度量化嗎?
如果是進(jìn)行了數(shù)字化處理,是哪一種數(shù)字化處理呢?在時(shí)間上是等間隔采樣嗎?存在信息論中的奈奎斯特(Nyguist)采樣率嗎?在空間上進(jìn)行分層嗎?是等間隔分層嗎?還是采用某種壓擴(kuò)(即A-律,μ-律壓擴(kuò)方法)?
進(jìn)一步還要探索,如果進(jìn)行了數(shù)字化處理,是幾比特的數(shù)字化?信息的單位是比特嗎?
·人類(lèi)大腦作為一個(gè)超級(jí)信號(hào)處理系統(tǒng)是否具有“操作系統(tǒng)”,如果沒(méi)有,大腦的運(yùn)行是如何進(jìn)行的?如果有,這是一種什么樣式的操作系統(tǒng)?不同個(gè)體之間有什么差異?
人類(lèi)對(duì)異體器宮移植的排斥是否受操作系統(tǒng)的影響?
信息在人類(lèi)大腦中是如何傳輸、存儲(chǔ)和加工的?記憶、聯(lián)想、判斷是如何產(chǎn)生或形成的?
·人類(lèi)對(duì)自然語(yǔ)言理解是如何實(shí)現(xiàn)的?圖像識(shí)別的機(jī)制是什么?目標(biāo)分類(lèi)識(shí)別的概念是如何存儲(chǔ)于大腦之中的?
人類(lèi)大腦的存儲(chǔ)系統(tǒng)的輸入顯然是按時(shí)間順序的,但是在應(yīng)用時(shí)卻能不受存入順序的影響,這種順序輸入是如何變?yōu)橛洃洸⒅匦卤蛔x出的?
·大腦記憶中順序讀出是如何實(shí)現(xiàn)的,是不是存在某種引導(dǎo)系統(tǒng)?實(shí)踐證明,要不出任何錯(cuò)誤按一定速率背誦一首詩(shī)歌是十分困難的,但是如果唱一首同樣長(zhǎng)度的歌曲幾乎不會(huì)有任何問(wèn)題。這里,樂(lè)曲是不是起著引導(dǎo)地址的作用?
·某些特別的信息和刺激會(huì)引起思維的混亂、記憶的喪失或錯(cuò)亂。那么,特別的信號(hào)會(huì)引起電腦或其他信息處理系統(tǒng)的失效嗎?我們有可能給聲納或雷達(dá)發(fā)送某種信號(hào)使得它們失去功效嗎?
等等,等等。
隨著我們對(duì)人類(lèi)大腦信號(hào)處理機(jī)制研究的深入,還會(huì)出現(xiàn)更多的新問(wèn)題,這些問(wèn)題的解決會(huì)使我們現(xiàn)代計(jì)算機(jī)的功能更強(qiáng)大,真正地像人一樣會(huì)聽(tīng)、會(huì)談、會(huì)思考、會(huì)學(xué)習(xí)、會(huì)理解。
要揭示人類(lèi)大腦的奧秘需要從事數(shù)學(xué)、電子學(xué)、控制論、生命科學(xué)、信息論、計(jì)算機(jī)科學(xué)的專(zhuān)家共同努力,也許還要有哲學(xué)家的參與。不同領(lǐng)域?qū)<业穆?lián)合有利于問(wèn)題的清晰化和尋求最好的解決途徑,如果某一個(gè)問(wèn)題是一個(gè)生物學(xué)方面的問(wèn)題,那么10個(gè)不懂生物學(xué)的信患論專(zhuān)家不見(jiàn)得會(huì)比一個(gè)生物學(xué)家更有效。
除了死亡之外,沒(méi)有任何正常的方法可以將人類(lèi)大腦中的記憶全部清除,這有一點(diǎn)類(lèi)似于現(xiàn)代微機(jī)中的“復(fù)位”操作。除非把計(jì)算機(jī)徹底失效,否則它的程序、數(shù)據(jù)總還存在于存儲(chǔ)系統(tǒng)中。
總結(jié)
以上是生活随笔為你收集整理的新的信息论诞生前的若干问题分析的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: FIR IIR滤波器的设计
- 下一篇: 软件接口设计_基于PREEvision的