ES: 机器学习、专家系统、控制系统的数学映射
一、基本定義 ??
?????? 1.機器學習維基定義:機器學習有下面幾種定義: “機器學習是一門人工智能的科學,該領域的主要研究對象是人工智能,特別是如何在經驗學習中改善具體算法的性能”。 “機器學習是對能通過經驗自動改進的計算機算法的研究”。 “機器學習是用數據或以往的經驗,以此優化計算機程序的性能標準。” 一種經常引用的英文定義是:A computer program is said to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves with experience E.
?????? 2.專家系統維基定義:可以看作是一類具有專門知識和經驗的計算機智能程序系統,一般采用人工智能中的知識表示和知識推理技術來模擬通常由領域專家才能解決的復雜問題。一般來說,專家系統=知識庫+推理機。
?????? 3.控制系統還沒有維基定義:自動控制系統是在無人直接參與下可使生產過程或其他過程按期望規律或預定程序進行的控制系統。自動控制系統是實現自動化的主要手段。
?????? 4.語義維基定義:語義學(英語:Semantics,法語:La sémantique),也作“語意學”,是一個涉及到語言學、邏輯學、計算機科學、自然語言處理、認知科學、心理學等諸多領域的一個術語。雖然各個學科之間對語義學的研究有一定的共同性,但是具體的研究方法和內容大相徑庭。語義學的研究對象是自然語言的意義,這里的自然語言可以是詞匯,句子,篇章等等不同級別的語言單位。但是各個領域里對語言的意義的研究目的不同:
- 語言學的語義學研究目的在于找出語義表達的規律性、內在解釋、不同語言在語義表達方面的個性以及共性;
- 邏輯學的語義學是對一個邏輯系統的解釋,著眼點在于真值條件,不直接涉及自然語言;
- 與計算機科學相關的語義學研究在于機器對自然語言的理解;
- 認知科學對語義學的研究在于人腦對語言單位的意義的存儲及理解的模式。
??????? 5.語法維基定義:語言學中語法(英語:Grammar)是指任意自然語言中控制子句、詞組以及單詞等結構的規則,這一概念也被用來指對于這些規則進行研究的學科,例如詞法學、語法學或音韻學等,并和其他學科如語音學、語義學或語用學互相補充。在很多文獻中,語言學家通常不用“語法”來指正寫法。
二、語法論 ??
?????? 叔本華先生的代表作之一為《作為意志和表象的世界》,這本書是我唯一讀完三遍的哲學著作,雖然讀完之后大概內容會完全忘掉,感覺卻慢慢加深。世界是我的表象,整個世界的表象隨著時間不斷變化發展,而作為智能體的人對世界表象的反射作為思想和記憶存儲在大腦里。大腦的容量總是不夠的,若存儲表象太困難了,還好表象與本質有本質的聯系,其中有一種聯系:叫做規則,有時候人存儲了少量規則和少量表象,便可以了解大部分世界或者世界的大部分。
?????? 自然語言作為人類的概念工具,是世界表象的映射,若語言對表象世界的描述是雙射的,那么這種自然語言便是無二義性的。只是現代語言其豐富度還難以精細描述表象世界,有意或者無意之間借助于規則,語言對世界的描述層面一般顯示出二義性。
?????? 自然語言的天生二義性緩慢演進,暫且擱置。自然語言是世界的一個很好的表象描述,分析自然語言可以對其代表的本質——自然世界有一個很好的理解。
?????? 自然語言對世界的描述,形式化為“語義”,即是我們所說的“概念”。自然語言的表現有其內在要求,這就是語法,即是自然語言的規則。自然語言是一個AI難的問題,根本在于世界太復雜,對世界的描述必須上升到 智能 的水平,必須了解“智能” 的含義。
????? “智能”最主要的一個方面是可演進性,智能首先是一個系統,系統要素最終使系統進化或者滅亡。進化的“智能”更好的與世界適應,富否則滅亡。
?????? 再回到哲學,黑格爾的哲學 語義價值 受到馬克思先生的極大批判,但其學說曾經如此流行,必有過人的地方,這就是黑格爾的 辯證法。哲學不能否認前向鏈和因果論的正確性,這是一切系統運行的基礎。黑格爾的邏輯辯論能力非常強大,對哲學思想這個語義系統的語法——邏輯推理運用的恰到好處,才奠定了他在哲學的地位。
?????? 一個好的語法系統可以構建一個強有力的語義系統.....
?????? 語義 的模型論 和語法的證明論 關聯 暫時還不明白...。
二、語義論 ??
????? 專家系統所闡述的語義為知識狀態,通過邏輯規則進行推理,得到終止狀態即解決方案。維基的闡述:專家系統適合于完成那些沒有公認的理論和方法、數據不精確或信息不完整、人類專家短缺或專門知識十分昂貴的診斷、解釋、監控、預測、規劃和設計等任務。一般專家系統執行的求解任務是知識密集型的。
????? 維基的中文解釋不是特正確,專家系統的確定性是專家系統的內在要求之一,具有模糊邏輯的專家系統其本質上是確定的。
????? 值得修改的地方是:專家系統使用的是有確定的公理和方法的系統。即使具有模糊規則,模糊規則的可能性概率必須是可以預測的,這才符合我們對科學可驗證的初始要求。專家系統更符合語義系統的追逐——完備性,專家系統的語義系統必須是完備的,從任何一個初始狀態出發,經過一系列的推理規則,不能得到矛盾的結果。
????? 而機器學系系統呢,對于完備性的映射是“過擬合”。 過擬合同于目標泄露。?
????? 專家系統的可以形式化為狀態機模型。有限狀態機(英語:finite-state machine,縮寫:FSM)又稱有限狀態自動機,簡稱狀態機,是表示有限個狀態以及在這些狀態之間的轉移和動作等行為的數學模型。
?????? FSM(有限狀態機)可以使用上面圖1那樣的狀態圖(或狀態轉移圖)來表示。此外可以使用多種類型的狀態轉移表。下面展示最常見的表示:當前狀態(B)和條件(Y)的組合指示出下一個狀態(C)。完整的動作信息可以只使用腳注來增加。包括完整動作信息的FSM定義可以使用狀態表。
| … | … | … |
| … | 狀態C | … |
| … | … | … |
??????? 專家系統是一個反復驗證擴增的過程。專家是基于規則的系統,規則的粒度決定了專家系統正確性和穩定性,一般兩種特性不可得兼。專家系統的語義是稀疏的,規則的粒度決定語義的表達空間疏密程度。語義的完備性要求狀態點可以完全且唯一解析。若狀態點不能被規則系統解析,一個可行的方法為規則細分化,通過增加語義空間密度來解析狀態點。同樣若狀態點得到了矛盾的解析,可行的方法為規則細分化,或者修改規則。在修改規則和規則細分化的同時,仍然要保持語義的完備性,遍歷整個專家系統狀態。
??????? 機器學習呢,可以看做是側重于專家系統的規則提取過程的專家系統預處理方法。若規則是顯式的,且必須保持完備性,則為專家系統;若規則難以描述,則是神經網絡。貝葉斯網絡也是專家系統的一中,MCMC方法依然可以劃分為規則系統的范疇。
三、機器學習
?????? 機器學習側重于規則的正確性,通過模型的泛化性能來調整機器學習規則粒度和規則走向(參數),與專家系統的完備性要求側重點不同。ML的模型又稱為算法,機器學習與泛函分析聯系緊密。
?????? 對于世界模型的實例分類,同態于名詞范疇,林奈分類法是一個成功的實例。先驗經驗和特征提取的隱式規則 是世界表象的本質聯系所決定的。為何一直推崇標準建類模型?標準建類模型意指使用標準的建類規則,使用合適的類定義粒度,合適的類劃分層次,擬合世界表象的概念模型,促進計算機語義描述的標準化和擬人化。
?????? 對于世界模型的聯系分類,同態于動詞范疇,聯系范疇的定義比名詞少的多,謂詞的細分化比主賓的細分化要簡單的多,名詞的組合規則復雜,生成的實例多樣紛雜。而聯系可以被隔離,實例系統具有相似性,實體組合新名詞一個聯系發生變化便可以產生新的實體,從此意義上說,聯系的量級為實體的ln級別。動詞的一個特性便是可以泛化,類似于計算機語言設計C++中的規則“多態”或者JAVA中的“借口”。多態和接口的實現極大地減少了語言描述世界的復雜度。
?????? 名詞代表的實例通過和其他實例或聯系,服從特定的“組合規則”,構建無限可能多的組合,深刻的闡述了“組合爆炸”這個特性。實例的粒度和實例的量級有著千絲萬縷的關系,實例的內部和外部聯系構建規則。規則或許和聯系從屬于一個量級,規則也許和聯系可以封裝。
?
?????? 1.機器學習對實例的分類受到實例粒度和實例組分復雜度的限制,表現為特征工程的特征抽取維度。即使是離散空間,實例粒度越小、實例組分越多,特征維度越高,機器學習的模型必然會更復雜,就像“英國的海岸線”一樣。從這個尺度上說,機器學習對規則的抽取性能一開始就是被限定的。
?????? 機器學習對實例的判別模型與專家系統對狀態的解析模型類似。
?????? 特征工程是機器學習最重要的部分。使用人力對實例進行特征提取,企圖希望用X個維度的(離散/連續)特征(數)值來描述無限維度的表象世界,期待特征是表象實例的單射,這個過程使用了大量的經驗。特征工程有一勞永逸的方法嗎?應該沒有吧!人力在應用目標和表象初始狀態中構建特征提取規則,這是一個基于規則的特征提取專家系統,會表現出專家系統的所有特征。
??????? 圖像模式識別是一個“AI”難的過程,因為特征工程的專家系統構建過程是一個真正的智能過程,而我們所謂的“語義鴻溝”是因為我們追逐極度降維,仍然能保持概念映射的單射性質。
??????? 2.機器學習對聯系的分類會簡單的多,因為聯系的特征一般是明晰的,維度也較低。對規則抽取規則,引入元機器學習。
四、元機器學習
?????? 證明語義完備性的理論為模型論,證明語法完備性的理論為證明論。人工智能一定會實現的,且強人工智能一定會實現的,只是一旦他實現,若不依賴于與人類似的自然資源,那么他會為自身的生存構建一個更合適的自然界,這才是生存爭奪戰的源頭。
?????? 我們構建了“三北防護林”,抵擋沙漠,因為我們所依賴的資源不能從沙漠這種環境中獲取。經濟基礎決定上層建筑,人類意識不可能對自身軀殼不加保護,人類軀殼所需要的存在資本依然與這個自然界不可分割。
?????? 狀態的轉換需要能量,我們需要消化作用,需要食物和氧氣。我們更需要這個軀殼正常的運行,保持能量源源不斷地可以被供應,維持意識的狀態轉變。我們更需要這個能量機器穩定存在的環境并實施對她維護,因此我們和這個原始自然界有著千絲萬縷的聯系。
?????? 森林和海洋用于光合作用產生氧氣和食物,我們不能永遠地開辟城市到任何地方。還要保證能量產生機器的正常運轉,因此治理“霧霾”。保證潔凈的飲用水作為能量載體,和能量產生的重要容器。
?????? 智能的原因還未能探測到,因此,“元認知“還是處于哲學的認知階段。對人類智能的認識不僅是自然界和科學本身在阻礙,生存本能的延伸——倫理也在限制這 對認知/智能的剖析,元認知的過程困難重重。
? ???? 幸好,機器學習系統是人類專家從0開始構建的系統,機器學習的整個模型生成的規則是可以被公理化描述,規則的規則也可以被描述,深入到”元機器學習“。
?????? 對機器學習這個專家系統來解析一番,進入元認知的階段。
五、模型的復雜度和完備性
?????? 專家系統的完備性和機器學習的完備性不在一個層次,專家系統的完備性為語義的完備性,是一個永無止境的過程。機器學習系統的完備性是語法的完備性,可以 從邏輯 層面得到嚴謹的證明。
?????? 那么機器學習的完備性便是證明整個規則的正確性。
???????一個機器學習系統,構建一個專家系統,然后構建過程依賴了控制系統。
總結
以上是生活随笔為你收集整理的ES: 机器学习、专家系统、控制系统的数学映射的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: ML大杂烩:**常见机器学习算法公式梳理
- 下一篇: 3个步骤让您轻松配置路由器-3个步骤让您