關鍵詞: 智能混合系統 自然智能 神經網絡 專家系統 模糊邏輯
人工智能的核心任務是模擬自然智能。而自然智能表現在不同的層次和不同的方面,因此仿智的方法有多種,如模擬抽象思維層次的符號主義,模擬形象思維層次的聯接主義,模擬智能行為層次的行為主義等。雖然各種智能信息處理方法與概念都已提出,并取得不少成果,但相關的研究工作還處在較低的水平,在單獨模擬人類智能活動時,尚存在各種局限性。生物物理、心理認知學的研究表明,智能信息處理能力是包括上述各種智能處理能力的綜合集成。可以相信,今后智能本質和智能綜合集成方面的系統研究將是非常重要的研究領域。
盡管自然智能覆蓋面廣,但人是萬物之靈,應將對人的智能的研究作為重點,并輔以對其他自然智能的研究,從而最終解開智能的奧秘。同時,在研究智能綜合集成方面,由于抽象思維和形象思維是人類最主要的二種思維形式,并且符號主義和聯接主義學派的方法和理論較為充實,因此,應重點進行上述二者的集成研究,然后將其原理和方法推廣到其他廣義人工智能的綜合集成中。
1 四類典型的智能混合系統
智能混合系統主要涉及專家系統(Expert System,ES)、神經網絡(Artificial Neural Network,ANN)和模糊邏輯(Fuzzy Logic,FL)三種技術。神經網絡易于表達感性知識,專家系統易于表達理性知識,而理性知識中又含有大量的模糊知識,因此需要使用模糊邏輯來描述。于是,不同技術的組合,便構成了不同類型的智能混合系統,主要有四種(如圖1所示)。
1.1 神經網絡與專家系統結合
神經網絡與專家系統主要有三種結合方式,下面分別予以介紹。
(1)基于神經網絡的專家系統
這類系統又稱聯接專家系統,其全部或部分功能由神經網絡實現,實現方式有兩種。
①從神經網絡中抽取規則構造專家系統
這種方式希望將神經網絡的隱式“黑箱”知識表示為顯式規則形式,并用于推理或解釋神經網絡的行為。在訓練前不需要了解領域知識的結構,也不需要將領域知識的結構強加于神經網絡,關鍵是通過神經網絡的自組織、自學習來獲得易于人類認識、理解的領域知識。
②規則知識編碼于神經網絡系統
這種方式比較簡單,實質是利用神經網絡將己有的領域知識進行優化求精,所訓練的神經網絡在形式上直接對應于專家系統的推理網絡,可以直接用于推理和解釋神經網絡的結論和行為。
上述兩種方法的區別在于:前者在對神經網絡進行訓練之前無需將領域知識的結構強加于神經網絡,所學得的神經網絡難以進行自我解釋,神經網絡中的知識只有抽取出來并表示為規則知識后才成為易于理解的顯式知識;后者在對神經網絡進行訓練之前需要將領域知識的結構編碼于神經網絡中,所學得的神經網絡己將知識進行了顯式表示,因而具有自我解釋能力。
很多學者進行了這方面的研究和開發工作。Gallant[1]首次提出并建立了聯接專家系統,Caudill[2]提出了建立額外的小型規則系統用于解釋神經網絡行為的方法等。
這類混合系統優勢在于自學習和自適應能力,可以有效克服專家系統在知識獲取方面所遇到的困難,開發時間較短;缺點在于對神經網絡拓撲結構、非線性活動函數及各種參數的選擇缺乏系統的指導原則,應用領域較窄,其解釋能力方面也有待進一步研究。
(2)基于知識的神經網絡系統
這類系統也稱為專家網絡,是由專家系統作為神經模塊構成的事件驅動網絡。在該系統中,神經元包括“與”、“或”、“非”等邏輯神經元和前提、結論神經元,它們之間的聯接權代表專家系統中的確定性因子,故可將專家系統規則集表達為專家網絡。
這方面的研究成果主要有:Kuncicky[3]提出的專家網絡,Towell[4]提出的一種基于知識的人工神經網絡。可以看出,專家網絡的缺點是學習時只改變權值,而不能改變網絡的拓撲結構,因而不能向不完全的初始規則集增加新的符號規則。為了使專家系統具備學習能力,以期根本解決知識獲取的瓶頸問題,對專家系統進行合理描述并且開發有效的學習算法將是十分重要的研究方向。
(3)基于神經網絡與專家系統的混合系統
這類系統的基本出發點是將復雜系統分解成各種功能子系統,分別由神經網絡或專家系統實現,研究的主要問題包括混合專家系統的結構框架和選擇實現功能子系統方式的準則兩方面的問題。這兩個問題的研究相輔相成,不可分割。混合方式有兩種:①從應用的角度出發,對易于獲取其產生式規則的子系統使用專家系統技術,其余的功能由神經網絡來實現,此時系統的結構由實際問題來決定。②從功能的角度出發,可以用神經網絡實現專家系統的規則推理、知識獲取等功能,專家系統則負責知識的顯式表示和神經網絡結論的驗證和解釋工作。
基于此,Suddarth[5]提出將復雜系統分解為功能子系統的混合系統結構,Tirri[6]則另辟蹊徑,用神經網絡實現專家系統規則集前提條件。
雖然神經網絡與專家系統結合兼有二者之長,但同時也帶來了單一技術不曾遇到的問題:①神經網絡與專家系統的信息交互問題;②學習過程所引發的系統可信度問題。前者的解決依賴于神經網絡與專家系統知識表示的轉換機制或同時適合兩者的公共知識表示體系,后者的解決有賴于不同體制下的知識的公共表示和統一的參數學習機制。顯然,解決上述兩個問題己成為實現神經網絡與專家系統相結合的當務之急。
1.2 模糊神經網絡
模糊神經網絡(Fuzzy Neural Network,FNN)是模糊理論同神經網絡相結合的產物。它匯集了神經網絡與模糊理論的優點,集學習、聯想、識別、自適應及模糊信息處理于一體。近年來,FNN的理論及應用得到了飛速發展,各種新的FNN模型的提出以及與其相適應的學習算法的研究不僅加速了 FNN理論的完善,而且它們在實際中得到了非常廣泛的應用。本文以此為基礎,進一步討論完整意義上的FNN的網絡模型、學習算法、模糊函數逼近性能和學習能力等關鍵問題,并對今后的研究提出自己的看法。
(1)FNN模型和算法
目前FNN模型絕大多數都是多層前向網絡結構,主要區別在于隸屬度函數、模糊加權算子、模糊激勵函數和輸入輸出的形式,以及結構與參數的設定和調整方法。
FNN可以分為單純型和混合型兩種:①單純型FNN:輸入輸出和連接權全部或部分采用模糊實數,計算結點輸出的權相加采用模糊算術算子,函數計算采用擴展原理;②混合型FNN:輸入輸出和連接權全部或部分采用模糊實數,計算結點輸出的權相加還采用了除模糊算術算子以外的模糊邏輯算子,函數計算采用擴展原理。這兩種模型既可以處理模糊信息,也可以處理非模糊信息,因為普通實數可以作為一種特殊的模糊數。
這方面成果很多,重要的有:Chen[7]針對基于模糊訓練樣本的模式分類問題提出了多類FNN分類器,模糊自適應諧振理論(ART)[8]成功解決了模糊信息的存儲和記憶問題。除此之外,還有不少文獻也都提出了各種各樣的FNN模型和算法,不再贅述。
(2)FNN的函數逼近問題
已經證明普通多層前向NN和模糊系統(輸入輸出均為非模糊數)是連續函數逼近器,并且系統之間可以等價互換,這為在輸入輸出非模糊的環境下設計模糊神經網絡混合系統提供了扎實的理論基礎。雖然模糊神經網絡系統逼近問題取得了許多理論成果,但是己有結果僅僅是針對采用單值模糊產生器的模糊系統得到的,對于輸入輸出均為模糊數的FNN函數逼近問題的研究相對比較薄弱,而在設計FNN的同時論證設計模型的逼近性能有時非常必要。因此,FNN函數逼近問題的研究重點是:①尋找能夠作為連續模糊函數逼近器的FNN;②給出通用的作為連續模糊函數逼近器的FNN的構造型定理。
在這方面Buckley[9]做了開創性的工作,定義了模糊函數、連續模糊函數和連續模糊函數逼近器等概念,并且證明如果FNN模型是單純型,則它不可能是一個連續模糊函數逼近器;如果FNN模型是混合型,則它可能是一個連續模糊函數逼近器。但是,這不是一個構造型定理,它沒有給出設計連續模糊函數逼近器的FNN的方法。Feuring[10]在研究FNN的構造方面做出了突出貢獻,給出了一種連續模糊函數逼近器的FNN的構造方法。這些結果對實際系統設計中模糊函數的選取具有指導性的意義。
(3)關于FNN的學習能力
FNN的學習包括兩個方面:一是有效的學習算法,二是學習的精度和普適性。通常,由于模糊運算的復雜性和一些算子的不連續性,在多層前向NN中常用的BP算法和其他一些優化算法不能直接用于多層前向FNN,而修改后的Fuzzy BP規則解決了此問題。為簡化學習算法,FNN的許多學習算法都采用經驗學習公式或規則,盡管缺乏完備的理論,但效果顯著。
FNN的學習精度和函數逼近性能密切相關。盡管訓練樣本有限,但只要網絡足夠大,學習算法有效,達到高精度的學習目標并非難事。然而訓練樣本的有限性導致學習結果的普適性變差已成為學習的主要矛盾。目前關于FNN系統的普適性問題成果很少,因此,如何將非模糊學習機的普適性分析方法推廣到模糊學習機,成為FNN學習問題研究的關鍵。
盡管這幾年FNN成果不菲,但仍然存在如下問題:
①FNN模型的研究主要是NN的模糊化和FS的神經網絡化,很少從人腦對模糊信息的處理機制上考慮問題。應從智能問題本身創造性地設計FNN模型,體現新的解決智能問題的思想。②FNN的數值計算導致嚴重的計算量問題。因此,有必要建立語言層次上的計算理論。③反饋FNN可以有效地解決成組、約束和動態學習以及空間關系學習等許多單項FNN很難解決的問題。因此,要加強反饋FNN的研究。
1.3 模糊專家系統
專家系統中模糊性的一個最主要表現就是模糊概念的存在。很好地表達模糊概念并不等于問題的根本解決,還要解決其使用問題。也就是在這樣的專家系統中如何進行推理。這方面的成果不多,僅集中在專家系統中模糊概念的表達與推理方法的研究上。
1.4 模糊神經網絡專家系統
專家系統的知識獲取及經驗性知識處理需要融合神經網絡的高質量、高效率的學習能力與模糊邏輯出色的對于不完善知識的描述能力。發揮各自優勢,能明顯提高專家系統的性能。
(1)知識表示問題
在實際問題中含有大量的模糊知識,僅用傳統的知識表示方法是不夠的。因此,模糊規則和隸屬函數的引入成為必然。
(2)信念傳播問題
推理期間可能有多條相同結論的規則同時滿足條件,在傳統的專家系統中,總是采用最大優先級規則,誤差較大。為了解決這個問題,采用神經網絡進行推理,結論的可信度是各條規則結論可信度的組合,權系數是通過訓練網絡得到的。
(3)更有效的推理
由于推理是通過神經網絡實現的,減少了規則匹配過程,從而加快了推理速度。
(4)學習問題
利用神經網絡的學習能力可容易地求精模糊規則,從而提高系統的適應能力。
Zha[11]提出了一種神經模糊專家Petri網模型,Li[12]開發了一個混合智能系統,還有不少文獻在這方面也作了相應的研究工作。
綜上所述,以神經網絡與專家系統的結合、模糊神經網絡、模糊專家系統以及模糊神經網絡專家系統四種類型為主的智能混合系統成果頗多,代表了目前智能混合系統發展的主流方向。所涉及的技術主要有專家系統、神經網絡和模糊理論三種。但是智能混合系統絕不僅限于此,還有許多智能技術,如粗糙集、遺傳算法、Petri網等也成為智能混合系統集成技術的研究熱點,不少文獻在這方面做出了突出的貢獻。
2 成果總結及進一步的研究方向
目前,智能混合系統己經取得了許多成果,在眾多領域中得到了相當成功的應用,解決了許多單一智能系統不能解決的復雜問題,并且正在向著更深的研究層次挺進。這些成果集中表現在以下方面。
(1)利用神經網絡優良的自組織、自學習和自適應能力初步解決了專家系統知識獲取的“瓶頸問題”。
(2)利用專家系統良好的解釋機能較好地解釋了神經網絡的行為,彌補了神經網絡中知識表達的“黑箱結構”。
(3)神經網絡與專家系統混合的系統通過融合模糊邏輯進行知識描述與推理,明顯地改善了專家系統的性能。
盡管智能混合系統的研究取得了許多矚目的成果,但其理論體系還很不完善,需從以下幾個方面進一步深入研究。
(1)立足于廣義人工智能,以模擬自然智能為目的,從思維科學的角度出發,研究人類認知過程中抽象思維與形象思維在功能、知識表達、思維活動等方面的內在關系。
(2)智能混合系統需要統一的知識表示方法,需要研究接近于人類思維模式的知識表示機理。
(3)利用神經網絡有效地進行知識獲取。
(4)研究實用的神經網絡推理及結果解釋方法。
(5)將已取得的智能混合系統研究成果向其他智能形式的綜合集成中推廣,從而進行更廣泛的智能系統集成方法研究。
3 結 論
智能混合系統研究應從人類智能行為本質入手,著眼于知識在人腦中表示、存儲及實現各種人類思維方式的生理基礎。隨著對人類生物神經系統、思維模式的進一步認識,研究各種新的集成系統模型,實現大腦思維過程的模擬,進而實現整個自然智能的模擬,從而最終揭開智能的奧秘。
參考文獻
1 Gallant I S.Connectionist expert systems.Communication of the ACM,1988;31(2):152
2 Caudill M.Using neural nets:Hybrid expert networks.AI Expert,1990;5(11):49
3 Kuncicky D C,Hruska S I,Lacher R C.Hybrid systems:the equivalence of rule-based expert systems and artificial neural network inference.Int.J.of Expert Systems,1991;4(3):281
4 Towell G G,Shavlik J W,Noordewier M O.Refinement of approximate domain theories by knowledge-based neural networks.In:Proc.AAAI-90,August,1990:861
5 Suddarth S C,Holden A D C.Symbolic-neural systems and the use of hints for developing comples systems.Int.J. Pattern Recognition,1991;5(4):503
6 Tirri H.Implementation expert system rule conditions by neural networks.New Generation Comput.,1991;10:55
7 Chen K H.A multiclass neural network classifier with fuzzy teaching inputs.Fuzzy Sets and Systems,1997;91:15
8 Carpenter G A,Grossberg A,Rosen D B.Fuzzy ART fast stable learning and categorization of analog patterns by an adaptive resonance systems.Neural Networks,1991;4:759
9 Buckley J J,Hayashi Y.Fuzzy neural networks:a survey. Fuzzy Sets and Systems,1994;66:1
10 Feuring T,Lippe W.The fuzzy neural network approximation lemma.Fuzzy Sets and Systems,1999;102:227