人工智能的邏輯極限

1.斯梅爾第十八數(shù)學問題

過去幾十年計算機技術的巨大成就正在向人類智能發(fā)起挑戰(zhàn)。“電腦能否代替人腦”，“ 人類心智是否會永遠勝過計算機”，“哥德爾不完全性定理是否設定了人工智能不可克服的 邏輯極限”?這是哲學家和人工智能專家及其反對者們激烈爭論的話題。

哥德爾不完全性定理是為了解決1900年希爾伯特提出的20世紀需要解決的23個數(shù)學問題之 一所得的數(shù)學結(jié)果。事隔100年，曾任美國數(shù)學會主席的斯梅爾又向全世界數(shù)學家提出了21 世紀需要解決的24個數(shù)學問題，其中的第18個問題是，“人類智能的極限和人工智能的極限 是什么”?并且指出，這個問題與哥德爾不完全性定理有關。

哥德爾定理告訴我們：在任何包含初等數(shù)論的形式系統(tǒng)中，都必定存在不可判定命題。有 了圖靈機概念之后，它的一個等價命題是，任何定理證明機器都至少會遺漏一個真的數(shù)學命 題不能證，這就是數(shù)學的算法不可窮盡性。這一性質(zhì)被許多人用來作為“在機器模擬人的智 能方面必定存在著某種不能超越的邏輯極限”的論據(jù)。

那么，哥德爾定理與人工智能的極限之間究竟有什么關系?哥德爾本人對此如何評價的?人 工 智能是否存在它的邏輯極限?

2.人工智能研究現(xiàn)狀

人工智能方案起于20世紀40年代后期。1936年圖靈首先以“圖靈機”概念對算法概念給予 數(shù)學刻畫，1950年又在《計算機器與心智》中提出“機器能思維嗎?”這一重要問題，并設 計了“圖靈測驗”，為人工智能的研究提供了某種理論依據(jù)和檢驗方法。1948年維納創(chuàng)立“ 控制論”，研究動物與機器中的控制和通訊的反饋控制原理及信息傳輸、信息交換和信息加 工過程等規(guī)律。1954年艾什比出版《大腦的設計》，開辟了以行為模擬的觀點研究人工智能 的途徑。1956年夏季，人工智能的先驅(qū)者麥卡希、明斯基、香農(nóng)等人發(fā)起，在美國達特茅斯 大學舉辦“如何用機器模擬人的智能”學術會議，正式使用“人工智能”術語，成為這門新 的研究領域誕生的標志。從此以后，人工智能的研究分別沿著三個方向深入：

(1)機器思維方向；包括機器證明、機器博弈、機器學習啟發(fā)程序及化學分析、醫(yī)療診斷、 地質(zhì)勘探等專家系統(tǒng)及知識工程的問世。(2)機器感知方向；包括機器視覺、機器聽覺等文 字、圖象識別、自動語言理解的理論、方法和技術以及感知機和人工神經(jīng)網(wǎng)絡的研究。(3) 機器行為方向；包括具有自學習、自適應、自組織特性的智能控制系統(tǒng)、控制論動物和智能 機器人的研究開發(fā)。

半個世紀以來，人工智能在理論研究和實踐過程中，大致經(jīng)歷了三大研究綱領的變遷：

(1)符號主義學派主張思維的基本單元是符號，智能的核心是知識以及利用知識推理進行問 題求解，智能活動的基礎是物理符號運算，人腦、電腦同樣都是物理符號系統(tǒng)，人的智能可 以通過建立基于符號邏輯的智能理論體系來模擬；(2)聯(lián)結(jié)主義學派斷言智能活動的基本單 元是神經(jīng)細胞，智能活動過程是神經(jīng)網(wǎng)絡狀態(tài)的演化過程，智能活動的基礎是神經(jīng)細胞之間 的突觸聯(lián)結(jié)機制，智能系統(tǒng)的工作模式是神經(jīng)網(wǎng)絡模式，智能系統(tǒng)理論是基于非線性動力學 的系統(tǒng)論；(3)行為主義學派堅信智能行為是以“感知-行動”的反應模式為基礎，智能水平 可以而且需要在真實世界的復雜境域中進行學習訓練，在與周圍環(huán)境的信息交互作用與適 應過程中不斷進化和體現(xiàn)。

盡管1965年人工智能的領袖人物西蒙就曾預言，“20年內(nèi)，機器將能做人所能做的一切。 ”1977年明斯基也曾預言，“在一代人之內(nèi)，創(chuàng)造人工智能的問題將基本解決。”但是，幾 十年里，雖經(jīng)研究綱領的幾次變遷，但三大派研究綱領仍未超出“認知可計算主義”的核心 ，因此在人工智能領域至今沒有出現(xiàn)真正的革命性突破，而且人工智能的發(fā)展不時地陷入不 曾預想到的各種困難。顯然，關鍵之點仍是人的智能和計算之間的關系究竟如何，人類認知 的本質(zhì)究竟是否是可計算的問題。

3.關于人工智能極限的魯卡斯論證和彭羅斯論證 關于人工智能極限問題的爭論也許最早可見1921年波斯特關于人心比機器優(yōu)越的猜想。193 6年圖靈發(fā)表重要文章《論可計算數(shù)》指出，“我們將假定需要計數(shù)的心的狀態(tài)數(shù)是有窮的 。這是因為，如果我們承認心的狀態(tài)有無窮多，它們中的某些狀態(tài)就會由于‘任意接近’而 被混淆”。圖靈的這段話曾被看作“人類心智活動不可能超越任何機械程序”的一個論證。 1950 年圖靈在《計算機器與智能》中指出，我們不能因為一臺機器不能參加選美大賽而責備 它，就像我們不能因為一個人沒有飛機跑得快就責備他一樣，機器也能夠思維。這篇文章還 隱含著“人心等價于一臺計算機”的論斷，圖靈的觀點對當時剛剛興起的人工智能方案無疑 是一強有力的聲援，也自然引起了一場大爭論。

1961年美國哲學家魯卡斯在36卷《哲學》雜志上以極其激烈的言辭首先撰文《心、機器、 哥德爾》，試圖用哥德爾定理直接證明“人心超過計算機”的結(jié)論：“依我看，哥德爾定理 證明了機械論是錯誤的，因為，無論我們造出多么復雜的機器，只要它是機器，就將對應于 一個形式系統(tǒng)，就能找到一個在該系統(tǒng)內(nèi)不可證的公式而使之受到哥德爾構(gòu)造不可判定命題 的程序的打擊，機器不能把這個公式作為定理推導出來，但是人心卻能看出它是真的。因此 這臺機器不是心的一個恰當模型。這就是著名的魯卡斯論證。隨后，另一位美國哲學家懷特 利在接下來的37卷《哲學》雜志上發(fā)表了強有力的批駁文章《心、機器、哥德爾——回應魯 卡斯》，遂引起許多人卷入并長達幾十年的爭論。1979年獲得普利策文學大獎的美國暢銷書 《哥德爾、艾舍、巴赫，一條永恒的金帶》將艾舍爾義蘊深刻的版畫、巴赫膾炙人口的樂章 與哥德爾定理戲劇性地連接在一起，試圖從多個視角闡明如何用哥德爾定理否證強人工智能 方案。1989年，英國數(shù)學家、物理學家羅杰·彭羅斯在風靡全球的《皇帝新腦，計算機、 心智和物理定律》中，對魯卡斯論證又作了進一步擴展，指出計算機不過是強人工智能專家 所鐘愛的一副“皇帝新腦”而已。被稱為“哥德爾定理令人吃驚的強應用。”引發(fā)了1990年 《行為和大腦科學》雜志上許多人介入的一場爭論。1997年和1998年當代語言哲學家塞爾相 繼出版《意識之迷》和《心靈、語言和社會》兩部書，斷言，僅僅依靠單純的輸入輸出，絕 不能擔保人的意識，特別是意向性的呈現(xiàn)，因此計算機不可能完全模擬人的意識活動。

4.人工智能的極限不是哥德爾定理的直接推論

對哥德爾定理與人工智能極限之間的關系，哥德爾本人如何看待?從哥德爾的部分重要手稿 和70年代與王浩的談話記錄中我們得知，哥德爾在嚴格區(qū)分了心、腦、計算機的功能后作出 明確斷言，“大腦的功能不過像一臺自動計算機”，“心與腦的功能同一卻是我們時代的偏 見”，但不完全性定理不能作為“人心勝過計算機”的直接證據(jù)，要推出如此強硬論斷還需 要其他假定。

于是，“人心是否勝過計算機”的問題事實上可以轉(zhuǎn)換為幾個子問題：(1)是否大腦和心的 功能等同?(2)是否大腦的運作等同于計算機的運作?(3)是否心的活動都是可計算的?這三個 問題實際上就是心腦同一論問題、大腦的可計算主義和心的可計算主義問題。

心腦同一論是50年代末以來西方頗為流行的占據(jù)主流的一種理論，也是人工智能的理論基 礎。但哥德爾認為，心腦同一論是今日普遍接受的時代偏見。其中的一條理由是，根本沒有 足夠的大腦神經(jīng)元來實現(xiàn)心的復雜的運作。在哥德爾的手稿中我們也可以看到他對心的可計 算主義的批駁。

首先，哥德爾曾在多種場合申明，他本人并不反對用不完全性定理作為證明“人心勝過計 算 機”這一結(jié)論的部分證據(jù)，因為在他看來，不完全性定理并未給出人類理性的極限，而只 揭示了數(shù)學形式主義的內(nèi)在局限，但是，僅僅使用他的定理不足以作出如此強硬論斷。在 1972年的一篇評論中哥德爾指出，圖靈給出的“心智過程不能超越機械過程”的論證在附加 以下兩個假定之后才有可能：(1)沒有與物質(zhì)相分離的心。(2)大腦的功能基本上像一臺數(shù)字 計算機，他認為(2)的概然性很高；但無論如何，(1)是將要被科學所否證的，是我們時代的 偏見。

實際上，早在1951年的吉布斯演講手稿(1995年發(fā)表)中，哥德爾就指出，“從我的定理可 以推出的結(jié)論只能是如下形式的選言判斷：或者數(shù)學是不可完全的，即它的自明的公理不可 能包含在有窮規(guī)則中，因此人心超過有窮機器；或者存在人心絕對不可判定的數(shù)論問題”。

哥德爾隨后用他稱之為“理性樂觀主義”的立場對這一選言判斷進行了分析：如果我們像 希爾伯特那樣，堅信“人類理性提出的問題人類理性一定能夠解答”，那么就可以否定第二 選 言支，因為，承認“存在人心絕對不可判定的數(shù)論問題”是與我們的這一信念背道而馳的。 這樣一來，第一選言支就應當成立，即人心勝過計算機?？梢?，在哥德爾看來，附加了“人 類理性提出的問題人類理性一定能夠解答”這樣一個哲學假定，有可能從不完全性定理推出 “人心勝過計算機”的結(jié)論。當然，哥德爾也意識到，這種對于“心腦同一論”和“心的可 計算主義”的否證未必令人信服，因為它畢竟是一種推論式的。

值得注意的一點是，哥德爾第二不完全性定理的一種形式是說，任何恰當?shù)亩ɡ碜C明機器 ，或者定理證明程序，如果它是一致的，那么它不能證明表達它自身一致性的命題是定理。 哥德爾說，一方面，人心不能將他的全部數(shù)學直覺形式化，如果人心把他的某些數(shù)學直覺形 式化了，這件事本身便要產(chǎn)生新的直覺知識(如該系統(tǒng)的一致性)；另一方面，不排除存在一 臺定理證明機器確實等價于數(shù)學直覺，但重要的在于，假定有這樣的機器M，由不完全性定 理，我們不可能證明M確實能做到這點。

看來，當人們應用哥德爾定理試圖嚴格地作出“人心勝過計算機”的論證時，其中包含著 一個令人難以察覺的漏洞：問題的核心并不在于是否存在能捕獲人類直覺的定理證明機器， 而恰恰在于，即使存在這樣一臺機器，也不能證明它確實做到了這一步。恰如哥德爾所說： “不完全性結(jié)果并不排除存在事實上等價于數(shù)學直覺的定理證明機器。但是定理蘊涵著，在 這種情況下，或者我們不能確切知道這臺機器的詳情，或者不能確切知道它是否會準確無誤 地工作。”

也許在考察了如上各種關于心、腦、計算機問題的獨特見解之后，我們有必要指出，哥德 爾曾解釋過他所說的“心”的含義：“我所說的心是指有無限壽命的個體的心智，這與物種 的心智的聚合不同”。而且，除了必要的哲學假定之外，在哥德爾看來，回答“人心是否勝 過計算機”這一問題還依賴于我們能否消除內(nèi)涵悖論，還要取決于包括大腦生理學在內(nèi)的整 個科學的進展。

5.超越圖靈意義上的認知可計算主義

哥德爾定理確實使我們思考這樣的問題：由于人設計制造了計算機，人總能從外部觀察和 操縱機器。假定設計機器去解決某個問題集a，b，c，……，那么，如果計算機等價于一個 形式系統(tǒng)，根據(jù)哥德爾定理，在這個形式系統(tǒng)中將產(chǎn)生這臺機器不能解決的問題(例如系統(tǒng) 本身的一致性問題)，但從外部觀察，這個問題卻是人的智能可解的。于是，為了解決問題 集a，b，c，……，又會產(chǎn)生新的計算機不能解決的問題集x，y，z，……。

同樣需要強調(diào)的是，哥德爾1931年曾經(jīng)在一個重要腳注和給蔡梅羅的信中指出，“所有數(shù) 學形式系統(tǒng)的內(nèi)在不完全性的根源在于，更高類型的形式化總能持續(xù)到超窮，……因此，這 里構(gòu)造的不可判定命題在更高類型中將變成可判定的”。哥德爾的這一斷言無疑為我們不斷 突破低層形式系統(tǒng)的局限，尋求更高類型形式系統(tǒng)模擬人類智能提供了豐富的空間。我們無 法 證明人工智能存在某種不可逾越的邏輯極限，完全可以探討如何超越目前的圖靈機來模擬人 類智能的新途徑。

計算機是人類為了自身目的而設計制造的，這種制造者與被制造者之間的強關系將人置于 面對面地統(tǒng)治機器的絕對優(yōu)越地位，這種地位究竟是一種社會學意義上的優(yōu)越，還是計算機 和人的智能的本質(zhì)特性所決定的?或者像哥德爾斷定的，存在與物質(zhì)相分離的心能超越任何 計算機去發(fā)現(xiàn)和證明某些數(shù)學定理，至少在發(fā)現(xiàn)具有超窮性質(zhì)的數(shù)學真理，提出數(shù)學公理、 構(gòu)造假說方面是任何計算機都無法企及的；抑或像彭羅斯斷言的那樣，人心具有一種特殊的 能力，這種能力是建立在迄今未予發(fā)現(xiàn)的某些物理學規(guī)律的基礎上，而且能超越任何計算 機實現(xiàn)非算法的運算?這確是需要我們深入探討的問題。

我認為，現(xiàn)在一個更值得思考的問題是，我們以上的討論都是建立在圖靈意義上的可計算 概念基礎上的，目前人工智能領域也完全是在圖靈意義上可計算概念基礎上產(chǎn)生的“認知可 計算主義”的范式指導下工作。即使不論用一個形式系統(tǒng)表達圖靈機的方式不唯一，我們也 應當考慮到，對于模擬人類智能的計算機，完全可以采用某種新型的形式系統(tǒng)，采用包含非 古典邏輯的具有動態(tài)性質(zhì)的形式系統(tǒng)。同樣不容忽視的一個問題是，這種形式系統(tǒng)至少應當 保證緊致性定理成立，應當在原始遞歸的范圍之內(nèi)，這樣一來，哥德爾不完全性定理就自然 成立，因此仍然沒有超出哥德爾所言的邏輯極限范圍。

那么能否構(gòu)造新型的形式系統(tǒng)，它不是哥德爾構(gòu)造不可判定命題的靜態(tài)的古典邏輯的形式 系統(tǒng)?而且在這種系統(tǒng)中哥德爾定理不成立?更進一步，可計算性的概念是否可超越圖靈機可 計算概念的范圍，我們是否可尋求某種非圖靈機理論模型去模擬人類心智，計算是否是人類 認知和智能活動的主要，甚至是全部內(nèi)容，計算概念是否只能意味著圖靈機可計算?

我們認為，人工智能，甚至整個認知科學正在面臨著一場研究范式的轉(zhuǎn)換，基于圖靈可計 算概念的“認知可計算主義”研究綱領已經(jīng)顯示出其極大的局限，必將代之以“認知的算法 不可完全性”為核心的研究綱領。人類必將探索新的非圖靈機概念來嘗試解決人工智能更深 層的問題，以擺脫在理論和實踐上的困境。目前西方學者已經(jīng)在探討“超越(圖靈機)計算” 的問題，應當引起我們足夠的關注。