36氪領讀 | 圖靈獎得主：人工智能是如何走出死胡同的？

摘要：自1950年阿蘭·圖靈在他的論文《計算機器與智能》中第一次提出挑戰以來，AI的主導方法就是所謂的基於規則的系統或專家系統，它將人類知識組織為具體事實和一般事實的集合，並通過推理規則來連接它們。人工智能研究專家朱迪亞·珀爾及其同事主管的因果關係革命突破多年的迷霧，厘清了知識的本質，確立了因果關係研究在科學探索中的核心地位，並建構了一個重要概念：因果關係之梯，其包括三個層級，其一為觀察，其二為行動（干預行為），其三為想像（反事實推理），對這一概念的深入挖掘和探索，輔之以數學語言的精確表達，讓我們能夠回答幾代科學家無法觸及的研究問題，引導人工智能邁入新的高度。

AI的主導方法就是所謂的基於規則的系統或專家系統，它將人類知識組織為具體事實和一般事實的集合，並通過推理規則來連接它們

36氪專門為讀書設立了【36氪領讀】欄目，篩選一些值得讀的書，並提供一些書摘。希望你手邊有一本稱心的書，讓讀書這場運動繼續下去。人工智能研究專家朱迪亞·珀爾及其同事主管的因果關係革命突破多年的迷霧，厘清了知識的本質，確立了因果關係研究在科學探索中的核心地位，並建構了一個重要概念：因果關係之梯，其包括三個層級，其一為觀察，其二為行動（干預行為），其三為想像（反事實推理），對這一概念的深入挖掘和探索，輔之以數學語言的精確表達，讓我們能夠回答幾代科學家無法觸及的研究問題，引導人工智能邁入新的高度。

二十世紀八十年代初，人工智能領域走入死胡同。自1950年阿蘭·圖靈在他的論文《計算機器與智能》中第一次提出挑戰以來，AI的主導方法就是所謂的基於規則的系統或專家系統，它將人類知識組織為具體事實和一般事實的集合，並通過推理規則來連接它們。例如：蘇格拉底是一個人（具體事實）。所有人都要死（一般事實）。從這個知識庫我們（或一台智能機器）使用普遍推理規則可以推斷出蘇格拉底要死的事實：

這種方法在理論上是可行的，但是硬性規則很少能捕捉到真實生活中的知識。也許我們並沒有意識到，我們一直在應對例外規則和證據的不確定性。到1980年，專家系統顯然難以從不確定的知識中做出正確的推斷。計算機無法復制人類專家的推理過程，因為專家本身無法在系統提供的語言中闡明他們的思維過程。

二十世紀七十年代末，是AI界處理不確定性問題的醞釀期。想法倒是不缺。伯克利大學的羅特夫·紮德(Lotfi Zadeh)提出了「模糊邏輯」，其中陳述既不真也不假，而是一系列可能的真實值。堪薩斯大學的格倫·謝弗提出了「信念函數」，它給每個事實分配兩個概率，一個表示「可能」的概率，另一個表示「可證明」的概率。愛德華·費根鮑姆和他史丹佛大學的同事嘗試了「確定性因子」，將不確定性的數值度量插入到他們推斷的確定性規則中。

遺憾的是，這些方法雖然具有獨創性，但卻有一個共同缺陷：他們模擬專家，而不是模擬世界，因此往往產生意外的結果。例如，它們不能同在診斷和預測模式中運行，這是貝葉斯法則無可爭議的優勢。在確定性因子方法中，規則「若起火，則冒煙（具有確定度 ）」與「若冒煙，則起火（具有確定度 ）」連貫地結合在一起，肯定會引發信念的失控。

當時也考慮了概率，但因對存儲空間和處理時間的要求非常高，很快就飽受詬病。我進入這個競技場的時間相當晚，1982年，當時我提出一個平淡無奇但又激進的建議：讓我們將概率作為常識的守護者，僅僅修復它的計算缺陷，而不是從頭開始再造一個新的不確定性理論。更具體地說，不是像以前那樣，以一張巨大的表格來表示概率，而是用松散耦合的變量網路來表示。假設我們僅僅讓每個變量與幾個相鄰變量相互作用，那麼我們就可以克服使其他概率論者犯錯的計算障礙。

這個想法並非從天而降。它來自加州大學聖地亞哥分校大衛·魯梅哈特的一篇文章，他是認知科學家，也是神經網路的先驅。他在1976年發表的關於兒童閱讀的文章明確指出，閱讀是一個複雜的過程，同時活躍著許多不同層次的神經元（見圖3.4）。

有些神經元僅僅識別個體特徵 —— 圓圈或線條。在它們之上，另一層神經元將這些形狀組合在一起，形成關於字母可能是什麼的猜想。圖3.4中，網路正在為第二個單詞的大量歧義而冥思苦想。

在字母層面上，它可能是「FHP」，但在詞匯層面沒有太大意義。在詞匯層面上它可能是「FAR」或「CAR」或「FAT」。神經元將這些信息向上傳遞到句法層面，判斷在「THE」之後，會出現一個名詞。

最後，這些信息被傳遞到語義層面，意識到前一句提到了大眾汽車，所以這個短語很可能是「THE CAR」，同指大眾汽車。關鍵一點是，所有神經元都是來回傳遞信息，自上而下，自下而上，左右傳遞。這是一個高度並行的系統，與我們對大腦的自我認知，即它是一個單一的、集中控制的系統，完全不同。

閱讀魯梅哈特的論文時，我確信任何人工智能都必須建模在我們所知道的人類神經信息處理的基礎上，並且不確定性下的機器推理必須用類似的消息傳遞(message-passing)的體系結構來構建。但是這些消息是什麼呢？我花了好幾個月才弄明白。我終於認識到，消息是一個方向上的條件概率和另一個方向上的似然比。

圖3.4. 大衛·魯梅哈特的草圖，消息傳遞網路如何學習閱讀短語「THE CAR」。（來源：美國加州大

更確切地說，我認為網路應是分層的，箭頭從更高的神經元指向較低的神經元，或者從「父節點」到「子節點」。每個節點都會向所有相鄰節點（包括層次結構中上方和下方）發送消息，告知當前它對所跟蹤變量的信念度（例如，「我有2/3的把握認為這個字母是R」)。接收的節點會根據其方向，以兩種不同的方式處理消息。如果消息是從父節點到子節點，子節點將用條件概率更新它的信念，如同我們在茶室例子中見到的。如果消息從子節點到父節點，父節點將通過乘以一個似然比來更新信念，如同乳房X光檢查的例子。

將這兩條規則反復應用於網路中的每個節點稱為信念傳播。回想起來，這兩條規則並非武斷或捏造；它們嚴格遵守貝葉斯法則。真正的挑戰是要確保無論這些消息以什麼順序發送出去，事情最終會達到一個舒適的平衡；此外，最終的平衡將代表對所有變量的信念的正確狀態。我所說的「正確」，意思是，就好像我們用教科書的方法而不是通過消息傳遞進行了計算。

這一挑戰耗費我和我的學生、同事幾年的時間。但在二十世紀八十年代末，我們已經解決了這一難題，使貝葉斯網路成為機器學習的實用方案。接下來的十年，現實生活中的應用不斷增加，例如垃圾郵件過濾和語音識別。然而，那時我已經嘗試攀登因果關係之梯，將貝葉斯網路的概率研究委托給了其他人。

作者簡介

[美]朱迪·珀爾 Judea Pearl

現加州大學洛杉磯分校計算機科學教授，「貝葉斯網路」之父，2011年因創立因果推理演算法獲得圖靈獎，同時也是美國國家科學院院士，IEEE智能系統名人堂第一批10位入選者之一。

目前已出版3本關於因果關係科學的經典著作，分別為《啟發法》（1984）、《智能系統中的概率推理》（1988）和《因果論：模型、論證、推理 》（2009）。他還獲得過多項頂級科學榮譽，包括認知科學領域的魯梅哈特獎、物理學及技術領域的富蘭克林獎章以及科學哲學領域的拉卡托斯獎。

[美]達納·麥肯齊 Danna Mackenzie

普林斯頓大學數學博士，自由科學記者，知名科普作家，著有《無言的宇宙》等作品，其學術論文多次收錄於《科學》《新科學家》《科學美國》《探索》等重量級期刊

>36氪領讀 | 圖靈獎得主：人工智能是如何走出死胡同的？