圖靈獎得主 Judea Pearl:機器學習是有局限的,AI 已經分化了

2017 年 12 月,貝葉斯網絡之父、2011 年圖靈獎的獲得者 Judea Pearl 教授在 NIPS 2017 大會期間進行了一場學術報告,結果這場報告因為一張照片而在網絡上引起熱議。很多人在社交媒體上表示,Judea Pearl 對着一個【幾乎空無一人的房間】作報告是 NIPS 上悲慘的一幕,這一天對於機器學習而言是悲慘的一天。

不過,對於現年 81 歲的 Judea Pearl 而言,讓他感到難過的不是自己的報告沒人聽(雷鋒網了解到,實際上那張照片獲取的是片面場景,聽報告的人有幾十個,後來 Judea Pearl 反而被人們的議論逗樂了),而是當前的人工智能由於人們對智能的片面理解而存在諸多缺陷。

2018 年 3 月,Judea Pearl 出版了一本名為《THE BOOK OF WHY:The New Science of Cause and Effect》的新書,在書中他表達了對當前人工智能發展的憂慮。

之前,在 Judea Pearl 賴以獲得圖靈獎的貝葉斯網絡中,他試圖為機器找到一種基於實踐性的因果關係模型。但是 Judea Pearl 發現,AI 領域已經陷入到概率關係的泥潭中。對於計算機已經熟練掌握古代遊戲技能(比如說雷鋒網此前多次報道過的 AlphaGo)和駕駛技能之類的消息,Judea Pearl 無動於衷;因為在他看來,當前所謂的人工智能所展示的,都是上一代人工智能場景下機器已然所能做到(在大規模數據中尋找到隱藏規律)的,只不過效率更高罷了。

正如 Judea Pearl 最近所言:

所有這些令人印象深刻的深度學習成果加起來不過是曲線擬合罷了。(All the impressive achievements of deep learning amount to just curve fitting. )

在新書中,Judea Pearl 描述了他的【智能機器應當如何思考】的願景。在他看來,其中的關鍵是用因果推理取代關係推理。舉例來說,如果一個從非洲回來的病人發燒並感到身體疼痛,很有可能是得了瘧疾;機器要做的不是把發燒與瘧疾聯繫起來,而是真正找到瘧疾引起發燒的原因。一旦這種因果框架就位,那麼機器去進行反事實提問——即如果對條件進行介入,因果關係會發生什麼變化——就成為可能,而這正是 Judea Pearl 所認為的科學思考的基石。

而 Judea Pearl 也建議推出一種讓上述思考成為可能的正式語言,這也是貝葉斯網絡的 21 世紀版本。Judea Pearl 也希望因果推理能夠為機器提供人類級別的智能;比如說,它能夠與人類更高效地溝通,甚至在一定狀態下成為具備自由意志(或者邪惡)能力的道德實體。

以下是 Judea Pearl 接受 Quanta Magazine 採訪時的對話,雷鋒網這段對話進行了不改變願意的編譯和刪節。

Q:為什麼你的新書被命名為【The Book of Why】?

A:它在本質上是我對過去 25 年工作的總結,包括因果、它對一個人的生活的意義、它的應用,以及我們如何在因果關係層面尋找到一個問題的答案。奇怪的是,這些問題都已經被科學忽視了,而我在此試圖對這種忽視進行彌補。

Q:難道因果不就是科學本身的內涵嗎?

A:當然,但是你無法在方程式里看到這種高貴的理想。代數語言本身是對稱的:X 和 Y 之間是一種確定關係。但是在數學範疇內卻沒有一門語言描述這樣一個簡單的事實:暴風雨的來臨會導致溫度計讀數下降,而非其他。換句話說,數學領域還沒有發展出一種非對稱語言來描述我們對【X 和 Y 非對稱關係】的認知——這聽起來是對科學是一件不利的事情,我也明白。

不過,科學還是值得原諒的。在意識到我們依然缺乏一種針對非對稱關係的演算方式之後之後,科學鼓勵我們去創造一個,這時候就用到了數學。而令我感到興奮的是,能夠通過一個簡單的因果演算方式來解決我們這個時代最偉大的統計學家都不能解決的問題,這種自在和樂趣就像是在高中幾何中找到證明方法一樣。

Q:在數十年前你在 AI 界獲取了名聲,為什麼又在新書中把自己描述為 AI 社區的背叛者?

A:在獲得此前的 AI 成就之後,我開始探索一項更具挑戰性的任務:通過因果進行推理。我的許多 AI 同行依然與不確定性打交道,從而局限於持續推斷的研究循環中,卻對問題的因果層面無所觸及。他們只是想更好地預測和推斷。比如說我們今天所看到的機器學習任務一般都是以推理模式進行的,他們去標註一個【貓】或【虎】,但不關心介入——他們只是想識別一個物體然後預測它會如何隨時間變化。

我開發出了一個用於預測和診斷的高效工具,然而它們卻只能觸及到人類智能的點滴;由此,我覺得自己就像一個背叛者。如果想讓機器對介入(Interventions)和內省(Introspection)進行推理,我們必須藉助因果模型。聯繫(Associations)本身是不夠的——我陳述的是一個數學事實,而非觀點。

Q:人們對 AI 的諸多可能性感到非常興奮;難道你不是嗎?

A:就我對機器學習當前的深入觀察而言,我覺得目前它們都還停留在聯繫的層面;或者說是曲線擬合——所有這些令人印象深刻的深度學習成果加起來不過是對數據進行曲線擬合罷了。從數學分層的觀點來看,不管你能夠對數據進行如何熟練的操作,也不管你在操作過程中讀取到什麼,它依然是一個曲線擬合的練習,儘管這種練習是複雜和非凡的。

Q:每當提到曲線擬合的時候,你似乎都在表達對機器學習沒什麼感覺。

A:不,我有。其實我們沒有意識到原來這麼多問題可以用曲線擬合的方式解決,但事實證明可以。

但我在追尋未來——What is Next?會有這樣一個機械人科學家,能夠通過實驗為亟待解決的科學問題尋找到答案嗎?這次是下一步要做的。我們還想與機器進行有意義的、符合我們直覺對話;而如果機械人缺乏對你我這樣的對因果的直覺,那麼就很難與之進行有意義的對話。我們會說【我本可以做得更好】,但機械人不會。因此我們在溝通中就失去了一個重要的途徑。

Q:如果機器擁有了我們人類這樣的對因果的直覺,那麼會怎麼樣?

A:我們需要賦予機器一個環境模型。如果一個機器沒有對現實的概念,你就不能指望它在現實中表現出智能行為。這是第一步,人類將在 10 年內構造出現實世界的概念模型。

第二步,機器將以自己的方式對上述模型進行帶入並驗證,然後基於實驗數據進行優化。這恰好是科學發生的過程,我們從地心說模型開始,最後得出一個日心說模型。

機械人之間也將彼此溝通,並最終把這個抽象世界轉換成比喻性的模型。

Q:當你與其他 AI 從業者分享上述觀點的時候,他們的反應如何?

A:AI 目前是分化的。首先,有那麼部分人陶醉於當前機器學習、深度學習和神經網絡的成功中,對我所說得這些毫不理解;他們想繼續進行曲線擬合。但是,如果你與一個已經在靜態學習之外的 AI 領域中有所研究的人進行交談,他們立刻就能明白。我已經讀了好幾篇發表於過於兩個月的、對機器學習的局限進行論述的論文。

Q:你是說,有一個正在脫離於機器學習之外的發展趨勢嗎?

A:不是趨勢,而是一種基於靈魂追尋的重要努力。它在發問:我們將去向何處?下一步是什麼?


想在手機閱讀更多電腦與科技資訊?下載【香港矽谷】Android應用
分享到Facebook
技術平台: Nasthon Systems