李開復&張亞勤:未來的首富,將來自AI公司 | WISE2023商業之王大會

..

11月28-29日,36氪WISE2023 商業之王大會在北京國際會議中心盛大舉辦。本屆大會以「太陽照常升起 The Sun Always Rises」為主題,橫跨一個主會場與六大垂直領域專場。主會場聚焦「未來3650天」、「在產業洪流中」、「進擊中的萬聯網」、「AI與商業增量」、「全球品牌看中國」、「科技至上 共鑒創新」六大篇章重點議程,邀請全領域商業大咖展開為期兩天的頂級商業對話,向現在提問,給未來答案。

AI大模型,無疑是2023年最火熱的風口。在其中,我們能看到大廠和創業者同台競速。工信部等機構發佈的報告顯示,中國AI大模型專利申請總數已突破4萬件;中信部的報告亦顯示,近上半年,國內參數規模超十億的模型就有79個。然而當下,國內應用層的創新,較之模型層創業熱度,顯得冷清不少;而「百模大戰」,又有重複造輪子之嫌——在AI創新的方向上,我們似乎又陷入了一段迷茫期。

AI大模型帶來的機遇到底有多大?「大模型產業機會比移動互聯時代多十倍。」今年,有兩位身份橫跨科學家、企業高管、創業者的AI老兵,給出了同樣的判斷。36氪本次的開場圓桌,請到了這兩位「斜杠」AI老兵——創新工場董事長、零一萬物CEO李開復,中國工程院院士、清華大學智能研究院(AIR)院長張亞勤——與36氪CEO馮大剛,進行了一場以《AI的時代重構》為主題的對談。

《AI的時代重構》主題圓桌。

這兩位已經跨越過互聯網行業周期的行業老將,是共同建立微軟中國研究院的戰友,亦是AI行業發展的親歷者。經歷漫長的AI行業求索后,他們的人生選擇上走向了不同的分叉口:李開復投身於AI 2.0時代的滾滾創業熱潮;張亞勤致力於為國家培養頂尖產學研人才,站上清華的講台。

即便如此,在不少對AI行業的思考上,兩位早已形成了共識。比如,中國需要怎樣的創新?這個問題,是自上世紀90年代微軟中國研究院成立以來,李開復和張亞勤一直在思考的問題。當時他們給出的答案是:不同於美國,中國要做到「有用的創新」。而具體到AI大模型行業,他們認為無論是訓練架構,還是模態,都蘊藏着巨大的創新機會。

治理和樂觀,則是兩位在暢享被AI重構的未來時,共同提到的關鍵詞。正如張亞勤總結:「這演播廳里所有的創新,都是技術帶來的創新,都是樂觀主義帶來的,悲觀主義是沒有未來的。

以下為嘉賓演講實錄,經36氪編輯整理:

中國科技創新,如何跨越迷茫期

馮大剛:特別高興有機會跟兩位中國標誌性的商業、研究界的頂級人物,請教AI方面的問題。

第一個問題,首先有請開復老師。近期我們能看到零一萬物在大模型方面的進展。在過去漫長的輝煌生涯中,您做過投資人和高管,也做過學者,今天更多是作為一個創業者。在作為一個創業者的時候,最近有什麼事情讓您覺得比較興奮?什麼事情讓您又比較焦慮?

李開復:最振奮就是大模型時代是有史以來最大的科技革命,因為這個理由,我才決定自己必須參與,完成我大學時候的夢想,就是讓AGI(通用人工智能)時代來臨。

另外就是我們公司零一萬物的發展還是相當好的。我們在幾周之前發佈了全球領先的Yi-34B大模型,而且無論是開源還是閉源,34B參數這樣的尺寸非常適合使用。我們是全世界最好的,沒有之一。很短時間內能做出這樣的結果,我感覺非常開心。

談到焦慮,創業者永遠有,但是機會大於焦慮。焦慮就是整個行業太卷了,包括中美的挑戰和美國最近對芯片的措施對這個行業影響的大小。但是整體AI 2.0行業的趨勢和在中國我們把這件事情做好的可能性,長遠看我還是非常樂觀的。

馮大剛:謝謝開復老師。亞勤老師,您也有漫長輝煌的職業生涯,學者、企業高管、投資人、創業者,您的多個標籤中,今天您最認同的是哪個標籤,這個標籤下的興奮和焦慮是什麼?

張亞勤:我現在就是一個老師,更多的我希望是創新者。現在我最興奮的就是,人工智能大模型的時代到來。相較於過去PC互聯和移動互聯時代,這是一個擁有全新範式的時代。

我原來在微軟做操作系統,當時Windows和Linux創造了一個大的PC時代經濟,而在移動互聯時代,安卓和iOS又創造了一個十倍大於PC的生態。現在大模型/基礎模型是人工智能時代的操作系統,在這個大的生態下,機會比PC時代大兩個數量級、移動時代大至少一個數量級,所以我很振奮。

我覺得我們的創新機制如果分成三個階段:0到1,1到100,100到無窮大。我的焦慮就是我們怎麼樣能有更多原創的、從0到1的、實驗室能做出的全新的東西。我們在學校的使命是做出有創新的科研。

再講一下大模型閉源和開源,我覺得我們需要更多的開源模型促進整個科研。最近發佈的幾個模型都是基於開源模型之上或者做微調,或者在垂直領域方面有更多的發展。

AI 2.0,從實驗室走向曠野

馮大剛:現在有一種觀點中國企業是不是過於依賴海外開源模型了。兩位怎麼看這個問題?什麼是中國好的創新,什麼是不好的創新?

李開復:首先我不會特別使用這樣的一個詞「外國的開源」,開源本身就是全世界的事情。零一萬物Yi-34B大模型取之於開源,也貢獻給開源。

雖然我也很樂觀,也同意亞勤的看法,覺得移動互聯網是比PC大很多倍新浪潮。但是這次AI大模型有一點不一樣的地方就是,不是中國的大廠,而是全世界的大廠,包��OpenAI和Google,他們基本停止寫論文了,他們很久沒有貢獻在開源社區了,他們應該是看到了壟斷的機會。

如果全球其他做得好的大廠也好,創業公司也好,不能夠改變這樣的一個局面,如果在這麼重要的科技革命來臨的時候,某一個美國大廠真的壟斷、統治了,這對全世界的用戶、開發者、創業者來說都不是好的事情。所以我覺得全球應該攜手在一起,把自己能夠貢獻的都分享出去,開源如果有什麼比較好的技術也可以參考合作。

所以我認為開源是現在大家必須要做的。當年,Windows和蘋果是壟斷操作系統的,但是Linux出來以後,再加上安卓和其他開源系統,倒逼且改變了當時的格局。Linux帶給我們特別大的福利和幫助,也將技術變革的權力扁平化賦予了所有想參與IT革命的每一個創業者。這次AI和大模型時代,開源扮演的力量也是非常重要的。

我們必須坦誠,模型一定是越大表現越好。開源的社區主要以教授、學生、創業者、個人愛好者為主,當然也包括一些青睞非大廠模型的公司。但主要成員都不是最有資源的,所以一定還會有更厲害的閉源模型。我們必須要支持公司一定要做一些閉源的事情,不然靠做公益不能賺錢,也就沒有充足的「彈藥」投入更多的技術創新。

所以我們一方面把現在最好的模型貢獻給開源,另一方面還要用閉源的方式做更大更好的模型。相信也會有一天,更大更好的閉源模型我們也可以開源,然後再做更大更好的模型。

張亞勤:我稍微補充一下。看一下IT的歷史,閉源的商業模型和開源的學術模型都扮演不同的角色,以後都很重要。當模型規模大到一定程度的時候,比如達到了萬億參數,現在稱為前沿模型,這時候我們對大模型帶來的風險、治理都要有更多的關注。我自己最近在花很多時間做這方面的學習,這個不管對於開源還是對商業閉源都是同等的重要。

馮大剛:剛才兩位老師提到了開源、閉源之爭,都是非常好的話題。下面我們聊一下,兩位的AI道路是怎麼開啟的?我聽說在幾年以前,或者十年以前,如果跟別人說我的夢想是AGI,可能要遭到嘲笑。你們覺得AGI真的可以實現嗎?中國現在是發展AGI好的時機嗎?

張亞勤:我做AI有20年了,是從計算機視覺、數字視頻、多媒體編碼壓縮和檢索開始的。後來,當深度學習出現之後,我花了更多時間做搜索、智能駕駛、對話。特別是在百度的幾年,我的主要精力是想把AI部署到雲端。所以我們基本上是在過去的十年,在深度學習走向主流時更專註於做AI。

開復是在「AI的冬天」在做AI,我記得你第一個AI研究是1988年,開復做AI比我們這兒在場的任何人都早。

現在我在清華大學,差不多4年前我從百度退休之後,在清華創立了智能產業研究院(AIR),現在差不多300多人,全部從事人工智能方面的研究和產業化。

李開復:我做AI不止35年,做了40多年了。我從讀本科大二的時候開始做自然語言和計算機視覺,博士也是做的機器學習。當時我最大的夢想就是AGI,當時申請博士的時候寫的作文就是AGI,一方面我希望能打造超人能力的AI,另一方面從此了解人的思考跟大腦是怎麼工作的。

之後從我的母校卡耐基·梅隆大學,再到蘋果,再到微軟和谷歌,我都一直做跟AI相關的事情。AGI目前離我們很遠,但是AI可以創造巨大價值。2012年,創新工場投了第一家AI公司曠視,之後創新工場又投出了十多家獨角獸,至少2家上市,還有幾家準備開始排隊。我們對AI一直抱着熱情投入。

可是對於AGI來說,過去3年才看到可能達到AGI的浪潮。先稍微定義一下AGI,它能夠不斷地快速學習成長,只要有更多的數據和更多的GPU,它就一年變得比一年聰明,自我學習自我成長。這樣的一個技術是人類從來沒有見過的。在成長過程中,它肯定在95%,甚至有一天在99%的工作任務上都會超過人類。我們可以把這個定義成接近AGI。

最後剩餘那1%到5%,是我們的感情?還是自我意識?還是我們的所謂的創造力?這個今天還蠻難下定義的。因為可以看到之前很多人認為AI是沒有創造力的,或者很難有真正的、很大的創造力,現在看來並不是如此。

也有很多人認為AI是沒有自我意識、沒有感情的,今天依然如此。但是AI可以學會一種表象,讓它們看起來貌似有感情。所以慢慢的,剩下來的一些人類所能做,AI不能做的事的比例就會越來越小,是小到5%還是小到1%,其實已經不重要了。

重要的是,這95%到99%人類能做的事情,AI能做得更好,它可能會給社會帶來什麼問題,給社會帶來什麼價值。除了這95%到99%之外,AI還能做很多,比人類能做的事情多1萬倍,這個肯定會為人類創造巨大的價值,當然也會帶來風險。我們怎麼擁抱這個技術,能降低它對社會產生一些害處的概率,這是我們需要注意的。這1%到5%到底哪天能克服,是其次的問題了。

馮大剛:下面有請張亞勤老師,我們今天看到主流大模型訓練的三種範式都來自於美國,如果我們用美國模型的話,是不是不可能超越美國?另外一個問題,中國是不是一定要超越美國,自己獨立研究出大模型訓練範式?

張亞勤:的確,現在三個主流架構、主流的GPT、自回歸模型等都是在美國產生的。下面的這五年,整個架構肯定會有一個大的變化。因為現在最新的模型效率還是比較低,從耗能到對算力的要求,決策的效率、包括激活的方式,還有高昂的價格。

目前大模型的商業模式其實是有問題的,模型的參數規模越大,特別是在大規模使用的時候,用得越多虧得越多。當然這是暫時現象,大模型的效率肯定至少要有一個數量級的增加。

同時一些新的算法一定會出現新的架構,我們希望是在中國出現,我自己希望是在清華出現。目前在研究層面的確有很多從0到1的工作需要去做。

但我覺得,目前研究需要的數據、算力,是我們的優勢。另外我也同意開復講的,現在的大模型特別是GPT類型的大模型開啟了我們走向AGI的一個通道。GPT-4出來之後能力很強,但還沒有到AGI。接下來十年、甚至更短的時間,我們可能達到開復所定義的AGI。

很多時候媒體講的「AI有自我意識,就會替代人類」,我不認同。AGI就是大部分任務比人類做得更好,包括腦力和體力。另外它有自我學習、自我進化,包括我們現在講的自主智能的這些能力。我當時看到ChatGPT的第一感覺是,這是人類第一個通過圖靈測試的智能體。當然外面有一些不同的意見,但至少我認為我們已經找到了其中的一個通道。

馮大剛:兩位老師都提到了AGI,請問從今天AI的水平到未來的AGI之間,我們下一個技術躍遷可能是什麼樣的?以及下一個類似於ChatGPT這樣的現象級產品可能是什麼?

李開復:當下最大的需要解決的問題就是剛才亞勤所說的,模型越大能力越強,但是模型越大越貴,用起來推理成本也會太高。從我們建零一萬物第一天就看得很清楚,怎麼把手中的算力做好,把推理成本降下是最重要的。

我們相信這是平台級的應用,相信像過去一樣移動互聯網必須由3G、4G支持,需要有安卓、iOS和其他操作系統作為它的支撐,我們一定要把這樣的一個能夠真正實現、成本不太高的訓練和推理,但是又能達到相當大的模型尺寸,也許經過壓縮等方法實踐出來。這是短期每一個公司都要做的,我們要把這個當作當務之急。

再下一個階段我們看到的競爭白熱化的就是多模態。我們人類的學習不是全部看文字,而且我們是通過視覺、觸覺和我們的理解,才對真實世界有更深的理解,這正是多模態所涵蓋的領域。

我們可能剛開始會把圖片、視頻、聲音、語音輸進一個已訓練好的文字大模型,這是第一步。再下一步,是把多模態的數據彼此訓練,我們文字大模型也可以進步,成為一個巨大的多模態大模型。再往下可能有一個世界模型,這樣才能帶來結構化的學習。因為文字本身是一定程度自帶結構的,但是視頻和圖片是比較零散的。

另外,同樣會發生的就是Agent領域(自主智能)的技術,從圖形為主的用戶界面走向一個代理式的用戶界面。因為畢竟我們人類學習計算機的語言多年,當年PC是用鍵盤和鼠標,手機是用觸摸,AI今天學會用人類語言跟我們交流,我們最自然的方法應該是不要自己把每一個任務完整執行,比如我太太周末生日,我要給她訂鮮花、蛋糕,我告訴我的AI助理,它不僅能迅速完成任務而且能超出我的預期,這就是終極版的代理式的用戶界面

這天到來的時候,會有幾個巨大的變革。一個是用戶體驗徹底改寫,我們不再需要那麼大視覺的刺激,或者是輸入。我們講一句話它說OK做好了,就跟一個超級特助一樣,能幫你把事情做好。第二就是整個商業模式都會被顛覆,這樣一個助理就取代了今天很多商業模式。這些變化可能還需要5年或者更長的周期,也不是特別遙遠,我們是可以期待的。

馮大剛:開復老師從可用性、易用性講到了未來的變化。張亞勤老師呢?

張亞勤:講一下大模型未來的六大趨勢。

第一個就是像開復所講的跨模態,多模態,和多尺度大模型:新的大模型包括自然數據,也包括從傳感器獲取的信息。

第二個是新算法框架:我們需要新的算法來提升當前的大模型效率。當前的大模型稠密激活,計算效率遠低於人腦,且商用成本高昂,甚至模型用的越多虧損越多。人腦是效率最高的智能體,它有860億個神經元,每個神經元有幾千個突觸,卻只有不到3斤重,耗能20瓦。從這個角度來看,人腦的儲存量,計算量和能耗效率之高,是目前任何大模型都無法比擬的。我們需要新的算法體系,稀疏激活網絡、效果更優的小網絡等來提升模型使用效率。

第三個是自主智能:模型正在成為一個代理(Agent),自主規劃任務、開發代碼、調動工具、優化路徑、實現目標,包括N+1版本的自我迭代、升級和優化。

第四個是邊緣智能:大模型需要很多算力和資源,如何在邊緣和設備終端實現高效率、低功耗、低成本、低延時地部署是一大關鍵問題。

另外兩個很重要的就是物理智能(具身智能)生物智能,比如把大模型和我們人的大腦相連,生物體相連,未來智能是信息智能、物理智能和生物智能的融合,能力十分大,風險也很高。

馮大剛:據說OpenAI去年收入達到13億美元,每個月就有1億美元。您覺得這是大模型創收的高峰還是只是開始?以及中國什麼時候有一個大模型廠家能達到這樣的收入水平?

李開復:要做一個科技公司,絕對不能不關注自己的收入、成長和未來的利潤。我覺得一個高科技的公司,剛開始可以說自己有多少博士,寫了多少論文,拿了多少第一,但是不能作為商業模式的驗證。在投行,能夠看到數字,才能說是這是家真的知道怎麼做商業運營的公司。做不到這點的,都很難成為一個偉大的公司。我們可以看到,微軟、Google,包括中國的阿里、騰訊都是受過這樣的考驗的。所以我覺得OpenAI今天十幾億美金的收入,一定程度是驗證了這樣的技術是有商業前景的。

但是長期來說,能不能只靠AGI收費打造一個類似雲的業務,這個要完全看業態。因為如果Google跟它打價格戰的話,可能就會造成兩邊不斷的降價,把這樣的一個本來可以溢價甚至有盈利的商機打成一片紅海。所以我覺得是有一定的風險的。

最終我們還是要相信,最掙錢的模式應該是來自於應用。應用有To B跟To C的可能性,我們的分析是,To B的業務會比較有挑戰,會比較紅海。這不代表我們認為不可能造出一個很厲害的To B大模型公司,我們也很樂於見到。只是如果回去看當年的計算機視覺,在某一個城市可能能拿到幾千萬的單子。但是之後就出來了一大批「四小龍」和一大堆「小小龍」去競爭,幾千萬的單子「打折」成幾十萬,最後卷到大家都賺不到錢。

這個問題怎麼化解?因為今天不是「四小龍」,而是「百模」,就算有一部分不能存活也是「十模」以上。每次有一個大銀行保險公司招標,大家就靠競價的方式去不賺錢拿到單子,這樣一個慣性會把AI往系統集成商的方向去做。我覺得是很有挑戰的,怎麼破局會成為To B商業上最大的問題和挑戰。當然我們也不排除某一家公司創造了巨大價值,讓B端公司願意溢價付費,這可能會破局,但是短期有一定的難度。

另外就是TO C的方向,機會就是可以用AI和它對齊的能力做出很多有意思的應用。從娛樂到電商到生產力工具,用它製作文件、設計圖片,甚至製作視頻等等,機會很大。但是它的挑戰就是它有「幻覺」,它會犯錯。降低「幻覺」有兩個方法:一個是靠技術或者更大的模型,或者用新的技術去控制它;另外一個方法是挑一些對「幻覺」不敏感的領域,比如「幻覺」在小說或者電影里就會變成一個創意,這也是可行的。

所以毫無疑問,大模型帶來的短期機會,一個就是它能生產內容,AIGC幫我們用更少的時間有效生出更多更好的內容,得到商業回報。另外一個就是類似圖靈測試,做類人的應用,像數字人是不是也可以有很多用途。所以我們零一萬物在To C上會花更多精力,To B我們也會幫助同行殺出一條血路,找到非常好的付費模式和商機。

張亞勤:我們看OpenAI的時候不要忘了微軟,微軟給OpenAI投了130億美金,它用的幾萬個GPU在微軟雲上。長期來講肯定有獨立的商業模式,短期還是要靠一個大型公司、一個金主。

另外一點,我為什麼要拿操作系統做比喻呢?現在的基礎大模型十分重要,它會像移動時代的PC和操作系統一樣,上面有很多新的機會。比如最近發佈的GPT 4.0 Turbo,你甚至可以定製自己的GPT,然後在上面做自己的應用並售賣 ,這以後一定會有很好的商業模式。但是更大的機會在垂直領域的模型,和基於大模型的各種各樣的應用,就像曾經移動互聯網上的應用,Super App可能有更好的機會。

所以我們需要大模型,但是不需要那麼多,更大的機會是在垂直領域、具體應用的模型,這樣的模型可能更多,而且有更大的、可能是上百倍的機會。PC時代我算了一下,操作系統掙1塊錢,生態是賺17塊錢,移動我沒有算過,因為安卓免費不好算。我想,AI時代這個比例一定會更高。

馮大剛:李彥宏說未來不需要很多大模型,但是需要很多應用,比如超級App、超級電商,很多行業會在大模型上重構一次。

張亞勤:橫向大模型要靠公平的市場競爭,會有大公司,也有一些創業的公司,這個可能兩年、三年之後會見分曉,最後可能會有5個、10個在百模大戰脫穎而出。

而且一定要給初創公司機會,我們很多0到1的創新,1到100的創新是初創公司做的。微軟和谷歌當時也都是初創公司,包括現在很出名的OpenAI、DeepMind等都是初創公司,所以我們不能假設現在的大公司就一定主宰未來,時代變化的時候一定會有新的公司出現。

馮大剛:創業公司更善於使用AI,所以可能會顛覆另外的大公司。我們看人類歷史,比如歷史上的首富一開始是做能源,然後是做運輸,後來是做金融,後面是做互聯網的,您覺得下一個世界首富會不會做是一家AI公司的?

張亞勤:我覺得一定是,我認為未來20年是人工智能時代。開復就正在實踐。

李開復:這肯定是高風險、高回報的機會,我們看得很清楚,但是「百模大戰」站出來,最後能繼續做大模型,或者創造巨大價值的公司也不會很多。但是我覺得,今天每一個參與這個領域的人都是值得尊重的,因為我們看到,這件事情很難,但大家依然往前走,因為看到的是對人類而言特別巨大的機會。

而且所有的技術在萌芽的時候,幾乎都是美國領先。但是一旦技術開始被理解了、開始成熟了,中國是有機會能夠後起追上的。所以在中國能做大模型是有很大的雙重意義的。

馮大剛:幾年前兩位老師對AI怎麼落地都做了預測,比如張亞勤老師提到AI在醫藥領域的落地,開復老師也提到過AI在多個場景的落地,兩位老師前三名最看好的是哪些場景?

李開復:一年之內我們會看到至少1個到2個Super APP,比ChatGPT更讓我們驚艷。

張亞勤:我想5年吧。第一個是自動駕駛和機械人方面會有一系列的公司出現。因為大模型解決了一個特別關鍵問題,就是它有一些關鍵共識和常識。我們過去和機械人對話的時候,覺得常識的問題很難解決。包括自動駕駛、無人駕駛,有一些corner case、長尾問題難以解決。所以大模型會有很大的推動作用。

第二個就是生物醫藥方面,我覺得未來5年也會有一個大的提升。但是目前運用最多的是在生產力、在To C領域,未來To B有很大的前景。

AI的終局,噩夢還是良夜

馮大剛:像AI這樣的技術,今天具有這麼大的影響力,這是一件好事還是壞事?

張亞勤:我覺得是好事,我是一個樂觀主義者。剛才我講了大的趨勢,模型的能力越大,帶來的潛在風險越大。剛才講到6個大的趨勢,特別是後面那幾個自主智能、物理智能(具身智能)、生物智能,它把人工智能用到我們人、用到生物和物理世界,所以會帶來很大的風險。

我認為我們必須重視這些問題,我一直講人類有兩種智慧,一個是發明技術的智慧,一個是引導它走向正確道路的智慧。最近我們花了很多時間做人工智能的治理、風險的研究。我認為AI發展有以下三大風險,如果我們現在開始研究,是可以把AI引導到正確方向的:

第一個就是剛才提到的虛假信息、幻覺,包括不實的、有毒的信息。因為在信息世界裡,它的風險是可控的。比如在數字人上會有標識,所以很多事情是現在的政策法規可以解決的。

第二點就是相對比較嚴重的,一個大模型出來之後可能會失控,被壞人所用。

第三個更大的問題就是物理世界都在用大模型,我們把大模型用在金融系統、銀行系統,包括政策制定,其潛在的應用風險可能更大。

所以從現在開始我們要治理這些事情。當然我是樂觀的,我認為我們是可以治理的。

馮大剛:開復老師您是樂觀主義者嗎?五分之一用來保證安全,五分之四衝刺,您同意嗎?

李開復:如果回顧歷史,有史以來每一個偉大的技術剛來的時候都有各種風險,比如電接到家裡,觸電可以致死,比如互聯網帶來木馬病毒,這些後來都可以被化解了。技術帶來的問題可以用技術來解決,所謂的「用魔法打敗魔法」。

馮大剛:我們過去發明電沒有生命,但AI可能有生命,而且AI比人類更聰明,您贊同嗎?需要讓科技發展變慢,您又贊同嗎?

李開復:AI可能有生命我同意,但是今天為止它沒有自我意識,也沒有真正成為人類定義的生命,它是聰明的,有推理能力,能夠輔助我們做更多的事情,會不會發展到有生命有自我意識這個不確定。這個研究肯定是需要做的。

但是作為一個技術樂觀主義者,我們看到的是過去每一個技術給社會帶來的好處遠遠大於它的壞處。它帶來的問題有可能被技術解決,我們應該把握這樣的心態讓AI良性發展。

如果要鼓勵一部分算力用在讓技術可控,讓技術不導致災難上面,我是支持的,但是可能更重要的是要讓五分之一或更多的科研人員去研究這個問題。不要讓每個科研人員,尤其在高校、研究院,都來研究誰的模型做得更大更智能。研究治理、研究技術,讓技術可控,是同樣重要的。

還有每個做AI的人都應該了解自己:權力越大,責任越大,造出這麼聰明的東西,如果出了問題給世界帶來的害處是很大的。

最後有關讓科技發展變慢,這是絕對不可行的。因為沒有辦法管理誰在用大模型做訓練,這個技術跟核武器是不太一樣的。而且我們看到馬斯克一邊說大家應該停止這方面的研究,一方面自己做了xAI,所以這麼說的人是不是真的如他所言「自律」呢?每一個有科技夢想的人都不太可能會停止對技術有更多的追尋、更多的實驗和探索,這應該被鼓勵,但同時也應該研究怎麼降低它的危害。

張亞勤:今天在場的有媒體,有企業家和投資者,我呼籲我們做前沿大模型的這些企業,把10%的資金用到AI風險的研究上。AI風險管理不是說我做出了一個模型讓政府去管理或者治理,它其實有很深的技術的成分,包括研究的成分。我們在設計模型包括在用數據建立模型,做推理對齊的時候,其實裡面是深層的技術。所以技術人員必須和政策制定和監管部門一起做這件事,而非互相對立。

差不多一個多月前,我和兩位圖靈獎獲得者召集了全球20多位技術專家,商討出了人工智能的幾個原則:第一就是做治理,鼓勵最優秀最聰明的人也做這方面的研究,開發這項技術。所以我為什麼樂觀呢?我覺得大家都有這個意識,特別是以後我們讓人工智能比人類更聰明更有能力,但是更重要的是讓它更善良更有創意,才能符合我們的價值觀,才不會犯大錯。所以最重要的就是要打造一個善良的AI。

馮大剛:它比人類更聰明,有沒有可能假裝善良?

張亞勤:這是我們要研究的風險,我們要讓它真正善良。就像小孩我們從小教育讓他學習,讓他以後去創新,讓他以後去探索,但是最重要是要有一顆善良的心。這裡面當然有很多挑戰,這是作為技術人員、創業者和大的企業,應該要負的責任。

馮大剛:開復老師您覺得AI是否能讓人類變的更幸福?比如人類的貧富差距會變得更小嗎?

李開復:我相信,最終人類會走向「豐饒時代」,但是要經過10到15年很巨大的動蕩。因為AI從正面來說,把我們從重複性工作中解放出來,讓我們找到人類真正存在的意義,這是非常巨大的機會。

但是短期來看它會取代很多工作,取代工作這件事情本身,我想對每一個人來說都是非常負面的事情。

所以我覺得,未來10到15年,全世界每個人的工作可能都會擁抱AI,讓你有十倍的生產力,或者被AI取代,面臨失業的問題。我覺得一旦這個問題我們能夠好好地化解度過,畢竟AI取代了工作,還是給社會創造了財富,甚至更多的財富。所以有可能未來世界會豐衣足食,我們不用再擔憂飢餓、貧窮的問題,未來可能每個人有更多的時間做自己想做的、適合做的事情,不必浪費時間做重複性的工作。

馮大剛:人和人之間,比如收入差距,會更大還是更小?

李開復:收入差距肯定會更大。一個國家可以用稅收補助等調整貧富差距,但是國與國之間,貧富差距的問題跟大國一樣,但是小國沒有足夠的AI能力,所以這是全球上要注意的,不要讓任何一個國家完全陷入無助狀態

馮大剛:我們希望的AGI時代什麼時候會到來?等待的時間裡,我們普通人應該做什麼?

張亞勤:我不知道,我覺得可能10年,也可能20年,具體時間我不清楚。但我覺得首先最重要的一點就是,我們要有我們自己的觀點,要學會怎麼問問題,怎麼去追問,對每件事要有自己獨特的觀點。另外就是一直保持學習。現在我每天都要看新的東西,包括要讀論文,5年前學的東西已經沒有用了。

我覺得人類一定會越來越幸福,未來20年的人類是一個新的物種,是Human Intelligence + Artificial Intelligence,像我們看山頂洞人,或者是我們看100年前還沒有手機沒有電的時候的人類,是不同的物種。所以未來人類一定會更加的幸福。我們也不需要工作5天,可能工作1天或者2天,我們早期工業革命剛來的時候是工作7天,後來到了6天,然後5天,現在歐洲已經4天。

所以我覺得以後工作會變少,人們會花更多的時間做自己更享受的事情。我是樂觀主義者,我們看看這演播廳里所有的創新,都是技術帶來的創新,都是樂觀主義帶來的,悲觀主義是沒有未來的。


想在手機閱讀更多李開復資訊?下載【香港矽谷】Android應用
分享到Facebook
技術平台: Nasthon Systems