《人類簡史》作者尤瓦爾·赫拉利訪談:300年後,統治地球的已不是人類

2019-03-07 03:03:39

瓦爾·諾亞·赫拉利

《人類簡史》是以色列歷史學家尤瓦爾·諾亞·赫拉利(Yuval Noah Harari)的第一本書,但這第一本書就轟動了全球。

它帶領讀者探索了人類登上萬物之巔的歷史,被蓋茨、扎克伯格和歐巴馬等一眾人物奉為最愛。

他的新書《未來簡史》則探討了人類的未來,以及人類的智慧型與創造力對未來構成了何種威脅。

最近,美國播客作者以斯拉·克萊恩(Ezra Klein)採訪了赫拉利,與他探討了人工智慧(AI)的崛起、數字意識是否是數字智慧型的必然產物,以及這一切對人類意味著什麼。

赫拉利認為,計算機將奪走人類的工作,使人類在經濟上淪為無用之物。對於這一點,克萊恩不太認同。然而,他可能完全錯了,赫拉利有力地論證了自己的觀點。

他們還探討了虛擬現實(VR),以及人類在失去經濟意義之後,能否躲進人工幻境之中,彌補日常生活中缺失的意義和經歷。

以下為編輯後的訪談內容節選:

以斯拉·克萊恩(左)、尤瓦爾·諾亞·赫拉利(右)

克萊恩兩三百年後,人類還會是地球的主宰嗎?

赫拉利絕對不會了。如果你問50年後,那很難說,但如果是300年,這個問題就很容易回答了。300年後,人類將不會是地球上占主導的生命形式——如果那時候人類還存在的話。

從當前技術發展的步伐來看,人類在生態災難或核災難中自我毀滅,也並非沒有可能。

更可能出現的情況是,我們通過生物工程學、機器學習以及人工智慧,將自己升級為一種截然不同的存在形式,或者創造另一種存在形式,取代人類本身。

無論如何,兩三百年後的地球主宰者和人類的區別,要比我們與尼安德特人、我們與黑猩猩的區別大得多。

克萊恩:每次聽到這些AI終將戰勝人類的論斷,我都會想,那些絕頂聰明的人類——伊隆·馬斯克們,尤瓦爾·赫拉利們,還有比爾·蓋茨們——又在高估“智慧型”的重要性了。因為畢竟,我們之所以能主宰地球,靠的不是分析能力,而是合作等因素。

赫拉利:要想成功,合作通常比純粹的智力更加重要,這我完全同意。

問題在於,AI比人類更具合作性,至少是潛在的合作性。舉個很普遍的例子,現在大家都在談論自動駕駛汽車。相對於人類駕駛,自動駕駛的巨大優勢不僅體現在它更安全、更廉價、更高效,而是它們之間可以互相聯網,形成一個單一網路。這一點,人類駕駛員做不到。

其他很多領域也是如此。比如醫療,人類醫生有千萬之眾,但醫生之間常常溝通不暢,若換成AI醫生,那就不是幾百萬名不同的醫生,而是一個單一的醫療網路,監測著世界上所有人的健康狀況。

如果我們說話的這會兒,在遙遠的廷巴克圖,有AI醫生髮現了一種新疾病,或者新療法,我智慧型手機上的AI私人醫生就立刻掌握了這一信息。AI的最大優勢之一就是合作,而非智慧型。

關於人工智慧意味著什麼、不意味什麼,人們有很多概念混淆的地方,尤其是在矽谷這樣的地方。我認為,最容易混淆的是智慧型與意識。

95%的科幻電影都建立在一個錯誤的假設之上,即人工智慧必然會發展出人工意識。他們認為,機器人會產生情感與感受,人類會愛上它們,或者,它們會產生毀滅人類的念頭。事實並非如此。

智慧型不等於意識。智慧型是解決問題的能力。意識是感受事物的能力。

在人類和其他動物身上,智慧型和意識確實形影不離。哺乳動物解決問題靠的就是感受。我們解決問題離不開情感和感受。然而在計算機中,這樣的關係並不存在。

近幾十年來,計算機智慧型飛速發展,計算機意識卻絲毫未見動靜。我們絕沒有理由認為,計算機意識的產生指日可待。其進化軌跡或許和哺乳動物迥然不同。哺乳動物的智慧型是在意識的驅使下,不斷發展。同樣是發展智慧型,計算機走的就是另一條路,而且,這條路與意識沒有半點關係。

等待我們的,也許是一個無意識的,但是卻超級智慧型的世界。關鍵不是人類會不會愛上機器人,或是機器人想不想滅掉人類。

關鍵在於,一個充斥著無意識超級智慧型的世界是怎樣的?歷史上絕對沒有類似的參照。

克萊恩:我覺得,這是AI最耐人尋味的地方,也是每每被忽略的地方。我們之所以去解決問題,是因為受到了感受的驅使。憤怒的感受,疼痛的感受,這些都驅使著我們。另外,繁衍的本能也受著愛與欲這些感受的調節。

不僅僅是人類文明,地球上所有動物的大部分行為,都是為了確保物種的繁衍。而涉及AI的時候,我常常在想,沒有繁衍本能驅動的超級智慧型會是什麼樣子?即便它擁有某種類似意識的東西,也跟人類意識存在本質上的不同。

也就是說,AI會擁有解決問題的強大智慧型,但它的動機是什麼?它為什麼要解決這些問題?它會想解決哪些問題?

我感覺人們在討論AI時,很多時候都是假設AI像人類一樣貪婪,永不知足。它會成為最好的圍棋手,但不會止步於此。它還會稱霸《大富翁》遊戲,還會在《吉他英雄》遊戲中擊敗所有人。但我不明白的是,事實果真如此嗎?是什麼原因導致了這樣的局面?

AlphaGo已打敗世界圍棋等級排名第一的棋手柯潔

赫拉利:可以說,在最早的AI中,這個動機是由編程人員決定的。但隨著機器學習的發展,AI的走向就不好說了。它不會像人類一樣產生欲望,因為它沒有意識。它不會有心理活動,但會形成自己的行為模式,而這些模式將遠遠超出人類的理解範圍。

對業內人士來說,機器學習、深度神經網路以及AI的吸引力在於,AI能以人類無法效仿或預測的方式,識別模式和做出決策。這就意味著,對於AI會朝什麼方向發展,我們是無法預見的。這是危險之一。AI一旦超越人類智慧型,也就超越了人類的想像。

克萊恩:既然AI的發展和AI的未來都充滿不確定性,你為什麼如此堅信,300年後,人類就不是地球的主宰了呢?

赫拉利:不是我高估AI,是多數人都傾向於高估人類。要取代大部分人類,AI並不用多么有本事。政治和經濟體系從人類那裡所需要的,其實非常簡單。

前面我們談到了開車,還有診斷疾病。用不了多久,AI就會在這些領域超越人類,哪怕它們沒有意識,沒有情感、感受或超級智慧型。當代人大多都在做一些界限分明的工作,AI很容易就能把我們比下去。

如果回到狩獵採集時代,情況就不同了。你很難造出一個能夠匹敵人類的狩獵採集機器人。但造一輛自動駕駛汽車,將計程車司機比下去呢?簡單。或者造一個診斷癌症的AI醫生,將人類醫生比下去呢?也簡單。

我們所探討的是,在21世紀,大部分人類都會喪失經濟和政治價值,淪為一個龐大的無用階層。這個“無用”不是他們的母親或孩子眼中的無用,而是對經濟、政治和軍事體系的無用。屆時,這些體系也沒有動力在人類身上花功夫了。

克萊恩:如果這種改變發生在50年、100年、150年後呢?

赫拉利:50年真的很快的,轉眼間就過去了。

克萊恩:我知道,但對經濟體來說,就不一定很快了。就好比1900年,美國很大一部分勞動力都在從事農業。到2000年,情況就完全不一樣了。農業人口占比,以及農業勞動力的占比都變得微乎其微。

就像你剛才關於經濟無用性的觀點所言,我們的確將農業這些非常“有用”的工作,換成了很多客觀上沒那么有用的工作,就比如我的工作。這個世界需要我錄播客、寫文章嗎?它需要你撰寫有趣的著作,探討可能出現的未來嗎?也許並不需要。

在經濟體中,我們擅長於創造各種各樣的需求。我們給紙張賦予意義,把它變成了錢,還把用鈔票買到的東西也賦予了價值。我們成功地說服自己,葡萄汁存放的時間夠長,就會變成葡萄酒,可以賣出幾千美元。

將來有一天,計程車也許都由計算機來駕駛了,但我們還是可以說服彼此,我們生活中需要更多的瑜伽老師,更多的冥想老師。你仍然可以說,“這事兒計算機也能做。”但作為人類,我們難道就找不到新的東西,並賦予其價值了嗎?

這好像有點將“用處”和“價值”混為一談了。“用處”某種程度上是參照規範所作的判斷,而“價值”是一種主觀性更濃的判斷。什麼有價值,什麼沒有價值,這是我們自己決定的,而且,我們也善於為自己需要什麼創造藉口。

赫拉利:我認為,答案分兩個層面。首先,關於新就業出現的可能性,就像農場工人轉戰工廠,繼而進入服務行業,現在又變成瑜伽老師,其中的問題在於,人類能力基本可分為兩種:體力和腦力。

過去,在農田和工廠中,機器和我們比體力,人們轉而從事腦力勞動。現在,機器開始和我們拼腦力了。至於人類有沒有第三種共同的能力可以挖掘,我們就不得而知了。

克萊恩:我能試舉一種嗎?湯姆·弗里德曼(Tom Friedman)擅長用短小精悍的語句,將各種思緒包裝起來,比如他說,我們正從腦力勞動轉向心力勞動。人類的能力似乎在於,人類享受與其他人類互動。我大可以讓計算機教我瑜伽,但實際卻沒有這樣做。

您就是一個很好的例子。你即將參加為期60天的禁言冥想休憩會。當然,計算機可以收集網路上的冥想信息,讀取有史以來每一本冥想書籍的內容,最後列印出一份東西,然後你就能把自己關進屋子,一個人呆上60天,還不用交錢。但您不願這樣,您想和別人一起,想和其他人互動。

其實我覺得,經濟體中很多工作都是如此。即便是現在,很多工作也都是無用的。從某些層面上講,書籍跟計算機類似——書能做到的,人都能做到。我知道您在大學教書。您大可以讓大家看書,但人們喜歡由老師教,喜歡有助教,喜歡和其他學生共處。人類擅長和其他人類互動。

赫拉利:將來,計算機讀取並理解人類情緒的能力也許會產生巨大飛躍,一舉超越人類。去看醫生的時候,你渴望那種人類互動的溫暖體驗。但醫生是怎么做到的呢?無非就是解讀你的面部表情、語音語調,當然還有說話內容。人類醫生主要通過這三種方式,分析你的情感狀態,知道你是害怕、無聊、憤怒還是別的什麼。

我們還沒有走到那一步,但計算機很快就能識別這些生物模式,比人類更勝一籌。情緒並不是只有人類才能解讀的神秘現象。

將來,計算機還能解讀身體發出的信號,人類醫生就辦不到。只要在體表或體內安裝生物識別感測器,計算機就能診斷出你的情緒狀態,準確性勝過任何人類。因此,即便在這種情況下,AI都是有優勢的。

另一點,在20世紀,丟了農業飯碗的人來到工廠從事低技能工作,這些工作也消失後,人們又轉而從事服務業的低技能工作,比如收銀。21世紀的問題在於,低技能工作就此消失了,針對高技能工作的再培訓就變得非常棘手。如果你是計程車司機,到50歲失業了,只能轉行教瑜伽,這就非常難辦了。

克萊恩:這種情形還有另一個面,即產生一個無生產、超愉悅的社會。相比於AI反烏托邦,我其實更擔心VR反烏托邦。

人類一旦喪失經濟意義,就會避入虛擬現實世界。現在的VR已經非常先進,20年後就更不用說了。在您想像中,未來,我們會不會通過某種社會規模的分心機器,管理這個經濟無用性問題?

赫拉利:是的,我覺得AI取代人類還有另一個問題——不是經濟問題,而是意義問題——如果你沒有工作,並從政府那裡領取無條件基本收入,這時,最大的問題是:你怎么尋找生命的意義?你整天都幹些啥?

對此,目前最好的答案就是藥物和電腦遊戲

人們會服用各種各樣的生物化學製品,越來越多地調節自己的情緒,也會日益深陷三維虛擬現實之中。

在虛擬現實遊戲中尋找意義並非新鮮事。這個概念由來已久。幾千年前,我們就開始這樣做了。只不過到目前為止,我們都管這叫做宗教。

我們大可以將宗教看成某種虛擬現實遊戲:發明並不存在的規則,信受奉行,終其一生。如果你是基督徒,這樣做就能加分,否則減分,及至死亡降臨,遊戲結束。到時候,分值夠高者得以升級,也就是升入天堂。

朝聖者

從這個虛擬現實遊戲之中,人們獲得對生活的滿足感,如此已有幾千年之久。

只不過到了21世紀,憑藉技術,我們已經能創造出逼真得多的虛擬現實遊戲。我們的技術能通過比特和腦機接口,把天堂和地獄構建出來,而不是讓這些東西停留在想像層面。

翻譯:雁行

來源:Vox

相關文章
精选文章