人類想要變得更強，要與人工智慧「混血」共生

　　2018-03-01 11:21人類/人工智慧

　　編者按：關於人與機器（工具），過去其實有著兩條故事線索，一條是AI（人工智慧）的故事，這是一個英雄（或者惡棍）崛起的故事；一條是IA（智能增強）的故事，這是思想之輪高開低走的故事。AI的崛起讓我們提出了如何與我們的創造物共處的問題，而智能增強（IA）讓我們有了全新的思考、生活及存在方式。那個問題的答案就在AI與IA身上。人類與AI的共處之道在於優勢互補：人類最擅長提問，AI最擅長解答；在於要共贏而不是零和：共生才是大自然之道。MIT的這篇文章值得好好讀一讀。

　　

　　卡斯帕羅夫畏縮了，那表情就好像有人朝他的早餐吐了一口口水一樣。兵進F5。深藍仍舊沉默，就好像它剛剛朝某人的早餐吐了一口口水一樣。車進E7：吃掉了卡斯帕羅夫的后。這是第六局，但在第二局結束被深藍擊敗的時候卡斯帕羅夫就已經失去了勇氣，此後雙方就一直打成平局。卡斯帕羅夫走出的這一步將是他的最後一步。象至E7吃掉剛吃了他的后的車。深藍做出反應。兵進C4。卡斯帕羅夫迅速意識到深藍這是準備用它的後來進攻了——他知道大勢已去。

　　才走了不到20步，加里·卡斯帕羅夫就投子認負。1997年5月11日，IBM的深藍成為擊敗人類國際象棋世界冠軍的第一個AI。

　　現在你可以把比深藍還要厲害的AI下載到筆記本。

　　

　　來自ESPN紀錄片：人與機器：卡斯帕羅夫聳聳肩離開座位的那一刻。

　　AI的故事

　　這就是幾十年來我們一直在講給自己聽的故事：這是人與機器之戰，是造物主與創造物之戰，會隨歲月老去的血肉之軀與光滑如初的硅模塊之戰。不管我們對AI的擔心是近憂還是遠慮，都源自同一種恐懼：害怕AI不會具備跟人類一樣的目標和價值觀。更糟糕的是，我們告訴自己，人與人以及人與AI的關係就像一場國際象棋遊戲：

　　零和——有一個玩家獲勝另一個玩家就得輸掉。

　　卡斯帕羅夫要求重賽。他指責IBM有人暗中在幫助深藍，此外，他在1997年輸掉的那場比賽也是他在1996年乾淨利落地擊敗了深藍之後的重賽。再重賽一次再公平不過。

　　IBM拒絕了。他們幹掉了深藍，然後打包回家。（安息吧深藍，1989—1997。）

　　但是卡斯帕羅夫止不住在想：如果一個人類跟一個AI一起合作會怎樣？次年，也就是1998年，卡斯帕羅夫舉辦了全球第一次「半人馬國際象棋賽」。類似於半人馬這種神話形象，這些半人馬也是一半是人類一半是AI組成的團隊。

　　但是如果人類下國際象棋比不上AI的話，人+AI的組合豈不是要比單個的AI更弱？難道計算機不會被人類拖慢嗎？就像博爾特跟一隻胖嘟嘟的大熊貓綁在一起跑二人三腿賽一樣？2005年，在卡斯帕羅夫的半人馬賽的啟發下，一項網上的國際象棋錦標賽試圖回答這個問題。他們邀請了各種各樣的參賽選手，比如超級計算機、人類大師、人機組合等來角逐一項大獎。

　　不出意料，人機組合的半人馬擊敗了純粹的人類。不過令人吃驚的是——人機組合的半人馬也擊敗了純粹的計算機。

　　這是因為，智商這東西跟網上那些不科學的、騙點擊的IQ測試不一樣，它不是一維的。（在不同的認知任務中，「g 要素」，也就是所謂的「一般智力」進展個人表現的30到50%。所以儘管這是個很重要的維度，但並不是唯一的）比方說，人類大師擅長遠期的下棋策略，但不擅長看清楚眼前的幾百萬種下法應該下哪一步更好——而下國際象棋的AI正好相反。因為人類與AI在不同的維度上面正好優勢互補，所以這兩個組合出來的半人馬就能夠擊敗純粹的人或者計算機之流。

　　但是在我們擅長的維度AI難道最終不會變得更好嗎？也許。但是，需要考慮一下「沒有免費的午餐」，這條定理恰恰出自機器學習領域本身。該定理指出，在不考慮具體問題的情況下，沒有任何一種演演算法會比另一種演演算法更優，甚至隨機胡猜的效果反而更好：也就是說，智能必須有專長。松鼠這種智能體的專長在於成為一隻松鼠。人類這種智能體的特長是做人類。如果你經歷過設法阻止松鼠接近你的喂鳥器的不愉快的話，你就會知道在某些智能維度上甚至松鼠也比人聰明。這也許是我們的一線曙光：在某些維度上人類比計算機聰明的局面甚至還會繼續下去。

　　現在，人機的結合不僅解決了一個技術問題——如何用AI/人類的優勢克服人類/AI的劣勢，而且還解決了那個道德問題：如何確保AI跟我們人類擁有一樣的目標和價值觀？

　　解決的辦法很簡單：如果你不能打敗他們，那就加入他們！

　　本文剩下的內容要談的就是AI那個被遺忘的表親：IA：智能增強（Intelligence Augmentation）。AI的老故事講的是人腦如何對抗硅腦。IA的新故事將會是人腦如何與硅腦合作。事實證明，這個世界大部分都是國際象棋遊戲的反面：

　　非零和——玩家雙方可以共贏。

　　在接下來的幾個章節里，我會談談IA的過去現在以及將來——我們人類如何開發工具來擴大自身的智力優勢，同時克服我們的智力劣勢。我還會展示在藝術、工程等領域人類已經在如何跟AI進行合作。最後，我還會就如何設計好跟AI的合作關係——如何成為半人馬給出一些粗略的想法。

　　人和AI一起將從「將軍（checkmate）」走向「隊友（teammate）」。

　　IA的故事

　　Doug Engelbart把一塊磚頭綁住了一支鉛筆，然後試著用它來寫字。他當然知道怎麼去花他的冷戰軍事研究資金。

　　

　　Doug Engelbart Institute的歷史照片

　　1962年——卡斯帕羅夫跟半人馬下國際象棋的幾十年前，早期網際網路被發明出來的幾年前——Doug Engelbart在琢磨著工具如何塑造我們的思想這件事情。那時候，Doug的大部分同行只是把計算機看成是更快地處理數據的一種手段。然而，他卻看到了更加深刻的東西：他看到了一種增強人類思維的手段。

　　人類增強自身能力沒什麼新鮮的。我們沒有尖牙利爪，於是我們的祖先就歐陽長矛和弓箭增強自身的身體能力。我們的工作記憶不大，於是我們的祖先就用算盤和書寫來增強他們的認知能力。工具不僅讓人類生活變得更加容易——它還徹底改變了人類的生活方式。尤其是寫字：這不「僅僅」是記錄的一種手段，它還導致了數學、科學歷史、文學藝術等現代文明支柱的誕生。

　　這就是Doug為什麼要試著將磚頭綁上鉛筆的原因——他要證明一個觀點。在我們創造出來的所有用來增強自身智能的工具當中，書寫也許是最重要的。但當他用磚頭綁上對鉛筆進行「去增強」之後，甚至連寫個字都變得困難了許多許多。一旦你讓書寫的低級部分變得困難，要想進行書寫的更高級部分：組織你的思路、探索新的想法及表達、一直精簡到必不可少的部分，這些東西就會變得困難多了。Doug想要表達的正是這個：工具不「僅僅」讓某件事情變得更容易——它還解鎖了新的、之前不可能的思考、生活及存在方式。

　　Doug Engelbart好幾年都在追逐這個夢想，1968年12月9日，他向全世界展示了一種新的計算機系統，終於將智能增強的這個想法變成了現實。現在我們都把那個叫做「展示之母（The Mother of All Demos）」，這個叫法非常切題。全世界有史以來第一次目睹了：計算機滑鼠、超文本、視頻會議、實時協作等等東西，提醒你一下，那是在1968年。那是在蘋果Macintosh誕生的16年前，Skype誕生的35年前，Google Docs誕生的44年前。

　　

　　還是來自1968年在舊金山進行的展示之母，右邊是Doug Engelbart。

　　隨後的幾十年時間裡，大眾開始慢慢接觸到展示之母裡面的那些奇迹。個人計算機讓普通人也有了計算的力量，這一度是政府和大企業才負擔得起的東西。瑞士的一家粒子物理實驗室推出了一個叫做「World Wide Web」的小東西，讓大家可以利用叫做「網頁」的東西來分享知識，大家甚至還可以利用叫做「超鏈接」的東西建立知識之間的關聯。

　　喬布斯曾經把計算機叫做思想的自行車。注意自行車這個比喻，自行車不像汽車，它可以讓人類移動得更快，但跟汽車不一樣的是，自行車是人力驅動的（而且自行車對你的健康也更有利）。金屬的力量，再加上人類的心智。這是天作之合：一個半人馬。

　　大家曾經對增強智能運動的進展情況感到非常樂觀。

　　曾經。

　　現在，甚至連聽說過IA的人都沒幾個了，尤其是跟它的表親AI相比。但這不僅僅只是繞口令。Doug Engelbart設想計算機將成為智力與藝術創造的工具；現在，我們的設備更多是圍繞著消費而不是創造而設計的。且不說AI跟我們共享價值觀了——甚至非AI技術都不再支撐我們的價值觀了，在某些情況下，還在積極地搞破壞。

　　我們想要一輛思想的自行車；得到的卻是Lazy Boy牌思想躺椅。

　　不過謝天謝地，IA的故事沒有就這麼結束了。近年來，對IA的興趣開始復甦。諷刺的是，這部分是因為人類對「落後」於AI的恐懼——這正是馬斯克（Elon Musk）成立Neuralink的原因，他想研究如何製造大腦植入物，將我們的思想直接跟計算機相連。但就像Doug Engelbart和卡斯帕羅夫所表明那樣，其實你不需要直接的腦機介面才能增強我們的智能。進化所賦予我們的介面——眼睛、耳朵、手以及身體——這些東西已經相當好了。你可以騎上思想的自行車，又不用把金屬塞進靈魂的軀殼裡。

　　但就像IA表明未必需要人機對抗那樣，我們也未必需要IA與AI的對抗。在上個世紀里，AI的故事和IA的故事各自走出了自己的軌跡——不過在接下來的10年裡，這兩個故事也許會走出一條會碰撞出火花的軌跡。

　　如何成為半人馬

　　還有一個震撼在等著卡斯帕羅夫。還記得2005年由超級計算機、人類大師以及人+AI半人馬參賽的那場網上國際象棋錦標賽嗎？我忘了提到是誰最後拿到大獎了，

　　一開始，當隨身攜帶一台弱小的筆記本的人類大師擊敗一台世界級的超級計算機時，卡斯帕羅夫並不感到驚奇。但令卡斯帕羅夫感到震驚的是最後贏得錦標賽冠軍的人——不是有一台強大計算機助陣的國際象棋大師，相反是由兩位業餘棋手加三台性能不高的計算機組成的團隊！那三台計算機分別跑了三套不同的國際象棋AI程序，當它們對下一步怎麼走的意見不統一時，人類就「教」這些計算機進一步探究那些走法。

　　就像卡斯帕羅夫總結那樣：「弱的人類+機器+更好的處理比單獨的強力計算機更出色，更引人矚目的是，也要比強的人類+機器+糟糕的處理更出色。」

　　出自古希臘神話的半人馬是高貴的女神的後代。Netflix的原創系列劇裡面的馬男波傑克則是一位頹廢的酒鬼，把身邊所有的人都傷害了個透。儘管這兩個都是半人半馬的生物，一個一個顯然是比另一個更成功的組合。而這給我們帶來了人機協作最重要的經驗教訓。

　　當你建立人+AI團隊時，困難的部分不在「AI」。甚至也不在「人」。

　　難就難在「+」。

　　

　　四軸飛行器機身，由人+AI團隊設計。

　　那麼怎麼才能給人和AI找到最好的「+」呢？如何才能讓人類和AI的優勢互補，並且克服各自的劣勢呢？好吧，要想做到這個，我首先需要知道人類和AI各自的優劣勢究竟是什麼。

　　不管怎樣，人性基本上是亘古不變的。如果你想看看哪些是人類普遍具備的獨特優勢，別看哪些世界著名的大獎獲得者——看看小孩。孩子，哪怕是年紀很小的孩子，都已經精通於：直覺、類推、創意、同理心、社交技能。有人可能會嘲笑這些屬於「軟技能」，但實際上我們可以做出一個會下國際象棋的AI，但它卻hold不住一次5分鐘左右的正常對話，這就是這些技能的「軟」只是對我們自己而言的證明，因為進化已經用了35億年的艱苦工作才塑造出我們。

　　而如果你想看看人類的弱點的話，那就去學校看看。那些就是對人類智能而言比較困難的東西，並且需要長年累月的訓練才能獲得基本的能力：算術、計算、記憶、邏輯、數學。注意，這些都是你的手機比最聰明的人做得更好更快的事情。（我們想也許這就是為什麼孩子覺得學校毫無意義的原因……）

　　好了，這些就是人類的優勢與劣勢了——那AI的優勢和劣勢又是什麼呢？說實話，傻子才會想要預測在遙遠的未來AI能幹哪些不能幹哪些事情。既然我們沒法預測任何具體的東西，那就泛泛思考一下目前為止哪種類型的任務AI具備相對優勢或者劣勢的吧。

　　計算機顯然最擅長計算。它們很擅於處理數萬億的數字，掃描數十億的數據點，考慮數百萬種可能性。數字也許是AI最大的優勢——但數字也是其最大的劣勢。現在，你只有在具備「代價函數」，也就是存在在定量上更好或更壞的答案時才能訓練AI。這就是AI下國際象棋或者圍棋能夠擊敗人類大師的原因——因為勝平負一目了然，但在對話、創造發明、藝術創作、商業談判、闡述科學假設這些事情上的表現卻令人尷尬——因為這些事情你沒法簡單地用一個維度來對答案進行高低排序。那些類型的任務你會希望找人來干，他們會從簡單的回答後撤一步，詢問「為什麼？」或「如何？」或者「如果？」

　　

換句話說，AI擅長選擇答案。人類擅長選擇問題。

　　而這就是2005年網上競標賽獲勝的人+AI團隊選定的「+」。兩位業餘選手提出問題給三台能力不強的計算機，當計算機返回不同的答案時，人類再向它們提出更深入的問題。

　　棋盤不是人+AI這個半人馬唯一取得成功的地方。從藝術到工程，過去幾年我們已經在多個領域見證了半人馬的崛起：

　　2002年，Sung-Bae Cho開發了一種工具讓人和AI一起進行時裝設計。這項工具模擬了進化的過程，只是用在了服裝上面。AI提供「遺傳變異」，隨機生成一些衍變的服裝樣式，你則提供「自然選擇」，利用自己的美感挑選出可以在下一代「繁殖」的樣式。

　　2016年，Maurice Conti演示了進化AI與人合作的又一個例子，設計四軸飛行器機身。人類給AI設定目標和約束（「讓機身儘可能輕便，同時保持牢固且有4個螺旋槳」），作為響應AI則「演進」出一個四軸飛行器機身。人類然後可以「答覆」AI，設定進一步的目標或者約束。

　　2016年Zhu等人開發了一個繪圖工具，你只需要畫出大致輪廓，AI就會把剩下的補好，最後畫出來的圖就像照片一樣逼真。人和AI通過圖片進行了一場藝術「對話」。比方說，人可以在底部畫一些綠線，AI就提供一些逼真的綠地圖片供人挑選。然後，人再增長上面化個黑色的三角形，AI就會用幾張近景是綠地遠處是高山的圖畫作為回應。在人與機器的這種反覆來回之間，藝術就被創作出來了。

　　在所有這些半人馬的例子當中，都是人類以設定目標和約束的方式選擇問題——而AI則產生答案，通常會立即展示多種可能性，來實時回答人類的問題。不過這並不僅僅只是單向的對話：通過提出更深入的問題，選擇和組合答案，並且引導AI利用人類直覺，人類然後也可以響應AI的答案。

　　所以，考慮利用AI增強人類智能時，融為伯格人（The Borg）的想法不妨少考慮一點，多考慮一下Kirk與Spock（註：星際迷航人物，前者是人類，後者是半人類半瓦肯人）之間的靈魂對話——超越了兩個個體的直覺與邏輯的混合。

　　既然人+AI系統是如此嶄新的領域（其實「領域」都是很大方的說法了，更像是一小塊草地），肯定還有很多未決的問題：比如1）人類應該提出哪一類的問題？在所有上述例子中，問題通常是「符合這些目標&約束的可能解決方案是什麼？」2）人類應該如何與AI溝通？你未必需要使用文字或者甚至代碼；畫畫那個例子裡面人和AI就是通過圖畫來交流的！3）可以有多少個人和多少個AI一起協作？上面所有的例子都是1個人跟一個AI合作，但是2005年半人馬國際象棋錦標賽的贏家就有2個人和3個AI——怎麼才能擴充到幾十、幾千甚至數百萬個人及/或機器的規模？

　　AI選擇答案。人類選擇問題。鑒於所有這些可能性，考慮到未來幾十年技術所帶來的希望與陷阱，我們人類選擇的下一個問題自然是：

　　接下來呢？

　　

　　蘋果海報，「思想之輪」 ，1980年

　　我們的故事

　　過去幾十年，AI的故事是英雄崛起的故事——還是說是惡棍的崛起？1997年，一個AI擊敗了卡斯帕羅夫，2011年和2016年，AI分別擊敗了Jeopardy!（智力競賽）與圍棋的人類頂級選手。現在，很多人害怕AI會取代我們的工作，或者甚至取代人類本身。

　　與此同時，IA的故事卻高開低走，經歷了不幸的跌落。IA的想法從Doug Engelbart的展示之母強勢起步，卻隨著技術從創造的工具日益朝著消費工具轉變而慢慢被人遺忘。有人偷走了我們的思想的自行車的輪子。

　　不過現在，這兩條故事線索可能正開始糾纏到一起，形成了歷史上的一條新的紐帶：AIA——人工智慧增強（Artificial Intelligence Augmentation）。IA可以賦予AI跟人必要的合作關係，一邊依然與我們最深刻的目標和價值觀保持一致。反過來，AI可以賦予IA一些思想自行車的新的、替代性的輪子。

　　我挺願意告訴你未來會是什麼樣子的。不過如果你告訴某人美好的事情必定發生的話，會導致有違初衷的自滿——而如果你告訴某人糟糕的事情不可避免的話，會帶來自我實現的絕望。

　　此外，回答是AI該做的事。作為人，你應該得到的是問題。

　　舉個例子，IA也許能夠協調AI的目標與人類的目標保持一致，但我們又如何能夠協調增強人類的目標與沒有增強過的人類的目標保持一致？我們是不是只是用人類與人類2.0之別取代了人類與AI之別？且不說如何讓人與AI和平共處的問題，人類之間的和平共處問題我們都還沒有解決呢。我們知道如何製造工具來增強我們的智能，但我們能製造工具來增強我們的同理心嗎？我們的社區呢？我們的意義感和目的感？

　　我不知道。我不知道答案是什麼。

　　然而，人類有著悠久的向自然借智的歷史。光是在機器學習這個領域，人工自然網路就受到了生物神經網路的啟發、基因演演算法則受到了生物進化本身的啟發。所以，如果從這整篇文章你只能概括出一點的話，那就是大自然最不受賞識的小手段：共生（symbiosis）。

　　共生源自古希臘語，意思是：「一起生活。」共生就是花朵為蜜蜂授蜜，反過來蜜蜂為花朵授粉。共生就是你吃健康食物養育腸道內數萬億的微生物，反過來，這些微生物替你分解食物。15億年前，一個細胞吞下了一個細菌但沒有消化它，然後這個細胞就喜歡上這裡了，作為回報——這個細菌（我們現在稱之為「線粒體」）開始為宿主產生能量。

　　共生向我們表明，大家可以進行富有成效的協作，哪怕各自有著不同的技能，或者不同的目標，或者甚至是不同的物種。共生向我們表明，這個世界往往不是零和的——未必需要是人 Vs AI，或者人 vs 半人馬，或者人 vs 其他人。共生是兩個個體因為差異性而一起成功而不是相互憎恨。共生就是那個「+」。

　　人類故事的新篇章正在開啟，接下來會發生什麼，要由一起生活的我們共同書寫。

　　原文鏈接：https://jods.mitpress.mit.edu/pub/issue3-case

　　編譯組出品。編輯：郝鵬程