Facebook AI「失控」事件，一個瑕疵引發的妖魔化鬧劇

　　2017-08-03 20:53人工智慧/馬斯克/機器人

　　

　　AI失控！奇點來臨？這些看上去就讓人爆炸的字眼，在過去的幾天里，通過媒體和社交網站持續發酵。AI陰謀論甚囂塵上。

　　大家關心並擔憂未來，是否正如末日預言家所說，超級AI會接管世界，並像消滅病菌一樣消滅人類？

　　有趣的是，對未來AI的擔憂和恐慌，竟和100多年前中國的一段歷史非常相似。

　　奇點來臨，機器人大反派降生了？

　　事件起源於Facebook 6月發表的一篇論文。論文描述了他們進行的一項科學實驗：訓練兩個人工智慧機器人對話交流，提升談判能力。

　　

　　Facebook的研究人員希望通過訓練聊天機器人，讓它帶著「目的」和人類對話。他們給機器人兩本書、一頂帽子和三個籃球，讓它們通過談判拿到最多的物品。這個過程中，為了產生數據，機器人做了大量的自我練習，就像AlphaGo左右手互搏練習圍棋一樣。

　　

　　這場實驗的重點，在於如何使程序進行有效的談判和溝通。研究人員完成了他們的實驗，並且發現，人工智慧甚至能夠對不想要的東西偽裝出興趣。

　　論文發布后，實驗的重點並沒有得到媒體大面積的關注，相反，實驗過程中的一個小瑕疵，引發了媒體和大眾的狂歡。

　　聊天機器人Alice和Bob在實驗中意外產生了讓人看不懂的對話。它們使用的雖然是英語單詞，但在語法上沒有任何意義，看起來像是一堆亂碼。

　　

　　Bob:I can can I I everything else.

　　Alice:Balls have zero to me to me to me to me to me to me to me to me to.

　　翻譯過來是：

　　Bob：我能能我我所有其他事。

　　Alice：球沒有對我對我對我對我對我對我對我對我對。

　　The Atlantic《大西洋月刊》首先關注到這件事。在6月15日當天的報道中，使用了標題 「Artificial Intelligence Developed Its Own Non-Human Language」（人工智慧發展出了自己的非人類語言）。

　　

　　The Atlantic報道

　　之後，Fast Co. Design和Digital Journal發表文章，強調研究人員在發現AI機器人不再使用常規英語后，緊急「關停」了這一項目。

　　

　　Digital Journal報道

　　隨後一周里，這些報道在各個科技網站以及新聞網站上逐步擴散。英國媒體《每日電訊報》、《鏡報》等新聞媒體也發布了諸多相關的誇大報道。《太陽報》則說，專家在Facebook的AI發展出自己的語言后發出警告，「機器人智能非常危險」。

　　這些報道在網路上引發了公眾的興趣。在Facebook主頁的相關新聞下，留言中大量出現《終結者》、《復仇者聯盟》中的「奧創」等人工智慧機器人大反派的名字。大家都在猜測，傳說中的奇點是不是已經到來了？

　　

　　新聞引髮網友熱議

　　聊天機器人會「失控」？

　　埃隆·馬斯克可不這麼想

　　傳言持續發酵，讓幾位參與項目的Facebook研究人員坐立難安，不得不出面澄清。

　　Dhruv Batra稱這些斷章取義的報道是「標題黨並且不負責任」。他在Facebook上發文稱：

　　「

　　雖然對外界人士來說，AI機器人發明了自己的語言這樣的說法可能令人擔憂並且意外，但其實這是AI研究中一個發展相對成熟的副領域，相關文獻可以追溯到幾十年以前。

　　簡單來說，在嘗試完成任務時，機器人經常會採用一種更為複雜曲折的方法以獲得最大化的獎勵。對獎勵函數進行分析，更改試驗參數，並不意味著「切斷電源」或者「關停AI」。不然，每當AI研究人員在機器上終結一項任務時，都可以叫做「關停AI」。

　　」

　　

　　Dhruv Batra在Facebook發表澄清

　　實驗初期本來是允許機器修改語言的。研究人員為系統設置激勵條件時，告訴它們「請用英文」，但並未告訴它們 「請用英文語法」。結果兩台機器不管語法，將語言過分修改，產生了很多無意義的對話。發現后，研究人員便關掉了修改語言的選項，然而這並不是「關停AI」。

　　Edward在Twitter上對一篇報道表示不滿，「難道你們就沒有其他編輯可用了嗎？」

　　

　　另一位研究員hardmaru發推文表示，「《自AI發明了自己語言后Facebook關閉了它》這篇報道的題目非常不負責任，作者應該對它感到羞恥」。

　　

　　事實上，機器人聊天是目前AI應用的諸多領域之一。谷歌Alphabet以及埃隆·馬斯克發起的OpenAI近期也進入了這一方向。有些機器人已經發展出了自己獨特的交流風格，研究人員正對其進行不斷的調試。

　　讓人印象深刻的是，埃隆·馬斯克是「AI末日論」堅定的傳道者，幾天前還與Facebook創始人扎克伯格辯論。如果AI聊天機器人會失控，估計馬斯克不會輕易嘗試。

　　對人工智慧的恐懼，

　　或許是100多年前的歷史回魂

　　不管是否出於刻意，媒體誇大事實甚至製造流言的做法，讓公眾對AI產生了懷疑，也讓參與該項目的Facebook研究人員感到憤怒和委屈。

　　「大眾以及部分媒體、自媒體，對AI的理解很多來自科幻電影，而科幻電影裡面的AI超級智能，是有生存意識甚至陰謀論的。所以看到這類科研結果，就會斷章取義，往科幻片方向想。」 創新工場（chuangxin2009）董事長李開復說。

　　

　　末日預言家的恐嚇讓媒體和公眾加重了對AI的擔憂。

　　霍金在全世界享有盛譽，但他認為人工智慧的崛起可能是人類文明的終結。

　　埃隆·馬斯克同樣信奉AI末日輪。「研究AI，好比在召喚惡魔。」他說，如果人工智慧在多個領域超越人類，人類將面臨大規模失業的危險，生活因此會變得毫無意義。

　　霍金和馬斯克的觀點擁有諸多擁躉。在AlphaGo擊敗李世石前後，馬克·扎克伯格發了一條貼文，稱Facebook也有自己的人工智慧，能夠在圍棋比賽中擊敗人類。

　　「你為什麼就不能放過這一古老的遊戲，讓它不受任何虛擬玩家的干涉？我們真的所有一切都需要人工智慧嗎？」到2016年6月，這條帖子已經收到了超過85000條表情反饋和4000條評論。

　　有趣的是，對未來AI的擔憂和恐慌，和100多年前中國的一段歷史非常相像。

　　1865年8月，英國商人杜蘭德在宣武門外鋪設了一條長約半公里的鐵路。從未見過火車的清朝人，被「以小汽車行駛其上，其迅疾如飛」的景象嚇得不輕，以至「詫所未聞，駭為妖物，舉國若狂」。

　　

　　晚清鐵路

　　這段鐵路很快被「飭令拆卸」。在此之前，面對洋商多次修築鐵路的請求，清政府都以「失我險阻，害我田廬，妨礙我風水」的理由嚴厲回絕。

　　10年後，英國怡和洋行擅自在上海修建了一條十餘公里長的鐵路，以便輸送貨物和旅客。清政府得知后即憤怒又尷尬，不得不以28.5萬兩銀子的重價贖回，並拆毀鐵軌、剷平路基、推倒車站。這些器材在海灘上風吹雨淋，很快變成了廢鐵。

　　清朝官員對鐵路排斥歷時彌久，厭惡的原因之一是擔心「失業」，害怕鐵路修成后，沿線舟車挑夫、行棧鋪房無以為生，必將聚為流寇。

　　巧合的是，今天抵制AI的人，最大的反對理由也是「失業」。