DARPA局長：人機融合之路已經開啟，但人類似乎還沒有做好準備

　　2017-02-01 18:57    戰略前沿技術

　　

　　來源：全球技術地圖（ID:drc_iite），作者：Arati Prabhakar ，選自：wired

　　「印度女掌門」執掌DARPA

　　DARPA局長再談人工智慧：人類對於新技術必須持謹慎態度

　　DARPA局長談人工智慧

　　DARPA局長闡釋支持第三次"抵消戰略"的重點項目

　　DARPA局長將其職責解釋為「改變那些可能會變化的東西」

　　DARPA局長詳述2017財年重點投資的三個關鍵領域 研發戰略前沿技術

　　正在改變世界——DARPA局長在未來技術論壇上的致辭

　　

　　Arati Prabhakar：本文作者，DARPA局長

　　也許我們會變得比以往更加人類

　　也許我們會面目全非

　　哈佛醫學院的實驗室里，Peter Sorger和Ben Gyori正在與一台電腦進行頭腦風暴。他們想知道，為什麼一種強大的黑色素瘤藥物在數月後失去療效？如果這種人機協作取得成功，將產生一種能從根本上理解複雜性的方法，不僅能改變癌症患者的治療方法，還可能改變無數其他領域中創新和發現的方法。

　　這場挑戰的核心，是癌細胞或任何細胞內部，不斷發生的超級複雜的各種活動。成千上萬種相互作用的生化過程不斷進行，一切取決於那些基因最為活躍以及它周圍發生了什麼。研究表明，黑色素瘤藥物隨時間推移而發生的功效喪失，與兩種基因的活性增加有關。

　　但許多因素直接或間接影響著這兩種基因，而且醫生手上只有對這些全局性相互作用粗略估計的模型，想要確定哪些是關鍵因素並施以靶向藥物，簡直是天方夜譚。

　　這也是為什麼會有一台全新的電腦系統加入進來。Sorger和Gyori要做的事情，就是基於臨床證據、專業知識以及直覺，對三種蛋白質之間的相互作用提出一個新的假設。接著電腦開始思考，產生數百個新的微分方程，豐富和改進以前的分析模型。然後給出結論。

　　從某種意義上說，數百年來科學家們一直在使用相同的做法：大膽假設，小心求證。但是現在Sorger和Gyori的新智囊，是一個機器。研究人員和計算機的組合創造了一種全新模式，他們不僅僅是記錄相關性，而是開始揭示所有重要的中間步驟、因果關係。

　　從知其然到知其所以然。也就是從大數據，飛躍到了更深層次的理解。

　　3200多公里之外，另一種人機協作形式正在猶他大學展開。在那裡，Greg Clark正要求Doug Fleenor在電腦屏幕上觸摸一個木門的圖片。

　　25年前，Fleenor在一場近乎致命的電氣事故中失去雙手。現在他的手臂里植入了一枚可以與電腦通訊的晶元，當他移動臂膀時，一隻手臂的圖像也在電腦屏幕上同步移動。之前他也經歷過類似的測試，但這一次不同。「這太棒了！」，Fleenor脫口而出。

　　什麼太棒了？當虛擬手臂碰到那扇虛擬的木門時，Fleenor確確實實感覺自己摸到了一個木製的表面。一些新的軟體，配合一個嵌入式的晶元，通過一組精密的電器元件，與手臂上直達大腦的神經相連。這讓Fleenor有了觸摸到紋理的體驗。

　　對於一個數十年沒有摸過任何東西的人來說，這是一個超越的時刻：那些以為未來才會出現的事情，真實地發生在自己身邊。

　　無論是Peter Sorger實驗室中，對於因果複雜性的共同理解，還是Greg Clark實驗室中，軟體和網路的無縫集合，都代表著一種多元化的未來。在那裡人類和機器不是各干各的，而是親密地進行合作，這讓人類與機器之間的區別，變得幾乎難以察覺。

　　

　　基於自適應信號處理、敏感神經介面、機器推理和複雜系統建模，而產生的全新能力，正在被整合進威力巨大的數字系統，以及整合進人類獨有的洞察力和直覺之中。經過幾十年的相處，人類和人類的技術創造，正準備開啟一個奇怪但令人興奮的融合進化之路。

　　我們做好準備了么？也許並沒有。

　　許多人更加關注人工智慧技術對就業和經濟的影響。皮尤研究中心去年在美國進行的一項調查表明，人們通常對所謂整合生物技術的突破，例如大腦晶元植入和人造血液，「更加擔心而非熱烈歡迎」。

　　我對未來的特殊觀點，來自我所領導的美國國防部高級研究計劃局（DARPA），這個機構的使命是為國家安全創造顛覆性技術。六十多年來，DARPA引領了一波又一波的技術革命，產生了一些當今最先進的材料和晶元技術，以及人工智慧和網際網路。

　　Clark和Sorger正在進行的工作，是幾百個DARPA計劃中的一部分，目的是開啟下一個技術前沿。從我的角度來看，趨勢非常清楚：人類正走在與機器變成共生聯盟的道路上。

　　引領我們前進的，是解決先前棘手問題的誘惑，是增強我們先天能力的願景，以及改善人類生存條件的承諾。隨著我們邁向未來，機器將在生活的方方面面發揮前所未有的作用。因此人類需要解決一些新的難題：隱私和身份，真實和責任等等。

　　這個關於我們是誰，以及我們想成為什麼的問題。

　　技術，一直是通向我們糾結內心的窗口。隨著每一個技術進步，從最早的骨工具、石錘，到噴氣發動機、社交媒體，技術已經展示並且放大了人類的創造性和破壞性。

　　長久以來，雖然技術一直是幫助我們幹活的工具，但總有人擔心機器會把人類自身變成機器。就像查理-卓別林在電影《摩登時代》中表現的那樣。而最近以來，技術變成了幫助我們思考的工具，而擔心也隨之出現：機器可能變得比人類更聰明。

　　這兩種恐懼不是沒有道理：每天上下班路上有很多盯著手機的「殭屍」，而那些載客的汽車卻正準備擁有駕駛的自主權。我們仍在努力解決這些問題，而第三波技術創新已經開始，機器人將不僅幫我們幹活和思考，而且有潛力幫助我們存在。

　　有些人把這種共生當成浪漫，有些人則當成災難。但是不管怎麼看，有一個問題值得所有人搞清楚：我們是怎麼走到了今天這步？

　　與許多革命一樣，這種新興的共生關係根源很深。1960年，富有遠見的心理學家和計算機先驅JCR Licklider發出預言：「用不了多久，人類大腦和計算機將緊密地耦合在一起，這將帶來人類大腦前所未有的思考模式，以及與當前截然不同的信息處理方式」。

　　Licklider在半個多世紀之前助推了信息革命，但是他的夢想要想完全實現，還不得不再等幾十年，等兩個技術趨勢真正成熟。

　　第一個趨勢是信息革命的直接成果：現今數據科學和人工智慧正在宇宙大爆炸一般地擴張，並與前所未有的能力融合在一起：人類的洞察力、專業知識、語義和常識。

　　事實證明，人類善於創造極其複雜的系統。無論是數十億節點的網際網路、數十億晶體管的晶元還是數百萬組件的飛機。

　　與此同時，人類也善於收集複雜自然系統產生的數據：從微生物與氣候動態，到全球社會行為的模式。然而想要知道這些超級系統的運行原理，以及想要挖掘這些數據集中可能蘊含的金礦，也被證明非常之困難。更遑論以此推動人類進步。

　　有一些複雜的事情，我們迄今不能完全理解：

　　為什麼把單個智慧的演演算法組合在一起，有時會導致證券交易所突然崩潰？

　　什麼因素導致世界各地的人們發展出共同的身份認知和群體意識？

　　又是什麼最後可能打破這些紐帶，進而引發混亂、移民潮和革命？

　　在導致或治癒某些疾病的無數因素中，哪些因素是主要的，它們如何相互作用？

　　對於上述種種謎題，哪裡是尋找最合適解決方法的有效節點或壓力節點？現在，當人類開始與機器一起工作和思考時，這些問題終將得到回答。

　　DARPA有一個Big Mechanism計劃正在為此努力。Sorger的工作也是其中一部分，但這個計劃不只是研究藥物和基因。研究人員使用先進的語言處理演演算法，讓機器通宵閱讀關於特定癌症基因的科學雜誌文章，然後每天提交所學，最終形成一個超大的癌症遺傳學模型。

　　這些機器每周可以閱讀數以萬計的科學雜誌文章，並且可以進行深入的語義分析，不僅能獲取細胞活動的圖片，還能獲知生化反應的因果鏈條，並以此建立定量模型。這個計劃通過和人類專家合作，開始研究如何利用已經批准的藥物組合，治療某些癌症患者。

　　同樣，比爾和梅琳達-蓋茨基金會也是用DARPA開發的分析工具，來研究與兒童發育遲緩，營養不良和肥胖有關的多種因素。這通常需要幾個月的文獻翻閱，現在幾天就能完成。而這些因素可以為政府的公共衛生策略提供決策依據。

　　上述努力中所學到的東西，將應用於一系列國家安全難題。設想一下，如果建模分析就能解決這些問題：「如果一個地區的乾旱持續了五年，對關鍵基礎設施的影響將是什麼」，「一個國家發展到什麼程度才會賦予婦女權力，這將對未來的政治和經濟軌跡產生什麼影響」。

　　更廣泛地說，現在已經很難在DARPA中找到一個沒有致力於推動人類和電腦進行特性和技能的融合的計劃。無論是新型合成化學品的設計、通過3D增量製造方法實現的精巧結構，還是無人駕駛航空系統的命令和控制、高度擁塞環境中的頻譜管理。

　　要理解第二個快速發展的趨勢，我們得從硬體和軟體轉向網路，並在神經技術領域取得進展。

　　不久以前，我們對大腦的所有認知，基本上都是醫生們把大腦損傷和功能障礙聯繫起來，一點一點累積的。據估計，人類大腦中有80-1200億個神經元，併產生數萬億的相互連接。人類很難在短期內破解神經學的深層奧秘。

　　然而過去幾年裡，在全新高解析度神經記錄和刺激裝置的幫助下，神經科學家已經開始解碼大腦中的電化學信號。更令人震驚的是，他們編寫併發送指令給神經元，並精確獲得期望中的響應。在DARPA的計劃中，這意味著全身癱瘓的人可以通過意念操作機械手臂，自己把食物送到嘴裡，以及用機械手臂觸摸他們的親人。

　　這還能幫助一些失去四肢的人，包括身在猶他州的Fleenor，重新獲得真正的觸摸體驗。運動和感覺功能的恢復只是開始。我們正在努力研發神經技術，以幫助創傷性腦損傷的病人重建回憶的能力，幫助患有創傷后應激障礙(PTSD)或其他神經病症的人重獲健康。這個努力的目標，是將數字信號精確地傳送到大腦。

　　有趣的是，這個領域中的一些進展不是來自對大腦的直接刺激，而是通過更易接近的周圍神經系統。我們正在研究通過輕度刺激皮膚，向大腦發送特定功能的信息。如果使用精確調諧的超聲波信號，這種刺激甚至不會被察覺到。

　　從技術角度來看，我們很快就能從簡單的恢復身體健康，進入到增強人類能力的廣闊前景之中。比如，看到或者聽到可見光以外的光波，加快學習的速度讓人們能夠更快地獲取新技能，加強記憶力等等。

　　複雜因果推理和神經技術等新功能的擴展與融合，正在催化一種生物-信息-機電的共生體，這將改變健康、娛樂、設計、教育、研究乃至國家安全的諸多領域。而這種新型關係最令人興奮之處，是它已經開始對我們做了什麼。

　　令人驚訝的是，越來越豐富的機器已經開始觸發我們思維和想象的新方式。設想一下，你能體驗一種從來沒有存在過的全新顏色，或者在空間中增加第四個物理維度。也許在未來人類的眼中，我們所處的現在不過是一張簡單的黑白照片。

　　這些變化起初很小。在Fleenor的案例中，他現在的神經系統，已經跟他在猶他州的設備上訓練之前有所不同。隨著學習直接與計算機通信，他的神經元幾乎不知不覺地發生了移動，並創造了新的聯繫。在某種程度上，這跟他第一次學會騎自行車或者使用計算機時別無二致，移動虛擬手臂和感觸數字圖像的能力，改變了Fleenor的世界，他走上了一條進化的道路。與此同時，越來越多的人也在藉助數字技術擴展自身，小到戴上Fitbits手環，大到大腦連上電腦。

　　這種共生轉化會導致問題嗎？當然。個人身份、個人代理和真實性的含義都需要重新校準。我們甚至可能需要重新思考客觀現實。一定會有濫用和錯誤出現。

　　但是重點在於：和達爾文的進化論觀點不同，這種進化有了一個選定的軌跡。我們需要定義我們想要成為什麼，這樣做不僅僅是重塑自己，更是揭示自己。

　　這還要求我們深思熟慮一些深刻的問題。如果知道我們在思想性和創造性方面的努力，正在由電腦處理（改進-迭代-甚至發布出來），我們還會開放以對么？我們還會冒險去尋求不切實際的想法么？如果人們想改變性格或感知範圍，社會規範會變成什麼樣？

　　增加一種新的感覺與學習一門新的語言，會有著根本的不同么？誰應該擁有這些技術的行政控制權？或者誰應該擁有知識產權，畢竟其中有部分是我們最個人想法的產物。我們如何衡量和考慮一個人在世界上的身份和真實性？又該如何看待那些技術背後的公司和政府？

　　這些都是令人生畏的問題，但這也是令人興奮的原因。這是我們真正處於前沿的最好證據。事實上，即便我們努力想擺脫這些問題，也會被不可避免地吸引到這些問題上。人類既興奮又不安。長期存在的自我和新技術夥伴的共同演變，將迫使我們檢視人類最深的慾望。

　　也許我們會變得比以往更加人類，也許我們會面目全非。

　　DARPA局長談人工智慧

　　來源：中國國防科技信息中心

　　作者：李勇

　　

　　【據「前沿防務」網站2016年2月11日報道】國防高級研究計劃局（DARPA）正在研發人工智慧，使其幫助人類理解50年前就開始泛濫的數據洪流並做出更佳的決策，即使在激烈的戰鬥中也不例外。這種「人機協作」（非正式名稱為「半人馬模式」）是美國國防部旨在反制中俄向前發展的第三次抵消戰略的高科技「聖杯」。

　　DARPA局長普拉巴卡爾表示，「我們和國防部副部長（沃克是抵消戰略的總設計師）有過一些重要談話，在我們的許多項目中，都可以看到該戰略的技術部分」。但它不僅僅是具體的技術，而是關於一種對待技術的新方法。

　　「從根本上說，第三次抵消戰略背後的想法，是國防部需要重振我們研發先進技術的能力。如果我們延續舊的方式和舊的節奏，那麼有一種很強烈的認識，就是我們將不能到達目的地。」

　　「我們建立了各自獨立龐大的系統，各子系統相互使用硬連接方式……這樣甚至很難找到問題之所在。這些系統研發周期長、檢修耗時多、升級時間久，不能跟上對手迅速前進的步伐。所以DARPA有了一個計劃，要從根本上『反思複雜的軍事系統』」。

　　傳統武器項目如戰鬥機或戰艦，要將各種定製軟硬體整合為一個緊密的、自成一體的系統，需要數年或者數十年的時間。各組件相互依賴，且往往是以不可預知的方式，使得軟體調試等工作成為一種夢魘。找出故障猶如捋順一盤「義大利面」。

　　與這種定製、緊密集成的系統相反，您需要一種模塊化、開放的系統結構，從中可以輕鬆更換它的部分軟硬體，而不影響系統的其它組件。

　　相對於數量較少、造價昂貴的有人平台，您希望將所有類型的有人與無人載具進行「異質」混合，包括從130英尺（約40米）長的無人艦，到一次性的手持無人機。您希望系統可以隨著軍力的調整來擴展或收縮，而不是專為特定類別和規模的軍隊設計系統結構。您希望的是高度分散、能夠抵抗物理攻擊、干擾和黑客入侵的網路，而不是脆弱的、依賴有限傳輸方式和少許中央節點的網路。

　　干擾和黑客很難對付。越是網路化，網路攻擊越容易在軍隊中蔓延。越是使用無線網路，電子戰越容易偵測到您的通信，加以利用或將其關閉。DARPA正在應用尖端研究成果應對上述問題。

　　名為「高安全性網路軍用系統」（HACMS）的項目就應用了一些所謂「形式化方法」的數學方法來識別並關閉網路漏洞。她表示，在近期的一次試驗中，HACMS團隊選取特種部隊AH-6「小鳥」直升機的任務計算機，重構軟體，創建了一個新的「內核」供AH-6現有程序在其上面運行。

　　紅方由專家組成的黑客團隊試圖侵入，卻未能成功，即使紅方得到一些HACMS源代碼，卻仍然未能找到漏洞。事實上，在試驗中紅方曾一度控制AH-6的機載攝像頭程序，但當他們試圖入侵任務計算機其它程序及飛控時，卻無法退出該程序。

　　她表示，「這些系統並非『牢不可破』，[但是]明顯的攻擊路徑都已關閉，這在數學上是可以證明的」。

　　DARPA還應用新方法來解決電子戰的老問題。目前，當一架戰機遇到一種新信號，比如敵方雷達或未知無線電訊息，它會記錄下來並帶回基地。然後，專家們可能需要花費數月或數年來理解敵方系統及應對之策。在雷達和雷達之間使用硬連接且難以修改的時代，這是恰當的。但是現今的發射機是數字的，改變波形只是一個簡單的軟體問題。跟上這些不斷變化的信號，「認知電子戰」的目的是使用人工智慧來實時檢測、分類及反制這些信號。

　　她表示，我們希望做到比人類的時間尺度更快的響應和反應。為此我們的方法是，首先，實時全頻譜搜索，然後，應用一些最前沿的人工智慧和機器學習技術（如增強學習）。[我們]使用這些來構建系統，機載系統，這些系統可以知道對手在電磁頻譜中的當前行為，預測其後續行為，然後調整機載干擾裝置嚴陣以待。」

　　自動防禦在防空反導領域是真實存在的：海軍的宙斯盾艦可以在來襲威脅太多太快、人腦無法應對的時候自動開火。

　　這樣的話，人做什麼？沒人提議應由機器來決定致命性武器的使用，至少在美國沒有，但如果戰鬥進行的太快太複雜，人的大腦無法處理，指揮官當如何指揮？

　　普拉巴卡爾的副手斯蒂芬•沃克爾（Steven Walker）表示，「您不想提供所有信息，去加重人的負擔，而是提供決策所需的信息」。您希望計算機去跟蹤所有的複雜行為，包括有人或無人系統，友好和敵對的；進行分析；並提供「2-3個行動方案」供人選擇。

　　[本文作者問]「如果在華盛頓附近待久了，就知道「決策者」往往是其職員的『木偶』，員工首先考慮的是哪個選項最受老闆青睞，其次再考慮孰優孰壞。您的意思，計算機扮演精明的員工，人類成為倒霉的主管。如何確保指揮官不成為計算機的木偶？」

　　普拉巴卡爾回答說，「您觸及了一個最大的問題。在我們提高這些機器系統的能力的時候，重要的是我們信任並相信它們告訴了什麼，它們認為正在發生什麼，或它們提出了什麼行動方案。」

　　「這股強大的新浪潮正發生在人工智慧領域，五角大樓需要善加利用。但我認為，深度學習領域正在發生的很多事情還沒有嚴密的理論基礎，將此放在檯面上真的很重要……我們都看到這些系統形成了違反常識的解決方案，因為它們缺乏背景。」

　　舉一個日常生活中的小例子，就是蘋果的Siri語音助手軟體。「一開始Siri很神奇。三個問題后就不那樣了」。

　　DARPA已經有一些解決該問題的計劃，但是當我們開始發展人工智慧的新基礎后，您會看到更多計劃。」

　　人工智慧的新基礎？這不是一個小目標。但是，這是DARPA。「門檻的確很高。但我們的一位項目經理喜歡說……在這個地方，如果不發明網際網路，只能得到一個B」。

　　DARPA局長再談人工智慧：人類對於新技術必須持謹慎態度

　　來源：中國國防科技信息中心

　　作者：吳海中國國防科技信息中心

　　【美國政府科技新聞網站Fedscoop 2016年5月2日報道】5月2日，DARPA局長表示，美國防部科研機構在人工智慧和機器學習領域進行大量投資，但人工智慧技術仍存在諸多局限性。

　　DARPA局長阿爾提•普拉巴卡在出席大西洋理事會時表示，統計數字錶明，在圖像識別方面，目前最好的面部識別系統強於大多數人，但是系統會犯一些人類根本不可能犯的錯。

　　普拉巴卡表示，對於何時何地以及如何使用人工智慧技術，應該持謹慎態度，這一點很重要。

　　普拉巴卡表示，人們急不可耐地接受人工智慧等新技術，但並不完全清楚這些技術的局限性。只有明白這些技術的局限性，人類才不會被誤導。

　　人類對於新技術必須持謹慎態度。比如，矽谷人士往往認為,數據越多越好。普拉巴卡表示，更多的數據可能意味著：無論你做出什麼假設，都可以找到支持的數據。

　　人工智慧仍然處於起步階段,普拉巴卡稱當前的機器學習為「人工智慧的第二次浪潮」。

　　普拉巴卡表示，機器學習浪潮的驅動因素包括新的GPU架構、新的演演算法,尤其是出現了海量可供系統自我訓練的數據。當前的面部識別技術、華爾街自主交易系統和無人駕駛汽車等技術都基於DARPA之前的研究。

　　一星期前,DARPA研製的反潛用長航時無人跟蹤艇進行海試。

　　2016年3月，DARPA啟動了頻譜協作挑戰賽（SC2），尋求通過將先進的機器學習能力應用至無線電領域，制定優化的無線頻譜使用策略，以取代目前低效的預分配特定頻段獨佔應用方式。

　　即將到來的人工智慧第三次浪潮涉及將機器學習推進到一個高度，使得軟體應用能夠從錯誤中吸取教訓。普拉巴卡表示,機器將可以自我解釋, 基於因果模型明白自身的局限性，以及學習如何把所學的東西應用到一個或多個領域中。

　　普拉巴卡表示,隨著人工智慧的發展,機器學習可輔助國防部的戰場決策,但人的要素總是不可缺少的。

　　一網打盡系列文章，請回復以下關鍵詞查看：

　　創新發展：習近平 | 創新中國 | 創新創業 | 科技體制改革 | 科技創新政策 | 協同創新 | 成果轉化 | 新科技革命 | 基礎研究 | 產學研 | 供給側

　　熱點專題：軍民融合 | 民參軍 | 工業4.0 | 商業航天 | 智庫 | 國家重點研發計劃 | 基金 | 裝備採辦 | 博士 | 摩爾定律 | 諾貝爾獎 | 國家實驗室 | 國防工業 | 十三五

　　預見未來：預見2016 |預見2020 | 預見2025 | 預見2030 | 預見2035 | 預見2045 | 預見2050 |

　　前沿科技：顛覆性技術 | 生物 | 仿生 | 腦科學 | 精準醫學 | 基因 | 基因編輯 | 虛擬現實 | 增強現實 | 納米 | 人工智慧 | 機器人 | 3D列印 | 4D列印 | 太赫茲 | 雲計算 | 物聯網 | 網際網路+ | 大數據 | 石墨烯 | 能源 | 電池 | 量子 | 超材料 | 超級計算機 | 衛星 | 北斗 | 智能製造 | 不依賴GPS導航 | 通信 | MIT技術評論 | 航空發動機 | 可穿戴 | 氮化鎵 | 隱身 | 半導體 | 腦機介面

　　先進武器：中國武器 | 無人機 | 轟炸機 | 預警機 | 運輸機 | 戰鬥機 | 六代機 | 網路武器 | 激光武器 | 電磁炮 | 高超聲速武器 | 反無人機 | 防空反導 | 潛航器 |

　　未來戰爭：未來戰爭 | 抵消戰略 | 水下戰 | 網路空間戰 | 分散式殺傷 | 無人機蜂群

　　領先國家：俄羅斯 | 英國 | 日本 | 以色列 | 印度

　　前沿機構：戰略能力辦公室 | DARPA | Gartner | 矽谷 | 谷歌 | 華為 | 俄先期研究基金會 | 軍工百強

　　前沿人物：錢學森 | 馬斯克 | 凱文凱利 | 任正非 | 馬雲

　　專家專欄：黃志澄 | 許得君 | 施一公 | 王喜文 | 賀飛 | 李萍 | 劉鋒 | 王煜全 | 易本勝 | 李德毅 | 游光榮 | 劉亞威 | 趙文銀 | 廖孟豪

　　全文收錄：2016文章全收錄 | 2015文章全收錄 | 2014文章全收錄

　　其他主題系列陸續整理中，敬請期待……