當AI學會自我懷疑

　　2018-01-20 09:42谷歌/無人車/操作系統

　　想要人工智慧真正變得智能，怎麼可能不教會它自我懷疑？

　　深度學習如今有了一項新的超能力：不確定感。

　　

　　Uber 和谷歌的研究者們最近正在努力讓兩個對世界影響最大的深度學習框架可以自主評估事件發生的幾率。這意味著最聰明的 AI 項目將可以在未來自行衡量對其預測或決定的信心，換句話說，就是它們將可以知道是否需要懷疑自己。

　　深度學習在近幾年獲得了巨大的成功，尤其是在圖像和語音識別方面。但是這一技術所要求的大量的訓練數據和計算能力也讓研究和使用者頗為心累。

　　而自我懷疑，或許是解決這一問題的有效方法之一。這一新技術也可以被用在無人車和其他自動化機器上，在緊要時刻幫助系統作出決定。

　　「我們想要的是一個可以自行評估確定性的系統，」 Dustin Tran，谷歌團隊的一名研究人員這樣說道，「如果無人車無法自行評估事態，那麼其造成的後果可能是災難性的。」

　　這一項目反映了研究人員終於意識到不確定感是人類理性的一個重要部分。正如 Zoubin Ghahramani，劍橋大學教授和 Uber 首席科學家所說，將這一能力裝載到 AI 系統中必然可以使其更加聰明，少犯錯誤。

　　這一新技術背後的實用意義重大。「我們希望為深度學習建立一個堅實的框架，這需要讓人們更為清楚地感受到其決定背後的不確定性。」 Ghahramani 在最近的一次討論中說到。

　　而另一位斯坦福大學教授，也是 Uber AI 實驗室的研究人員，Noah Goodman 則更進一步地解釋道，當深度學習可以評估幾率，其實際能力將獲得多方面的提升。比如說，這項新技術可以幫助系統以更少的訓練數據和更高的確定性來識別物體。同時，在建造大型複雜的智能系統時，精確的評估幾率，比起簡單的是或否的答案，更加能夠幫助研究人員制定有效的計劃與合理的決策。

　　兩位教授也都提到了 Pyro，一個由 Uber 發布的，將深度學習和概率編程結合在一起的編程語言。他們認為，通過這一語言建立的新系統可以在預排程序中加入先驗知識。而這可能將會改變機器學習現有的所有應用。

　　「當你想要將一些先驗知識融入到你要建立的模型中時，概率編程將極為有用，」 Goodman 這樣說道。「 Pyro 將會被應用在各種各樣的場景中。」

　　Edward 則是另一個擁抱不確定性的編程語言。它由哥倫比亞大學的團隊開發出來，和 Pyro 一樣，都處在早期發展的階段，但我們已經可以理解為什麼Uber和谷歌對它們如此感興趣了。

　　Uber 正在將機器學習運用到各種各樣不同的領域，從為司機提供線路到制定動態定價，再到無人車項目。這家公司在 AI 中大量下注，並聘請了不同的專家開發各種新奇的想法。而谷歌則已經在其所有的經營領域圍繞著 AI 和深度學習進行了大規模地調整。

　　David Blei，哥倫比亞大學統計和計算機科學系的教授，認為將深度學習和概率變成結合起來是一個非常有前途的想法。「從理論上來看，它將極其強大，」他如此說道，「但是目前仍有太多太多技術上的挑戰。」

　　同時，Goodman 認為，Pyro 和 Edward 還有另外一個重要意義：它們將AI界的兩大學派，神經網路派與概率派帶到了匯合點。

　　近年來，神經網路學派的影響太過強大，以至於這一派之外的想法被習慣性地忽略了。而想要進一步發展技術，學界必須要更為大度地接納更為多樣的思考和成果。

　　「現在，我們不再需要將這兩派分割開來。因為，我們正在發展的技術正在將他們推向合作共通的轉折點。」 Goodman 最後這樣總結道。

　　

　　本文編譯自 MIT Technology Review。