神經網路之父Hinton闡述40年的研究 或重塑AI技術

　　2017-11-02 16:21:45　來源: 網易智能

　　

　　網易智能訊 11月2日消息，據連線雜誌報道，現在圍繞人工智慧（AI）的炒作越來越多，如果你想因此指責某個人，69歲的Google研究員傑夫·辛頓(Geoff Hinton)可能是個很好的候選人。因為就是這個人，一步步把「深度學習」從邊緣課題變成Google等網路巨頭仰賴的核心技術！

　　作為多倫多大學教授，Geoffrey Hinton於2012年10月將AI領域的發展推向了新的軌道。在兩名研究生的幫助下，Hinton展示了一種不太流行的技術——人工神經網路。Hinton已經在這個領域研究積累了數十年，人工神經網路使得機器能夠理解圖像的能力有了巨大飛躍。

　　如今，人工神經網路已經可以轉錄我們的演講、識別我們的寵物，並幫助我們與「網路巨魔」作鬥爭。但Hinton現在卻對這種他幫助推出的技術發起挑戰，他說：「我認為我們研究計算機視覺的方式是錯誤的。雖然它現在比其他任何東西都管用，但這並不意味著它是正確的。」

　　Hinton現在分享了他的另一個「舊想法」，這可能會改變電腦「觀看」的方式，並重塑AI。計算機視覺非常重要，對於無人駕駛汽車或充當醫生的軟體來說更是如此。上周，Hinton發表了兩篇研究論文，闡述了他已經研究了近40年的一個想法。他說:「在很長一段時間裡，這對我來說都是一種直覺感覺，只是效果不太好。現在，我們終於取得了進展。」

　　Hinton的新方法被稱為「膠囊網路」（capsule networks），它是神經網路的變體，目的是讓機器更好地通過圖像或視頻來了解世界。Hinton在第一篇論文中稱，Capsule網路的準確性可與此前標準測試中的最好成績相媲美，即軟體學會如何識別手寫數字。在第二種情況下，Capsule網路幾乎將之前最好測試的錯誤率降低了一半，這種測試挑戰軟體從不同角度識別卡車和汽車等玩具的難度。Hinton始終在與谷歌派駐在多倫多的兩名同事共同研究他的新技術。

　　Capsule網路旨在彌補當今機器學習系統的缺陷，這些缺陷限制了它們的有效性。谷歌和其他公司今天使用的圖像識別軟體需要大量的示例照片來學習，包括如何在各種情況下可靠地識別對象。這是因為該軟體並不擅長將其對新場景知識進行泛化，例如從新的視角觀看相同的對象時，準確地將其識別出來。舉例來說，教電腦從多個角度識別一隻貓，可能需要成千上萬張不同角度的照片。而人類孩童不需要如此明確和廣泛的訓練，就可以學會識別一隻家養寵物。

　　Hinton的想法是縮小最好AI系統和普通幼兒之間的認知鴻溝，以便在計算機視覺軟體中建立更多的知識。Capsule（少量粗糙的虛擬神經元）被設計用來追蹤物體的不同部位，比如貓的鼻子和耳朵，以及它們在空間中的相對位置。由許多Capsule組成的網路可以利用這種方式來加強理解，明白從不同視角看到的物品依然是此前相同的對象。

　　Hinton已經形成了他的「直覺」，他在1979年認為視覺系統需要這樣一種內在的幾何意義，當時他試圖弄清楚人類是如何使用心理意象的。Hinton在2011年首次提出了Capsule網路的初步設計，並於上周公布了更全面的設計，這是該領域研究人員長期以來所期待的。紐約大學圖像識別教授Kyunghyun Cho表示：「每個人都在等待它，並期待著傑夫的下一個偉大飛躍。」

　　現在就說Hinton取得了「大躍進」還為時過早，他自己也知道這一點。這位經驗豐富的AI專家的直覺已經得到了證據支持，他解釋說Capsule網路仍然需要大量圖像支持，並且當前的系統與現有圖像識別軟體相比速度更慢。但Hinton非常樂觀，他自信可以解決這些缺點。該領域的其他人也對他的長期成熟想法抱有很大希望。

　　圖像識別初創公司Twenty Billion Neurons聯合創始人、蒙特利爾大學教授羅蘭·梅尼塞維奇（Roland Memisevic）說，與當前系統相比，Hinton的基本設計應該能夠從數據中提取出更多信息。如果能夠在更大範圍證明這一點，那將會對醫療保健等領域有所幫助。在這些領域，用於培訓AI系統的圖像數據遠比互聯網上的自拍照更少。

　　從某些方面來說，Capsule網路與AI研究最近的趨勢有所不同。最近對神經網路成功的一種解釋是，人類應該把儘可能少的知識編碼到AI軟體中，然後讓它們自己從頭開始計算。紐約大學心理學教授加里·馬庫斯（Gary Marcus）去年曾向叫車服務公司Uber出售了一家AI初創公司，他說，Hinton的最新研究代表了一種新的可能。馬庫斯認為，AI研究人員應該做更多的事情來模擬大腦的內在機制，來學習像視覺和語言這樣的關鍵技能。他說:「現在還不知道這個特定的架構會走多遠，但看著Hinton打破這個領域的慣例，感覺非常棒！」（小小）

　　神經網路之父Hinton闡述40年的研究 或重塑AI技術

　　2017-11-02 16:21:45　來源: 網易智能

　　

　　網易智能訊 11月2日消息，據連線雜誌報道，現在圍繞人工智慧（AI）的炒作越來越多，如果你想因此指責某個人，69歲的Google研究員傑夫·辛頓(Geoff Hinton)可能是個很好的候選人。因為就是這個人，一步步把「深度學習」從邊緣課題變成Google等網路巨頭仰賴的核心技術！

　　作為多倫多大學教授，Geoffrey Hinton於2012年10月將AI領域的發展推向了新的軌道。在兩名研究生的幫助下，Hinton展示了一種不太流行的技術——人工神經網路。Hinton已經在這個領域研究積累了數十年，人工神經網路使得機器能夠理解圖像的能力有了巨大飛躍。

　　如今，人工神經網路已經可以轉錄我們的演講、識別我們的寵物，並幫助我們與「網路巨魔」作鬥爭。但Hinton現在卻對這種他幫助推出的技術發起挑戰，他說：「我認為我們研究計算機視覺的方式是錯誤的。雖然它現在比其他任何東西都管用，但這並不意味著它是正確的。」

　　Hinton現在分享了他的另一個「舊想法」，這可能會改變電腦「觀看」的方式，並重塑AI。計算機視覺非常重要，對於無人駕駛汽車或充當醫生的軟體來說更是如此。上周，Hinton發表了兩篇研究論文，闡述了他已經研究了近40年的一個想法。他說:「在很長一段時間裡，這對我來說都是一種直覺感覺，只是效果不太好。現在，我們終於取得了進展。」

　　Hinton的新方法被稱為「膠囊網路」（capsule networks），它是神經網路的變體，目的是讓機器更好地通過圖像或視頻來了解世界。Hinton在第一篇論文中稱，Capsule網路的準確性可與此前標準測試中的最好成績相媲美，即軟體學會如何識別手寫數字。在第二種情況下，Capsule網路幾乎將之前最好測試的錯誤率降低了一半，這種測試挑戰軟體從不同角度識別卡車和汽車等玩具的難度。Hinton始終在與谷歌派駐在多倫多的兩名同事共同研究他的新技術。

　　Capsule網路旨在彌補當今機器學習系統的缺陷，這些缺陷限制了它們的有效性。谷歌和其他公司今天使用的圖像識別軟體需要大量的示例照片來學習，包括如何在各種情況下可靠地識別對象。這是因為該軟體並不擅長將其對新場景知識進行泛化，例如從新的視角觀看相同的對象時，準確地將其識別出來。舉例來說，教電腦從多個角度識別一隻貓，可能需要成千上萬張不同角度的照片。而人類孩童不需要如此明確和廣泛的訓練，就可以學會識別一隻家養寵物。

　　Hinton的想法是縮小最好AI系統和普通幼兒之間的認知鴻溝，以便在計算機視覺軟體中建立更多的知識。Capsule（少量粗糙的虛擬神經元）被設計用來追蹤物體的不同部位，比如貓的鼻子和耳朵，以及它們在空間中的相對位置。由許多Capsule組成的網路可以利用這種方式來加強理解，明白從不同視角看到的物品依然是此前相同的對象。

　　Hinton已經形成了他的「直覺」，他在1979年認為視覺系統需要這樣一種內在的幾何意義，當時他試圖弄清楚人類是如何使用心理意象的。Hinton在2011年首次提出了Capsule網路的初步設計，並於上周公布了更全面的設計，這是該領域研究人員長期以來所期待的。紐約大學圖像識別教授Kyunghyun Cho表示：「每個人都在等待它，並期待著傑夫的下一個偉大飛躍。」

　　現在就說Hinton取得了「大躍進」還為時過早，他自己也知道這一點。這位經驗豐富的AI專家的直覺已經得到了證據支持，他解釋說Capsule網路仍然需要大量圖像支持，並且當前的系統與現有圖像識別軟體相比速度更慢。但Hinton非常樂觀，他自信可以解決這些缺點。該領域的其他人也對他的長期成熟想法抱有很大希望。

　　圖像識別初創公司Twenty Billion Neurons聯合創始人、蒙特利爾大學教授羅蘭·梅尼塞維奇（Roland Memisevic）說，與當前系統相比，Hinton的基本設計應該能夠從數據中提取出更多信息。如果能夠在更大範圍證明這一點，那將會對醫療保健等領域有所幫助。在這些領域，用於培訓AI系統的圖像數據遠比互聯網上的自拍照更少。

　　從某些方面來說，Capsule網路與AI研究最近的趨勢有所不同。最近對神經網路成功的一種解釋是，人類應該把儘可能少的知識編碼到AI軟體中，然後讓它們自己從頭開始計算。紐約大學心理學教授加里·馬庫斯（Gary Marcus）去年曾向叫車服務公司Uber出售了一家AI初創公司，他說，Hinton的最新研究代表了一種新的可能。馬庫斯認為，AI研究人員應該做更多的事情來模擬大腦的內在機制，來學習像視覺和語言這樣的關鍵技能。他說:「現在還不知道這個特定的架構會走多遠，但看著Hinton打破這個領域的慣例，感覺非常棒！」（小小）