倍可親

回復: 3

對話《主演演算法》作者:圖靈測試是個壞主意

[複製鏈接]

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
非常時期 發表於 2018-2-18 12:14 | 顯示全部樓層 |閱讀模式
  2017-12-29 07:02:30 來源: 網易智能舉報

  

  本文系網易智能工作室(公眾號smartman163)出品,此篇為AI英雄人物第56期。

  選自|Gigaom

  翻譯|網易見外翻譯機器人

  審校|李擎

  人物觀點:

  圖靈測試實際上是個壞主意,原因是它混淆了智能和人類的關係。你可以通過欺騙一個人來證明你是一個人,從而證明你是智能的,這種想法是很奇怪的。這就好比說除非一架飛機能騙過鳥兒,讓鳥兒認為它是一隻鳥,否則就不能說飛機會飛,這沒有任何意義。真正的智慧可以有多種形式,但不一定是人類的形式。

  正文:

  《AI英雄》人物專訪第56期對話嘉賓是Pedro Domingos,他是華盛頓大學教授,還是《主演演算法》(The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World)一書的作者。Pedro Domingos談到了主演演算法、機器創造力,以及在人工智慧革命之後創造出的新的工作。

  人工智慧到底是什麼,人工智慧與人工草坪的"人工"有什麼不同?

  【問】:什麼是人工智慧?

  【Pedro Domingos】:人工智慧正在讓計算機做一些傳統意義上需要人類智慧的事情,比如推理、解決問題、常識知識、學習、視覺、語言理解、計劃、決策等等。

  【問】:這裡的「人工」和人工草坪中的人工是等同的嗎?是不是說它並不是真正的智慧,只是看起來很「智能」?還是說它是真的智慧,「人工」只是代表它是由我們創造出來的?

  【Pedro Domingos】:這是個有趣的類比。我以前從沒聽說過。我不認為人工智慧和人工草坪是一回事。我認為這是真正的智慧。它只是不同於傳統意義上的智慧。我們習慣於認為人類的智慧,或者動物智慧,是地球上唯一的智慧。而現在發生的是一種不同的智慧。這有點像,潛水艇真的會游泳嗎?或者它是假裝在游泳?實際上,它並不是真的在游泳,但它仍然可以使用不同於游泳的方式在水下航行。或者,即使飛機沒有扇動翅膀,它也會飛對嗎?它不會扇動它的翅膀但它確實會飛——而人工智慧有點像這樣。實際上,人工智慧在某些方面是智能的,這些方面與人類智慧不同。在很多領域的人工智慧已經超過了人類智慧,所以我想說它們是不同形式的智能,但它確實是一種智能的形式。

  【問】:那麼你會如何描述現在的技術現狀?

  【Pedro Domingos】:在科技和技術進步中,往往會出現井噴。先是有很長一段時間的緩慢進展,然後是非常突然、非常迅速的進步。在人工智慧領域,我們無疑正處於一個非常快速的發展階段,而人工智慧領域的發展也已經有很長一段時間了。人工智慧領域已經有五十年歷史了,我們在80年代把它叫做「AI spring」,因為那時候它看起來可能會真的騰飛。但這並沒有真的發生,問題出在當時的人們正試圖用所謂的「知識工程」來做人工智慧。如果我想要一個人工智慧系統來做醫療診斷,我必須採訪醫生,摸清程序,因為醫生有著關於診斷知識和關於計算機使用規則的了解,而現如今這一點並沒有改變。

  最近發生的變化是,我們有了一種新的人工智慧的方式,那就是機器學習。計算機不再通過編程來完成任務,而是通過對數據學習來編程。所以現在關於醫療診斷我們要做的是,給電腦一個有病人記錄的資料庫,其中包括他們的癥狀和測試結果,以及最終的診斷結果。僅僅通過這些數據,在三十秒內,計算機可以比人類醫生更好地學習醫學診斷。因此,多虧了機器學習,我們現在進入到了一個非常快速的發展階段。此外,由於學習演演算法已經變得越來越好,而且非常重要的一點是,機器學習的美妙之處在於,因為智能來自於數據,所以隨著數據呈指數級增長,人工智慧系統變得更加智能,基本上不需要其他額外的工作。所以現在人工智慧變得非常強大。這多虧了我們所擁有的大量數據。

  當然,另一個不可或缺的因素是計算能力。我們需要足夠的計算能力將所有數據轉化為智能系統,而我們確實擁有這樣的計算能力。因此,學習演演算法、大量數據和計算能力的結合,才是當前取得進步的原因。

  在人工智慧領域,我們還需要取得更多的突破

  【問】:你認為我們能在這波浪潮中度過多久?你認為機器學習是通往AGI的路徑嗎?我的意思是,我們還有,十年,二十年,或者四十年的時間是圍繞機器學習進行的嗎?或者,我們是否需要另一種突破?

  【Pedro Domingos】:我認為機器學習絕對是通往人工智慧的途徑。但我認為…我認為在人工智慧領域會有一些人會不同意這種觀點。你知道,你的電腦可以像你想的那樣聰明。如果它不能學習,三十分鐘后它就會落後於人類。所以,機器學習對於實現人工智慧來說是至關重要的。事實上,奇點的整個概念都是I.J.古德在50年代提出的,他當時有了一個可以學習的機器的想法,可以讓一台機器通過學習而變得更好。這樣一來,你就有了這一系列越來越好、越來越智能的機器,直到它們把人類落得越來越遠。而現在來講,這要花多長時間呢?這是很難預測的,因為這種進步不是線性的。我認為,目前的發展進程可能會停滯不前。我不認為我們已經接近人工智慧的邊緣了。我們已經走了一千英里,但剩下的路還有一百萬英里。我們還需要更多的突破,但沒有人知道這些突破會從何而來。

  從最樂觀的角度來看,或許這一切都將在未來10年或20年內發生,因為如果進步接連出現,我們很快就會實現。從更悲觀的角度來看,這太困難了,可能永遠也不會發生。如果你對人工智慧專家進行調查,他們絕不會說這將會是幾十年。但事實是,沒有人確切地知道答案。

  

  【問】:有趣的不是人們不知道,也不是他們的預測五花八門,而是那些有見識的人做出的預測,最近的是五年,而最遙遠的是五百年。這對你來說意味著什麼呢?這就像,如果我去乾洗店,我說,「嘿,我的襯衫什麼時候可以洗完?」他們說,「在五天到五百天之間。」我會說,「好吧……這是什麼情況。」你認為為什麼在多久能實現AGI的問題上,這些觀點之間的差異這麼大?

  【Pedro Domingos】:當乾洗店清潔你的襯衫時,這是一個眾所周知的,不斷重複的過程。他們知道這要花多長時間,並且持續做同樣一件事情,對吧?沒有什麼是未知的。人工智慧的問題是,我們根本不知道我們不知道什麼。我們不知道我們錯過了什麼,所以有些人認為我們並沒有失去那麼多。這些人都是樂觀主義者,他們會說,「我們只需要更多的數據。」是這樣嗎?在80年代,他們說,「我們只是需要更多的知識。」但事實並非如此,這只是樂觀主義者的看法。更悲觀的看法是,這是一個非常非常困難的問題,而我們只是觸及了表面,所以不確定性來自於我們甚至不知道我們不知道什麼東西。

  【問】:我們當然不知道大腦是如何工作的,對吧?我們有一些模糊的概念,比如它的不同部分分別做了什麼,但就一個想法的具體編碼方式而言,我們並不知道。你認為我們需要更多地了解我們自己大腦的原理,以用來實現AGI嗎,還是說,「不,那是蘋果和橘子的區別。大腦的運作方式並不重要。我們正在以完全不同的方式構建AGI。」

  【Pedro Domingos】:不一定。人工智慧有不同的思想流派,這是我在書中談到的部分內容。在人工智慧領域,有一些人叫作連接主義者,他們的整個想法就是逆轉工程師的大腦。他們認為最短的路徑是,「逆向推理,搞清楚它是怎麼工作的,在電腦上建立這一過程,然後我們就實現了智能。」這絕對是一種合理的方法。但我認為這是一種非常困難的方法,因為我們對大腦的運作機制知之甚少。在某種程度上,也許它是在試圖通過解決最困難的問題來解決問題。關於人工智慧還有一種其他的想法,也就是那些象徵主義者,他們的想法是,「不,我們不需要在低層次上理解事物。」事實上,如果我們試著這樣做,我們可能就會迷失。我們必須在更高層次的抽象中理解智力,這樣我們才能更快地實現它。所以不要管大腦是如何工作的,這真的不重要。再一次,大腦和飛機的類比是一個很好的例子。象徵主義者說的是,「如果我們試圖製造出能扇動翅膀的機器,我們就永遠不會擁有它們。」我們需要做的是了解物理和空氣動力學的規律,然後根據這個原理製造機器。」所以這是不同的思想流派。我認為有不同的想法是好的,我們可以看看誰先到達最終目標。

  什麼是主演演算法,它是打開所有門的萬能鑰匙嗎

  

  【問】:剛剛你提到了你的書,《主演演算法》,這當然是這個領域的必讀書目。你能給不熟悉它的聽眾,概述一下什麼是主演演算法嗎?我們在尋找的是什麼?

  【Pedro Domingos】:當然可以。對於普通讀者來說,這本書基本上是一本機器學習入門。它的受眾不僅僅是那些專業人員,還有商人、政策制定者、公民和那些有好奇心的人。這本書中談到了機器學習在世界上已經產生的影響。很多人認為這些都是科幻小說,但其實這已經在他們的生活中存在了,他們只是不知道而已。它還著眼於未來,以及我們可以期待的事情。但它主要是對我剛才描述的內容的介紹。目前,機器學習有五種主要的思想流派。第一種流派主張對大腦實施逆向工程;第二種流派想要模擬進化;第三種希望通過將科學方法自動化來進行機器學習;第四種流派主張使用貝葉斯統計思想,第五種流派希望使用類比推理,就像人們在日常生活中所做的那樣。然後我分析了這些不同的方法分別能做什麼,不能做什麼。

  「主演演算法」的名稱來源於這樣一種概念,即機器學習演演算法是一種主演演算法,就像一個萬能鑰匙能打開所有的門一樣。一種學習演演算法可以做各種不同的事情,但用的其實是同一種演演算法。這就是機器學習的非凡之處,那就是,在傳統的計算機科學中,如果我想讓計算機下國際象棋,我必須編寫一個程序來解釋如何下象棋;如果我想駕駛一輛車,我必須編寫一個程序來解釋如何駕駛一輛汽車。但在機器學習中,同樣的學習演演算法可以用來學習下棋或開車,或者做一百萬件不同的事情。只要通過適當的數據學習就可以實現了。每一個機器學習流派都有自己的主演演算法。那個流派里比較樂觀的成員相信,你可以用這個主演演算法來做任何事情。我在書中提出的觀點是,每一種演演算法都只能解決一部分問題。我們需要做的是把它們統一成一個宏大的機器學習理論,就像物理學有一個標準模型,而生物學有一個中心法則一樣。然後,這就是真正的主演演算法。我也提出了一些演演算法,而且我認為我們已經接近它了。

  【問】:我在書中發現的一件事是,你一開始也反覆說過,主演演算法對於很多人來說都是可以涉足的。你的意思是說,「這本書中的內容,仍然是一個門外漢仍能取得一些突破的領域。」你能跟我討論一下這個問題嗎?

  【Pedro Domingos】:當然,這也是讓我進入機器學習的原因之一,這與物理、數學或生物學不一樣,因為這些都是非常成熟的領域,只有當你擁有博士學位后,你才能真正做出貢獻;而計算機科學、人工智慧和機器學習領域仍然尚未發展成熟。所以,即使是生活在車庫裡的一個孩子,也可能會有能夠帶來變革的偉大想法。我希望這種情況發生。我認為,即使我們發現了這一主演演算法,也就是那五種思想的結合,我們仍然會漏掉一些非常重要且非常深刻的想法。我認為,在某些方面,來自外部的人士比我們這些專業的機器學習研究者更有可能找到這一主演演算法,並且他們已經在思考這些特定的思想流派的軌跡了。所以,我寫這本書的目的之一是讓那些不是機器學習專家的人思考機器學習,他們也許能夠產生出下一個偉大的想法,讓我們更接近於AGI。

  【問】:而且,你在書中也指出了為什麼你相信我們知道這樣的事是可能的,而你的證據之一就是我們的智慧。

  【Pedro Domingos】:完全正確。

  【問】:你能詳細談談嗎?

  【Pedro Domingos】:是的,這當然是一個非常有野心的目標,人們在一開始應該就有點懷疑,對吧?他們會說,這真的可能嗎,會不會只是像魔法石或永動機一樣?有些人認為這是不可能的。我認為有很多原因讓我確信這是可能的,其中之一就是我們已經有了現成的證據。而一個現有的證據就是我們的大腦,對吧?只要你相信所有科學家都能相信的簡化論,那麼你的大腦運作方式就可以被表達為一種演演算法。如果我把這個演演算法應用到電腦里,那麼這個演演算法就可以學習你的大腦所能做的一切。因此,至少在這個意義上,主演演算法的一個版本已經存在。另一個版本的說法是進化論。進化創造了我們和地球上所有的生命。它本質上是一種演演算法,我們大致了解這個演演算法是如何工作的,所以這是另外一個主演演算法的實例。

  此外,除了這些經驗上的原因之外,還有一些理論上的原因告訴我們,主演演算法是存在的。其中之一就是,對於這五個流派中的每一個,他們的主演演算法都有一個定理,也就是,如果你給這個演演算法提供足夠的數據,它就可以學習任何函數。所以,至少在這個層面上我們已經知道了主演演算法是存在的。現在的問題是,它會有多複雜,我們實現它會有多難?如果這種演演算法在合理的時間內從合理數量的數據中學習,它能應用地多廣泛呢?

  【問】:你剛才提到,所有的科學家都是還原主義者。這是必然的嗎,比如說,你如果你不是一名科學家,你可以相信類似強湧現的東西嗎,你可以不可以說,「實際上你不能把人類的思想理解成單個的原子,然後重構…」

  【Pedro Domingos】:對,沒錯,我的意思是,事實上從某種意義上說,在人工智慧領域,我們不可能是還原主義者。我所說的還原主義者的意思是,我們可以把一個複雜的系統分解成更簡單的,更小的部分,它們之間相互作用,組成系統。所有的科學和工程都是這樣運作的。但非常重要的是,這並不排除突現性質的存在。因此,如果系統是非線性的,那麼系統可能不僅僅是其各部分的總和。而大腦是一個非線性系統。這就是我們達到人工智慧需要做的。你甚至可以說機器學習是有突現性質的科學。事實上,它在某些地方已經有的一個名字是「自組織系統」。事實上,讓人工智慧變得困難的因素,也就是我們還沒有解決它的原因,就是科學家和工程師將問題劃分成了更小的子問題,然後解決子問題,再將解決方案整合在一起。他們採取的是這種分而治之的策略。這在人工智慧中是不適用的,因為這些子系統是緊密結合在一起的。所以,這是一個更難的問題,並且有突現性質,但這並不意味著你不能把它劃分成這些更小的部分,這只是一個更困難的問題而已。

  【問】:我記得Marvin Minsky談到過,從某種程度上講我們被騙了,因為那些科學家用幾條有限的宇宙基本定律就解釋了大部分的物理原理。電力也是這樣樣。磁力也是一樣。這樣幾條簡單的法則就解釋了發生的每一件事。因此,人們希望智能也是這樣的。我們最終會放棄這個想法嗎?

  【Pedro Domingos】:是的,所以在人工智慧上有不同的觀點。我認為,一方面,有些人希望我們能發現一些人工智慧的規律,根據些法則可以解決一切問題。另一方面,像Marvin Minsky這樣的人認為,智能就是一個大規模的黑客攻擊。他甚至有一本書,每一頁都用了這樣的技巧,而且還有很多本類似的書。我認為,在人工智慧領域的大多數人都相信,它是介於兩者之間的。如果人工智慧只是一堆黑客工具,那麼我們永遠都不會成功。而且它也不可能只是一堆黑客工具,因為如果黑客攻擊的力量強大到可以創造出智慧,那麼我們就不能稱之為黑客。

  另一方面,我們也不能把它簡化成幾個定律,比如牛頓定律。所以,主演演算法的想法是,在某一天,我們會找到一個演演算法來實現智能,但是這個演演算法不會是一百行代碼。它也不會是數百萬行代碼。你知道,如果演演算法是成千上萬行的代碼,那就太好了。這仍然是一個更複雜的理論,比我們在物理學中所涉及到的要複雜得多,但它將比Marvin Minsky想象的要簡單得多。

 
格外小心

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
 樓主| 非常時期 發表於 2018-2-18 12:14 | 顯示全部樓層
 【問】:如果我們找到了主演演算法……這對人類有好處嗎?

  【Pedro Domingos】:我認為這取決於我們怎麼處理它。和所有的技術一樣,機器學習也給我們帶來了更多的力量。你可以把它想象成一種超級能量,對吧?電話讓我們實現了遠距離交談,飛機讓我們在天上飛,機器學習讓我們預測事物,並且讓技術自動適應我們的需要。如果我們用它來做好事,那麼這一切都是好的。如果我們用它做壞事,那結果就不好了,對吧?這項技術本身並沒有決定它將如何被使用,而我寫這本書的原因之一就是,我認為每個人都需要知道機器學習是什麼,以及它能做什麼,這樣他們就能知道如何使用它。否則機器學習只會給那些真正知道如何使用它的人提供更多的支配權。

  如果你回顧一下科技的歷史,隨著時間的推移,最終好的一面往往會戰勝不好的一面,這就是為什麼我們今天生活在一個比200年前或2,000年前更好的世界里。但我們必須先讓它發生,對吧?它不會像蘋果那樣直接從樹上掉下來。

  【問】:所以,在你看來,主演演算法本質上就是AGI的同義詞,因為它可以計算出任何東西,因此可以說它是一個通用的人工智慧。它會有意識嗎?

  【Pedro Domingos】:我不會說主演演算法是AGI的同義詞。我認為它是AGI的推動者。一旦我們有了一個主演演算法,我們仍然需要將它應用到視覺、語言、推理以及所有這些事情上。然後,我們才能實現AGI。所以,一種思考方式是,這是80/20法則。主演演算法是20%的工作,能讓你得到餘下80%的工作,但你仍然需要做剩下的工作,對吧?所以這也許是一種更好的思考方式。

  如何判斷一台機器是否有意識?

  

  【問】:好吧。所以,我要更直接地問這個問題。你認為意識是什麼?

  【Pedro Domingos】:這是個很好的問題。事實是,讓意識這個概念變得迷人而又難以理解的是,如果在某一天結束的時候,我清楚地知道某一件事,那就是我是有意識的,對吧?笛卡爾說,「我思故我在,」但也許他應該說「我是有意識的,所以我在。」物理定律甚至可能是錯的。但我現在確實是有意識的,這一點是毋庸置疑的。所以,每個人都了解自己的情況。與此同時,因為意識是一種主觀體驗,所以它不符合科學的方法。當涉及到意識時,什麼是「可複製的實驗」?這是一方面,另一方面是,意識是一種非常複雜的現象。所以,沒有人真正知道它是什麼,或者理解它,即使是在相當淺的層面上。現在,我們相信別人有意識的原因是——你相信我有意識,是因為你是一個人,我也是一個人,所以既然你有了意識,我可能也有意識。就是這樣的。基於目前這些信息,我現在也可以成為一個機器人,跟你交談,通過圖靈測試。而我完全不需要有意識。

  那麼,機器呢?我們如何判斷一台機器是否有意識?在過去的幾十年裡,這一直是許多哲學家所探尋的事情。我認為很重要的一點是,一旦電腦開始表現出有「意識」的行為,我們就會把它當成意識來對待,也就是說,我們會賦予它意識。事實上,我們已經做到了這一點,即使是使用非常簡單的聊天機器人和諸如此類的東西。所以,就日常生活而言,這並不會等太久。在某種程度上,這種情況會更快發生——人們認為電腦是有意識的,而不認為電腦是真正的智能。因為這就是我們所需要的,對吧?我們把這些人類的屬性投射到某種東西上,使它們的行為人性化,哪怕以最簡單的方式。

  而現在,如果你觀察電腦的硬體和那些電路……那裡真的有意識嗎?我不知道我們是否能回答這個問題。現在,我還沒有想到一個好方法。我認為,我們對意識的理解已經足夠了,因為我們對大腦的了解已經足夠充分了,我們有足夠的信心來判斷某事物是否有意識。在這一點上,我認為我們將把這些標準應用到這些機器上,這些機器,至少那些被設計為有意識的機器,將通過測試,所以,我們相信機器有意識。但是,你知道,我們永遠不能完全確定。

  【問】:那麼,你認為一般化的人工智慧需要意識嗎?

  【Pedro Domingos】:我認為有很多人工智慧和許多人工智慧應用程序不需要意識。舉個例子,如果我讓機器學習系統去解決癌症——這是我們想要做的事情之一——治癒癌症,機器學習是治療癌症的重要一環——但我不認為它需要意識。它需要進行大量的搜索,了解分子生物學,嘗試不同的藥物,也許是設計藥物等。所以,90%的人工智慧都不涉及意識。

  有些種類的人工智慧和人工智慧的一些應用需要意識,或者與它們類似的東西,比如室內機器人。我們想要一個能做飯、洗碗、鋪床的機器人。為了完成所有這些事情,機器人必須具備人類所有的能力,必須整合所有的感官、視覺、觸覺、觀察力、聽覺和其他東西,然後根據這些來做出決定。我認為這要麼是意識,要麼就是與意識難以區分的東西。

  【問】:你認為如果這種情況發生,會出現問題嗎?比方說你製造出機器人Rosie,你不知道它是真的有意識,還是只是表現得像有意識而已。你認為在那個時候,我們是否必須要問這樣一個問題:「我們奴役這些可能具有意識的機器,讓它們幫我們清理馬桶,這樣真的合適嗎?」

  【Pedro Domingos】:好吧,這取決於你認為什麼是奴役,對吧?所以,一種看待這個問題的方法,也是我看待這個問題的方法,那就是這些仍然只是機器,對吧?僅僅因為他們有意識,並不意味著他們有人權。人權是屬於人類的。我不認為有機器人權利這樣的東西。更深層的問題是,是什麼賦予了這些權利?有一種觀點認為,正是知曉痛苦的能力賦予了你權利,因此動物應該擁有權利。但是,如果從歷史的觀點來看,關於動物擁有權利的想法,即使是在50年前,也會顯得很荒謬。所以,按照同樣的標準,也許50年後,人們會想讓機器人擁有權利。事實上,有些人已經在談論這件事了。我認為這是一個非常奇怪的想法。通常人們會說,機器會是我們的朋友,還是我們的奴隸?我們是平等的嗎?他們會比我們低一等嗎?實際上,我認為整個問題的框架都是錯誤的。你知道,機器人既不與我們平等,也不是我們的奴隸。它們將是我們的延伸,對吧?

  機器人是技術,它們增強了我們的力量。我認為這並不是說機器會有意識,而是通過機器,我們將擁有更強大的意識。以同樣的方式,例如,網際網路已經給了我們一個比沒有網際網路的更強的意識。

  關於AI取代人類大量的工作崗位:有些工作肯定會消失,但新工作也會出現

  

  【問】:因此,機器人將我們引向一個每天都在新聞中出現的話題,那就是自動化和技術進步將會比創造新的就業機會更快地消除就業崗位,或者,它將會消除就業崗位,取而代之的是普通人難以勝任的工作崗位。關於這一點你怎麼看?你認為未來會怎樣?

  【Pedro Domingos】:我認為在這裡我們必須區分短期和長期,而我指的是未來十年左右的時間。在短期內,我認為一些工作將會消失,就像過去的工作已經消失於自動化一樣。現在的人工智慧就像吃了興奮劑一樣。所以我認為,短期內將會發生的事情與過去發生的事情並沒有太大的不同。有些工作會被自動化,所以有些工作會消失。但很多新工作也會出現。人們往往看到那些消失的工作,而沒有關注到新出現的工作。想那些應用開發者,今天有成千上萬的人靠開發應用謀生。而在十年前,這份工作根本不存在。五十年前,你甚至無法想象這樣的工作。兩百年前,有99%的美國人是農民,後來農業得到了自動化,如今,只有2%的美國人從事農業工作。這並不代表其他98%的人處於失業狀態。他們所做的工作都是人們以前無法想象的。我認為現在發生的一大部分事也是這樣。我們將看到全新的職業類別出現。我們還將看到,在更平凡的層面上,對大量現有工作的需求也會增加。例如,我認為卡車司機應該為他們的未來感到擔憂,因為自動駕駛汽車即將到來,所以這個行業可能走到終點。僅僅在美國就有數百萬卡車司機。這是最普遍的職業之一。但現在,他們會怎麼做呢?人們會說,「你不能把卡車司機變成程序員。」但你不需要把他們變成程序員。想想自動駕駛汽車普及後會發生什麼,因為卡車是自動駕駛的,貨物的成本會更低。商品的價格會降低,人們的口袋裡會有更多的錢,他們會把錢花在其他東西上。比如說,人們會買更大、更好的房子。因此,對建築工人的需求將會增加,其中一些卡車司機將成為建築工人,等等。

  你知道,說了這麼多,我認為在短期內最重要的事情會發生在工作崗位上,無論是那些會消失的,還是會出現的,大多數的工作都會被人工智慧改變。我的工作方式將會改變,因為有些部分會自動完成,但現在我可以做的事情能夠比沒有自動化時做得更好,或者做得更多。所以,每個人都需要思考的問題是,我的工作中哪些部分是可以自動化的?實際上,保護你的工作不被自動化的最好方法就是你自己把它自動化……然後思考你能用這些機器學習工具做什麼。

  擁有自動化技術就像擁有一匹馬。你不會試圖跑得過馬,但你會騎馬。我們必須利用自動化,從而以比現在更好的方式來完成我們的工作。

  【問】:所以,聽起來你並不對未來的就業前景感到悲觀對嗎?

  【Pedro Domingos】:我很樂觀,但我也很擔心。這其實是一個很好的組合。我認為,如果我們悲觀,我們就什麼都不會做。再一次,如果你回顧一下科技的歷史,在最後都是樂觀主義者讓世界變得更美好,而不是悲觀主義者。但與此同時,盲目的樂觀是非常危險的,對吧?我們需要不斷地留意所有可能出錯的事情,並確保它們不會出錯。所以我認為樂觀和憂慮的結合是正確的。

  今天奇點的概念偏離了,我們正處在S曲線的中間

  【問】:有些人說,我們會找到一種方法,在精神上和人工智慧結合起來。這是一個合理的問題嗎?你怎麼看?

  【Pedro Domingos】:我想這就是將要發生的事情。事實上,它已經在發生了。我們將一步一步地與我們的機器融合在一起。你知道,就像電腦是一台比電視更接近我們的機器。智能手機比台式機更接近我們,而筆記本電腦則介於兩者之間。我們已經開始看到像谷歌眼鏡和增強現實這樣的東西,從本質上說,電腦是在擴展我們的感官,通過擴展我們的一部分來做事情。埃隆·馬斯克的公司將在神經元和計算機之間建立一個介面,但事實上,這在研究實驗室里已經存在了。我有同事也在研究這個問題。它們被稱為大腦-計算機界面。所以要一步一步來,對吧?思考這個問題的方法是,我們是半機器人,對嗎?人類實際上是半機械生物。從出生的第一天開始,我們就與我們的技術相結合。如果我們不能做一些像點火和投擲長矛這樣的事情,我們的生理機能也會有所不同。所以這是一個持續不斷的過程。技術是我們的一部分,它在未來的佔比也會越來越多。還有網際網路這樣的東西,我們正在把自己連接到一個範圍更大的地方。人類本身就是一種新興的現象,擁有網際網路和計算機可以讓這種現象上升一個層次。我在想,這是怎麼發生的,什麼時候可以加入競爭,但事情確實是這樣發展的。

  
格外小心
回復 支持 反對

使用道具 舉報

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
 樓主| 非常時期 發表於 2018-2-18 12:20 | 顯示全部樓層
  【問】:所以,你剛才提到了奇點。你相信這是人們普遍認為的事情嗎?在不久的將來,我們將會有這樣的觀點嗎,我們看不到任何東西,因為我們沒有任何參照物?

  【Pedro Domingos】:我不相信奇點會在這些條件下發生。因此,這種呈指數增長的進步不可能一直持續下去,因為這在物理上是不可能的,對吧?沒有指數可以永遠持續下去。它總有一天會變平。所有的指數都是所謂的「S曲線」。它們的運行速度越來越快,這是以前所有技術浪潮的樣子,但後來它們的速度減慢了,到最後會趨於平穩。並且,在某一時刻,事情會變得完全無法理解…我也不相信,因為總會有我們能夠理解的部分,而且任何智力都有極限——不管是人類還是非人類。

  從這個角度來看,奇點已經發生了。一百年前,最先進的技術可能是汽車,對吧?而我完全可以理解汽車是如何工作的。今天我們已經有了科學技術,比如我們今天擁有的計算機系統。沒有人能理解整個體系。不同的人理解不同的部分,特別是機器學習,機器學習演演算法最值得注意的一點是他們可以很好地完成複雜的事情,而我們不知道他們具體是怎麼做的。然而,我們對此感到滿意,因為我們並不需要關心它是如何完成的,我們只關心醫療診斷是否正確,或者病人的癌症是否被治癒,或者汽車是否正確駕駛。所以我認為奇點的概念有點偏離了。

  話雖如此,但我們正處在這條S曲線的中間。我們看到了非常迅速的進展,到這一進程結束的時候,它將會產生非常、非常不同的變化趨勢。

  【問】:怎麼會這樣呢?

  【Pedro Domingos】:所有這些我們一直在談論的事情。我們周圍會有智能機器。不僅是人形機器,還包括移動設備中的智能,對吧?就像今天你可以用電來做任何你想做的事一樣,只要插上插座,你就能接入智能。實際上,領先的科技公司已經在努力實現這一目標。因此,將會有更強大的智能來做所有的事情。每個人都有一個家用機器人,就像他們有一輛車一樣。我們將擁有網際網路所能帶來的整個過程,而且網際網路上的智能是可以實現的。如果你願意的話,會有像這樣更大的新生事物,那不只是個人或社會。但同樣,我們很難想象會發生什麼,但這確實是會發生的。

  【問】:你知道的,每當人工智慧掌握了一款遊戲,它總會成為新聞。首先是象棋,然後就有了Jeropardy,然後又有了AlphaGo,最近又會涉及到撲克。我認為遊戲是一個很自然的地方,因為我想這是一個有限的空間,有非常嚴格的規則,然後有很多訓練數據來教它如何在其中發揮作用。機器學習不適合用來解決這些問題嗎?我的意思是,從哲學的角度來說,不管你的演演算法有多好,你有多少數據,或者電腦有多快,這都不是解決這個問題的方法。

  【Pedro Domingos】:當然,有些問題比其他的要困難得多,正如你所說的,遊戲更容易,因為它們涉及的範圍非常有限。這就是為什麼我們能在遊戲上做得很好。實際上,在今天,對機器學習和人工智慧的總結是,它們對那些定義良好且有約束範圍的任務很有幫助。

  人們更擅長的是那些需要了解世界的知識的事情,他們需要常識,他們需要整合很多不同的信息。然而我們還沒到那一步。我們沒有能夠做到這一點的學習演演算法,所以我們今天擁有的學習演演算法對某些事情當然是有好處的,但不是其他的。但是,如果我們有主演演算法,那麼我們就能做所有這些事情,我們正在朝著它們取得進展。所以,讓我們拭目以待吧。

  圖靈測試是個壞主意,它混淆了智能與人類的關係

  

  【問】:每當我看到聊天機器人或試圖通過圖靈測試的東西時,我總是會輸入相同的第一個問題,那就是「太陽和硬幣哪個更大?」還沒有哪個機器能正確地回答這個問題。

  【Pedro Domingos】:嗯,沒錯。因為他們沒有常識。電腦在某些方面能做的事情是令人驚奇的,而它們做不到的事情也同樣讓人驚訝。就像這些簡單的常識邏輯一樣。在某種程度上,我們從人工智慧中學到的一個重要教訓是,把醫生或律師的工作自動化其實很容易。對人工智慧來說,很難做的是三歲的孩子能做的那些事情,對吧?如果我們有一個機器人寶寶,能做一歲大的孩子能做的事,並以同樣的方式學習,我們就算解決了人工智慧這一問題。讓機器人做這些我們認為理所當然的事情要困難地多,比如撿起一個物體,或者在不絆倒的情況下四處走動。我們認為這是理所當然的,因為我們花了五億年的進化時間來發展這些功能。它非常複雜,但對我們來說,它低於意識水平。對我們來說,我們意識到的事情是,我們必須上大學,但我們不是很擅長這些;我們是最近才學會了做這些事情。而這些事情電腦可以做得更好。

  所以,在人工智慧的某些方面,困難的事情是容易的,容易的事情又是很難的。

  【問】:如果有什麼東西最終通過了圖靈測試,這是否意味著什麼?如果是這樣,你認為什麼時候會發生?它什麼時候會說,「太陽顯然比硬幣大。」

  【Pedro Domingos】:好吧,恕我直言,艾倫圖靈是一位偉大的天才,也是一位人工智慧的先驅。在人工智慧領域,包括我在內的大多數人都認為,圖靈測試實際上是個壞主意。圖靈測試是個壞主意的原因是它混淆了智能和人類的關係。如果你仔細想想,你可以通過欺騙一個人來證明你是一個人,從而證明你是智能的,這種想法是很奇怪的。這就好比說除非一架飛機能騙過鳥兒,讓鳥兒認為它是一隻鳥,否則就不能說飛機會飛。這沒有任何意義。所以,真正的智慧可以有多種形式,但不一定是人類的形式。所以在某些方面,我們不需要通過圖靈測試來實現人工智慧。在其他方面,圖靈測試其實很容易通過,在某些標準下,已經有人通過了圖靈測試,但沒有人會稱之為智能。與某人交談五分鐘,讓他們誤以為你是一個人,其實並不那麼難,因為人類非常擅長將人性投射到任何能表現人類的東西上。事實上,即使是在60年代,也有一種叫ELIZA的東西,它的做法基本上就是在你說的內容中挑出關鍵詞,然後把這些回復給你。如果你和ELIZA聊五分鐘,你會認為這是一個人。

  【問】:儘管ELIZA的發明者Weizenbaum的觀察發現,即使人們知道ELIZA只是一個項目,他們仍然對它產生了情感依戀,這就是他發現的令人不安的東西。

  【Pedro Domingos】:正是如此,人類有一種不可思議的能力,將事物視為人類對待,因為這是我們唯一的參照點,對吧?整個想法通過類比推理,如果有一樣東西的行為有一點像人類——因為宇宙中沒有其他東西可以與之相比——我們就會開始把它當作一個人來對待,並把更多的人類特質投入其中。順便說一下,這也是一旦公司開始製造機器人之後會發生的……這已經在聊天機器人身上發生了,比如Siri和Cortana,等等,它將會在家用機器人身上發生,並且程度可能更高。將會有一場讓機器人變得越來越像人類的競賽,因為如果你對我的產品形成一種情感依戀,那這就是我想要的,對吧?我就會以更高的價格賣出更多產品,等等。所以,我們將會看到像人類一樣的機器人和人工智慧——不管這是好事還是壞事,都是另一回事。

  創造力是什麼,人工智慧有創造力嗎

  【問】:你認為創造力是什麼,從定義上來說,AGI不會是創造性的,對吧?它可以寫一首詩,或者…

  【Pedro Domingos】:是的,所以,從定義上說,AGI是有創造力的。有一件事你經常聽到,但不幸的是,它是錯誤的,「我們可以把這些瑣碎的日常工作自動化,但是創造力是人類的東西,永遠不會被自動化。」這是一種表面上看似合理的概念,但事實上,已經有一些例子與這些觀點相悖,比如可以作曲的電腦。David Cope是美國加州大學聖克魯茲分校的教授。他編寫了一個電腦程序,可以根據你選擇的作曲家的風格創作音樂。他做了一個測試:他演奏了三首曲子,一個是真正的莫扎特的曲子,一個是由人類作曲家模仿莫扎特彈奏的曲子,另一個是由電腦生成的,他在我參加的一個會議上做了這個實驗,他讓人們投票選出哪個是真正的莫扎特,而真正的莫扎特贏了,但第二名實際上是電腦。因此,電腦能比專業的、受過高等教育的人類作曲家更能模仿出莫扎特的作品。電腦製作的很多畫作也非常漂亮和引人注目。如今的計算機還可以編寫新聞故事。有一家叫做Narrative Fiction的公司,能夠專門為你寫新聞故事,福布斯和財富雜誌之類的公司——我忘記了是哪一個——真的發表過一些他們寫的東西。所以這雖然看起來有些遙遠,但我們會實現的。此外,在其他領域還有一些案例,比如國際象棋和AlphaGo就是著名的例子。當加里·卡斯帕羅夫和李世石被電腦打敗時,他們都表示說:「哇,電腦太有創意了。電腦想出了我從未想到過的這些招數,這些招數一開始看起來很傻,但結果非常不錯。」計算機已經在數學、定理和證明等方面做了很多事情——如果人類做到這些事情,就會被認為是極富創造性的。所以,自動化的創造力其實並沒有那麼難。

  【問】:有趣的是,當卡斯帕羅夫第一次說這看起來很有創意時,他的意思是,IBM作弊了,人們對它進行了干預。而IBM並沒有這樣做。但是,這恰恰證明了……

  【Pedro Domingos】:實際上有兩個階段,對吧?他說,起初,他很懷疑,因為,人類怎麼可能不這樣做呢?但後來,在比賽結束后,他輸了,等等,如果你還記得深藍的走法,它的走法是近乎瘋狂的,因為,當然了,你知道,無論如何,五步之後…而卡斯帕羅夫說,「我能感覺到一種新的智力對我的影響。」這對我們的人工智慧流派來說非常有趣,因為我們它的原理是什麼,對嗎?也就是搜索演演算法和一大堆我們非常了解的技術。有趣的是,從外表看,這似乎是一種新的智慧,也許的確如此。

  在這場比賽中發生了另一件非常有趣的事情——卡斯帕羅夫是一個總是通過恐嚇對手時他們屈服的人。對手們只是害怕他,然後就被打敗了。但深藍不能被他嚇倒,因為它是一台機器,對吧?因此,卡斯帕羅夫自己,在他的一生中,第一次突然變得不安全了。在他輸掉那場比賽后,在接下來的比賽中,他犯了一些他永遠都不會犯的錯誤,因為他突然之間變得沒有安全感了。

  【問】:是他的預感在起作用,不是嗎?我們談論過幾次突現性質。蓋亞假說認為,我們這個星球上的所有生命都有突現性質——某種我們無法感知的智能,而我們的細胞能夠感知到我們。你對此有什麼想法嗎?你有沒有想過,網際網路最終會成為一種新興的意識嗎?

 
格外小心
回復 支持 反對

使用道具 舉報

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
 樓主| 非常時期 發表於 2018-2-18 12:20 | 顯示全部樓層
 【Pedro Domingos】:我不相信蓋亞假說,因為地球本身沒有足夠的自我調節能力來實現生物的自我平衡。事實上,有時候你得到消極的反饋是因為事情真的已經非常糟糕了。因此,大多數科學家不相信今天地球上的蓋亞假說。現在,我認為——還有很多人認為是這樣的——也許蓋亞假說在未來會是真的,因為隨著網際網路的發展,感測器遍布全球各地,很多行動都是基於這些感測器進行的,它們保護著我們,以及地球上其他種類的生命。我認為,如果我們快進一百年,地球很有可能會實現蓋亞,但它將是一個技術層面的而不是生物層面的蓋亞。事實上,我不認為科技和生物之間存在對立。我認為科技將會是通過其他方式對生物學的延伸,對吧?它是由我們製造出來的一種生物。我是說,因為我們是生物,所以在這個意義上,我們製造的東西也是生物。所以如果你這麼看,可能發生的事情是,從一開始,地球就在向蓋亞進化,我們只是還沒有到達那裡。但技術是實現這一目標的重要一步。

  對OpenAI項目的看法:好事情,但成功的幾率有多大不好說

  【問】:你對OpenAI計劃有什麼看法?

  【Pedro Domingos】:我認為……OpenAI計劃,它的目標是為公共利益做人工智慧。因為,你知道,像埃隆·馬斯克和Sam Altman這樣的人擔心,因為人工智慧研究的最大數量是在公司內部進行的,比如谷歌、Facebook、微軟和亞馬遜等等,所以最終成果將歸他們所有。人工智慧是非常強大的,所以如果人工智慧只是由這些公司擁有,那就太危險了。因此,他們的目標是進行一個開放的人工智慧研究項目,它的名字也由此而來,它的成果對每個人都是開放的。我認為這是一個很好的事項。所以我非常同意這樣做。我認為在公司里進行大量人工智慧研究並沒有什麼錯。但我認為在公共領域也有人工智慧研究是很重要的。而大學里正在做這些事情,而像OpenAI這樣的東西是另一個例子,像艾倫人工智慧研究所也是以這種方式為大眾做人工智慧的另一個例子。

  所以,我認為這是一個很好的事情。他們要做的是什麼,它們成功的幾率有多大,以及他們的人工智慧將如何與其他實驗室生產的人工智慧的相比較——無論是來自行業還是學術界——這都還有待觀察。但我很想知道他們從中得到了什麼。

  【問】:一些人存在一種擔心,他們把AI比作核武器,「我們不知道如何建造AI,但我們了解了99%的內容,並且我們將與地球上的每一個人分享這些,」所以你會希望最後讓它成為AGI的那1%表現不會那麼糟嗎?

  【Pedro Domingos】:是的,我理解這個類比,但你必須記住,人工智慧和核武器是完全不同的,有這麼幾個原因。一是核武器本質上是破壞性的東西,對吧?是的,你可以把它們變成核能,但它們是用來炸掉其他東西的。人工智慧是我們用來做各種事情的工具,比如診斷疾病,在網頁上放置廣告,以及從大到小的事情。但是,製造核彈的知識,其實並沒有那麼難。幸運的是,很難獲得的是製造核彈的濃縮鈾或鈈。這實際上是阻止任何恐怖組織製造炸彈的原因。這並不是缺乏知識,而是缺乏材料。現在,在人工智慧領域,這是非常不同的,你只需要計算能力,你就可以接入雲端,獲得計算能力。更重要的是,人工智慧只是演演算法——它已經能夠使用了。很多人都可以用它來做自己想做的事情。在某種程度上,安全在於讓每個人都擁有人工智慧,這樣它就不會掌握在少數人的手中。如果只有一個人或一家公司能夠使用主演演算法,那麼他們將會非常強大。如果每個人都能使用主演演算法,那麼就會有競爭,會有協作,會有一個完整的生態系統發生,這樣我們就會更安全。正如我們現在所處的經濟狀況一樣。但話雖如此,我們仍需要像AI警察這樣的東西。所以,威廉 吉布森在《神經漫遊者》中有一個叫做圖靈警察的東西,對吧?圖靈警察是人工智慧,他們的工作是監督人工智慧,確保他們不會變壞,或者當他們變壞時,會被攔下來。同樣的道理,這和已經發生的事情沒有什麼不同。我們有高速公路,銀行劫匪可以用高速公路逃跑,但沒有理由取消高速公路,不過警察當然也需要有汽車來抓強盜,所以我認為這和人工智慧有相似之處。

  【問】:當我和人工智慧領域的人士聊天時,總是會提到科幻小說家。他們總是提到他們,他們總是有自己最愛的情節和諸如此類的東西。是否有任何書籍、電影、電視節目等等,你看到其中的情節之後會說:「是的,這可能會發生,我已經預見到了。」

  【Pedro Domingos】:不幸的是,在電影和電視節目中,很多關於人工智慧和機器人的描述都不太現實,因為電腦和機器人其實只是偽裝的人類。這就是你製作有趣故事的方法,就是讓機器人像人類一樣行動。他們有邪惡的計劃來接管這個世界,或者,有人愛上了他們,諸如此類的事情。這就是你拍一部有意思的電影的方式。

  但是,正如我們所談論的,真實的人工智慧和這完全不同。因此,很多涉及到人工智慧的電影中所描述的情節,比如《終結者》,這些情節都不會真的發生。但有一種觀點認為,科幻小說是自我實現預言的一大來源,對吧?人們閱讀到這些東西,然後努力讓它們發生。所以,誰知道會發生什麼呢。

  話雖如此,但我認為,有一部關於人工智慧的電影,其中的情節有可能會真的發生,而且非常有趣。就是電影《她》。《她》講的是一個虛擬助理,她與人類非常像,而這部電影如果放在十年前,那將是非常奇怪的。如今,我們已經有了Siri、Cortana和谷歌這樣的東西,當然,這仍然與她相去甚遠。但我認為我們將會越來越接近這一目標。

  【問】:最後一個問題:你最近在做什麼,你打算再寫一本書嗎?是什麼事情讓你那麼忙呢?

  【Pedro Domingos】:首先,我認為我們已經非常接近於統一這五種主演演算法了,而且我還在繼續努力中。這就是我在過去十年裡一直在做的事情。我想我們快要實現了。我想,一旦我們找到了這一主演演算法,下一件事就是,就像我們一直在說的那樣,這是不夠的。所以我們需要別的東西。我認為,我們需要超越現有的五種範式,而我正在研究一種新型的學習方式,我希望它能讓我們超越這五種模式。有人開玩笑稱它為「第六範式」,或許我的下一本書將會取名為「第六範式」。這聽起來像是丹 布朗的小說,但這絕對是我正在研究的東西。

  【問】:當你說你認為主演演算法幾乎已經準備好了……會有一個突飛猛進的時刻是嗎?還是一種漸進主義?

  【Pedro Domingos】:這是一個循序漸進的過程,對吧?再次看看物理學,他們已經統一了三種力,電磁力和強、弱力。他們仍然沒有統一重力。所以有一些像弦理論這樣的提議。這些時刻往往只在回首往事時才會發生。人們提出一個理論,然後測試它,然後修改它,最後當所有的部分都到位時,人們會說,「哇哦。」我想這也會是主演演算法的情況。我們有候選演演算法,我們有辦法把這些東西拼湊在一起,我們還需要看它們是否能做我們想做的所有事情以及它們是否可以擴展,對吧?擴展非常重要,因為如果它無法擴展,那麼它就無法真正解決問題。所以,讓我們拭目以待吧。(完)

格外小心
回復 支持 反對

使用道具 舉報

您需要登錄后才可以回帖 登錄 | 註冊

本版積分規則

關於本站 | 隱私權政策 | 免責條款 | 版權聲明 | 聯絡我們

Copyright © 2001-2013 海外華人中文門戶:倍可親 (http://big5.backchina.com) All Rights Reserved.

程序系統基於 Discuz! X3.1 商業版 優化 Discuz! © 2001-2013 Comsenz Inc.

本站時間採用京港台時間 GMT+8, 2024-3-19 14:00

快速回復 返回頂部 返回列表