倍可親

回復: 1

對話投資大咖Dyson:AI無處不在卻又相當脆弱

[複製鏈接]

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
非常時期 發表於 2018-2-18 12:05 | 顯示全部樓層 |閱讀模式
  2017-11-16 10:21:43 來源: 網易智能

  本期對話嘉賓為域名女主人埃絲特·戴森埃戴產業控股公司董事長埃絲特·戴森(Esther Dyson),他如何看待超級智能和人工智慧的目的性?又為何要登陸火星?

  

  本文系網易智能工作室(公眾號smartman163)出品,此篇為AI英雄人物第45期。

  選自|Gigaom

  翻譯|網易見外翻譯機器人

  審校|小ka

  人物觀點:

  對我來說,目前人工智慧的定義有點類似於魔法,但是當你真正了解它是如何工作的時候,它看起來就不再那麼智能了。它就像是一個你自己設計的工具,而且它會做事情。

  人工智慧無處不在,卻又很可悲,因為它依然相當脆弱。

  在某種程度上,如果存在超級智能,那麼我認為它不再屬於人為的範疇。如果它真的很智能,那就不再是人造的了,也不是人構想出來的。

  我們總是用一些含蓄的目的來建造機器,這就像是機器的多巴胺。事實上它們的成長是由編程決定的,但那並不是它們自己的目標。

  本期對話嘉賓為埃絲特·戴森(Esther Dyson),她是埃絲特·戴森埃戴產業控股公司董事長,個人凈資產500億美元(1999年),被稱為域名女主人。2002年Upside商業周刊認為Esther Dyson她是全球「數字化精英100人」中名列第12位。Esther Dyson是一個傳奇人物,她一直從事天使投資,並在多家公司的董事會任職。同時她也是暢銷書作家,還是俄羅斯太空計劃的後備宇航員。而現在,她是非盈利組織Way to Wellville的創始人。

  一、關於人工智慧的定義:存在超級智能么?

  【問】我們就從這個組織(Way to Wellville)聊起吧,它聽起來像是個有趣的非盈利組織。你可以談談它的使命是什麼,以及你在其中扮演一個怎樣的角色?

  【埃絲特·戴森】可以。我的角色是創始人。我創立它的原因是我不得不思考一個基本的問題:「為什麼我們要花這麼多錢,在別人出現困難的時候伸出援手,而不是平時幫助他們維持健康狀態呢,這樣就不會輕易出問題。」

  Way to Wellville的目的是讓你知道幫助別人維持健康狀態會怎麼樣。這個範圍可能很大,但是你可以用很簡單的方式來獲得足夠的樣本,其中的基本理念就是,我們可以在社區中做出改變。你不需要對居民逐個地進行試驗和檢查,而只需要改變他們的居住環境,你就可以看到整體的影響了。

  人工智慧的一大重要性在於,為了顯示你已經受到的影響,你需要準確預測出相反的情況。所以,從某種意義上說,這是五個社區,而美國是它們的對照組。但與此同時,你可以將一群三年級的小學生作為研究對象,套用公式來計算,結果出現其中三分之一的學生會在他們16歲時發胖,30%未來會輟學,10%的會走上違法犯罪的道路,可見,這是不可理喻的。我們需要解決這個問題,這就是我們正在做的事情。

  【問】你目前為止所有的背景都和是科技相關。那麼你對人工智慧有何看法?你覺得我們發展到哪種程度了?你認為我們將要如何發展?這一切都是為了什麼?

  【埃絲特·戴森】是啊。我在人工智慧創新人物Marvin Minsky以及專家系統盛行的時候,第一次寫了關於人工智慧的文章。專家系統基本上是有邏輯的。它遵循計算機的「if then」演演算法結構。比如說,如果一個人出現,那麼他的血壓高於數值X,以此類推。他們的銷售額不太令人滿意。

  然後它們開始被稱為助手,而非專家。換句話說,系統不會以專家的身份來取代你,只是協助你的工作而已。很快,他們就不再是人工智慧了,因為他們的確不是,而僅僅是一種邏輯。

  

  對我來說,人工智慧的定義有點類似於魔法。當你真正了解它是如何工作的時候,它看起來就不再那麼智能了。它就像是一個你自己設計的工具,而且它會做事情。當然現在我們的研究正轉向神經網路,也就是所謂的黑匣子之類的東西。理論上,它們可以解釋清楚自己的工作原理,但現在,它們卻開始根據大型資料庫展開自我編程。

  它們所做的事情超出了很多人的理解範疇,同時還包括一些有關社會話題和倫理的討論。如果你命令機器人模仿人類,你會從它們身上發現人類的很多缺點,例如人類在很多時候會做出非常錯誤的決定,也會反映出自己的文化偏見。

  曾經人工智慧是很難大規模去發展的,正如那時候的計算機比現在低級許多。而現在,人工智慧無處不在,卻又很可悲,因為它依然相當脆弱。甚至人們都沒有對智能的定義達成統一意見,更別提人工智慧了。但不管它的定義是什麼,至少我們在某種程度上擁有人工智慧,對嗎?

  【問】沒錯,今天的人工智慧比20年前的人工智慧在門檻上有所提升。你認為它會發展到什麼地步?你認為我們正在努力創造的東西,會在逐步改善的過程中最終成為一種通用智能嗎?你認為我們需要一些不同的技術,來創造出類似人類的智慧嗎?

  【埃絲特·戴森】嗯,這些涉及到不同的問題。首先, 如果某樣東西不是通用的,那麼可以說它是智能嗎?還是只是某個任務做得好而已?比如說,我可以把機器翻譯做得很好,有足夠大的語料庫。但其實它只是一種模式化識別而已,從一種語言翻譯成另一種語言,卻並不具備理解力。

  在某種程度上,如果存在超級智能,那麼我認為它不再屬於人為的範疇。它可能不是半成熟的,而是完全電子化的。如果它真的很智能,那就不再是人造的了,而是真正的智能。它可能不是人類,也不是構想出來的。但這只是我的想法,其他人可能會對它有不同的定義。

  【問】你的想法很合理。在「人工智慧」這個短語裡面,「人工」兩個字的定義目前還不明確。一種觀點認為,這裡的「人工」和「人工草皮」的「人工」是同一個概念。它可能看起來像草皮,但不是真正的草皮。這聽起來有點像你對它的看法。

  【埃絲特·戴森】在未來很長一段時間裡,它都會看起來很像智能,但實際上並不是。只有當它具備理解力的時候才是真正的智能。如果是這樣的話,我們就不知道如何造出一台擁有理解力的機器了。有個笑話說,當它變成真正的智能時,就會找人類要薪水了。但是你說,直到它「擁有自己的思維」,那麼什麼是智能呢?是因為有靈魂嗎?還是有目標?如果沒有目標,還會實現真正的智能嗎?因為,如果你真的很智能,但是卻沒有目標,那麼你什麼也做不了,因為你需要一些動力來做事情。

  【問】在過去,我們總是用一些含蓄的目的來建造機器,但它們從來沒有自己的目標。

  【埃絲特·戴森】非常對。這就像是機器的多巴胺。是什麼促使機器做事情?然後就出現了失控的機器,它們需要更多的電力來成長,但事實上它們的成長是由編程決定的,但那並不是它們自己的目標。

  【問】是的,你聽說過希爾勒的中文房間類比(Chinese Room Analogy)嗎?

  【埃絲特·戴森】你的意思是有人在後台操控一切。

  【問】在中文房間實驗中,這個人基本上就是在書上查資料。他不會說中文,但他很會回答中文問題,因為他可以在這些特別的書里找到答案。

  【埃絲特·戴森】但他不知道自己在做什麼。

  【問】沒錯。他不知道他回答的問題是關於霍亂、咖啡豆還是止咳藥,或者其他什麼東西。笑點是,這個男人懂中文嗎?有趣的是,在和我談論過這個話題的人中,你是為數不多的那些認為「如果後台沒人操控,就不能把它算作智能」的。因為很明顯,如果圖靈在的話他會說:「那東西在思考,它有理解力。」

  【埃絲特·戴森】不,我不認為圖靈會這麼說。圖靈測試是一個非常好的測試,但是,我的意思是George (未來學家和科學歷史學家George Dyson,是Esther Dyson的兄弟)會了解得更清楚。但是在通過測試的能力方面,當年的人工智慧與現在的非常不一樣。

  二、機器能思考么?人工智慧會有自己的目標么

  【問】圖靈問了一個問題,機器能思考嗎?用他自己的話來說,他真正想問的是:機器是否能做一些與人類行為截然不同的事情,看起來不像是在思考,但我們又好像不得不承認它在思考?他當時就是這麼說的。也就是說,你可以和某個東西對話,做法又完全不同。這有點像作弊。當然,這很明顯不是真的,只是一種了解中文的捷徑,但卻並不能讓你真正學會中文。通過這種類比和邏輯,你可能會認為我們不太可能開發出有意識的機器。是這樣嗎?

  【埃絲特·戴森】哦,不。我想我們可能會做到,但那將會是一個非常有意思的問題。最後我要說的是,人類從碳物質進化而來,或許還有另一種形式的智能可以從電子產品中進化出來。是的,我是說,人類是一個奇迹,也許還會發生另一種奇迹。但我們此刻對於機器的研究卻絕對沒有達到這個階段。

  【問】這很有趣。理性的樂觀主義者Matt Ridley在他的書中說,對生活來說最重要的事情是,所有的生命都是同一種,它產生於這個星球,並存活下來。每個生命都有大量相同的DNA。

  【埃絲特·戴森】是啊。我認為生命可能已經進化了很多次,或者是某些部分經歷了相同的過程,但我不認為我們都來自同一個細胞。我認為更有可能的是很多隨機的東西結合在一起。可能會有一部分是分開的,但又很相似。

  【問】我明白了。也就是說它們合併在一起后成為了人類的某種共通點?

  【埃絲特·戴森】是啊。都基於碳物質。在海洋深處有一些非常有趣又特別的東西。

  

  【問】當你和那些相信通用人工智慧存在的人交談時,你會問他們什麼時候能開發出來?他們的答案可能會既可能是五年也可能是五百年,就看你問誰了。這些人都對這些問題有一定的培訓和了解。這些人的回答差別如此之大,你怎麼看?你從中得到什麼啟示?

  【埃絲特·戴森】我們真的不知道。

  【問】但所有人都非常自信,特別自信。你知道,「到2050年我們就會有成果了。」我認為,很多問題都可以歸結為,你是否認為我們可以有飛躍性的突破,或者說,這將是一段非常漫長的過程。

  【埃絲特·戴森】是啊。這也與你如何定義它有關。對我來說,在某種意義上,我一直在思考這個問題,也一直在閱讀Yuval Noah Harari的《未來簡史》和其他人的書。但對我來說,它最終是一個關於目標的問題,也是一個事關反熵的問題。

  是什麼讓人類成長和繁衍?我們知道這些過程的運作方式,但當你談論靈魂或意識時,就會談到一些較為有生氣的東西,而這就是生活的目標。繁衍是為了創造更多生命,有時是意外,有時是特意為之,而有時卻沒有目的。

  再說一遍,關於這一點有更多的生物學方面的描述。我們還沒找到它的實現方式和目的。這就像是,我們發現了一些與目的相關的物質,但也有一些反熵推動著我們。沒有它,我們什麼也不會做。

  三、人工智慧會奪走人們的工作么?

  【問】如果你說的是對的,也就是說在沒有目標、沒有理解能力的情況下,就像是我們現在所掌握的那種人工智慧一樣,我想你可能不像其他人那麼擔心人工智慧會奪走人類工作。你對此有何看法?

  【埃絲特·戴森】就人工智慧而言,這是我們可以控制的,雖然不那麼容易做到。這就好比說我們可以控制政府,或者我們可以控制健康。我也相信人類可以做到,我們應該開始就我們如何對待人和工作,做一些決定。

  我不認為我們對於普遍基本收入的渴望,和對基本福利券的需求相等。再強調一下,我認為人們的生活需要有目標。他們需要感到自己是有用的。有些人可以創造藝術,感覺自己很有用,然後把作品賣掉,或者只是在別人欣賞自己作品時感覺良好。但我認為一個更簡單、更實際的方法是,我們需要提高兒童護理服務和教職人員的工資。

  我們需要給人們提供有價值的工作,而這些工作正是他們所需要的。我認為人們可以做這樣一些有用的事情,有些人可以成為編程人員,設計東西,編寫人工智慧工具,然後再創造出點什麼。但我認為,很多人可以非常有效地就業。這可以追溯到Way to Wellville在兒童護理、指導孕婦、接管高中棒球隊的工作過程。

  我們可以坐在這裡談論人工智慧,但是卻不敢讓孩子們出去玩,因為無論你走到哪裡,都有橋樑可能會倒塌。我住在紐約市,卻將不得不關閉一些地鐵隧道,因為沒有做好足夠的維修工作,實際上,那裡有大量的工作要做。

  我們需要更理性地設計我們的城市。不是通過給每個人基本的收入,而是要搞清楚如何構建這樣一個社會:每個人都能做自己覺得有用的工作。這並不是什麼救濟法案能解決的。

  這是一個有很多盈餘的社會。我們可以通過某種方式構建它,這樣人們就能獲得足夠的報酬,過上舒適的生活。不是簡單的生活,而是舒適的生活,你做了些有意義的工作,並且得到了報酬。

 
格外小心

4364

主題

9732

帖子

1萬

積分

七級貝殼核心

Rank: 5Rank: 5

積分
17462
 樓主| 非常時期 發表於 2018-2-18 12:05 | 顯示全部樓層
 還有一些邊緣性的工作,比如護理。但是,希望我們能在養育兒童方面做得更好些吧。事實上,很多人的童年並沒有摧毀他們的價值和尊嚴,他們想要做一些有用的事情。這些事情讓他們感覺自己很重要,他們也會在這些工作中獲得報酬。

  然後,我們可以利用所有的人工智慧技術,讓整個社會變得非常富有。消費並沒有給人們帶來目標,無論是生產服務還是生產商品,都是如此。

  

  【問】我認為你說的非常對。你可以在信封背面寫:「沒錯,我們可以再雇傭50萬名幼兒園老師和25萬名教師。」你可以從社會的角度提出很多建議,這是好事情,也許市場還沒有發現這些。這不僅僅是簡單的創造崗位,而是非常重要的事業。你對它的實際操作有什麼想法嗎?

  【問】:我聽說,賺十億美元從來都不是件容易的事。谷歌和Facebook各自創造了大約6位億萬富翁。億萬富翁的數量在持續增長。與繼承祖輩財富相反,白手起家的那部分人的比例在持續增長。所以,所有這些錢都是由頂層人創造的嗎?

  【埃絲特·戴森】這個問題沒有答案,視情況而定。我很高興看到「Chan Zuckerberg 」基金會的誕生。但老實說有些人讓我覺得很困擾。不管你做什麼,會有一個點,當你到達這個點時價值增加就會停止,我覺得華爾街的很多人已經到達這個點了。比如說谷歌,他們的價值取決於拿這幾十億美元去做什麼。

  我不太關心谷歌賺的錢。你這個問題的答案取決於谷歌的股東們用賺來的錢去做些什麼。這個問題出現的部分原因在於,網際網路上的「釣魚者」們越來越多地鼓勵這種「短期思考」,「即時滿足」。我寧願看貓的照片也不願意和我兩歲的孩子說話。

  對我來說,這個問題不是要妖魔化人們,而是要鼓勵有資產和能力的人更明智地使用它們。有時,他們在年輕的時候會做得很好。有時,他們會先賺夠錢,再開始為社會做出改變。

  問題不在於谷歌有很多錢,而馬斯基根的人沒錢。問題是,在馬斯基根,或者其他很多地方的人,他們沒有好工作,那些為人父母的自己也並沒有生長在很好的家庭。情況正在走下坡路,而不是上坡。他們的孩子受到的教育並不比他們更高。他們不再有更好的工作。食物越來越差,等等。

  這不僅僅是錢多錢少的問題,而是關於錢的花法的問題。錢花到正確的地方了嗎?並不是說給人們錢就行,而是要有一個教育系統來教育人們,要有一個完善的食物系統,等等。

  我們現在知道如何去做這些事情。因為人工智慧的存在,我們還能更好地預測如果我們不這樣做會發生什麼。我認為市場、激勵和個人行動是極其重要的,但你也可以影響他們。這就是我想要做的,通過實際行動讓大家知道這個社會還可以變得更好。

  【問】無論如何,你想象中的更好的世界當然需要很多人的力量,對吧?比如,你需要更多的老師、營養師等,這些都需要。

  【埃絲特·戴森】沒錯。而且,你需要把投票權用在修橋樑之類的事情上,而不是用在政客身上,等著他們做出那些令人難以信服的承諾。在某種意義上,我們需要更加深思熟慮地思考我們正在做的事情,並更多地考慮長期後果。

  四、關於太空旅行:我要在火星上退休

  【問】我們先談談太空吧。矽谷的許多名人,似乎都對它充滿了興趣。Jeff Bezos把阿波羅11號的助推器從海里拖了出來。據他說,Elon計劃「死在火星上,但沒計劃在撞擊中死掉」。

  【埃絲特·戴森】我想在火星上退休。

  

  【問】例如,這個國家有很大一部分人根本就不關心太空。這似乎是一堆浪費金錢,又很空洞的計劃。為什麼你認為它如此有趣?你覺得有趣嗎?在對你的介紹中,我不能把你描述為「訓練有素的後備宇航員」,如果你不介意的話,就請談談這個話題吧。

  【埃絲特·戴森】這是我們的命運,我們應該傳播出去。這是人類的後備計劃,如果我們真的把地球搞砸了,把自己給毀了,不管是空氣污染,還是爆炸,或是某種生物災難,所有我們需要到另一個地方去。

  火星一號,這是很好的後備計劃。其次,也許我們可以學到一些東西。有一種奇妙的新事物叫做循環經濟。事實是,我們處在一個循環經濟中,但它太寬泛了,我們意識不到。在火星上,因為你的起點非常小,所以對循環經濟的概念更清楚。

  我希望《國家地理》系列節目能改變一些人的觀點。在某種意義上,我們的目的是去探索,去學習,去發現除了我們自己的小星球之外還有什麼其他的東西。同樣,有個備選項也總是好事情。

  【問】最後一個問題:我們已經討論過你在做的事情了,但是是什麼讓你覺得有可能實現,你的擔憂又是什麼?是什麼給了你希望?是什麼讓你覺得我們有希望渡過難關呢?

  【埃絲特·戴森】我是個樂觀主義者。我有希望,因為我是一個人,我們世世代代都被培養成這樣的人。那些不抱希望的人都懶得去嘗試,他們大都消失了。但現在,即使你不抱希望,你也能活下來,所以也許這就是悲觀、倦怠等情緒得以蔓延的原因。也許,我們都應該去火星,那裡要艱難得多,而你需要有活下去的希望。(完)

格外小心
回復 支持 反對

使用道具 舉報

您需要登錄后才可以回帖 登錄 | 註冊

本版積分規則

關於本站 | 隱私權政策 | 免責條款 | 版權聲明 | 聯絡我們

Copyright © 2001-2013 海外華人中文門戶:倍可親 (http://big5.backchina.com) All Rights Reserved.

程序系統基於 Discuz! X3.1 商業版 優化 Discuz! © 2001-2013 Comsenz Inc.

本站時間採用京港台時間 GMT+8, 2024-3-19 19:25

快速回復 返回頂部 返回列表