人工智慧專家獲諾獎，是希望之光，還是災難前奏?
來源：倍可親(backchina.com)瑞典皇家科學院當地時間10月8日宣布，將2024年諾貝爾物理學獎授予約翰-霍普菲爾德（John J. Hopfield）和圖靈獎得主、AI教父傑弗里-辛頓（Geoffrey E. Hinton），"以表彰他們利用人工神經網路進行機器學習的奠基性發現和發明"。
此消息一出，立即在網路上引發了熱烈討論。人們紛紛質疑，物理學諾獎頒給AI教父？機器學習算物理學？歷屆諾貝爾物理學獎得主恐怕都沒有想到，自己或許有一天得和代表計算機領域最高榮譽的圖靈獎「搶飯碗」。
就連獲獎的辛頓都說：「我從來都沒想過會被提名諾貝爾物理學獎，我怎麼知道你們是不是在惡搞我？」
然而，不可否認的是，人工智慧已經悄然改變著我們的生活方式。如今人工智慧專家獲得了諾貝爾物理學獎，是人類的希望之光，還是災難的前奏？
對於人們的疑惑，頒發此獎的瑞典皇家科學院在發布的新聞稿中表示，今年的兩位諾貝爾物理學獎得主利用物理學工具開發出的方法，為當今強大的機器學習奠定了基礎。
DeepMind聯合創始人、微軟人工智慧CEO穆斯塔法·蘇萊曼指出，我們正在迎來一場新技術浪潮，人工智慧、合成生物技術，以及更多偉大的技術創新，正如潮水一般席捲全球，為各行各業創造全新的業務模式和發展機會。
01
人工智慧之春
人工智慧是即將到來的技術浪潮的核心。
自 1955 年「人工智慧」這個詞首次提出以來，它很多時候更像是一個遙遠的願景。在將近半個世紀之後，突破性的時刻才終於到來。
2012 年，一個名為 AlexNet 的系統嶄露頭角。AlexNet 的成功源於一種舊技術的復興，這種技術現已成為人工智慧的基礎，為人工智慧領域注入了巨大活力。對我們在 DeepMind 的工作來說，它也是不可或缺的。那便是深度學習。
深度學習使用的神經網路大致模仿了人類大腦的神經網路構造。簡單來說，這些系統會在其網路被海量數據「訓練」的過程中進行「學習」。
在 AlexNet 的案例中，它的訓練數據主要由圖像構成。圖像中的每個紅色、綠色或藍色像素都會被賦予一個數值，由此生成的數組被輸入神經網路。在神經網路內部，「神經元」通過一系列帶有權重的連接與其他神經元相互關聯，這些權重大致反映了信息輸入之間的關聯強度。神經網路的每一層都會將其接收的信息傳遞給下一層，從而創建出越來越抽象的表徵形式。
然後，一種稱為反向傳播的技術介入，它負責調整網路連接的權重以優化神經網路。當系統發現錯誤時，這種調整會反向傳播回網路，幫助網路在未來糾正相同的錯誤。通過不斷重複這個過程並微調權重，神經網路的性能會逐漸提高。最終，它將從接收的單個像素開始學習，識別出線條、邊緣和形狀，最終理解場景中的整個物體。簡言之，這就是深度學習。深度學習技術曾一度在人工智慧領域受到嘲笑，但最終它攻克了計算機視覺的難題，在人工智慧世界掀起了一場風暴。
AlexNet 由傳奇研究員傑弗里·辛頓及其兩名學生—多倫多大學的亞歷克斯·克里哲夫斯基和伊利亞·薩特斯基弗共同開發。他們參加了由斯坦福大學李飛飛教授發起的ImageNet大規模視覺識別挑戰賽，這項一年一度的競賽旨在彙集業界力量，共同攻克一個目標：讓計算機能夠識別圖像中的主要物體。每年，參賽團隊都會拿出自己最好的模型，相互激烈競爭，通常每一年新模型的準確度提升較上一年都不超過 1 個百分點。
但在 2012年，AlexNet以10%的準確度提升打敗了上一年的冠軍。這聽起來似乎只是一點兒小小的改進，但對人工智慧研究人員來說，這已是跨越式的進步，足以區分那些玩具般的研究演示和那些即將對現實世界產生重大影響的突破性成果。那一年的比賽非常激動人心，辛頓和他的團隊發表的論文也成了人工智慧研究史上被引用次數最多的作品之一。
隨著 AlexNet 這一重大突破的出現，人工智慧突然成為學術、政府和企業領域的關鍵議題。傑弗里·辛頓和他的團隊被谷歌招入麾下。美國和中國的重要科技公司都將機器學習視為研發工作的核心。在成功開發 DQN 后不久，我們將 DeepMind 出售給了谷歌。這家科技巨頭迅速在其全線產品中轉向了「人工智慧優先」的戰略。
深度學習讓計算機視覺技術無處不在，且運行順暢。現在，該技術能通過相當於 21個全高清屏幕的視覺輸入，即每秒約25億像素的輸入，對動態真實世界街景進行分類。這種精確度足以讓 SUV汽車在繁忙的城市街道中自如穿梭。智能手機能識別各種物體和場景，在視頻通話時，視覺系統可以自動模糊背景，突出人物。
深度學習的繁榮吸引了數十億美元的資金流入學術機構以及私營和公共企業的人工智慧研究。大約從2010年起，人工智慧再次成為輿論的焦點，頻頻佔據新聞頭條，並不斷拓展技術可能性的邊界，其熱度和炒作甚至超過了以往任何時候。人工智慧將在 21 世紀發揮重大作用，這已不再是一種邊緣或荒謬的觀點，而是大勢所趨。
02
人工智慧正席捲世界
人工智慧的大規模應用已如火如荼。
放眼望去，軟體已經深入生活的方方面面，幫助我們搜集和分析海量數據。這些數據正用於訓練人工智慧系統，使其能夠在我們日常生活的幾乎每個領域創造出更高效、更精準的產品。
同時，人工智慧的獲取和使用也變得日益便捷：因為有了如 Meta 的 PyTorch（一個開源的深度學習框架）和 OpenAI 的應用程序編程介面（API）這樣的工具和基礎設施，非專業人士也能輕鬆掌握尖端的機器學習能力。此外，5G（第五代移動通信技術）網路和其無所不及的連通性為我們構建了一個龐大且持續在線的用戶群體。
人工智慧正逐步從演示階段過渡到現實世界的應用中。
要不了幾年，人工智慧將能以與人類一樣的方式對話、推理，甚至採取行動。它們的感知系統將和我們的一樣敏銳。這並不等同於它們達到了超級智能水平，但它們確實會成為異常強大的系統。這意味著人工智慧將緊密地融入我們的社會結構，成為其不可分割的一部分。
人工智慧系統能夠管理零售倉庫、提供郵件寫作建議、推薦歌曲、檢測欺詐行為、撰寫故事、診斷罕見疾病，甚至模擬氣候變化的影響。它們出現在商店、學校、醫院、辦公室、法庭和家庭中。如今，你每天都會和人工智慧互動很多次；未來，這種互動將更加頻繁。幾乎在任何方面，人工智慧都將使人類體驗變得更加高效、快速、實用和順暢。
人工智慧已經在我們身邊了，但這僅僅是個開始。
03
大語言模型的崛起
就在不久前，處理自然語言對現代人工智慧而言還是一件過於複雜、多變和微妙的事情。
然而，2022 年 11 月，人工智慧研究公司 OpenAI 推出了 ChatGPT（一款聊天機器人程序）。短短一周內，它的用戶數量就突破了 100 萬，人們熱烈地討論著這項技術，廣為稱讚。
簡單來說，ChatGPT 就是一個聊天機器人。但它比以往任何公開亮相的產品都更強大和博學多才。你向它提問，它會立刻用流暢的語句回答你。無論是要求它用詹姆斯國王欽定版《聖經》， 還是用20 世紀80 年代說唱歌手的風格來寫一篇文章、新聞稿或商業計劃，它都能在幾秒鐘內按要求完成。讓它寫物理課程大綱、節食手冊或者Python 腳本，它也遊刃有餘。
沒過多久，OpenAI 推出了GPT—2，其中的GPT 指的是「生成式預訓練變換器」。GPT—2 當時的規模相當龐大，擁有高達15 億個參數（參數數量是衡量AI 系統規模和複雜程度的重要指標）。它是在800 萬頁網頁文本的基礎上進行訓練的。然而，直到2020 年夏天OpenAI 發布了GPT—3，人們才真正開始意識到這一技術的巨大潛力。GPT—3 的參數數量高達1 750 億，成為當時人類構建過的最大的神經網路，規模相比僅一年前推出的GPT—2 大了上百倍。這的確令人嘆為觀止，但如今這樣的規模已經變得不足為奇， 而且訓練同等級別模型的成本在過去兩年中已經大幅下降為1/10。
當GPT—4 在 2023 年 3 月亮相時，它再次引發了轟動。和之前的版本一樣，你讓 GPT—4 以艾米莉·狄金森的風格寫詩，它會照辦；你讓它續寫《魔戒》的某個片段，它能立刻模仿出一段與原作者托爾金風格相似的文字；你向它索要創業計劃，它就能輸出一份看似由一群高管共同制訂的專業計劃。不僅如此，它還能在各種標準化考試中脫穎而出，從律師資格考試到 GRE（留學研究生入學考試），它都能應對自如。
GPT—4 還能處理圖像和代碼、創建能在桌面瀏覽器中運行的 3D（三維）電腦遊戲、開發手機應用、調試代碼、識別合同漏洞、為新葯研發提供結構建議，甚至給出避免侵犯專利權的藥物修改建議。它可以根據手繪草圖生成網站，能夠理解複雜場景中的微妙人物關係；你給它看冰箱內部的照片，它能根據冰箱里的食材推薦菜譜；你給它一份粗糙的演示文稿，它能幫你潤色並設計成一份專業的演示文件。它似乎能夠理解空間與因果關係、醫學知識、法律條文和人類心理學。
在GPT—4發布后的短短几天內，人們就利用它開發出了一系列工具，用於自動化訴訟處理、為共同撫養子女提供支持或提供實時的時尚建議等。幾周內，又有人為GPT—4創建了插件，使其能夠勝任創建手機應用、進行市場調研以及撰寫詳細報告等複雜任務。
不久之後，人工智慧就能像人類一樣，將其所學從一個領域輕鬆應用到另一個領域。現在只是初步展現出自我反思和自我提升跡象的人工智慧，將實現巨大的飛躍。這些人工能力智能系統將接入網際網路，能夠與我們人類生活的方方面面進行交互，但它們將建立在一個深厚的知識和能力基礎之上。它們不僅將精通語言，還將勝任各種令人眼花繚亂的任務。
人工智慧仍處於早期階段。如果現在有人宣稱人工智慧名不副實，那麼他可能會贏得一些目光和關注。但事實是，越來越多的人才和投資正源源不斷地湧入人工智慧研究領域，這樣的投入最終勢必意味著重大的變革。
04
超越超級智能
許多人工智慧領域的人（更不用說哲學家、小說家、電影製作人以及科幻迷）對人工智慧的意識問題產生了濃厚興趣。他們曾連續數日在會議上探討這樣的問題：我們能否創造出真正具有自我意識且這種自我意識能被我們識別和確認的智能體？
與此同時，人們也對「超級智能」這個概念產生了極大的興趣。在過去10 年裡，科技領域的知識分子和政治精英都熱衷於相信這樣一個觀點：一種能夠不斷自我優化的人工智慧將引發一場名為「奇點」的「智能大爆炸」。人們為此爭論不休，試圖確定這一事件可能發生的確切時間，是2045 年、2050 年，還是更遙遠的未來。然而，儘管討論熱烈，相關論文和博客文章層出不窮，但這一問題依舊沒有定論。只要談及人工智慧，這些話題就總是不可避免。
我認為，關於奇點是否會來以及什麼時間會來的爭論，完全是一個具有誤導性的議題。試圖預測通用人工智慧的出現時間就像在占卜未來一樣不可靠。當過分痴迷於超級智能這樣的概念時， 人們往往會忽視那些正在逐步實現的短期目標和進展。在我參與的眾多會議中，我希望引導人們關注合成媒體、錯誤信息、隱私以及致命自主武器等緊迫的現實問題，但最終總是花費時間回應與會者關於機器人意識、奇點等與現實世界有些脫節的問題。
多年來，人們一直將通用人工智慧視為一個非此即彼的問題——要麼已然實現，要麼還未達到，彷彿存在一個明確的門檻，以某個特定的系統跨越它為標誌。我始終認為這種看法是錯誤的。相反，我認為這是一個漸進的過程，在這個過程中，人工智慧系統的能力將不斷提升，逐步接近通用人工智慧的水平。這更像是一場已經在進行中的平穩演變，而不是一次突如其來的飛躍。
因此，我們無須把自己捲入那些晦澀難懂的辯論中，無須關心意識是否源於某種機器永遠無法觸及的、神秘且難以定義的「火花」，也不需要去想它是否會從我們今天所知的神經網路中自然湧現出來。目前而言，重要的是系統能夠做什麼，而不是它是否具有自我意識、理解能力或類人智能。關注到這一點，我們才能真正看清我們所面臨的挑戰：每一天，系統的能力都在不斷增強，能做的事情也越來越多。
我們不應過分糾結於人工智慧的意識問題，而應重新將討論焦點集中在人工智慧的近期能力發展及其未來幾年的演變趨勢上。正如我們所見，從辛頓的AlexNet 到谷歌的LaMDA， 10 多年來，人工智慧模型的改進速度一直呈指數級增長。這些技術能力已經切實存在，同時它們的發展速度沒有任何放緩的跡象。儘管它們已經產生了巨大的影響，但隨著我們在未來幾年內繼續努力，以及人工智慧逐漸能夠獨立完成複雜的、多步驟的端到端任務，它們的影響將變得更加顯著且深遠。
我認為，可以稱那樣的時刻為「人工能力智能」，即人工智慧可以在最低程度的監督下完成複雜的目標和任務。人工智慧和通用人工智慧這些詞我們常能聽到，但我們還需要一個概念來描述它們之間的一個中間階段。在這個階段，現代圖靈測試已經成功，但系統還沒展現出那種失控的「超級智能」。人工能力智能就是這個階段的簡稱。
人工智慧的早期階段主要關注分類和預測。儘管它具備一定的能力，但這些能力僅局限於明確界定的範圍和預設的任務內。例如，它可以區分圖像中的貓和狗，並根據序列預測接下來的內容，從而生成這些貓和狗的圖片。它展現出了創造力的火花，並且可以迅速被集成到科技公司的產品中。
人工能力智能代表著人工智慧發展的下一個重要階段。在這一階段，人工智慧系統不僅可以識別和生成與特定語境相契合的新穎的圖像、音頻和語言，還能實時與真實用戶進行交互。它憑藉增強的記憶能力，能在較長時間內維持這些能力的一致性，並能夠利用其他數據來源，如第三方的知識、產品或供應鏈組件資料庫等。這樣的系統能利用這些資源，把多個行動安排整合成長期的計劃和方案，以追求更為複雜和開放的目標，比如設立並運營一個亞馬遜市場商店。所有這一切都將極大地擴展人工智慧工具的使用，提升其執行一系列廣泛的複雜實用任務的能力。這便是真正具備能力的人工智慧。
有意識的超級智能？那還是個未知數。但能夠通過某種形式的現代圖靈測試的高度智能系統—人工能力智能呢？毫無疑問，它們已在研發中，甚至已經有了雛形。未來，我們將看到成千上萬這樣的模型湧現，並被全球大多數人使用。這將引領我們進入一個新時代，屆時，人人都能擁有一個能夠助力甚至直接實現眾多可想象目標的人工能力智能：從規劃假期、設計建造效能更高的太陽能電池板，到助力競選活動。
至少從某種意義上說，人工智慧的未來是可預見的。未來5 年，我們將繼續投入大量資源。全球最聰明的人才正致力於解決這些問題。算力的巨大提升將催生出頂級的模型。所有這一切都將推動人工智慧取得更為顯著的進步，包括在實現具有想象力、推理能力、規劃能力和常識的人工智慧方面取得重大突破。不久之後，人工智慧就能像人類一樣，將其所學從一個領域輕鬆應用到另一個領域。現在只是初步展現出自我反思和自我提升跡象的人工智慧，將實現巨大的飛躍。這些人工能力智能系統將接入網際網路，能夠與我們人類生活的方方面面進行交互，但它們將建立在一個深厚的知識和能力基礎之上。它們不僅將精通語言，還將勝任各種令人眼花繚亂的任務。
人工智慧絕不僅僅是一項新技術那麼簡單，它比任何技術都要深刻得多、強大得多。真正的風險並不在於對其過度炒作，而在於我們可能低估了即將到來的技術浪潮的規模。人工智慧不僅僅是一種工具或平台，而且是一種具有變革性的元技術，是推動技術和一切事物發展的背後的力量。它本身就是工具和平台的創造者，不僅僅是一個系統，而且是一個能夠生成各種類型系統的生成器。讓我們退一步想想，從10 年或100 年的角度來看待這一切。我們確實正處在人類歷史的轉折點上。
然而，即將到來的技術浪潮不僅僅是關於人工智慧的。