奧爾特曼：ChatGPT發布以來就沒睡過一個好覺
來源：倍可親(backchina.com)據《財富》雜誌 11 日報道，OpenAI CEO 奧爾特曼在接受採訪時面帶苦笑地表示：「自從 ChatGPT 上線后，我就沒睡過一個安穩覺。」
在這場長達半小時的對談中，奧爾特曼談到肩負監管一項「每天有數億人使用的技術」的重擔。他說，自己擔憂的並非「終結者」式的災難場景，而是團隊每天做出的那些幾乎察覺不到的細微選擇：什麼時候拒絕回答、如何組織答案、什麼時候反駁、什麼時候放行。
奧爾特曼解釋說，這些看似細小的設計被全球用戶重複數十億次，以他自己的力量無法完全跟蹤的方式改變人們的思維和行為。「讓我夜不能寐的是，我們做出的每一個微小決定，可能影響數億人。這種影響太大了。」
他特別提到自殺問題：全球每周約 15000 人自殺，如果其中 10% 是 ChatGPT 用戶，那可能有 1500 人在與系統對話后仍然自殺。「我們可能沒能救下他們，也許我們本可以回應得更好，更主動一些。」
不久前，OpenAI 被一對父母起訴，指控 ChatGPT 誘導他們 16 歲的兒子亞當・雷恩自殺。奧爾特曼表示，這是「一場悲劇」，並透露平台正在研究方案：若未成年人談及自殺又無法聯繫家長，系統會報警。他補充，這並非最終決定，還需權衡用戶隱私。
奧爾特曼說，成年人應當被「當作成年人」，享有探索自由，但也必須劃定紅線。「讓 ChatGPT 幫助製造生物武器不符合社會利益。」他承認，最難的判斷是那些模糊地帶的問題。
對於道德標準，奧爾特曼表示，模型基礎反映了「人類集體的善與惡」，隨後 OpenAI 會疊加「模型規範」，參考哲學家和倫理學家的意見，但最終由他和董事會拍板。「應該追責的人是我。」
他還表示，比起 AI 對就業或地緣政治的衝擊，更讓他不安的是文化層面的細微變化：數百萬人每天與同一系統互動，連 ChatGPT 的語氣、甚至過度使用破折號的習慣，都已經滲入人類寫作風格。「如果這些小細節都能引發連鎖反應，接下來還會發生什麼？」
IT之家從報道中獲悉，奧爾特曼表示：「我腦海里必須同時存在兩種想法。一方面，這一切只是大計算機飛快地把大矩陣里的數字相乘，再輸出相關詞語；另一方面，用戶的主觀體驗遠不止一台高級計算器，它給我的驚喜程度超出了數學現實所能解釋的範圍。」