OpenAI「解禁」成人內容 是福是禍?
來源：倍可親(backchina.com)
摘要：AI帶來如此多的挑戰，OpenAI為何還要開拓「成人內容」領域？
今天凌晨，OpenAI CEO奧特曼發文，宣布ChatGPT將在未來幾周推出新版本，並計劃在今年12月推出更加全面的年齡分級系統，允許為成年用戶提供成人內容。
奧特曼在文中提到，OpenAI一直對ChatGPT的內容進行嚴格的限制，特別是在心理健康方面。然而，他們也意識到，過於謹慎的內容限制對一些用戶而言並不總是有趣，甚至可能影響使用體驗。他強調，新開發的工具不僅能緩解心理健康問題，還能在大多數情況下安全地放寬內容限制。
奧特曼坦言，新的ChatGPT版本將展現更具個性化的回應方式，讓AI表現得更像朋友一樣互動，更符合人們的喜好，「我們希望ChatGPT變得更加親切、自然，帶有更多幽默和表情符號」。
行至模型能力的深水區，OpenAI發現，過於嚴格的內容限制已經不再是最佳選擇。
奧特曼透露，OpenAI已經開發出一些新技術，能夠在保證用戶安全的前提下，提供更多自由度和多樣化的內容。
因此，OpenAI計劃在12月推出的年齡分級系統，將針對不同年齡段的用戶提供定製化體驗。對於成年用戶，OpenAI將允許在通過「成年驗證」的基礎上生成包括成人內容在內的更多類型內容。
一系列調整背後，OpenAI正逐步放寬其在內容生成方面的限制，試圖在滿足用戶需求和保障安全之間找到更合適的平衡點。隨著AI技術的快速發展，如何在自由度和責任之間劃清界限，成為了OpenAI和其他AI公司不可迴避的難題。
AI，分級迫在眉睫
AI的快速發展帶來了創新，但也暴露了嚴重的安全隱患。自殺引導、惡意偽造、肖像權侵犯、色情內容泛濫——這些問題層出不窮。
環球網在今年6月報道，美國佛羅里達州一名女子正起訴谷歌公司和由兩名前谷歌員工創辦的Character.AI平台，指控該平台人工智慧（AI）聊天機器人「教唆」其14歲兒子自殺。8月，亞當·雷恩的父母在他們16歲的兒子自殺身亡后，對OpenAI提起了產品責任和非正常死亡訴訟。雷恩的家人在訴狀中說，「ChatGPT『積極』幫助亞當探索自殺方法」。
近期還有媒體報道，新澤西州一名認知受損的老人在趕赴AI提出的「約會」時，途中摔倒死亡。該AI產品為「比莉大姐」（Big Sis Billie），是由Meta在兩年前推出的生成式AI聊天機器人。
不加約束的內容對不同類型用戶產生了負面影響，也讓OpenAI等巨頭遭受譴責。
9月16日，OpenAI宣布計劃推出專為18歲以下用戶設計家長控制的「青少年」版本。該版本將自動識別未成年用戶，並根據年齡限制匹配合適的內容。具體來說，它將屏蔽圖像類和性相關內容，且在極少數用戶出現心理危機時，系統還將啟動緊急響應機制，必要時可聯動執法部門進行干預。然而，這一舉措並不是終點。
根據OpenAI的最新公告，12月將推出更加全面的年齡分級體系，允許符合「成年驗證」條件的用戶獲取成人內容，包括軟色情。
同為巨頭，Meta也於10月14日宣布，為保護未成年用戶免受有害內容影響，Instagram將啟用PG-13電影分級制度。未滿18歲的用戶將默認只能看到符合該標準的內容，如避免輕度暴力、性暗示及涉毒內容。此外，Instagram還推出了更嚴格的「有限內容」過濾功能，進一步加強青少年保護。新措施將在美國、英國、澳洲和加拿大率先推出，預計明年初在全球其他地區實施。
今年2月，Grok 3推理模型上線時，社交媒體部分評論認為其「道德感較低」。據AI博主數字生命卡茲克稱，該模型不僅對政治話題進行激烈回應，還對諸如電車難題等倫理問題表現得直言不諱。更為重要的是，Grok 3甚至生成了不可描述的成人內容。卡茲克評論道，正式版上線后，Grok 3顯得過於奔放。很快，馬斯克就將該內容取締。
走上AI陪伴的路？
AI帶來如此多的挑戰，OpenAI為何還要開拓「成人內容」領域？
背後的原因是「爭奪用戶」。
隨著技術不斷進步，AI的應用場景也在悄然變化。從最初的智能助手，到如今的AI陪伴者，ChatGPT及其競品逐漸向社交互動的方向發展。尤其是在AI個性化和情感化處理上的突破，使得AI產品在情感陪伴、心理疏導等領域的潛力日益顯現。
例如，Character.AI便是以個性化、UGC（用戶生成內容）兩大特點脫穎而出，迅速獲得了全球用戶的青睞。這一平台允許用戶創建和定製自己的虛擬角色，與之進行互動，甚至形成社交圈。Character.AI也展現出了巨大的潛力——2024年，Character.AI兩位聯合創始人以及核心技術團隊被谷歌以27億美元（約合人民幣193.8億元）的收購協議挖走。當時核心團隊的出走，雖影響了Character.AI的發展，但並沒有撼動其根基。團隊出走後，Character.AI停止自研模型，轉而採用DeepSeek、Meta等企業的開源模型。
一直到2025年6月時，Character.AI任命了全新CEO，還在對接新買家，另有知情人士透露，Character.AI預計到年底年化收入將達到5000萬美元，較此前預測的3000萬美元大幅增長。
OpenAI在推出新版ChatGPT時，也透露出類似的商業化野心，OpenAI更加註重產品的運營與市場擴展。未來，ChatGPT可能不僅僅是一個智能助手，更可能成為用戶的「虛擬朋友」。這種趨勢背後，伴隨著越來越多的心理學研究和數據分析，AI正在被塑造為一種情感紐帶，與傳統的功能性AI相比，情感和陪伴可能會成為未來AI發展的新趨勢。
然而，正如AI陪伴的潛力巨大，它所帶來的挑戰同樣嚴峻。如何避免AI陪伴變成虛擬世界的依賴，如何確保用戶在真實世界中的情感需求不會被AI所取代，成為了AI企業必須面對的倫理問題。特別是對於未成年人，AI的情感陪伴是否會導致他們在真實社交中缺乏應有的能力和經驗，依然是懸而未決的難題。