保時捷女銷冠的反擊：AI合成亂象「安全閘」在哪?
來源：倍可親(backchina.com)
10月12日，青島保時捷女銷冠牟女士在個人微博賬號曬出青島市公安局李滄分局行政處罰決定書，並配文稱，「網路不是法外之地，一切都有跡可循。」
事件起因據牟女士11日在微博描述：近期，網路上出現大量利用AI技術惡意合成的虛假視頻以及與面部側臉局部相似的不良視頻，對牟女士進行誹謗與侮辱，甚至肆意傳播，泄露其電話及微信號，已對個人正常生活造成嚴重影響。牟女士嚴正聲明：所有相關內容均為偽造，已委託律師完成證據固定，並於10日晚向公安機關報案，啟動法律程序追查到底。同時懸賞徵集傳播者證據。
12日牟女士發布的青島市公安局李滄分局行政處罰決定書，主要是對違法行為鏈條中傳播者丁某的處罰決定。決定書內容顯示，2025年10月10日丁某在一微信車友群內轉發牟女士照片圖文並搭配不雅視頻，對其侮辱，后被查獲。根據《中華人民共和國治安管理處罰法》第四十二條第二項規定，給予丁某行政拘留五日的行政處罰。
違法行為人丁某在11日寫下悔過書，承認自身錯誤並向牟女士道歉。但牟女士報案並啟動法律程序追究所有涉案人員民事及刑事責任，直接進行AI合成圖文與視頻的違法者暫未抓獲。牟女士表示，相關案件已正式進入司法程序，交由警方依法處理。
國內AI行業監管範疇內，AI合成內容治理已走出「原則倡導」階段，進入「法治化+標準化+技術落地」的深水區。據公開信息，2024年9月14日，國家網際網路信息辦公室發布《人工智慧生成合成內容標識辦法（徵求意見稿）》，要求人工智慧生成合成內容標識包括顯式標識和隱式標識。
北京師範大學法學院副教授、中國網際網路協會研究中心副主任吳沈括表示，內容標識是目前關於人工智慧內容治理中的一種非常重要的機制設計，它對於避免深度偽造帶來的安全風險有非常大的價值，且通過標準的統一也有助於引導各方的業務規則、業務設計和業務模式，對於全鏈條的風險防範具有非常重要的作用，也能有助於公眾識別AI內容的真偽和權威性。
今年9月1日起，《人工智慧生成合成內容標識辦法》與國家市監總局、國家標準委於2025年2月28日發布的強制性國家標準《網路安全技術 人工智慧生成合成內容標識方法》均正式施行。抖音、快手、騰訊、微博、B站等平台均在當天或提前發布公告，上線「顯式+隱式」雙重標識功能，並配套限流、下架、封號等處置措施。
北京市競天公誠律師事務所認為，《標識辦法》從宏觀管理角度規定了提供人工智慧生成合成服務的網路信息服務提供者、提供網路信息內容傳播服務的服務提供者、網際網路應用程序分發平台、用戶等主體在生成合成內容中添加、檢測顯式標識和隱式標識等方面的主要義務，構建了標識管理的基礎架構體系；《標識方法》旨在通過統一的、具體的技術標識規範，解決生成合成內容與真實信息的邊界模糊問題，遏制技術濫用對公共秩序和個體權益的侵害。另外，《標識辦法》和《標識方法》首次使用了「人工智慧生成合成內容」這一表述，標誌著我國生成式人工智慧標識管理邁入系統化、精細化的新階段。
在上述治理舉措基礎上，目前行業內AI合成亂象仍呈「禁而不絕」狀態，原因包括多方面：AI技術門檻大幅下滑；內容平台「先發布後過濾」的審核機制給違法行為留存機會時差；標識與水印可通過批量擦除、裁剪等形式去除。
當「一鍵換臉」就能換來真金白銀，「去標裁剪」只需動動手指，違法成本與暴利收益之間的槓桿迅速失衡，導致「名人換臉+直播帶貨」、AI仿造知名醫生宣傳藥品等灰色產業鏈泛濫。AI合成內容治理仍需持續優化，包括技術上提升水印魯棒性（被攻擊時不易失效）、立法上提高懲罰強度、平台層面提升審核效率與前置審核責任等。