別把AI當權威 研究顯示：錯誤率高達60%
來源：倍可親(backchina.com)哥倫比亞大學最新研究顯示，AI搜索錯誤率高達60%
哥倫比亞大學數字新聞研究中心（Tow Center for Digital Journalism）近期對八款 AI 搜索展開研究，包括 ChatGPT Search、Perplexity、Perplexity Pro、Gemini、DeepSeek Search、Grok-2 Search、Grok-3 Search 和 Copilot。
他們的研究方法是從20家新聞機構選取200篇新聞報道，並評估它們是否正確引用了文章內容、來源和原始鏈接。最終結果分為完全錯誤、部分錯誤、正確但不完整、完全正確、拒絕回答五種標籤。
研究結果顯示：
1、AI 搜索通常不會回答它們無法準確回答的問題，平均來看，六款AI搜索提供的答案有 60% 是不準確的。其中Grok 3 、Gemini的完全錯誤率高達90%以上，國內的DeepSeek表現中等（完全錯誤率大約58%）。
2、與免費AI 搜索相比，付費的AI 搜索更不容易拒絕回答，從而會更「自信」地提供錯誤答案。
3、多個AI 搜索似乎繞過了robots限制協議。
4、AI 搜索會偽造鏈接，並引用文章在新聞聚合平台的鏈接（比如雅虎新聞），而不是原始網站。
5、儘管許多新聞媒體與AI 搜索達成了版權合作，但在AI 搜索里的新聞引用仍不準確。
OpenAI 、谷歌呼籲美國立法允許「合理使用」版權素材
在川普政府2月25日發起的《AI行動計劃》政策提案中，近期，OpenAI 提交一份了建議書，呼籲美國制定版權戰略，以「保護美國AI大模型從受版權保護的材料中學習的能力」。 AI 公司可以自由使用受版權保護的材料，訓練 AI 模型。
OpenAI 指出，各州已提出 781 多項與 AI 相關的法案，這些法案對國內公司施加了過多的合規要求，阻礙了 AI 公司的創新能力，並削弱了美國企業家可用的訓練數據質量。公司建議政府為私營部門提供「法律救濟」。
谷歌緊隨OpenAI之後，發布政策提案，稱「合理使用和文本及數據挖掘例外」對於AI科學創新「至關重要。谷歌同樣呼籲將AI公司的「合理使用」權利編入法律，使其能夠使用公開數據（包括受版權保護的數據）進行訓練，而不受任何限制。
兩家公司目前正被多位版權方起訴中。
OpenAI Operator 等 AI 智能體成黑客新武器
3月13日，美國網路安全公司 Symantec 通過一項測試指出，AI 智能體已突破傳統工具功能限制，可輕鬆協助黑客發起釣魚攻擊。
「一年前，當我們介紹人工智慧帶來的風險時，我們認為雖然當時AI已經被攻擊者使用，但它們在很大程度上是被動的，只能協助寫一寫網路釣魚材料等任務。」研究人員強調，加入操作能力成為智能體后，AI正從被動輔助轉向「主動執行」，成為網路安全的新威脅。
該安全公司選擇了一名團隊成員發起攻擊操作，結果發現，通過簡單的提示詞修改（prompt engineering），即可繞過OpenAI智能體 Operator的安全顯示，編寫惡意代碼、向攻擊目標發送釣魚郵件。
個人信息保護
315曝光「精準獲客」產業的隱私黑洞
央視3·15晚會曝光了多家公司依靠信息黑洞瘋狂竊取個人隱私。近一年來，網際網路上湧現出大量「精準獲客」廣告，宣稱利用大數據技術，可獲取目標人群消費習慣、聯繫方式等信息，幫助商家進行電話營銷。
央視財經記者暗訪了多家公司，發現其銷售的「獲客軟體」功能驚人。以雲企智能科技有限公司的「雲客引流」為例，該軟體可設定關鍵詞標籤，自動掃描短視頻平台評論區，抓取相關用戶的電話、微信等信息。此外，還能監控同行直播數據，進行截流和引流。
一些公司還利用手機的三網通信大數據進行獲客，在一份宣傳資料上記者看到，這家公司將個人用戶分為9種類型，個人標籤達到3800項，網站2億多，網際網路品牌6萬個，手機品牌2000種，每日處理數據量達到了100億條。
AI治理
網信辦等四部門正式印發《人工智慧生成合成內容標識辦法》
3月14日，國家網際網路信息辦公室、工業和信息化部、公安部、國家廣播電視總局發布《人工智慧生成合成內容標識辦法》（下稱《標識辦法》），自 2025 年 9 月 1 日起施行。
《標識辦法》要求，服務提供者提供的生成合成服務屬於《網際網路信息服務深度合成管理規定》第十七條第一款情形的，應當按照要求對生成合成內容添加顯式標識；服務提供者應當按照《網際網路信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識；提供網路信息內容傳播服務的服務提供者應當採取技術措施，規範生成合成內容傳播活動。
多家平台開始應對AI信息污染與AI謠言
3月11日，微博宣布啟動治理。微博社區治理官方賬號發文稱，治理的重點領域是社會民生、突發事件、科普醫療和個人權益，會對不同情況予以處置。
具體而言，如果賬號的單條內容由 AI 生成且未主動標識，微博稱會主動打標，提示「疑似由 AI 生成」；如果賬號有多條AI內容都未標識，會限制流量分發；如果這些內容造成了惡劣影響，則可以禁言乃至封號。
AI謠言泛濫的問題不止微博一家碰到。今日頭條在近期的治理開放日透露了一組數據：去年打壓了超過93萬條低質AI內容，處罰了近3萬個利用AI批量發布虛假、低質內容或惡意洗稿、抄襲的賬號。與微博的舉措類似，今日頭條在收嚴對低質AI內容的審核力度，另外監測AI內容的整體流量佔比。