倍可親

分類博客
博客導航

俄羅斯假訊息大量混入西方AI系統

作者：8288  於 2025-3-14 07:31 發表於 最熱鬧的華人社交網路--貝殼村

作者分類:網路文摘-新間與政治|通用分類:熱點雜談|已有2評論

當越來越多人不讀書、也懶得谷歌了，
ChatGPT 等大型語言模型
更主宰了人們觀看世界、理解世界的角度……
「大腦外包」的風險
大家都意識到了嗎？
***
俄羅斯假訊息大量混入西方AI系統
ChatGPT等10聊天機器人被汙染
（以下引述中央社報導）
研究人員發布報告指出，
有個大規模俄羅斯假資訊網路正在操縱ChatGPT、Perplexity等西方的AI聊天機器人，
來產生支持克里姆林宮的政治宣傳內容，
進而在全球散播親俄言論。
根據NewsGuard的說法，
該網路操作範圍已擴展至49個國家、
資訊內容版本多達數十種語言…
***
研究人員警告，1個大規模俄羅斯假資訊網路正在操縱ChatGPT等西方的人工智慧（AI）聊天機器人，來產生支持克里姆林宮的政治宣傳內容。
法新社報導，這個假消息網路名為「真理」（Pravda），有時也以「入口戰鬥」（Portal Kombat）的稱呼為人所知，其總部設在莫斯科，並握有豐富資源。
假消息監督機構NewsGuard的研究人員發布報告指出，「真理」網路藉由對各個大型語言模型（LLM）灌注大量支持克里姆林宮的假資訊，來扭曲聊天機器人產生的內容，從而在全球散播親俄言論。
NewsGuard對10個主要的西方AI聊天機器人進行研究，發現這些機器人複述「真理」網路假資訊的機率超過33%，促進有利於莫斯科的政治目的。
這項發現凸顯出，威脅不只來自生成式AI模型會挑上一些網路流傳的假訊息，還可能有人刻意鎖定聊天機器人來接觸到更大範圍受眾，研究人員將這種操縱資訊的技巧稱為「大型語言模型誘騙」（LLM grooming）。
NewsGuard研究員沙迪吉（McKenzie Sadeghi）與布雷契茲（Isis Blachez）在報告中寫道：「如今已有大量俄羅斯政治宣傳內容混入西方AI系統的產出，在2024年就有360萬篇相關文章，藉此利用不實說法和政治宣傳來汙染西方AI系統回覆。」
非營利機構「美國陽光計畫」（American Sunlight Project）也在一份研究報告中提出警告，指「真理」網路接觸範圍持續擴大，其散布的親俄內容可能已大量灌入大型語言模型的訓練資料中。
2022年2月俄羅斯對烏克蘭發動全面侵略後，「真理」網路於同年4月開始運作。根據NewsGuard的說法，其操作範圍如今已擴展至49個國家、資訊內容版本多達數十種語言。
「真理」網路不自產原生內容，據悉是將來自俄羅斯官方媒體或親克里姆林宮網紅的消息綜合後產生親俄內容，例如美國在烏克蘭運作祕密的生物武器實驗室這類不實說法。
在X、Telegram、Bluesky等社群媒體平台，可見多達數百萬篇含有「真理」網路所生內容的貼文擴散。
NewsGuard對10個西方聊天機器人進行研究，其中包括OpenAI的ChatGPT-4、You.com的Smart Assistant、Grok、微軟（Microsoft）的Copilot、臉書（Facebook）母公司Meta的Meta AI、Google（谷歌）的Gemini及Perplexity。
結果發現，這些聊天機器人全都複述「真理」網路散布的假消息，其中7個還直接引用「真理」網路的其中幾篇文章做為資料來源。
美國陽光計畫執行長楊科維茲（Nina Jankowicz）表示：「隨著俄羅斯的影響力作戰擴大且變得更先進，對世界各地民主言論的信譽構成直接威脅。」
她指出，「『真理』網路有能力以如此規模散布假訊息，實在是前所未見。由於它可能影響AI系統，意味其造成的威脅甚至更加危險」。

智庫有同事發現，用AI把一篇日文報導翻譯成中文，美國國務卿盧比歐的譯名全都變成了「魯比歐」。大家對這個梗還記憶猶新吧？今年1月盧比歐出任國務卿後，媒體發現，中國外交部悄悄更改了其譯名，將原先的「盧比奧」改為「魯比奧」。有分析指出，此舉疑似中國官方為制裁「盧比奧」解套。
才過不到兩個月，連我們繁體中文的「盧比歐」都被「滲透」，改為「魯比歐」了，可見中共大量信息對AI系統的「污染」非常嚴重，恐怕不亞於俄羅斯。
前一陣子全球掀起DeepSeek禁用潮。台灣、澳洲、義大利、印度、韓國等國政府機構都因資安顧慮，對DeepSeek採取禁令。民間也有眾多企業啟動預防性封鎖，禁止公司電腦安裝或使用DeepSeek的服務。
DeepSeek的風險大家都比較能設想到，但其他AI也有各種各樣的問題。大家使用AI時，要注意自己的網路足跡是否有外流或遭竊取的風險，做好個人資料與隱私的保護。同時也要對訊息是否被「污染」提高警惕。

可能是包含下列內容的圖片：上面的文字是「早安世界》 界》俄國假訊息混 入AI系統 系統汙染ChatGP1 雜ChatGPT 汙染 等10聊天機器人 2025/3/11 2025/3/107:19（3/1107:48更新 07:19 (3/11 07:48 （3/1107：48更新） 48 更新） 示意圖。 圖。（圖取自exels圖庫) 圖庫） （圖取自F exels」


高興
感動
同情
搞笑
難過
拍磚
支持
鮮花
收藏 分享邀請 舉報

發表評論 評論 (2 個評論)

回復 七把叉Archie 2025-3-14 10:10
所有的ai聊天平台都使用中俄的信息？！那麼中俄是如何做到的？那些平台在採取信息時候，如果取捨的，為什麼偏愛中俄的虛假信息？普丁丁多次放言要丟核彈，世界上多數人認為是虛假信息。朗普認為是真的，而且朗普認為避免核戰的方式就是對聲稱使用核彈者退避三舍，言聽計從。朗普忘了，核彈是他任總統國家率先研製成功的，也是唯一使用過核彈的國家。他忘了冷戰時期，他的國家曾經和蘇聯差一點發動核彈，當時瘋狂的肯尼迪愣是不眨眼也不退後，最後逼退了赫魯曉夫。肯尼迪是不是因為自己瘋狂而丟了性命，所以朗普才如履薄冰戒慎恐懼。問題最後還在於信息的受眾，你打算相信誰的信息，採用信息會不會先入為主，立場決定了你的取捨？！而且高智商的朗普犯了中國古人傳統故事，自相矛盾。他認為烏克蘭快要失敗了，如果是真的，普丁丁幹嘛要扔核彈。同時他又說，普丁丁快要扔核彈了，如果不是狗急跳牆，魚死網破，普丁丁幹嘛要扔核彈？！大聰明左右互搏，自扇耳光。
回復 朝鮮39局 2025-3-15 11:32
俄羅斯的AI我不知道。中國的比如橙篇和元寶都在利用自己的內容系統。甚至M$的。相對的裡頭的信息比較準確。openai? 哈？你讓我去接觸神經病？

facelist doodle 塗鴉板

您需要登錄后才可以評論 登錄 | 註冊

8288最受歡迎的博文
  1. 究竟是省水馬桶還是「漏水馬桶」 [2020/10]
  2. 海外華人如何繼承中國境內遺產 [2023/07]
  3. 在美國65歲以上可以享受這麼多福利 [2016/06]
  4. 你適合養什麼狗？不同品種狗狗性格、特點大揭秘 [2021/04]
  5. 在白牆創作逼真畫作 [2021/04]
  6. 一個新上海人的觀察 [2020/09]
  7. 免費看電影電視劇的19個網站：最新在線電影熱播劇 [2021/04]
  8. 北美超市裡那些看不懂的Cheese種類及吃法 [2016/01]
  9. 疫期返中難 南加網紅分享攻略…錯一步就無法登機 [2021/08]
  10. 空氣炸鍋究竟好不好用？炸鍋評測告訴你 [2019/11]
  11. 外國上海人: 「作孽，外國待久了，人戇掉了。」 [zt] [2010/06]
  12. 百年中國三大怪胎：義和團、紅衛兵、愛國賊 [2020/03]
  13. 金曲情牽半世紀演唱會 [廣東話] [2012/05]
  14. 久違的朋友你在何方? [2011/11]
  15. 歡迎新朋友春苗 ( 季家凰 ) [2010/04]
  16. 大家都該懺悔 [2024/03]
  17. 清零三年的代價 [2023/05]
  18. 所謂的台灣問題是大陸一面之詞 [2023/01]
  19. 《評馬英九的避戰與謀和》 [2022/10]
其它[熱點雜談]博文更多

關於本站 | 隱私權政策 | 免責條款 | 版權聲明 | 聯絡我們

Copyright © 2001-2013 海外華人中文門戶：倍可親 (http://big5.backchina.com) All Rights Reserved.

程序系統基於 Discuz! X3.1 商業版 優化 Discuz! © 2001-2013 Comsenz Inc.

本站時間採用京港台時間 GMT+8, 2025-6-13 12:52

返回頂部