倍可親

陷入泥潭的DeepSeek

作者:8288  於 2025-5-23 11:34 發表於 最熱鬧的華人社交網路--貝殼村

作者分類:網路文摘-數碼科技|通用分類:熱點雜談|已有6評論


陷入泥潭的DeepSeek

(二)

有一回,有一位粉絲朋友和大魚聊天,其中提到一件事:「出於對大魚的信任,買了你文章中推銷的產品,結果上當了。」

我非常震驚,趕緊向這位朋友解釋:一、大魚從來不在文章中帶貨,如果有也會明確告知讀者這是廣告,並且任何人看到任何廣告都需要自己判斷商品質量;二、每一位讀者看到的廣告都不一樣,這取決於你平常關心哪方面內容——例如你說最近換季需要買雙新鞋子,那麼你看到的可能就是鞋子廣告——這是平台根據演算法自動推薦給讀者的,與大魚個人沒有關係。

有位網友曾經分享自己的經歷:

他在某平台觀看一則「男女吵架」的視頻時,發現自己和妻子看到的留言竟然各不相同。他看到的評論,大都是以男性立場為主;妻子手機上看到的,卻是站在女性立場的評論。

……別跟我扯什麼隱私,我們都非常透明,願意的話他們甚至可以錄下你昨晚的私房話和嘿咻聲。在中國就沒有抓不到的犯罪嫌疑人,只有想不想抓、值不值得抓的問題。就像會計是一個非常精準的行業,想查的話哪怕貪污一塊錢都能查出來。

(三)

最近有人發現,曾經盛極一時的 DeepSeek(以下簡稱DS)變得越來越不好用了——人們發現它變得答案越來越不靠譜,編造事實,編造數據。

為什麼 DS 迅速淪落,泯然眾人?答案很簡單,接入了國內互聯網。在國內互聯網模式下,它的參考資料主要來源於百家號、企鵝號、百度等等平台上的內容源。如果你常用國內的搜索引擎,應該深有體會,排名前幾的不是廣告就是無關信息,連找個官網都得仔細甄別,相當於在垃圾堆里找吃的,對有效信息的獲取率非常低。

還有一件事可能多數人沒有意識到,自己刷到的視頻或者文章,有相當大一部分內容是靠 AI 批量生產出來的。像大魚這樣堅持原創、堅持手工碼字的作者越來越少。

DS剛剛上市的時候,原始資料來源於chapGPT和谷歌之類平台。有研究表明,這是它能火起來的原因,但是它的數據在連接到國內互聯網后遭到了破壞。

這個曾經在 140 多個國家登頂 App Store 的 AI 新星,如今在用戶的罵聲中節節敗退。有測試顯示,其新聞信息準確率暴跌至 17%,83% 的回答存在事實性錯誤,超過半數答案要麼語焉不詳要麼驢唇不對馬嘴。這種斷崖式墮落背後,是一場被中文互聯網生態綁架的技術悲劇。

簡中平台早已被 AI 污染徹底侵蝕。這種 「垃圾進垃圾出」 的惡性循環,讓 DS 的知識庫迅速腐爛。

更可怕的是,中文互聯網早已形成嚴密的信息閉環。搜索引擎前幾頁充斥著廣告和營銷號內容;自媒體為博眼球製造大量謠言,經濟類 AI 謠言量一年激增一倍。當 DS 試圖從這些內容中提取有效信息時,無異於在垃圾堆里淘金。用戶反饋中,「AI 胡編亂造」「數據全是錯的」 的投訴激增,本質上是對這種信息生態的控訴。

(四)

在評論區經常有人問:「你家沒有網路還是你不會上網?」有一次我問:你以為你上的是互聯網嗎?

中國有14億人口,但是據相關統計,中文在全球網站份額中高估情況下也僅占 1.7% 。阿里研究院 2024 年 5 月發布的《大模型訓練數據白皮書》顯示,在全球網站里,英文佔比高達 59.8%,中文僅占 1.3% 。

這個1.3%的內容還要包括台灣、新加坡等全世界所有使用漢字的人。

20 多年來,谷歌構建起全球最優質的搜索生態,其 200 多種信號模型確保了搜索結果的相關性和權威性。國外研究表明,連接國內互聯網后,即使是谷歌也會出現搜索質量下降的問題,因為關鍵信息被人為屏蔽或稀釋。

在中文互聯網的信息繭房中,DS 無法接觸到全球最前沿的知識體系,只能在被閹割的資料庫里打轉。更諷刺的是那些聲稱 「自主可控」 的技術,反而在封閉中認知營養不良,喪失了進化能力。

(五)

技術落後的遮羞布掩蓋不住信息封閉的暗瘡。

面對 DS 的墮落,有人將責任歸咎於技術差距,事實遠非如此。DS 的研發團隊曾通過演算法優化實現算力成本降低 30%,真正拖後腿的,是其被迫依賴的信息環境。當 AI 需要從海量虛假信息中篩選真相時,再先進的演算法也會力不從心。

這種困境暴露出更深層的問題:封閉網路正在製造數字時代的 「文化隔離」。

當全球知識共享被人為阻斷,當真實信息被系統性過濾,技術創新就成了無源之水。正如微軟高管關於 「數據合理使用」 的爭議揭示的那樣,數據主權的爭奪本質上是技術話語權的博弈。中國的 AI 若想突破困局,必須打破這種自我設限的信息孤島。

(六)

本來有了互聯網,以為人們信息會更豐富,結果卻讓一些無知之徒互相認同,互相抱團,形成完整的信息閉環。有的人即使走出去,仍然背著那口井 —— 那口由偏見、愚昧和封閉澆築的認知之井,將整個世界的維度壓縮成井口大小的光斑。

有段話說:歷史談深了,就涉及政治;經濟談深了,就涉及政策;人文談深了,就涉及道德;還是談點風花雪月安全,不過,談深了又涉及淫穢……

我們的網路如同《楚門的世界》中所說:外面的世界比我虛構的更不真實。

我們都是楚門。


(七)

哈佛大學教授桑斯坦提出著名的「信息繭房」 理論:演算法推薦機制會根據用戶偏好,不斷強化同質化信息,最終形成自我封閉的認知牢籠。

這種現象在中文互聯網尤為明顯:有的機構用 AI 每天炮製 4000-7000 篇虛假新聞,某小說平台賬號靠 AI 日更 50 部邏輯混亂的小說,這些 「信息垃圾」 在傳播過程中不斷自我複製,最終形成密不透風的信息閉環。司馬夾頭的6000萬粉絲基本就是這麼來的。

更諷刺的是,這種封閉性具有流動性——新時代的井底之蛙早已不蹲在井裡看天,而是背著那口井滿世界旅行。」 

當人們帶著偏見的 「井」 去接觸外部世界時,看到的依然是被扭曲的現實。這種 「負井前行」 的狀態,正是簡中網生態最致命的病灶。

(八)

在AI領域有一個詞叫訓練,即人類不斷餵給AI各種信息源,讓它在限定條件中誕生有價值的思考和創新,避免變成人工智障。

在動物群體中有一個辭彙叫馴化。現在的中國式AI正在馴化出中國式人類。因為人是惟一不用繩子就可以牽著走的動物


高興

感動

同情

搞笑

難過

拍磚

支持

鮮花

發表評論 評論 (6 個評論)

回復 浮平 2025-5-23 12:00
【(八)在AI領域有一個詞叫訓練,即人類不斷餵給AI各種信息源,讓它在限定條件中誕生有價值的思考和創新,避免變成人工智障。在動物群體中有一個辭彙叫馴化。現在的中國式AI正在馴化出中國式人類。因為人是惟一不用繩子就可以牽著走的動物】

雖然專制體制能高效操控信息,利用AI工具進行「馴化」和控制,但人類遠比動物複雜,具備反噬權力和相互矛盾的能力。因此,AI依然是推動社會文明進步的重要動力,寄託著人們追求自由平等的希望。

比如,【rfw1972: 廁所機器人吃屎記】 這就是被」馴化「后的反噬和變態產物,對內對外都是產生負反饋循環的因素。對外輸出的不一定是物質的貧窮貧困,而是精神的貧瘠空虛。動物世界不存在這種類型的副作用。

政治挂帥 --》公正不在,道德敗壞。立場優先 --》價值落空,是非雙重。
回復 Wuming123 2025-5-23 23:11
前兩年ChatGPT剛出來,我就問了問我老家有什麼歷史名人,結果是把天南海北的歷史名人都安到了老家頭上!其實現在AI的智能,就是一個掉書袋子的機器人(不是在說浮萍,不要多心,如果有的話)。

你拿他當Google用就好了。比如你的蘋果樹上有了什麼蟲子,問問他買什麼殺蟲劑就行了。沒有太高的期望,也不會有失望。現在是AI充其量就是個提意見的謀士,不是你的人生導師。
回復 浮平 2025-5-24 00:33
Wuming123:前兩年ChatGPT剛出來,我就問了問我老家有什麼歷史名人,結果是把天南海北的歷史名人都安到了老家頭上!其實現在AI的智能,就是一個掉書袋子的機器人(不是在說浮萍,不要多心,如果有的話)。

你拿他當Google用就好了。比如你的蘋果樹上有了什麼蟲子,問問他買什麼殺蟲劑就行了。沒有太高的期望,也不會有失望。現在是AI充其量就是個提意見的謀士,不是你的人生導師。
依附型,餵養型,被馴化思維方式三大表現與社會危害 ---

第一,無法區分個人與群體的情感和情緒關係,因此無法進入獨立的邏輯思考空間,以情緒主導,拍腦門發論點,毫無論據支撐;

第二,從小被政治高於一切洗腦,是非觀模糊混亂,無法建立穩定的言行道德底線,時刻以立場優先,損人利己的手段達到個人和政治目的。

第三,善於使用不誠實,陰險洗地小伎倆,玩弄混淆他人的名字,以藏字改名,東拼西抄,污言穢語,變換馬甲而自相矛盾等低劣手段攻擊侮辱其他詩人文人或者異見人士,比如,個別科大理工男慣用這些文革餘毒的方法在網路上淪為政治打手,在泄私憤的同時嚴重影響了科大的名聲,也將這些非文明的習慣帶進了民主法治的文明社會成為公害。


當一個社會缺乏基本的倫理共識和公正透明的法律框架,高科技工具如人工智慧,不僅無法推動文明進步,反而更可能淪為「人整人、人害人」的互害工具,加速道德滑坡與社會撕裂。
回復 rfw1972 2025-5-26 01:52
俺問機器人在中國的每個美國公司2024年對美出口額,回答和中國口交部一樣。這些數據可能都是商業機密
回復 8288 2025-5-26 07:21
rfw1972: 俺問機器人在中國的每個美國公司2024年對美出口額,回答和中國口交部一樣。這些數據可能都是商業機密
Ai也成了社會老油條了!
回復 rfw1972 2025-5-27 01:41
8288: Ai也成了社會老油條了!
馬雲知道上海女人的尺寸,什麼都不知道的我們根本鬥不過馬雲巴菲特

facelist doodle 塗鴉板

您需要登錄后才可以評論 登錄 | 註冊

其它[熱點雜談]博文更多

關於本站 | 隱私權政策 | 免責條款 | 版權聲明 | 聯絡我們

Copyright © 2001-2013 海外華人中文門戶:倍可親 (http://big5.backchina.com) All Rights Reserved.

程序系統基於 Discuz! X3.1 商業版 優化 Discuz! © 2001-2013 Comsenz Inc.

本站時間採用京港台時間 GMT+8, 2025-6-26 01:52

返回頂部