文 ｜ 闌夕

雖然DeepSeek-R1確實(shí)好用，但它在爆火之后，成了人手一個(gè)的AI工具，也對(duì)中文互聯(lián)網(wǎng)的信息環(huán)境造成了嚴(yán)重的污染情況，這是一個(gè)固然難以避免但也理應(yīng)得到重視的問(wèn)題。

最近一個(gè)星期以來(lái)，就我看到的刷屏文章，至少有三例都是DeepSeek-R1生成出來(lái)的、充滿了事實(shí)錯(cuò)誤的內(nèi)容，卻因其以假亂真的迷惑性，讓很多朋友信以為真，情緒激動(dòng)的分享傳播。

第一例，是知乎的這條高贊回答：

即使在我指出來(lái)之后，依然有人不可置信的表示，看不出來(lái)其中的「AI味」，所謂的「AI味」，指的是DeepSeek-R1創(chuàng)作文本時(shí)特有的「極繁主義」，比如生造概念、堆疊名詞、濫用修辭等等。

而這條知乎回答，或因提示詞喂得好，或因后期潤(rùn)色得力，在很大程度上消除了它的「AI味」，但從表達(dá)結(jié)構(gòu)上，經(jīng)常和AI打交道的用戶都能一眼看出痕跡，純正的DeepSeek-R1風(fēng)格，當(dāng)然普通人確實(shí)難以識(shí)別。

不過(guò)我也不是直接得到這個(gè)結(jié)論的，在看到朋友分享這條回答時(shí)，我原本也和他一樣，是帶著對(duì)于國(guó)產(chǎn)動(dòng)畫電影崛起的興奮全盤接受了如此言之有物的論證，直到一個(gè)致命的紕漏讓我察覺(jué)到了不對(duì)勁。

作者說(shuō)哪吒電影里的敖丙變身鏡頭在法國(guó)昂西動(dòng)畫節(jié)上轟動(dòng)業(yè)界，問(wèn)題是，法國(guó)是有一個(gè)昂西動(dòng)畫節(jié)，哪吒的電影也是送去參展過(guò)，但那是追光動(dòng)畫出品的「哪吒重生」，而不是餃子導(dǎo)演的「哪吒」……

而且因?yàn)閷徍嗽?，這部送展的「哪吒重生」宣傳片實(shí)際上是一部品牌概念片，內(nèi)容是在一個(gè)現(xiàn)代都市里的賽車動(dòng)作演示，哪吒根本就沒(méi)出現(xiàn)，更不存在敖丙的變身……

繼續(xù)查證也能發(fā)現(xiàn)，關(guān)于「哪吒」的制片方給員工分成都房子、攻克水下流體特效之類的描述，全都是DeepSeek-R1為了完成這篇命題作文自己腦補(bǔ)的。

第二個(gè)例子，就更離譜了，離譜到我不太能把完整截圖發(fā)在這里，因?yàn)橛行┠懽訅虼值淖悦襟w，已經(jīng)在拿DeepSeek去寫涉軍涉政的東西了。

其中有一篇寫軍工打虎譚瑞松的選題，標(biāo)題是《軍工虎譚瑞松， 從“道德標(biāo)兵”到“獵艷狂魔”，“國(guó)之重器”淪為私人金庫(kù)》，原文現(xiàn)在已經(jīng)被刪了，應(yīng)該是被被轉(zhuǎn)得太廣作者害怕了，但很多「金句」的截圖還在到處傳，什么直升機(jī)的設(shè)計(jì)圖紙?jiān)诎稻W(wǎng)里開(kāi)價(jià)200比特幣出售、收受金條賄賂時(shí)要求熔成發(fā)動(dòng)機(jī)葉片形狀、某總師離職時(shí)留言這里不是造飛機(jī)的地方而是造孽的工廠等等，如果你能記得這些細(xì)節(jié)，就一定知道我說(shuō)的是哪篇文章。

不好意思，這也全都是DeepSeek-R1自己編的。

為什么我能確信是DeepSeek-R1的手筆呢？為什么不能是ChatGPT、Claude、文心一言？因?yàn)镈eepSeek-R1是當(dāng)前唯一能用的免費(fèi)推理模型，且對(duì)中文的支持度足夠高，這本來(lái)是DeepSeek-R1的優(yōu)勢(shì)，只是沒(méi)被用在正道上。

此時(shí)就需要補(bǔ)充一個(gè)推理模型的特點(diǎn)了，那就是推理模型的訓(xùn)練過(guò)程特別注重獎(jiǎng)懲機(jī)制，通過(guò)思維鏈的暴露我們也能看出它通常都會(huì)想得縝密、生怕自己沒(méi)有摸清用戶意圖，以致于經(jīng)常到了「諂媚」的程度。

這種訓(xùn)練模式的好處在于，可以讓推理模型擁有舉一反三的能力，能夠更加靈活和完善的去完成任務(wù)，但是相對(duì)的，為了完成任務(wù)，推理模型也會(huì)在「不自知」的情況下，同時(shí)表現(xiàn)出欺騙性，當(dāng)用戶要求它寫一篇作文時(shí)，哪怕缺少論據(jù)，它也會(huì)為了不辜負(fù)用戶的指令，去自行編造一些材料出來(lái)，以便于自圓其說(shuō)。

這就是大模型行業(yè)至今仍在致力于解決的「幻覺(jué)」現(xiàn)象。

上圖就是一個(gè)經(jīng)典用例，用戶為DeepSeek-R1設(shè)立了阿里估值邏輯改變的靶心，于是DeepSeek-R1就逼迫自己去對(duì)著靶心射箭——它不會(huì)也不能反駁用戶，或是質(zhì)疑阿里的估值邏輯到底變沒(méi)變——于是就「情不得已」的編造出了可以用來(lái)證明用戶觀點(diǎn)的數(shù)據(jù)。

根據(jù)Vectara發(fā)布的大模型幻覺(jué)排行榜，DeepSeek-R1的幻覺(jué)率達(dá)到了14.3%，遠(yuǎn)高于Deepseek-V3的3.9%，也在所有主流模型里屬于較差的一檔。

按理來(lái)說(shuō)，R1是比V3更新、更強(qiáng)大的模型版本，之所以反而表現(xiàn)得更加拉垮，還是因?yàn)橥评砟Ｐ捅绕胀Ｐ拖忍炀透泳哂小竸?chuàng)造力」，其實(shí)在AI研究領(lǐng)域，幻覺(jué)本身并不是單純的缺點(diǎn)，甚至可以說(shuō)，幻覺(jué)就是科學(xué)家們希望在AI身上看到的所謂意識(shí)，只是我們還沒(méi)有把AI調(diào)教得當(dāng)，讓它在該天馬行空的時(shí)候自由創(chuàng)作，在該遵守事實(shí)的時(shí)候有理有據(jù)。

所以我的這篇文章也不是在說(shuō)DeepSeek-R1有問(wèn)題，而是濫用它來(lái)批量化生成真假難辨的信息、并海量投放到公網(wǎng)的這種行為，問(wèn)題很大。

越是公共討論聚集的地方，比如時(shí)政、歷史、文化、娛樂(lè)等領(lǐng)域，越是重災(zāi)區(qū)，這和自媒體的商業(yè)模式有關(guān)，有流量就有收入，流量取決于內(nèi)容的吸引力，同時(shí)內(nèi)容又受到生產(chǎn)成本的限制，而當(dāng)DeepSeek-R1這種降維打擊的武器被交到了每一個(gè)人手里，失控就是不可避免的了。

第二個(gè)例子里的作者大概是察覺(jué)到流量太高也容易出事，已經(jīng)會(huì)在新的文章里——依然都還是DeepSeek-R1寫的——加上一條下面這樣的聲明，不過(guò)只能說(shuō)聊勝于無(wú)，很少有人會(huì)注意到并理解這句話的意思——上面的內(nèi)容有一半是我編的，但我不告訴你們是哪一半。

事實(shí)上作者也確實(shí)不知道DeepSeek-R1交稿的內(nèi)容里哪些是真哪些是假，他可能會(huì)提供一些參考資料，以及開(kāi)放全網(wǎng)搜索的權(quán)限，但就像我說(shuō)的，推理模型的運(yùn)作模式，決定了它不是簡(jiǎn)單的洗稿，而是會(huì)自行完善故事的骨架和細(xì)節(jié)，最后的結(jié)果就是真假參雜，迷惑性反而更大了。

第三個(gè)例子，是歷史博主知北遊的豆瓣記錄，簡(jiǎn)單來(lái)說(shuō)，是有人拿虛構(gòu)的歷史材料，布局七天來(lái)釣他上鉤，如果不是他本身具有很強(qiáng)的反詐意識(shí)，加上三次元有人脈關(guān)系進(jìn)行證偽，他一定會(huì)繼續(xù)沉迷在這個(gè)局里，這個(gè)局的破綻在于AI搞錯(cuò)了兩個(gè)歷史人物的死亡順序，打破了他在發(fā)現(xiàn)新的史料上如獲珍寶的興奮感。

一直以來(lái)，文史圈都是AI污染的重災(zāi)區(qū)，因?yàn)橛写罅康奈墨I(xiàn)材料還沒(méi)有數(shù)字化，可用的網(wǎng)絡(luò)資源有限，考據(jù)成本很高，但凡較真起來(lái)，都會(huì)陷入「造謠一張嘴、辟謠跑斷腿」的困境。

就，真的很讓人焦心，用AI解決自己的問(wèn)題是一碼事，將AI杜撰的信息混到公網(wǎng)里又是另一碼事了，當(dāng)在這些言之鑿鑿的內(nèi)容成為互聯(lián)網(wǎng)信息庫(kù)的一部分之后，甚至又會(huì)被AI重新咀嚼回去訓(xùn)練，事實(shí)數(shù)據(jù)和生成數(shù)據(jù)之間的界限將會(huì)更加模糊，這絕對(duì)不是一件好事。

有人可能會(huì)問(wèn)，在沒(méi)有AI的時(shí)候，人類也會(huì)造謠，也會(huì)發(fā)到網(wǎng)上到處都是，怎么沒(méi)見(jiàn)到你這么痛心疾首？

其一，「拋開(kāi)劑量談毒性都是耍流氓」，AI的工業(yè)化生產(chǎn)能力，和個(gè)體戶的伏案寫作流程，在效率上是天差地別的，實(shí)際上在我寫這篇文章以前，搜索引擎、線上文庫(kù)、各類網(wǎng)站上的AI填充情況就已經(jīng)非常不堪了，在有了推理模型——精通于一本正經(jīng)的胡說(shuō)八道——之后，整個(gè)污染趨勢(shì)會(huì)向深處蔓延，從相對(duì)次要的資料層觸及創(chuàng)作上游的信源層，覆水難收；

其二，人類造謠起來(lái)是有局限性的，比如他不可能出現(xiàn)在一個(gè)自己沒(méi)理由出現(xiàn)的場(chǎng)合，真要這么編造起來(lái)很容易露餡，但AI則會(huì)臉不紅心不跳的直接生造，比如栩栩如生的細(xì)節(jié)，或是身臨其境的描寫，在說(shuō)謊這件事情上，AI的主觀惡意或許不及人類，但它的發(fā)揮能力，卻是獨(dú)一檔的；

其三，AI內(nèi)容的生產(chǎn)者一般都是營(yíng)銷號(hào)，而為內(nèi)容背書(shū)的，則是傳播者的信譽(yù)，比如大V博主上鉤后的轉(zhuǎn)發(fā)分享，通過(guò)這種擴(kuò)散機(jī)制，實(shí)現(xiàn)從寄生到合理化的存在目標(biāo)，才是最可怕的，人會(huì)愛(ài)惜羽毛，會(huì)知道信譽(yù)下滑的后果，但營(yíng)銷號(hào)不在乎，只要避開(kāi)敏感話題，有太多的流量可以消費(fèi)，尤其是在掌握了「創(chuàng)造」獨(dú)家信息這個(gè)技術(shù)之后；

其四，AI的便利性已經(jīng)把虛假信息的泛濫推到了生活的各個(gè)方向，有人拿著它推薦的菜單去點(diǎn)菜結(jié)果發(fā)現(xiàn)店里沒(méi)這個(gè)菜，有人拿著旅游攻略發(fā)現(xiàn)當(dāng)?shù)馗緵](méi)這個(gè)景點(diǎn)，經(jīng)我實(shí)測(cè)它還會(huì)捏造不屬于「山海經(jīng)」的古典異獸。

我想說(shuō)的是，AIGC是技術(shù)發(fā)展的未來(lái)，DeepSeek也是國(guó)產(chǎn)模型的翹楚，工具沒(méi)有錯(cuò)，錯(cuò)的是濫用、惡用工具的行為，AI當(dāng)然可以創(chuàng)造內(nèi)容，但前提一定要是注明它由AI生成，不能魚(yú)目混珠，放任它以一種不可辨識(shí)的方式成為互聯(lián)網(wǎng)的原生信息，大模型廠商和內(nèi)容平臺(tái)也有義務(wù)把類似數(shù)字水印那種兜底方案同步推進(jìn)起來(lái)，每遲一天，治理成本都會(huì)幾何級(jí)的變得更高。