成人深夜视频网站|日韩高清无码久久|中文a√在线天堂|亚洲黄网站在线看|欧美视频 第二页|日本 久草 天堂|高潮无遮挡黄视频|久久一级内射精品|国产操逼一级视频|五月天婷婷色AV

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

DeepSeek“極你太美”bug,官方回應(yīng)了

0
分享至

金磊 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

DeepSeek V3.1上演的bug大秀“你太美”,可謂是讓全網(wǎng)熱議了一波。

簡單來說呢,就是陸續(xù)有開發(fā)者們發(fā)現(xiàn),當(dāng)他們在調(diào)用API進行代碼開發(fā)的過程中,輸出結(jié)果里會時不時蹦出來“極”字。

像這樣:



這個問題最初是在火山引擎、chutes等平臺上被發(fā)現(xiàn),但隨著事件的發(fā)酵,更多平臺也被卷入了進來,包括騰訊的CodeBuddy,甚至是DeepSeek官方……



事件之火,在國外Reddit上也是討論聲一片,重災(zāi)區(qū)是“extreme”、“極” 和“極”:

  • “extreme”(id:15075)
  • “極”(id:2577,簡體中文的extreme)
  • “極”(id:16411,繁體中文中的extreme)



騰訊CodeBuddy還出現(xiàn)了更加奇葩的情況,直接插了句帶“極”字兒的廣告……



△圖源:小紅書用戶@ 奈緒白 Nine-piece shell

若是開發(fā)者們沒有細(xì)看,直接用了生成的代碼,那定然是會導(dǎo)致編譯不通過等情況,可以說是對需要高精度、結(jié)構(gòu)化輸出的場景是致命一擊。

截至目前,大家已經(jīng)統(tǒng)一將問題的矛頭指向了DeepSeek V3.1模型本身,以及CodeBuddy幫忙問了:

  • 已經(jīng)和DeepSeek團隊取得聯(lián)系,將在最近的一個版本中進行修復(fù)。



△圖源:微信公眾號“劉小排r”評論區(qū)

現(xiàn)在該如何防范“極”字bug?

就目前來看,雖然完全解決問題要等到DeepSeek官方下場,但已經(jīng)有網(wǎng)友開始支招解決這個問題了。

例如小紅書網(wǎng)友@大模型產(chǎn)品經(jīng)理,便分享了一招——提示詞緩解



關(guān)鍵的一句提示詞是這樣的:

  • 禁止如下符號序列模式:
    [空格] [幾個token] [占位符/省略符號]

并且這個方法主要是針對調(diào)用API的第三方平臺,若是在DeepSeek V3.1官方,則不需要。

為什么會這樣?

最后,至于為什么DeepSeek V3.1會出現(xiàn)這樣的bug,知乎網(wǎng)友、階躍星辰黃哲威給出了他的看法,并獲得了高贊。



他首先指出,這種現(xiàn)象并非孤例。在他使用小模型和開源數(shù)據(jù)蒸餾,以及在測試早期的R1模型時,就曾遇到過類似的bug。

黃哲威認(rèn)為,這與大模型編程編題時可能出現(xiàn)的一種“惡性模式”(malicious pattern)有關(guān)。他舉例說,在枚舉素數(shù)的任務(wù)中,一個正常的模型本應(yīng)無限地列舉下去,如“素數(shù)表 2, 3, 5, 7 …”。

然而,他觀察到之前一個代號為 R1-0528 的模型會出現(xiàn)一種奇特行為:在列舉一段后會自行停止,變成一個有限的列表,例如“素數(shù)表 2, 3, 5, 7 … 997, 極長”。

這個“極長”的用法,與現(xiàn)在討論的“極”字問題非常相似,常常出現(xiàn)在大量惡性重復(fù)之后,作為正常推理過程的回正。有時,模型甚至?xí)敵觥?0000000…0000極大的數(shù)字”這樣的內(nèi)容。

他進一步描述了這種bug的觸發(fā)場景。當(dāng)模型陷入“thinking”的末尾循環(huán)無法跳出時,有千分之一的概率會突然蹦出一個“極”字,然后終止思考(),這似乎是一種特殊的終止符或標(biāo)記。

通過觀察R1模型大量的輸出,黃哲威發(fā)現(xiàn)了不少問題,包括超長響應(yīng)(response)、大面積的空白字符、不斷的短句重復(fù)等,甚至連thinking末尾的英文字符都變得破碎。

基于以上觀察,他提出了一個核心推測:這個問題的根源可能在于數(shù)據(jù)清洗不徹底。他認(rèn)為,在進行SFT(監(jiān)督微調(diào))數(shù)據(jù)合成,乃至構(gòu)建預(yù)訓(xùn)練數(shù)據(jù)時,可能沒有將一組名為“‘極長’的數(shù)組”的“臟數(shù)據(jù)”清洗干凈。

他推斷,R1模型在處理一些難題的解答時,似乎大量使用了RAG(檢索增強生成)技術(shù),而后續(xù)的RL(強化學(xué)習(xí))階段,模型直接將這個“極”字當(dāng)作了某種終止符或者語言切換標(biāo)記來學(xué)習(xí)和使用了。

最后,黃哲威總結(jié)道,如果R1迭代時的數(shù)據(jù)沒有清洗干凈,模型自行蒸餾并“污染”到正常的輸出過程中,是完全可能發(fā)生的。這為理解DeepSeek V3.1模型出現(xiàn)的“極”字問題提供了一個可能的解釋路徑。



至于這個被網(wǎng)友戲稱為“極你太美”、“‘極’速版”的問題到底何時會徹底解決,就要等DeepSeek官方的新版本了。

參考鏈接:
[1]https://mp.weixin.qq.com/s/MrozcO_iRvoxK1HvgP4IVA
[2]https://www.zhihu.com/question/1942934856603505597
[3]https://www.reddit.com/r/LocalLLaMA/comments/1mzsg6v/deepseek_v31_getting_token_extreme_%E6%9E%81_%E6%A5%B5_out_of/
[4]https://linux.do/t/topic/897789

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
菲船被押送返航,仁愛礁沖突或?qū)⒙淠唬?>
    </a>
        <h3>
      <a href=科技有趣事
2025-08-30 09:59:49
上海啟動防汛防臺三級響應(yīng)行動,全市高速公路限速60km/h

上海啟動防汛防臺三級響應(yīng)行動,全市高速公路限速60km/h

澎湃新聞
2025-08-31 16:40:28
廣汽與華為深度合作的首款智慧旗艦轎車亮相成都車展

廣汽與華為深度合作的首款智慧旗艦轎車亮相成都車展

新京報
2025-08-30 16:24:41
羅瑞卿跳樓,汪東興到醫(yī)院轉(zhuǎn)達中央的意思,毛主席是什么態(tài)度?

羅瑞卿跳樓,汪東興到醫(yī)院轉(zhuǎn)達中央的意思,毛主席是什么態(tài)度?

談古論今歷史有道
2025-08-30 13:31:30
中央點題后,青島濰坊要“同城”!

中央點題后,青島濰坊要“同城”!

鳳凰網(wǎng)青島
2025-08-31 13:30:00
定了!澳大利亞,參加中國閱兵!

定了!澳大利亞,參加中國閱兵!

澳洲財經(jīng)見聞
2025-08-30 16:41:32
塵埃落定!美國人公布釣魚島歸屬重要證據(jù),引爆國際輿論

塵埃落定!美國人公布釣魚島歸屬重要證據(jù),引爆國際輿論

一個有靈魂的作者
2025-08-31 12:30:27
名單公開!26國元首到場,中亞5國一個不落,兩對冤家天安門聚首

名單公開!26國元首到場,中亞5國一個不落,兩對冤家天安門聚首

老閆侃史
2025-08-31 20:05:03
49歲趙薇懶理風(fēng)波游新疆,曬自拍照心情大好!和網(wǎng)友們互動很貼心

49歲趙薇懶理風(fēng)波游新疆,曬自拍照心情大好!和網(wǎng)友們互動很貼心

娛樂團長
2025-08-31 20:17:40
國民黨主席選舉,郝龍斌未下決心,韓國瑜將出手,或推代理人參戰(zhàn)

國民黨主席選舉,郝龍斌未下決心,韓國瑜將出手,或推代理人參戰(zhàn)

現(xiàn)代小青青慕慕
2025-08-31 14:58:16
九三閱兵座次安排出爐,中方給足朝鮮面子,金正恩與普京平起平坐

九三閱兵座次安排出爐,中方給足朝鮮面子,金正恩與普京平起平坐

影孖看世界
2025-08-31 16:38:50
蔣介石晚年評價義兄馮玉祥,見利忘義視權(quán)如命,比三姓家奴尤甚

蔣介石晚年評價義兄馮玉祥,見利忘義視權(quán)如命,比三姓家奴尤甚

南極狼人
2025-08-29 20:10:29
社保的石頭 韓國已經(jīng)摸過了

社保的石頭 韓國已經(jīng)摸過了

盧詩翰
2025-08-13 21:58:51
坐灘船留不得,中方拖船進場,菲高層已亂陣腳,答應(yīng)和中國簽協(xié)議

坐灘船留不得,中方拖船進場,菲高層已亂陣腳,答應(yīng)和中國簽協(xié)議

科技有趣事
2025-08-29 10:10:25
郭德綱首次回應(yīng)郭麒麟家宴遭冷落:背后有公司搞事情,我很愛他!

郭德綱首次回應(yīng)郭麒麟家宴遭冷落:背后有公司搞事情,我很愛他!

甜檸聊史
2025-08-31 12:00:58
淚流滿面!網(wǎng)傳河南一企業(yè)通知為全員交社保,員工稱養(yǎng)老有保障了

淚流滿面!網(wǎng)傳河南一企業(yè)通知為全員交社保,員工稱養(yǎng)老有保障了

火山詩話
2025-08-31 19:07:42
喬治娜訂婚后現(xiàn)身威尼斯,戴30克拉超大鉆戒,嘴角笑容壓不住

喬治娜訂婚后現(xiàn)身威尼斯,戴30克拉超大鉆戒,嘴角笑容壓不住

TVB的四小花
2025-08-31 19:55:58
男人開200公里回家過年,卻被扣高速費5000,交警查監(jiān)控:這是誰

男人開200公里回家過年,卻被扣高速費5000,交警查監(jiān)控:這是誰

白云故事
2025-08-30 12:15:07
美媒驚呼:中國9·3閱兵新裝備太多,情報體系快崩潰

美媒驚呼:中國9·3閱兵新裝備太多,情報體系快崩潰

林子說事
2025-08-28 04:56:24
官方公告 I 陳家政、王洪澤正式升入一隊!

官方公告 I 陳家政、王洪澤正式升入一隊!

廣東華南虎
2025-08-31 20:05:31
2025-08-31 21:28:49
量子位 incentive-icons
量子位
追蹤人工智能動態(tài)
11216文章數(shù) 176256關(guān)注度
往期回顧 全部

科技要聞

入手iPhone 16還是等17?兩款手機全面對比

頭條要聞

夫妻自駕從安徽送兒子去新疆上大學(xué):辛苦但快樂

頭條要聞

夫妻自駕從安徽送兒子去新疆上大學(xué):辛苦但快樂

體育要聞

破2億身家!莎拉波娃的"勝負(fù)腦"

娛樂要聞

胡歌是永遠(yuǎn)都不會離婚的,原因很簡單

財經(jīng)要聞

罕見熱鬧的8月之后,A股將迎怎樣的9月

汽車要聞

家庭泛越野 大狗PLUS預(yù)售煥新11.28萬起

態(tài)度原創(chuàng)

教育
家居
本地
藝術(shù)
游戲

教育要聞

清華追蹤42萬學(xué)生后發(fā)出警告:空心病,正在毀掉孩子

家居要聞

提升功能 靈活居住環(huán)境

本地新聞

換個城市過夏天 | 夏末狂歡,浪在阜新黃家溝!

藝術(shù)要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫法

《半條命3》信徒接棒《絲之歌》 玩家陷集體幻想潮

無障礙瀏覽 進入關(guān)懷版