成人深夜视频网站|日韩高清无码久久|中文a√在线天堂|亚洲黄网站在线看|欧美视频 第二页|日本 久草 天堂|高潮无遮挡黄视频|久久一级内射精品|国产操逼一级视频|五月天婷婷色AV

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

DeepSeek一句話讓國(guó)產(chǎn)芯片集體暴漲!背后的UE8M0 FP8到底是個(gè)啥

0
分享至

DeepSeek V3.1發(fā)布后,一則官方留言讓整個(gè)AI圈都轟動(dòng)了:



新的架構(gòu)、下一代國(guó)產(chǎn)芯片,總共短短不到20個(gè)字,卻蘊(yùn)含了巨大信息量。

國(guó)產(chǎn)芯片企業(yè)股價(jià)也跟風(fēng)上漲,比如寒武紀(jì)今日早盤盤中大漲近14%,總市值躍居科創(chuàng)板頭名。

半導(dǎo)體ETF,同樣也是在半天的時(shí)間里大漲5.89%。(不知道作為放出消息的DeepSeek背后公司幻方量化,有沒(méi)有趁機(jī)炒一波【手動(dòng)狗頭】)



這個(gè)UE8M0 FP8到底是個(gè)啥?下一代國(guó)產(chǎn)芯片,又是指什么?

接踵而來(lái)的疑問(wèn),擠爆了人們的大腦。



在知乎上,也有不少大神開(kāi)始邊科普邊分析自己對(duì)這件事的理解。



咱抱著學(xué)習(xí)心態(tài),不妨就從UE8M0 FP8的概念開(kāi)始說(shuō)起。

什么是UE8M0 FP8?

“UE8M0 FP8”這個(gè)概念,可以拆分成前后兩個(gè)部分來(lái)解釋,前面的UE8M0,是MXFP8路徑里的“縮放因子”。

MXFP8是Open Compute Project在2023年發(fā)布的《Microscaling (MX) Formats Specification v1.0》里定義的8 bit微縮塊格式。

Open Compute Project是2011年由Facebook(現(xiàn)Meta)聯(lián)合英特爾、Rackspace等發(fā)起的開(kāi)源硬件協(xié)作計(jì)劃,目的是通過(guò)共享數(shù)據(jù)中心及服務(wù)器設(shè)計(jì)推動(dòng)行業(yè)效率提升。

其成員陣容相當(dāng)強(qiáng)大,國(guó)外還有微軟、谷歌、亞馬遜、AMD、英偉達(dá)等,而國(guó)內(nèi)的阿里、騰訊、百度等也參與其中。

說(shuō)回MXFP8,它以FP8為基礎(chǔ)建立,F(xiàn)P8是把常規(guī)浮點(diǎn)格式壓縮到8 bit的一種編碼方式。

MXFP8的核心思想是先把張量切成固定長(zhǎng)度的“塊”,然后為每個(gè)塊單獨(dú)指定一個(gè)2的整數(shù)次冪作為“縮放因子”,把塊內(nèi)所有數(shù)一起除以這個(gè)系數(shù)后再寫(xiě)成FP8。

這種塊級(jí)(而不是全張量級(jí))的縮放,讓MXFP8既保留了8 bit位寬,又把可用動(dòng)態(tài)范圍擴(kuò)展了幾十倍。



△來(lái)源:英偉達(dá)技術(shù)博客

而這里的“縮放因子”也是包含8個(gè)bit,其中包含符號(hào)位、指數(shù)位和尾數(shù)位,開(kāi)發(fā)者可以自行將這8個(gè)bit分配給這三種不同的位。

其中符號(hào)位只區(qū)分有無(wú),若有則占一個(gè)bit,無(wú)則不占用,而UE8M0中的U表示的就是無(wú)符號(hào)(有符號(hào)可表示為S或省略不寫(xiě))。

E和M則分別表示指數(shù)位和尾數(shù)位分配到的bit數(shù),E8M0指的就是8個(gè)bit全都分配給了指數(shù)位。

其他常用的格式還有E4M3、E5M2(縮放引子外的本體部分也常采用這兩種)等,它們均包含符號(hào)位,其余7個(gè)bit在指數(shù)和尾數(shù)位之間分配。



DeepSeek之前開(kāi)源的5.6k星標(biāo)項(xiàng)目FP8 GEMM內(nèi)核DeepGEMM就已經(jīng)支持UE8M0,不過(guò)這個(gè)項(xiàng)目主要是適配英偉達(dá)芯片和CUDA生態(tài)。



那么,采用這種全指數(shù)表示縮放因子的方式,有什么好處呢?

首先,由于UE8M0不含尾數(shù)與符號(hào)位,處理器在根據(jù)縮放因子對(duì)數(shù)據(jù)進(jìn)行復(fù)原時(shí),只需要乘以對(duì)應(yīng)的2的冪,也就是移動(dòng)一下指數(shù)位,而不需要浮點(diǎn)乘法、規(guī)格化或舍入邏輯,縮短了時(shí)鐘關(guān)鍵路徑。

并且UE8M0的動(dòng)態(tài)范圍覆蓋2^(?127)到2^128,其指數(shù)表可輕松容納這一跨度,為后續(xù)塊縮放提供充足空間。

另外UE8M0還能解決單尺度FP8無(wú)法同時(shí)顧及大/小值,導(dǎo)致溢出或被壓成0的問(wèn)題,將UE8M0作為分塊的尺度后,錯(cuò)誤率曲線從整張曲線下降到一條遠(yuǎn)低水平的橫線,在保持8 bit張量精度的同時(shí)大幅減少信息損失。



△來(lái)源:英偉達(dá)技術(shù)博客

UE8M0 FP8的好處我們了解了,現(xiàn)在可以解釋為什么它更適配“下一代國(guó)產(chǎn)芯片”了。

大部分已量產(chǎn)的國(guó)產(chǎn)AI加速器仍沿用FP16/BF16 + INT8的計(jì)算通路,并未集成E4M3/E5M2這類完整的FP8乘加單元。

不過(guò),摩爾線程MUSA 3.1 GPU、芯原VIP9000 NPU等2025 H2首發(fā)的新款國(guó)產(chǎn)芯片已經(jīng)在宣傳資料里列出“原生 FP8”或“Block FP8”支持,并與 DeepSeek、華為等15家廠商聯(lián)合驗(yàn)證UE8M0格式。

雖然下一代國(guó)產(chǎn)芯片雖然已經(jīng)在為FP8做出準(zhǔn)備,但HBM/LPPDDR帶寬仍然與頂尖芯片存在較大差距。

而UE8M0讓一組32個(gè)FP8數(shù)據(jù)只追加8bit縮放引子,相比傳統(tǒng)的4B(32bit) FP32縮放直接節(jié)省75%的流量,這種空間節(jié)約措施被視作下一代架構(gòu)的重要優(yōu)化方向。

DeepSeek為哪個(gè)國(guó)產(chǎn)芯片做了優(yōu)化?

在搞清楚啥是UE8M0 FP8之后,回過(guò)神來(lái)的網(wǎng)友們又開(kāi)始紛紛猜測(cè):

DeepSeek這是在說(shuō)哪一家的國(guó)產(chǎn)芯片呢?

在官方有意賣關(guān)子的情況下,人們只好首先把目光放在了首批通過(guò)“DeepSeek大模型適配”的8家廠商。

△來(lái)源:中國(guó)信通院官微

這當(dāng)中大家看好的“頭號(hào)種子選手”當(dāng)屬寒武紀(jì),市場(chǎng)反應(yīng)相當(dāng)直觀——

截至今日10:25,寒武紀(jì)盤中大漲近14%,總市值超4940億元,超過(guò)中芯國(guó)際躍居科創(chuàng)板頭名(實(shí)際以最新為準(zhǔn))。

理由也很簡(jiǎn)單,該公司旗下的MLU370-S4、思元590及最新690系列芯片均支持FP8計(jì)算,在架構(gòu)設(shè)計(jì)和低精度計(jì)算優(yōu)化上一直相對(duì)比較領(lǐng)先。

而基于類似理由,海光、沐曦,中昊芯英甚至包括名單之外的摩爾線程等也都被網(wǎng)友們挨個(gè)點(diǎn)名:

  • 海光:其深算三號(hào)DCU支持FP8計(jì)算,存在進(jìn)一步優(yōu)化的空間;
  • 沐曦:今年7月發(fā)布的曦云C600,也支持FP8精度計(jì)算;
  • 中昊芯英: 其“剎那”TPU AI芯片支持FP8精度;
  • 摩爾線程:作為國(guó)內(nèi)極少數(shù)原生支持FP8的GPU廠商,旗艦產(chǎn)品MTT S5000支持FP8精度計(jì)算。

與此同時(shí),一些很有可能“即將上車FP8”的廠商也出現(xiàn)在了一眾盤點(diǎn)名單中。

例如華為昇騰,雖然昇騰910B和910C暫不支持原生FP8,但官方路線圖已經(jīng)寫(xiě)明“2025Q4原生FP8”,所以眾人預(yù)計(jì)或?qū)⒃?026年推出的910D(可能的命名)很有可能是所謂的“下一代芯片”。

除了以上這些,還有一大串芯片廠商的名字出現(xiàn)在了討論當(dāng)中,堪稱盛況空前。

雖然猜來(lái)猜去沒(méi)有最終定論,但不妨礙市場(chǎng)給予熱烈回應(yīng)。根據(jù)最新消息,今日國(guó)產(chǎn)芯片概念集體高開(kāi),科創(chuàng)50大漲3%創(chuàng)近三年半新高,芯片產(chǎn)業(yè)鏈集體走強(qiáng)。



所以,大家為什么集體狂歡?這些國(guó)產(chǎn)芯片一旦支持UE8M0 FP8究竟意味著什么?

綜合當(dāng)前國(guó)內(nèi)外各方說(shuō)法來(lái)看,一切都可以用一句話來(lái)概括:

  • 這代表了國(guó)產(chǎn)AI正走向軟硬協(xié)同階段,能夠?qū)嵸|(zhì)性減少對(duì)英偉達(dá)、AMD等國(guó)外算力的依賴。

這里頭的邏輯也很簡(jiǎn)單清晰,正是由于UE8M0 FP8精度格式所具備的上述優(yōu)勢(shì)(更小的帶寬、更低的功耗、更高的吞吐),這意味著同樣的硬件今后能跑更大的模型,所以國(guó)產(chǎn)芯片的“性價(jià)比”被大幅拉高了。

換句話說(shuō),這些國(guó)產(chǎn)芯片廠商將在競(jìng)爭(zhēng)中更具優(yōu)勢(shì),因此也就屬于利好了。

從另一方面來(lái)看,DeepSeek通過(guò)改動(dòng)精度格式,相當(dāng)于主動(dòng)貼合國(guó)產(chǎn)芯片的最佳性能點(diǎn),這種軟硬協(xié)同的模式無(wú)疑是把國(guó)產(chǎn)芯片們拉進(jìn)了一個(gè)統(tǒng)一的生態(tài)坐標(biāo)系。

這就像當(dāng)年的“Wintel聯(lián)盟”一樣——微軟和英特爾通過(guò)深度技術(shù)綁定,筑起了個(gè)人計(jì)算機(jī)領(lǐng)域的生態(tài)護(hù)城河,只不過(guò)如今換成了DeepSeek和國(guó)產(chǎn)芯片廠商們。

One More Thing

事實(shí)上,官方在正文部分提到UE8M0 FP8的只有一句話:

  • 需要注意的是,DeepSeek-V3.1使用了UE8M0 FP8 Scale的參數(shù)精度。

而且位置相當(dāng)“隱蔽”,藏在了一大段洋洋灑灑的功能更新介紹之后。



要不是官方特意在評(píng)論區(qū)補(bǔ)了一句,估計(jì)大家還沒(méi)啥感覺(jué)。

所以你說(shuō)它這個(gè)動(dòng)作吧,不知道算無(wú)意還是刻意為之,總之是相當(dāng)微妙了(手動(dòng)狗頭)。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
德云系自媒體爆料,郭德綱賬號(hào)取關(guān)六百多人,和前大徒弟有關(guān)

德云系自媒體爆料,郭德綱賬號(hào)取關(guān)六百多人,和前大徒弟有關(guān)

我就是個(gè)碼字的
2025-08-30 08:30:03
趙繼偉宴請(qǐng)全隊(duì)25人!送別3隊(duì)友!50道大菜擺滿,有烤全羊大龍蝦

趙繼偉宴請(qǐng)全隊(duì)25人!送別3隊(duì)友!50道大菜擺滿,有烤全羊大龍蝦

老吳說(shuō)體育
2025-08-31 01:03:29
1973年,入獄7年,58歲的她無(wú)罪釋放,她卻拒絕出獄

1973年,入獄7年,58歲的她無(wú)罪釋放,她卻拒絕出獄

玥來(lái)玥好講故事
2025-08-29 20:36:14
“吃飯八分飽”錯(cuò)了?醫(yī)生建議:過(guò)了60歲,吃飯要盡量做到這7點(diǎn)

“吃飯八分飽”錯(cuò)了?醫(yī)生建議:過(guò)了60歲,吃飯要盡量做到這7點(diǎn)

說(shuō)歷史的老牢
2025-08-30 11:17:31
神經(jīng)內(nèi)科醫(yī)生勸告:這5種不舒服其實(shí)是腦梗,千萬(wàn)別大意,速看!

神經(jīng)內(nèi)科醫(yī)生勸告:這5種不舒服其實(shí)是腦梗,千萬(wàn)別大意,速看!

華庭講美食
2025-08-27 16:23:47
上海夫妻冷戰(zhàn)十年分房睡,妻子突然病逝,丈夫整理房間發(fā)現(xiàn)這個(gè)

上海夫妻冷戰(zhàn)十年分房睡,妻子突然病逝,丈夫整理房間發(fā)現(xiàn)這個(gè)

飛云如水
2025-08-17 22:33:09
前所未有!俄軍空襲剛開(kāi)始,烏軍就開(kāi)始反擊,直接與俄羅斯對(duì)轟!

前所未有!俄軍空襲剛開(kāi)始,烏軍就開(kāi)始反擊,直接與俄羅斯對(duì)轟!

阿龍聊軍事
2025-06-07 20:04:46
男子花20萬(wàn)買二手房,洗澡時(shí)卻流出紅色液體,物業(yè)上門檢查水箱傻眼

男子花20萬(wàn)買二手房,洗澡時(shí)卻流出紅色液體,物業(yè)上門檢查水箱傻眼

罪案洞察者
2025-08-30 09:49:35
惡鄰占公共走廊放鞋柜,看網(wǎng)友“神”操作后,直呼 “干得漂亮”

惡鄰占公共走廊放鞋柜,看網(wǎng)友“神”操作后,直呼 “干得漂亮”

裝修秀
2025-08-30 10:50:03
當(dāng)年為什么查辦褚時(shí)健?

當(dāng)年為什么查辦褚時(shí)???

百曉生談歷史
2025-08-20 21:55:53
公安部發(fā)布!退休人員必看,事關(guān)錢袋子、養(yǎng)老金,不要掉以輕心

公安部發(fā)布!退休人員必看,事關(guān)錢袋子、養(yǎng)老金,不要掉以輕心

雙色球的方向舵
2025-08-29 15:41:13
已確認(rèn),即將抵達(dá)!暴雨+10級(jí)大風(fēng),再熬一天,浙江高溫退散!臺(tái)風(fēng)最新路徑公布

已確認(rèn),即將抵達(dá)!暴雨+10級(jí)大風(fēng),再熬一天,浙江高溫退散!臺(tái)風(fēng)最新路徑公布

浙江消防
2025-08-30 18:10:11
暴雨、大暴雨!臺(tái)風(fēng),又來(lái)了

暴雨、大暴雨!臺(tái)風(fēng),又來(lái)了

環(huán)球網(wǎng)資訊
2025-08-30 14:55:27
為什么社會(huì)上的單親媽媽,越來(lái)越多了?

為什么社會(huì)上的單親媽媽,越來(lái)越多了?

加油丁小文
2025-08-20 06:00:03
噩耗!藥企大佬尹正龍去世,僅60歲,當(dāng)天上午還在開(kāi)會(huì),死因曝光

噩耗!藥企大佬尹正龍去世,僅60歲,當(dāng)天上午還在開(kāi)會(huì),死因曝光

云景侃記
2025-08-28 14:16:26
記者:安東尼加盟貝蒂斯轉(zhuǎn)會(huì)費(fèi)2500萬(wàn)鎊,曼聯(lián)有50%二轉(zhuǎn)分成

記者:安東尼加盟貝蒂斯轉(zhuǎn)會(huì)費(fèi)2500萬(wàn)鎊,曼聯(lián)有50%二轉(zhuǎn)分成

懂球帝
2025-08-30 04:05:34
董璇給張維伊老家親戚買金子,男方瞬間變臉,雙方經(jīng)濟(jì)實(shí)力差太多

董璇給張維伊老家親戚買金子,男方瞬間變臉,雙方經(jīng)濟(jì)實(shí)力差太多

萌神木木
2025-08-30 14:00:10
圈內(nèi)大佬親述,陪睡陪玩只是冰山一角,岳云鵬、楊冪、許凱

圈內(nèi)大佬親述,陪睡陪玩只是冰山一角,岳云鵬、楊冪、許凱

農(nóng)村娛樂(lè)光哥
2025-08-29 11:15:35
叔叔宗繼昌律師發(fā)聲:宗慶后晚年承認(rèn)外有三孩子,說(shuō)不會(huì)虧待他們

叔叔宗繼昌律師發(fā)聲:宗慶后晚年承認(rèn)外有三孩子,說(shuō)不會(huì)虧待他們

興史興談
2025-07-14 15:41:56
提新車住豪宅,68歲“丁克”了一輩子的葛優(yōu),最終活成了人生贏家

提新車住豪宅,68歲“丁克”了一輩子的葛優(yōu),最終活成了人生贏家

瓜農(nóng)娟姐
2025-08-30 16:06:15
2025-08-31 03:47:00
量子位 incentive-icons
量子位
追蹤人工智能動(dòng)態(tài)
11215文章數(shù) 176256關(guān)注度
往期回顧 全部

科技要聞

李斌內(nèi)部講話:蔚來(lái)四季度必須盈利

頭條要聞

媒體:日本忍不了了 最后一刻取消訪美

頭條要聞

媒體:日本忍不了了 最后一刻取消訪美

體育要聞

扛著別人的老婆,贏下那該死的冠軍

娛樂(lè)要聞

吳京風(fēng)波拉出多位明星

財(cái)經(jīng)要聞

美上訴法院裁定特朗普關(guān)稅非法!

汽車要聞

全國(guó)靜態(tài)品鑒開(kāi)啟 方程豹鈦7成都車展首秀

態(tài)度原創(chuàng)

本地
健康
旅游
藝術(shù)
公開(kāi)課

本地新聞

換個(gè)城市過(guò)夏天 | 夏末狂歡,浪在阜新黃家溝!

精神科專家解答學(xué)習(xí)困難七大問(wèn)題

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

藝術(shù)要聞

故宮珍藏的墨跡《十七帖》,比拓本更精良,這才是地道的魏晉寫(xiě)法

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版