成人深夜视频网站|日韩高清无码久久|中文a√在线天堂|亚洲黄网站在线看|欧美视频 第二页|日本 久草 天堂|高潮无遮挡黄视频|久久一级内射精品|国产操逼一级视频|五月天婷婷色AV

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

英偉達(dá)推出GB10超級芯片 專為本地AI開發(fā)設(shè)計

0
分享至


在2023年Hot Chips大會上,英偉達(dá)的超級芯片架構(gòu)引入了一種全新的加速工作負(fù)載編程模型,通過高速NVLink結(jié)構(gòu)將CPU與GPU耦合,使PCIe相比之下顯得極其緩慢。

但問題在于,在數(shù)據(jù)中心或云環(huán)境之外,開發(fā)者很難充分利用這一架構(gòu)優(yōu)勢。

英偉達(dá)的Project Digits項目(現(xiàn)已更名為DGX Spark)旨在改變這一現(xiàn)狀,通過推出名為GB10的英偉達(dá)超級芯片架構(gòu)小型化版本面向大眾市場——至少面向那些有超過2999美元預(yù)算的開發(fā)者。

在本周的Hot Chips大會上,GB10首席架構(gòu)師Andi Skende詳細(xì)介紹了其架構(gòu)設(shè)計。

GB10采用臺積電3nm制程工藝制造,由兩個不同的計算核心組成:聯(lián)發(fā)科設(shè)計的CPU芯片和英偉達(dá)設(shè)計的GPU芯片。這兩個芯片通過臺積電2.5D先進(jìn)封裝技術(shù)整合在一起,并通過英偉達(dá)專有的NVLink芯片間互連技術(shù)連接,提供600GB/s的雙向帶寬。

CPU芯片或S芯片采用大小核架構(gòu),包含20個Arm v9.2核心,分布在兩個集群中,X925和Cortex A725核心數(shù)量相等。這些計算集群配備32MB L3緩存(每個集群16MB)以及額外的16MB L4緩存,旨在優(yōu)化GB10計算引擎間的通信。

關(guān)于GB10圖形芯片或G芯片的具體細(xì)節(jié),英偉達(dá)透露信息有限。據(jù)介紹,該芯片在稀疏性條件下可提供約1 petaFLOP的峰值FP4性能,或約31 teraFLOPS的單精度計算性能(FP32)。

這使得GB10以及DGX Spark的AI性能大致與RTX 5070相當(dāng),后者的建議零售價約為550美元。然而,浮點性能并不能說明全部情況。

首先,GB10的功耗效率更高。RTX 5070的TDP為250瓦,而GB10僅為140瓦。

GB10還配備了128GB顯存,而5070只有12GB。充足的顯存容量對于DGX Spark設(shè)計用途的工作負(fù)載至關(guān)重要,因為即使在FP4精度下,模型權(quán)重仍需要每十億參數(shù)約500MB的存儲空間。

與其大型產(chǎn)品GB200和GB300不同,GB10沒有使用超高速HBM內(nèi)存。受功耗和成本限制,英偉達(dá)選擇了時鐘頻率為9400MT/s的LPDDR5x內(nèi)存。

由于該內(nèi)存與CPU芯片的256位內(nèi)存總線結(jié)合,GB10可提供273GB/s至301GB/s的帶寬。內(nèi)存帶寬是推理性能的關(guān)鍵指標(biāo)——內(nèi)存速度越快,芯片輸出Token的速度就越快。使用LPDDR的決定表明英偉達(dá)在內(nèi)存容量和帶寬之間做出了明顯的妥協(xié)。

不過,DGX Spark的設(shè)計用途遠(yuǎn)不止運行本地模型。英偉達(dá)將這款小型AI工作站定位為開發(fā)平臺,用于原型設(shè)計、模型微調(diào)以及本地推理。

微調(diào)是一項計算和內(nèi)存密集型任務(wù),即使使用低秩適應(yīng)和量化技術(shù)來最小化計算需求也是如此。在這種場景下,計算和內(nèi)存容量比帶寬更為重要。

據(jù)英偉達(dá)介紹,Spark的128GB LPDDR5x內(nèi)存足以微調(diào)700億參數(shù)的模型,并可對多達(dá)2000億參數(shù)的模型進(jìn)行推理。

如果需要更大容量,GB10還配備了ConnectX-7網(wǎng)卡,具有一對200GbE端口,允許工作負(fù)載分布在兩臺DGX Spark上,有效地將微調(diào)和推理能力提升一倍。

更重要的是,由于GB10基于與其數(shù)據(jù)中心產(chǎn)品相同的技術(shù),在小型化工作站上開發(fā)的工作負(fù)載無需重構(gòu)即可部署到生產(chǎn)環(huán)境。

Q&A

Q1:GB10芯片有什么特別之處?

A:GB10是英偉達(dá)推出的小型化超級芯片,采用臺積電3nm工藝制造,由聯(lián)發(fā)科設(shè)計的CPU芯片和英偉達(dá)設(shè)計的GPU芯片組成。通過NVLink互連技術(shù)提供600GB/s雙向帶寬,功耗僅140瓦但配備128GB顯存,專為本地AI開發(fā)設(shè)計。

Q2:DGX Spark相比RTX 5070有什么優(yōu)勢?

A:雖然AI性能相當(dāng),但DGX Spark功耗更低(140瓦 vs 250瓦),顯存容量更大(128GB vs 12GB)。128GB顯存可以微調(diào)700億參數(shù)模型,進(jìn)行2000億參數(shù)模型推理,更適合AI開發(fā)和模型微調(diào)工作。

Q3:GB10如何實現(xiàn)擴(kuò)展性?

A:GB10配備ConnectX-7網(wǎng)卡和一對200GbE端口,允許兩臺DGX Spark設(shè)備協(xié)同工作,有效將微調(diào)和推理能力提升一倍。由于采用與數(shù)據(jù)中心產(chǎn)品相同技術(shù),開發(fā)的工作負(fù)載可直接部署到生產(chǎn)環(huán)境無需重構(gòu)。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
這回真要排隊買本田了,2026款本田奧德賽驚艷亮相,神車再進(jìn)化!

這回真要排隊買本田了,2026款本田奧德賽驚艷亮相,神車再進(jìn)化!

三農(nóng)老歷
2025-08-31 01:33:40
警情通報:胡某(男,52歲)駕車失控,致人死亡,已被控制

警情通報:胡某(男,52歲)駕車失控,致人死亡,已被控制

魯中晨報
2025-08-31 10:23:55
“陪我睡覺,費用全包”男生求旅游搭子“限女生”!評論區(qū)太精彩

“陪我睡覺,費用全包”男生求旅游搭子“限女生”!評論區(qū)太精彩

第7情感
2025-08-18 12:08:59
劉震云:低層次家庭,人的腦子里裝的大部分是犟,日子一地雞毛!

劉震云:低層次家庭,人的腦子里裝的大部分是犟,日子一地雞毛!

詩詞中國
2025-08-02 17:28:26
1967年,馬思聰“叛逃”到美國,周總理:這是我平生兩件憾事之一

1967年,馬思聰“叛逃”到美國,周總理:這是我平生兩件憾事之一

帝哥說史
2025-08-29 23:08:21
努諾:接下去必須坐下來和老板談?wù)?,解決球隊的問題

努諾:接下去必須坐下來和老板談?wù)?,解決球隊的問題

雷速體育
2025-09-01 00:10:47
星二代出道也該“卡顏”了,歪瓜裂棗靠邊站,網(wǎng)友票選的是真好看

星二代出道也該“卡顏”了,歪瓜裂棗靠邊站,網(wǎng)友票選的是真好看

大鐵貓娛樂
2025-08-30 18:22:27
石宇奇2-1逆轉(zhuǎn)戰(zhàn)勝昆拉武特,中國隊時隔10年再奪世錦賽男單冠軍

石宇奇2-1逆轉(zhuǎn)戰(zhàn)勝昆拉武特,中國隊時隔10年再奪世錦賽男單冠軍

直播吧
2025-09-01 00:36:06
香港上空,1200架無人機(jī)重現(xiàn)“日本投降矣”

香港上空,1200架無人機(jī)重現(xiàn)“日本投降矣”

觀察者網(wǎng)
2025-08-31 18:55:50
JONY J被整整罵了七年!

JONY J被整整罵了七年!

嘻笑堂
2025-08-31 00:57:48
樊振東德甲首秀,2-3不敵對手魯伊斯,激戰(zhàn)五局遺憾落敗

樊振東德甲首秀,2-3不敵對手魯伊斯,激戰(zhàn)五局遺憾落敗

極目新聞
2025-08-31 22:18:45
比亞迪在香港鬧大了

比亞迪在香港鬧大了

睡前馬戲團(tuán)
2025-08-30 08:44:48
沒想到吧!3輪過后切爾西7分,埃弗頓桑德蘭6分,曼聯(lián)4分曼城3分

沒想到吧!3輪過后切爾西7分,埃弗頓桑德蘭6分,曼聯(lián)4分曼城3分

直播吧
2025-08-31 23:09:52
從“假煙王國”到“電商新貴”:福建云霄的魔幻轉(zhuǎn)型之路

從“假煙王國”到“電商新貴”:福建云霄的魔幻轉(zhuǎn)型之路

奇葩游戲醬
2025-08-31 15:55:05
2005年汪精衛(wèi)的兒子回國祭拜,看到父母的跪像,他淡然說了10個字

2005年汪精衛(wèi)的兒子回國祭拜,看到父母的跪像,他淡然說了10個字

知鑒明史
2025-08-19 14:59:08
錢再多有什么用?70歲張國立的現(xiàn)狀,給娛樂圈明星提了個醒

錢再多有什么用?70歲張國立的現(xiàn)狀,給娛樂圈明星提了個醒

范瞼舍長
2025-08-28 14:24:37
2026款奔馳S驚艷曝光,全新大改款,大佬們的新座駕長這樣!

2026款奔馳S驚艷曝光,全新大改款,大佬們的新座駕長這樣!

生活魔術(shù)專家
2025-08-31 22:44:35
順德必吃的十大美食,吃了就上癮!

順德必吃的十大美食,吃了就上癮!

天山可可
2025-08-18 09:38:50
民國十大軍閥,根據(jù)實力排名如下,你同意嗎?

民國十大軍閥,根據(jù)實力排名如下,你同意嗎?

歷史星空回望
2025-08-27 06:00:03
錢再多也沒用!繼李連杰后黃渤又傳“噩耗”,妻兒成了唯一牽掛

錢再多也沒用!繼李連杰后黃渤又傳“噩耗”,妻兒成了唯一牽掛

奧字侃娛
2025-08-25 15:25:10
2025-09-01 03:00:49
至頂頭條 incentive-icons
至頂頭條
記錄和推動數(shù)字化創(chuàng)新
13926文章數(shù) 49653關(guān)注度
往期回顧 全部

科技要聞

入手iPhone 16還是等17?兩款手機(jī)全面對比

頭條要聞

車輛占道違停小車逆行超車撞車 險企欲讓占道車擔(dān)責(zé)

頭條要聞

車輛占道違停小車逆行超車撞車 險企欲讓占道車擔(dān)責(zé)

體育要聞

破2億身家!莎拉波娃的"勝負(fù)腦"

娛樂要聞

胡歌是永遠(yuǎn)都不會離婚的,原因很簡單

財經(jīng)要聞

罕見熱鬧的8月之后,A股將迎怎樣的9月

汽車要聞

家庭泛越野 大狗PLUS預(yù)售煥新11.28萬起

態(tài)度原創(chuàng)

時尚
房產(chǎn)
家居
手機(jī)
健康

看來看去還是這些穿搭最適合夏天,不沉悶、不顯老,舒適減齡

房產(chǎn)要聞

顛覆認(rèn)知!??谡嬲暮勒髌?,終于出現(xiàn)了!

家居要聞

提升功能 靈活居住環(huán)境

手機(jī)要聞

萬萬沒想到:蘋果已停售MagSafe外接電池可用于谷歌 Pixel 10 Pro

精神科專家解答學(xué)習(xí)困難七大問題

無障礙瀏覽 進(jìn)入關(guān)懷版