成人深夜视频网站|日韩高清无码久久|中文a√在线天堂|亚洲黄网站在线看|欧美视频 第二页|日本 久草 天堂|高潮无遮挡黄视频|久久一级内射精品|国产操逼一级视频|五月天婷婷色AV

網易首頁 > 網易號 > 正文 申請入駐

算力不開放,智能難平權:萬億參數時代,誰為開源模型托底?

0
分享至



2025 年8月7日,恰逢開放計算技術大會開幕,立秋的北京酷熱難耐,仍然無法阻止全球ICT、智算從業(yè)者,以及不少想用好AI的企業(yè)前來參會的熱情。人潮涌動的展廳,座無虛席的會場,說明各個行業(yè)都有不少落地AI的困惑與問題,迫切渴望尋找解決之法。

企業(yè)做AI,一定都遇到過這樣的情況:

下載了開源大模型,想自己訓練專有模型,但服務器顯存不夠,萬億參數模型的推理頻繁中斷,跑一次崩一次;

業(yè)務部門的同事對AI的響應時間極為敏感,多個模型及智能體協同作業(yè)時,等待時間一長就怨聲載道,IT部門沒少吃投訴;

聽說超節(jié)點技術能解決算力問題,一打聽,這東西也太貴了,部署之前還得解決液冷、高壓供電、復雜互聯系統(tǒng)之類的要求,只有巨頭能玩,自家企業(yè)的現有IT設施無法上車。

如何在業(yè)務中用好開源大模型,是當下企業(yè)智能化最迫切的任務。而具備開放架構、成熟技術、穩(wěn)定高效部署的超節(jié)點,成了希望所在。2025開放計算技術大會現場,浪潮信息展廳的元腦SD200超節(jié)點,就吸引了不少觀眾駐足。



據了解,元腦SD200超節(jié)點AI服務器是浪潮信息面向萬億參數大模型AI時代而設計,以開放設計支持64路本土GPU芯片,可單機運行超萬億參數大模型,實現多模型機內并行與智能體實時協作,采用創(chuàng)新多主機低延遲內存語義通信架構,64卡整機推理性能呈超線性擴展,更重要的是已實現商用部署,可高效支持企業(yè)實現多開源大模型的規(guī)?;瘧?。

實現AI普惠化需要開源大模型與開放超節(jié)點的協同創(chuàng)新。以DeepSeek、KIMI等開源大模型為基礎,結合元腦SD200商用開放超節(jié)點的強大算力支撐,將產生怎樣的技術倍增效應?

咱們就從這場開放計算技術大會上行業(yè)熱議的話題聊起。



先進的大模型開源了,意味著所有企業(yè)都能用好AI了?沒那么簡單。所謂智能平權,是指不同規(guī)模的企業(yè)、組織乃至個人,都能公平獲取和運用AI能力。

開源大模型的普及,確實為各類企業(yè)提供了技術底座。但許多企業(yè)在部署開源大模型時,還會面臨一個共性問題:如何找到能高效承載萬億級模型的AI基礎設施,讓技術潛力真正落地為業(yè)務生產力?

首先,開源大模型邁向萬億級,穩(wěn)定運行的前提是放得下。KIMI-K2為代表的先進開源大模型參數量達萬億規(guī)模,特別是當邁入Agentic AI(代理式AI)階段,企業(yè)一般不會只用一個大模型。為了充分發(fā)揮不同大模型的特色優(yōu)勢,多個超大規(guī)模參數的大模型同時跑起來,產生的KV Cache超過了傳統(tǒng)多卡服務器的承載極限,實時交互時往往因內存溢出導致任務中斷。如何解決這個問題?



本次開放計算技術大會上,業(yè)內討論了scale out(橫向擴展)與scale up(縱向擴展)兩條技術路線,共識是:超節(jié)點通過scale up在單機內高密度集成計算單元,構建單一統(tǒng)一計算域,實現超大統(tǒng)一顯存空間,是必然選擇

其次,AI應用不僅要能跑,還要跑得快。將多張加速卡連起來,但這還不夠。傳統(tǒng)架構中,跨節(jié)點鏈路過長會導致通信延遲飆升,尤其在推理場景中,幾MB的小數據包高頻交互,對延遲極為敏感。特別是當AI應用從訓練階段轉向推理與后訓練為主,海量token的實時處理需要極致的通信效率,所以scale up系統(tǒng)還需要解決高效通信的問題。

更關鍵的是,技術方案必須能落地。再好的超節(jié)點系統(tǒng),如果不能被部署到企業(yè)現有設施中,不能響應實際業(yè)務需求,那也只是畫餅而無法充饑。目前,企業(yè)普遍存在多品牌多批次芯片的混搭算力現狀,而模型在異構算力平臺間遷移困難的問題,正成為AI落地的主要障礙。而開放架構的超節(jié)點,可以兼容多元算力芯片,讓企業(yè)原來的IT投資不浪費,掌握選擇權,并通過開源軟件生態(tài),支持模型的快速遷移與AI應用的敏捷上線。





所以,能落地的開放超節(jié)點,也就和開源大模型一起,成為智能平權的兩大基本要素,讓企業(yè)真正實現“技術平權、智能平權”。

回應最終用戶的所想所要,才是企業(yè)級市場真正需要的超節(jié)點,而以應用導向、客戶需求來研發(fā),才能構成對市場的正向引導??陀^來看,市面上成熟可商用的開放超節(jié)點,并不多見。所以,元腦SD200在此次大會上讓大家格外關注。

那么,打造開放超節(jié)點,究竟存在什么難點呢?



基于開放架構的超節(jié)點,為開源大模型的規(guī)?;涞睾蛻脛?chuàng)新提供支撐,二者協同才能真正突破算法與算力的雙重壁壘。這個理想很豐滿,但把開放超節(jié)點從理念轉化為成熟可商用的產品,并非易事。

首要挑戰(zhàn)就是構建大規(guī)模、高集成度的Scale Up系統(tǒng),Scale out技術比較成熟,實現起來更簡單。而Scale Up的復雜度更高,以前的一些成熟技術和管理軟件也不夠用,需要針對性地開發(fā)。

其次,便是工程化的問題。芯片的跨距離傳輸會受到光模塊的影響,故障率和功耗都會影響傳輸性能。銅纜又有連接極限,怎么在有限的空間內堆積更多的計算芯片,需要創(chuàng)新的架構設計和工程實踐。



顯然,要把開放超節(jié)點帶進現實,必須得系統(tǒng)性創(chuàng)新。因此,元腦SD200率先闖過重重難關,為行業(yè)提供了有益的實踐參考。具體是怎么做的?

第一步,開放架構,構建AI可用的算力底座。

基于OCM(開放算力模組)+OAM(開放加速模塊)融合架構,元腦SD200實現多元算力芯片兼容,單機可集成64路本土GPU芯片,滿足萬億規(guī)模大模型運行的算力需求。采用3D Mesh開放架構,實現8倍顯存擴增,單機可提供4TB顯存與64TB內存,支持1.2萬億參數Kimi K2模型的流暢推理。這種模塊化設計支持靈活擴展,解決了傳統(tǒng)架構在部署成本、擴展難度和長期運維上的痛點,顯著降低開源大模型的落地門檻。



第二步,軟硬協同,實現AI好用的性能優(yōu)化。

軟件在超節(jié)點復雜的系統(tǒng)當中,發(fā)揮著非常重要的作用。元腦SD200通過智能總線管理,實現64卡全局最優(yōu)路由自動創(chuàng)建,支持多拓撲靈活切換與資源按需分配。結合預填充-解碼(Prefill-Decoder)分離推理框架,系統(tǒng)實現軟硬件深度協同,智能化調度復雜AI計算任務。

軟硬協同的創(chuàng)新設計,實現了性能的超線性擴展,讓元腦SD200在大模型場景中展示出非常好的性能表現,比如,滿機運行DeepSeek R1全參模型推理性能超線性提升比為3.7倍,滿機運行Kimi K2全參模型推理性能超線性提升比為1.7倍。說明超節(jié)點并不是堆更多卡就夠了,還要有軟硬協同、系統(tǒng)優(yōu)化,才能拉開差距。

第三步,產業(yè)鏈整合,打造AI易用的成熟方案。

據了解,元腦SD200采用了很多開源開放的技術,作為系統(tǒng)級廠商,浪潮信息牽引產業(yè)鏈上下游開展協同創(chuàng)新。比如,元腦SD200原生支持PyTorch、TensorFlow等主流框架,確保本土頂級開源模型的無縫遷移與Day0快速上線。其高效風冷散熱設計無需改造現有機房,成熟度與穩(wěn)定性優(yōu)勢顯著,可以靈活部署到企業(yè)已有的數據中心機房里,快速上線業(yè)務。

這種系統(tǒng)性創(chuàng)新使元腦SD200成為開放超節(jié)點的標桿產品。萬億級模型也放得下、跑得快、能落地,元腦SD200的成功闖關,把智能平權從口號變成了可觸摸的現實,讓業(yè)內看到了開放超節(jié)點的可行性。



今年一月,OpenAI CEO山姆?奧特曼坦言在開源問題上“OpenAI可能站錯了歷史的一邊”,中國的DeepSeek、通義千問等開源模型迅速崛起,特朗普政府呼吁美國AI 開發(fā)商更多開源技術……

這些2025年的AI產業(yè)新變化,可以匯總出一個清晰的趨勢:通過開源開放,讓AI成為全社會的生產力工具,實現智能平權,是技術演進與產業(yè)發(fā)展的必然選擇。

但開源大模型爆發(fā)式增長的同時,大模型落地的算力門檻,卻讓不少企業(yè)只能望“智”興嘆。



這時候,浪潮信息以元腦SD200開放超節(jié)點為支點,將開放架構與開源模型深度耦合,正站在歷史前進的方向上。

為什么浪潮信息會成為開放超節(jié)點的破局者?打造成熟可商用的開放超節(jié)點,要求企業(yè)具備橫跨硬件架構、軟件棧優(yōu)化、生態(tài)協同的系統(tǒng)級能力。元腦SD200從芯片互連到應用調度的全棧創(chuàng)新,正是系統(tǒng)級廠商獨有的技術壁壘。

更關鍵的是系統(tǒng)級廠商的產業(yè)鏈整合能力。

浪潮信息副總經理趙帥表示,以應用為導向,以系統(tǒng)為核心,聚焦系統(tǒng)架構的創(chuàng)新,在當前的成本和應用性能約束的條件下,思考怎么為用戶創(chuàng)造更大的價值,這是最佳的突破路徑。



他提到,后續(xù)浪潮信息也會持續(xù)超節(jié)點架構的開放戰(zhàn)略,通過技術共享促進產業(yè)鏈協同創(chuàng)新,加速超節(jié)點技術的產業(yè)化進程。隨著產業(yè)生態(tài)的成熟和市場選擇的多元化,企業(yè)將獲得更優(yōu)化的技術方案選擇:既能夠滿足高性能計算需求,又能實現更合理的成本。這一開放策略將有效降低技術應用門檻,推動AI基礎設施的規(guī)模化普及。

當更多企業(yè)加入超節(jié)點應用陣營,智算產業(yè)的市場蛋糕將持續(xù)做大,整個產業(yè)鏈也將在規(guī)模效應中共享增長價值。

不難發(fā)現,開放的生態(tài)活力,最終會反哺系統(tǒng)級廠商自身。通過開放架構,浪潮信息的技術壁壘與標準壁壘,有望構建起長期優(yōu)勢,在全球市場獲得更大競爭力,打開廣闊商業(yè)空間。

以開源開放牽引產業(yè)鏈升級,進擊全球智算市場,中國智算企業(yè)正站在歷史前進的方向上——這或許是開放計算技術大會和元腦SD200超節(jié)點,帶給我們的終極啟示。

這條智能平權之路,值得中國智算產業(yè)鏈全力以赴。



聲明:個人原創(chuàng),僅供參考

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
男人開200公里回家過年,卻被扣高速費5000,交警查監(jiān)控:這是誰

男人開200公里回家過年,卻被扣高速費5000,交警查監(jiān)控:這是誰

白云故事
2025-08-30 12:15:07
山西養(yǎng)老院暴打85歲老人:打人者真容曝光,身份不一般,官方回應

山西養(yǎng)老院暴打85歲老人:打人者真容曝光,身份不一般,官方回應

奇思妙想草葉君
2025-09-04 01:56:53
上海虹橋機場兩張深夜偷拍照流出,曝光了一線城市真正的頂配

上海虹橋機場兩張深夜偷拍照流出,曝光了一線城市真正的頂配

月影說職場
2025-09-04 21:00:03
昆凌有了大媽味,個子矮最多1米6,與周杰倫逛澳洲商場素顏太一般

昆凌有了大媽味,個子矮最多1米6,與周杰倫逛澳洲商場素顏太一般

小咪侃娛圈
2025-09-03 11:32:31
官宣前幾小時才得知!泰晤士:列維對離職很震驚,他周五還要開會

官宣前幾小時才得知!泰晤士:列維對離職很震驚,他周五還要開會

直播吧
2025-09-05 20:40:06
上海男籃仍不死心!拿到球王張鎮(zhèn)麟后,新賽季拿下首鋼的戰(zhàn)術出爐

上海男籃仍不死心!拿到球王張鎮(zhèn)麟后,新賽季拿下首鋼的戰(zhàn)術出爐

十點體壇
2025-09-05 12:08:11
喊上門按摩,發(fā)現是女同學媽媽,結束后她問我:還要別的服務嗎?

喊上門按摩,發(fā)現是女同學媽媽,結束后她問我:還要別的服務嗎?

凱裕說故事
2025-09-03 16:59:48
高葉穿著金色鏤空禮服出席活動,胸前的兩顆大寶石,感覺怪怪的

高葉穿著金色鏤空禮服出席活動,胸前的兩顆大寶石,感覺怪怪的

娛圈小愚
2025-09-05 15:24:11
可能永遠無法破解的幾個宇宙之謎,最后一個細思極恐!

可能永遠無法破解的幾個宇宙之謎,最后一個細思極恐!

宇宙時空
2025-08-05 23:55:03
章子怡發(fā)文悼念

章子怡發(fā)文悼念

魯中晨報
2025-09-05 09:07:06
國足或1個月敲定新帥!已有5大候選,卡納瓦羅自薦,2人已退出

國足或1個月敲定新帥!已有5大候選,卡納瓦羅自薦,2人已退出

奧拜爾
2025-09-05 18:19:22
突發(fā)兩大利好!創(chuàng)業(yè)板暴漲6.55%直接反包,關注今晚大事件

突發(fā)兩大利好!創(chuàng)業(yè)板暴漲6.55%直接反包,關注今晚大事件

看財經show
2025-09-05 16:49:25
濫用藥物+吸食毒品!美國游泳奧運6金王,被妻子告上法庭

濫用藥物+吸食毒品!美國游泳奧運6金王,被妻子告上法庭

全景體育V
2025-09-05 08:40:53
烏軍總司令西爾斯基,是否達到了戰(zhàn)神水平?這5大戰(zhàn)役證明一切

烏軍總司令西爾斯基,是否達到了戰(zhàn)神水平?這5大戰(zhàn)役證明一切

黑洞觀星
2025-07-30 17:59:53
主動退出奧運申辦!中國這一招,讓西方媒體無話可說

主動退出奧運申辦!中國這一招,讓西方媒體無話可說

青梅侃史啊
2025-08-18 16:14:26
離婚3年后,董子健也沒想到,自己8歲的女兒竟然為前妻孫怡爭光了

離婚3年后,董子健也沒想到,自己8歲的女兒竟然為前妻孫怡爭光了

艷姐的搞笑視頻
2025-09-06 01:46:21
樊振東德甲再戰(zhàn),票價瘋漲7倍、一票難求;隊長弗朗西斯卡陪同一日兩練,前教練吳敬平鼓勵:磨礪中綻放!

樊振東德甲再戰(zhàn),票價瘋漲7倍、一票難求;隊長弗朗西斯卡陪同一日兩練,前教練吳敬平鼓勵:磨礪中綻放!

魯中晨報
2025-09-05 18:19:10
TVB小花離巢后轉投HOY TV!新劇造型大解放!身材十分突出

TVB小花離巢后轉投HOY TV!新劇造型大解放!身材十分突出

我愛追港劇
2025-09-05 23:49:34
她曾口出狂言:我寧愿在美國餓死,也不回該死的中國,她現狀如何

她曾口出狂言:我寧愿在美國餓死,也不回該死的中國,她現狀如何

素衣讀史
2025-09-04 17:34:39
蓋伊:如果我2013年沒被交易 灰熊能進總決賽并擊敗熱火奪冠

蓋伊:如果我2013年沒被交易 灰熊能進總決賽并擊敗熱火奪冠

直播吧
2025-09-06 01:18:04
2025-09-06 03:24:49
腦極體 incentive-icons
腦極體
從智能密鑰到已知盡頭
3431文章數 167033關注度
往期回顧 全部

科技要聞

特斯拉想送馬斯克9750億美元 條件很苛刻

頭條要聞

馬克龍宣布26國將聯合出兵烏克蘭 澤連斯基表示歡迎

頭條要聞

馬克龍宣布26國將聯合出兵烏克蘭 澤連斯基表示歡迎

體育要聞

西甲最窮的“草臺班子”,竟然打進歐戰(zhàn)了

娛樂要聞

!被罵“戀愛腦”的董璇玩脫了?

財經要聞

拖欠訂單 立訊精密被供應商索賠3343萬

汽車要聞

華為乾崑技術日 實測ADS4已無限接近人類司機

態(tài)度原創(chuàng)

數碼
游戲
家居
教育
公開課

數碼要聞

IFA 2025直擊:AI PC成絕對主角,各家新品爭奇斗艷

國外玩家紛紛吐槽《絲之歌》難度太高:遠超前作!

家居要聞

親子空間 舒適家居氛圍

教育要聞

還以為叫實驗學校是因為好聽

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版