快科技8月28日消息,在今天舉辦的2025百度云智大會上,百度智能云正式發(fā)布百度百舸AI計算平臺5.0全新版本。
此次升級在網(wǎng)絡、算力、推理系統(tǒng)及訓推一體系統(tǒng)等四大方向?qū)崿F(xiàn)全面能力提升。
網(wǎng)絡方面,VPC、RDMA、X-link三張網(wǎng)實現(xiàn)全面升級,通信更快,延遲更低,模型訓推效率得到提升。
算力方面,昆侖芯超節(jié)點上線公有云服務,超級算力正式可用。即使是1萬億參數(shù)的開源模型,也只需要幾分鐘、1個云實例,就可以輕松跑起來。
最新測試顯示,超節(jié)點性能達到上一代實例8倍,單卡吞吐提升近一倍,比國內(nèi)的同類產(chǎn)品高出15%。
推理系統(tǒng)層面,通過算子解耦、自適應并行策略及分布式KV Cache等創(chuàng)新,將DeepSeek R1的推理吞吐效率提升50%,大幅降低長文本響應延遲。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.