通過邊緣計算平臺海德薇與云端大模型的有機結合,涂鴉智能正在打造下一代AI硬件的開發(fā)范式。
在AI硬件開發(fā)領域,一個關鍵難題是如何平衡計算效率與隱私保護。涂鴉智能推出的ECC端云聯(lián)動AI算法(Edge-Cloud Coop)為解決這一難題提供了創(chuàng)新解決方案。
該算法允許開發(fā)者將AI計算分層拆解,在端側運行超小模型用于數(shù)據(jù)脫敏推理,而大型推理則交由云端算力執(zhí)行。
這種模式不僅保證了用戶隱私安全,也優(yōu)化了智能設備的硬件成本。
01 國內廠商技術路線對比
AI硬件廠商根據(jù)自身優(yōu)勢選擇了不同的技術路線。
以下是三家主要AI硬件廠商在技術方面的對比分析:
涂鴉智能的端云協(xié)同架構在隱私保護和開發(fā)友好度方面具有明顯優(yōu)勢,特別適合需要處理敏感數(shù)據(jù)的應用場景。
02 國際廠商邊緣計算布局
NVIDIA:在邊緣計算領域推出了Jetson系列平臺,從單一計算模塊發(fā)展為覆蓋模擬、感知、決策的多維度系統(tǒng)3。
新推出的Jetson Thor平臺專為物理AI與人形機器人設計,兼容主流AI框架及生成式AI模型3。
03 涂鴉智能的海德薇平臺
涂鴉智能推出的邊緣計算平臺海德薇(HEDV)是公司端云協(xié)同戰(zhàn)略的核心組成部分。該平臺為開發(fā)者提供了完整的邊緣計算解決方案,使AI計算能夠在最合適的位置執(zhí)行。
海德薇平臺的特點包括:低延遲(在設備附近處理數(shù)據(jù),減少傳輸延遲)、高可靠性(即使在網(wǎng)絡中斷的情況下也能正常工作)、隱私保護(敏感數(shù)據(jù)留在本地處理)和帶寬優(yōu)化(減少向云端傳輸?shù)臄?shù)據(jù)量)。
在實際應用中,海德薇平臺已經(jīng)支持了多種AI硬件產(chǎn)品的開發(fā)。例如,在智能家居場景中,海德薇平臺可以讓人工智能攝像頭在本地進行人臉識別和動作檢測,只將必要的信息上傳到云端,既保護了用戶隱私,又提高了系統(tǒng)響應速度。
04 端云協(xié)同的應用價值
涂鴉智能的端云協(xié)同架構為AI硬件開發(fā)帶來了多重價值:
首先,它解決了隱私和安全問題。通過數(shù)據(jù)脫敏和本地處理,減少了敏感信息泄露的風險。
其次,它優(yōu)化了成本結構。通過合理的計算分配,降低了云端計算資源和帶寬的消耗,從而減少了運營成本。
再次,它提高了系統(tǒng)可靠性。即使在網(wǎng)絡連接不穩(wěn)定的情況下,端側設備仍然能夠保持基本功能的正常運行。
最后,它加速了響應速度。本地處理可以減少網(wǎng)絡傳輸帶來的延遲,提高用戶體驗。
涂鴉智能2025年第一季度的財務表現(xiàn)證明了這一策略的成功:公司毛利率達到48.5%,表明成本管理有效。
非GAAP凈利潤較上年增長近60%,智能解決方案收入達到1100萬美元,同比增長47.1%。
05 技術挑戰(zhàn)與未來方向
盡管端云協(xié)同架構帶來了諸多好處,但也面臨著一些技術挑戰(zhàn)。首先是模型分割難題:如何將AI模型合理地分割到端側和云端,需要在性能、成本和隱私之間找到平衡點。
其次是設備異構性:不同類型的設備具有不同的計算能力,需要針對性地優(yōu)化模型和算法。
第三是協(xié)同效率:端側和云端如何高效協(xié)同工作,避免出現(xiàn)瓶頸。
面對這些挑戰(zhàn),涂鴉智能正在不斷優(yōu)化其端云協(xié)同平臺。未來方向包括:開發(fā)更高效的模型壓縮和分割算法;提高跨設備協(xié)同效率;增強系統(tǒng)安全性和隱私保護能力。
端云協(xié)同計算正在成為AI硬件開發(fā)的重要范式。涂鴉智能通過海德薇平臺和ECC端云聯(lián)動算法,為開發(fā)者提供了一套完整的解決方案。
這套方案不僅解決了AI硬件開發(fā)中的技術難題,也在隱私保護、成本優(yōu)化和用戶體驗之間找到了平衡點。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.