中新經緯2月5日電 題:DeepSeek本地部署加速端側AI推廣落地
作者 舒迪 國泰君安證券研究所電子行業首席分析師
春節期間,DeepSeek以其獨特的創新力,正逐步打開AI應用產業的上升通道。模型正式發布以來,DeepSeek連續多日登頂蘋果App Store和谷歌Play Store全球下載榜首。DeepSeek通過多項工程創新,成功降低了訓練成本和推理成本,同時提升了模型效果。
盡管DeepSeek觸發了模型降本,但算力需求卻并未減少,在多個層面呈現出增長趨勢。隨著AI應用模型向更高智能維度躍遷,訓練需要更多算力;AI應用的推理也廣泛需要算力支持,更多人開始訓練和推理自己的模型;同時,轉向對等異構計算的新主流計算形態也需要更多GPU(圖形處理器)。未來,從對話到任務、到多模態,AI的發展將需要更多算力加持。
同時,以DeepSeek為代表的開源模型興起加速了人工智能生態的構建,而DeepSeek的本地部署更是讓個人知識庫的構建成為可能。許多企業已經意識到,開源且具有廣泛共識的模型更容易構建生態系統。DeepSeek蒸餾(指的是通過一系列算法和策略,將原始的、復雜的數據進行去噪、降維、提煉等操作)后的小模型表現出色,使得本地部署知識庫從企業端擴展到個人用戶。通過高效且靈活地構建私有化的AI知識管理系統,不僅保護了數據隱私,還可以根據特定需求進行定制優化。
在端側產品設計中,算力和傳輸是關鍵因素。隨著蒸餾模型能力的提升,未來端側SoC(系統級芯片)將更加注重模型的本地部署和推理能力。端云協同升級將成為未來技術發展的必然趨勢,端側產品需要在有限的硬件資源下實現高效的計算和傳輸,而云端則需要提供更強大的計算能力和存儲支持。
此外,DeepSeek的開源發展也降低了成本,推動了應用的繁榮。對于B端應用來說,優質開源模型可以更好地用于垂類場景。成本的壓低將帶來使用場景的普及,從而帶動新的供給和需求。如今的AIGC(人工智能生成內容)創作已經呈現出類似的趨勢,若推理成本進一步降低,對于AI(人工智能)內容的發展將有顯著推動。
展望未來,DeepSeek將繼續以其創新力和開源精神,推動AI技術的普及和應用。從教育、娛樂應用到電商場景,從AI視頻生成技術到AI硬件落地發展,DeepSeek都有望推動相關行業的變革與發展。(中新經緯APP)
中新經緯版權所有,未經授權,不得轉載或以其他方式使用。
責任編輯:孫慶陽
本文鏈接:舒迪:DeepSeek本地部署加速端側AI推廣落地http://www.lensthegame.com/show-2-10511-0.html
聲明:本網站為非營利性網站,本網頁內容由互聯網博主自發貢獻,不代表本站觀點,本站不承擔任何法律責任,僅提供存儲服務。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。
上一篇: OpenAI原應用負責人卡斯: DeepSeek加速AI平價化
下一篇: 家用市場期待機器人來“敲門”