神州數(shù)碼旗下神州鯤泰推理服務(wù)器全面支撐DeepSeek系列模型部署
2025-02-05
中國智能產(chǎn)業(yè)網(wǎng)
DeepSeek AI最新發(fā)布的多模態(tài)大模型Janus-Pro，以及之前發(fā)布的大型語言模型DeepSeek-R1、DeepSeek-V3及DeepSeek-V2，一經(jīng)發(fā)布，就在AI領(lǐng)域引起了熱烈反響，多項創(chuàng)新技術(shù)顯著提升了模型的性能與效率。DeepSeek系列模型首發(fā)即支持昇騰平臺，神州數(shù)碼旗下神州鯤泰推理服務(wù)器產(chǎn)品搭載昇騰硬件，可全面支持DeepSeek系列模型的快速部署，可為用戶帶來更快、更高效、更便捷的AI開發(fā)和應(yīng)用體驗。
2025年2月4日，DeepSeek-R1、DeepSeek-V3、DeepSeek-V2、Janus-Pro正式上線昇騰社區(qū)，支持一鍵獲取DeepSeek系列模型，支持昇騰硬件平臺上開箱即用，推理快速部署，帶來更快、更高效、更便捷的AI開發(fā)和應(yīng)用體驗，歡迎廣大開發(fā)者體驗使用。
?下面以Deepseek-V3為例，
演示在昇騰社區(qū)如何高效獲取模型及使用
1 硬件要求
部署DeepSeek-V3模型需配置4臺KunTai A924推理服務(wù)器（每臺搭載8張昇騰推理卡）
2 模型調(diào)用實踐
一、權(quán)重轉(zhuǎn)換
GPU：
NPU：
二、加載鏡像
在昇騰社區(qū)/開發(fā)資源下載適配DeepSeek-V3的鏡像包：
mindie:1.0.T71-800I-A2-py311-ubuntu22.04-arm64
完成之后，請使用docker images命令確認查找具體鏡像名稱與標(biāo)簽。
三、容器啟動
提供的MindIE鏡像預(yù)置了DeepSeek-V3模型推理腳本，從您信任的來源自行獲取權(quán)重后，放置在從上述下載的模型代碼的主目錄下，修改模型文件夾屬組為1001，執(zhí)行權(quán)限為750，啟動容器。
四、服務(wù)化測試
配置服務(wù)化環(huán)境變量，expandable_segments-使能內(nèi)存池擴展段功能，即虛擬內(nèi)存特性。
修改服務(wù)化參數(shù)
拉起服務(wù)化
圖片出現(xiàn)“Daemon start success!”，則認為服務(wù)成功啟動。
更深入了解DeepSeek系列模型在昇騰上的使用方法及指導(dǎo)文檔，可登錄昇騰社區(qū)模型庫專區(qū)學(xué)習(xí)了解！
更多DeepSeek模型獲取鏈接可參考：
?DeepSeek-R1
https://www.hiascend.com/software/modelzoo/models/detail/68457b8a51324310aad9a0f55c3e56e3
(掃碼獲取）
?DeepSeek-V3：
https://www.hiascend.com/software/modelzoo/models/detail/678bdeb4e1a64c9dae51d353d84ddd15
(掃碼獲取）
?Janus-Pro
https://www.hiascend.com/software/modelzoo/models/detail/ffe1a0f4e8ba43aeb989251a3f0308e9
(掃碼獲取）
- 應(yīng)對分時電價調(diào)整！陽光電源工商業(yè)儲能新品PowerStack 510CS
- 官宣即引爆！olayks立時攜手品牌全球代言人侯明昊開啟品牌新
- 全面聚焦 AI，定義“智能化融合通信”新時代
- 阿里 Qoder 限時五折啟動，支持支付寶，性價比遠超Cursor
- 邦彥技術(shù)攜手阿里云，打造NuwaAI智能體數(shù)字人平臺
- 騰訊AI能力全面開放，智能化與國際化雙引擎驅(qū)動 助力產(chǎn)業(yè)提
- 國家網(wǎng)安周重磅發(fā)布《政務(wù)大模型應(yīng)用安全規(guī)范》，永信至誠深
- 智眸未來完成數(shù)千萬元A輪融資，助力智能檢測裝備自主創(chuàng)新與
- 寧德時代磐石底盤亮相IAA，面向全球引入高效安全造車新范式
- 中控技術(shù)的時間序列大模型TPT 2為什么被稱為“工業(yè)最強大腦
推薦廠商
廠商動態(tài)
- 應(yīng)對分時電價調(diào)整！陽光電源工商業(yè)儲能新品PowerStack 510CS打開盈利新空間
- 官宣即引爆！olayks立時攜手品牌全球代言人侯明昊開啟品牌新紀元
- 全面聚焦 AI，定義“智能化融合通信”新時代
- 阿里 Qoder 限時五折啟動，支持支付寶，性價比遠超Cursor
- 邦彥技術(shù)攜手阿里云，打造NuwaAI智能體數(shù)字人平臺
- 騰訊AI能力全面開放，智能化與國際化雙引擎驅(qū)動 助力產(chǎn)業(yè)提效
- 國家網(wǎng)安周重磅發(fā)布《政務(wù)大模型應(yīng)用安全規(guī)范》，永信至誠深度參與標(biāo)準(zhǔn)編寫工作
- 智眸未來完成數(shù)千萬元A輪融資，助力智能檢測裝備自主創(chuàng)新與產(chǎn)業(yè)升級
- 寧德時代磐石底盤亮相IAA，面向全球引入高效安全造車新范式
- 中控技術(shù)的時間序列大模型TPT 2為什么被稱為“工業(yè)最強大腦”