昇思MindSpore

昇思MindSpore是什麼？

昇思MindSpore是一個用於訓練與推理的開源AI框架，其特色在於能夠覆蓋雲端、邊緣端及終端等各種使用場景，同時還能實現昇騰軟硬體之間的協同優化。它具備Tensor處理、神經網路功能、自動微分功能、資料處理功能、圖形編譯功能、分散式訓練功能、除錯分析功能，以及輕量化部署功能。

開發者可使用Python建立模型，在CPU或昇騰NPU等環境中進行訓練與推論，也可透過MindSpore Lite將模型部署在行動裝置、IoT及嵌入式設備上。該生態系還包含MindFormers、大模型推論、科學計算以及各種行業套件。

當前版本MindSpore 2.8

MindSpore 2.8於2026年1月正式發布，是本次核驗時官網的當前穩定版本。該版本圍繞超節點、大模型分佈式訓練、動態圖擴展和推理生態升級，推出HyperParallel架構及HyperShard、HyperOffload、HyperMPMD等能力。

官網同時提供Master開發文件及舊版本文件。生產環境應固定使用2.8的完整小版本，並與CANN、驅動程式、固件及Python相對應；

Master中的實驗功能不能直接視為穩定版承諾。

動態圖PyNative模式

PyNative動態圖模式會根據Python程式碼即時執行，這樣便於逐行除錯、列印中間結果，以及實現動態的控制流程。2.8版本增加了Tensor Dispatch和saved_tensors_hook等功能，這些功能可用於預覽或進一步強化相關功能，從而為異構設備上的資料分配及值的有效管理提供更多可能。

動態圖雖然靈活，但其運行時的開銷以及並行處理方式與靜態圖不同。在使用實驗功能之前，應先確認環境變數、支援的運算子及相關限制，並準備好可切換回正常模式的迴退路徑。

靜態圖Graph模式

Graph模式透過JIT來擷取並編譯計算圖，從而實現運算子融合、記憶體重複使用以及全局調度等功能，非常適用於需要高效能的訓練和推論場景。MindSpore則是基於源碼轉換來實現自動微分，可在編譯階段分析程式結構。

靜態圖對Python語法、副作用和動態結構有支援邊界。首次編譯會增加啟動時間，動態Shape也可能觸發重編譯；

需要同時評估編譯時間與穩態吞吐。

自動微分

MindSpore的自動微分採用Source Transformation思路，對程式間接表達式進行符號化轉換，支援高階函數、閉包及部分複雜的控制流，並為靜態編譯優化提供基礎。

自訂運算子與特殊數值邏輯可能需要補充反向規則。訓練時應使用梯度檢查、有限差分或與基線框架對比，特別關注複數、高階導數和混合精度。

HyperParallel架構

MindSpore 2.8推出了針對超節點的HyperParallel架構，將大規模的運算資源視為一個統一的系統來進行編程與調度。其核心功能包括HyperShard的宣告式平行處理、HyperOffload的多級儲存卸載功能，以及HyperMPMD的非規則異構平行處理功能。

這些能力主要面向超大模型和複雜異構集群。部分功能仍處於預覽或實驗階段，單機學習用戶不必為了使用基礎API而配置HyperParallel。

HyperShard聲明式並行

HyperShard讓用戶以單卡視角編寫PyNative模型，再宣告並行策略，由系統完成策略推導、子圖切分、資源映射與混合並行調度。它同時提供手動、DTensor和Shard等不同的控制粒度。

該能力旨在將模型計算與分散式策略解耦，但自動推導仍需要模型運算子、集群拓撲及通訊後端的支持。上線前應與人工策略比較吞吐量、顯存使用情況以及擴展效率。

HyperOffload顯存優化

HyperOffload將資料搬運抽象為計算圖中的操作，並在裝置的顯存、主存以及其他儲存層級之間調度參數或激活狀態，同時盡量讓預取與計算過程同步進行。靜態圖可進行整體的自動排程，而動態圖則提供更細粒度的控制接口。

官方發布說明明確提示HyperOffload處於實驗階段。卸載能降低顯存，但可能增加總線和儲存I/O；

如果頻寬不足，吞吐量反而會下降，應使用Profiler進行驗證。

分散式訓練

MindSpore支援資料並行、運算子級模型並行、流水線並行、參數分片以及多種混合並行策略。msrun等工具可啟動多進程訓練或推論，並能自動搜尋及傳播運算子切分策略。

分散式任務需要HCCL等通訊環境、拓撲配置、資料分片以及容錯方案。在擴容之前，應先完成單卡的正確性測試以及小規模的恢復測試，並儲存相關策略與Checkpoint元資料。

大模型訓練與MindFormers

MindFormers是一套用於大模型預訓練、微調、評測及推論的生態套件，提供Transformer模型、平行配置、資料處理以及分散式腳本等功能。它特別適用於昇騰集群與MindSpore框架。

MindFormers版本、MindSpore、CANN以及硬體之間必須嚴格匹配。同名開源模型的MindSpore實作，在權重格式、Tokenizer以及生成參數等方面，可能會與原始的PyTorch倉庫有所差異，因此遷移之後應進行回歸測評。

大模型推理

MindSpore可進行單卡或多卡大模型推理，2.8還加強與SGLang和vLLM生態的適配，支援部分核心緩存和圖下沉能力。多卡推理需要同時啟動多組進程，而不是把單卡腳本簡單重複執行。

模型支援的列表、量化、並行及服務介面會隨推論框架版本而改變。應在目標模型與硬體組合上，測試首個Token的延遲、生成吞吐量、KV Cache的佔用情況以及長時間運作時的穩定性。

MindSpore Lite

MindSpore Lite是輕量級的推論與端側訓練組件，適用於手機、IoT、嵌入式及邊緣設備。轉換工具可將MindSpore、ONNX、TensorFlow等格式轉換為Lite模型，並針對ARM、x86及部分NPU後端進行優化。

Lite還支援產生可部署到MCU或小型系統的程式碼。模型轉換成功並不代表所有的運算子都能以硬體方式加速；

必須檢查轉換日誌、精度誤差、模型體積、峰值記憶體和端側耗時。

雲邊端全場景

• 訓練可在雲端或資料中心完成，再經過轉換、量化與裁剪部署到邊緣與設備；
• 端側數據也可用於輕量訓練或個性化更新；
• 這是MindSpore與MindSporeLite組合的核心路徑；
• 全場景並不代表同一模型檔案可以無修改運行在所有設備；
• 不同後端對算子、精度和動態Shape的支援不同，通常需要分別轉換、優化和驗證；

資料處理與調試

mindspore.dataset提供資料讀取、Map、Batch、Shuffle以及視覺轉換功能，可並行建構輸入流程線。Profiler、Dump及除錯工具則能收集運算子、時間軸、記憶體及異常資訊。

資料多進程會佔用共享記憶體，除錯和Dump也可能產生大量檔案並影響效能。生產診斷應設定採樣範圍、目錄和保留策略，以避免磁碟耗盡。

MindSpore Science

MindSpore Science面向AI for Science，提供圖計算、等變網絡、物理資訊神經網絡、可微求解器以及科學運算子。其應用領域包括氣象、流體、電磁、分子、材料、能源等。

MindSpore Earth可用於天氣和地球科學模型，MindElec則用於電磁仿真，MindQuantum則用於量子計算研究。由於各個子專案的活躍度及版本不同，因此應該查看具體的儲存庫，而非僅根據整體套件來判斷其成熟度。

硬體與安裝

MindSpore原生重點支援昇騰AI處理器，也提供CPU環境；GPU支援範圍應以2.8安裝選擇器為準。

昇騰安裝需要匹配CANN Toolkit與Ops組件、驅動和固件，並正確載入環境變數。

官方論壇的案例顯示，即便只有基礎乘法檢查通過，但同時出現te模組錯誤，仍不應視為完整安裝成功。必須消除版本檢查錯誤，並運行真正的運算子及訓練樣本。

安裝驗證

可透過pip、官方Wheel、容器或原始碼編譯安裝。安裝完成後，應導入mindspore、查看版本，運行官方check及簡單的Tensor計算，再驗證目標設備、分散式通訊或Lite轉換。

Wheel檔案的檔名中會包含Python版本、作業系統以及架構等資訊，只要其中任何一項不相符，安裝就會失敗。建議使用獨立的Conda環境，並將所有的依賴項目都記錄下來。

價格與費用

MindSpore核心框架、MindSpore Lite以及官方公開的程式碼庫均可免費取得，無需支付任何框架使用費用。Apache 2.0授權允許根據相關條款來使用、修改及散布此軟體。

免費框架不包含昇騰伺服器、雲運算力、儲存、電力、集群運維或商業支援。使用華為雲ModelArts或其他雲平台時則需依照對應的雲產品計費；

企業適配與服務價格需單獨諮詢。

GitHub、Gitee與AtomGit

核心代碼位於 mindspore-ai/mindspore 的 GitHub 鏡像以及 MindSpore Gitee 組織中，而新的生態系相關檔案則由 AtomGit 來維護。核心倉庫採用 Apache License 2.0 授權條款。

不同的套件、範例、模型權重和資料集可能採用不同的許可證。開源原始碼並不代表昇騰硬體、CANN的所有組件以及雲端服務都包含在相同的開源授權之中。

昇思MindSpore使用教學

完成一次基礎任務

1. 安裝並配置昇思MindSpore，為實驗建立獨立專案和運行名稱；
2. 在訓練腳本中記錄超參數、資料版本、代碼版本和隨機種子；
3. 透過目前版本的MindSpore 2.8初始化任務並連接正確的雲端或私有服務；
4. 使用動態圖PyNative模式持續記錄Loss、指標、日誌和硬體狀態；
5. 運行小規模訓練，檢查步數、單位、曲線和媒體樣本是否正確；
6. 完成後保存模型、配置、結果與可復現實驗說明；

建立可重複使用的專業工作流

1. 統一專案、實驗、指標和標籤命名規範；
2. 將目前版本的MindSpore 2.8、動態圖PyNative模式和靜態圖Graph模式納入訓練模板；
3. 為數據集、代碼、環境和模型建立版本關聯；
4. 使用相同評測集和口徑比較實驗，避免只看平滑曲線；
5. 限制敏感樣本、提示詞和模型輸出的上傳範圍；
6. 設定異常告警、保留策略和人工複核後再推廣到團隊；

適合哪些用戶？

• 使用昇騰NPU訓練和推理模型的開發者；
• 需要大模型自動並行、顯存卸載和超節點能力的團隊；
• 希望將模型部署到手機、IoT和邊緣設備的工程師；
• 從事氣象、物理、分子及科學計算研究的用戶；
• 學習國產開源深度學習框架與軟硬協同優化的學生。

產品優勢

• 原生昇騰適配和軟硬件協同優化；
• 動態圖與靜態圖兼顧易用性和編譯性能；
• 自動微分、自動並行和HyperParallel用於大規模訓練；
• MindSpore Lite覆蓋邊端設備與MCU；
• MindFormers和MindSpore Science提供大模型與科學套件；
• Apache 2.0是開源軟體，且配有完整的中文文件說明。

限制與注意事項

• MindSpore與CANN、驅動、固件、MindFormers以及硬體型號的版本之間有很強的耦合性，安裝說明書中也必須選擇相同的版本；
• 2.8中的HyperOffload等功能仍具實驗性質，不宜在未經測試的情況下直接用於關鍵的生產任務；
• 生態模型的數量與第三方相容度與PyTorch不同，遷移時需要轉換權重和驗證運算子；
• 框架免費但算力成本較高；
• 具體模型與數據的商用權利也需單獨核對；

常見問題

MindSpore免費嗎？

核心框架和Lite免費開源，沒有會員費；昇騰硬體、雲算力、儲存和企業支援需另外付款。

MindSpore目前最新的穩定版是什麼？

截至本次核驗為2.8，2026年1月正式發布。Master文件包含更新或實驗能力，生產建議固定2.8小版本。

MindSpore只能在昇騰上運行嗎？

不是。它提供CPU等環境，但最完整的軟硬件協同與大模型能力重點面向昇騰；

其他設備支援以2.8安裝頁為準。

MindSpore可以部署到手機嗎？

可以透過MindSpore Lite進行模型轉換與端側推理，支援ARM、x86、部分NPU及小型系統，但需驗證目標設備的運算子。

MindSpore是開源的嗎？

開源，核心倉庫採用Apache 2.0。模型權重、數據、CANN組件與雲服務不一定使用同一許可證。