Modelers魔樂社區

Modelers魔樂社區是什麼？

Modelers魔樂社區是一個面向人工智慧開發者與學習者的中立、公益性社區，它提供模型、資料集、體驗空間以及開發工具的托管、展示、下載與協作服務。該社區以理事會的方式運作，其目標是讓產業鏈上的各個參與者共同打造國產AI生態系。

它不僅是模型檔案的下載站，還將模型卡、資料集說明、應用演示、團隊協作功能、Git倉庫、訪問令牌、openMind開發套件以及昇騰NPU的相關功能整合在一起。使用者可以尋找公開的權重值，也能自行建立倉庫並上傳模型、資料及應用程式。

模型庫

模型庫涵蓋自然語言處理、電腦視覺、語音、多模態及生成式AI等任務。模型卡會顯示擁有者、任務類型、框架、標籤、檔案、版本及使用說明，並可能連結可線上體驗的應用空間。

下載前應閱讀README、模型許可證、訓練數據說明及限制條款。社區託管並不代表平台會為每個模型的準確性、安全性或商業使用擔保，同名模型也可能存在原始版、量化版、PyTorch版、MindSpore版以及昇騰適配版。

模型下載方式

公開模型可透過網頁逐一下載檔案，也可使用Git與Git LFS來複製完整的儲存庫。openMind Hub Client提供單檔案下載、整個儲存庫的快照下載、快取功能、版本分支管理以及檔案過濾等功能，適合在腳本中穩定地取得權重資料。

openMind Library還可直接以「用戶名稱/倉庫名稱」來載入模型，並透過Pipeline、AutoModel和AutoTokenizer來執行推論。當使用trust_remote_code時，會執行倉庫所提供的自訂程式碼，因此應先檢視其原始碼，並在隔離環境中進行測試。

模型上傳與貢獻

註冊後可以建立個人或組織的模型倉庫。可以上傳支援Git、Git LFS、openMind Hub Client的upload_folder，以及openMind Library訓練器的push_to_hub。

倉庫會自動建立README模型卡，貢獻者應補充任務、資料、指標、環境、限制及許可證。

訪問令牌分為Read與Write權限，Write可用於上傳和下載，而Token僅在創建時會完整顯示。應為自動化流程建立獨立的Token，且不應將其寫入程式碼倉庫中；

洩露後應立即刪除並重建。

資料集

資料集倉庫用於存放、搜尋及管理用於訓練或評測的資料。使用者可依任務和領域進行篩選，查看檔案與說明，再透過社群工具下載到本地的訓練環境中。

資料公開並不等於可以隨意使用。在進行訓練之前，必須檢查許可證、個人資訊、版權、資料採集的授權以及地區限制，尤其是醫療、金融、人臉、語音和網際網路抓取的資料。

數據卡缺失時不應預設可商用。

體驗空間

體驗空間用於展示基於模型構建的線上應用，常見形式包括ChatBot、圖像、語音、Notebook或自訂應用。模型詳情頁可以關聯體驗空間，讓訪問者無需先配置本地環境就能測試輸入輸出。

體驗空間由不同的發布者維護，其啟動速度、可使用時長、運算能力、資料保留方式以及隱私規則都可能有所不同。請勿在公開示範時輸入客戶的機密資訊、個人敏感資料或未公開的文件。

應用程式與筆記本

開發者可以建立應用型空間來展示模型演示，或是使用Notebook環境進行實驗。官方提供的實作資料說明了如何在NPU資源上載入模型、調整模型參數以及進行推論的流程，這對那些沒有本地昇騰環境的開發者來說，很有助於驗證模型的相容性。

線上Notebook仍需管理依賴關係、儲存、運行時以及資源釋放。在進行長時間訓練之前，應先確認會話時限、磁碟持久化方式、配額以及任務中斷規則，並及時將程式碼、日誌和檢查點導出。

openMind Library

openMind Library是配套深度學習開發套件，透過統一API支援模型預訓練、微調與推理。它封裝了Transformers與MindFormers常用的AutoClass、Pipeline和Trainer介面，相容PyTorch、MindSpore，並加入昇騰NPU的親和能力。

訓練側可結合MindSpeed、Accelerate、PEFT、DeepSpeed和LLaMA Factory等工具。實際相容性取決於openMind、深度學習框架、CANN、驅動、固件和模型實現版本，安裝前應根據文件說明建立獨立的虛擬環境。

openMind Hub Client

openMind Hub Client是一種用於與社群倉庫互動的Python及命令列工具，可用於建立倉庫、查詢元資料、上傳檔案、下載單個檔案或快照，並管理本地緩存。它適用於自動化訓練流程以及離線環境的準備工作。

用戶端對下載路徑設有黑白名單，以避免寫入敏感系統目錄。Linux預設允許臨時目錄和用戶目錄，Windows預設允許用戶目錄及部分資料磁碟；

自訂白名單時，黑名單仍具有更高優先級。

本地推理

快速上手文件提供了 Python 3.8、3.9 和 3.10 的範例，並要求根據任務需求安裝 PyTorch 或 MindSpore 等框架。透過 Pipeline 可以完成文本分類、生成、視覺處理等各種任務，而模型權重下載後，主要會消耗使用者的 CPU、GPU 或 NPU 資源。

大模型檔案可能達到數十或數百GB，本地使用前應核對磁盤、內存、顯存、精確度、量化以及設備支援。下載成功並不代表目前的硬體就能直接運行它。

預訓練與微調

openMind Library提供Trainer與TrainingArguments等介面，可以從社群模型繼續預訓練、全量微調或結合PEFT進行參數高效微調。完成後可用push_to_hub把配置、Tokenizer和權重上傳回社群。

微調品質取決於資料、模板、學習率、評估以及基礎模型的授權。訓練日誌與損失下降無法單獨證明效果，應使用獨立驗證集、人工評測和安全測試，並記錄框架、隨機種子與硬體環境。

NPU模型可用性測試

模型擁有者或具有寫入權限的組織成員，可以提交模型可用性測試，以驗證自訂推理用例是否能在NPU環境中執行。測試腳本以examples目錄中的inference.py為入口，亦可搭配requirements檔案一起使用。

測試通過後會提供日誌及鏡像下載入口，倉庫的Commit變更、轉為私有或模型下架都會終止相關測試。可用性僅表示指定的腳本與環境能夠運行，並不代表其精確度、效能及生產穩定性均已獲得驗證。

組織與權限

組織可集中管理模型、資料集和體驗空間，並設定管理、編輯和只讀三種角色。管理員還可管理成員、組織資料和訪問令牌；

編輯者可修改組織倉庫；只讀成員只能訪問被授權資源。

組織名稱創建後不可修改。刪除組織前必須先清理項目，屬於高風險操作。

團隊應避免共享個人 Write Token，並為重要模型設定審核、分支和備份流程。

倉庫版本管理

模型與資料倉庫採用Git式版本管理，大檔案則透過Git LFS處理。使用者可從不同的Revision下載固定版本，以避免上游更新後無法重現訓練結果。

生產構建時應固定Commit或Tag，並校驗關鍵檔案的哈希值。僅寫下主分支名稱的話，會隨著倉庫的更新而改變，這也有可能導致下載到被替換的權重或自訂代碼。

價格與費用

魔樂社區定位為公益社區，公開的模型、資料集、文件及體驗入口皆可免費瀏覽，官網目前沒有公開統一的會員訂閱價格，也沒有適用於所有體驗空間的固定GPU或NPU價目表。

免費瀏覽並不等於所有使用成本皆為零。本地下載會產生儲存與網路成本，而本地訓練和推論則需由使用者承擔硬體電力或雲端資源的費用；

線上空間的資源、配額和活動權益可能按具體頁面調整。

若頁面沒有明確價格，不應引用第三方文章推測套餐。

模型許可證與商用

社群平台、openMind工具以及儲存庫中的模型，屬於不同的法律主體。每個模型和資料集都可以有各自的許可證；有些許可證允許用於商業用途，而有些則要求必須申請許可、標明出處、限制使用者數量，或是禁止在特定場景下使用。

使用前應分別檢查權重、代碼、資料集以及輸出內容的許可規定。即便 openMind 工具採用寬鬆的許可證，也不會自動改變所下載模型的許可證類型。

GitHub、Gitee與開源狀態

openMind Library和openMind Hub Client的相關公開原始碼，都可以在昇騰相關的Gitee組織中找到。Hub Client則是採用木蘭寬鬆許可證第2版。至於Modelers，它在Gitee上也有專用的回饋倉庫，用於處理社區中的問題及需求。

社區網頁服務、帳號、託管儲存、審核以及所有的後台代碼，並未因工具鏈開源而全部公開。因此應標記為「社區平台提供開源工具鏈，網站服務本身不等於完整開源」。

國產算力與框架生態

魔樂社區著重於NPU、MindSpore以及國產模型的適配，同時也相容PyTorch的工作流程。開發者可以取得經過NPU轉換或驗證的模型，從而減少從一般GPU生態系轉移時所需的試錯成本。

國產適配版仍需匹配具體芯片、CANN和框架版本。模型卡中的“昇騰”標籤不代表適配全部硬件代際，也不能替代性能壓測。

Modelers魔樂社區使用教學

完成一次基礎任務

1. 註冊Modelers魔樂社區並創建僅用於測試環境的API Key；
2. 根據輸入類型、上下文、品質、速度和價格選擇模型；
3. 先調用模型庫完成最小請求並檢查返回結構；
4. 再用模型下載方式測試流式輸出、參數和異常響應；
5. 記錄Tokens、呼叫次數、延遲、錯誤率及單次成本；
6. 把密鑰移入服務端密鑰管理器後再接入正式應用；

建立可重複使用的專業工作流

1. 為開發、測試與生產環境使用不同密鑰與額度；
2. 按模型庫、模型下載方式及模型上傳與貢獻建立代表性評測集；
3. 設定超時、併發、重試、限流和預算上限；
4. 對輸出執行事實、安全、格式和敏感資訊檢查；
5. 監控模型版本、價格、延遲和失敗率變化；
6. 準備降級模型、熔斷和人工接管方案；

適合哪些用戶？

• 尋找國產開源模型、資料集和昇騰適配資源的開發者；
• 學習模型載入、微調、推理與發布流程的學生；
• 需要用組織倉庫協作維護模型和數據的團隊；
• 希望發布線上Demo、Notebook和模型成果的研究者；
• 使用PyTorch、MindSpore或昇騰NPU的工程人員。

產品優勢

• 模型、資料集、體驗空間與組織協作集中在一個社區；
• 支援網頁、Git、Git LFS與Hub Client多種下載方式；
• openMind Library覆蓋預訓練、微調、推理和上傳；
• 兼容PyTorch與MindSpore並重點支持昇騰NPU；
• 可進行NPU可用性測試並保存日誌和鏡像；
• 公益社區定位，公開資源獲取門檻較低。

限制與注意事項

• 社區倉庫由不同貢獻者維護，模型說明、品質、許可證與安全性不完全一致；
• 體驗空間可能休眠或下線，在線資源配額沒有統一公開價格，不能把演示環境當作生產SLA；
• 大檔案需要GitLFS和充足的磁碟空間；
• 自訂代碼存在供應鏈風險；
• NPU環境對版本組合敏感；
• 下載、訓練和發布前應審查許可證、鎖定版本、掃描代碼，並對權重與數據建立校驗和備份；

常見問題

魔樂社區免費嗎？

公開的模型、資料集、文件及體驗入口可免費瀏覽，目前沒有統一的會員價格。線上運算能力、活動配額或企業服務則以各個頁面所列出的規則為準。

怎麼下載Modelers模型？

可在網頁下載單一檔案，也可使用Git與Git LFS來克隆，或透過openMind Hub Client下載單一檔案及完整的Snapshot。

魔樂社區支援哪些框架？

openMind Library相容PyTorch與MindSpore，並重點適配昇騰NPU，可配合PEFT、DeepSpeed、Accelerate和LLaMA Factory等工具。

社區模型都能商用嗎？

不能一概而論。每個模型和資料集的許可證都不同，必須在具體的倉庫中核對商業使用、署名、申請以及使用場景的限制。

Modelers是開源的嗎？

openMind Library與Hub Client等工具鏈有公開源碼，但魔樂社區完整網站和託管服務不能據此視為整體開源。