騰訊雲TI平台

腾讯雲TI-ONE是什麼？

騰訊雲大模型訓推平台TI-ONE是一站式機器學習與大模型開發平台，涵蓋數據準備、雲端開發、分散式訓練、精調、模型管理、評測、推理部署及服務運營。它面向算法工程師、平台團隊和企業AI中心，並非普通聊天機器人。

TI-ONE依託騰訊雲GPU、國產算力、CVM、COS、CFS、GooseFS、鏡像、監控和日誌服務，將模型研發與生產部署置於統一工作空間中。

六大核心模組

目前官方網站將平台劃分為資料中心、訓練工坊、工作流、模型管理、模型服務以及大模型廣場六個模組，並透過企業管理與平台管理來實現資源、配額和權限的管控。

企業可按團隊建立工作空間，隔離數據、模型與資源，同時共享算力池和公共鏡像。

資料中心

資料中心用於建立資料集、連結對象儲存與檔案系統、管理版本並進行標註。訓練任務應綁定明確的資料版本，以避免資料被覆寫後無法復現。

上傳前需進行脫敏、授權及品質檢查。敏感個人資訊、客戶數據及受版權保護的內容必須有合法依據。

雲端開發機

雲端開發機提供具備CPU或GPU的互動式開發環境，適用於筆記本電腦上的作業、程式碼除錯、資料探索以及小規模實驗。使用者可自行選擇鏡像、資源規格和儲存空間。

開發機持續運行會持續產生費用。離開前應保存代碼、停止實例並檢查磁盤和掛載資料。

訓練任務

訓練工坊支援提交任務式訓練和分散式訓練，可使用平台鏡像或自訂鏡像，配置節點、環境變數、啟動命令和儲存路徑。

大規模任務應設定斷點、檢查點及失敗恢復機制，並記錄代碼、鏡像、資料、隨機種子及超參數。

大模型一鍵精調

平台內建主流開源大模型的精調模板，減少環境與分散式架構的配置需求。可針對行業問答、分類、生成及指令遵循等場景，使用自有數據進行微調。

精調前應先評估提示詞、檢索增強或工具呼叫能否滿足需求。盲目全量訓練會增加成本和過擬合風險。

強化學習訓練

TI-ONE原生支援Ray分散式框架並內建veRL，可一鍵啟動強化學習任務，用於偏好優化、推理能力與行為對齊。

強化學習需要可靠的獎勵設計、基線評測和安全樣本。獎勵模型偏差可能導致模型投機。

大模型廣場

大模型廣場內置騰訊混元、DeepSeek、Qwen、GLM、Kimi等模型，用戶可選擇版本並一鍵發布為推理服務，平台會推薦資源規格。

「一鍵部署」並不代表無需評估許可、上下文、顯存、併發與安全。模型卡與許可證仍需單獨查看。

模型管理

模型倉庫統一儲存訓練產物、版本、來源及部署記錄，便於回滾與審計。團隊應為每個版本記錄資料集、代碼提交、評測及負責人。

只上傳權重而缺少Tokenizer、配置和推理代碼，可能導致後續無法重現。

在線推理服務

模型服務可將模型部署為線上介面，配置副本、GPU、鏡像、環境變數、驗證與網路。平台支援服務狀態、日誌、指標及請求記錄。

上線前要進行壓測、容量規劃、超時和限流設定，並設計降級方案。

PD分離部署

PD分離將Prefill和Decode階段放到不同節點，可分別配置算力和副本。官網說明在適用場景可顯著降低首字與包間延遲。

這種架構更適合大模型的高併發與長上下文，規模較小時可能會增加網路與調度的複雜度。

TACO推理加速

TACO是騰訊雲自研的推論引擎，涵蓋LLM、VLM和DiT。官網測試結果顯示，相較於開源的vLLM，它能提升處理效率並降低首次輸出延遲，其具體效果則取決於模型、硬體、量化方式以及流量大小。

基準數字不能直接等同於用戶業務。應使用真實提示長度、輸出長度和併發量來做壓測。

推理參數

TI-ONE為混元、DeepSeek等模型提供上下文長度、批次Token、顯存利用率、量化、前綴緩存、思考輸出和投機解碼等環境參數。

增大上下文和並發會提高顯存需求。開啟投機與量化可能改變輸出一致性，必須回歸測試。

自動擴縮容

模型服務支援手動、定時以及 HPA 自動擴縮容，可根據業務高峰時段調整副本數量。在低峰時期縮容可節省成本，而在高峰時期擴容則能確保處理效率。

擴容速度受鏡像、權重載入和資源庫存影響。核心服務應保留最低副本並預熱。

灰度發布與回滾

平台支援多版本灰度、平滑切流和回退，適合在低流量環境下驗證新模型。全量請求記錄有助於審計與問題定位。

日誌可能包含使用者提示和敏感資訊，需要脫敏、訪問控制及保留期限。

大模型評測

TI-ONE內建開源評測集、自訂評測集、裁判模型打分以及多模型對比雷達圖。這些評測功能可用於產品選型、細節調整與驗收，以及確定上線門檻。

公開榜單無法取代企業的真實任務。裁判模型也有偏見，應抽樣人工複核。

工作流編排

拖拽式工作流將資料處理、訓練、評測和部署連接成可重複的流程，並支援定時或事件觸發。這有助於減少人工操作及環境差異。

工作流節點需要固定輸入輸出與版本。生產環境應測試重試、冪等和失敗清理。

異構算力與國產GPU

平台可統一納管NVIDIA以及海光、崑崙芯、天數、紫霄等國產算力，並提供驅動、框架、調度和平台層適配。

模型相容性與效能仍取決於運算子、精確度與工具鏈。遷移前應進行正確性與吞吐量驗證。

GPU虛擬化

TI-ONE支援GPU虛擬化切分，官網標示最小可達0.01卡級別，並結合資源組、配額及預設規格來提升利用率。

細粒度共享適合輕負載開發與推理，不一定適合帶寬和顯存敏感訓練。

潮汐訓推調度

潮汐調度讓高優先級推理搶佔低優先級訓練，並把空閒資源借給其他任務，實現白天服務、夜間訓練。

被搶佔的訓練必須支援檢查點與恢復，否則節省算力可能換來任務重跑。

具身智慧工具鏈

官網目前展示世界模型仿真、多模態大模型訓練和具身智能開發能力，適合機器人感知、控制與仿真數據處理。

該類項目還涉及感測器、仿真差異和實體安全，平台訓練能力不能替代現場驗證。

企業權限治理

企業管理與工作空間兩級體系可配置成員、角色、資源組、配額和模組權限，適合多團隊共享GPU集群。

管理員應遵循最小權限原則，區分開發、部署和審計角色，並定期輪換密鑰。

價格與版本對比

TI-ONE怎麼收費？

公有雲費用由節點算力與TI-ONE軟體費用組成。機器可直接從TI-ONE購買，也可關聯已有CVM；

前者收取運算力與軟體費用，後者僅根據在TI-ONE中的使用時長收取軟體費用，CVM本身則另行結算。

此外COS、CFS、GooseFS、TCR、監控、日誌、負載均衡和網路都可能獨立計費。

按量與包年包月

從TI-ONE購買機器時，可選擇按量付費或包年包月。在按量付費模式下，若使用時間少於一小時，則會以秒計費，並每小時結算一次；

包年包月至少一個月，適合穩定負載。

官方文件說明，按量購買時會先凍結2小時的費用，直到解凍為止。建立之前應確保餘額充足。

算力價格示例

2026年6月官方表列出大量規格。例如T4四分之一卡規格約3.72元/小時，單張T4約9.55元/小時，單張4090d約12.97元/小時，單張4090約16.51元/小時；

高端多卡節點可達數百元/小時。

這些是刊例價示例，地區、活動、庫存和軟體費用會影響實際金額，應以控制台詢價為準。

API與SDK

騰訊雲提供TI-ONE API，可用於管理資源、進行模型訓練、提供模型服務以及設定計費規格，且可透過騰訊雲SDK、命令列和API Explorer來調用。

API密鑰應放在密鑰管理或環境變數中，不能寫入Notebook和公開代碼。

GitHub與開源狀態

TI-ONE平台本身是閉源雲服務。騰訊雲公開了tione-examples案例集，採用Apache 2.0許可證；

Tencent-Ti組織還有請求簽名工具。

案例和簽名SDK開源並不代表平台伺服器、TACO引擎或調度系統全部開源。

騰訊雲TI-ONE使用教學

完成一次基礎任務

1. 安裝並配置騰訊雲TI-ONE，為實驗建立獨立項目和運行名稱；
2. 在訓練腳本中記錄超參數、資料版本、代碼版本和隨機種子；
3. 透過六大核心模組初始化任務並連接正確的雲端或私有服務；
4. 使用資料中心持續記錄Loss、指標、日誌和硬體狀態；
5. 運行小規模訓練，檢查步數、單位、曲線和媒體樣本是否正確；
6. 完成後保存模型、配置、結果與可復現實驗說明；

建立可重複使用的專業工作流

1. 統一專案、實驗、指標和標籤命名規範；
2. 把六大核心模組、資料中心及雲端開發機納入訓練模板；
3. 為數據集、代碼、環境和模型建立版本關聯；
4. 使用相同評測集和口徑比較實驗，避免只看平滑曲線；
5. 限制敏感樣本、提示詞和模型輸出的上傳範圍；
6. 設定異常告警、保留策略和人工複核後再推廣到團隊；

適合哪些用戶？

• 訓練、精調和部署大模型的企業算法團隊；
• 需要統一管理GPU和國產算力的平台部門；
• 建設高併發在線推理服務的公司；
• 需要模型版本、評測、灰度與審計的團隊；
• 從事自動駕駛、教育、機器人及產業 AI 相關工作的機構。

產品優勢

• 數據、訓練、模型和服務全鏈路；
• 內建主流大模型與精調模板；
• PD分離、TACO和自動擴縮容；
• 支援強化學習與模型評測；
• 統一納管NVIDIA與國產算力；
• 企業權限、配額和審計較完整。

限制與注意事項

• TI-ONE面向專業研發，需理解雲資源、容器、分散式訓練和推理；
• 費用不僅是GPU，還包括軟體、儲存、日誌和網路；
• 大模型部署涉及許可證、資料安全、提示日誌、內容安全及成本治理，不能只完成「一鍵上線」就結束；

常見問題

TI-ONE免費嗎？

不是長期免費產品。可能有試用或活動，但運行開發機、訓練和服務會按算力、軟體及相關雲資源計費。

可以部署DeepSeek嗎？

可以，大模型廣場與官方推理指南覆蓋DeepSeek多個版本，並提供優化鏡像與參數。

能複用已有CVM嗎？

可以。複用CVM時TI-ONE收軟體使用費，CVM資源仍按原訂單計費。

支持國產GPU嗎？

支援海光、崑崙芯、天數、紫霄等多種國產運算能力，具體模型和地區相容性需控制台確認。

TI-ONE是開源的嗎？

平台不開源；官方範例和部分簽名工具開源，核心雲服務與加速引擎未完整公開。