腾讯云TI平台

腾讯云TI-ONE是什么？

腾讯云大模型训推平台TI-ONE是一站式机器学习与大模型开发平台，覆盖数据准备、云端开发、分布式训练、精调、模型管理、评测、推理部署和服务运营。它面向算法工程师、平台团队和企业AI中心，不是普通聊天机器人。

TI-ONE依托腾讯云GPU、国产算力、CVM、COS、CFS、GooseFS、镜像、监控和日志服务，把模型研发与生产部署放在统一工作空间中。

六大核心模块

当前官网把平台划分为数据中心、训练工坊、工作流、模型管理、模型服务和大模型广场六个模块，并配合企业管理与平台管理实现资源、配额和权限治理。

企业可按团队建立工作空间，隔离数据、模型与资源，同时共享算力池和公共镜像。

数据中心

数据中心用于创建数据集、关联对象存储与文件系统、管理版本并开展标注。训练任务应绑定明确的数据版本，避免数据被覆盖后无法复现。

上传前要做脱敏、授权和质量检查。敏感个人信息、客户数据和受版权保护内容必须有合法依据。

云端开发机

云端开发机提供带CPU或GPU的交互式开发环境，适合Notebook、代码调试、数据探索和小规模实验。用户可选择镜像、资源规格和存储。

开发机持续运行会持续产生费用。离开前应保存代码、停止实例并检查磁盘和挂载数据。

训练任务

训练工坊支持提交任务式训练和分布式训练，可使用平台镜像或自定义镜像，配置节点、环境变量、启动命令和存储路径。

大规模任务应设置断点、检查点和失败恢复，并记录代码、镜像、数据、随机种子和超参数。

大模型一键精调

平台内置主流开源大模型精调模板，减少环境和分布式框架配置。可针对行业问答、分类、生成和指令遵循等场景使用自有数据微调。

精调前应先评估提示词、检索增强或工具调用能否满足需求。盲目全量训练会增加成本和过拟合风险。

强化学习训练

TI-ONE原生支持Ray分布式框架并内置veRL，可一键拉起强化学习任务，用于偏好优化、推理能力和行为对齐。

强化学习需要可靠的奖励设计、基线评测和安全样本。奖励模型偏差可能导致模型投机。

大模型广场

大模型广场内置腾讯混元、DeepSeek、Qwen、GLM、Kimi等模型，用户可选择版本并一键发布为推理服务，平台会推荐资源规格。

“一键部署”不代表无需评估许可、上下文、显存、并发和安全。模型卡与许可证仍需单独查看。

模型管理

模型仓库统一保存训练产物、版本、来源和部署记录，方便回滚与审计。团队应为每个版本记录数据集、代码提交、评测和负责人。

只上传权重而缺少Tokenizer、配置和推理代码，可能导致后续无法复现。

在线推理服务

模型服务可把模型部署为在线接口，配置副本、GPU、镜像、环境变量、鉴权和网络。平台支持服务状态、日志、指标和请求记录。

上线前要进行压测、容量规划、超时和限流设置，并设计降级方案。

PD分离部署

PD分离把Prefill和Decode阶段放到不同节点，可分别配置算力和副本。官网说明在适用场景可显著降低首字与包间延迟。

这种架构更适合大模型高并发和长上下文，规模较小时可能增加网络和调度复杂度。

TACO推理加速

TACO是腾讯云自研推理引擎，覆盖LLM、VLM和DiT。官网基准显示相对开源vLLM可提升吞吐并降低首字延迟，具体效果取决于模型、硬件、量化和流量。

基准数字不能直接等同于用户业务。应使用真实提示长度、输出长度和并发做压测。

推理参数

TI-ONE为混元、DeepSeek等模型提供上下文长度、批量Token、显存利用率、量化、前缀缓存、思考输出和投机解码等环境参数。

增大上下文和并发会提高显存需求。开启投机与量化可能改变输出一致性，必须回归测试。

自动扩缩容

模型服务支持手动、定时和HPA自动扩缩容，可根据业务高峰增减副本。低峰缩容能节省成本，高峰扩容则保证吞吐。

扩容速度受镜像、权重加载和资源库存影响。核心服务应保留最低副本并预热。

灰度发布与回滚

平台支持多版本灰度、平滑切流和回退，适合在小流量验证新模型。全量请求记录有助于审计与问题定位。

日志可能包含用户提示和敏感信息，需要脱敏、访问控制和保留期限。

大模型评测

TI-ONE内置开源评测集、自定义评测集、裁判模型打分和多模型对比雷达图。评测可用于选型、精调验收和上线门槛。

公开榜单不能替代企业真实任务。裁判模型也有偏见，应抽样人工复核。

工作流编排

拖拽式工作流把数据处理、训练、评测和部署连接成可重复管道，支持定时或事件触发。它有助于减少人工操作和环境差异。

工作流节点需要固定输入输出与版本。生产环境应测试重试、幂等和失败清理。

异构算力与国产GPU

平台可统一纳管NVIDIA以及海光、昆仑芯、天数、紫霄等国产算力，并提供驱动、框架、调度和平台层适配。

模型兼容和性能仍取决于算子、精度与工具链。迁移前应做正确性和吞吐验证。

GPU虚拟化

TI-ONE支持GPU虚拟化切分，官网标示最小可到0.01卡方向，并结合资源组、配额和预设规格提升利用率。

细粒度共享适合轻负载开发与推理，不一定适合带宽和显存敏感训练。

潮汐训推调度

潮汐调度让高优先级推理抢占低优先级训练，并把空闲资源借给其他任务，实现白天服务、夜间训练。

被抢占训练必须支持检查点与恢复，否则节省算力可能换来任务重跑。

具身智能工具链

官网当前展示世界模型仿真、多模态大模型训练和具身智能开发能力，适合机器人感知、控制与仿真数据处理。

该类项目还涉及传感器、仿真差异和实体安全，平台训练能力不能替代现场验证。

企业权限治理

企业管理与工作空间两级体系可配置成员、角色、资源组、配额和模块权限，适合多团队共享GPU集群。

管理员应遵循最小权限，分离开发、部署和审计角色，并定期轮换密钥。

TI-ONE怎么收费？

公有云费用由节点算力与TI-ONE软件费组成。机器可直接从TI-ONE购买，也可关联已有CVM；前者收算力与软件费，后者仅按在TI-ONE中的使用时长收软件费，CVM自身另行结算。

此外COS、CFS、GooseFS、TCR、监控、日志、负载均衡和网络都可能独立计费。

按量与包年包月

从TI-ONE购买机器可使用按量或包年包月。按量模式不足一小时按秒计费、每小时结算；包年包月至少一个月，适合稳定负载。

官方文档说明按量购买时会先冻结2小时费用直至释放。创建前应保证余额充足。

算力价格示例

2026年6月官方表列出大量规格。例如T4四分之一卡规格约3.72元/小时，单张T4约9.55元/小时，单张4090d约12.97元/小时，单张4090约16.51元/小时；高端多卡节点可达数百元/小时。

这些是刊例价示例，地区、活动、库存和软件费会影响实际金额，应以控制台询价为准。

API与SDK

腾讯云提供TI-ONE API，可管理资源、训练、模型服务和计费规格，并可通过腾讯云SDK、命令行和API Explorer调用。

API密钥应放在密钥管理或环境变量中，不能写入Notebook和公开代码。

GitHub与开源状态

TI-ONE平台本身是闭源云服务。腾讯云公开了tione-examples案例集，采用Apache 2.0许可证；Tencent-Ti组织还有请求签名工具。

案例和签名SDK开源不代表平台服务端、TACO引擎或调度系统全部开源。

适合哪些用户？

• 训练、精调和部署大模型的企业算法团队；
• 需要统一管理GPU和国产算力的平台部门；
• 建设高并发在线推理服务的公司；
• 需要模型版本、评测、灰度与审计的团队；
• 开展自动驾驶、教育、机器人和行业AI的机构。

产品优势

• 数据、训练、模型和服务全链路；
• 内置主流大模型与精调模板；
• PD分离、TACO和自动扩缩容；
• 支持强化学习和模型评测；
• 统一纳管NVIDIA与国产算力；
• 企业权限、配额和审计较完整。

限制与注意事项

TI-ONE面向专业研发，需理解云资源、容器、分布式训练和推理。费用不仅是GPU，还包括软件、存储、日志和网络。

大模型部署涉及许可证、数据安全、提示日志、内容安全和成本治理，不能只完成“一键上线”就结束。

常见问题

TI-ONE免费吗？

不是长期免费产品。可能有试用或活动，但运行开发机、训练和服务会按算力、软件及关联云资源计费。

可以部署DeepSeek吗？

可以，大模型广场与官方推理指南覆盖DeepSeek多个版本，并提供优化镜像与参数。

能复用已有CVM吗？

可以。复用CVM时TI-ONE收软件使用费，CVM资源仍按原订单计费。

支持国产GPU吗？

支持海光、昆仑芯、天数、紫霄等多种国产算力，具体模型和地区兼容性需控制台确认。

TI-ONE开源吗？

平台不开源；官方示例和部分签名工具开源，核心云服务与加速引擎未完整公开。