书生浦语

书生浦语InternLM是什么？

书生·浦语InternLM是上海人工智能实验室推出的开源大模型与工具体系，面向中文与英文问答、推理、代码、长文本、多模态理解、科学研究和Agent开发。它不仅提供在线聊天体验，还开放模型权重、训练与微调框架、部署引擎、智能体框架和评测工具。

书生浦语的定位更接近“开放模型基座与开发生态”，不是以个人会员订阅为核心的商业聊天产品。普通用户可通过官方Chat Web体验，开发者通常在Hugging Face、ModelScope或OpenXLab下载模型并自行部署。

主要模型

1. InternLM3

InternLM3是书生浦语第三代通用语言模型，官方开放InternLM3-8B-Instruct。它支持普通对话和深度思考两种模式，面向知识、数学、逻辑、代码与复杂指令任务。

8B规模适合单机GPU部署，官方说明4bit量化约需8GB显存，但实际还会受到上下文长度、推理框架、KV Cache和并发影响。低显存部署应先测量峰值占用，不能只看权重文件大小。

2. InternLM2.5

InternLM2.5包含1.8B、7B和20B等尺寸，以及Chat、数学、奖励模型和长上下文版本。其中7B Chat 1M支持百万级上下文，适合超长文档实验，但长上下文会显著增加显存、预填充时间和注意力成本。

3. Intern-S科学多模态模型

Intern-S系列面向AI for Science。Intern-S1在通用文本和视觉能力基础上加入化学、材料、生命科学和地球科学数据，可理解分子式、蛋白质序列、化学结构和科学图像。

Intern-S1-mini提供轻量版本。

2026年的Intern-S1-Pro扩展到万亿参数MoE科学推理，Intern-S2 Preview则探索更小参数的高效科学模型。科学模型能辅助检索、解释和候选方案生成，但不能替代实验、同行评审、临床判断或专业安全流程。

4. InternLM-XComposer

XComposer系列用于图文理解、自由图文创作和长时视频音频交互，可处理高分辨率图像、文档、网页和多模态输入。该系列与通用InternLM仓库的许可证并不完全相同，商业使用应查看具体模型卡和申请要求。

在线体验

官方Chat Web允许用户直接与模型对话，适合体验中文问答、推理和代码能力。在线服务的模型版本、并发、历史记录和免费额度可能更新，官网没有公开固定个人会员价格表。

因此工具目录适合标记为“免费在线体验＋开源自部署”，不应虚构月费或承诺永久免费。在线API入口及活动算力也可能需要申请或依托OpenXLab等平台。

XTuner训练与微调

XTuner是书生生态的开源训练引擎，可用于大模型预训练、指令微调、多模态训练和强化学习。新版XTuner V1面向超大MoE模型，支持长序列、FSDP、DeepSpeed Ulysses以及GPU和昇腾NPU，并可接入LMDeploy、vLLM和SGLang。

个人开发者可用LoRA或QLoRA降低微调资源，但微调数据质量、格式、版权和隐私比参数设置更重要。训练前应划分验证集、记录基础模型和依赖版本，避免只看训练损失。

LMDeploy推理部署

LMDeploy用于压缩、量化、推理和API服务，支持InternLM、Intern-S及多种第三方模型。它提供高性能推理引擎、KV Cache管理、量化和兼容接口，适合把模型部署为本地或服务器服务。

吞吐量取决于GPU、精度、上下文、批处理和并发。生产部署还要实现鉴权、限流、内容安全、监控、日志脱敏和模型回滚，不能把演示服务直接暴露到公网。

Lagent智能体框架

Lagent是轻量级LLM Agent框架，支持工具调用、代码解释器、搜索、记忆、单Agent和多Agent工作流。开发者可以更换本地模型或外部API，通过统一消息结构组合工具和代理。

代码解释器、网页访问和外部工具具有真实副作用。应隔离执行环境、限制网络和文件权限，并对删除、支付、发消息和生产数据库操作加入人工审批。

OpenCompass评测

OpenCompass是上海人工智能实验室开源的大模型评测平台，可在知识、语言、推理、理解、代码和多模态数据集上比较模型。InternLM官方性能表也使用OpenCompass组织评测。

公开基准容易受提示模板、采样参数、数据污染和版本影响。模型选型应增加自己的真实文档、语言、延迟、成本、安全与人工评分，而不是只按总榜排名。

其他生态工具

• InternStudio：提供书生浦语课程、算力与实战教程；
• HuixiangDou：面向群聊和知识库的领域问答助手；
• MindSearch：用于多步网络搜索和报告式回答；
• InternEvo：面向大规模预训练的训练系统；
• OpenXLab：提供模型、数据和开放算力相关服务。

不同项目维护状态和适配模型不同，安装时应使用官方当前文档，并固定依赖版本。

下载与本地部署

InternLM模型通常提供Hugging Face Transformers格式，也可从ModelScope和OpenXLab获取。可使用Transformers、LMDeploy、vLLM等运行，量化后适配消费级GPU。

下载模型前应评估硬盘、显存、内存、带宽和许可证。启用trust_remote_code会执行仓库中的自定义Python代码，应该先检查来源、提交版本和文件内容，并在隔离环境运行。

API与价格

InternLM官方仓库提供Chat Web与API入口，但官网当前没有像商业MaaS平台一样公开统一的按百万tokens价格表。公开体验、OpenXLab算力和合作API的申请、额度与计费可能不同。

自部署模型本身没有按token平台费用，但需要承担GPU、云服务器、电力、存储、带宽、运维和并发成本。企业使用前应同时比较自建成本和第三方托管价格。

开源与商业许可

InternLM3主仓库明确写明代码和模型权重采用Apache 2.0许可证，允许使用、修改、分发和商业应用，但必须保留许可证与版权声明，并遵守适用法律。

XTuner、Lagent和多个工具同样采用Apache 2.0。Intern-S1项目当前标注Apache 2.0。

不同多模态项目可能有额外条件，例如XComposer代码使用Apache 2.0，但模型权重商业使用说明中仍要求查看或提交商业申请。

第三方基础模型、数据集和依赖的许可证不会被InternLM项目许可证覆盖。商业产品必须逐项核对权重、代码、训练数据和外部组件，而不是只看GitHub页面顶部的许可证标签。

数据与安全

开源权重可以在本地处理敏感数据，有利于控制数据边界，但安全责任也转移给部署者。组织需要修补依赖、控制模型接口、记录访问、过滤提示注入并防止模型泄露系统信息。

模型可能输出偏见、有害内容、错误代码和虚构事实。官方也明确提示概率生成无法完全避免意外输出，发布者应进行内容审核和人工复核。

书生浦语InternLM使用教程

完成一次基础任务

1. 注册书生浦语InternLM并创建仅用于测试环境的API Key；
2. 根据输入类型、上下文、质量、速度和价格选择模型；
3. 先调用主要模型完成最小请求并检查返回结构；
4. 再用在线体验测试流式输出、参数和异常响应；
5. 记录Tokens、调用次数、延迟、错误率和单次成本；
6. 把密钥移入服务端密钥管理器后再接入正式应用；

建立可复用的专业工作流

1. 为开发、测试和生产环境使用不同密钥与额度；
2. 按主要模型、在线体验和XTuner训练与微调建立代表性评测集；
3. 设置超时、并发、重试、限流和预算上限；
4. 对输出执行事实、安全、格式和敏感信息检查；
5. 监控模型版本、价格、延迟和失败率变化；
6. 准备降级模型、熔断和人工接管方案；

适合哪些用户？

• 需要中文开源语言模型和本地部署的开发者；
• 学习微调、推理、量化和Agent开发的学生；
• 使用科学多模态模型研究化学、材料和生命科学的团队；
• 需要百万上下文和私有文档实验的组织；
• 使用XTuner、LMDeploy和Lagent搭建全链路应用的工程团队；
• 希望获得Apache 2.0通用模型权重用于商业产品的企业。

限制与注意事项

• 8B模型成本较低，但在复杂事实、代码仓库、长程Agent和专业领域中不一定达到大型闭源模型效果；
• 科学模型的输出也不是实验结果或专业认证；
• 百万上下文不表示模型会准确记住全部内容，实际性能受位置、检索和注意力稀释影响；
• 应结合RAG、分块、引用和人工审阅，而不是一次塞入全部资料；

常见问题

书生浦语免费吗？

官方提供免费在线体验和可免费下载的开源模型。自部署需要自行承担硬件与运维成本，在线服务额度可能调整。

最新通用模型是什么？

InternLM主仓库当前重点是InternLM3-8B-Instruct；科学多模态方向则有Intern-S1、S1-Pro和S2 Preview等更新。

可以商用吗？

InternLM3代码与权重采用Apache 2.0，可按许可证商用。XComposer等其他项目必须单独查看模型权重和商业申请条款。

需要多少显存？

官方示例称InternLM3 8B使用4bit约需8GB显存，实际还要为上下文、缓存和框架预留空间。

提供API吗？

官方有在线API相关入口和自部署示例，但没有统一公开固定token价。开发者也可用LMDeploy或vLLM部署自己的兼容API。

书生浦语开源吗？

是开源模型和工具体系。主模型、训练、部署、Agent与评测均有官方仓库，但每个项目和第三方组件仍要分别核对许可证。