Jan

Jan是什么

Jan 是一款免费开源的本地 AI 聊天与大语言模型运行工具，定位为可离线使用的 ChatGPT 替代方案。用户可在 Windows、macOS 或 Linux 上下载模型，让对话和推理直接在自己的电脑完成；也能配置 OpenAI、Anthropic、Google、Groq、OpenRouter 等远程模型 API，在同一界面切换本地与云端模型。

Jan 不提供真正的“离线 ChatGPT 模型”，而是运行 Qwen、Llama、Jan 自研模型或其他兼容的开源权重。具体能力取决于下载的模型、量化版本、电脑内存与显卡。它适合重视隐私、离线工作、模型自由和本地 API 的用户。

Jan核心功能

本地离线运行大模型

Jan 通过 llama.cpp 和 Apple MLX 等后端运行本地模型。用户可从模型中心下载适合硬件的版本，也能导入兼容模型。模型文件保存在本机，完成下载后无需互联网即可聊天，推理不会产生按次 API 费用。

本地不等于一定更快。模型大小、量化、上下文长度、CPU、GPU、内存带宽和后台程序都会影响速度。选择过大的模型可能加载失败、响应很慢或压缩上下文。

云端模型统一界面

若本地硬件不足，可把 OpenAI、Anthropic、Gemini、Mistral、Groq 或 OpenAI-compatible 服务的 API Key 加入 Jan。云端模型在提供商服务器运行，需要网络，并按对应供应商价格计费。Jan 本身不会让这些商业 API 免费。

Projects与Assistants

Projects 用于集中管理相关对话、文件和共享指令，Assistants 则保存角色、行为和偏好。用户可以为写作、编码、学习或内部资料问答建立不同助手，避免每次重复输入背景。长期记忆和上传文件仍需注意敏感数据与上下文长度。

Agents与Jan CLI

Jan CLI 可从终端加载模型、启动本地 OpenAI 兼容服务、查看模型和对话线程，并把本地模型连接到兼容的编码或自动化 Agent。`jan serve` 默认在本机端口提供接口，`jan launch` 可选择模型并启动支持的 Agent 工作流。CLI 与桌面应用共享模型和数据目录。

OpenAI兼容本地API

Jan 可把本地模型作为 OpenAI-compatible API 暴露，应用只需修改 Base URL 和模型 ID 即可调用。服务可以设置端口、API Prefix、API Key、Trusted Hosts、请求超时与 CORS。默认只绑定本机较安全；若绑定到所有网卡，必须设置强密钥、防火墙和可信主机。

MCP工具调用

Jan 可以作为 MCP Host 连接本地文件、浏览器、数据库或自定义 API 工具。工具调用前会显示模型准备传递的参数，由用户批准或拒绝。虽然可开启“允许全部工具”，但这会显著增加提示词注入和误操作风险，尤其是工具能访问已登录浏览器、文件或命令行时。

不是所有本地模型都擅长 Tool Calling。使用 MCP 前应选择明确支持工具调用的模型，并逐个测试工具参数和返回格式。

隐私与本地数据

使用本地模型时，提示词和回复主要保存在本机；用户无需创建云账号即可开始。连接远程模型、外部 MCP 或网络搜索后，相关数据会发送给相应第三方，因此“Jan 重视隐私”不等于所有使用方式都完全离线。安装扩展和 MCP 服务前还应检查来源与权限。

Jan价格与运行方式对比

Jan 桌面应用和 CLI 免费，官方仓库采用 Apache License 2.0。本地模型通常可免费运行，但需承担硬件、电力和存储；云端模型由各 API 提供商单独计费。

硬件要求与模型选择

官方经验建议每个模型预留约 5GB 或更多磁盘，并准备约模型文件大小两倍的可用内存余量。实际取决于量化、Context、KV Cache 与后端，不应只看参数量。

Jan下载安装教程

1. 下载应用：从 Jan 官网选择 Windows、macOS 或 Linux 安装包。
2. 完成首次启动：应用会下载默认基础模型；也可进入 Hub 选择其他模型。
3. 按硬件选量化：先用较小模型测试速度和内存，再逐步提高参数量或精度。
4. 创建对话：从模型选择器选本地模型，输入问题并观察内存、速度和上下文表现。
5. 配置云模型：如需更强能力，在 Model Providers 中填入自己的 API Key。
6. 启用本地API：设置监听地址、端口与API Key，仅在确有需要时开放局域网。
7. 连接MCP：安装可信服务器，选择支持Tool Calling的模型，并保持逐次审批。

适合哪些用户

• 希望离线聊天并让数据尽量留在电脑的个人用户；
• 需要比较多个本地与云端模型的 AI 爱好者；
• 希望为自有应用提供本地 OpenAI 兼容接口的开发者；
• 处理内部文档、代码和隐私资料，但能自行管理设备安全的团队；
• 希望用 MCP 为本地助手增加文件、浏览器和数据工具的高级用户。

优势与注意事项

Jan 的优势是免费开源、跨平台、无需账号、本地优先，并把模型管理、聊天、CLI、API 和 MCP 放在统一应用中。用户既能完全离线，也能按任务切换到更强的云模型。

本地模型仍可能生成错误信息，不能因为离线就视为可靠。模型许可证也与 Jan 软件许可证分开，商用前需检查具体权重条款。MCP 和局域网 API 会扩大攻击面，不应预批准未知工具或无密码暴露服务。涉及重要文件时，应备份 Jan 数据目录，并保护设备登录和磁盘加密。

常见问题

Jan AI免费吗

Jan 应用、CLI 和本地推理免费。连接 OpenAI、OpenRouter 等云端模型后，费用由对应 API 提供商收取。

Jan可以完全离线吗

可以。提前下载本地模型后可离线聊天。下载模型、调用云端 API、网络搜索和外部 MCP 则需要网络。

Jan支持中文模型吗

支持导入或下载兼容的 Qwen 等中文能力较强模型。中文质量取决于具体模型、量化和上下文设置。

Jan能作为本地API吗

能，可提供 OpenAI 兼容接口供脚本、应用和 Agent 调用。开放到局域网时必须设置 API Key 和网络限制。

Jan开源吗

开源，官方 GitHub 主仓库使用 Apache License 2.0。下载的第三方模型遵循各自许可证。