AnythingLLM官网入口 - 免费开源本地知识库、RAG与AI Agent，下载部署教程

AnythingLLM是什么

AnythingLLM 是一款免费开源的 AI 助手、文档知识库和 Agent 平台，由 Mintplex Labs 开发。它可以把 PDF、Word、文本、网页等资料整理进工作区，通过 RAG 检索增强生成回答问题，也能连接本地或云端大模型、向量数据库、Embedding、语音和搜索服务，进一步执行工具调用与自动化流程。

AnythingLLM 的特点是把模型、文档、向量检索、对话、Agent 和权限管理放进一个界面。个人用户可以安装桌面版，在自己的电脑上建立本地知识库；团队可以使用 Docker 版部署到服务器，创建多用户工作区；不想维护服务器的用户也可以选择官方托管云端。软件本体开源并采用 MIT 许可证，但所接入的模型、API、云主机和第三方服务可能产生独立费用。

AnythingLLM核心功能

文档问答与RAG知识库

用户可以向工作区上传资料，系统会解析文本、分块、生成 Embedding 并写入向量数据库。提问时，AnythingLLM 先检索相关片段，再把片段交给模型生成答案。不同项目可以建立独立工作区，分别设置提示词、模型、温度、对话模式和可用文档，适合个人资料库、产品手册、课程资料、内部制度和客户支持。

默认向量数据库为本地 LanceDB，索引和嵌入数据保存在当前实例中，也支持连接外部向量数据库。向量数据库是系统级配置，并非每个工作区单独选择；更换数据库后通常需要重新嵌入文档，因此迁移前应备份存储目录并预留重建索引的时间。

本地模型与云端模型

AnythingLLM 可以连接 Ollama、LM Studio 等本地模型，也支持多种商业模型 API 和 OpenAI 兼容接口。完全使用本地模型、本地 Embedding 和本地向量库时，文档、向量和主要推理过程可以留在自己的设备或服务器；一旦启用云端模型、联网搜索、外部 MCP 或第三方语音服务，相关提示词和数据就会传给对应服务商。

模型路由功能可以按规则在本地与云端模型之间分配任务，例如普通问答交给低成本本地模型，复杂推理交给能力更强的云端模型。路由并不能自动保证质量或隐私，部署者仍需明确哪些数据允许离开内网，并测试各模型的上下文、工具调用和结构化输出能力。

AI Agent与Agent Flows

内置 Agent 可以调用网页搜索、文档检索、SQL、文件和自定义技能等工具。Agent Flows 以可视化方式组合触发器、模型、工具和条件分支，用于制作重复性的研究、数据整理和业务流程。定时任务还可以按计划运行 Agent 流程，保存执行历史并发送通知。

Agent 具备真实工具权限时存在误操作、提示词注入和数据泄露风险。建议使用低权限凭据，限制网络和文件范围，对发送邮件、修改数据库、删除文件等高风险动作设置人工确认，同时保存日志和失败重试上限。

MCP工具扩展

AnythingLLM 支持通过 MCP 接入文件、浏览器、数据库和其他工具。桌面版主机需要预先安装对应 MCP 服务依赖，例如 Node、npx、uv 或 uvx，并确保命令位于系统 PATH。Docker 版也可配置 MCP 服务，但需要把配置和依赖正确放入容器或持久化存储。

官方文档明确说明，MCP 可用于桌面版和自托管 Docker 版，官方托管云端当前不提供这一能力。安装第三方 MCP 前应检查代码来源、权限和环境变量，不要把生产密钥直接写进可共享的配置文件。

桌面助手与应用集成

桌面助手可通过浮层在操作系统中调用 AI，并利用当前打开应用的上下文辅助提问。产品还提供 Gmail、Outlook、Google Calendar 等应用集成方向，可让 Agent 读取或处理授权数据。此类功能的实际可用范围取决于版本、账号授权和服务地区，涉及邮箱或日历时应使用最小授权并定期撤销不再需要的连接。

多用户、权限与嵌入组件

Docker 版支持单用户和多用户模式，可由管理员创建成员、分配角色、共享工作区与文档，并把聊天组件嵌入网站。公开聊天组件如果没有配置来源白名单，可能允许任意来源调用；面向公网部署时应开启严格白名单、身份认证、访问频率限制和反向代理安全策略。

AnythingLLM版本与价格对比

AnythingLLM 桌面版与 Docker 自托管版的软件本体均可免费使用。官方云端属于托管服务，具体套餐、容量和价格可能调整，应以账号内订阅或结算页面为准。本地免费不代表没有成本：设备、服务器、电力、存储、备份以及外部模型 API 都需要单独计算。

版本	软件费用	适用场景	主要区别
Desktop桌面版	免费开源	个人本地知识库与AI助手	单用户，支持Windows、macOS和Linux；安装简单，数据可保存在本机
Docker自托管版	免费开源	个人服务器、团队与内网部署	支持单用户或多用户、共享工作区、权限和嵌入组件；服务器成本自理
AnythingLLM Cloud	付费托管，价格以订阅页为准	不想维护服务器的用户或团队	由官方托管基础设施；功能和配额依套餐而定，官方文档说明不支持MCP

模型与数据部署方式对比

组合	主要费用	隐私与网络	适合用户
本地模型＋本地Embedding＋LanceDB	无按次API费，承担硬件与电力成本	可离线，数据主要留在设备或自建服务器	重视隐私、有可用算力的个人和组织
本地知识库＋云端模型API	按第三方模型Token或套餐计费	检索片段和提示词会发送给模型商	需要更强模型能力、可接受云端处理的用户
外部向量库＋云端模型	模型、数据库和网络均可能收费	数据分布在多个服务，需统一治理	已有云基础设施或大规模索引的团队
官方托管云端	订阅费，外部API可能另计	无需自管服务器，数据按云端条款处理	希望快速上线且不维护运维环境的用户

AnythingLLM Docker部署教程

准备环境：在服务器安装 Docker，确认磁盘、内存、端口和域名满足使用人数与模型规模。
创建持久化目录：把宿主机目录映射到容器内的存储路径。若未正确挂载持久卷，删除或重建容器后可能丢失工作区、文档和设置。
启动容器：按官方镜像配置服务端口，首次可在本机端口进入初始化页面。公网服务器不要直接暴露未认证端口。
选择模型与Embedding：连接本地 Ollama、兼容接口或云端 API，并分别完成聊天模型、Embedding 和向量数据库设置。
建立工作区：创建项目，设置系统提示词和检索参数，再上传少量测试文档检查解析、引用和中文回答质量。
配置用户权限：团队使用时开启多用户模式，区分管理员和普通成员，只共享必要工作区。
增加安全层：配置 HTTPS、反向代理、强密码、来源白名单、访问限制和防火墙；密钥使用环境变量或密钥管理服务。
备份与监控：定期备份持久化目录和外部数据库，记录模型费用、磁盘增长、失败任务与 Agent 工具调用。

AnythingLLM适合哪些用户

希望在电脑上搭建个人文档知识库、尽量本地处理资料的用户；
需要为公司制度、产品手册或项目资料提供内部问答的团队；
希望通过 Docker 私有化部署 RAG 与多用户 AI 助手的技术人员；
需要连接多种本地和云端模型，并按任务切换模型的 AI 用户；
计划使用 Agent Flows、MCP 和定时任务搭建自动化流程的开发者。

优势与使用限制

AnythingLLM 的优势是免费开源、部署选择多、界面完整，并同时覆盖文档 RAG、多模型、Agent、工作流和团队权限。桌面版降低了本地知识库门槛，Docker 版则方便组织掌控数据位置和基础设施。

它并不会让 RAG 自动准确。扫描件解析、表格结构、分块方式、Embedding 模型、检索数量和原始资料质量都会影响回答；关键结论仍应返回原文核对。自托管也不等于自动安全，管理员需要负责升级、备份、身份认证、网络隔离和密钥保护。模型生成内容可能包含错误，医疗、法律、财务和生产操作不应在缺少人工复核时直接执行。