LlamaIndex

LlamaIndex是什么

LlamaIndex 是面向大语言模型应用的数据框架，主要用于把文档、数据库、API 和其他私有数据连接到 LLM，构建 RAG 检索增强生成、知识库问答、文档处理与 AI Agent。它提供 Python 和 TypeScript 生态，覆盖数据读取、文档切分、Embedding、索引、检索、查询引擎、工具调用、记忆、评估和工作流编排。

需要区分两个产品：LlamaIndex Framework 是免费开源的开发框架；LlamaCloud 是商业化云平台，其中 LlamaParse 负责复杂文档解析，平台还提供提取、分类、拆分、索引、检索和 Agent 工作流能力。开源框架没有许可费，但调用模型 API、Embedding、向量数据库和云基础设施仍会产生费用。

LlamaIndex核心功能

数据连接与文档处理

LlamaIndex 可以从文件、网页、数据库、SaaS 和自定义接口读取数据，并把内容转换为 Document 与 Node。开发者可配置文本切分、元数据、排除字段和转换管道，为后续向量索引、关键词索引或知识图谱提供输入。复杂 PDF、扫描件、表格和图表可以交给 LlamaParse 处理。

索引、Retriever与Query Engine

框架支持把节点写入内存、向量数据库、文档存储或图数据库，并通过 Retriever 找出与问题相关的内容。Query Engine 负责组织检索、重排、提示词和答案合成，Chat Engine 则增加多轮对话能力。生产项目通常还需加入元数据过滤、混合检索、重排、引用和无答案判断。

RAG 并非上传文件后就会自动准确。解析质量、切分粒度、Embedding、召回数量和模型都会影响结果。应使用真实问题建立评估集，分别观察召回率、答案正确性、引用一致性、延迟和成本。

AI Agent与工具调用

LlamaIndex Agent 可以把查询引擎、函数、搜索、数据库和外部 API 封装为工具，由模型决定调用顺序。它适合文档研究、数据分析、客户支持和业务自动化。面对有副作用的工具，应限制凭据权限、验证参数、设置超时和调用上限，并对付款、删除、发布等操作增加人工审批。

Workflows事件驱动编排

Workflows 使用事件和步骤组织异步流程，可表达循环、分支、并行任务、状态和人工介入。相比把所有逻辑写进单个 Agent，它更适合需要明确控制、重试和可观测性的长任务。工作流可与 LlamaIndex 的 Retriever、Agent 和 LlamaCloud 服务组合，也可独立用于其他 Python 应用。

多模型与多存储集成

框架可以连接多种商业或本地 LLM、Embedding、向量数据库、图数据库、重排模型和可观测平台。集成通常以独立软件包发布，项目应只安装需要的模块并锁定版本。不同供应商的流式输出、工具调用、图片、上下文长度和过滤语法并不完全相同，切换前需要回归测试。

LlamaParse复杂文档解析

LlamaParse 是商业文档解析服务，可处理 PDF、Office、演示文稿、电子表格和图片等多种格式，并输出 Markdown、纯文本、逐页 JSON、XLSX、HTML 表格或带标注 PDF。它提供 Fast、Cost-effective、Agentic 和 Agentic Plus 档位，适合从普通文本提取到复杂表格、图表、版面和图片理解。

LlamaExtract与结构化提取

LlamaExtract 可按 Schema 从文档中抽取字段，并提供引用与置信度方向；平台还支持分类、拆分和电子表格数据提取。它适合发票、理赔材料、合同、报告和尽调文档，但抽取结果仍应进行字段校验、类型验证和人工抽样。

LlamaCloud托管索引与检索

LlamaCloud 可以托管解析、数据摄取、索引与检索，减少自建文档管道和向量基础设施的工作。免费和不同付费套餐在索引数量、单索引文件数、并发任务、数据源、项目数、支持与企业安全能力上存在差异。企业还可咨询私有 VPC 或混合部署。

开源与许可证

LlamaIndex 核心代码在官方 GitHub 开放，核心包采用 MIT 许可证。部分集成包及其依赖可能采用不同许可证，商用时应逐项检查。LlamaParse 和 LlamaCloud 是商业服务，不属于开源框架本体，不能因为 SDK 开源就视为平台可自由私有化部署。

LlamaCloud套餐价格对比

官方平台采用积分制，当前北美和欧洲区域的标准换算为 1,000 credits = 1.25 美元。积分用于解析、索引、提取、存储和查询等动作。套餐金额、额度和限流可能调整，正式采购前应以结算页面和合同为准。

公开套餐均可包含较多用户席位，但并不意味着资源无限。Starter 与 Pro 超出所含积分后按量计费，并分别设有月度上限；模型 API、外部数据库和自建应用基础设施可能另计。

LlamaParse解析档位价格对比

布局提取可额外消耗每页 3 credits，电子表格通常按每个 Sheet 1 credit，音频按每分钟 3 credits。托管索引的导出页、检索查询、聊天轮次和保留文件存储也有独立积分规则，不能只按首次解析页数估算总成本。

LlamaIndex入门教程

1. 创建项目环境：使用受支持的 Python 版本创建虚拟环境，安装核心包以及实际需要的模型和向量库集成包。
2. 配置模型：设置聊天模型与 Embedding。API Key 应放在环境变量或密钥系统，不要写进代码仓库。
3. 读取数据：先用少量代表性文件测试 Reader，检查编码、表格、页码和元数据是否完整。
4. 建立索引：选择切分策略，把节点写入本地或外部向量数据库，并保留文档标识与来源字段。
5. 创建查询引擎：设置召回数量、过滤、重排和回答提示词，让输出包含可核验引用。
6. 扩展为Agent：把检索器和业务函数封装为工具，限制权限，并为高风险动作加入确认。
7. 复杂流程使用Workflow：把解析、检索、判断、工具调用和人工复核拆成事件步骤。
8. 评估与上线：建立测试集，记录质量、延迟、Token、积分和失败率，再部署 API 与监控。

适合哪些用户

• 开发企业知识库、文档问答和智能搜索的 Python 或 TypeScript 工程师；
• 需要为 Agent 接入私有数据、数据库和业务工具的 AI 团队；
• 处理复杂 PDF、表格、扫描件和结构化抽取的文档自动化团队；
• 希望自建 RAG 栈并自由选择模型、向量库与部署方式的组织；
• 希望使用托管解析和索引服务减少基础设施维护的企业。

优势与注意事项

LlamaIndex 的优势是数据与 RAG 组件丰富、集成面广，并把检索、Agent、工作流和商业文档平台连成一套生态。开发者既可用高层 API 快速验证，也可深入控制切分、检索、存储和响应合成。

代价是概念和依赖较多，集成包更新速度快，旧教程可能与当前 API 不一致。项目应锁定依赖、阅读迁移说明并建立自动化测试。使用云解析时需要评估数据保留、缓存、区域与合规要求；处理敏感文件可关闭缓存或选择适当企业部署。任何 RAG 或抽取结果都可能遗漏、错配或产生幻觉，关键业务必须核对原文。

常见问题

LlamaIndex免费吗

开源框架免费，核心包采用 MIT 许可证。模型 API、向量数据库、服务器以及 LlamaParse、LlamaCloud 等商业服务可能收费。

LlamaIndex和LangChain有什么区别

两者都能构建 RAG 和 Agent。LlamaIndex 长期更聚焦数据连接、索引、检索和文档智能，LangChain 的通用 Agent 与应用编排生态也很丰富。实际选择应根据已有技术栈、集成、评估和部署需求测试。

LlamaParse开源吗

不开源。LlamaParse 是商业文档解析平台，提供每月免费积分和付费套餐；开源的是 LlamaIndex Framework 与相关工作流代码。

LlamaIndex支持本地模型吗

支持，可通过相应集成连接本地 LLM 和 Embedding，也可以把索引保存在本地或自建数据库。是否完全离线取决于所有组件是否均为本地服务。

LlamaIndex有TypeScript版本吗

有，官方提供 LlamaIndex.TS。Python 与 TypeScript 的功能覆盖和发布节奏可能不同，选型前应核对所需集成是否可用。