LlamaIndex

LlamaIndex是什麼

LlamaIndex 是面向大語言模型應用的數據框架，主要用於將文件、資料庫、API 與其他私有數據連接到 LLM，從而構建 RAG 檢索增強生成、知識庫問答、文件處理與 AI Agent。

它提供 Python 和 TypeScript 生態，覆蓋數據讀取、文件切分、Embedding、索引、檢索、查詢引擎、工具調用、記憶、評估和工作流編排。

需要區分兩個產品：LlamaIndex Framework 是免費開源的開發框架；LlamaCloud 是商業化雲平台，其中 LlamaParse 負責複雜文件解析，平台還提供提取、分類、拆分、索引、檢索以及 Agent 工作流功能。

開源框架沒有許可費，但調用模型 API、Embedding、向量資料庫和雲基礎設施仍會產生費用。

LlamaIndex核心功能

數據連接與文件處理

LlamaIndex 可以從檔案、網頁、資料庫、SaaS 以及自訂介面中讀取資料，並將其轉換為 Document 與 Node。開發者可設定文本切分方式、元資料、要排除的欄位，以及轉換流程，以便為後續的向量索引、關鍵字索引或知識圖譜提供輸入資料。

複雜的 PDF、掃描檔、表格和圖表可以交給 LlamaParse 處理。

索引、Retriever與Query Engine

框架支援將節點寫入記憶體、向量資料庫、文件儲存或圖資料庫，並透過 Retriever 找出與問題相關的內容。Query Engine 負責組織檢索、重排、提示詞以及答案的合成，而 Chat Engine 則能實現多輪對話的功能。

生產項目通常還需加入元數據過濾、混合檢索、重排、引用及無答案判斷。

RAG並非上傳文件後就會自動準確。解析品質、切分粒度、Embedding、召回數量以及模型都會影響結果。

應使用真實問題建立評估集，分別觀察召回率、答案正確性、引用一致性、延遲和成本。

AI Agent與工具調用

LlamaIndex Agent 可以將查詢引擎、函數、搜尋功能、資料庫以及外部 API 封裝為工具，由模型決定其呼叫順序。它適用於文件研究、資料分析、客戶支援以及業務自動化等領域。

面對有副作用的工具，應限制憑證權限、驗證參數、設定超時和調用上限，並對付款、刪除、發布等操作增加人工審批。

工作流程事件驅動編排

工作流程透過事件和步驟來組織異步流程，能夠表達循環、分支、並行任務、狀態以及人為介入等概念。相較於將所有邏輯都寫在單一 Agent 中，這種方式更適用於那些需要明確控制、重試機制以及良好可觀測性的長期任務。

工作流可與 LlamaIndex 的 Retriever、Agent 和 LlamaCloud 服務組合，也可獨立用於其他 Python 應用。

多模型與多儲存集成

框架可以連接多種商業或本地的 LLM、Embedding、向量資料庫、圖資料庫、重排模型以及可觀測平台。其整合方式通常是以獨立軟體套件的形式發布，因此專案應僅安裝所需的模組，並鎖定版本。

不同供應商的流式輸出、工具呼叫、圖片、上下文長度和過濾語法並不完全相同，切換前需要回歸測試。

LlamaParse複雜文件解析

LlamaParse 是商業文件解析服務，可處理 PDF、Office、簡報、試算表和圖片等多種格式，並輸出 Markdown、純文字、逐頁 JSON、XLSX、HTML 表格或帶標註的 PDF。

它提供 Fast、Cost-effective、Agentic 和 Agentic Plus 档位，適合從普通文本提取到複雜表格、圖表、版面和圖片理解。

LlamaExtract與結構化提取

LlamaExtract 可依據 Schema 從文件中抽取欄位，並提供引用與置信度數值；該平台還支援分類、拆分以及電子表格資料提取。

它適合發票、理賠材料、合約、報告和盡調文件，但抽取結果仍應進行欄位校驗、類型驗證和人工抽樣。

LlamaCloud託管索引與檢索

LlamaCloud 可以負責解析、資料擷取、索引建立與搜尋等作業，從而減少自行建置文件處理管道及向量基礎設施的繁瑣工作。免費方案以及不同的付費方案，在索引數量、單個索引的檔案數量、同時處理的任務數量、資料來源、專案數量，以及所支援的企业安全功能等方面都有差異。

企業還可諮詢私有 VPC 或混合部署。

開源與許可證

LlamaIndex 的核心代碼已在官方 GitHub 上公開，其核心套件採用 MIT 授權條款。部分整合套件及其依賴項目可能使用不同的授權條款，商業化使用時應逐一檢查。

LlamaParse 和 LlamaCloud 是商業服務，不屬於開源框架本身，不能因為 SDK 開源就視為平台可自由私有化部署。

LlamaCloud套餐價格對比

官方平台採用積分制，目前北美和歐洲地區的換算標準為 1,000 credits = 1.25 美元。這些積分可用於資料的解析、索引建立、提取、儲存以及查詢等操作。

套餐金額、額度及限流可能調整，正式採購前應以結算頁面和合約為準。

公開套餐均可包含較多用戶席位，但並不意味著資源無限。Starter 與 Pro 在超出所含積分後會按量計費，且分別設有月度上限；

模型 API、外部資料庫和自建應用基礎設施可能另計。

LlamaParse解析檔位價格對比

佈局提取可額外消耗每頁 3 credits，電子表格通常按每個 Sheet 1 credit，音頻按每分鐘 3 credits。託管索引的導出頁、檢索查詢、聊天輪次和保留文件儲存也有獨立積分規則，不能只按首次解析頁數估算總成本。

LlamaIndex入門教學

1. 建立專案環境：使用受支援的 Python 版本創建虛擬環境，安裝核心套件以及實際需要的模型和向量庫整合套件。
2. 配置模型：設定聊天模型與 Embedding。API Key 應放在環境變數或密鑰系統中，不要寫入程式碼倉庫。
3. 讀取數據：先用少量代表性文件測試 Reader，檢查編碼、表格、頁碼和元資料是否完整。
4. 建立索引：選擇切分策略，把節點寫入本地或外部向量資料庫，並保留文件識別碼與來源欄位。
5. 創建查詢引擎：設定召回數量、過濾、重排和回答提示詞，讓輸出包含可核驗引用。
6. 擴展為Agent：將檢索器與業務函數封裝為工具，限制權限，並為高風險動作加入確認。
7. 複雜流程使用Workflow：把解析、檢索、判斷、工具調用和人工複核拆成事件步驟。
8. 評估與上線：建立測試集，記錄品質、延遲、Token、積分和失敗率，再部署 API 與監控。

LlamaIndex使用教學

建立可重複使用的專業工作流

1. 建立品牌模板、標題層級和常用頁面庫；
2. 固定數據連接與文件處理、索引、Retriever與Query Engine以及AI Agent與工具調用的製作順序；
3. 規定每頁一個重點並控制文字密度；
4. 把事實、視覺和演講邏輯分別交給負責人審核；
5. 測試不同設備的字體、動畫和比例；
6. 保存源文件、版本和最終批准記錄；

適合哪些用戶

• 開發企業知識庫、文件問答及智慧搜尋功能的 Python 或 TypeScript 工程師；
• 需要為 Agent 接入私有數據、資料庫和業務工具的 AI 團隊；
• 處理複雜 PDF、表格、掃描件以及進行結構化資料抽取的文件自動化團隊；
• 希望自建 RAG 擴充記憶體並自由選擇模型、向量庫與部署方式的組織；
• 希望使用託管解析和索引服務以減少基礎設施維護的企業。

優勢與注意事項

• LlamaIndex的優勢在於其擁有豐富的數據與RAG組件、廣泛的整合能力，並將檢索、Agent、工作流程及商業文件平台整合為一個完整的生態系統；
• 開發者既可用高層API快速驗證，也可深入控制切分、檢索、儲存和回應合成；
• 代價是概念和依賴較多，整合套件更新速度快，舊教學可能與現行API不一致；
• 項目應鎖定依賴、閱讀遷移說明並建立自動化測試；
• 使用雲解析時需要評估資料保留、緩存、區域與合規要求；
• 處理敏感文件可關閉緩存或選擇適當企業部署；
• 任何RAG或抽取結果都可能遺漏、錯配或產生幻覺，關鍵業務必須核對原文；

常見問題

LlamaIndex免費嗎

開源框架免費，核心套件採用 MIT 授權。模型 API、向量資料庫、伺服器以及 LlamaParse、LlamaCloud 等商業服務可能收費。

LlamaIndex和LangChain有什麼區別

兩者都能構建 RAG 和 Agent。LlamaIndex 長期更聚焦於資料連接、索引、檢索以及文件智慧化處理，而 LangChain 的通用 Agent 與應用編排生態系也相當豐富。

實際選擇應根據已有技術架構、整合、評估及部署需求測試。

LlamaParse開源嗎

不開源。LlamaParse 是商業文件解析平台，提供每月免費積分和付費套餐；

開源的是 LlamaIndex Framework 與相關工作流代碼。

LlamaIndex支援本地模型嗎

支持，可透過相應集成連接本地 LLM 和 Embedding，也可將索引保存在本地或自建資料庫。是否完全離線取決於所有組件是否皆為本地服務。

LlamaIndex有TypeScript版本嗎

有，官方提供 LlamaIndex.TS。Python 與 TypeScript 的功能覆蓋和發布節奏可能不同，選型前應核對所需集成是否可用。