Agents-Flex

Agents-Flex是什麼

Agents-Flex是一個面向Java開發者的開源AI應用與智能體開發框架。它將模型調用、工具、Agent、RAG、MCP、Skills、Text2SQL以及多模態功能拆分為可依需求組合的模組。

此框架並不強制要求必須使用Spring，因此可以在一般的Java、Spring Boot以及其它JVM技術架構中運用。大多數核心模組都支援JDK 8及以上版本，而MCP模組則需要JDK 17或更高版本。

Agents-Flex主要功能

1. 統一模型調用

ChatModel、EmbeddingModel、ImageModel和RerankModel等介面用於掩蓋不同服務商之間的差異。普通回應與流式回應共享提示詞、選項、上下文以及攔截器機制。

2. Tool Calling

開發者可以透過註解掃描或程式碼建構，將 Java 業務方法轉換為模型工具。此工具的執行結果可以以對話方式回傳，同時也能與運行時的設定及外掛系統相連接。

3. Agent運行時

框架提供ReAct、路由、任務規劃、子Agent、人工審批、預算、重試以及事件流等功能。執行任務時可儲存快照，並在暫停、外部回調或進程中斷後恢復。

4. RAG知識庫

文件載入、解析、切分、向量化、檢索及重排，構成了完整的RAG流程。向量儲存可適用於Redis、Qdrant、Chroma、Pgvector、MariaDB、Milvus、OpenSearch和Elasticsearch等系統。

5. MCP用戶端

MCP模組可透過標準輸入輸出、HTTP SSE以及流式HTTP連線來與外部服務交互，並將遠端工具轉換為Agents-Flex工具。此模組需要JDK 17以上版本的环境。

6. 技能能力包

Skills以檔案目錄的方式來組織說明、腳本及資源，這些內容可以從本地或遠端儲存裝置中取得，並根據需求進行載入。腳本則可以在本機、OpenSandbox或集中式的AIO Sandbox中執行。

7. Text2SQL

Text2SQL模組支援列出資料來源、逐步讀取表格結構並產生查詢。該框架提供只讀SQL檢查、參數約束、結果數量限制、租戶隔離以及審計擴展點。

8. 多模態與文件

圖像模組負責圖片的產生與編輯，音頻模組則支援語音合成與識別，而影片模組則採用異步任務處理方式。OCR功能可連接百度智能雲、Gitee AI和MinerU，並能解析圖片或PDF檔案。

9. 可觀測與生產治理

框架可以關聯模型、Agent、工具和異步任務，追蹤延遲、Token和狀態。模型路由支援負載均衡、重試、熔斷和半開恢復，可觀測能力基於OpenTelemetry。

適合哪些開發者

• 希望在Java服務中接入多家大模型的後端團隊。
• 需要構建企業知識庫、智慧客服和自然語言數據分析的項目。
• 希望使用MCP、Skills和子Agent組織複雜任務的開發者。
• 對長任務恢復、審批、預算和可觀測有生產要求的企業。
• 需要圖像、語音、影片和OCR統一Java介面的多模態應用。
• 已有Spring Boot系統，但不希望被單一模型服務商綁定的團隊。

運行環境與模組要求

• 大多數核心模組支援JDK 8或更高版本。
• MCP模組需要JDK 17或更高版本。
• 專案使用Maven來管理依賴關係，可引入BOM、聚合依賴或單獨的模組。
• 一般的Java應用程式在不需要Spring的情況下也能運作。
• Spring Boot專案可利用官方的Starter來完成常見的自動設定。
• JDBC和Redis可用於Agent及異步任務狀態的持久化。

費用與許可證

截至2026年8月24日，Agents-Flex框架本身免費開源，官方倉庫採用Apache License 2.0。官網沒有公開託管雲套餐或商業訂閱價格。

實際應用仍可能產生模型API、向量資料庫、搜尋服務、對象儲存、OCR、語音、影片以及沙箱資源的費用。每項外部服務都應分別核對額度、價格、數據政策及地區限制。

常見成本項目

• 聊天、嵌入、重排和圖像模型調用。
• 託管式向量資料庫與搜尋集群。
• OCR、語音識別、語音合成和影片生成服務。
• Agent運行所需的伺服器、資料庫和Redis。
• 用於隔離執行Skills的容器或沙箱平台。
• 日誌、指標、鏈路追蹤和長期資料儲存。

快速開始教學

1. 根據所需模組選擇JDK版本，使用MCP時至少準備JDK 17。
2. 在Maven專案中引入Agents-Flex BOM或目標模組依賴。
3. 選擇模型適配器，並透過環境變數配置服務地址、模型名稱和金鑰。
4. 先完成一次簡單同步或流式對話，確認認證和錯誤處理正常。
5. 按需加入Memory、工具、RAG、MCP或Agent模組。
6. 為外部調用設定超時、重試、限流和費用上限。
7. 在測試環境驗證工具權限、提示注入和失敗恢復。
8. 啟用OpenTelemetry或自訂日誌，觀察延遲、Token和任務狀態。
9. 生產部署前鎖定依賴版本並完成安全審查。

構建RAG應用教學

1. 確定知識來源、更新頻率和訪問權限。
2. 載入PDF、Office、HTML或其他文件並提取正文。
3. 根據文件結構切分內容，保留標題、來源識別和權限元數據。
4. 選擇Embedding模型，把向量寫入適配的向量儲存。
5. 按用戶問題檢索候選片段，並透過Rerank提高相關性。
6. 只把必要片段和引用資訊送入ChatModel。
7. 對低置信度回答設置拒答或人工升級機制。
8. 使用真實問題評估召回、準確性、延遲與模型費用。

構建Agent的安全建議

• 工具預設採用最小權限，寫入、刪除和外部發送動作需要審批。
• 為每個任務設定步數、Token、費用和時間預算。
• 把不可信文件和腳本放入隔離沙箱執行。
• Text2SQL優先使用只讀資料庫帳號並限制結果數量。
• MCP服務應校驗來源、權限和傳輸安全。
• 持久化快照與事件時避免記錄金鑰和敏感原文。
• 為重試和恢復設計幀等操作，防止重複扣費或重複寫入。

產品優勢

• Java原生設計，核心模組可運行在較低版本JDK上。
• 模組拆分清晰，可只引入項目真正需要的能力。
• 不強制依賴Spring，同時兼顧Spring Boot快速集成。
• 從模型、RAG和MCP覆蓋到可恢復Agent與可觀測能力。
• 支援多家國內外模型、資料庫和多模態服務。
• Apache 2.0許可證適合企業依合規要求使用和修改。

使用限制與注意事項

• 框架不是開箱即用的可視化AI平台，需要Java開發和運維能力。
• 不同模型適配器的參數、流式回應和工具呼叫能力可能不一致。
• MCP模組的JDK要求高於大多數核心模組，舊專案升級前需評估。
• 外部模型與基礎設施費用不包含在開源框架中。
• Agent、腳本和Text2SQL可能產生真實副作用，必須做權限控制。
• 模組數量多，升級時應查看變更記錄並完成回歸測試。
• 開源許可證不自動覆蓋所連接模型、素材和第三方SDK。

開源情況說明

Agents-Flex的主倉庫公開了其原始碼，且明確採用Apache License 2.0授權方式，因此該框架本身可被視為開源軟體。在使用或再散發此框架時，必須遵守授權條款中所規定的版權、聲明及專利相關規定。

框架適配的模型、OCR、搜尋、向量庫和沙箱服務各有獨立的許可證與商業條款。呼叫這些服務並不代表相應的平台也是開源或免費的。

常見問題

Agents-Flex必須使用Spring嗎

不需要。核心模組可以在一般的Java環境中運行，同時也提供了Spring Boot Starter，以便將其整合到現有的專案中。

支援哪些JDK版本

大多數模組都支援JDK 8以上版本，而MCP模組則需要JDK 17以上版本。

可以構建RAG知識庫嗎

可以。框架提供文件提取、切分、Embedding、向量儲存、檢索和重排模組。

Agents-Flex免費嗎

框架本身免費開源，但所連接的模型、資料庫、搜尋、OCR和沙箱服務可能收費。

可以用於商業專案嗎

Apache 2.0許可證允許商業使用，但需要保留相關聲明，並分別核對第三方依賴及模型服務條款。

總結

Agents-Flex適合那些希望利用Java的模組化功能來建立模型調用、RAG以及具有恢復能力的智慧體的開發團隊。它的功能相當完整，但在實際應用時，仍需正確選擇JDK、控制工具的權限、核算外部成本，並持續維護相關的依賴項目。