一句話介紹
Julep是一個面向開發者的開源AI代理及持久化工作流平台,而同一團隊目前重點推動的Memory Store則能將跨應用程式的對話、會議、決策以及工作上下文整理成可供多個AI客戶端調用的共享記憶。
當前產品狀態
記錄中的「Julep或memory.store」現在對應兩個相關但用途不同的產品。Julep平台已經完全開源,而該團隊的官方網站也明確表示,他們的主要發展重點已轉向Memory Store。
| 產品 | 當前定位 | 主要用戶 | 開源狀態 |
|---|---|---|---|
| Julep | 持久化AI代理與可組合工作流平台 | AI應用開發者與平台團隊 | Apache-2.0開源 |
| Open Responses | 可自託管的Responses相容介面 | 需要自控模型與部署的開發者 | Apache-2.0開源,Alpha階段 |
| Memory Store | 跨AI工具的個人與團隊共享記憶 | 知識工作者和團隊 | 託管產品本身未聲明開源 |
| Memory Store插件市場 | 面向Codex與Claude等宿主的工作流插件 | 智能體工作流用戶 | Apache-2.0開源 |
Julep代碼開源並不代表Memory Store託管服務及其資料後端也全部開源。目錄中應分別標明產品、連接器及插件倉庫的許可證類型。
Julep解決什麼問題
一般的智慧體原型通常是以臨時的循環結構來串接各種模型與工具,因此一旦運行中斷,就很難恢復,同時也難以審計每一個步驟。而 Julep 則將智慧體視為可持續、可組合的資料流,如此一來,長時間的任務就能夠保存狀態、重新嘗試執行,並且能夠了解其執行過程。
- 定義具有明確配置和工具權限的AI代理。
- 維護跨輪次對話和用戶上下文。
- 編排包含判斷、循環、並行和工具調用的任務。
- 記錄執行狀態、步驟輸出和錯誤。
- 在失敗後按策略安全重試或恢復。
- 從文件和歷史記錄中檢索相關資訊。
- 透過Python、Node.js、API或自託管服務接入。
代理Agents
代理人會儲存模型、名稱、用途、指令、系統模板、預設的產生參數、元資料、文件,以及可使用的工具。同一個代理人可以同時處理多個會話或任務。
| 代理配置 | 作用 | 設計建議 |
|---|---|---|
| Instructions | 規定角色、任務與行為邊界 | 保持明確並避免互相衝突 |
| Model | 選擇實際推理模型 | 根據品質、延遲和成本測試 |
| Default Settings | 配置溫度、輸出格式等參數 | 從保守值開始 |
| System Template | 將代理、用戶、會話和文件渲染進上下文 | 避免注入未經信任的指令 |
| Tools | 授予函數、系統、集成或API能力 | 只開放完成任務所需權限 |
| Docs | 提供可檢索的知識材料 | 記錄版本、權限和更新週期 |
| Metadata | 按項目、環境或用途分類 | 不要存放明文密鑰 |
Sessions狀態會話
會話用於儲存代理與使用者之間的連續互動,包括歷史訊息、情境、系統模板、元資料以及上下文溢出策略。對話記憶屬於會話的一部分,而非永久性地融入代理的定義之中。
- 為同一代理創建多個隔離會話。
- 將用戶與代理綁定到特定對話。
- 保存歷史消息和當前情境。
- 設定截斷或自適應上下文策略。
- 控制文件召回的向量、文本或混合搜尋。
- 決定是否自動執行或轉發工具呼叫。
- 用元數據保存非敏感業務狀態。
長期記憶與RAG
Julep可以將文件與代理人或使用者關聯起來,並在會話中執行向量、文字或混合式搜尋。文件儲存、嵌入內容以及歷史記錄,共同為代理人提供長期的上下文資訊。
| 記憶層 | 保存內容 | 用途 | 注意事項 |
|---|---|---|---|
| Session History | 逐輪對話消息 | 保持當前會話連貫 | 需要設定上下文預算 |
| Situation | 當前會話背景 | 為模型提供短期情境 | 及時更新過時狀態 |
| User Docs | 用戶專屬文件 | 個性化檢索 | 按用戶隔離權限 |
| Agent Docs | 代理共享知識 | 為所有相關會話提供材料 | 控制版本和可見範圍 |
| Embeddings | 固定維度向量 | 相似度檢索 | 模型更換需評估相容性 |
| Metadata | 結構化標籤和業務字段 | 過濾、分組和狀態管理 | 避免寫入機密憑證 |
召回結果僅為相關資料,無法保證其內容的正確性、即時性,亦無法確保其可用於當前的任務。應用程式仍需設計資料的有效期、權限過濾以及回應引用機制。
任務多步驟任務
Task類似GitHub Actions風格的工作流配方,描述輸入結構、工具以及一系列步驟。它適用於需要長時間運行且需有明確控制流的自動化任務,例如研究、文件處理、客戶服務、資料管道等。
- 驗證任務輸入結構。
- 把前一步輸出傳給後續步驟。
- 依據中間結果執行條件分支。
- 透過foreach或映射處理集合。
- 調用模型、系統工具、整合與外部API。
- 為步驟設定重試、超時和錯誤路徑。
- 以Execution對象查詢任務狀態和結果。
文件提示:請勿將大小超過數MB的巨大檔案直接放入工作流程的輸入端。大檔案應先上傳,再傳遞其參考資料,或者以分頁、分塊的方式來處理。
持久化執行
Julep強調,即使在進程崩潰、網路故障或暫時性的服務錯誤發生時,任務仍能恢復,並且還能對可重試的錯誤執行相應的策略。每次執行時,都會記錄下狀態變化、步驟輸出、失敗點以及錯誤訊息。
| 執行能力 | 作用 | 工程價值 |
|---|---|---|
| Frozen IR | 把構建時流程編譯為固定表示 | 減少運行時結構漂移 |
| Retries | 對可重試錯誤重新執行 | 處理暫時性網路或服務失敗 |
| Timeouts | 限制單步或任務等待 | 防止永久掛起 |
| Transitions | 記錄步驟與狀態變化 | 便於審計和調試 |
| Resume | 從持久狀態恢復 | 支援長時間業務流程 |
| Idempotency | 標記安全重複執行的工具 | 降低重試造成重複副作用 |
Flow編程模型
Julep 3能將一般的Python程式碼結構轉換為可組合的Flow格式,並支援純函數步驟、推理器、工具、分支、扇出結構、重試機制以及超時處理等功能,最後將其編譯成統一的線性表示形式。目前3.x版本仍處於測試階段,安裝時需要選擇預發布版本。
候選版本的名稱或介面可能會有所變化,因此,實際應用時應固定使用某個特定的版本,並進行整合測試,同時還需制定升級計劃。此外,舊版的 Tasks 文件與新版的 Flow API 也不應該在相同的程式碼範例中混用。
工具體系
| 工具類型 | 執行位置 | 典型用途 | 風險 |
|---|---|---|---|
| User-defined Function | 由用戶端處理後回傳 | 調用應用本地能力 | 用戶端必須驗證參數 |
| System Tool | Julep後端 | 操作會話、任務和元資料 | 可能修改平台狀態 |
| Integration | Julep集成服務 | 調用第三方業務服務 | 需要安全保存憑證 |
| API Call | 工作流運行期間 | 直接請求外部介面 | 需限制地址、權限和費用 |
| MCP Tool | 動態發現的MCP伺服器 | 連接外部工具生態 | 要驗證伺服器與工具權限 |
模型只能調用明確授予的工具,但工具白名單仍可能過寬。會發送消息、付款、刪除或修改生產數據的工具應增加審批、冪等鍵和審計日誌。
MCP集成
Julep代理可以連接兼容MCP的公共或私有伺服器,並動態發現可用的工具。文件傳輸支援請求回應以及伺服器事件流兩種方式。
- 確認MCP伺服器運營者和部署位置。
- 列出代理真正需要的工具與操作。
- 把認證令牌放入Julep秘密儲存。
- 在測試環境連接並檢查發現的工具。
- 限制寫操作和敏感數據傳輸。
- 模擬超時、重複呼叫和伺服器不可用。
- 記錄每次工具調用及其業務結果。
- 定期撤銷舊憑證和無用連接。
秘密管理
Secrets用於儲存模型金鑰、第三方API令牌以及其他敏感資料,並可在任務與工具中透過名稱來引用。文件中提到,這些金鑰會以AES-256方式進行靜態加密,且會根據開發者帳戶進行隔離。
- 不要把密鑰寫入代碼、YAML或日誌。
- 開發、測試與生產使用不同憑證。
- 按集成和用途分配最小權限。
- 定期輪換並記錄憑證負責人。
- 發現洩露後立即撤銷而不是只刪除代碼。
- 檢查工作流輸出是否意外包含金鑰。
模型與供應商
Julep透過LiteLLM將Anthropic、OpenAI、Google、Groq、OpenRouter、Amazon Nova以及多種嵌入式模型統一連接起來。開發者可以在相同的代理介面下更換模型供應商。
| 供應商組 | 代表能力 | 生產注意事項 |
|---|---|---|
| OpenAI | 文本、視覺、工具調用和結構化輸出 | 使用自己的生產密鑰與帳單 |
| Anthropic | 長上下文、工具調用和緩存 | 檢查具體模型區域與參數 |
| 長上下文、多模態和音頻能力 | 確認Vertex與AI Studio差異 | |
| Groq | 多種開源模型的低延遲推論 | 能力依模型而異 |
| OpenRouter | 統一訪問多家模型 | 增加一層數據與費用關係 |
| 本地或自託管模型 | 控制部署和數據邊界 | 承擔算力、性能與運維 |
| Embedding Models | 文件向量化與檢索 | Julep目前統一使用1024維 |
平台可能會為開發測試提供金鑰,但正式上線時必須使用自己的供應商金鑰。模型費用、流量限制、資料保留期限以及地區相關規定,則由對應的供應商或自託管環境來決定。
Python與Node.js SDK
Julep提供Python套件與Node.js SDK,可用於建立代理、使用者、會話、文件、任務以及執行相關功能。API金鑰應從環境變數或密碼管理系統中取得。
- 選擇穩定版或明確固定候選版本。
- 安裝對應語言的SDK。
- 創建隔離的開發環境和API Key。
- 先創建單一職責代理。
- 為代理建立會話和測試用戶。
- 添加最小工具和示例文件。
- 建立任務並輪詢執行狀態。
- 驗證錯誤、重試、權限和費用後再上線。
Open Responses
Open Responses是Julep所提供的開源、自托管的Responses相容介面,能夠連接不同的模型後端,並讓現有的SDK透過修改基礎地址即可接入。它很適合那些需要本地或私有部署、且希望減少對特定模型依賴的團隊。
| 能力 | 當前狀態 | 用途 | 限制 |
|---|---|---|---|
| Responses相容介面 | 可用 | 替代相似的回應生成入口 | 並非覆蓋所有官方行為 |
| Docker部署 | 支持 | 在雲端或本地啟動微服務 | 需要Docker Compose |
| CLI安裝 | 支持 | 自動生成配置和容器文件 | 底層仍依賴Docker |
| 模型切換 | 支持 | 連接Claude、Qwen、DeepSeek等 | 需要對應供應商密鑰 |
| 內建工具 | 支援可插拔替代 | 執行搜尋等工具呼叫 | 需評估安全與一致性 |
| 成熟度 | Alpha | 實驗和驗證 | 接口可能變化 |
自託管架構
完整的 Julep 可以透過 Docker Compose 以單租戶或多租戶模式來運作,其組成元件包括代理 API、記憶體儲存、整合服務、模型代理、Temporal、物件或 Blob 儲存,以及監控與網關功能。
| 組件 | 作用 | 運維要求 |
|---|---|---|
| Agents API | 管理代理、會話、任務和執行 | 鑒權、擴容和API監控 |
| Memory Store | 保存關係數據和向量嵌入 | 備份、遷移和訪問控制 |
| Temporal | 持久化長工作流 | 任務隊列和歷史容量管理 |
| Integrations Service | 執行第三方工具適配 | 密鑰與網路出口治理 |
| LLM Proxy | 統一模型調用 | 模型限流、成本和故障切換 |
| Blob Store | 儲存較大執行數據 | 生命週期和加密 |
| Grafana與Prometheus | 監控與指標 | 告警、日誌和資料保留 |
| Gateway | 路由並執行租戶鑒權 | 證書、速率和邊界安全 |
單租戶與多租戶
單租戶模式可直接使用SDK,且不必使用API Key,適合本地開發或受控的內部環境。多租戶模式則需要產生JWT,並在網關層面隔離不同開發者的資源。
不要求密鑰並不表示單租戶服務可以暴露在公共網路中。生產環境仍需反向代理、身分驗證、網路隔離、備份和審計。
Memory Store是什麼
Memory Store是團隊目前的重點產品,可被視為專為智能體的上下文環境而設計的Dropbox。它能將會議記錄、訊息、筆記、決策內容,以及與人物和專案相關的資訊,整理成個人或公司可輕鬆閱讀的記憶體。
- 從Slack、Gmail、Granola和Fathom等工作渠道同步內容。
- 把對話和筆記整理為人物、項目與決定。
- 生成會隨新記憶更新的Living Briefs。
- 為個人保存偏好、筆記和長期上下文。
- 為團隊保留決定背後的討論與原因。
- 透過MCP讓不同AI客戶端召回同一上下文。
- 允許用戶查看和刪除記憶。
跨工具共享記憶
Memory Store透過MCP連接Claude、Codex、ChatGPT、Cursor、Raycast等相容的用戶端,讓在一個工具中記錄的上下文能夠在另一個工具中被調取出來。官網表示其相容所有MCP用戶端,且以Claude的測試結果最為完善。
| 記憶操作 | 作用 | 使用原則 |
|---|---|---|
| checkin | 建立當前賬戶和工作上下文 | 每個重要工作流開始時執行 |
| recall | 按問題檢索相關記憶 | 只取任務所需材料 |
| list-briefs | 查看可用的Living Briefs | 選擇權威主題圖譜 |
| record | 保存確認過的新事實或決定 | 不要記錄未經確認的推斷 |
| report-issue | 回饋記憶或工具問題 | 附上可復現上下文 |
跨用戶端共享記憶會擴大資料的可取得範圍。使用者應區分個人與團隊空間,避免將用戶端機密、憑證或私密聊天內容寫入不適當的共享記憶中。
Living Briefs
Living Briefs是隨著新資訊的更新而產生的主題文件,可用於彙總決策記錄、團隊狀態、客戶需求、專案背景或品牌規則。它們並非只是將所有的原始對話簡單地堆疊起來,而是用來維持相對穩定的工作認知。
- 為每個Brief定義清晰的主題和負責人。
- 保留結論背後的關鍵證據。
- 標記已經過時或被推翻的決定。
- 避免把每個臨時事件都寫成永久規則。
- 對重大變更要求人工確認。
- 定期清理重複和衝突記憶。
Memory Store安裝方式
Claude Desktop等沒有插件系統的宿主可以直接連接Memory Store MCP。Claude Code和Codex則可以透過公開的插件市場來安裝Memory Store相關的工作流程技能,進而完成MCP認證。
| 宿主 | 接入方式 | 當前狀態 | 注意事項 |
|---|---|---|---|
| Claude Code | 插件市場加MCP | 已驗證 | 安裝後重新載入並認證 |
| Codex CLI | 添加市場並在插件界面啟用 | 已驗證 | 插件級安裝主要在界面完成 |
| Claude Cowork | 個人插件界面上傳市場 | 已驗證 | 建議開啟自動同步 |
| Claude Desktop | 只連接MCP | 支援連接器,不支援插件 | 不會載入插件技能 |
| 其他MCP用戶端 | 配置Memory Store MCP | 原則上相容 | 具體宿主可能尚未驗證 |
Memory Store插件市場
公開的 mem-plugins 儲存庫採用 Apache-2.0 授權許可證,內含 memory-store 基礎插件以及獨立的 gtm-agent 插件。這些插件的程式碼是開源的,但正常使用時仍需依賴 Memory Store 來處理 MCP 認證。
GTM Agent還可能依賴搜尋、電子郵件、日曆以及自動化連接器,並能執行外聯工作流程。在安裝任何擴充功能之前,應先檢查所需的權限、傳送審核流程、阻擋清單,以及外部服務的費用。
價格與成本
價格資訊於2026年8月23日核驗,實際金額、稅費、匯率及優惠可能變動,最終以結算頁面顯示為準。
Julep的開源代碼可以免費使用和修改,但自托管並非零成本。Memory Store的個人版明確標示可免費試用,團隊版則需要預約演示,目前還沒有公開的固定套餐表。
| 產品或成本 | 當前價格狀態 | 包含什麼 | 適合用戶 |
|---|---|---|---|
| Julep源碼 | 免費,Apache-2.0 | 代理、會話、任務、工具和自託管組件 | 開發者與平台團隊 |
| Open Responses | 免費,Apache-2.0 | 自託管相容介面和CLI | 需要自控模型接口的團隊 |
| 模型調用 | 按供應商或本地算力計費 | 文本、多模態和嵌入推理 | 所有生產部署 |
| 基礎設施 | 按雲資源和運維成本 | 資料庫、Temporal、對象儲存、監控和網路 | 自託管團隊 |
| Memory Store個人體驗 | 免費試用,固定額度未公開 | 個人記憶、頁面與MCP連接 | 個人AI工具用戶 |
| Memory Store團隊版 | 預約演示或訂製報價 | 共享公司記憶、同步和團隊上下文 | 組織與企業 |
| mem-plugins源碼 | 免費,Apache-2.0 | Memory Store和GTM工作流插件 | Codex與Claude等宿主用戶 |
採購Memory Store時,應以書面形式確認席位、連接器、儲存空間、召回次數、資料保留期間、資料導出方式,以及支援與刪除流程。至於自托管的Julep,則應將模型、雲端資源、備份、安全性以及升級所需的人力成本納入總成本之中。
數據與安全注意事項
- 為代理、用戶、會話和項目建立租戶隔離。
- 對文件檢索應用與業務一致的權限過濾。
- 只向工具發送完成操作所需數據。
- 將模型和第三方集成視為獨立數據處理方。
- 設定消息、文件、執行歷史和日誌的保留期間。
- 加密資料庫、對象儲存、備份與網路流量。
- 對刪除、發送和付款工具增加人工審批。
- 定期測試備份恢復和憑證輪換。
完整的 Julep 自主託管方式讓團隊能夠掌控基礎設施,但安全責任則轉移到了部署者身上。Memory Store 屬於共享上下文類產品,因此在使用之前,必須先確認託管地點、子處理方以及相關的企業合約。
開源許可證
| 倉庫或產品 | 許可證 | 可以做什麼 | 不能推斷什麼 |
|---|---|---|---|
| julep-ai/julep | Apache-2.0 | 使用、修改、部署和分发代碼 | 雲資源和模型免費 |
| Open Responses | Apache-2.0 | 自託管相容服務 | 與任何商業接口完全一致 |
| julep-ai/mem-plugins | Apache-2.0 | 復用和擴展插件技能 | Memory Store託管後端開源 |
| Memory Store SaaS | 未聲明產品源碼許可證 | 按服務規則使用 | 可自行部署完整託管產品 |
Apache-2.0允許商業使用,且包含專利授權條款,但在重新散布時仍必須保留許可證及相關聲明。此外,部署者還必須遵守模型、資料庫、依賴元件以及第三方工具的相關許可證規定。
適合哪些用戶
- 需要持久化長任務的AI應用開發者。
- 需要分支、循環、重試和工具編排的後端團隊。
- 希望自託管代理平台與資料層的企業。
- 需要跨會話RAG與用戶記憶的產品團隊。
- 希望用統一介面切換模型供應商的開發者。
- 需要Claude、Codex等工具共享上下文的個人用戶。
- 希望建立公司決策與專案記憶的團隊。
- 開發Memory Store插件及智能體工作流的社群成員。
產品優勢
- Julep核心平台採用寬鬆的Apache-2.0許可證。
- 將代理、會話、文件、任務和執行統一管理。
- 支援持久化、失敗恢復、重試及審計狀態。
- 提供Python、Node.js、API和Docker部署方式。
- 透過LiteLLM支援多家模型供應商。
- Open Responses提供可自托管兼容接口。
- Memory Store可跨多個AI客戶端共享上下文。
- Living Briefs適合維護持續更新的團隊認知。
- 插件市場代碼開放且可擴展。
主要限制
- Julep 3仍處於候選發布階段。
- 完整自託管架構組件較多,運維門檻不低。
- 生產模型調用需要自帶供應商密鑰並承擔費用。
- 部分舊文件與新版Flow介面可能並存。
- Open Responses仍處於Alpha階段。
- 提供相容介面不保證行為完全相同。
- Memory Store固定套餐、額度和企业數據條款未公開。
- 跨工具共享記憶會擴大敏感資訊的訪問面。
- 開源插件不代表Memory Store託管後端開源。
選型建議
| 需求 | 優先選擇 | 原因 |
|---|---|---|
| 構建可恢復的複雜智能體 | Julep | 提供持久工作流、工具和執行狀態 |
| 需要連續對話和RAG | Julep Sessions與Docs | 會話歷史和文件召回一體化 |
| 自託管Responses相容接口 | Open Responses | 可控制模型與基礎設施 |
| 個人AI工具共享長期記憶 | Memory Store | 透過MCP跨客戶端記錄和召回 |
| 團隊公司大腦和決定記錄 | Memory Store Team | 同步工作渠道並維護Living Briefs |
| 擴展Codex或Claude工作流 | mem-plugins | 公開插件市場和技能 |
上線前檢查清單
- 確認需要代理編排還是跨客戶端共享記憶。
- 選擇穩定的 Julep 版本並固定依賴。
- 列出模型、資料庫、Temporal和儲存成本。
- 為每個工具定義最小權限和副作用等級。
- 設計租戶、使用者、專案和文件訪問控制。
- 測試失敗恢復、冪等、超時和重複呼叫。
- 評估模型與第三方整合的資料處理政策。
- Memory Store團隊用戶書面確認價格和數據條款。
- 建立記憶糾錯、刪除、導出和離職交接流程。
- 用小規模真實工作流完成安全和成本驗收。
常見問題
Julep現在是開源的嗎?
是的。Julep的核心倉庫採用Apache-2.0許可證,可以自由使用、修改及自行托管;目前的3.x版本仍屬於候選發布版本。
Memory Store也是Julep嗎?
二者由同一團隊關聯運營,但用途不同。Julep是開發者代理平台,Memory Store則是面向個人和團隊的共享智慧體記憶產品。
Julep免費嗎?
源碼免費,但模型、資料庫、對象儲存、Temporal、網路及運維都會產生實際成本。舊雲端價格不應作為當前開源產品的固定套餐。
Memory Store多少錢?
官網上寫明,個人用戶可免費試用,團隊版則需要預約演示,目前還未公開固定的價格與使用額度。採購時應向銷售人員確認完整的合約內容。
Julep能支援長期記憶嗎?
支持。Sessions可保存對話與情境,Docs與嵌入式儲存則支援向量、文本或混合式回顯,完整的自托管架構亦包含持續記憶服務。
Julep支援MCP嗎?
支援連接相容於MCP的伺服器,並能動態發現相關工具。Memory Store本身也透過MCP,讓多個AI用戶端能記錄及召回共享記憶。
Julep能私有化部署嗎?
可以。完整平台與Open Responses都提供Docker自託管路徑,但部署者需要自行負責驗證、資料、監控、備份和升級。
Memory Store是開源的嗎?
Memory Store插件市場的代碼採用Apache-2.0許可證,但託管產品及後端並未宣告為完全開源。不能將插件開源等同於SaaS平台的開源。
總結
Julep適用於那些需要長期穩定運作、複雜的控制流程、故障恢復功能,以及能夠整合多種工具的AI應用開發團隊。其Apache-2.0授權協議、自托管能力以及多模型介面,都為開發團隊提供了強大的工程控制能力。
Memory Store則解決個人與團隊在多個AI工具之間反覆提供上下文的问题。選型時應先區分「建構智能體後端」與「購買共享記憶服務」,再分別評估開源運維成本、託管價格、資料權限以及跨用戶端記憶治理。
桂公網安備45132202000164號