Fiorino.AI

一句話介紹

Fiorino.AI是一套開源的LLM成本與用量管理工具，能協助AI SaaS團隊依據使用者、模型及業務維度來記錄Token數量、估算成本、設定加價標準，並為用量計費提供基礎數據。

工具簡介

Fiorino.AI是為那些需要在產品中使用OpenAI、Anthropic或其他大型模型服務的開發團隊所設計的。它透過REST API來接收外部用戶的身份資訊、輸入/輸出Token、供應商及模型等相關資料，然後將這些資料彙總到成本監控儀表板上。

該專案由同名的GitHub組織負責維護，後端使用Python、FastAPI、SQLAlchemy和PostgreSQL，前端則使用React、TypeScript、Vite和Recharts。使用者可以透過Docker來部署後端，或是自行開發獨立的前端。

官方將用量限制、Stripe計費、業務標籤以及AI成本分析等列為產品發展方向，但路線圖中的許多項目仍處於未完成狀態。由於倉庫的最後一次公開更新是在2025年7月，因此在正式採用之前，應以實際代碼和本地測試結果為準。

主要功能

記錄LLM調用用量

應用程式可以透過追蹤介面來接收匿名的外部使用者ID、輸入Token、輸出Token，以及供應商和模型名稱。團隊需要在實際調用模型之後，將準確的用量傳送給Fiorino.AI。

按用戶分析成本

系統以匿名外部ID區分用戶，可以查看不同用戶的LLM使用情況及成本。匿名ID能減少直接的身份資料，但如果對應表仍保存在業務系統中，資料仍可能重新關聯到個人。

多模型與多供應商

項目目標是統一追蹤不同的巨型模型服務及模型版本，避免每個供應商分別統計。價格表必須及時更新，否則即使Token數量正確，也可能得出錯誤的成本。

成本儀表盤

前端提供實時成本趨勢、Token使用量及模型分布等可視化資訊。儀表板適用於找出高成本用戶及異常波動，但並不等同於雲服務商的最終帳單。

模型成本與加價

後端可以維護模型成本並設定自訂加價，用於估算服務毛利或設計客戶價格。定價計算應區分輸入、輸出、快取、批次處理以及其他供應商的計費項目。

Realm多租戶邊界

官方文件會以Realm來區分不同的應用程式或租戶，並為每個整合項目產生一個API Key。在多租戶環境中，必須確保各Realm之間的查詢、金鑰及資料都能被妥善隔離，不能僅依賴使用者介面來達成此目的。

API Key管理

前端README中列出了用於建立及管理API Key的開發者工具。在實際環境中，應僅顯示一次完整的密鑰，並以雜湊值的形式儲存，同時還需支援撤銷、更換密鑰以及限制使用權限的功能。

使用上限與提醒

官網和主README將依據使用者或訂閱檔位設定額度、接近上限時的提醒列為功能。舊版路線圖仍將配額、速率限制及重設週期標示為計劃項目，因此需要在現有代碼中逐一驗證。

Stripe用量計費

專案宣傳時可與Stripe結合以實現按用量計費，但舊的規劃中仍將模組化計費列為計畫之一。不可僅憑README就認定完整的帳單、退款、稅務及對帳流程已可供實際使用。

AI成本分析師與自訂洞察

官方說明中包括自然語言查詢的成本、識別使用模式以及提出優化建議等功能，同時也支援依功能或動作來標記業務維度。不過，路線圖上仍顯示這些功能尚未完成，因此部署者應將其視為需要驗證的實驗或規劃中的功能。

已驗證能力與待核驗能力

工作原理

1. 團隊在自己的基礎設施中部署Fiorino.AI後端和PostgreSQL。
2. 建立Realm並產生用於該產品或租戶的API Key。
3. AI應用調用模型服務並取得實際輸入、輸出Token和模型資訊。
4. 應用將匿名使用者ID、Token、供應商和模型發送到用量追蹤介面。
5. Fiorino.AI根據模型價格和自訂加價來計算使用成本。
6. 儀表盤依用戶、模型、時間及其他維度彙總趨勢。
7. 團隊將內部記錄與供應商帳單對比，並修正價格或漏報。
8. 需要客戶計費時，將驗證後的用量交給獨立的帳單與對賬流程。

部署教學

使用Docker啟動後端

1. 準備獨立的PostgreSQL資料庫，並建立權限受限的應用程式帳戶。
2. 安全保存資料庫連線資訊，不把密碼提交到代碼倉庫。
3. 拉取官方容器鏡像，並把應用端口映射到受控網路。
4. 透過DATABASE_URL環境變數連接PostgreSQL。
5. 啟動後檢查資料庫遷移、健康狀態和介面文件。
6. 設定反向代理、傳輸加密、身分驗證和訪問日誌。
7. 建立測試Realm與API Key，僅傳送模擬用量以完成驗證。

構建前端

1. 獲取官方前端源碼並安裝符合項目要求的Node.js環境。
2. 安裝依賴項目，並在環境檔案中設定自己的後端介面地址。
3. 在開發模式檢查登入、儀表板、Realm和API Key頁面。
4. 運行靜態檢查和生產構建，處理依賴安全告警。
5. 將建構結果部署到靜態服務，並限制允許訪問的後端渠道。
6. 檢查移動尺寸、深色模式、錯誤狀態和權限不足頁面。

接入AI應用

1. 為每個環境和產品創建獨立的Realm與API Key。
2. 在服務端讀取模型供應商返回的真實Token用量。
3. 使用不可直接識別用戶的穩定外部ID。
4. 調用用量追蹤端點並傳入輸入Token、輸出Token、供應商和模型。
5. 為超時和失敗設定安全重試，避免重複計數。
6. 定期抽樣對照應用日誌、Fiorino.AI和供應商帳單。
7. 密鑰洩露或人員變更時立即撤銷並輪換。

適合哪些用戶

• AI SaaS開發團隊：根據最終用戶查看模型成本和毛利。
• 自託管優先的企業：將成本記錄保存在自己的資料庫中。
• 多模型應用：統一比較不同供應商和模型的Token消耗。
• 按量收費產品：為後續帳單系統準備可審計的用量記錄。
• 平台工程團隊：為多個內部AI功能建立統一成本中心。
• 開源貢獻者：改進FastAPI後端、React前端及部署文件。

典型使用場景

• 識別少數用戶是否消耗了大部分模型預算。
• 比較同一功能使用不同模型時的單位成本。
• 按產品功能、動作或租戶分配LLM費用。
• 在套餐設計前估算平均用戶成本和毛利空間。
• 為企業客戶提供用量明細及內部審計記錄。
• 發現Token異常、錯誤循環或提示詞突然變長。
• 把驗證後的模型用量交給現有帳單系統計費。

產品優勢

• 後端和前端均公開源碼，可以檢查實作並自行部署。
• REST API接入字段簡單，適合在現有AI應用中增加記錄。
• 使用匿名外部ID，減少直接傳遞姓名和電子郵件的需要。
• 支援多供應商和模型，不綁定某一家LLM服務。
• React儀表板提供Token、成本和趨勢的集中視圖。
• Apache 2.0許可證允許在符合條款的情況下修改和散布。
• Docker降低了後端本地試用和部署的門檻。

使用限制與風險

• 項目規模較小，官方倉庫只有少量關注和貢獻信號。
• 後端和前端最後的公開更新皆停留在2025年7月，維護活躍度有限。
• 倉庫沒有正式Release，版本升級和回滾需要自行管理。
• 路線圖最後更新於2024年11月，多項宣傳功能仍顯示未完成。
• 模型價格變化頻繁，成本表過期會導致利潤和配額判斷錯誤。
• 重試、超時或並發處理不當可能重複或遺漏用量記錄。
• 匿名用戶ID並非自動匿名化，結合業務映射仍可能識別個人。
• 自託管意味著資料庫、備份、監控、金鑰及安全修復由部署者負責。
• Stripe的計費、配額、Cost Analyst以及合規工具，不能僅憑文件就認定其已可正常使用。
• 前端README將許可證誤寫為GPL v3，而實際的LICENSE檔案為Apache 2.0。
• 沒有公開託管服務等級、企業支援、隱私政策或安全認證。
• 專案無法取代雲端模型的帳單，應定期與供應商的帳單進行對帳。

價格與使用成本

截至2026年8月22日，Fiorino.AI並沒有提供公開的商業託管方案。其原始代碼可依據Apache 2.0許可證免費使用，但若自行託管，仍需承擔基礎設施、開發及維運等相關成本。

免費開源並不等於零成本服務。在生產環境中，還需要考慮高可用性資料庫、日誌儲存、資料保留、依賴項目升級、金鑰輪換以及工程人員的投入等問題。

API與整合

Fiorino.AI的後端提供REST API以及互動式的介面文件。典型的接入流程為：先建立Realm，再產生API Key，最後透過用量追蹤端點來記錄外部使用者的ID、Token、供應商以及模型資訊。

開源與許可證

後端與前端倉庫中的實際 LICENSE 檔案皆為 Apache License 2.0，允許在遵守許可證、保留通知及標記修改等條件下使用、修改和散發。該許可證不授予商標使用權，亦不提供軟體品質保證。

前端README的末尾註明為GPL v3，但儲存庫中的LICENSE檔案以及GitHub的許可證皆顯示為Apache 2.0。由於專案文件之間存在衝突，在正式再發行或用於商業用途之前，應要求維護者予以說明，並以法律審核的結果為準。

隱私與安全

Fiorino.AI強調使用匿名用戶ID和自託管方式，但這並不能自動符合隱私法規。部署者負責掌控資料庫、日誌、介面以及備份，因此也必須承擔大部分的資料保護責任。

• 不要把姓名、電子郵件地址、提示詞原文或業務機密直接放入external_id。
• 明確追蹤介面是否需要接收消息內容，能只傳用量時盡量最小化。
• 資料庫使用獨立帳戶、最小權限、傳輸加密和靜態加密。
• API Key僅保存在服務端或金鑰管理系統中，並記錄輪換與撤銷。
• 限制介面文件、管理後台和資料庫的公網訪問。
• 為用量記錄設定保存期限、刪除、導出和租戶隔離策略。
• 審查依賴版本、安全告警和容器鏡像渠道。
• 在用於客戶賬單之前，建立權重相等、對賬、錯誤修正及審計流程。

基本資訊

推薦指數

推薦指數：3.8 / 5。Fiorino.AI提供了清晰的開源成本追蹤功能，其API結構簡單，且Docker與PostgreSQL也便於開發團隊在自己的環境中進行測試。

主要不足是項目維護信號較弱、沒有正式Release，路線圖與功能宣傳存在差異，前端許可證文件也衝突。它更適合願意閱讀代碼並提升生產能力的工程團隊，不適合作為無需維護的即用型企業服務。

常見問題

Fiorino.AI是做什麼的？

它記錄AI應用中每個匿名使用者及模型的Token用量，計算成本並透過儀表板進行分析。團隊還可將經過驗證的記錄用於配額或客戶計費。

Fiorino.AI免費嗎？

源碼免費開源，沒有公開託管訂閱價格。伺服器、PostgreSQL、模型調用、監控和維護費用需要自行承擔。

支援哪些模型？

介面依供應商及模型名稱來記錄，設計上不綁定於單一平台。實際成本計算取決於部署中的模型價格表是否完整且及時更新。

可以按用戶追蹤成本嗎？

可以，透過external_id來記錄匿名用戶。請勿直接以姓名或電子郵件地址作為識別碼，並妥善保護業務系統中的對應關係。

可以直接連接Stripe收費嗎？

專案宣傳資料及README中提到會以Stripe的用量來計費，但舊版的路線圖仍將該模組標記為未完成。在投入實際使用之前，必須檢查現有的程式碼，並完成相關的帳單處理、退款以及對帳測試。

AI成本分析師已經可用嗎？

官方介紹將其列為能力，但路線圖仍顯示未完成。應以部署後的實際界面和接口為準，不要提前依賴。

如何部署？

後端可透過Docker連接PostgreSQL來運行，前端則需要在設定好後端地址之後再自行建構。在實際使用環境中，還需要加入傳輸加密、存取控制、備份以及監控等功能。

提供API嗎？

提供REST API，可用API Key記錄Token、供應商、模型和匿名用戶。官方客戶端SDK仍處於路線圖狀態。

Fiorino.AI是開源的嗎？

是的，後端和前端都公開了源碼。兩個倉庫的實際LICENSE檔案皆為Apache 2.0。

為什麼許可證需要再次確認？

前端README誤寫為GPL v3，而實際LICENSE文件顯示Apache 2.0。內部試用影響較小，但再分發和商業集成前應取得明確解釋。

項目仍在維護嗎？

後端和前端的最後一次公開更新皆為2025年7月，且並未正式發布。可進行試用，但不應假設會有持續的維護或企業支援。

能替代模型供應商賬單嗎？

無法完全替代。它是內部用量和成本管理層，必須定期與模型供應商的實際賬單核對。

總結

Fiorino.AI適合那些希望掌握最終用戶使用LLM時的成本狀況，同時又能保持自主管理及能審查原始代碼能力的AI產品團隊。它提供後端介面、PostgreSQL儲存功能以及可視化前端，可作為成本管理的起點。

在正式採用之前，必須先驗證路線圖功能、許可證、金鑰安全性、重複計數功能以及價格表的更新情況。將其視為一個可擴展的開源基礎，而非已具備完整企業帳單與合規功能的成品，會更為稳妥。