一句话介绍
Fiorino.AI是一套开源LLM成本与用量管理工具,帮助AI SaaS团队按用户、模型和业务维度记录Token、估算成本、设置加价并为用量计费提供基础数据。
工具简介
Fiorino.AI面向在产品中调用OpenAI、Anthropic或其他大模型服务的开发团队。它通过REST API接收外部用户标识、输入输出Token、提供商和模型等信息,再把记录汇总到成本仪表盘。
项目由同名GitHub组织维护,后端使用Python、FastAPI、SQLAlchemy和PostgreSQL,前端使用React、TypeScript、Vite和Recharts。用户可以通过Docker部署后端,也可以自行构建独立前端。
官方将用量限制、Stripe计费、业务标签和AI成本分析等列为产品方向,但路线图中多项仍处于未完成状态。由于仓库最后公开更新停留在2025年7月,正式采用前应以实际代码和本地测试为准。
| 组成部分 | 技术栈 | 主要作用 |
|---|---|---|
| 后端服务 | Python、FastAPI、SQLAlchemy | 接收用量、计算成本并提供接口 |
| 数据库 | PostgreSQL | 保存租户、用户、模型和用量记录 |
| 前端仪表盘 | React、TypeScript、Vite | 显示成本、Token和趋势 |
| 图表与状态 | Recharts、Zustand | 可视化分析和前端状态管理 |
| 部署 | Docker或自行构建 | 在自己的环境中运行 |
主要功能
记录LLM调用用量
应用可以通过跟踪接口接收匿名外部用户ID、输入Token、输出Token、提供商和模型名称。团队需要在实际模型调用完成后,把准确用量发送给Fiorino.AI。
按用户分析成本
系统以匿名外部ID区分用户,可以查看不同用户的LLM使用和成本。匿名ID能减少直接身份数据,但如果映射表仍保存在业务系统中,数据仍可能重新关联到个人。
多模型与多提供商
项目目标是统一跟踪不同大模型服务和模型版本,避免每个提供商单独统计。价格表必须及时更新,否则Token数量正确也可能得到错误成本。
成本仪表盘
前端提供实时成本趋势、Token使用量和模型分布等可视化。仪表盘适合发现高成本用户和异常波动,但不等于云服务商的最终账单。
模型成本与加价
后端可以维护模型成本并设置自定义加价,用于估算服务毛利或设计客户价格。定价计算应区分输入、输出、缓存、批处理和其他提供商计费项目。
Realm多租户边界
官方文档以Realm组织不同应用或租户,并为每个集成生成API Key。多租户部署应验证Realm之间的查询、密钥和数据隔离,不能只依赖界面。
API Key管理
前端README列有创建和管理API Key的开发者工具。生产环境应只显示一次完整密钥,使用哈希保存,并支持撤销、轮换和最小权限。
使用上限与提醒
官网和主README把按用户或订阅档位设置额度、接近上限提醒列为功能。旧路线图仍把配额、速率限制和重置周期标为计划项,因此需要在当前代码中逐项验证。
Stripe用量计费
项目宣传可与Stripe组合进行用量计费,但旧路线图仍把模块化计费列为计划。不能仅凭README假定完整的账单、退款、税务和对账流程已经可用于生产。
AI Cost Analyst与自定义洞察
官方描述包含自然语言查询成本、识别使用模式和提出优化建议,也支持按功能或动作标记业务维度。路线图仍显示这些能力未完成,部署者应将其视为需要核验的实验或规划能力。
已验证能力与待核验能力
| 能力 | 当前证据状态 | 采用建议 |
|---|---|---|
| 用量跟踪REST API | README提供明确接口和请求字段 | 可在本地测试 |
| PostgreSQL存储 | 环境配置和依赖均已公开 | 需自行维护数据库 |
| 成本与Token仪表盘 | 前端README列为核心功能 | 核对代码与数据准确性 |
| 多模型记录 | 请求结构包含提供商和模型 | 自行维护当前价格 |
| API Key管理 | 前端功能清单明确列出 | 执行安全审查 |
| Stripe自动计费 | README宣传,路线图仍未勾选 | 不能直接用于生产账单 |
| 配额与用量提醒 | README宣传,路线图仍未勾选 | 逐项运行验证 |
| 自定义业务标签 | README宣传,路线图仍未勾选 | 检查接口和数据库实现 |
| AI Cost Analyst | 宣传存在,路线图仍未勾选 | 视为实验或规划能力 |
| 企业SSO与合规工具 | 路线图未来项 | 不应写成已上线 |
工作原理
- 团队在自己的基础设施中部署Fiorino.AI后端和PostgreSQL。
- 创建Realm并生成用于该产品或租户的API Key。
- AI应用调用模型服务并取得实际输入、输出Token和模型信息。
- 应用把匿名用户ID、Token、提供商和模型发送到用量跟踪接口。
- Fiorino.AI根据模型价格和自定义加价计算使用成本。
- 仪表盘按用户、模型、时间和其他维度汇总趋势。
- 团队将内部记录与提供商账单比对,并修正价格或漏报。
- 需要客户计费时,将验证后的用量交给独立账单和对账流程。
部署教程
使用Docker启动后端
- 准备独立PostgreSQL数据库,并创建权限受限的应用账户。
- 安全保存数据库连接信息,不把密码提交到代码仓库。
- 拉取官方容器镜像,并把应用端口映射到受控网络。
- 通过DATABASE_URL环境变量连接PostgreSQL。
- 启动后检查数据库迁移、健康状态和接口文档。
- 设置反向代理、传输加密、身份验证和访问日志。
- 创建测试Realm与API Key,只发送模拟用量完成验证。
构建前端
- 获取官方前端源码并安装符合项目要求的Node.js环境。
- 安装依赖,并在环境文件中配置自己的后端接口地址。
- 在开发模式检查登录、仪表盘、Realm和API Key页面。
- 运行静态检查和生产构建,处理依赖安全告警。
- 把构建结果部署到静态服务,并限制允许访问的后端渠道。
- 检查移动尺寸、深色模式、错误状态和权限不足页面。
接入AI应用
- 为每个环境和产品创建独立Realm与API Key。
- 在服务端读取模型提供商返回的真实Token用量。
- 使用不可直接识别用户的稳定外部ID。
- 调用用量跟踪端点并传入输入Token、输出Token、提供商和模型。
- 为超时和失败设置安全重试,避免重复计数。
- 定期抽样对照应用日志、Fiorino.AI和提供商账单。
- 密钥泄露或人员变更时立即撤销并轮换。
适合哪些用户
- AI SaaS开发团队:按最终用户查看模型成本和毛利。
- 自托管优先的企业:把成本记录保留在自己的数据库中。
- 多模型应用:统一比较不同提供商和模型的Token消耗。
- 按量收费产品:为后续账单系统准备可审计的用量记录。
- 平台工程团队:为多个内部AI功能建立统一成本中心。
- 开源贡献者:改进FastAPI后端、React前端和部署文档。
典型使用场景
- 识别少数用户是否消耗了大部分模型预算。
- 比较同一功能使用不同模型时的单位成本。
- 按产品功能、动作或租户分配LLM费用。
- 在套餐设计前估算平均用户成本和毛利空间。
- 为企业客户提供用量明细和内部审计记录。
- 发现Token异常、错误循环或提示词突然变长。
- 把验证后的模型用量交给现有账单系统计费。
产品优势
- 后端和前端均公开源码,可以检查实现并自行部署。
- REST API接入字段简单,适合在现有AI应用中增加记录。
- 使用匿名外部ID,减少直接传递姓名和邮箱的需要。
- 支持多提供商和模型,不绑定某一家LLM服务。
- React仪表盘提供Token、成本和趋势的集中视图。
- Apache 2.0许可证允许在满足条款的情况下修改和分发。
- Docker降低了后端本地试用和部署门槛。
使用限制与风险
- 项目规模较小,官方仓库只有少量关注和贡献信号。
- 后端和前端最后公开更新均停留在2025年7月,维护活跃度有限。
- 仓库没有正式Release,版本升级和回滚需要自行管理。
- 路线图最后更新于2024年11月,多项宣传功能仍显示未完成。
- 模型价格变化频繁,成本表过期会导致利润和配额判断错误。
- 重试、超时或并发处理不当可能重复或遗漏用量记录。
- 匿名用户ID并非自动匿名化,结合业务映射仍可能识别个人。
- 自托管意味着数据库、备份、监控、密钥和安全修复由部署者负责。
- Stripe计费、配额、Cost Analyst和合规工具不能仅凭文档假定已生产可用。
- 前端README把许可证误写为GPL v3,而实际LICENSE文件为Apache 2.0。
- 没有公开托管服务等级、企业支持、隐私政策或安全认证。
- 项目不替代云模型账单,应定期与提供商账单对账。
价格与使用成本
截至2026年8月22日,Fiorino.AI没有公开商业托管套餐。源码可以按照Apache 2.0许可证免费使用,但自托管仍会产生基础设施、开发和运维成本。
| 成本项目 | 官方软件费用 | 实际可能产生的费用 | 适合用户 |
|---|---|---|---|
| 后端源码 | 免费开源 | 服务器、数据库、备份和监控 | 自托管团队 |
| 前端源码 | 免费开源 | 构建、静态托管和维护 | 需要管理界面的团队 |
| 模型调用 | 不包含 | 由OpenAI、Anthropic等提供商收取 | 所有接入者 |
| PostgreSQL | 不包含 | 自建或托管数据库费用 | 生产部署 |
| Stripe与支付 | 不包含 | 支付处理、退款和税务成本 | 按量计费产品 |
| 开发与安全 | 不包含 | 代码审查、补丁、值班和合规 | 企业部署 |
| 官方托管版 | 未发现公开价格 | 是否提供需向项目方确认 | 不想自建的团队 |
免费开源不等于零成本服务。生产环境还需要评估高可用数据库、日志存储、数据保留、依赖升级、密钥轮换和工程人员投入。
API与集成
Fiorino.AI后端提供REST API和交互式接口文档。典型接入流程是创建Realm、生成API Key,再调用用量跟踪端点记录外部用户ID、Token、提供商和模型。
| 项目 | 当前信息 | 注意事项 |
|---|---|---|
| 跟踪端点 | 用量记录接口 | 生产地址由自托管域名决定 |
| 认证 | X-API-Key请求头 | 应定期轮换并避免写入前端 |
| 用户标识 | external_id | 使用不可直接识别个人的ID |
| 用量字段 | input_tokens与output_tokens | 以提供商实际返回值为准 |
| 模型字段 | provider_name与model_name | 保持命名和价格表一致 |
| 接口文档 | 后端自动生成 | 不要暴露在不受控公网 |
| 官方客户端SDK | 未完成或未发布 | 路线图仍列Python与TypeScript客户端 |
开源与许可证
后端和前端仓库中的实际LICENSE文件均为Apache License 2.0,允许在遵守许可证、保留通知和标记修改等条件下使用、修改和分发。许可证不授予商标使用权,也不提供软件质量保证。
前端README末尾写着GPL v3,但仓库LICENSE文件和GitHub许可证识别均显示Apache 2.0。由于项目文档存在冲突,正式再分发或商业集成前应要求维护者澄清,并以法律审核结果为准。
| 仓库 | 主要语言 | 当前许可证文件 | 最近公开更新 |
|---|---|---|---|
| fiorino-ai后端 | Python | Apache 2.0 | 2025年7月15日 |
| fiorino-webapp前端 | TypeScript | Apache 2.0 | 2025年7月15日 |
| 前端README说明 | 文档 | 误写GPL v3 | 与LICENSE冲突 |
| 官方客户端SDK | 计划Python与TypeScript | 未发现已发布包 | 路线图未完成 |
隐私与安全
Fiorino.AI强调使用匿名用户ID和自托管,但这并不会自动满足隐私法规。部署者控制数据库、日志、接口和备份,也因此承担大部分数据保护责任。
- 不要把姓名、邮箱、提示词原文或业务机密直接放入external_id。
- 明确跟踪接口是否需要接收消息内容,能只传用量时尽量最小化。
- 数据库使用独立账户、最小权限、传输加密和静态加密。
- API Key只保存在服务端或密钥管理系统,并记录轮换与撤销。
- 限制接口文档、管理后台和数据库的公网访问。
- 为用量记录设置保存期限、删除、导出和租户隔离策略。
- 审查依赖版本、安全告警和容器镜像渠道。
- 在用于客户账单前建立幂等、对账、纠错和审计流程。
基本信息
| 项目 | 内容 |
|---|---|
| 工具名称 | Fiorino.AI |
| 工具类型 | LLM成本、用量与计费数据管理 |
| 主要用户 | AI SaaS、平台工程和自托管团队 |
| 后端技术 | Python、FastAPI、SQLAlchemy和PostgreSQL |
| 前端技术 | React、TypeScript、Vite和Recharts |
| 价格模式 | 免费开源、自托管成本自理 |
| 主要平台 | 网页仪表盘、Docker与REST API |
| 中文支持 | 未发现明确中文界面 |
| 是否需要注册 | 自托管后需要账户与Realm |
| API | 提供REST API |
| 官方SDK | 路线图中,未发现已发布包 |
| 是否开源 | 是 |
| 许可证 | 实际LICENSE为Apache 2.0 |
| 项目状态 | 公开仓库最后更新于2025年7月 |
推荐指数
推荐指数:3.8 / 5。Fiorino.AI提供了清楚的开源成本跟踪基础,API字段简单,Docker和PostgreSQL也便于开发团队在自己的环境中验证。
主要不足是项目维护信号较弱、没有正式Release,路线图与功能宣传存在差异,前端许可证文档也冲突。它更适合愿意读代码和补齐生产能力的工程团队,不适合作为无需维护的即用型企业服务。
常见问题
Fiorino.AI是做什么的?
它记录AI应用中每个匿名用户和模型的Token用量,计算成本并通过仪表盘分析。团队还可以把验证后的记录用于配额或客户计费。
Fiorino.AI免费吗?
源码免费开源,没有公开托管订阅价格。服务器、PostgreSQL、模型调用、监控和维护费用需要自行承担。
支持哪些模型?
接口按提供商和模型名称记录,设计上不绑定单一平台。实际成本计算取决于部署中的模型价格表是否完整且及时更新。
可以按用户追踪成本吗?
可以,通过external_id记录匿名用户。不要把姓名或邮箱直接作为标识,并妥善保护业务系统中的映射关系。
可以直接连接Stripe收费吗?
项目宣传和README提到Stripe用量计费,但旧路线图仍把该模块列为未完成。生产采用前必须检查当前代码并完成真实账单、退款和对账测试。
AI Cost Analyst已经可用吗?
官方介绍把它列为能力,但路线图仍显示未完成。应以部署后的实际界面和接口为准,不要提前依赖。
如何部署?
后端可通过Docker连接PostgreSQL运行,前端需要配置后端地址后自行构建。生产环境还需增加传输加密、访问控制、备份和监控。
提供API吗?
提供REST API,可用API Key记录Token、提供商、模型和匿名用户。官方客户端SDK仍处于路线图状态。
Fiorino.AI开源吗?
是,后端和前端都公开源码。两个仓库的实际LICENSE文件均为Apache 2.0。
为什么许可证需要再次确认?
前端README误写为GPL v3,而实际LICENSE文件显示Apache 2.0。内部试用影响较小,但再分发和商业集成前应取得明确解释。
项目仍在维护吗?
后端和前端最后公开更新均为2025年7月,且没有正式Release。可以试用,但不应假定存在持续维护或企业支持。
能替代模型提供商账单吗?
不能完全替代。它是内部用量和成本管理层,必须定期与模型提供商的实际账单核对。
总结
Fiorino.AI适合希望掌握最终用户LLM成本,同时保留自托管和源码可审查能力的AI产品团队。它提供后端接口、PostgreSQL存储和可视化前端,能作为成本治理的起点。
正式采用前要先验证路线图功能、许可证、密钥安全、重复计数和价格表更新。把它视为可扩展的开源基础,而不是已经具备完整企业账单与合规能力的成品更为稳妥。
桂公网安备45132202000164号