Featherless AI 是什么
Featherless AI 是一个无服务器 AI 推理平台和研究团队,帮助开发者调用开放权重模型,而不必自行配置 GPU、推理框架和扩缩容基础设施。它的核心产品是与 OpenAI 接口形态兼容的 API、模型目录和托管 Agent 运行环境。
平台提供模型运行服务,不等于取得模型本身的许可。每个模型的训练方式、使用限制、商用权限和输出风险仍需按其独立许可证判断。
主要功能
开放权重模型推理
用户从模型目录选择具体模型 ID,再通过统一接口发起生成请求。目录提供模型家族、参数规模、上下文长度、任务、模态、许可证、部署状态与当前可用性等筛选信息。
- 可在 Qwen、Llama、Mistral、DeepSeek、RWKV 等多个模型家族之间切换。
- 模型详情会显示热启动、加载中、冷启动或离线等运行状态。
- 目录中的最大上下文不一定等于账户套餐上限,实际值取两者较小者。
- 受限模型可能要求用户先在关联的 Hugging Face 账户中取得访问资格。
文本生成与流式输出
Chat Completions 适合多轮对话、角色设定和工具型消息,Completions 适合传统提示续写。调用方可以请求流式响应,逐步接收生成内容并改善交互等待体验。
视觉理解
支持视觉的模型可在聊天消息中接收图片地址或 Base64 图片,与文字提示一起完成描述、比较和信息提取。视觉能力取决于所选模型,图片越大也可能带来更高延迟或成本。
向量嵌入
Embedding 接口接收单个字符串或字符串数组,为每项返回对应向量。它适合语义检索、相似度、聚类、分类和检索增强生成流程。
语音合成
Speech 接口把文本输入交给兼容的语音模型并返回音频,可选择批量二进制、JSON 或服务器推送事件等交付形式。支持格式和文本上限由具体模型决定,流式传输也不一定意味着模型实时逐帧生成。
Agent Marketplace
Agent Marketplace 提供预配置的聊天界面、助手和其他 AI 应用,用户可在托管云沙箱中直接启动。推理已经连接到 Featherless,适合不想自行部署 Agent 软件的用户。
Agent 沙箱连续 24 小时无活动会自动停止,但文件和配置会保留,之后可手动恢复。该能力面向高于 25 美元入门层级的付费方案。
专用 GPU 部署
需要固定容量、特定模型、更高吞吐或定制基础设施的团队可申请专用 GPU。硬件、模型、性能目标、工程支持和合同价格需要与销售团队确认。
API 形态
| 接口或能力 | 输入 | 输出与用途 |
|---|---|---|
| Chat Completions | 消息、模型和生成参数 | 对话回复、代码、工具调用和流式文本 |
| Completions | 提示文本 | 文本续写与批处理生成 |
| Models | 查询、筛选或模型 ID | 模型目录、许可证、状态、能力和实时价格 |
| Plan | 账户 API 密钥 | 当前套餐的上下文、模型规模和并发上限 |
| Embeddings | 字符串或字符串数组 | 向量列表与用量数据 |
| Vision | 文字加图片地址或 Base64 | 视觉问答、描述、比较和提取 |
| Audio Speech | 文本、语音模型与音频选项 | MP3、WAV 等模型支持的音频 |
API 接入流程
- 创建账户并选择聊天、开发者或定制部署方案。
- 在账户控制台创建 API 密钥,放入服务器端密钥管理系统。
- 浏览模型目录,按任务、模态、许可证、上下文和可用性筛选模型。
- 使用 OpenAI 兼容 SDK,把基础地址和密钥替换为 Featherless 配置。
- 先调用 Models 和 Plan 获取模型状态、价格与账户上限。
- 向聊天、补全、嵌入或语音接口提交最小测试请求。
- 生产环境加入超时、重试、限流、成本追踪、内容审核和模型回退。
第三方工具与框架
| 类别 | 已提供的接入指导 | 典型用途 |
|---|---|---|
| 编程工具 | Cursor、Aider、Cline、Roo Code | 代码补全、终端助手和编码 Agent |
| 开发框架 | LangChain、LlamaIndex、LiteLLM | Agent、RAG、统一模型路由 |
| 工作流平台 | n8n、Dify | 自动化与低代码 AI 应用 |
| 角色聊天客户端 | SillyTavern、WyvernChat、HammerAI、Venus AI | 角色扮演和对话前端 |
兼容指导不代表 Featherless 拥有或维护所有第三方产品。版本升级后应重新确认字段、工具调用、视觉消息和流式行为是否一致。
价格套餐
| 套餐或版本 | 价格 | 计费周期 | 核心权益或额度 | 适合用户 |
|---|---|---|---|---|
| Featherless Chat | 25 美元 | 每月 | 模型目录访问、最多 32K 上下文、4 个并发单位、月内请求不限量 | 交互聊天、角色对话和个人实验 |
| Featherless Developer | 50 美元起 | 每月预付积分 | 无模型规模上限、最多 256K 上下文、100 个并发单位、按成功请求扣费 | API 应用和生产工作负载 |
| Dedicated GPU | 联系销售 | 定制合同 | 保留 GPU 容量、定制模型、吞吐与工程支持 | 高并发和稳定容量团队 |
Chat 的不限量受套餐并发单位、模型大小、上下文和合理使用条件约束,不代表无限并发或固定性能。较大的模型会占用更多并发单位。
开发者积分计费
- 每月选择预付额度,付款成功后计入组织余额。
- 只有成功请求扣费,成本由模型、输入量和输出量计算。
- 不同模型或模态可采用不同单价,应在模型详情中查看当次价格。
- 余额不足时按请求计价的 API 会停止,用户可一次性充值。
- 未用积分不会到期,取消后会停止后续月度充值,余额仍可用至耗尽。
- 提高月度额度立即生效并按剩余账期折算,降低额度在下一账期生效。
适合用户与场景
- AI 应用开发者:用一个兼容接口测试和切换不同开放权重模型。
- 编码团队:为 Cursor、Aider、Cline 或自建代码 Agent 提供推理后端。
- RAG 团队:组合嵌入、文本生成与工具框架建立检索问答。
- 内容与角色聊天用户:按模型风格选择创作或角色扮演模型。
- 研究人员:比较不同架构、参数规模和上下文下的输出表现。
- 企业平台:通过专用 GPU 获得更可控的容量和部署方案。
优势
- OpenAI 兼容接口可降低已有客户端迁移成本。
- 模型目录覆盖面广,并提供能力、许可证和实时部署状态字段。
- 聊天固定月费与开发者按请求积分分开,适配交互和生产两类用量。
- 文本、视觉、嵌入和语音可在一个账户体系中调用。
- 官方示例覆盖常见框架、编程工具和工作流平台。
能力边界
- 开放权重不等于开放源代码,也不自动授予商业、再分发或高风险用途许可。
- 模型目录会变化,模型可能冷启动、加载失败、离线或被下架。
- OpenAI 兼容属于接口兼容,具体参数、工具调用和输出字段仍可能存在差异。
- 不同模型的准确性、安全行为、语言、上下文和多模态能力差异很大。
- 第三方模型可能生成错误、有害或不适合未成年人的内容,应用方需自行审核。
- 固定月费个人层级主要面向交互、原型和实验,不应擅自用于大规模转售或未获准生产场景。
隐私与日志
隐私文档称 API 聊天、提示和补全文本会实时处理,不在 Featherless 服务器上保存或记录。该说明针对推理内容,不应扩大解释为账户、支付、滥用防护和服务运行完全没有任何元数据。
- API 密钥必须只保存在服务器端,不要提交到公开仓库或前端代码。
- 处理个人数据、商业秘密或受监管信息前,应确认完整隐私政策和合同条款。
- Agent 沙箱会保存文件和配置,即使因空闲停止也不会自动丢弃。
- 集成第三方客户端时,还要单独审查该客户端的日志、缓存与遥测行为。
- 公开材料未确认具体安全认证、数据区域和企业级保存控制,敏感项目应向团队索取书面说明。
版权、商用与退款
用户保留上传内容和模型生成内容的所有权,但服务条款不会替用户授予第三方模型许可。使用者必须逐个核对模型许可证,并确保输入、输出和部署方式符合法律与模型条件。
- 当前月份订阅不可退款,续订可随时取消。
- 违反个人套餐用途限制可能导致终止且不退款。
- 开发者积分退款或余额调整需联系支持,公开文档未承诺自动退款。
- 用户不得把模型生成内容冒充为人类创作,也不得规避限流、破坏服务或侵犯他人权利。
- 平台软件、技术和流程归 Featherless,订阅不转移其知识产权。
GitHub 与开源状态
| 项目 | 状态 | 许可证或说明 |
|---|---|---|
| Open Agent Loops | 公开代码 | MIT;面向 TypeScript 的可替换 Agent 循环组件 |
| Guardrails Webhook 示例 | 公开示例 | MIT;演示防护 Webhook 服务 |
| Featherless Cookbook | 公开示例 | 包含 API、LangChain、LiteLLM 与 LlamaIndex 笔记本;仓库许可证暂未确认 |
| KVM 论文代码 | 公开分叉仓库 | 研究代码,不代表线上推理平台源代码 |
| Featherless 托管平台 | 专有服务 | 公开仓库不代表平台整体开源 |
| 目录中的模型 | 许可证各异 | 必须按每个模型详情单独核对 |
常见问题
Featherless AI 可以免费使用吗?
当前公开方案从每月 25 美元起,未确认长期免费套餐。注册页或短期活动可能变化,应以账户结算页面为准。
Chat 与 Developer 套餐怎么选?
Chat 适合交互和原型,采用固定月费与并发单位;Developer 适合 API 工作负载,按成功请求从预付积分中扣费。
未用开发者积分会过期吗?
当前文档称积分不会过期。取消月度充值后,已有余额仍可继续使用,耗尽后请求会停止。
Featherless 会保存提示和回答吗?
API 推理文档称不记录或保存聊天、提示和补全文本,但 Agent 文件、账户、支付和运行所需信息属于不同数据范围。
可以直接使用 OpenAI SDK 吗?
可以,平台提供兼容接口,可替换基础地址和 API 密钥接入。上线前仍应测试所需端点和参数是否完全兼容。
所有模型都可以商用吗?
不可以一概而论。模型由不同发布者提供,开放权重、许可证、商用限制和归属要求都必须逐项核对。
Featherless 本身开源吗?
托管平台不是已确认的整体开源产品;官方开放了 Agent SDK 和部分示例仓库,它们各自采用或缺少独立许可证。
总结
Featherless AI 适合希望通过统一接口调用大量开放权重模型的开发者,也能覆盖视觉、嵌入、语音和云端 Agent。选择套餐时要区分固定月费并发与按请求积分两套逻辑。
生产接入前应验证模型可用性、上下文与成本,建立重试和回退,并逐个审查模型许可证。对于敏感数据,还需确认完整隐私、安全和企业合同条件。
桂公网安备45132202000164号