ContentMod

ContentMod 是什么

ContentMod 是面向开发者和平台运营团队的 AI 内容审核服务，用于分析用户提交的文本与图片，并把风险判断接入产品工作流。它适合社交社区、电商、教育工具、企业协作和其他含用户生成内容的场景。

产品以托管 API 和管理后台为核心，同时提供 TypeScript SDK、OpenAPI 规范、审核队列、webhook 与 Discord 机器人。它不是通用内容管理系统，也不能替代平台自己的社区规则和人工申诉机制。

主要功能

文本审核

• 输入一段文本后，接口返回安全判断、置信度、情感、主题、风险分数和敏感类别。
• 结果包含建议拒绝或转人工复核的动作，也可输出用星号替换不当词语后的过滤文本。
• 可附带用户编号等自定义元数据，便于把审核记录与业务系统中的内容或账号关联。

图片审核

• 图片可通过可访问的图片地址或 Base64 字符串提交，适合头像、商品图、帖子配图和聊天附件。
• 输出包括安全判断、图片描述、风险分数、主题、内容分级、敏感类别与严重程度。
• 图片审核每张消耗 3 tokens，成本高于每次消耗 1 token 的文本审核。

审核队列

• 人工队列允许审核员逐条接受或拒绝内容，并可让 AI 先生成报告辅助判断。
• 自动队列可按配置直接接受、拒绝或转入人工复核，适合高频但规则相对稳定的内容流。
• 人工队列对所有方案开放并可免费使用，完全自动化队列需要付费方案。

异步处理与 webhook

• 文本和图片请求可选择延迟处理，接口先返回审核编号，再通过查询接口获取结果。
• 配置回调后，服务会把完成结果发送到业务系统，减少客户端持续轮询。
• 队列中的接受、拒绝等操作也可触发 webhook，便于自动隐藏内容、通知用户或创建工单。

自定义规则、词表与分析

• 平台支持自定义审核参数和禁用词表，使同一检测能力适配不同社区或年龄分级要求。
• 管理后台提供 Playground，可先用样例内容观察返回结果，再决定阈值与处置逻辑。
• 用量分析用于追踪审核调用和项目消耗，多项目则分别结算，便于按客户或业务线核算成本。

Discord 机器人

• 管理员可把 ContentMod 机器人加入 Discord 服务器，再通过连接命令绑定 ContentMod 账户。
• 机器人用于自动审核服务器消息，解除绑定后还需在 Discord 中卸载或移除机器人才能完全停止访问。
• 授权时应检查机器人请求的服务器权限，并在停用后撤销不再需要的权限和项目密钥。

输入与输出

接入流程

1. 创建账户和项目，在项目后台取得公钥与密钥，并为开发、测试和生产环境分别保管。
2. 选择 REST API 或安装 TypeScript SDK，初始化客户端并确保密钥只保存在服务端。
3. 先在 Playground 使用具有代表性的文本和图片测试风险类别、置信度和建议动作。
4. 把审核调用放在内容发布前或上传后流程中，按业务风险选择同步返回、延迟处理或 webhook。
5. 建立人工或自动审核队列，配置拒绝、转审、通知和申诉规则，避免只依赖单一分数。
6. 监控 tokens、误判、漏判和处理延迟，并定期用真实样本重新校准规则。

API 与 SDK

价格套餐

计费以项目为单位并通过 Stripe 处理，同一账户中的不同项目分别结算。公开价格为美元月费，税费、地区结算币种和支付方式可能以实际结算页面为准。

Starter 与 Pro 均包含图片审核、审核队列、多语言和 webhook。公开条款未说明退款、取消生效时间或未用 tokens 的处理方式，购买前应在结算页或支持渠道确认。

多语言与平台支持

• 产品页面称文本审核覆盖 50 多种语言，但没有公开逐语言准确率、地区差异或完整语言清单。
• 主要操作平台是网页管理后台，实际审核能力通过服务端 API、SDK、webhook 和 Discord 机器人嵌入业务。
• 没有发现面向普通消费者的 iOS、Android 或桌面原生应用。

开源与商业使用

ContentMod 托管平台和审核模型未被确认为开源产品。官方 TypeScript SDK 的 npm 包元数据声明 MIT 许可证，但代码仓库没有独立许可证文件，重用 SDK 源码时宜进一步确认适用授权文本。

付费方案面向商业平台接入，但用户仍需确保提交内容、审核规则和最终处置符合当地法律、合同及自身社区政策。模型输出不转移第三方内容的版权，也不免除人工复核和申诉责任。

隐私与安全

• 隐私政策列明会收集账户资料、API 使用记录和 Cookie，并用于提供服务、账单沟通、安全保障及性能分析。
• 平台使用 Cloudflare 提供 API 基础设施和安全服务，前端托管使用 Vercel，支付由 Stripe 按项目处理。
• 服务表示不会出售或出租个人信息，但可能向运营服务商或依法处理请求的机构共享必要数据。
• 政策允许用户请求访问、更新或删除账户数据，也可退出非必要分析 Cookie。
• 公开文件没有说明送审文本和图片的具体保存期限、数据驻留区域或是否用于模型训练，处理个人信息前应通过合同确认。
• 任何自动审核都可能误判或漏判，高风险场景应设置人工复核、申诉、日志和故障降级机制。

常见问题

ContentMod 可以审核哪些内容？

它主要处理文本和图片，返回安全判断、风险分数、敏感类别及建议动作；暂未公开音频或视频审核能力。

文本和图片如何计算 tokens？

每次文本审核消耗 1 token，每张图片审核消耗 3 tokens。队列中调用 AI 时也应计入项目用量规划。

是否有免费方案？

人工审核队列可免费使用，但公开定价页没有列出完整的免费 API 套餐。Starter 和 Pro 分别为每月 20 美元和 69 美元。

可以把结果直接用于自动删除吗？

技术上可以通过自动队列和 webhook 触发处置，但重要账号或高风险内容应保留人工复核与申诉路径。

是否提供 API 和 SDK？

平台提供 REST API、OpenAPI 规范与 TypeScript SDK，也可通过 Discord 机器人接入服务器审核。

ContentMod 是开源产品吗？

托管平台与审核模型未被确认为开源。TypeScript SDK 包声明 MIT，但产品本身的订阅服务不因此获得开源属性。