ContentMod

ContentMod 是什麼

ContentMod是一種針對開發者及平台運營團隊的AI內容審核服務，用於分析使用者上傳的文字與圖片，並將風險判斷結果整合到產品的工作流程中。它適用於社交社群、電子商務、教育工具、企業協作，以及所有需要處理使用者所產生之內容的場景。

產品以託管 API 和管理後台為核心，同時提供 TypeScript SDK、OpenAPI 標準、審核隊列、webhook 與 Discord 機器人。它並非通用的內容管理系統，亦無法取代平台本身的社區規則及人工申訴機制。

主要功能

文本審核

• 輸入一段文本後，介面返回安全判斷、置信度、情感、主題、風險分數和敏感類別。
• 結果包含建議拒絕或轉人工複核的動作，也可輸出用星號替換不當詞語後的過濾文本。
• 可附帶用戶編號等自訂元資料，便於將審核記錄與業務系統中的內容或帳號關聯。

圖片審核

• 圖片可透過可訪問的圖片地址或 Base64 字符串提交，適合用於頭像、商品圖、貼文配圖和聊天附件。
• 輸出包括安全判斷、圖片描述、風險分數、主題、內容分級、敏感類別與嚴重程度。
• 圖片審核每張消耗 3 tokens，成本高於每次消耗 1 token 的文本審核。

審核隊列

• 人工隊列允許審核員逐條接受或拒絕內容，並可讓 AI 先生成報告輔助判斷。
• 自動隊列可依配置直接接受、拒絕或轉入人工複核，適合高頻但規則相對穩定的內容流。
• 人工隊列對所有方案開放且可免費使用，完全自動化隊列需要付費方案。

異步處理與 webhook

• 文本和圖片請求可選擇延遲處理，介面先返回審核編號，再透過查詢介面獲取結果。
• 配置回調後，服務會把完成結果發送到業務系統，減少客戶端持續輪詢。
• 隊列中的接受、拒絕等操作也可觸發 webhook，便於自動隱藏內容、通知用戶或建立工單。

自訂規則、詞表與分析

• 平台支援自訂審核參數及禁用詞表，使同一檢測能力適配不同社群或年齡分級要求。
• 管理後台提供 Playground，可先用樣本內容觀察返回結果，再決定閾值與處置邏輯。
• 用量分析用於追蹤審核調用與專案消耗，多專案則分別結算，便於按客戶或業務線核算成本。

Discord機器人

• 管理員可把 ContentMod 機器人加入 Discord 伺服器，再透過連接命令綁定 ContentMod 賬戶。
• 機器人用於自動審核伺服器訊息，解開綁定後還需在 Discord 中卸載或移除機器人，才能完全停止訪問。
• 授權時應檢查機器人請求的伺服器權限，並在停用後撤銷不再需要的權限和項目金鑰。

輸入與輸出

接入流程

1. 建立帳戶與專案，在專案後台取得公鑰與私鑰，並為開發、測試及生產環境分別保管。
2. 選擇 REST API 或安裝 TypeScript SDK，初始化用戶端並確保金鑰僅儲存在伺服器端。
3. 先在 Playground 使用具有代表性的文本和圖片測試風險類別、置信度與建議動作。
4. 將審核調用放在內容發布前或上傳後的流程中，依據業務風險選擇同步返回、延遲處理或 webhook。
5. 建立人工或自動審核隊列，配置拒絕、轉審、通知和申訴規則，避免只依賴單一分數。
6. 監控 tokens、誤判、漏判與處理延遲，並定期以真實樣本重新校準規則。

API 與 SDK

價格套餐

計費以專案為單位，並透過 Stripe 來處理，同一帳戶中的不同專案會分別進行結算。公開價格為美元形式的月費，至於稅金、地區結算貨幣以及支付方式，則可能以實際結算頁面所顯示的內容為準。

Starter 與 Pro 皆包含圖片審核、審核隊列、多語言及 webhook。公開條款未說明退款、取消生效時間或未用 tokens 的處理方式，購買前應在結算頁或支援渠道確認。

多語言與平台支援

• 產品頁面稱文本審核覆蓋 50 多種語言，但沒有公開逐語言準確率、地區差異或完整語言清單。
• 主要操作平台是網頁管理後台，實際審核能力透過服務端 API、SDK、webhook 和 Discord 機器人嵌入業務。
• 沒有發現面向普通消費者的 iOS、Android 或桌面原生應用。

開源與商業使用

ContentMod 托管平台與審核模型並未被認定為開源產品。官方的 TypeScript SDK 的 npm 套件元數據聲明採用 MIT 授權，但代碼倉庫中並沒有獨立的授權文件，因此在重複使用 SDK 源碼時，應進一步確認適用的授權條款。

付費方案面向商業平台接入，但用戶仍需確保提交內容、審核規則及最終處置符合當地法律、合約及自身社區政策。模型輸出不轉移第三方內容的版權，也不免除人工複核和申訴責任。

隱私與安全

• 隱私政策列明會收集帳戶資料、API 使用記錄和 Cookie，並用於提供服務、帳單溝通、安全保障及性能分析。
• 平台使用 Cloudflare 提供的 API 基礎設施與安全服務，前端托管則使用 Vercel，而付款則由 Stripe 依據個別項目來處理。
• 服務方聲明不會出售或出租個人資訊，但可能會與運營服務商或依法提出請求的機構共享必要數據。
• 政策允許用戶請求存取、更新或刪除帳戶資料，亦可退出非必要的分析 Cookie。
• 公開文件沒有說明送審文本和圖片的具體保存期限、數據駐留區域或是否用於模型訓練，處理個人信息前應通過合同確認。
• 任何自動審核都可能出現誤判或漏判，高風險場景應設置人工複核、申訴、日誌以及故障降級機制。

常見問題

ContentMod 可以審核哪些內容？

它主要處理文本和圖片，返回安全判斷、風險分數、敏感類別及建議動作；暫未公開音頻或影片審核能力。

文本和圖片如何計算 tokens？

每次文本審核會消耗 1 個 token，每張圖片審核則會消耗 3 個 token。在隊列中呼叫 AI 時，也應納入項目的用量規劃之中。

是否有免費方案？

人工審核隊列可免費使用，但公開定價頁面並未列出完整的免費 API 套餐。Starter 與 Pro 的月費分別為 20 美元和 69 美元。

可以把結果直接用於自動刪除嗎？

技術上可以透過自動隊列和 webhook 來觸發處理，但重要帳號或高風險內容應保留人工複核與申訴途徑。

是否提供 API 和 SDK？

平台提供 REST API、OpenAPI 標準與 TypeScript SDK，也可透過 Discord 機器人接入伺服器審核。

ContentMod 是開源產品嗎？

託管平台與審核模型並未被確認為開源。TypeScript SDK 套件聲明採用 MIT 授權，但產品本身的訂閱服務並不因此具有開源屬性。