Aporia

Aporia是什麼

Aporia是一套用於開發AI應用程式的可觀測性及監控平台，過去同時支援傳統的機器學習與生成式AI。它能在模型之間的輸入與輸出過程中執行安全策略，並記錄會話內容、違規事件以及模型的表現。

Aporia已在2024年12月被Coralogix收購，其團隊與技術也轉移到了Coralogix AI中。目前，所有採購及新增功能的操作都應透過Coralogix AI Center來進行。

當前產品狀態

• Aporia品牌網站仍保留產品資料和歷史文件。
• 原Guardrails與可觀測性技術已並入Coralogix。
• Coralogix AI Center統一展示AI性能、品質、安全與治理。
• 原Aporia團隊負責人繼續參與Coralogix AI產品。
• 新客戶應確認遷移、支援和合約主體。
• 舊教學與舊價格不能直接視為當前方案。

AI Guardrails是什麼

Guardrails是於使用者輸入資料進入大型模型之前，以及模型產生的結果傳回給使用者之前所運作的獨立檢查層。它可允許、阻擋、替換或改寫內容，如此一來，就不必將所有的安全規則都塞進系統的提示詞中。

主要防護能力

• 檢測到提示詞注入及越獄嘗試。
• 識別並處理個人身份資訊。
• 檢查毒性、仇恨、暴力與不當內容。
• 判斷回答是否超出允許或限制話題。
• 輔助檢測缺乏上下文依據的幻覺。
• 使用自訂規則執行企業政策。
• 對輸入和輸出分別配置不同策略。

提示詞注入防護

提示詞注入策略用於識別試圖覆寫系統指令、竊取上下文或誘導工具越權的輸入。它能降低風險，但無法保證阻止所有新型攻擊。

幻覺與正確性檢查

平台可以依據提供的上下文評估回答是否有支撐，或使用評估策略標記可疑結果。開放世界事實、專業結論和即時資訊仍需要可靠數據源與人工複核。

敏感資訊保護

• 檢測用戶輸入中的個人資訊。
• 阻止模型輸出不應披露的數據。
• 對特定字段進行遮蓋或改寫。
• 記錄策略觸發原因和處理動作。
• 按應用區分資料保護規則。
• 與企業現有隱私流程結合。

內容安全策略

• 限制暴力、性、仇恨和騷擾內容。
• 按業務設定允許話題與禁止話題。
• 對高風險回答轉為安全回覆。
• 在輸入端阻止明顯惡意請求。
• 在輸出端攔截模型失控內容。
• 透過示例訓練自訂業務邊界。

自訂Guardrails

團隊可以根據業務政策建立自訂規則，並用正反例說明什麼應當允許或阻止。自訂策略適用於行業術語、品牌規範和內部流程，但需要持續測試誤報與漏報的情況。

多模態安全

Aporia曾公開支持文本、圖像和音頻AI場景的Guardrails。目前具體支持的輸入格式、模型和策略應在Coralogix產品環境中確認。

AI應用可觀測性

• 追蹤提示詞、回答和工具調用。
• 查看延遲、錯誤、Token與使用量。
• 分析不同模型和版本的质量變化。
• 按應用、會話和用戶路徑排查問題。
• 識別策略觸發率與風險類型。
• 將AI運行與傳統應用遙測關聯。

Session Explorer

會話瀏覽功能用於查看連續的對話內容、策略判斷以及最終的處理結果。團隊可以透過單個使用者的會話記錄來找出問題所在，而非僅僅參考彙總圖表。

傳統機器學習監控

• 監控數據漂移與概念漂移。
• 發現缺失值、異常值和數據完整性問題。
• 追蹤模型性能隨時間變化。
• 比較分群和業務維度表現。
• 使用解釋能力調查異常預測。
• 觸發告警或自動處理工作流。

適合哪些用戶

• 準備將生成式AI投入生產的工程團隊。
• 需要監控RAG問答品質的企業。
• 處理客戶數據和敏感內容的AI產品。
• 需要統一AI與應用可觀測性的組織。
• 管理多個模型和智能體的平台團隊。
• 需要傳統機器學習漂移監控的數據團隊。

典型使用場景

• 為客服機器人阻止敏感資訊洩露。
• 檢測企業知識助手中的提示詞注入。
• 限制金融或醫療助手回答超出範圍的問題。
• 追蹤AI智能體的工具呼叫及失敗原因。
• 評估RAG回答是否得到上下文支持。
• 監控信貸、推薦和風控模型的數據漂移。
• 將AI異常與應用日誌和基礎設施問題關聯。

不太適合哪些情況

• 只進行個人聊天且沒有生產監控需求的用戶。
• 希望Guardrails能取代所有需要人工審核的高風險業務。
• 需要完整開源安全引擎並離線部署的團隊。
• 沒有統一日誌和應用識別碼的早期原型。
• 只想購買舊Aporia獨立套餐的客戶。
• 無法承擔持續策略測試和運營的人力不足團隊。

接入Guardrails教學

1. 列出AI應用會接收和生成的名稱類型。
2. 確定必須阻止、改寫、記錄和轉人工的風險。
3. 在測試項目中接入當前Guardrails SDK或代理。
4. 先啟用少量預設策略並使用歷史樣本回放。
5. 統計每項策略的誤報、漏報和延遲。
6. 為業務規則補充允許與拒絕範例。
7. 採用觀察模式驗證後再開啟阻斷。
8. 上線後持續檢查會話和策略觸發趨勢。

配置提示詞注入防護教學

1. 收集已知越獄、指令覆蓋和資料竊取樣本。
2. 區分普通用戶指令與真正的攻擊行為。
3. 在輸入端啟用提示詞注入策略。
4. 為低置信事件設定記錄或轉人工。
5. 為高置信攻擊配置阻斷和安全回復。
6. 測試多語言、編碼和間接注入變體。
7. 確認阻斷不會破壞正常業務請求。
8. 定期根據攻擊日誌擴充測試集。

建立AI監控教學

1. 為每個AI應用建立獨立項目和環境標識。
2. 採集提示詞、回答、延遲、Token和錯誤資訊。
3. 對敏感字段先進行必要的遮蓋。
4. 定義品質、安全、成本和性能指標。
5. 設定應用負責人與告警接收人。
6. 將異常會話連接到應用日誌和發布版本。
7. 建立問題復盤與策略更新流程。
8. 按月評估防護效果和AI Units消耗。

當前計費方式

Aporia被收購後，現在Coralogix的AI評估與Guardrails都是以AI Units來計費的。AI Units是與日誌、指標以及鏈路追蹤的額度分開計算的，而評估和防護功能則是根據所處理的Token數量及功能類型來決定費用。

價格與版本說明

AI Units如何理解

AI Units是Coralogix為AI功能所設定的獨立用量單位，無法與日誌、指標或Trace單位相互替代。傳送AI鏈路數據時，會按照一般的Trace計費方式來計算費用；只有在使用評估或Guardrails功能時，才會產生相應的AI功能使用成本。

採購前需要確認什麼

• 現有Aporia帳戶的遷移和資料保留方式。
• Guardrails支援的模型、語言和輸入類型。
• 免費AI額度、超額價格和月度預算控制。
• 日誌、Trace與AI Units的疊加成本。
• 數據地區、隱私協議和安全認證。
• 支援等級、SLA和事故應變流程。
• 舊SDK至Coralogix AI Center的遷移計劃。

誤報與漏報

• 過嚴策略可能阻止正常用戶請求。
• 過鬆策略可能放過新型攻擊。
• 多語言和行業術語會影響分類準確性。
• 長上下文可能增加延遲和判斷難度。
• 幻覺檢測依賴可用的參考上下文。
• 策略效果必須用真實業務樣本評估。

性能與延遲

保護機制會在模型鏈路中增加額外的處理步驟，因此必須測量平均時間、延遲情況，以及發生故障時的系統行為。對於重要的應用而言，還需要決定在保護服務無法使用時，是拒絕請求還是暫時允許其通過。

隱私與資料處理

• 提示詞和回答可能包含客戶與員工資訊。
• 採集會話前應確定最小必要字段。
• 對密碼、令牌和支付資訊進行預先遮蓋。
• 限制誰能查看完整會話。
• 設定資料保留、刪除和審計流程。
• 跨境或受監管數據需核對合約與區域。

安全邊界

Guardrails是纵深防禦的一部分，不能替代身分認證、存取控制、工具授權、網路隔離以及人工審批。即便內容策略已通過審核，智慧體仍可能因錯誤的權限而執行危險的操作。

API與整合能力

原Aporia支援透過SDK或代理來接入生成式AI應用，且能與OpenAI的調用鏈路相容。目前，Coralogix AI Center則透過AI鏈路、SDK以及平台策略來實現監控與防護功能，具體的接口規範請以現有的文件為準。

GitHub與開源狀態

Aporia的官方GitHub帳戶中保存有導入工具、範例專案以及MLOps相關的資源，但核心的Guardrails平台並非完全開源的產品。此外，公開的SDK和範例所適用的許可證，也無法自動套用到用於托管檢測引擎的系統上。

產品優勢

• 在模型輸入和輸出兩側執行即時防護。
• 覆蓋提示詞注入、敏感資訊和內容安全。
• 支援預設策略與企業自訂規則。
• 提供會話級調查與策略觸發分析。
• 兼顧生成式AI與傳統機器學習監控。
• 並入Coralogix後可關聯應用和基礎設施遙測。

使用限制

• Aporia已被收購，產品入口和合約發生變化。
• 安全檢測無法做到零誤報和零漏報。
• 策略會增加延遲和額外AI單位成本。
• 幻覺評估依賴上下文和任務定義。
• 高風險決策仍需人工監督。
• 核心檢測與託管平台不開源。
• 舊文件和舊套餐可能不再適用於新客戶。

基本資訊

推薦指數

綜合推薦指數為4.2分，滿分5分。Aporia的Guardrails技術適用於AI安全與監控領域，但新用戶應直接評估Coralogix AI Center，並將策略準確率、延遲以及使用成本納入試點考量之中。

常見問題

Aporia現在還能使用嗎？

相關技術仍在使用，但目前主要並入Coralogix AI Center。

Aporia被誰收購了？

Coralogix在2024年12月宣布收購Aporia。

Aporia Guardrails能防什麼？

可輔助檢測提示詞注入、敏感資訊、毒性內容、話題越界和幻覺等風險。

Guardrails能保證AI安全嗎？

不能，它必須與權限控制、監控、測試和人工審核共同使用。

現在如何收費？

Coralogix中的評估和Guardrails主要使用獨立的AI Units計費。

有免費額度嗎？

免費計劃包含月度AI額度，額度會重設並受帳戶規則限制。

支援傳統機器學習嗎？

Aporia歷史上提供漂移、資料品質、效能和可解釋性監控。

Aporia是開源的嗎？

核心平台不開源，官方GitHub只公開部分工具、範例和資源。

為什麼還要人工審核？

檢測會出現誤報和漏報，高風險業務不能把最終責任交給單一自動規則。