LM-Kit

LM-Kit 是什麼

LM-Kit是一套用於在用戶自身的基礎設施上處理文件、知識及智能體相關任務的私有AI平台，其核心形態包括可嵌入.NET應用程式的LM-Kit.NET，以及可獨立部署的LM-Kit One。

它主要解決合約、發票、理賠、政策、人事文件等敏感資料不宜上傳公有雲的問題，同時讓結構化欄位帶有信賴度、問答則帶有頁碼與原文片段。

兩種產品形態

LM-Kit One 目前處於 Business Preview 階段，預覽期間介面可能會有所變更，長期支援版本則計畫在正式發布後提供。

主要功能

文件解析與結構化提取

• 可讀取 PDF、DOCX、PPTX、XLSX、EML、HTML、圖像及掃描檔，並可在原始文字提取與視覺 OCR 之間依頁面選擇處理方式。
• 按用戶定義的結構返回可解析 JSON，每個欄位帶有信心度及人工審核標記，適合發票、合約、表單和證件抽取。
• 可辨識長型 PDF 的文件邊界並自動拆分，還能進行合併、搜尋、渲染、解鎖、表單填寫以及 PDF/A 檔案格式的轉換。
• 檢測文本、圖像和 Office 文件中的個人資訊，由審核者確認後執行永久脫敏，而非只在視覺上覆蓋。

RAG、搜尋與可核查問答

• 將政策、手冊、合約和內部維基建立為文件集合，支援全文、向量及混合檢索及重排。
• 回答同時返回文件、頁碼以及支持該結論的原文片段，文件未提供答案時應明確返回無依據結果。
• 內建儲存可直接使用，亦可連接 Qdrant 或 PostgreSQL pgvector，並透過統一的向量儲存介面進行替代。

智能體、多模態與本地模型

• 智能體支援 ReAct、計劃後執行、並行、管道、主管及圖形編排，工具呼叫可設定允許、禁止、風險等級與審批門檻。
• 支援文本生成、圖像理解、OCR、嵌入、分類、實體識別、情緒分析以及 Whisper 系列的本地語音轉文字。
• 可從策展模型卡下載開放權重模型，也可載入自有 GGUF；還支援 LoRA 微調、量化、多 GPU 拆分和加密模型載入。
• 該模型可在 CPU、AVX2、CUDA 12/13、Vulkan 或 Metal 上運行，適用於 Windows 10 以上、Linux x64 與 ARM64、macOS。

使用教學

1. 根據架構選擇在 .NET 應用內嵌入 LM-Kit.NET，或部署 LM-Kit One 作為共享私有服務。
2. 評估作業系統、CPU、記憶體和 GPU，從能在目標硬體上穩定運行的較小模型開始。
3. LM-Kit.NET 可透過 NuGet 安裝主套件，以及與硬體相容的選用加速套件，且僅在應用程式啟動時初始化一次運行時環境。
4. 為文件流程定義提取結構、人工審核閾值、檢索庫、模型、工具權限及外部網路訪問策略。
5. 用固定測試集驗證提取字段、OCR、問答引用、工具調用、失敗退路和敏感數據邊界後再上線。
6. 在生產環境記錄模型、提示、結構版本、請求軌跡和人工審批，並按發布說明回歸測試。

價格與許可

若要免費用於商業用途，則該公司的年度總收入必須低於100萬美元，員工人數不得超過10人，此外，其外部融資額也必須低於300萬美元。同時，還必須在產品頁面上明確標註「LM-Kit.NET」字樣。

評估和開發對任何規模的公司而言都是免費且無時間限制的，但一旦超出初步階段而進入實際生產使用階段，則需要專業許可。

商業報價是根據公司規模、部署範圍、嵌入 LM-Kit 的獨立商業產品數量以及支援等級來制定的，並非按照令牌、席位或終端用戶數量來計費。

透過產品網站或授權經銷商購買的 Professional 年度訂閱及多應用程式許可包，可在原始購買日起 30 天內憑購買證明申請退款；企業協議則需以合同約定為準。

API、GitHub 與開源區分

• LM-Kit.NET 提供完整的 .NET API 與文件說明，LM-Kit One 則提供 REST、多種相容介面以及 MCP，但產品在運作時及伺服器本體皆需遵循 LM-Kit 的商業授權條款，因此並非開源軟體。
• 官方示範倉庫、Semantic Kernel、Microsoft.Extensions.AI、資料連接器以及 AWS 整合倉庫主要採用 Apache-2.0 授權方式，但這些示範程式和連接器的開源狀態並不會影響主產品的授權條款。
• Maestro 桌面應用採用 MIT 讓渡條款，LynxTranscribe 語音轉文字應用採用 GPL-3.0，兩者都應依其各自的儲存庫許可條款來處理，不應推導出 LM-Kit 平台本體為開源。
• 策展中的開放權重模型擁有各自的發布方許可，LM-Kit 許可不覆蓋模型權重的商業使用條件。

隱私與安全架構

• 在完全本地模式下，若關閉了外部工具及選擇性遙測功能，且模型已存在於主機上，則文件、提示、嵌入內容及輸出結果皆可保留在本機上。
• 當外部助手透過 MCP 呼叫本機工具時，原始文件、OCR 資料以及索引仍可保留在本機，但工具所回傳的結果會被提供給外部模型，因此管理員必須審核可使用的工具以及其回傳的內容。
• LM-Kit One 初始預設僅綁定本機，若要進行網路存取則必須明確開啟相關功能；API 金鑰會以哈希形式儲存，而會話及可存取的檔案則會與已過戶認證的所有者相關聯。
• 模型、索引、上傳的檔案、快取、日誌以及請求歷史記錄，都會儲存在可設定的本機狀態目錄或指定的資料庫中，而日誌的保存時間也可以自行設定。
• 網站可收集用戶主動提交的姓名、電子郵件與帳戶資訊，也會處理 IP、瀏覽器、跳轉頁面及訪問統計；用戶可要求刪除，離線副本則在保留一個月後永久刪除。

優勢與使用限制

主要優勢

• 從 OCR、結構化提取、RAG、脫敏到智能體工具，皆可整合在同一個 .NET 執行環境或私有服務中，從而降低多語言及多服務的維護成本。
• 可在無網路、資料駐留或高文件量環境中使用自有硬體推理，不按頁數、令牌或席位另行計費。

使用限制

• 本地部署需自行規劃模型權重、內存與顯存、備份、日誌、補丁、訪問控制及高可用性，不會因為不上傳雲端就自動滿足合規。
• 較大模型、長上下文、視覺 OCR、並發推理和微調對硬體要求較高，CPU雖可運行但並不代表所有工作負載都有適合的速度。
• 輸出的信心度、結構約束和頁碼引用能幫助審核，但不能替代對合約、理賠、財務、人事或法規結果的專業人工核對。
• LM-Kit One 仍處於 Business Preview 階段，需要預留接口變更、資料遷移及回退的空間，不應將預覽版的穩定性視為正式 LTS 的承諾。

總結

LM-Kit 適合那些必須將敏感文件、檢索索引和模型推理保留在自有環境中，同時也需要 .NET、RAG、MCP、文件工具以及可審計智慧體的團隊。

上線前應分別審核 LM-Kit 產品許可、GitHub 子項目許可和模型權重許可，並用固定文件集驗證精準度、吞吐量、硬體容量與資料披露邊界。