LM Studio

LM Studio是什麼

LM Studio是一種用於圖形化方式運行及開發本地大模型的工具。使用者可以從模型社群中搜尋適合自己設備的GGUF或MLX模型，下載後即可在自己的電腦上進行聊天、處理文件，或是啟動本地服務，以便供程式碼、編輯器及AI應用程式調用。

它將模型選擇、量化版本、記憶體估算、載入參數及服務介面整合到桌面界面上，對不熟悉命令列的使用者更加友善，同時也保留了命令列、SDK和API的功能。

LM Studio目前還提供雲端模型。選擇雲端模型時，提示詞與推論會由LM Studio的託管服務來處理；

選擇本地模型時，主要計算在用戶設備完成。

兩種模式使用相近的聊天和開發接口，但隱私邊界、費用、速度及可用模型不同，不能把Cloud誤認為本地離線推理。

核心功能

• 模型發現與下載：搜尋模型倉庫，按參數量、量化等級、架構和檔案大小選擇版本，並根據當前記憶體給出可運行性提示。
• 本地聊天：創建多輪對話、配置系統提示詞和採樣參數，可並排測試不同模型的速度與回答品質。
• 文件問答：將PDF、文本等資料加入會話，讓模型圍繞本地檔案總結並回答；效果受模型上下文、文件解析與檢索範圍影響。
• 開發者模式：啟動本地HTTP服務，提供OpenAI相容的介面，並提供Python、JavaScript SDK，便於遷移現有的聊天、結構化輸出及工具調用應用。
• 多模型服務：可載入多個模型並按需切換，底層支援llama.cpp和Apple MLX等運行時。
• MCP與工具：支援為模型連接MCP伺服器或工具，但工具可能存取檔案、網路與業務系統，必須審查權限。
• LM Link：允許其他設備連接運行LM Studio的主機，免費方案目前最多關聯5台設備。
• 團隊與企業：團隊Hub用於私有組織、模型和製品的共享；企業方案則增加了SSO、模型准入、管理報告、自訂部署以及優先支援等功能。

價格

本地使用雖然不需要向LM Studio支付推理費，但必須承擔電腦、儲存、電力及維護的成本。Cloud Credits與本地免費使用的模式是兩種不同的成本結構，而長文本的輸出通常比輸入更為昂貴。

平台、隱私與開源狀態

LM Studio支援Windows、macOS和Linux作業系統。使用Apple芯片的裝置可以透過MLX來運行，而其他裝置則通常透過llama.cpp，以及可用的CPU、GPU後端來運行。

模型越大，對內存和顯存的要求越高；文件能夠下載並不代表裝置就能流暢地載入完整的上下文。

本地模型、文件和對話可留在裝置上，適合重視資料控制的用戶；啟用網頁搜尋、登入同步、Cloud模型、遠端連線或第三方MCP後，相關資料會離開純離線範圍，企業使用前應分別檢查傳輸與保留規則。

LM Studio桌面應用是專有軟體，不是開源項目。它整合的llama.cpp、MLX等運行時環境可能是開源的，但不能因此將整個產品標記為開源。

下載的每個模型都有獨立的許可證，可能限制商業使用、再發行、衍生模型或特定用途，發布產品前必須逐一核驗模型卡和許可證。

LM Studio使用教學

完成一次基礎任務

1. 註冊LM Studio並創建僅用於測試環境的API Key；
2. 根據輸入類型、上下文、品質、速度和價格選擇模型；
3. 先調用模型發現與下載完成最小請求並檢查返回結構；
4. 再用本地聊天測試流式輸出、參數和異常響應；
5. 記錄Tokens、呼叫次數、延遲、錯誤率及單次成本；
6. 把密鑰移入服務端密鑰管理器後再接入正式應用；

建立可重複使用的專業工作流

1. 為開發、測試與生產環境使用不同密鑰與額度；
2. 按模型發現與下載、本地聊天和文件問答建立代表性評測集；
3. 設定超時、併發、重試、限流和預算上限；
4. 對輸出執行事實、安全、格式和敏感資訊檢查；
5. 監控模型版本、價格、延遲和失敗率變化；
6. 準備降級模型、熔斷和人工接管方案；

適合哪些用戶

• 希望能在個人電腦離線體驗開源權重模型的普通用戶
• 需要本地API、結構化輸出和工具調用的開發者
• 需要在數據不出設備前提下測試文檔問答的團隊
• 比較不同量化模型、硬件佔用和推理速度的研究人員

使用限制

• 本地模型的知識、推理和中文品質取決於具體模型，不能因為運行在本地就認為答案可靠；
• 文件問答仍可能漏讀表格、圖片和掃描件；
• 重要資訊需要回到原文核驗；
• 本地服務不應直接無認證暴露到公網，遠端訪問應設置防火牆、身分驗證與最小權限；

常見問題

LM Studio免費嗎？

桌面端和本地推理免費；Cloud模型按量購買Credits，團隊和企业功能另行定價。

必須上網嗎？

下載應用和模型時需要網路連線，模型下載完成後可離線聊天並提供本地API；Cloud模型、網頁搜尋和在線模型庫需要網路。

LM Studio和Ollama有什麼區別？

LM Studio更強調圖形介面、模型瀏覽與桌面實驗；Ollama則更偏向命令列、模型服務與開發整合。

兩者都能提供本地API，選擇取決於界面偏好、自動化需求和運行環境。