LM Studio
免费增值
AI工具盒 AI开发框架

LM Studio

在桌面端发现、运行和调用本地大模型与语音模型

标签:

LM Studio 是什么

LM Studio 是面向个人和组织的本地模型桌面工具。它提供模型发现、硬件适配提示、聊天界面、离线语音转录和本地 API Server,让用户无需自行编译推理框架即可在 Windows、macOS 与 Linux 上运行开放模型。

核心功能

  • 从模型目录搜索和下载兼容的 GGUF、MLX 模型
  • 在桌面聊天界面中管理参数、会话和系统提示
  • 使用 llama.cpp 与 MLX 在 CPU、GPU 或 Apple Silicon 上推理
  • 启动 OpenAI 兼容本地 API 并供开发工具调用
  • 可选零数据保留的 LM Studio Cloud 开放模型推理

使用方法

  1. 安装适配操作系统和芯片的 LM Studio。
  2. 查看硬件建议并下载合适大小的模型。
  3. 加载模型,在聊天中测试上下文和速度。
  4. 开发时启动 Local Server 并复制本地端点。
  5. 需要云模型时购买 credits 并核对数据区域。

价格方案

方案价格主要内容
LM Studio Bionic0 美元本地 LLM、离线语音转录、本地运行时和最多 5 台设备的 LM Link
Cloud Credits按 token 计费不同开放模型按每百万输入、缓存和输出 tokens 收费
Bionic Pass价格即将公布官方页面标注计划与权益仍在准备中
Enterprise联系销售面向组织的部署、管理、支持和本地模型使用方案

桌面应用现可免费用于个人和工作场景;本地推理成本来自硬件和电力。云端示例价格随模型不同,每百万 tokens 的输入约 0.95 至 3 美元、输出约 3.48 至 15 美元。

隐私与数据安全

本地 LLM 和离线语音转录可在设备上处理,官方强调数据不离开电脑。LM Studio Cloud 使用美国区域推理并默认零数据保留;网页搜索和第三方模型下载仍会产生网络请求。

适用人群与场景

  • 离线体验和比较不同开放模型
  • 在本机处理不宜上传的文本
  • 为应用提供 OpenAI 兼容开发端点
  • 使用本地语音转录和桌面 Agent

产品与团队背景

LM Studio 由 Element Labs 开发,目标是降低本地开放模型使用门槛,并通过桌面运行时、开发 SDK、Hub 与 Bionic 云推理扩展生态。

GitHub 与开源情况

LM Studio 桌面应用核心不是完整开源项目,因此 GitHub 字段留空;官方维护部分 SDK 与示例仓库,但不等同于桌面应用源代码。

使用提醒

模型来源和许可证需要逐一核对。下载超大模型前应评估磁盘与内存;本地服务器不要无鉴权暴露到局域网或互联网,云端费用也应设置预算。

©️版权声明:若无特殊声明,本站所有文章版权均归AI工具分享原创和所有,未经许可,任何个人、媒体、网站、团体不得转载、抄袭或以其他方式复制发表本站内容,或在非我站所属的服务器上建立镜像。否则,我站将依法保留追究相关法律责任的权利。

类似于LM Studio的工具