上个月我把手头这台 16G 内存的旧笔记本改成了本地模型试验机,试了一圈图形界面工具,最后留在硬盘里没删的是 LM Studio。写一篇实际使用感受,顺便把新人最容易踩的坑列出来。
先说结论:如果你想在 Windows、Mac 或者 Linux 上不写一行代码就跑起来一个本地大模型,LM Studio 依然是2026年最省心的选择之一。它不是开源软件,但个人使用免费,官网可以直接下载。
LM Studio 是什么
一句话:一个本地大模型的"播放器"。你下载模型文件(GGUF、safetensors 这类权重文件),它负责加载到内存、跑推理、给你一个聊天界面。底层用的是 llama.cpp 和 MLX 两套运行时,Mac 上走 MLX 能吃到 Apple Silicon 的统一内存红利。
官方文档里写得很清楚,它支持 macOS(仅 Apple Silicon,需要 macOS 14 以上)、Windows(x64 和 ARM 都行,x64 要求 CPU 支持 AVX2)、Linux(x64 和 ARM64)。官方建议 16GB 以上内存,8GB 机器也能用,但只能跑小模型、开小上下文。
我那台 16G 的机器实测:跑一个 7B 级别的 Q4 量化模型很流畅,14B 量化后勉强能跑但生成速度明显变慢。32B 就别想了,内存直接见底。
实际用下来舒服的几点
下载模型像装 App。内置的 Discover 页面可以直接搜索和下载 Hugging Face 上的模型,自动匹配你的硬件能跑的量化版本,不用自己去找文件、校验哈希。对新人来说这一步省掉的麻烦比想象中大。
兼容 OpenAI 接口。它能在本地起一个兼容 OpenAI 格式的 API 服务。这一点很实用:你平时写给云端 API 用的脚本,把 base_url 指到本地端口,改个模型名就能跑本地模型。我测试自己写的批处理脚本时就这么干的,一行代码没改。
支持 MCP 了。现在可以在设置里挂 MCP 服务器,让本地模型调用外部工具。本地模型配工具,数据全程不出机器,这是云端方案给不了的。
附带 lms 命令行。装完之后系统里会有一个 lms 命令,可以在终端里下载模型、起停服务、直接对话。配合本地 API,整个流程可以完全脱离图形界面。
几个要提前知道的坑
第一,Mac 用户注意:Intel 芯片的 Mac 不支持了,官方文档明确写了只支持 Apple Silicon。老 Mac 用户只能考虑别的方案。
第二,内存就是天花板。模型文件、上下文、系统占用全挤在内存里,16G 是舒服的下限,8G 只能玩玩 3B 级别的小模型。买之前先看自己的内存。
第三,它不是开源软件。个人使用免费,但公司用需要企业授权,商用前去官网确认条款。
第四,本地模型的水平取决于你下的模型本身。工具只是播放器,别指望换了播放器电影就变好看了。模型选择可以看我之前写的本地大模型 vs 云端 API 怎么选。
和 Ollama 怎么选
这是被问最多的问题。我的看法:
纯命令行玩家、要在服务器上部署、想用 Docker,选 Ollama。它更轻,生态集成多,几乎是 Linux 服务器上的默认答案。
想要图形界面、不想碰终端、在 Mac 或 Windows 桌面上用,LM Studio 体验更好。模型下载管理、参数调节、聊天界面都是可视化的,新人上手快。
两个可以共存,不冲突。我自己就是 LM Studio 放桌面日常用,服务器上跑 Ollama。
适合谁
想试试本地 AI 但被各种教程里的命令行劝退过的人,LM Studio 是目前门槛最低的入口。注重隐私、不想把文档传到云端的,本地跑模型配合它的文档问答功能也很合适。
期待它帮你干重活就不现实了,你的硬件决定了一切。日常问答、文本总结、代码补全这类轻任务,16G 内存的机器足够胜任;再往上就要加内存或者换设备了。
下载去官网 lmstudio.ai,选对应系统的安装包,装完第一件事是去 Discover 页下个模型,建议从 7B 的 Q4 量化版开始试。