LibreChat 实测:一个窗口接上所有大模型,还能装进自己的服务器(2026)

LibreChat 实测:一个界面接上所有大模型,还能装进自己的服务器(2026)

大部分人和 AI 的日常,停留在一堆浏览器标签页上:一个窗口挂着 ChatGPT,一个挂着 Kimi,还有一个 DeepSeek。同一个问题贴三个窗口,一个一个问。各家账单单独记,历史记录没有一处能看全。

有一个开源项目解决这件事好几年了:LibreChat。我在一台低配云服务器上跑了它一阵,把主力几家 API 都接了进去,下面是真实使用一个月后的感受。

它是什么

LibreChat 是一个开源的多模型聊天前端:界面和 ChatGPT 相似,但底下接的不是某一家的服务,而是可以同时配 OpenAI、Anthropic、Google、DeepSeek、Kimi、本地 Ollama 等等。同一个对话里聊到一半,中途可以直接切换到另一个模型接着聊,上下文不会丢。

项目活跃度不需要担心:到写这篇为止,最新正式版本 v0.8.8 于 2026 年 10 月 1 日发布,社区星标在 GitHub 上已超过 15 万,有官方中文界面和文档,部署文档更新很勤。

几个真实有用的功能

  • 多模型接入,对话中随时切。这是它最核心的能力。一个回答的质量不满意,切到另一个模型在同一上下文里重问,不用复制粘贴。
  • Agent 和工具系统(Agents API)。可以定义自己的 agent,接入 MCP 服务器、文件检索和代码执行;0.8.x 起还有 Beta 版 Agent 管理 API,可以批量创建和管理。
  • Agent 市场(Agent Marketplace)。官方里已经有一个类似应用商店的机制,可以安装社区做好的 agent。
  • 部署在自己服务器上。数据落到你自己的库里。做了几个月的聊天历史就是自家的资产,不想撑在别人服务器上的团队会看中这一点。
  • 多用户支持。支持用户注册和权限管理,小团队能直接部署当内部 AI 平台。

怎么部署

它是一个 Docker 应用,装 Docker 之后三条命令跑起来:

git clone https://github.com/LibreChat-AI/LibreChat.git
cd LibreChat
docker compose up -d

浏览器打开 http://localhost:3080,注册一个账号,再把你的各家 API key 填进 librechat.yaml 配置文件,重启容器就能用了。整套部署在一台低配的云服务器即可运行,费用就是服务器的钱加各家 API 的按量计费。

在配置文件里,每个模型入口主要就是三样东西:名称、接入点(base_url)、模型名映射,官方文档有现成示例。我之前写过一篇 改一行 base_url 换模型 的入门,机制上完全通用。

几个实话实说的坑

  • 配置文件不算省心。多模型接入全靠 YAML 手配,yaml 格式错一个缩进整个服务起不来。建议改完配置先:重启容器,再带着日记查一次。
  • Agent 功能还在演进。核心聊天很稳,Agent 管理等功能的版本迭代快,跟着版本升级有成本。
  • 移动端是网页。没有官方原生 App,手机上体验取决于你是不是愿意自己拼 PWA。
  • 需要自己管 API key。好处是记录归自己、账单可控;代价是 key 泄漏的风险归自己管,记得动手设权限时先想清楚哪些成员能看到哪些配置。

和 open-webui 有什么区别

装自托管聊天前端的人,多半会同时看到 open-webui,这两个到底怎么选?我实际用下来的感受:

  • open-webui 的重心是本地模型。它和 Ollama 的配合接近无缝,如果你主要跑本地模型,选它顺理成章。
  • LibreChat 的重心是多云 API 聚合。多模型对话中切换、Agent 工具链、多用户权限这两块,它做得更深,适合「主要用云端 API、偶尔跑本地」的用法。
  • 两个都是开源项目,都能试。我的建议是各花半个小时各自跑一遍,看界面的操作习惯更顺手哪个。

它适不适合你

三种人不用犹豫。第一种,手里有不止一家 API key、想统一界面统一记录的;第二种,想给自己搭一个内部 AI 平台的(多用户 + 权限管理直接能用);第三种,重视数据自有,聊天历史想留在自己服务器上的。

反过来,如果你只用 ChatGPT 一家,或者需要开箱即用零配置,直接用官方 ChatGPT 或 Claude 客户端更省心。

另外,客户端路线的对比我也写过一篇:桌面端的 Cherry Studio 和本文的服务端方案,一个装在自己电脑上,一个装在服务器上,场景不同,可以按需选择。本地部署和云端 API 怎么取舍,看这篇 本地大模型 vs 云端 API。

一句话总结:它不是 ChatGPT 的替代品,而是把所有大模型装进同一个窗口、把数据留在你手里的收口工具。

发表评论