注册
开源 · 免费 · 本地优先 · 数据不出本机

让任何 AI Agent 用上
免费的本地大模型

LMPanel —— Windows 桌面端本地 LLM 管理面板。模型下载、参数级配置、多模型热切换网关、内嵌终端,一站式就绪。编程 CLI、聊天客户端、自动化工作流,统统接得上。

v0.1.0 · Win10/11 x64内置自动更新安装包仅 5.3 MB
$ LMPanel → Agent 同步 → 勾选你的 Agent
# 自动改写 Agent 配置,指向本地网关 http://127.0.0.1:8199/v1
✔ openclaw 已接入 qwen3-32b(本地)  ✔ Cherry Studio 已接入 glm-4(本地)
# 其他工具?API 地址填 127.0.0.1:8199/v1 即可  |  API 账单:¥0.00
API 地址 http://127.0.0.1:8199/v1
API Key lmpanel(本地网关不校验密钥,任意值均可)
接入方法:在任意支持自定义 OpenAI 接口的工具里,Base URL 填上方地址、API Key 任意填写,模型名选择面板中已启动的模型,即可用上本地大模型。

一个面板,管齐所有事

从下载模型到接入 Agent,不需要命令行,不需要翻文档

🤖

常用 Agent 一键同步

自动改写 openclaw、pi、Grok CLI、opencode 等编程 Agent 的模型配置,用本地模型替代昂贵 API 订阅,关闭即恢复原状。

🧩

不止编程,任何 Agent 都能接

网关提供统一 OpenAI 兼容接口:聊天客户端、IDE 插件、翻译脚本、RAG 知识库、n8n / Dify 工作流,把 API 地址指向 127.0.0.1:8199/v1 即可切换本地模型。

⬇️

模型搜索与下载

ModelScope 与 HuggingFace 双源聚合搜索,国内镜像加速,断点续传,GGUF 文件按需挑选。

🎛️

参数级深度控制

llama.cpp 推理参数全量可视化:采样、显存优化、推测解码、聊天模板,常用预设一键套用。

🔀

多模型热切换网关

内置 llama-swap:统一 OpenAI 兼容接口,一个端口挂多个模型,按请求自动加载卸载显存。

💻

内嵌多标签终端

原生 PTY 终端直接运行 llama-cli 调试,中文零乱码;模型卡一键在终端里拉起 CLI。

🛡️

省心运维与备份

进程守护、孤儿进程清理、日志分级着色、内存显存监控、配置快照备份恢复、自动更新。

三分钟完成接入

全程图形界面,无需手动编辑任何配置文件

1

一键安装推理后端

装好 LMPanel 后,在「设置 → 后端与依赖」里点击安装 llama.cpp,自动从 GitHub Release 下载解压。

2

挑一个模型下载

模型下载页搜索 GGUF 模型(Qwen / GLM / DeepSeek…),选好文件点击下载,进度可视。

3

启动并接入你的 Agent

一键启动模型服务:openclaw 等常用 Agent 勾选即自动同步;其他工具把 API 地址填为本地网关,立刻用上本地模型。

LMPanel 站在巨人肩膀上 —— 特别感谢 llama.cpp 与 llama-swap  · 开源仓库 github.com/wanaigc/LMPanel
TOP