LMPanel 是 Windows 平台上的本地LLM大语言模型管理面板:运行、配置与监控本地模型,全程图形化操作,不需要写命令行。
它解决什么问题
本地跑大模型(GGUF 格式)通常要自己折腾几条路:
- 去 GitHub 下载
llama.cpp等推理后端并配置环境 - 在命令行手敲
llama-server.exe --model xxx.gguf --port 8080 ...一大串参数 - 显存不足、文件缺失、端口占用时,面对天书一样的日志
- 想同时用多个模型,得管理多个进程和端口
- 想把本地模型接进 Claude Code / Codex 等工具,还得手动改配置
LMPanel 把这些全部收进一个图形界面,一键完成。
演示图占位
此处放:LMPanel 主界面总览
说明:主界面整体布局:模型卡列表、页面导航、底部资源状态栏
核心能力一览
| 能力 | 说明 |
|---|---|
| 模型管理 | 模型卡一键启动 / 停止 / 重启,健康检查通过才标记运行中;启动失败给出具体中文原因(显存不足 / 文件缺失 / 端口占用…) |
| 全局网关 | 内置 llama-swap,单端口承载多个模型,按请求的 model 字段自动热切换 |
| 模型下载 | HuggingFace 搜索 / 热门 / 趋势榜,断点续传 + SHA-256 完整性校验,国内自动回退 hf-mirror 镜像 |
| 后端与依赖 | llama.cpp / llama-swap / stable-diffusion.cpp / whisper.cpp / audio.cpp 一键安装与升级 |
| API 调试 | 内嵌调试台,直连模型或经网关发送对话请求,可视化调整 temperature / max_tokens |
| Agent 接入 | 网关地址一键同步到 Claude Code / Codex / Gemini CLI / OpenCode 等工具 |
| 稳定性 | 配置快照备份 / 恢复、进程仪表盘与孤儿进程回收、退出自动清理子进程、日志分级检索、开机自启 |
与命令行跑 llama.cpp 的对比
| 维度 | 命令行 | LMPanel |
|---|---|---|
| 启动模型 | 手敲完整参数 | 模型卡一键启动,参数界面化配置 |
| 排错 | 看原始日志 | 自动诊断并给中文对策(OOM / 缺文件 / 端口占用 / 缺运行库) |
| 多模型 | 手动管理多进程多端口 | 网关单端口 8199 自动路由热切换 |
| 下载模型 | 手动找链接下载 | 内置 HF 搜索 + 断点续传 + 校验 |
| 接入 Agent | 手动改配置文件 | 一键同步网关地址 |
适用人群
- 想在本机跑本地大模型、又不想折腾命令行的个人用户
- 需要在 Claude Code / Codex 等工具中接入本地模型的开发者
- 追求开箱即用、出问题能看明白的普通玩家
技术底座
- 推理引擎:llama.cpp(MIT)
- 多模型网关:llama-swap(MIT)
- 多模态后端:stable-diffusion.cpp(图像)、whisper.cpp(语音)、audio.cpp
下一步
→ 02 · 安装与系统要求 检查环境并安装 LMPanel