注册
教程中心 / LM Panel 教程

LM Panel 教程

LM Panel 本地大模型管理面板:安装配置、模型管理、多模型网关、Agent 接入与故障排查,从入门到进阶

10 · 配置详解

LM Panel 教程 更新于 2026-10-10 16:46:00

核心配置文件 config.yaml 控制全局行为、宏与每个模型。界面操作最终都会写进这个文件,直接编辑它可实现界面不覆盖的精细调整。

文件位置

场景 路径
已安装 %APPDATA%LMPanelconfig.yaml
便携版 安装目录下 config.yaml
开发模式 项目根目录 config.yaml

修改后界面自动保存(带防抖);也可手动编辑,保存后生效。

演示图占位
此处放:config.yaml 文件结构示意
说明:全局配置、宏、模型定义层级标注

全局配置

配置项 说明 示例
startPort 模型起始端口,${PORT} 宏从此递增分配 8200
healthCheckTimeout 等待模型就绪的超时(秒) 60
proxyTimeout 网关转发请求超时(秒) 300
logLevel 日志级别:debug / info / warn / error info
globalTTL 全局默认卸载超时(秒),0 = 永不 0
unloadTimeout 卸载模型等待时间(秒) 10
includeAliasesInList 是否把模型别名列入 /v1/models 列表 false
sendLoadingState 是否向客户端推送加载状态(reasoning 字段) true

宏(macros)

宏是可复用的命令片段,模型定义通过 ${宏名} 引用:

macros:
  llama: I:LLMackendsllama.cppllama-server.exe --port ${PORT} --parallel 1 --jinja
  llm:   I:LLMackendsllama-b9180llama-server.exe --port ${PORT} --no-mmap --jinja
  whisper: I:LLMackendswhisper.cppwhisper-server.exe --port ${PORT} --request-path /v1/audio/transcriptions
  • ${PORT}:自动端口宏,每个使用它的模型自动分配递增端口
  • 宏可以包含其他宏,但必须先定义后使用
  • 修改宏 = 批量修改所有引用它的模型,升级后端时非常有用

模型定义

每个模型是一个对象,关键字段:

字段 说明 必填
cmd 启动命令(完整 llama-server 参数,通常引用宏) 是
name 显示名称(/v1/models 中展示) 否
aliases 别名列表(可用别名请求同一模型) 否
proxy 网关转发到的地址,默认 http://127.0.0.1:${PORT} 否
port 指定端口(留空由 ${PORT} 自动分配) 否
ttl 该模型卸载超时(秒),0 = 永不 否
checkEndpoint 健康检查路径,默认 /health 否

示例:

models:
  Qwen3-8B:
    cmd: ${llama} --model I:LLMmodelsQwen3-8B-Q4_K_M.gguf -ngl 99 --temp 1.0 --top-p 0.95 -c 32768
    name: Qwen3 8B
    ttl: 0
    proxy: http://127.0.0.1:${PORT}

常用推理参数(cmd 中)

参数 作用
-ngl GPU 卸载层数,99≈全部
--temp / --top-p / --top-k / --min-p 采样参数
--ctx-size / -c 上下文长度
--repeat-penalty / --presence-penalty 重复与存在惩罚
--threads CPU 线程数
--cache-type-k/v KV 缓存量化(如 q4_0,省显存)
-fa on Flash Attention 加速
--device 指定 GPU(CUDA0 / CUDA1)
--mmproj 多模态投影文件(视觉模型)
--reasoning / --reasoning-budget 推理模式与预算

API Key 鉴权

apiKeys:
  - "sk-你的密钥"
  • 为空时不校验(默认允许本机)
  • 开启后请求需带 Authorization: Bearer <key>

校验与排错

  • 修改后启动模型即验证:启动失败会在界面给出中文诊断
  • YAML 缩进错误是常见问题:保持 2 空格缩进,cmd 中的特殊字符注意引号
  • 想恢复默认:使用配置快照恢复(见 11 · 稳定性与运维)

下一步

  • 界面操作与文件的关系 → 05 · 模型管理
  • 出问题先备份 → 11 · 稳定性与运维
TOP