核心配置文件
config.yaml控制全局行为、宏与每个模型。界面操作最终都会写进这个文件,直接编辑它可实现界面不覆盖的精细调整。
文件位置
| 场景 | 路径 |
|---|---|
| 已安装 | %APPDATA%LMPanelconfig.yaml |
| 便携版 | 安装目录下 config.yaml |
| 开发模式 | 项目根目录 config.yaml |
修改后界面自动保存(带防抖);也可手动编辑,保存后生效。
演示图占位
此处放:config.yaml 文件结构示意
说明:全局配置、宏、模型定义层级标注
全局配置
| 配置项 | 说明 | 示例 |
|---|---|---|
startPort |
模型起始端口,${PORT} 宏从此递增分配 |
8200 |
healthCheckTimeout |
等待模型就绪的超时(秒) | 60 |
proxyTimeout |
网关转发请求超时(秒) | 300 |
logLevel |
日志级别:debug / info / warn / error | info |
globalTTL |
全局默认卸载超时(秒),0 = 永不 | 0 |
unloadTimeout |
卸载模型等待时间(秒) | 10 |
includeAliasesInList |
是否把模型别名列入 /v1/models 列表 |
false |
sendLoadingState |
是否向客户端推送加载状态(reasoning 字段) | true |
宏(macros)
宏是可复用的命令片段,模型定义通过 ${宏名} 引用:
macros:
llama: I:LLMackendsllama.cppllama-server.exe --port ${PORT} --parallel 1 --jinja
llm: I:LLMackendsllama-b9180llama-server.exe --port ${PORT} --no-mmap --jinja
whisper: I:LLMackendswhisper.cppwhisper-server.exe --port ${PORT} --request-path /v1/audio/transcriptions
${PORT}:自动端口宏,每个使用它的模型自动分配递增端口- 宏可以包含其他宏,但必须先定义后使用
- 修改宏 = 批量修改所有引用它的模型,升级后端时非常有用
模型定义
每个模型是一个对象,关键字段:
| 字段 | 说明 | 必填 |
|---|---|---|
cmd |
启动命令(完整 llama-server 参数,通常引用宏) | 是 |
name |
显示名称(/v1/models 中展示) |
否 |
aliases |
别名列表(可用别名请求同一模型) | 否 |
proxy |
网关转发到的地址,默认 http://127.0.0.1:${PORT} |
否 |
port |
指定端口(留空由 ${PORT} 自动分配) | 否 |
ttl |
该模型卸载超时(秒),0 = 永不 | 否 |
checkEndpoint |
健康检查路径,默认 /health |
否 |
示例:
models:
Qwen3-8B:
cmd: ${llama} --model I:LLMmodelsQwen3-8B-Q4_K_M.gguf -ngl 99 --temp 1.0 --top-p 0.95 -c 32768
name: Qwen3 8B
ttl: 0
proxy: http://127.0.0.1:${PORT}
常用推理参数(cmd 中)
| 参数 | 作用 |
|---|---|
-ngl |
GPU 卸载层数,99≈全部 |
--temp / --top-p / --top-k / --min-p |
采样参数 |
--ctx-size / -c |
上下文长度 |
--repeat-penalty / --presence-penalty |
重复与存在惩罚 |
--threads |
CPU 线程数 |
--cache-type-k/v |
KV 缓存量化(如 q4_0,省显存) |
-fa on |
Flash Attention 加速 |
--device |
指定 GPU(CUDA0 / CUDA1) |
--mmproj |
多模态投影文件(视觉模型) |
--reasoning / --reasoning-budget |
推理模式与预算 |
API Key 鉴权
apiKeys:
- "sk-你的密钥"
- 为空时不校验(默认允许本机)
- 开启后请求需带
Authorization: Bearer <key>
校验与排错
- 修改后启动模型即验证:启动失败会在界面给出中文诊断
- YAML 缩进错误是常见问题:保持 2 空格缩进,
cmd中的特殊字符注意引号 - 想恢复默认:使用配置快照恢复(见 11 · 稳定性与运维)
下一步
- 界面操作与文件的关系 → 05 · 模型管理
- 出问题先备份 → 11 · 稳定性与运维