软件提供GPU 实时监控,并支持一键释放显存,不用重启进程。
GPU 信息显示位置
- 控制台过滤栏实例徽标:每个实例显示所在显卡的
利用率% | 显存G(如45%|2.3G),每 2 秒刷新; - 右下角状态栏 GPU 进度条:整卡利用率实时进度;
- 多卡机器各实例按实际所在卡显示,各显其卡。
📷 截图占位:GPU徽标
(待补充,可替换为 <img> 图片)
(待补充,可替换为 <img> 图片)
点击清理显存
- 点击实例 GPU 徽标,徽标显示「清理中…」约 1.5 秒;
- 软件向该实例发送释放显存请求(
/free),不动进程,仅清空该实例占用的显存缓存; - 适合长时间出图后显存碎片化、后续任务报「Out of Memory」的场景。
监控与清理的配合使用
- 出图前看一眼 GPU 利用率与显存余量;
- 显存不足时点击实例徽标释放显存;
- 仍不足再考虑停止其他实例 / 降低 batch size。
注意事项
- 显存清理只对运行中的实例生效;
- 无 pynvml 环境时自动回退
nvidia-smi采集,任何 NVIDIA 驱动环境均可用; - 若徽标显示异常(如一直为 0),先确认驱动与显卡状态。
提示:多卡多实例时,同卡多实例显存读数相同属 WDDM 平台限制,不影响使用。