资源受限时，如何优化 AI Agent 的显存使用?

资源一紧，本地 AI Agent 最先露怯的往往不是“不够聪明”，而是显存。标称容量看着还行，真正跑起来却发现可用空间远小于宣传数字：模型权重、中间激活、工具调用相关的缓存，再加上偶尔没释放干净的残留，几轮任务后就容易顶满。笔记本、共享显卡、多人抢同一块卡时，这种落差更明显。

先别急着换更大的模型。更务实的顺序，是先看“同时驻留了什么”。Agent 和单次聊天不同，它常常把推理、检索、工具链相关组件一起留在显存里；任务间隙如果没有真正卸下不用的大块，下一轮就会在已经半满的底子上继续堆。很多卡顿并不是单次计算太猛，而是驻留策略太贪。能串行就别硬并行，能按需加载就别全程常驻，往往比纠结参数更有效。

其次要确认算力是否真的落在 GPU 上。环境没配对时，进程能起来，活却悄悄回到 CPU，表面“没爆显存”，体验却慢得像在爬。反过来，框架与驱动匹配了，却同时开着过多扩展与中间状态，显存又会在看似正常的任务里被一点点啃光。部署后盯一眼真实占用：启动空载、一次简单指令、一次带工具的完整回合，三段对比，比凭感觉调参靠谱。

配置上可以做减法。首跑只保留能证明主循环正常的最小能力，确认对话与基础工具调用通了，再逐个加扩展；频繁失败或超时的能力，先降并发、收紧不确定性，让错误可复现，而不是一边爆显存一边猜是不是 Prompt 写差了。工作数据、缓存和日志落到你明确绑定的目录，也避免磁盘和权限问题伪装成“模型不稳”。

当然，显存优化没有一劳永逸的答案。有人愿意牺牲一点响应速度换稳定，有人宁可模型小一点也要多开几个 Agent 试验。你更在意单任务质量，还是同一台机器上同时活着的智能体数量？不妨先把占用看清楚，再决定砍驻留、砍并发，还是换一条更轻的部署主线——资源受限时，先让占用可解释，往往比追极限性能更接近能天天用的状态。