有两张显卡却只用一张:选卡、多任务和显存合并是三件事
先核对进程可见的设备和实际后端,不把 GPU 0 标签当成物理显卡身份,也不默认显存相加。
先说清楚你要哪一种能力
本文将目标拆成三种:让单个任务换到指定显卡;让多个任务分配到不同显卡;让一个模型跨设备运行。我们不把它们统称为“多卡支持”,也不由机器装了两张卡就推断显存能够相加。
PyTorch 文档说明 CUDA_VISIBLE_DEVICES 控制 CUDA 运行时可见设备;ComfyUI 的系统状态接口可提供设备相关信息。12 这些用于观察与选卡,不是跨卡模型切分的证据。
我们建议怎样核对
保存显卡名称与稳定标识、进程启动参数、设备可见性设置和后端日志。只显示“GPU 0”的截图不够;同样的编号在不同进程环境中,不能未经核对就当成同一物理设备。
先用小任务确认原始运行路径。确实需要换设备时,按实际启动器支持的配置修改,重启后再对照设备信息。不要在本文中套用一个未经核实的通用启动参数,也不要承诺所有节点遵守同一设备选择方式。
显存不足时怎么判断
如果目标是运行超过单卡容量的模型,应寻找该模型和推理后端明确支持的切分或卸载方案。仅改变可见设备列表不是这样的方案。任务分到第二张卡,也应分别评估该卡的容量与依赖支持。
验收
记录任务、所用设备、是否并发、峰值资源及输出。没有实际运行就留空,不用总显存算一个“最低要求”。
相关排查
已按来源逐篇复核的诊断建议;本站未做本机多 GPU 测试,也没有实测显存数据。全站审核门槛完成前继续禁止收录。
这篇内容对你有帮助吗?
匿名统计,只记录“有/没有帮助”的计数,不记录账号、IP 地址或设备信息。
资料来源
已按来源逐篇复核的诊断建议;本站未做本机多 GPU 测试,也没有实测显存数据。全站审核门槛完成前继续禁止收录。
01PyTorch CUDA environment variables资料核对: 2026-09-2102ComfyUI server routes资料核对: 2026-09-21报告问题 · ef9e4971-ce44-560b-b5fb-1b6b3ff3917e
相关阅读
编辑为本页关联的条目。
结合退出状态、节点注册和当前工作流判断影响,不按日志颜色决定是否升级整个环境。
用环境信息、单次变更和相同输入记录排查过程,区分安装记录、依赖检查和真实运行。