llama_cpp 缺失、编译失败和 GGUF 加载失败,应分三条路排查
先确认 llama-cpp-python 的实际环境与后端,再处理编译日志或模型加载,不按 GGUF 后缀乱换加载器。
先确定失败阶段
llama-cpp-python 是提供 llama_cpp 导入名的发行包。官方说明普通 pip 安装可能从源码编译内置 llama.cpp,也提供 CPU 和部分加速后端的预编译 wheel。安装、导入、原生后端初始化、GGUF 模型加载和推理是不同检查。官方安装与 API
python -m pip show llama-cpp-python
python -c "import sys, llama_cpp; print(sys.executable); print(llama_cpp.__file__)"
应使用实际启动 ComfyUI 的 Python 路径。另一个解释器里的安装记录无法消除运行实例中的 No module named llama_cpp。
安装或原生构建失败
记录准确包版本、系统、架构、目标后端以及第一条具体的编译器/CMake 错误。上游建议源码构建失败时保存 verbose pip 日志,并说明可通过 CMAKE_ARGS 或 pip 配置参数设置构建选项。末尾的 Failed building wheel 本身不是诊断。若采用预编译 wheel,应核对所选上游索引、Python/平台标签及后端要求,不照搬其他机器的 CUDA、Metal、ROCm 或 Vulkan 命令。官方 Windows 说明特别讨论了缺少 nmake 或 CMAKE_C_COMPILER 的情况。编译选项应在环境副本中变更,不必因一个包的错误重建整个 ComfyUI。官方安装
能导入却加载失败
先区分原生库导入/加载错误与模型错误。对 GGUF 模型记录准确 model_path、发布方和模型家族、量化类型、文件完整性及第一条加载器错误。上游高级 API 先构造 Llama(model_path=...),再生成文本;导入成功不能证明模型能加载或生成。仅有 .gguf 后缀,也不能证明特定 ComfyUI 节点或 llama.cpp 构建支持其架构。官方 API 示例
如需图像输入,应核对该模型的聊天处理器和投影器等配套文件。上游多模态示例的 LLaVA 处理器另用 clip_model_path,其他处理器有所不同;不能把这一路径规则套给所有 GGUF。PyTorch 的 CUDA 状态也不能证明这个 llama.cpp 后端按 GPU 卸载构建或运行。官方多模态示例
完成检查与限制
在 ComfyUI 环境副本里分别记录:包安装、llama_cpp 导入、目标模型初始化、实际节点完成一次小型受支持推理。若关注 GPU,还应单独核对所选后端和运行日志。本站未安装此包、编译原生库、加载 GGUF 模型或做 GPU 基准测试。
原始资料
- llama-cpp-python 安装、后端与模型 API。核对:2026-09-26。
资料及中文语言审查:2026-09-26。应以已安装节点和包的版本为准,不假定当前上游文档描述旧版安装。
相关排查
排查下一个可能的原因
同样的现象可能来自不同原因。可以按顺序查看下面这些相关条目。
把完整日志粘贴到报错排查工具这篇内容对你有帮助吗?
匿名统计,只记录“有/没有帮助”的计数,不记录账号、IP 地址或设备信息。
资料来源
2026-09-26 复核当前 llama-cpp-python 安装、后端、Windows、高级 API 和多模态文档,并审阅中文。本站未编译包、加载 GGUF、执行工作流或 GPU 测试。
01llama-cpp-python installation, backends and model API资料核对: 2026-09-26报告问题 · b4c36711-ff46-56ca-8bab-f7d1da7b7e8d
相关阅读
编辑为本页关联的条目。
明确终端、解释器与当前目录,用本机实际路径执行检查,避免把安装命令输入 Python 提示符。