参考資料

llama_cpp の失敗：インストール、ネイティブビルド、モデル読み込みを区別する

コンパイラーエラーやモデルエラーをインポート不足と判断する前に、配布パッケージとバックエンドを確認します。

更新日 2026-10-01公開版: 3参照元の版: 7

失敗している段階を特定する

llama-cpp-python は llama_cpp インポートを提供する配布パッケージです。ドキュメントに記載された通常の pip インストールでは、同梱の llama.cpp がソースからビルドされる場合があります。プロジェクトでは、CPU 用および一部のアクセラレーター用のビルド済み wheel も案内されています。インストール、インポート、ネイティブバックエンドの初期化、GGUF モデルの読み込み、推論はそれぞれ異なる確認項目です。公式インストールガイドと API（英語）

python -m pip show llama-cpp-python
python -c "import sys, llama_cpp; print(sys.executable); print(llama_cpp.__file__)"

ComfyUI の起動に実際に使われている Python 実行ファイルで、これらを実行してください。別のインタープリターにパッケージの記録があっても、実行中のインスタンスで No module named llama_cpp が発生する問題は解決しません。

インストールまたはネイティブビルドの失敗

パッケージの正確なリリース、OS、アーキテクチャ、使用予定のバックエンド、最初に発生した具体的なコンパイラーまたは CMake のエラーを記録します。上流プロジェクトは、ソースビルドの失敗について pip の詳細ログを推奨し、CMAKE_ARGS または pip の設定オプションによるビルド設定を説明しています。末尾に表示される Failed building wheel の行だけでは原因を特定できません。ビルド済み wheel の場合は、別のマシンから CUDA、Metal、ROCm、Vulkan のコマンドをコピーせず、選択した上流インデックス、Python とプラットフォームのタグ、バックエンドの要件を比較してください。Windows について、上流の説明では nmake または CMAKE_C_COMPILER が見つからない問題を取り上げています。一つのパッケージを調べるために ComfyUI のインストール全体を再ビルドせず、環境のコピーでビルド設定を変更してください。公式インストールガイド（英語）

インポートできるが読み込みに失敗する

まず、ネイティブライブラリのインポートまたは読み込みエラーと、モデルエラーを区別します。GGUF モデルの場合は、正確な model_path、公開元とモデル系統、量子化方式、ファイルが完全かどうか、最初に発生したローダーエラーを記録します。上流の高水準 API はテキスト生成の前に Llama(model_path=...) を作成するため、インポートに成功してもモデルを読み込めることや出力を生成できることの証明にはなりません。ファイル名が .gguf で終わるだけでは、特定の ComfyUI ノードまたは llama.cpp ビルドがそのモデルアーキテクチャに対応するとは限りません。公式 API の例（英語）

画像対応モデルでは、そのモデルに必要なチャットハンドラーとプロジェクター、またはその他の関連ファイルを確認します。上流のマルチモーダルの例では、LLaVA ハンドラーに別の clip_model_path を使用していますが、現在の他のハンドラーでは要件が異なります。このパスのルールをすべての GGUF に当てはめないでください。PyTorch の CUDA に関する報告は、この llama.cpp バックエンドが GPU オフロードを使ってビルドまたは実行された証拠にはなりません。公式マルチモーダルの例（英語）

完了の確認と制限

ComfyUI 環境のコピーで、パッケージのインストール、llama_cpp のインポート、使用予定モデルの初期化、実際のノードを通した対応する小規模な推論の 4 つの結果をそれぞれ記録します。GPU の使用が重要な場合は、選択されたバックエンドと実行時ログを別の結果として確認します。このサイトではパッケージのインストール、ネイティブライブラリのビルド、GGUF モデルの読み込み、GPU ベンチマークを実施していません。