ステップ 6: torch.compile の有効化(オプション)
新しい Version 2.5 では torch.compile がサポートされています:
公式の主張によると、フルグラフコンパイルで DiT の 20-40% 高速化と VAE の 15-25% 高速化が可能です。
ただし、inductor バックエンドを使用した torch.compile には Triton が必要です。
Triton がインストールされていない場合、警告が表示されます。
━━━━━━━━ Phase 1: VAE encoding ━━━━━━━━
[15:13:47.522] ❌ [ERROR] Cannot use torch.compile with 'inductor' backend: Triton is not installed.
Triton is required for the inductor backend which performs kernel fusion and optimization.
To fix this issue:
1. Install Triton: pip install triton
2. OR change backend to 'cudagraphs' (lightweight, no Triton needed)
3. OR disable torch.compile
For more info: https://github.com/triton-lang/triton
[15:13:47.523] ⚠️ [WARNING] torch.compile failed for VAE submodules: torch.compile with inductor backend requires Triton. Install with: pip install triton
[15:13:47.523] ⚠️ [WARNING] Falling back to uncompiled VAE
Triton がインストールされていない場合、警告が表示されます。
━━━━━━━━ Phase 2: DiT upscaling ━━━━━━━━
[15:13:49.856] ❌ [ERROR] Cannot use torch.compile with 'inductor' backend: Triton is not installed.
Triton is required for the inductor backend which performs kernel fusion and optimization.
To fix this issue:
1. Install Triton: pip install triton
2. OR change backend to 'cudagraphs' (lightweight, no Triton needed)
3. OR disable torch.compile
For more info: https://github.com/triton-lang/triton
[15:13:49.857] ⚠️ [WARNING] torch.compile failed for DiT: torch.compile with inductor backend requires Triton. Install with: pip install triton
[15:13:49.857] ⚠️ [WARNING] Falling back to uncompiled model