次々と高速化の方法が出ていて追いかけきれません
現在のワークフローの構成
私は今のところMiniMax H3を使うときはi2vで利用しています。ワークフローで高速化について組み込んだものは以下のようになっています。
w4a8モデル>minimax_h3_turbo_4step_ema_ckpt850(8step LoRA)>SageAttention>ComfyUI-SolAttn_triton>ComfyUI-Spectrum-MiniMax
この構成で480x704ピクセルの5秒動画の生成時間を3回チェックしたところ，181秒/135秒/121秒となりました。これをベースにして，新しい高速化手法をプラスしたらどうなるか検証してみました。
H3-Optimization
下記のXのポストで紹介されていたカスタムノードです。GPUのメモリ削減効果があるH3 Memory Optimizationノードと高速化ができるH3 Sparse Attentionノードを試してみました。
https://github.com/Zironic/H3-Optimizations
- H3 Memory Optimization
165秒/148秒/119秒
生成時間を高速化するノードではないため，生成時間はそれほど変化がありませんでした。生成される動画の状態も変化は感じられませんでした。メモリ削減効果については，数回動画の生成をするとメインメモリ使用量が13.5GBから11.5GBくらいまで下がり，SSDへのアクセスが40％くらいまで減りました。GPUの方は6GB前後で変化はありませんが，メインメモリの削減効果はあるようです。
上記のGitHubのWebサイトの説明だとGPUのメモリ削減効果があると記載されていましたが，私の環境はGPUのメモリが8GBで足りない分をメインメモリで補っているため，H3 Memory Optimizationを使用するとメインメモリの使用量が減るのかなと考えています。
- H3 Sparse Attention
126秒/111秒/101秒
私が使っているワークフローに組み込むと以下のメッセージが出ました。
[WARNING] [H3 Optimizations] SPARSE ATTENTION FELL BACK to existing. Reason: preserved an unknown optimized-attention override with full-Q single-call semantics; sparse attention is disabled because the explicit external consumer does not expose an H3 sparse composition contract
ワークフロー内のカスタムノードをチェックしたところ，SageAttentionノードやComfyUI-SolAttn_tritonノードと競合するために無効化されているようです。ノードを置く場所を変更しても同時使用はできませんでした。上記の生成時間はSageAttentionノードやComfyUI-SolAttn_tritonノードをバイパスした状態でH3 Memory Optimizationノードとセットで使っています。ベースのワークフローよりも10秒ほど短縮されました。このノードは「速度向上と品質低下のトレードオフを受け入れられる場合に使用してください」と記載してありましたが，デフォルト使用では目立った品質低下はないように感じました。
ComfyUI MiniMax-H3 SPEED Sampler
116秒/81秒/78秒
下記のウェブサイトで紹介されていたカスタムノードです。Kサンプラーを置き換えて高速化をする仕組みなので，他のノードと競合しないで使えるのではと考えています。
雑なComfyUI+MiniMax H3関連メモ（まだ更新中）｜まゆひらa
https://github.com/StanLukuvka/ComfyUI-MiniMax-H3-SPEED
480x704ピクセルの5秒動画の生成時間が100秒を切るところまで高速化されました。今回テストした中では一番高速化されました。音声で若干品質低下がみられたことと，輪郭が強調された感じの映像になったのが気になるところです。
このノードにはサンプラーをインプットすることができないので，8step LoRAでつかっているminimax_h3_turbo_4step_ema_ckpt850の専用サンプラーが使えないためかもしれません。汎用のサンプラーを使用する他の8step LoRAに変更したところ，映像の輪郭は強調されなくなりましたが，生成時間が139秒/125秒/116秒とベースのワークフローとほとんど変わらない結果になりました。
8step Acc-LoRA
136秒/114秒/109秒
前回試したAlibaba-PAIの8steps LoRAです。生成時間が20秒短縮できるものの，音声が…な状態だったので使っていませんでしたが，下記のウェブサイトで詳しい解説がありましたので改めてチェックしました。
8step Acc-LoRAで5秒動画が約2分20秒に｜StudioYebisu
ベースのワークフローと比較すると10秒ほど高速化されますが，やはり音声は品質の低下を感じました。
ComfyUI-H3VAE_TRT
146秒/133秒/113秒
下記のXのポストで紹介されていたカスタムノードです。VAEを入れ替えて高速化するノードのようです。
Photogenic Weekend on Twitter / X
https://github.com/lihaoyun6/ComfyUI-H3VAE_TRT
ワークフローへの実装は下記のWebサイトを参考にしました。
ComfyUI-H3VAE_TRTの使い方｜MiniMax H3のVAEをTensorRTで高速化する方法
8step LoRAがminimax_h3_turbo_4step_ema_ckpt850のときはエラーが出て生成できなかったので，8step Acc-LoRAに変更してチェックしました。生成時間は上記の8step Acc-LoRAのみを使用したときと変わらない結果になりました。VAEデコードの処理時間はベース14秒台に対して17秒台だったので，高速化はしていないようです。
上記のXのポストを見ると解像度が高い方が効果があるようなので，解像度が低い今回のテストでは今ひとつの結果なのかと思います。
また，このノードを使うと映像に変化があって，私の環境ではお肌つるつるな質感に変化しました。
MiniMax-H3 Fused Turbo (INT8 ConvRot)
102秒/79秒/102秒
下記のXのポストで紹介されていた4stepで生成できるモデルです。8step LoRAや動作をスムーズにするLoRAが統合されたモデルとのことです。モデルのファイルサイズが21GBもあるので私の環境で使えるかは不安ですが試してみました。
Photogenic Weekend on Twitter / X
MATLOWAI/minimax-h3-fused-turbo-int8-convrot · Hugging Face
unet loaderのあとに下記のH3 SLA Attentionノードを入れる必要があるそうです。
https://github.com/ethanfel/ComfyUI-PlagueKind-Nodes-only-sparse
ベースのワークフローに組み込んで生成開始しましたが，ComfyUI-Spectrum-MiniMaxノードのところでエラーが出て止まりました。SageAttentionとComfyUI-SolAttn_tritonノードはエラーは出ませんでしたが，ノードのON/OFFを切り替えても生成時間は変わりませんでした。
8step LoRAも不要で，上記のテストで高速化したComfyUI MiniMax-H3 SPEED Samplerは6step以上でないと使えないことから，ベースのワークフローに組み込んだ高速化手段はどれも不要という結果になりました。
生成された映像は4stepですがいい感じでした。音声は品質低下を感じることがありました。
テストの結果を受けて
いろいろチェックした結果，まずはベースのワークフローにH3 Memory OptimizationとComfyUI MiniMax-H3 SPEED Samplerを追加することにしました。また，映像や音声が安定するような気がして8stepから10stepに変更しました。この状態で生成時間は113秒/92秒/111秒となりました。最速で70秒台になることもあり，体感できるくらい速くなっています。
H3 Sparse Attentionは競合するSageAttention+ComfyUI-SolAttn_tritonと切り替えて使えるようにしました。
MiniMax-H3 Fused Turbo (INT8 ConvRot)は他の高速化手段が不要なので別ワークフローで利用することにしました。
まだチェックしていない高速化の手法があります。中には導入するハードルが高いものもあるので，自分にできそうな方法をチェックして，効果があるものについては取り入れようと考えています。
この記事へのコメント
コメントはまだありません。
コメントを送る