MiniMax H3を高速化する

低スペックPCでも使える動画生成AIにする

使用するモデルを変更する

 下記のWebサイトで軽量モデルとして紹介してあるKijai/MiniMax-H3-experimentalを使ってみました。w4a8という新しいタイプのモデルということで,私の環境ではComfyUIを0.31.0にアップデートして使えるようになりました。

雑なComfyUI+MiniMax H3関連メモ(更新中)|まゆひらa

モデルと映像用VAEの2つで約10GB軽量化できました。モデルを変更する前後で生成時間も少し短縮されたように感じました。

  • minimax_h3_fl2va_pruned_w4a8_mixed.safetensors 11.6GB
  • minimax_h3_video_vae_int8_convrot.safetensors 2.95GB

上記のWebサイトは高速化だけでなく,さまざまなカスタマイズについて書いてあるので今後も参考にしていきたいです。

ComfyUI-Spectrum-MiniMax-H3

【ComfyUI】VRAM 8GBで動かす!叡智なMiniMax-H3高速化ワークフローとハマりポイント解説|加瀬 了

 上記のWebサイトで紹介されているのを見つけました。カスタムノードを1つ入れるだけで高速化できるとのことで試してみました。実装は下記のWebサイトを参考にして行いました。

ComfyUI-Spectrum-MiniMax-H3の使い方|処理を高速化する方法

結果は良好で,それまで5秒の動画を7分くらいで生成していましたが,5分くらいにまで短縮されました。導入が簡単なのでインストールすることをお勧めします。

SageAttention

 生成AIの高速化手法としてよく取り上げられるSageAttentionですが,導入方法が難しくてスルーしていました。下記のWebサイトを見るとStability Matrixを使っていたら簡単にインストールできるということで実践してみました。

Stability Matrixで高速化のTritonとSageAttentionをインストールする方法について@Local PC|shiba*2

紹介してある手順通りで簡単にインストールできました。ComfyUIで利用するにはKJNodes for ComfyUIというカスタムノードが必要なのでこちらもインストールしました。

ComfyUI-SolAttn_triton

 こちらも複数のWebサイトで紹介されていました。下記のWebサイトを見ると高速化よりもメモリ削減の効果が大きいということで,これは私のためにある機能だと思ってインストールしました。

MiniMax H3動画生成の高速化テクまとめ:ComfyUIで検証された効果と失敗パターン | Lab AI

実装は下記のWebサイトを参考にしました。tritonはSageAttentionをインストールするときに入れているので,カスタムノードをインストールするだけでした。

ComfyUI-SolAttn_tritonでMiniMax H3を高速化する方法

高速化はされたけど…

 生成された動画を見て気づいたのですが,5秒の動画の最後で右下の部分の映像が乱れる現象が起こっていました。ひとつ前のMiniMax H3の記事のカフェの動画で見ることができます。ComfyUI-Spectrum-MiniMax-H3だけで生成した動画にはこの現象は見られなかったので,SageAttentionかComfyUI-SolAttn_tritonのどちらかを通すと出るのかもと考えて片方ずつバイパスして動画を生成したところ,ComfyUI-SolAttn_tritonを通したときのみ現象が出ました。おそらく私の解像度設定に問題があるようで,元画像の比率である13:19の32倍になる416x608で生成すると,この乱れは出なくなりました。(追記:残念ながらこの解像度でも出ました)

他にもありますが…

 高速化の手法は他にもいろいろ紹介されていて,他にも試したものがあるのですがそれは次の機会にしたいと思います。今回紹介した方法だけで5秒の動画が最速2分台で生成できました。最初は9分くらいかかっていたのでかなりの高速化です。これなら画像を生成するのと同じ感覚で動画が生成できるとワクワクしています。
次はプロンプトの書き方を学んで動画を生成してみたいと思います。

この記事へのコメント

コメントはまだありません。

コメントを送る

必須
 
※ メールアドレスは公開されません
任意
必須
Loading...  画像の文字を入力してください
9
10
11
12
13
14
15
16