OllamaでサポートされていないLLMをインストールしたので，覚書も兼ねて記事にしました
プロンプト生成に役立ちそう
qwen3-4b-Z-Image-Engineerはこちらの記事で紹介されていたもので，Z-Image-Turboに最適化されたプロンプトを生成するLLMです。使ってみようと思い調べてみるとOllamaではサポートされていないLLMだったのでしばらく放置していたのですが，どうしても気になってインストール方法を調べてみました。
モデルファイルを作成してインストール
サポートされていないLLMをOllamaにインストールする方法はこちらのサイトの記事を参考にしました。
まずは，LLM本体をこちらのサイトからqwen3-4b-Z-Image-Engineerをダウンロードしました。今回は軽量のQwen3-4b-Z-Engineer-V2-Q4_K_M.ggufを選びました。
次はModelfileという名前のファイルを作成しました。中身は上記参考記事で紹介されていた形式を使わせていただきました。TEMPLATEとかPARAMETERの部分はモデルごとに異なるようだったので，ダウンロードサイトをみると Qwen3 (specifically the 4B-Instruct-2507 variant)をベースにしていることがわかりました。Modelfileを作成するためにOllamaにqwen3:4b-instruct-2507-q4_K_Mをインストールしました。その後，コマンドプロンプトで「ollama show --modelfile qwen3:4b-instruct-2507-q4_K_M」と入力して表示されたTEMPLATEとPARAMETERの内容をModelfileにコピーしました。
Modelfileが完成したら，Qwen3-4b-Z-Engineer-V2-Q4_K_M.ggufとModelfileを同じフォルダに入れ，そのフォルダをエクスプローラーで開いた状態で右クリックして「ターミナルで開く」を選んでPowerShellを開きます。ここで2つのコマンドを入力します。1つ目は「ollama create qwen3-4b-zit -f ./Modelfile」でModelfileからモデルを作成します。コマンド中のqwen3-4b-zitは私がこのモデルにつけた名前で，任意の文字列を設定します。2つ目は「ollama run qwen3-4b-zit」でインストールコマンドになります。
動作チェックと画像生成
Ollama上で，日本語の文章から英語のプロンプトを生成してもらいました。日本語の文章は大雑把な内容ですが，出力されるプロンプトはかなり細かい描写になっています。（google翻訳で確認しました）
リクエストしていない背景の詳細なプロンプトが英語で出力されました
このプロンプトを使ってZ-Image-Turboで生成したものが下の画像です。「両手を合わせて祈っている」という内容がプロンプトに反映されなかったので手を合わせてくれませんでした。また，重ね着が苦手なようで，「白い長袖セーター」と「薄紫のボタンシャツ」が逆になっていたり，合体してひとつの服になることもありました。リクエストの仕方で変わるのかもしれません。
また，ComfyUIでComfyUI-Ollamaノードを使ってプロンプトを生成したときは，「両手を合わせて祈っている」という内容がプロンプトに反映されたので手を合わせてくれました。しかし「白い長袖セーター」はうまく生成できませんでした。
このときは両手を合わせて祈るという内容がプロンプトに入っています
動作軽快で詳細なプロンプトが生成できます
今回は軽量のQwen3-4b-Z-Engineer-V2-Q4_K_M.ggufを使ったため，プロンプト生成の動作がとても軽快でした。ComfyUIのワークフローの中に組み込んでも素早く動作するので，GPUのメモリが少ない生成環境でも使えるLLMだと思います。生成されるプロンプトも詳細で日本語での指示も大丈夫なので，英語が苦手な私にとってはとても助かるツールだと感じました。
紹介記事には無検閲化されていると書いてあったので，試しにNSFWなプロンプトを生成するようにリクエストしたところきちんと作成してくれました。このLLMのベースであるqwen3:4b-instruct-2507-q4_K_Mや以前からインストールしているGemma3:4Bはリクエストを断られましたので，そちら方面でも使えるかと思います。
また，画像からプロンプトを生成できるか試してみましたができませんでした。こちらは対応しているGemma3:4BやQwen3-VL:4B-instructを使うことにします。
日本語の文章から英語の詳細なプロンプトを生成したり，英語のプロンプトを拡張したりする用途には使えそうなので，しばらく使い続けようと思います。
この記事へのコメント
コメントはまだありません。
コメントを送る