ollama-uiはChromeの拡張機能

　先日，ローカルLLMと会話をしたときはターミナルを使っていました。その後もollamaやLLMについて調べていくと，WebブラウザでローカルLLMが使えるChromeの拡張機能があることがわかりました。

ollama-uiはその中の一つで，UIがシンプルで分かりやすい感じだったので選びました。ローカルLLMの切り替えやチャットの保存もできるので基本機能はしっかり押さえている感じです。

拡張機能をインストールするだけなのでお手軽で，Webブラウザで簡単にローカルLLMと会話できるので便利です。

日本語LLMも追加でインストールしました

　こちらやこちらのサイトで日本語で会話ができるLLMについて調べて，cyberagent/calm2-7b-chatとLlama 3 ELYZA JP 8Bをインストールしました。インストールするとすぐにollama-uiで利用可能になります。
動作チェックということで現在インストールしているローカルLLMとChatGPTに同じ質問をしてみました。質問は「秋の俳句を作ってください」にしました。

Gemma2

Minicpm-v

cyberagent/calm2-7b-chat

Llama 3 ELYZA JP 8B

ChatGPT

それぞれ答え方も違いました。中国語あり，これは俳句か？というものもありましたが，さすがにChatGPTは的確ですね。ほかの質問もいくつかしたのですが，個人的にはGemma2はしっかり答えてくれて好印象でした。ほかの3つはちょっと微妙な感じです。

今後はStable Diffusionで利用するために画像をプロンプトに変換できるLLMをインストールしていこうと考えています。