この記事について
| 環境 | dify(Docker)+ gemma3(Ollama経由) |
|---|---|
| 目的 | ローカルLLMのgemma3をdifyから使う |
| 結果 | Ollama経由で動作。LMStudioプラグイン構成はチャットフローでエラーが出たため不採用 |
この記事は、dify環境でgemma3を試した際の構成メモと、
実際に遭遇した注意点を簡単にまとめたものです。
構成
- dify:Docker環境で起動
- gemma3:Ollama経由で利用
difyでgemma3を利用する方法として、LMStudioとLMStudio専用の
difyプラグインを使用する構成もあります。
ただし、記事作成時点では、チャットフローやワークフローを利用した場合に
エラーが発生したため、Ollamaを利用しました。
difyへのモデル登録手順
- 事前に
ollama pull gemma3でモデルを取得しておく - difyの「設定 → モデルプロバイダー → Ollama」で、Model Name に pull済みのタグ(例: gemma3:12b)、Base URL を入力する
つまずきやすい点(dify Docker構成)
- Base URL に
http://localhost:11434と書くと繋がらない。コンテナ内のlocalhostはdify自身を指すため。Windows / Mac はhttp://host.docker.internal:11434、Linux はhttp://172.17.0.1:11434などホスト側のアドレスを指定する - Ollamaはデフォルトで127.0.0.1でしかlistenしていないので、外部(コンテナ)から繋ぐ場合は
OLLAMA_HOST=0.0.0.0で起動する
