difyでgemma3を動かす構成メモ(Ollama経由)

この記事について

環境dify(Docker)+ gemma3(Ollama経由)
目的ローカルLLMのgemma3をdifyから使う
結果Ollama経由で動作。LMStudioプラグイン構成はチャットフローでエラーが出たため不採用

この記事は、dify環境でgemma3を試した際の構成メモと、
実際に遭遇した注意点を簡単にまとめたものです。

構成

  • dify:Docker環境で起動
  • gemma3:Ollama経由で利用

difyでgemma3を利用する方法として、LMStudioとLMStudio専用の
difyプラグインを使用する構成もあります。
ただし、記事作成時点では、チャットフローやワークフローを利用した場合に
エラーが発生したため、Ollamaを利用しました。

difyへのモデル登録手順

  1. 事前に ollama pull gemma3 でモデルを取得しておく
  2. difyの「設定 → モデルプロバイダー → Ollama」で、Model Name に pull済みのタグ(例: gemma3:12b)、Base URL を入力する

つまずきやすい点(dify Docker構成)

  • Base URL に http://localhost:11434 と書くと繋がらない。コンテナ内のlocalhostはdify自身を指すため。Windows / Mac は http://host.docker.internal:11434、Linux は http://172.17.0.1:11434 などホスト側のアドレスを指定する
  • Ollamaはデフォルトで127.0.0.1でしかlistenしていないので、外部(コンテナ)から繋ぐ場合は OLLAMA_HOST=0.0.0.0 で起動する
タイトルとURLをコピーしました