🚀 Ollama + Open WebUI 導入ガイド

💡 ローカルLLMをGUI付きで使いたい方におすすめ!

🛠 Ollamaの基本セットアップ(CLI)

まずは Ollama本体のインストール から始めましょう!

curl -fsSL https://ollama.com/install.sh | sh
ollama run gemma3:4b

👀 試しに gemma3:4b モデルを動かしてみましょう!

🌐 外部アクセスを有効にする(Docker用に必要)

sudo systemctl status ollama
sudo vi /etc/systemd/system/ollama.service
# 以下を追加・編集
> Environment="OLLAMA_HOST=0.0.0.0"

# 変更を反映して再起動
sudo systemctl daemon-reload
sudo systemctl restart ollama

🎉 これでOllamaが外部からアクセス可能になります!

🖥️ Open WebUIでGUI操作を可能に!

CLIだけじゃ不便?GUIを導入してもっと便利に使いましょう!✨

🐳 Open WebUI を Docker で起動する方法(推奨)

※ pip 版は依存エラーが出やすいため、Docker推奨

docker run -d -p 80:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  ghcr.io/open-webui/open-webui:main

📦 RAGを使うなら以下も取得!

ollama pull mxbai-embed-large
ollama pull nomic-embed-text

🔧 Settings → Documents → Embedding から設定可能!

🐍 Python環境でOpen WebUIを動かす方法(上級者向け)

1️⃣ pyenvでPythonを管理

📌 pyenvとは? 複数バージョンのPythonを簡単に切り替えできる便利ツール!

🔧 インストール手順:

curl https://pyenv.run | bash

🔗 .bashrc / .zshrc に以下を追加:

export PATH="$HOME/.pyenv/bin:$PATH"
eval "$(pyenv init --path)"
eval "$(pyenv init -)"
eval "$(pyenv virtualenv-init -)"

🔁 設定を反映:

exec "$SHELL"

🐍 Pythonのインストール:

dnf install sqlite-devel
pyenv install 3.11.11
pyenv global 3.11.11

2️⃣ pipのバージョンを更新

pip install --upgrade pip

3️⃣ Open WebUI のインストールと起動

pip install open-webui
# pip install pysqlite3 (必要に応じて)
open-webui serve

🌍 ブラウザでアクセス!

👉 http://localhost:8080

📚 RAG(検索拡張生成)構築手順

✅ ステップ一覧

  1. 使いたいドキュメントを用意(例:PDFやMarkdown)
  2. ナレッジベースの作成
  3. 独自モデルの作成とナレッジベースの紐付け
  4. ファイルをアップロードしてナレッジベースに登録
  5. チャットで質問し、参照元付きで回答を取得!

🔍 RAG用パラメータの簡単解説

  • トップK:検索結果の上位何件を使うか(多いと重くなる)
  • チャンクサイズ:文書を分割する大きさ
  • チャンクオーバーラップ:分割時の重なり(自然な文脈保持に使う)

📌 小さめの値が安定動作におすすめ!

🎉 これで、OllamaをGUIから使えるようになります! 🧠 ナレッジを活用した高精度なチャットも可能に!