【第1回】社内AIチャットシステムOla-UIを構築しよう！- Ollama環境構築編

はじめに

この連載では、Ola-UIという革新的なRAG（Retrieval-Augmented Generation）システムを、1台のWindowsパソコンに構築する方法を3回に分けて解説します。

Ola-UIとは？

会社のデータと対話できるAIチャットシステム
ローカル環境で完結するためセキュアで安心
クラウドAPIと比べて圧倒的な低コスト（3年間で4,000万円以上の削減！）
複数のナレッジセットを持ち、部門ごとの専門AIを実現

この連載の全体像

第1回（本記事）: Ollama環境構築 - AIの心臓部をインストール
第2回: PHP環境構築 - Webサーバーの準備
第3回: Ola-UI本体の設置と起動 - システムの完成

本記事の目標

第1回では、AIの心臓部となるOllamaをWindowsパソコンにインストールし、大規模言語モデル（LLM）をダウンロードして動作確認を行います。

所要時間

📅 約30〜45分（モデルのダウンロード時間を含む）

必要な環境

OS: Windows 10/11（64bit）
CPU: Intel Core i7以上（Ryzen 7以上）
メモリ: 16GB以上（32GB推奨）
GPU: NVIDIA RTX 3060以上（RTX 4060推奨）
ストレージ: SSD 50GB以上の空き容量
インターネット: 安定した接続（モデルダウンロードで5〜10GB）

💡 Tip: ゲーミングPCや高性能ワークステーションがあれば理想的です！

STEP 1: Ollamaのダウンロード

1.1 公式サイトへアクセス

ブラウザで以下のURLにアクセス： https://ollama.com/download
「Download for Windows」ボタンをクリック

Ollama公式サイト

1.2 インストーラーの実行

ダウンロードした OllamaSetup.exe をダブルクリック
ユーザーアカウント制御のダイアログが表示されたら「はい」をクリック
インストールウィザードに従って進む：
Install Location: デフォルト (C:\Users\<ユーザー名>\AppData\Local\Programs\Ollama) のままでOK
Create Desktop Shortcut: チェックを入れると便利
「Install」ボタンをクリック
インストール完了まで待機（約1〜2分）
「Finish」をクリックして完了

STEP 2: Ollamaの動作確認

2.1 コマンドプロンプトを開く

Windows + R キーを押す
cmd と入力して Enter
黒い画面（コマンドプロンプト）が開きます

2.2 Ollamaのバージョン確認

コマンドプロンプトで以下を入力：

ollama --version

期待される出力例:

ollama version is 0.3.12

✅ バージョン番号が表示されればインストール成功です！

STEP 3: 大規模言語モデル（LLM）のダウンロード

3.1 推奨モデル: Gemma 2 (27B)

Ola-UIではGemma 2 27Bを推奨しています。このモデルは： - 高い日本語能力 - 優れた推論性能 - ビジネス用途に最適

3.2 Gemma 2 27Bのダウンロード

コマンドプロンプトで以下を実行：

ollama pull gemma2:27b

実行中の表示例:

pulling manifest
pulling 8934d96d3f08... 100% ▕████████████████▏ 15.5 GB
pulling 8c17c2ebb0ea... 100% ▕████████████████▏ 7.0 KB
pulling 7c23fb36d801... 100% ▕████████████████▏ 4.8 KB
pulling 2e0493f67d0c... 100% ▕████████████████▏   59 B
pulling fa304d675061... 100% ▕████████████████▏   91 B
pulling 42ba7f8a01dd... 100% ▕████████████████▏  557 B
verifying sha256 digest
writing manifest
success

⏱️ 所要時間: 回線速度にもよりますが、10〜30分程度

3.3 軽量モデルの選択肢（メモリが少ない場合）

もしメモリが16GB以下の場合は、以下の軽量モデルを検討してください：

Gemma 2 9B（推奨代替案）

ollama pull gemma2:9b

メモリ要件: 16GB
ダウンロードサイズ: 約5.5GB
性能: 27Bより劣るが実用レベル

Gemma 2 2B（最小構成）

ollama pull gemma2:2b

メモリ要件: 8GB
ダウンロードサイズ: 約1.6GB
性能: 簡単な質問応答に適する

STEP 4: 埋め込みモデル（Embedding Model）のダウンロード

RAGシステムでは、テキストをベクトル化するための埋め込みモデルも必要です。

4.1 推奨モデル: mxbai-embed-large

ollama pull mxbai-embed-large

実行中の表示例:

pulling manifest
pulling 42c3ecf0f4de... 100% ▕████████████████▏ 669 MB
pulling 819c2adf5ce6... 100% ▕████████████████▏  7.0 KB
pulling e8de95f80fd5... 100% ▕████████████████▏ 4.7 KB
pulling 7f76e2b99e30... 100% ▕████████████████▏   29 B
pulling 7831e101d919... 100% ▕████████████████▏  555 B
verifying sha256 digest
writing manifest
success

⏱️ 所要時間: 約3〜5分

4.2 代替案: nomic-embed-text（多言語対応）

日本語に特化する場合は以下も推奨：

ollama pull nomic-embed-text

STEP 5: ダウンロード済みモデルの確認

5.1 インストール済みモデルのリスト表示

ollama list

期待される出力例:

NAME                      ID              SIZE      MODIFIED
gemma2:27b               8934d96d3f08    15.5 GB   2 minutes ago
mxbai-embed-large:latest 42c3ecf0f4de    669 MB    1 minute ago

✅ 上記のように2つのモデルが表示されればOKです！

STEP 6: Ollamaの動作テスト

6.1 対話モードで起動

ollama run gemma2:27b

起動メッセージ例:

>>> Send a message (/? for help)

6.2 簡単な質問をしてみる

以下のように入力してEnterキーを押します：

こんにちは！あなたの名前を教えてください。

AI応答例:

こんにちは！私はGemmaです。Googleによって開発された大規模言語モデルです。
何かお手伝いできることはありますか？

✅ このように応答があれば動作確認完了です！

6.3 対話モードの終了

/bye

または Ctrl + D キーを押します。

STEP 7: 環境変数の設定（重要！）

Ola-UIが正常に動作するためには、環境変数の設定が必要です。

7.1 Ollamaのインストールパスを確認

通常は以下のパスにインストールされます：

C:\Users\<ユーザー名>\AppData\Local\Programs\Ollama

7.2 環境変数の設定手順

① システムのプロパティを開く

Windows + R キーを押す
sysdm.cpl と入力してEnter
「システムのプロパティ」ウィンドウが開きます

② 環境変数画面を開く

「詳細設定」タブをクリック
「環境変数」ボタンをクリック

③ OLLAMA_HOST の設定

「システム環境変数」セクションで「新規」をクリック
以下の情報を入力：
変数名: OLLAMA_HOST
変数値: http://127.0.0.1:11434
「OK」をクリック

④ OLLAMA_MODELS の設定（任意だが推奨）

再度「新規」をクリック
以下の情報を入力：
変数名: OLLAMA_MODELS
変数値: C:\Users\<ユーザー名>\.ollama\models
「OK」をクリック

⑤ OLLAMA_NUM_PARALLEL の設定（複数リクエスト対応）

再度「新規」をクリック
以下の情報を入力：
変数名: OLLAMA_NUM_PARALLEL
変数値: 4（同時処理数、環境に応じて調整）
「OK」をクリック

⑥ GPU使用の設定（NVIDIA GPU搭載の場合）

再度「新規」をクリック
以下の情報を入力：
変数名: OLLAMA_GPU_LAYERS
変数値: 999（全レイヤーをGPUで処理）
「OK」をクリック

💡 Tip: GPU非搭載の場合はこの設定は不要です。

⑦ すべてのダイアログを「OK」で閉じる

STEP 8: Ollamaサービスの再起動

環境変数を反映させるため、Ollamaサービスを再起動します。

8.1 タスクマネージャーでサービスを確認

Ctrl + Shift + Esc キーでタスクマネージャーを開く
「詳細」タブをクリック
ollama.exe または ollama app.exe を探す
右クリック → 「タスクの終了」

8.2 Ollamaの再起動

コマンドプロンプト（または新しいコマンドプロンプト）で：

ollama serve

正常起動メッセージ例:

2024/01/29 16:00:00 Listening on 127.0.0.1:11434

✅ このメッセージが表示されればOKです！

このコマンドプロンプトは開いたままにしておきます。

STEP 9: APIエンドポイントの動作確認

9.1 別のコマンドプロンプトを開く

新しいコマンドプロンプトを開きます（Windows + R → cmd）。

9.2 curlコマンドでテスト

curl http://127.0.0.1:11434/api/tags

期待される出力例:

{
  "models": [
    {
      "name": "gemma2:27b",
      "modified_at": "2024-01-29T07:00:00.000Z",
      "size": 16629039104,
      "digest": "8934d96d3f08..."
    },
    {
      "name": "mxbai-embed-large:latest",
      "modified_at": "2024-01-29T07:05:00.000Z",
      "size": 669323264,
      "digest": "42c3ecf0f4de..."
    }
  ]
}

✅ JSON形式でモデル情報が返ってくればAPI動作確認完了！

STEP 10: Ollama起動の自動化（任意）

Windowsを起動するたびに ollama serve を実行するのは面倒なので、自動起動を設定します。

10.1 バッチファイルの作成

メモ帳を開く
以下の内容を入力：

@echo off
echo Starting Ollama Server...
start /B ollama serve
timeout /t 5 /nobreak > nul
echo Ollama Server Started!
echo API Endpoint: http://127.0.0.1:11434
pause

「名前を付けて保存」で以下のように保存：
ファイル名: start_ollama.bat
保存場所: C:\Ollama\ など（わかりやすい場所）
ファイルの種類: 「すべてのファイル」

10.2 スタートアップへの登録

Windows + R キーを押す
shell:startup と入力してEnter
スタートアップフォルダが開きます
先ほど作成した start_ollama.bat のショートカットをこのフォルダにコピー

✅ これでWindowsログイン時に自動でOllamaが起動します！

トラブルシューティング

Q1: `ollama: command not found` と表示される

原因: Ollamaのパスが通っていない

解決策: 1. Ollamaを再インストール 2. コマンドプロンプトを再起動 3. 環境変数PATHに C:\Users\<ユーザー名>\AppData\Local\Programs\Ollama を追加

Q2: モデルのダウンロードが途中で止まる

原因: ネットワーク接続が不安定

解決策: 1. ダウンロードを中断（Ctrl + C） 2. 再度 ollama pull コマンドを実行（途中から再開されます）

Q3: GPUが認識されない（NVIDIA GPU搭載の場合）

原因: CUDAドライバーが未インストール

解決策: 1. NVIDIA公式サイトから最新のGeForce Driverをダウンロード 2. インストール後、PCを再起動 3. 以下のコマンドで確認： cmd nvidia-smi 4. GPU情報が表示されればOK

Q4: メモリ不足エラーが出る

原因: モデルサイズがメモリ容量を超えている

解決策: - 軽量モデルに変更（Gemma 2 9BまたはGemma 2 2B） - 他のアプリケーションを終了してメモリを解放 - メモリを増設（32GB推奨）

まとめ

本記事で実施したこと

✅ Ollamaのインストール
✅ 大規模言語モデル（Gemma 2 27B）のダウンロード
✅ 埋め込みモデル（mxbai-embed-large）のダウンロード
✅ 環境変数の設定
✅ APIエンドポイントの動作確認
✅ 自動起動の設定（任意）

所要時間

⏱️ 実際の作業時間: 約15分
⏱️ ダウンロード待機時間: 約30分
⏱️ 合計: 約45分

次回予告

第2回: PHP環境構築編

次回は、Ola-UIのWebインターフェースを動かすためのPHP環境を構築します。

次回の内容

PHPのインストール
php.iniの設定
PHP内蔵Webサーバーの起動
動作確認

お楽しみに！

参考リンク

著者: Ola-UI サポートチーム
公開日: 2026年1月29日
更新日: 2026年1月29日
カテゴリ: チュートリアル, AI, RAG, Ollama

💬 この記事への質問・コメント

この記事についてご質問やご意見がありましたら、以下までお気軽にお問い合わせください：

📧 Email: support@ola-ui.com
🐦 Twitter: @OlaUI_Official
💼 LinkedIn: Ola-UI

【第1回】社内AIチャットシステムOla-UIを構築しよう！- Ollama環境構築編

はじめに

Ola-UIとは？

この連載の全体像

本記事の目標

所要時間

必要な環境

STEP 1: Ollamaのダウンロード

1.1 公式サイトへアクセス

1.2 インストーラーの実行

STEP 2: Ollamaの動作確認

2.1 コマンドプロンプトを開く

2.2 Ollamaのバージョン確認

STEP 3: 大規模言語モデル（LLM）のダウンロード

3.1 推奨モデル: Gemma 2 (27B)

3.2 Gemma 2 27Bのダウンロード

3.3 軽量モデルの選択肢（メモリが少ない場合）

Gemma 2 9B（推奨代替案）

Gemma 2 2B（最小構成）

STEP 4: 埋め込みモデル（Embedding Model）のダウンロード

4.1 推奨モデル: mxbai-embed-large

4.2 代替案: nomic-embed-text（多言語対応）

STEP 5: ダウンロード済みモデルの確認

5.1 インストール済みモデルのリスト表示

STEP 6: Ollamaの動作テスト

6.1 対話モードで起動

6.2 簡単な質問をしてみる

6.3 対話モードの終了

STEP 7: 環境変数の設定（重要！）

7.1 Ollamaのインストールパスを確認

7.2 環境変数の設定手順

① システムのプロパティを開く

② 環境変数画面を開く

③ OLLAMA_HOST の設定

④ OLLAMA_MODELS の設定（任意だが推奨）

⑤ OLLAMA_NUM_PARALLEL の設定（複数リクエスト対応）

⑥ GPU使用の設定（NVIDIA GPU搭載の場合）

⑦ すべてのダイアログを「OK」で閉じる

STEP 8: Ollamaサービスの再起動

8.1 タスクマネージャーでサービスを確認

8.2 Ollamaの再起動

STEP 9: APIエンドポイントの動作確認

9.1 別のコマンドプロンプトを開く

9.2 curlコマンドでテスト

STEP 10: Ollama起動の自動化（任意）

10.1 バッチファイルの作成

10.2 スタートアップへの登録

トラブルシューティング

Q1: ollama: command not found と表示される

Q2: モデルのダウンロードが途中で止まる

Q3: GPUが認識されない（NVIDIA GPU搭載の場合）

Q4: メモリ不足エラーが出る

まとめ

本記事で実施したこと

所要時間

次回予告

次回の内容

参考リンク

💬 この記事への質問・コメント

タグ

Q1: `ollama: command not found` と表示される