Ollama よくある質問
この章では、トラブルシューティングの知識をいつでも引けるマニュアルにまとめています。ログによる特定から始め、症状ごとに分類し、ビデオメモリ不足、ダウンロード失敗、ポート競合、GPU 異常、過負荷、アップグレード互換性の6つの大きな問題をカバーします。
最初の一手:まずログを確認
Ollama のエラーメッセージは簡潔すぎることが多く、本当の原因はほとんどログに書かれています。
| 環境 | 確認コマンド / 場所 |
|---|---|
| macOS | cat ~/.ollama/logs/server.log |
| Linux(systemd) | journalctl -u ollama --no-pager --follow --pager-end |
| Windows | %LOCALAPPDATA%\Ollama\server.log |
| Docker | docker logs <コンテナ名> |
| 手動で serve | ログは現在のターミナルに直接出力される |
デフォルトのログに詳細が含まれない場合は、デバッグモードを有効にしてサービスを再起動すると、GPU 認識、ビデオメモリ見積もりなどの重要なプロセスを確認できます:
# 调试模式启动 OLLAMA_DEBUG=1 ollama serve
異常が発生した場合は、以下のナビゲーションマップに従って先に分類し、該当するセクションに移動してください:
ビデオメモリ / メモリ不足(OOM)
これは最も一般的な実行時の問題で、典型的な症状は、生成の途中でプロセスが消える、システムがフリーズする、ログにメモリ割り当て失敗が表示されるなどです。
| 症状 | 原因 | 対策 |
|---|---|---|
| 大きなモデルを読み込むときにプロセスが強制終了される | 物理メモリ不足 | より小さいサイズのタグに変更する。または create で量子化してサイズを圧縮する |
| 生成中にクラッシュする | コンテキストの蓄積により KV キャッシュが肥大化する | num_ctx を下げる。Flash Attention と KV キャッシュ量子化を有効にする |
| 複数リクエスト時に一斉に失敗する | NUM_PARALLEL が大きすぎてビデオメモリが倍々で消費される | 1 に戻し、徐々に増やしながら ollama ps を確認する |
| モデルは動作するが CPU に分割されている | ビデオメモリが必要量よりわずかに少ない | バックグラウンドのビデオメモリ使用を解放する。パラメータサイズを一つ下げる |
診断コマンド3点セット:ollama ps でモデルの使用量と分割比率を確認、nvidia-smi(または rocm-smi)で GPU のリアルタイムのビデオメモリを確認、free -h でシステムメモリを確認。
モデルのダウンロード失敗と中断時のレジューム
ダウンロードの問題はほぼネットワーク経路に起因します。良い知らせとして、Ollama はレイヤー単位のレジュームに対応しており、再試行のコストは非常に低いです。
| 症状 | 原因 | 対策 |
|---|---|---|
| ダウンロードが繰り返し中断される | 送信元サーバーまでのネットワークが不安定 | 同じコマンドを再実行してレジュームする。必要に応じて HTTPS_PROXY を設定する |
| プロキシ設定後も失敗する | HTTP_PROXY を誤って設定している | HTTPS_PROXY のみを残し、HTTP_PROXY を削除する |
| プロキシ証明書のエラー | 自己署名証明書が信頼されていない | CA 証明書をシステム証明書としてインストールする |
| ディスク容量不足の警告 | 対象パーティションの容量が足りない | 容量を解放するか、OLLAMA_MODELS でストレージパスを変更する |
ポート競合と接続拒否
クライアントが「接続が拒否されました」と報告する場合、本質は 11434 ポートでサービスが応答していないことです。
| 症状 | 原因 | 対策 |
|---|---|---|
| ローカルの curl で接続が拒否される | Ollama サービスが起動していない | macOS / Windows はアプリを起動する。Linux は sudo systemctl start ollama を実行する |
| ログにポートが使用中と表示される | 11434 が他のプログラムに占有されている | 占有しているプロセスを停止するか、ポートを変更して起動する:OLLAMA_HOST=127.0.0.1:11435 |
| リモートマシンから接続できない | サービスがループバックアドレスのみをリッスンしている | サーバー側で OLLAMA_HOST=0.0.0.0 を設定し、ファイアウォールを許可する |
| Linux で手動インストール後に起動してもすぐ終了する | /tmp が noexec でマウントされており、推論ライブラリをロードできない | OLLAMA_TMPDIR を実行可能なディレクトリに設定する |
GPU が未使用 / 認識失敗
症状は ollama ps が 100% CPU を表示する、またはログに GPU 認識失敗が現れることです。NVIDIA と AMD では調査手順が異なります。
NVIDIA 固有のトラブルシューティング
まずドライバーとパススルー環境を確認し、その後ログのエラーコードに応じて対処します:
| 確認項目 | 方法 |
|---|---|
| ドライバーバージョン | nvidia-smi が正常に出力されること。最新ドライバーにアップグレードする |
| コンテナのパススルー | docker run --gpus all ubuntu nvidia-smi が通らない場合は Container Toolkit の問題 |
| ドライバーモジュールの異常 | sudo rmmod nvidia_uvm && sudo modprobe nvidia_uvm で再ロードして再試行する |
| スリープ復帰後に機能しない | Linux ではスリープ復帰後に nvidia_uvm モジュールの再ロードが必要 |
| Docker を長時間実行すると GPU が見えなくなる | /etc/docker/daemon.json に native.cgroupdriver=cgroupfs を追加して Docker を再起動する |
ログの CUDA エラーコードはすぐに参照できる価値があります:3 は未初期化、46 はデバイスが利用不可、100 はデバイスなし、999 は不明なエラーを示し、ほとんどがドライバーまたはパススルー設定に起因します。
AMD 固有のトラブルシューティング
| 症状 | 原因 | 対策 |
|---|---|---|
| Linux で完全に検出されない | ユーザーが video / render グループに属していない | 実行ユーザーを対応するグループに追加してサービスを再起動する |
| ログに discovery timeout(検出タイムアウト)が表示される | ROCm ドライバーが古すぎる(v7 未満) | amdgpu-install で ROCm v7 にアップグレードして再起動する |
| 古い GPU がサポートされていない | アーキテクチャが公式サポートリストにない | HSA_OVERRIDE_GFX_VERSION で近いアーキテクチャを指定してみる |
| Windows では一部の古い GPU に ROCm がない | ドライバースタックの制限 | デフォルトの Vulkan パスを使用する。異常時は GGML_VK_VISIBLE_DEVICES を確認する |
503 過負荷と応答遅延の体系的な調査
前の章の方法を固定のフローとしてまとめると、6 ステップ以内でほとんどのパフォーマンス問題を特定できます:
ステップ1:ollama ps で PROCESSOR が 100% GPU かを確認し、分割が発生したらまずビデオメモリ最適化に戻る。
ステップ2:ログにキューイング、アンロード、認識失敗の記録があるか確認する。
ステップ3:503 を受け取った場合はキューが満杯であるため、同時リクエスト数と OLLAMA_MAX_QUEUE を確認し、スケールアップが必要か評価する。
ステップ4:複数ユーザー共有のシナリオでは、OLLAMA_NUM_PARALLEL とビデオメモリの乗算関係を確認する。
ステップ5:keep_alive 戦略を確認する。頻繁なアンロードと再ロードは、最初のトークンまでの遅延を急増させる。
ステップ6:API の usage フィールドで token/s を計算し、過去のベースラインと比較して各調整の効果を定量化する。
アップグレード後の互換性問題とロールバック
アップグレード後に動作が異常な場合、3 つの操作でほとんどのケースを解決できます:
# 1. Linux 手动升级前先清理旧库,避免新旧混用 sudo rm -rf /usr/lib/ollama # 2. 回退到指定版本 curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh # 3. AMD 显卡同步升级 ROCm v7 驱动后重启
Windows のターミナルで文字化けした四角が表示されるのは古いターミナルのフォントの問題であり、モデルとは無関係です。Windows Terminal に切り替えれば解決します。
その他の拡張