VPSでOllamaを使ってローカルLLMを動かす手順【2025年版】
クラウド型のLLMサービスを使わずに、自前のVPSでLLMを動かしたい——そういうニーズが最近急に増えてきた。プライバシー面の懸念を避けたい、APIコストを削りたい、レスポンスを制御したい、理由はさまざまだが、Ollamaを使えばわりと手軽にローカルLLMを動かせる。この記事ではさくらのVPS（メモリ8GB以上推奨）を使った実際の手順をまとめる。
前提環境
- OS: Debian 12（Bookworm）またはUbuntu 22.04 LTS
- メモリ: 8GB以上（Llama 3 8Bを動かすなら最低8GB。余裕を見て16GB推奨）
- ディスク: 20GB以上の空き（モデルファイルが大きい）
- GPU: 今回はCPU推論で動かす前提。GPUがあればCUDA対応で高速化できる
Ollamaのインストール
公式の install スクリプトを使うのが一番早い。
curl -fsSL https://ollama.com/install.sh | shインストールが完了すると、ollama コマンドが使えるようになり、サービスとして起動される。
systemctl status ollamaActive: active (running) になっていればOK。
モデルを取得して動かす
Ollamaはモデルのダウンロード〜起動を ollama pull と ollama run で完結できる。
# Llama 3 8B（約4.7GB）
ollama pull llama3
# Google Gemma 2 2B（軽量、約1.6GB）
ollama pull gemma2:2b
# 対話モードで動かす
ollama run llama3初回は数分かかるがダウンロードが終われば即起動する。
REST API経由で叩く
Ollamaはデフォルトで http://localhost:11434 にAPIサーバーを立てる。curlで簡単に確認できる。
curl http://localhost:11434/api/generate
-d '{"model":"llama3","prompt":"Linuxのinodeとは何か","stream":false}'レスポンスはJSON形式で返ってくる。responseフィールドに生成テキストが入っている。
外部からアクセスする場合の注意
デフォルトはlocalhostバインドなので外部からはアクセスできない。外部公開したい場合は環境変数 OLLAMA_HOST=0.0.0.0 を設定する。ただし認証機構がないのでnginxでリバースプロキシしてBasic認証をかけるか、VPN/SSH tunnelで絞るのが安全。
# /etc/systemd/system/ollama.service の [Service] セクションに追記
Environment="OLLAMA_HOST=0.0.0.0:11434"
systemctl daemon-reload && systemctl restart ollamaこの記事の Llama 3 8B(約4.7GB)は、モデルの重みをメモリに読み込むので、最低でもモデルの大きさ以上の空きメモリが要ります。比べるために、このサイトを置いているDebian 13.7 の VPS(さくらのVPS・2GB プラン・3コア)のメモリを確かめました(2026年11月5日)。
$ free -m
total used free shared buff/cache available
Mem: 1971 904 316 170 1103 1066
Swap: 4095 459 3636
$ nproc
3
使えるメモリ(available)は 1,066MB しかなく、4.7GB のモデルは載りません。スワップ(4GB)に逃がすと動いても、1文字ずつの生成が極端に遅くなります。
| VPS のメモリ | 載るモデルの大きさの目安 | 例 |
|---|---|---|
| 2GB | 1GB 前後まで | 1B 前後の小さいモデル(4bit 量子化) |
| 8GB | 5GB 前後まで | 7B〜8B の 4bit 量子化(この記事の Llama 3 8B) |
| 16GB 以上 | 10GB 前後まで | 13B〜14B の 4bit 量子化 |
| 確認すること | コマンド |
|---|---|
| 空きメモリ | free -m の available |
| モデルの大きさ | ollama list の SIZE |
| 読み込み中のモデルとメモリ | ollama ps |
目安の表は「モデルのファイルの大きさ + 動かすための余裕」で考えたもので、実際に必要な量はモデルと文脈の長さで変わります。⚠ API(11434番)を外に開けると、誰でもモデルを使えてしまいます。外から使うときは nginx で認証を付けてください。
まとめ
OllamaはインストールからAPIまでの敷居が低く、さくらVPSでも普通に動く。メモリ8GBのプランでLlama 3 8BをCPU推論で動かすとレスポンスは遅め（数十秒/回）だが、バッチ処理や試作ツールには十分使える。本格的なスループットが必要ならGPU付きのインスタンスか、別途専用サーバーを検討したい。
