当前位置：首页 > news >正文

Linux 上 Ollama 部署为系统服务

news 来源：原创 2025/6/20 5:33:13

在 Linux 上将 Ollama 部署为系统服务

本文档介绍了如何在 Linux 系统上将 Ollama 部署为一个后台服务（systemd 服务），并配置相关环境变量，以确保其稳定运行。文档中使用的用户名为 test，请根据实际情况替换为你自己的用户。

📁 目录

创建 systemd 服务文件
服务管理命令
配置环境变量
验证部署

创建 systemd 服务文件

使用 sudo 编辑器创建一个新的 systemd 服务文件：

sudo vi /etc/systemd/system/ollama.service

将以下内容粘贴到该文件中（请根据你的实际路径进行调整）：

[Unit]
Description=Ollama LLM Server
After=network.target[Service]
Type=simple
User=test
ExecStart=/home/test/ai/ollama/bin/ollama serve
Restart=on-failure
RestartSec=5
Environment=PATH=/usr/local/bin:/usr/bin:/bin:/home/test/ai/ollama/bin[Install]
WantedBy=multi-user.target

说明：

User=test 表示以 test 用户身份运行服务。
ExecStart 使用的是 Ollama 的绝对路径，请确保路径正确。
Environment 设置了 PATH，确保系统能找到 Ollama 可执行文件。
Restart=on-failure 表示如果服务崩溃，会自动重启。

保存并退出编辑器。

编辑文件以后，使用 systemctl daemon-reload 生效以上文件

服务管理命令

启动、停止和查看 Ollama 服务状态的常用命令如下：

# 启动服务
sudo systemctl start ollama.service# 停止服务
sudo systemctl stop ollama.service# 查看服务状态
sudo systemctl status ollama.service# 设置开机自启
sudo systemctl enable ollama.service# 取消开机自启
sudo systemctl disable ollama.service

配置环境变量

为了方便使用 Ollama 命令，并设置模型存储路径等参数，建议在用户主目录下的 .bashrc 文件中添加以下环境变量：

vi ~/.bashrc

添加如下内容：

# 将 Ollama 添加到 PATH
export PATH=$PATH:/home/test/ai/ollama/bin# 允许跨域请求（用于 API 调用）
export OLLAMA_ORIGINS=*# 自定义模型存储路径
export OLLAMA_MODELS=/opt/app/test/ollamamodels# 设置监听地址和端口
export OLLAMA_HOST=0.0.0.0:11434

保存后立即生效：

source ~/.bashrc

验证部署

1. 启动服务

sudo systemctl start ollama.service

2. 查看服务状态

sudo systemctl status ollama.service

你应该看到类似以下输出，表示服务正在运行：

● ollama.service - Ollama LLM ServerLoaded: loaded (/etc/systemd/system/ollama.service; disabled; vendor preset: enabled)Active: active (running) since ...