当前位置：首页 > news >正文

linux下ollama离线安装

news 来源：原创 2025/6/19 13:31:39

一、离线安装包下载地址

直接下载地址：

https://github.com/ollama/ollama/releases/tag/v0.5.12

网络爬取地址：

MacOS https://ollama.com/download/Ollama-darwin.zip 
Linux curl -fsSL https://ollama.com/install.sh | sh 
Windows https://ollama.com/download/OllamaSetup.exe 
Github https://hub.nuaa.cf/ollama/ollama/releases

二、下载

可以直接从github上下载安装包，然后传到Linux中进行解压即可，解压之后移动到/usr/bin/ollama
解压：tar -zxvf ollama-linux-amd64.tgz -C /usr/bin
移动：mv /home/usr/desktop/ollama-linux-amd64.run /usr/bin/ollama（移动到/usr/bin下且重命名为ollama）

或使用下载命令： wget https://hub.nuaa.cf/ollama/ollama/releases/download/v0.1.32/ollama-linux-amd64 -O /usr/bin/ollama

权限授予命令： sudo chmod +x /usr/bin/ollama

三、创建Ollama用户

sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

四、赋予 ollama 用户执行权限

sudo chown ollama:ollama /usr/bin/ollama
sudo chmod 755 /usr/bin/ollama

五、查模型存储目录权限

 创建存储目录并赋予权限
sudo mkdir -p /home/ollama/.ollama/models
sudo chown -R ollama:ollama /home/ollama/.ollama/models
sudo chmod 755 /home/ollama/.ollama/models
sudo chown -R ollama:ollama /home/ollama/.ollama
sudo chmod 755 /home/ollama/.ollama

六、配置systemd服务‌创建服务文件

sudo vim /etc/systemd/system/ollama.service

把以下内容填入服务文件中：

[Unit]
Description=Ollama Service
After=network-online.target
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="OLLAMA_MODELS=/home/ollama/.ollama/models"
[Install]
WantedBy=default.target

七、启动服务

# 重新加载服务配置
sudo systemctl daemon-reload
# 开机自启动
sudo systemctl enable ollama
# 立刻启动
sudo systemctl start ollama
# 重启服务
sudo systemctl restart ollama
#检查服务状态
systemctl status ollama

在这里插入图片描述
八、下载模型