Ollama(1)知识点配置篇
ollama已经成功安装成功后,通常大家会对模型的下载位置和访问权限进行配置
1.模型下载位置修改
都是修改系统环境变量。
(1)默认下载位置
macOS: ~/.ollama/modelsLinux: /usr/share/ollama/.ollama/modelsWindows: C:\Users\你的电脑用户名\.ollama\models
(2)修改linux下路径
- 关闭Ollama服务
# 1. 使用systemctl命令:
sudo systemctl stop ollama
sudo systemctl disable ollama.service
# 2. 或者在运行Ollama的终端中按Ctrl+C手动停止服务。
- 创建新的模型存储目录
# 创建一个新的目录作为模型存储路径。
sudo mkdir -p /data/ollama/models
# 确保新目录的权限设置正确,允许Ollama访问和写入:
sudo chown -R root:root /data/ollama/models
sudo chmod -R 775 /data/ollama/models
- 修改Ollama服务配置文件
# 使用文本编辑器(如vim)编辑Ollama服务的配置文件:
sudo gedit /etc/systemd/system/ollama.service# 在[Service]部分的Environment字段后,添加新的Environment字段,指定新的模型路径:Environment="OLLAMA_MODELS=/data/ollama/models"# 完整的配置示例如下
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/data/ollama/models"
[Install]
WantedBy=default.target</font>
- 重载配置并重启Ollama服务
# 1. 重载系统服务配置:
sudo systemctl daemon-reload
# 2. 重启Ollama服务:
sudo systemctl restart ollama.service
# 3. 查看服务状态:
sudo systemctl status ollama
如果修改之前 默认路径有模型文件,可以直接复制过来,重启即可生效
(3)修改windows下路径
找到系统环境变量
新建一个 OLLAMA_MODELS 和对应目录
2. 修改访问权限本地还是对外访问
(1)linux下HOST修改
# 1. 通过编辑ollama.service进行配置:
sudo vim /etc/systemd/system/ollama.service# 由于Ollama的默认参数配置,启动时设置了仅本地访问,因此需要对HOST进行配置,开启监听任何来源IP。
[Service]
# 2. 配置远程访问(放开所有IP,都可以远程访问)
Environment="OLLAMA_HOST=0.0.0.0"
(2)window下HOST修改
OLLAMA_HOST
(3)默认11434端口要记得放开
linux或者window都要在防火墙放开端口才可以远程访问
3. 部分命令小存
ollama serve # 启动ollama
ollama create # 从模型文件创建模型
ollama show # 显示模型信息
ollama run # 运行模型
ollama pull # 从注册仓库中拉取模型
ollama push # 将模型推送到注册仓库
ollama list # 列出已下载模型
ollama cp # 复制模型
ollama rm # 删除模型
ollama help # 获取有关任何命令的帮助信息