当前位置: 首页 > news >正文

Ollama(1)知识点配置篇

ollama已经成功安装成功后,通常大家会对模型的下载位置和访问权限进行配置

1.模型下载位置修改

都是修改系统环境变量。

(1)默认下载位置

macOS: ~/.ollama/modelsLinux: /usr/share/ollama/.ollama/modelsWindows: C:\Users\你的电脑用户名\.ollama\models

(2)修改linux下路径

  • 关闭Ollama服务
# 1. 使用systemctl命令:
sudo systemctl stop ollama
sudo systemctl disable ollama.service
# 2. 或者在运行Ollama的终端中按Ctrl+C手动停止服务。
  • 创建新的模型存储目录 
# 创建一个新的目录作为模型存储路径。
sudo mkdir -p /data/ollama/models
# 确保新目录的权限设置正确,允许Ollama访问和写入:
sudo chown -R root:root /data/ollama/models
sudo chmod -R 775 /data/ollama/models
  • 修改Ollama服务配置文件

# 使用文本编辑器(如vim)编辑Ollama服务的配置文件:
sudo gedit /etc/systemd/system/ollama.service# 在[Service]部分的Environment字段后,添加新的Environment字段,指定新的模型路径:Environment="OLLAMA_MODELS=/data/ollama/models"# 完整的配置示例如下
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
Environment="OLLAMA_MODELS=/data/ollama/models"
[Install]
WantedBy=default.target</font>
  • 重载配置并重启Ollama服务
# 1. 重载系统服务配置:
sudo systemctl daemon-reload
# 2. 重启Ollama服务:
sudo systemctl restart ollama.service
#  3. 查看服务状态:
sudo systemctl status ollama

如果修改之前 默认路径有模型文件,可以直接复制过来,重启即可生效

(3)修改windows下路径

找到系统环境变量

新建一个   OLLAMA_MODELS   和对应目录

2. 修改访问权限本地还是对外访问

(1)linux下HOST修改

#  1. 通过编辑ollama.service进行配置:
sudo vim /etc/systemd/system/ollama.service# 由于Ollama的默认参数配置,启动时设置了仅本地访问,因此需要对HOST进行配置,开启监听任何来源IP。
[Service]
# 2. 配置远程访问(放开所有IP,都可以远程访问)
Environment="OLLAMA_HOST=0.0.0.0"

(2)window下HOST修改

 OLLAMA_HOST

(3)默认11434端口要记得放开

linux或者window都要在防火墙放开端口才可以远程访问

3. 部分命令小存

ollama serve                # 启动ollama
ollama create               # 从模型文件创建模型
ollama show                # 显示模型信息
ollama run                # 运行模型
ollama pull                # 从注册仓库中拉取模型
ollama push                # 将模型推送到注册仓库
ollama list                # 列出已下载模型
ollama cp                # 复制模型
ollama rm                # 删除模型
ollama help                # 获取有关任何命令的帮助信息

相关文章:

  • 保险行业数字化应用解决方案
  • DiTAR: Diffusion Transformer Autoregressive Modeling for Speech Generation
  • 网易 - 灵犀办公文档
  • 【术语扫盲】BSP与MSP
  • React 事件处理与合成事件机制揭秘
  • 前端基础之《Vue(17)—路由集成》
  • 正点原子Z20 ZYNQ ​​​开发板​​发布!板载FMC LPC、LVDS LCD和WIFI蓝牙等接口,资料丰富!
  • LangChain表达式(LCEL)实操案例1
  • MathWorks无法注册,显示no healthy upstream(已解决)
  • PyQt6基础_QCharts绘制饼状图
  • 【nn.GroupNorm】
  • MQTT协议,EMQX部署,MQTTX安装学习
  • 苹果签名工具
  • 每天掌握一个Linux命令 - curl
  • 代码随想录算法训练营第60期第五十二天打卡
  • SpringBoot+Vue+微信小程序校园自助打印系统
  • [SWPUCTF 2023 秋季新生赛]Classical Cipher203分古典密码Base家族栅栏密码
  • 【xmb】内部文档148344596
  • RAG中的chunk以及评测方法
  • 辅助脚本-通用开发工作区目录结构生成脚本解析与实践指南
  • 动态网站制作价格/专业做加盟推广的公司
  • 电子商务网站建设的主页/网络推广的具体方式
  • 网站代理维护/有什么推广的平台
  • 电子商务网站建设完整案例教程/今日热点新闻事件标题
  • 网站建设维护实训总结/深圳网站seo优化
  • 网站怎么上传模板/百度怎样免费发布信息