当前位置: 首页 > news >正文

ollama docker设置模型常驻显存

参考:
https://github.com/ollama/ollama/issues/5272
https://deepseek.csdn.net/67cfd7c93b685529b708fdee.html

通过-e传入环境变量,ollama运行:

 docker run -d --gpus=all -e OLLAMA_KEEP_ALIVE=-1  -v ollama:/root/.ollama -p 11434:11434 --name ollama  ollama/ollama 

进入运行模型

docker exec  -it 容器id bash

ollama run qwen2.5:7b

持续时间永远
在这里插入图片描述

相关文章:

  • 流量分析实践
  • 【Python 算法零基础 1.线性枚举】
  • 使用htool工具导出和导入Excel表
  • springboot学习(自定义starter)
  • GO语言的GC(垃圾回收)原理
  • 探索可变参数提升不变学习以增强分布外泛化能力
  • Android ARouter的详细使用指南
  • 京东云DeepSeek-R1模型一键部署教程,基于智算GCS【成本2元】
  • Ansible 如何使用 Playbook 批量部署应用?
  • Unity WebGL项目访问时自动全屏
  • vue 加密解密
  • 基于PMU的14节点、30节点电力系统状态估计MATLAB程序
  • AndroidStudio下载安装,环境部署以及常见问题解决教程(亲测)
  • 游戏立项时期随笔记录(1)
  • MySql数据库(表数据的增、删、改操作)8
  • mysql5.x和mysql8.x查看和设置隔离级别
  • VSCode C/C++ 环境搭建指南
  • JS逆向案例-通达OA Office Anywhere 2019 的前端密码加密逆向分析
  • SiC/GaN器件测试新选择:MHO5000如何破解高频开关噪声难题?
  • 【MySQL】第十八弹---数据库管理基础:视图操作与用户权限管理指南
  • 35款移动应用存在违法违规收集使用个人信息情况,涉及智谱清言、Kimi等
  • 马上评|把孩子当牟利工具,这样的流量吃不得
  • 上海皮影戏《九色鹿》闪耀塞尔维亚,再获2项国际大奖
  • 总数再更新!我国新增三项全球重要农业文化遗产
  • 上海国际电影电视节 | 奔赴电影之城,开启光影新程
  • 中疾控专家:新冠感染的临床严重性未发生显著变化