当前位置: 首页 > news >正文

Docker 部署 ollama + DeepSeek

拉取并运行 Ollama Docker 镜像

使用以下命令从 Docker Hub 拉取 Ollama 镜像并运行容器:

docker run -d -p 11434:11434 --name ollama ollama/ollama
  • -d:以守护进程模式运行容器,即让容器在后台运行。
  • -p 11434:11434:将容器内部的 11434 端口映射到宿主机的 11434 端口,这样你就可以通过宿主机的 11434 端口访问 Ollama 服务。
  • --name ollama:为容器指定一个名称,方便后续管理。
  • ollama/ollama:指定要运行的 Docker 镜像。

下载 DeepSeek 模型

Ollama 支持加载多种模型,包括 DeepSeek。你可以使用以下命令下载 DeepSeek 模型:

docker exec ollama ollama pull deepseek-coder:33b-instruct

更具自己的配置选择模型版本: 点击查看对应版本 

使用 DeepSeek 模型进行推理

你可以使用 Ollama 的 API 或命令行工具与加载的 DeepSeek 模型进行交互。

docker exec ollama ollama run deepseek-coder:33b-instruct "写一个简单的 Python 函数,用于计算两个数的和。"

到此已经部署完成!!

相关文章:

  • buildctl配置镜像加速
  • ES6中Object.defineProperty 的详细用法和使用场景以及例子
  • 在 C++23 中使用智能指针进行现代内存管理 – 第 1 部分
  • MyBatisPlus学习
  • 【llm post-training】从Loss Function设计上看LLM SFT和RL的区别和联系
  • 【练习】【二分】力扣热题100 35. 搜索插入位置]
  • Markdown 常用语法及示例
  • CSS中块级格式化上下文(BFC)详解
  • 【c语言初阶】函数递归
  • 玩机日记 12 在PVE Windows11上部署本地AI模型,使用群晖反代https转发到外网提供服务,配合沉浸式翻译插件翻译网页
  • 复现论文:DPStyler: Dynamic PromptStyler for Source-Free Domain Generalization
  • 蓝桥杯 Java B 组 之堆的基础(优先队列实现 Top K 问题)
  • 链表_反转链表
  • 矿用机车移动逆变电源设计(论文+源码)
  • 机器学习实战(8):降维技术——主成分分析(PCA)
  • 深入浅出:0 - 1 背包问题的滚动数组解法
  • 延迟任务的11种实现方式(下)!!
  • 机器学习实战(7):聚类算法——发现数据中的隐藏模式
  • 【C++八股】野指针和悬空指针
  • SOME/IP--协议英文原文讲解9
  • 媒体:“西北大学副校长范代娣成陕西首富”系乌龙,但她的人生如同开挂
  • 日月谭天丨这轮中美关税会谈让台湾社会看清了什么?
  • 广东省原省长卢瑞华逝世,享年88岁
  • 王毅谈中拉论坛第四届部长级会议重要共识
  • 观察|“双雄”格局下电池制造商如何生存:加码不同技术、抢滩新赛道
  • 国家林草局原党组成员、副局长李春良接受审查调查