当前位置: 首页 > news >正文

Docker 部署 ollama + DeepSeek

拉取并运行 Ollama Docker 镜像

使用以下命令从 Docker Hub 拉取 Ollama 镜像并运行容器:

docker run -d -p 11434:11434 --name ollama ollama/ollama
  • -d:以守护进程模式运行容器,即让容器在后台运行。
  • -p 11434:11434:将容器内部的 11434 端口映射到宿主机的 11434 端口,这样你就可以通过宿主机的 11434 端口访问 Ollama 服务。
  • --name ollama:为容器指定一个名称,方便后续管理。
  • ollama/ollama:指定要运行的 Docker 镜像。

下载 DeepSeek 模型

Ollama 支持加载多种模型,包括 DeepSeek。你可以使用以下命令下载 DeepSeek 模型:

docker exec ollama ollama pull deepseek-coder:33b-instruct

更具自己的配置选择模型版本: 点击查看对应版本 

使用 DeepSeek 模型进行推理

你可以使用 Ollama 的 API 或命令行工具与加载的 DeepSeek 模型进行交互。

docker exec ollama ollama run deepseek-coder:33b-instruct "写一个简单的 Python 函数,用于计算两个数的和。"

到此已经部署完成!!

http://www.dtcms.com/a/26927.html

相关文章:

  • buildctl配置镜像加速
  • ES6中Object.defineProperty 的详细用法和使用场景以及例子
  • 在 C++23 中使用智能指针进行现代内存管理 – 第 1 部分
  • MyBatisPlus学习
  • 【llm post-training】从Loss Function设计上看LLM SFT和RL的区别和联系
  • 【练习】【二分】力扣热题100 35. 搜索插入位置]
  • Markdown 常用语法及示例
  • CSS中块级格式化上下文(BFC)详解
  • 【c语言初阶】函数递归
  • 玩机日记 12 在PVE Windows11上部署本地AI模型,使用群晖反代https转发到外网提供服务,配合沉浸式翻译插件翻译网页
  • 复现论文:DPStyler: Dynamic PromptStyler for Source-Free Domain Generalization
  • 蓝桥杯 Java B 组 之堆的基础(优先队列实现 Top K 问题)
  • 链表_反转链表
  • 矿用机车移动逆变电源设计(论文+源码)
  • 机器学习实战(8):降维技术——主成分分析(PCA)
  • 深入浅出:0 - 1 背包问题的滚动数组解法
  • 延迟任务的11种实现方式(下)!!
  • 机器学习实战(7):聚类算法——发现数据中的隐藏模式
  • 【C++八股】野指针和悬空指针
  • SOME/IP--协议英文原文讲解9
  • golang面试题:两个interface{} 能不能比较?
  • SprutCAMX16数控软件介绍
  • uniapp图像转换(获取本地选取或拍照的图片的base64、Blob、图像和base64的转换)
  • vscode复制到下一行
  • 什么是网络安全审计?网络安全审计的作用...
  • 【Mastering Vim 2_04】第三章:追随最佳实践:插件管理之道
  • 用PyInstaller构建动态脚本执行器:嵌入式Python解释器与模块打包 - 简明教程
  • 第四天面试题
  • Kafka消息服务之Java工具类
  • 在局域网中连接Grafana数据源