当前位置： 首页 > wzjs >正文

泉州公司建设网站竞价推广怎么做

wzjs 2025/8/1 3:39:30
泉州公司建设网站,竞价推广怎么做,wordpress七牛云储存图片,新网站排名优化怎么做【AI】Docker中快速部署Ollama并安装DeepSeek-R1模型: 一步步指南 一、前言 为了确保在 Docker 环境中顺利安装并高效运行 Ollama 以及 DeepSeek 离线模型，本文将详细介绍整个过程，涵盖从基础安装到优化配置等各个方面。通过对关键参数和配置的深入理解…

【AI】Docker中快速部署Ollama并安装DeepSeek-R1模型: 一步步指南

一、前言

为了确保在 Docker 环境中顺利安装并高效运行 Ollama 以及 DeepSeek 离线模型，本文将详细介绍整个过程，涵盖从基础安装到优化配置等各个方面。通过对关键参数和配置的深入理解，您可以更好地掌控资源使用、保障数据安全以及提升整体性能。

二、环境要求

在开始之前，请确认以下环境需求：

  1. Docker 安装：确保 Docker 已正确安装并能够正常运行容器。

  2. GPU 支持：推荐使用支持 NVIDIA GPU 的环境，以提高模型推理速度。

  3. 网络连接：部分步骤需要访问互联网以下载镜像或模型文件。

  4. 存储空间：DeepSeek 模型文件较大，确保有足够的磁盘空间。

  5. DeepSeek模型：DeepSeek-R1版本的硬件需求和适用场景：

    模型版本CPU需求内存需求硬盘需求显卡需求适用场景
    1.5B最低 4 核8GB+3GB+非必需（纯 CPU 推理），若 GPU 加速可选 4GB+ 显存（如 GTX 1650）低资源设备部署（如树莓派、旧款笔记本）
    实时文本生成（聊天机器人、简单问答）
    嵌入式系统或物联网设备
    7B8 核以上（推荐现代多核 CPU）16GB+8GB+8GB显存（如RTX 3070/4060）本地开发测试（中小型企业）
    中等复杂度NLP任务（文本摘要、翻译）
    轻量级多轮对话系统
    8B与7B相近，略高10%-20%与7B相近，略高10%-20%-与7B相近，略高10%-20%需更高精度的轻量级任务（如代码生成、逻辑推理）
    14B12核以上32GB+15GB+16GB显存（如RTX 4090或A5000）企业级复杂任务（合同分析、报告生成）
    长文本理解与生成（书籍/论文辅助写作）
    32B16核以上（如AMD Ryzen 9或Intel i9）64GB+30GB+24GB显存（如A100 40GB或双卡RTX 3090）高精度专业领域任务（医疗/法律咨询）
    多模态任务预处理（需结合其他框架）
    70B32核以上（服务器级CPU）128GB+70GB+多卡并行（如2x A100 80GB或4x RTX 4090）科研机构/大型企业（金融预测、大规模数据分析）
    高复杂度生成任务（创意写作、算法设计）
    671B64核以上（服务器集群）512GB+300GB+多节点分布式训练（如8x A100/H100）国家级/超大规模AI研究（如气候建模、基因组分析）
    通用人工智能（AGI）探索

三、Ollama 容器详细安装与配置

1. 运行ollama容器

docker run -d --name ollama \--gpus=all \--oom-kill-disable \ # 防止因内存不足导致容器被杀死-m 8g \              # 为容器分配4GB内存（可根据需要调整）-c 2 \               # 分配2个CPU核心（可根据需要调整）-p 11434:11434 \-v /path/to/ollama/config:/root/.ollama/config \-v /path/to/ollama/models:/root/.ollama/models \-v /path/to/ollama/logs:/root/.ollama/logs \-e OLLAMA_ORIGINS="*"-e OLLAMA_PORT=11434 \-e OLLAMA_HOST=0.0.0.0 \-e OLLAMA_ORIGINS="http://localhost,http://your-domain.com" \-e LOG_LEVEL=INFO \ollama/ollama:latest

参数详解：

  • --gpus=all：允许容器使用主机上的所有可用的GPU资源，以加速DeepSeek模型的推理。
  • --oom-kill-disable：防止在内存不足导致容器被杀死，这对于长时间运行或处理大型任务尤为重要。
  • -m 8g：为容器分配4GB（示例值）的内存。根据您的可用资源和DeepSeek模型的大小进行适当调整，较大的模型可能需要更多内存。
  • -c 2：分配2个CPU核心，如果模型推理主要依赖于CPU，这能确保容器获得足够的计算能力。
  • -p 11434:11434：将主机的11434端口映射到容器内的11434端口，方便外部访问Ollama服务。
  • 卷挂载（Volumes）：
    • /path/to/ollama/config:/root/.ollama/config：将配置文件目录挂载到主机对应位置，确保配置持久化，不会因容器重启或删除而丢失。
    • /path/to/ollama/models:/root/.ollama/models：模型文件持久化存储在主机上，避免每次下载并节省时间。
    • /path/to/ollama/logs:/root/.ollama/logs：日志文件持久保存，便于长期监控和故障排查。
  • 环境变量（Environment Variables）：
    • OLLAMA_ORIGINS="*"：允许所有来源访问 Ollama API。
    • OLLAMA_PORT=11434：指定Ollama服务监听的端口号，需与映射端口一致。
    • OLLAMA_HOST=0.0.0.0：允许容器内服务绑定到所有网络接口，这样可以在不同主机和网络环境下访问。
    • OLLAMA_ORIGINS="http://localhost,http://your-domain.com"：设置可信的请求来源，提升安全性，防止CSRF攻击。请将your-domain.com替换为实际使用域名或IP地址。
    • LOG_LEVEL=INFO：调整日志输出级别，便于监控和调试。

2. 进入ollama

# 进入ollama容器
docker exec -it ollama /bin/bash
# 查看帮助
ollama --help

在这里插入图片描述

四、Deepseek模型部署与运行

1. 下载运行模型

ollama pull deepseek-r1:7b

在这里插入图片描述

2. 运行deepseek模型

ollama run deepseek-r1:7b

在这里插入图片描述

3. 测试是否成功

# ollama访问IP和端口
curl http://localhost:11434/api/generate -d '{"model": "deepseek-r1:70b","prompt":"你好"
}'

在这里插入图片描述

五、Cherry Studio交互界面

1. 下载Cherry Studio

Cherry Studio

在这里插入图片描述

2. 配置Deepseek模型

在这里插入图片描述

3. 使用

在这里插入图片描述

http://www.dtcms.com/wzjs/172445.html

相关文章：

  • 域名解析映射到网站空间怎么做网站模板免费
  • 古镇企业网站建设定制新闻发布平台有哪些
  • 网站建设测试规划书企业营销管理
  • 宁波网站建设明细报价阿里云域名注册入口
  • 十大超级软件免费下载湖北seo公司
  • 旅游局网站建设方案免费加客源
  • 网站规划书包括哪些内容江苏网站建设制作
  • 福田网站制作报价谷歌浏览器怎么下载
  • 校园网站建立西安网站seo工作室
  • ps中怎样做网站轮播图片seo网络排名优化技巧
  • 部队网站怎么做企点客服
  • 企业融资渠道和融资方式有哪些汕头网站建设优化
  • 网站制作公司网站源码提高百度搜索排名工具
  • 音乐网站功能市场调研方法有哪几种
  • 做查询新生寝室的网站seo是怎么优化的
  • 做任务网站有哪些天天外链官网
  • 一级a做爰片免费网站无毒宁波网站建设制作报价
  • wordpress删除主题seo技术培训中心
  • wordpress建站的好处搜索网站排名优化
  • 相亲网站用什么做的谷歌chrome浏览器
  • wordpress 小工具插件下载地址晨阳seo顾问
  • 免费搭建个人博客网站网络营销推广策略有哪些
  • 南京政府网站建设谷歌浏览器直接打开
  • 如何低成本做网站推广一个网站如何推广
  • 蓝牙 技术支持 东莞网站建设网络推广网站推广淘宝运营商
  • 网页设计与制作教程的教学目标宁阳网站seo推广
  • 网站推广是干嘛的微信朋友圈广告投放
  • 兰州网站定制公司在线培训管理系统
  • 电商网站搜索引擎怎么做免费观看短视频的app软件推荐
  • seo整站优化网站建设花钱推广的网络平台