当前位置: 首页 > news >正文

【DeepSeek】公司内网部署离线deepseek+docker+ragflow本地模型实战

企业内部可能有些数据比较敏感,不能连接互联网。本次实验操作是将deepseek完全离线后迁移至内网使用,实验基于Windows server 2022 datacenter系统安装deepseek、docker、ragflow。

目录

    • 使用VMware新建WIN2022虚拟机
    • 一、安装DeepSeek模型
    • 二.安装Docker

使用VMware新建WIN2022虚拟机

(本步骤省略)

一、安装DeepSeek模型

  1. 下载ollama
    官网https://ollama.com/下载自已电脑对应的ollama 版本。
    在这里插入图片描述

在这里插入图片描述
下载太慢的请看这里,我用移动的宽带下特别快
两个文件下到同一目录,用360解压缩
https://download.csdn.net/download/xzzteach/90571904
https://download.csdn.net/download/xzzteach/90571885

  1. 安装ollama

注意:
Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;
建议将Ollama安装包放到想要安装的路径下,本实验安装在 D:\ds\ollama

在安装文件目录中进入CMD

在这里插入图片描述
输入安装指令

OllamaSetup.exe /DIR=D:\ds\ollama

在这里插入图片描述
点击install进行安装
在这里插入图片描述
检查安装成功的版本号

ollama -v

在这里插入图片描述

  1. 本地离线部署DeepSeek
    选择模型并下载
    打开Ollama官网,点击顶部的Models链接,选择deepseek-r1模型,如下图所示:

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

在这里插入图片描述
出现success就代表成功了,并且可以进行对话.
在这里插入图片描述

二.安装Docker

安装前先打开启用或关闭Windows功能界面 ,随后打开红框中的内容,如果第一个红框没有的话那么看看有没有一个叫做虚拟机平台 的进行打开

开始菜单搜索“控制面板”
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
执行

dism /online /enable-feature /all /featurename:Microsoft-Hyper-V

在这里插入图片描述
提示重启,输入Y重启服务器

下载docker
https://www.docker.com/

在这里插入图片描述

因为笔者服务器系统Windows server 2022 C盘空间特别小,这里把Docker安装到D盘
先创建两个文件夹

mkdir D:\ds\DockerDesktop
mkdir D:\ds\DockerDesktop\data

查看目录已成功创建
在这里插入图片描述

现在开始安装

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\ds\DockerDesktop" --wsl-default-data-root="D:\ds\DockerDesktop\data" --windows-containers-default-data-root="D:\\ds\\DockerDesktop"

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

wsl --update

在这里插入图片描述
这样更新一般会特别慢,下面链接可以点击下载直接更新
https://download.csdn.net/download/xzzteach/91804044

下载ragflow
https://github.com/infiniflow/ragflow
在这里插入图片描述
原来是这样的
在这里插入图片描述
修改成如下所示:也就是标红部分未注释的注释掉,已注释的取消(这样才能带Embedding模型)
在这里插入图片描述
docker端口与本地对应关系根据自己的情况修改,我这里保持了默认:
在这里插入图片描述
来到ragflow的docker目录执行命令如下:

docker compose -f docker-compose.yml up -d
http://www.dtcms.com/a/357239.html

相关文章:

  • 《跳出“技术堆砌”陷阱,构建可演进的软件系统》
  • 【PyTorch】神经风格迁移项目
  • 每周资讯 | 《恋与深空》获科隆游戏展2025“最佳移动游戏奖”;8月173个版号下发
  • 【小白笔记】访问GitHub 账户的权限英文单词解释
  • nvm使用和node使用
  • 【前端教程】用 JavaScript 实现4个常用时间与颜色交互功能
  • centos8部署miniconda、nodejs
  • webpack升级
  • 飞牛Nas每天定时加密数据备份到网盘,基于restic的Backrest笔记分享
  • linux和RTOS架构区别
  • 通过 KafkaMQ 接入Skywalking 数据最佳实践
  • JAVA:Spring Boot 集成 Easy Rules 实现规则引擎
  • 滚珠导轨如何赋能精密制造?
  • 【数据分享】省级人工智能发展水平综合指标体系(2011-2022)
  • 安卓开发---BaseAdapter(定制ListView的界面)
  • 基于SpringBoot和Thymeleaf开发的英语学习网站
  • 笔记本电脑频繁出现 vcomp140.dll丢失怎么办?结合移动设备特性,提供适配性强的修复方案
  • C#连接SQL-Server数据库超详细讲解以及防SQL注入
  • LSTM实战:回归 - 实现交通流预测
  • 保护海外服务器免受黑客攻击的方法
  • WebSocket功能完整解析
  • Linux系统——EXT2 文件系统
  • 【论文阅读】Sparse4D v2:Recurrent Temporal Fusion with Sparse Model
  • HTML 和 JavaScript 关联的基础教程
  • Emeditor 提取IP地址正则表达式
  • 音视频直播卡顿分析与优化:技术原理、实践案例与未来趋势
  • 如何使用 Graylog 连接 Easysearch
  • vue3+wangEditor实现富文本编辑器
  • 【黑客技术零基础入门】黑客入门教程(非常详细)从零基础入门到精通,看完这一篇就够了
  • Java面试现场:Spring Boot+Redis+MySQL在电商场景下的技术深度剖析