网站开发毕业论文模板网站建设开发

概要

提示：本篇文章主要讲述如何部署本地Deepseek私有大模型，使用Windows+无显卡环境进行部署

需要准备的工具

Ollama、Docker Desktop

下载地址：
Ollama：https://ollama.com/download
Docker Desktop：https://www.docker.com/

Ollama准备内容

进入我提供的Ollama下载链接后,选择Windwos,点击Download for Windows进行下载.
安装完成后,使用cmd命令窗口执行ollama list,有下述Name Id Size Modified返回即可,这个命令是展示我们使用ollama下载的模型列表,我这边就有deepseek-r1.1.5b的模型与nomic-Embed模型

然后在命令窗口内输入 ollama run deepseek-r1:1.5b 此命令是进行下载1.5b的deepseek模型,这个模型是用于无显卡的环境下可以进行使用大模型,如果有条件的可以使用其他更多参数的模型。
下载完成后,就会显示下面这个图片,就代表我们的模型已经启动成功了.Ollama这块就可以告一段落了。

Docker准备内容

因此要用到Docker这个容器化平台，先从官网 https://www.docker.com 下载，这里依然选择Windows版：

下载后安装，选项全默认即可：

安装完成需要重新启动Windows：

重启后需要同意Docker的条款，并注册你的账号：

Docker安装部分就告一段落了。

Dify准备内容

根据官方部署文档,我们克隆官方的docker 文件进行部署,首先进入到local 目录下,执行cd /usr/local,然后执行下面命令克隆下来

sudo git clone https://github.com/langgenius/dify.git

然后我们进入dify文件夹里的docker目录，然后执行docker命令部署运行dify,执行后等待部署完成,Dify部分下载内容可能需要科学上网，部分镜像不在国内,如果不支持科学上网,可以使用Open WebUI

sudo docker compose up -d

docker部署运行完成后,我们输入指令sudo docker ps即可看到运行的容器,其中在运行的容器列表可以看到有个nginx的容器,且对外访问的是80端口,这个就是我们外部访问的端口,下面我们进行本地访问测试

本地访问Dify

上面在docker中成功部署且运行后,接下来进行本地访问,上面我们查看到对外访问端口是80,本地访问地址是http://localhost/,首次进入需要进行配置管理员账号。

配置完账号就可以进入工作台,导入自己的资料库进行私有化部署自己的Deepsseek了。