当前位置: 首页 > news >正文

本地部署DeepSeek-R1(Ollama+Docker+OpenWebUI知识库)

安装Ollama

打开 Ollama官网 https://ollama.com/下载安装
在这里插入图片描述

Ollama服务默认只允许本机访问,修改允许其它主机访问

OLLAMA_HOST=0.0.0.0 ollama serve

也可以添加系统环境变量
在这里插入图片描述

都知道模型体积很大,顺便也通过环境变量修改模型存放位置,我这里修改到D盘下
在这里插入图片描述

部署DeepSeek R1模型

下载模型,自行选择1.5b、7b、8b、14b、32b、671b在终端输入:

ollama pull deepseek-r1:14b

运行模型

ollama run deepseek-r1:14b

安装Docker

选择匹配自己机器的版本下载安装 https://www.docker.com/

安装之前确认设备虚拟化已启用
在这里插入图片描述

安装Open WebUI

Open WebUI的前身就叫Ollama WebUI,所以它们的兼容性毋庸置疑。

如果Ollama在您的计算机上,请使用以下命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果Ollama位于其他服务器上,请使用以下命令:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

要运行支持Nvidia GPU的Open WebUI,请使用以下命令:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

通过IP:端口号访问OpenWebUI,默认端口号3000可以自行修改,开始使用
在这里插入图片描述

首次登录创建管理员账户
在这里插入图片描述

进来,点击确认开始使用
在这里插入图片描述

左上角切换模型
在这里插入图片描述

可以直接使用了,直接原生态就支持文件、图片、语音,还可以语音播报和用户控制等等,总的来说OpenWebUI是值得推荐的。
在这里插入图片描述

创建知识库

点击工作空间-知识库-新建一个知识库,命令介绍,可见性是公开还是私密
在这里插入图片描述

在右上角添加文档或目录包括直接新建文本。
在这里插入图片描述

创建模型

知识库建立好,上传文档后,需要新建个模型绑定我们的知识库
在这里插入图片描述

填充创建信息,选择DeepSeek和知识库
在这里插入图片描述

新建一个对话,选择我们刚才绑定知识库创建的模型

在这里插入图片描述

相关文章:

  • 项目一 - 任务3:搭建Java集成开发环境IntelliJ IDEA
  • anaconda不显示jupyter了?
  • 将DeepSeek接入vscode的N种方法
  • java23种设计模式-建造者模式
  • 基于keepalived实现haproxy高可用站点
  • Ansible剧本-playbook
  • 在 JavaScript 中如何定义一个对象
  • 论文笔记:Scaling Sentence Embeddings with Large Language Models
  • 如何在 Vue 项目中为 `el-pagination` 设置中文
  • Sky Hackathon 清水湾的水 AI美食助手
  • 一键快速打包提交发布命令行工具
  • 【报错解决】vue打开界面报错Uncaught SecurityError: Failed to construct ‘WebSocket‘
  • zabbix排障-zabbix监控的主机出现可用性灰色或者红色问题
  • 欢乐力扣:快乐数
  • MySQL 8.0 社区版安装与配置全流程指南(Windows平台)
  • linux-多进程基础(1) 程序、进程、多道程序、并发与并行、进程相关命令,fork
  • 详细解析d3dx9_27.dll丢失怎么办?如何快速修复d3dx9_27.dll
  • 四元数 欧拉角
  • 【AI+智造】DeepSeek价值重构:当采购与物控遇上数字化转型的化学反应
  • 【SpringBoot】【JWT】0.12.6版本(2025最新)的JWT令牌生成和校验
  • 网站服务器租用哪家好/2023年9月疫情又开始了吗
  • 5g网站建设公司/竞价系统
  • 渝北网站建设/媒体网络推广价格优惠
  • 龙岩网站建设推广/雅虎搜索引擎入口
  • 江苏省政府门户网站建设的调查报告/百度知道客服电话
  • 做聊天网站的视频教程/推广营销是什么