当前位置: 首页 > news >正文

DeepSeek私有化部署7:openEuler 24.03-LTS-SP1安装Open WebUI

Open WebUI是一个

Open WebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。 它支持多种 LLM 运行环境,包括 Ollama 和 OpenAI 兼容的 API,并内置了用于 RAG 的推理引擎,是一个强大的 AI 部署解决方案。

安装完成deepseek之后,仅仅是有了一个大模型。可以通过命令行去聊天或者api调用,对于普通用户来说,肯定是有个ui界面的体验会更好,所以今天给DeepSeek安装一个聊天界面。

Docker部署(个人推荐方式)

# 获取镜像
docker pull ghcr.io/open-webui/open-webui:main
#国内网络因素,如果拉取不下来可以用下面的命令拉取
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:latest

镜像拉取成功后就可以启动镜像了

# 拉取github官方镜像的启动,可以将3000改为你想要监听的外部端口
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

> 数据卷映射 (Volume Mapping: -v
> open-webui:/app/backend/data):确保数据持久化存储,防止容器重启时数据丢失。 端口映射 (Port
> Mapping: -p 3000:8080):将 WebUI 暴露在本地机器的 3000 端口上。
> 要启用 Nvidia GPU 支持,在 docker run 命令中添加 --gpus all

docker run -d -p 3000:8080 --gpus all -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda

# 如果是其他源拉取的镜像最好先给镜像改个名,以上述拉取的源为例拉取后镜像名字为:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui

镜像名更改方法

# 获取镜像id
docker images
swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui   v0.5.9     f5ceaaf2e610   4 weeks ago     4.27GB
# 更改镜像名
docker tag f5ceaaf2e610 openwebui

docker images
openwebui  latest f5ceaaf2e610   4 weeks ago     4.27GB

镜像名更改成功后,在启动镜像时就需要用新的镜像名例如:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name  open-webui openwebui
#出现以下内容则是镜像启动成功,实际情况返回的字符串不一样,如果启动失败则返回其他内容
1c35257286eb1b3cfacc4dc354122b76a6835cc558234b264c1e26467ff32f28

pip安装

#pip安装open-webui
pip install open-webui
#开启open-webui服务
open-webui serve

手动安装

curl -LsSf https://astral.sh/uv/install.sh | sh
# 更改DATA_DIR为你的实际路径以保护你的数据
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

open-webui使用

启动成功后,在以下地址访问 Open WebUI:

http://localhost:3000

第一次使用需要注册管理员账户,登录成功后点击右上角,切换到管理员面板,在设置中选择外部连接,修改ollama api的接口地址,如果本机部署则使用默认的

http://host.docker.internal:11434

即可,如果是异地部署,则需要填写ollama服务的ip地址和监听端口
如果不使用openai api,可以直接将此选项关闭,可以提高登录时页面的加载速度。
如果本地部署了兼容openai api 的其他模型引擎,例如vllm,可以在此处修改为你的openai api地址

相关文章:

  • openharmony 富对富 WiFi投屏设计
  • 基于开源链动 2+1 模式 AI 智能名片 S2B2C 商城小程序源码的门店商业价值提升策略研究
  • [GHCTF 2025 新生赛公开赛道] Crypto
  • Ollama开启GPU加速与NVIDIA驱动安装
  • 51单片机Proteus仿真速成教程——P1-软件与配置+Proteus绘制51单片机最小系统+新建程序模版
  • mac系统安装
  • 前端之超好使的canvas的场景应用
  • 黄金贵金属行情
  • 【学习方法一】
  • 【面试】Zookeeper
  • uniapp 自定义地图组件(根据经纬度展示地图地理位置)
  • 【Git】合并冲突
  • MySQL-MVCC
  • MPPT与PWM充电原理及区别详解
  • 使用 Vue 3 + TypeScript + Vant 4 构建现代移动端应用
  • 小米智能音箱Pro搭载“超级小爱”,支持远程控车
  • 2025科技项目申报预测月历来啦!
  • C++程序设计语言笔记——基本功能:指针、数组与引用
  • Grafana Loki
  • 深度学习实战车辆目标跟踪与计数
  • 广西鹿寨一水文站“倒刺扶手”存安全隐患,官方通报处理情况
  • 下周或迎外贸“抢出口”高峰,跨境电商敏感货物如何便利化“登机”?
  • 世界数字教育大会发布“数字教育研究全球十大热点”
  • 外交部部长助理兼礼宾司司长洪磊接受美国新任驻华大使递交国书副本
  • 马上评|家长抱婴儿值护学岗,如何避免“被自愿”?
  • 车主质疑零跑汽车撞车后AEB未触发、气囊未弹出,4S店:其把油门当刹车