当前位置: 首页 > news >正文

DeepSeek私有化部署7:openEuler 24.03-LTS-SP1安装Open WebUI

Open WebUI是一个

Open WebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。 它支持多种 LLM 运行环境,包括 Ollama 和 OpenAI 兼容的 API,并内置了用于 RAG 的推理引擎,是一个强大的 AI 部署解决方案。

安装完成deepseek之后,仅仅是有了一个大模型。可以通过命令行去聊天或者api调用,对于普通用户来说,肯定是有个ui界面的体验会更好,所以今天给DeepSeek安装一个聊天界面。

Docker部署(个人推荐方式)

# 获取镜像
docker pull ghcr.io/open-webui/open-webui:main
#国内网络因素,如果拉取不下来可以用下面的命令拉取
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:latest

镜像拉取成功后就可以启动镜像了

# 拉取github官方镜像的启动,可以将3000改为你想要监听的外部端口
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

> 数据卷映射 (Volume Mapping: -v
> open-webui:/app/backend/data):确保数据持久化存储,防止容器重启时数据丢失。 端口映射 (Port
> Mapping: -p 3000:8080):将 WebUI 暴露在本地机器的 3000 端口上。
> 要启用 Nvidia GPU 支持,在 docker run 命令中添加 --gpus all

docker run -d -p 3000:8080 --gpus all -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda

# 如果是其他源拉取的镜像最好先给镜像改个名,以上述拉取的源为例拉取后镜像名字为:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui

镜像名更改方法

# 获取镜像id
docker images
swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui   v0.5.9     f5ceaaf2e610   4 weeks ago     4.27GB
# 更改镜像名
docker tag f5ceaaf2e610 openwebui

docker images
openwebui  latest f5ceaaf2e610   4 weeks ago     4.27GB

镜像名更改成功后,在启动镜像时就需要用新的镜像名例如:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name  open-webui openwebui
#出现以下内容则是镜像启动成功,实际情况返回的字符串不一样,如果启动失败则返回其他内容
1c35257286eb1b3cfacc4dc354122b76a6835cc558234b264c1e26467ff32f28

pip安装

#pip安装open-webui
pip install open-webui
#开启open-webui服务
open-webui serve

手动安装

curl -LsSf https://astral.sh/uv/install.sh | sh
# 更改DATA_DIR为你的实际路径以保护你的数据
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

open-webui使用

启动成功后,在以下地址访问 Open WebUI:

http://localhost:3000

第一次使用需要注册管理员账户,登录成功后点击右上角,切换到管理员面板,在设置中选择外部连接,修改ollama api的接口地址,如果本机部署则使用默认的

http://host.docker.internal:11434

即可,如果是异地部署,则需要填写ollama服务的ip地址和监听端口
如果不使用openai api,可以直接将此选项关闭,可以提高登录时页面的加载速度。
如果本地部署了兼容openai api 的其他模型引擎,例如vllm,可以在此处修改为你的openai api地址

http://www.dtcms.com/a/59702.html

相关文章:

  • openharmony 富对富 WiFi投屏设计
  • 基于开源链动 2+1 模式 AI 智能名片 S2B2C 商城小程序源码的门店商业价值提升策略研究
  • [GHCTF 2025 新生赛公开赛道] Crypto
  • Ollama开启GPU加速与NVIDIA驱动安装
  • 51单片机Proteus仿真速成教程——P1-软件与配置+Proteus绘制51单片机最小系统+新建程序模版
  • mac系统安装
  • 前端之超好使的canvas的场景应用
  • 黄金贵金属行情
  • 【学习方法一】
  • 【面试】Zookeeper
  • uniapp 自定义地图组件(根据经纬度展示地图地理位置)
  • 【Git】合并冲突
  • MySQL-MVCC
  • MPPT与PWM充电原理及区别详解
  • 使用 Vue 3 + TypeScript + Vant 4 构建现代移动端应用
  • 小米智能音箱Pro搭载“超级小爱”,支持远程控车
  • 2025科技项目申报预测月历来啦!
  • C++程序设计语言笔记——基本功能:指针、数组与引用
  • Grafana Loki
  • 深度学习实战车辆目标跟踪与计数
  • 全栈网络安全|渗透测试-1
  • 网络初级复习作业
  • react+ts+eslint+prettier 配置教程
  • 【AI】AI开源IDE:CLine源码分析报告
  • 54-WLAN 无线局域网配置方案-三层
  • 云曦25开学考复现
  • React-异步队列执行方法useSyncQueue
  • MySql的in和join对比谁更高效
  • JVM_八股场景题
  • 【含文档+PPT+源码】Python爬虫人口老龄化大数据分析平台的设计与实现