当前位置: 首页 > news >正文

DeepSeek私有化部署6:openEuler 24.03-LTS-SP1安装Open WebUI

Open WebUI是一个

Open WebUI 是一个可扩展的、功能丰富、用户友好的自托管 AI 平台,专为完全离线运行而设计。 它支持多种 LLM 运行环境,包括 Ollama 和 OpenAI 兼容的 API,并内置了用于 RAG 的推理引擎,是一个强大的 AI 部署解决方案。

安装完成deepseek之后,仅仅是有了一个大模型。可以通过命令行去聊天或者api调用,对于普通用户来说,肯定是有个ui界面的体验会更好,所以今天给DeepSeek安装一个聊天界面。

Docker部署(个人推荐方式)

# 获取镜像
docker pull ghcr.io/open-webui/open-webui:main
#国内网络因素,如果拉取不下来可以用下面的命令拉取
docker pull swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:latest

镜像拉取成功后就可以启动镜像了

# 拉取github官方镜像的启动,可以将3000改为你想要监听的外部端口
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

> 数据卷映射 (Volume Mapping: -v
> open-webui:/app/backend/data):确保数据持久化存储,防止容器重启时数据丢失。 端口映射 (Port
> Mapping: -p 3000:8080):将 WebUI 暴露在本地机器的 3000 端口上。
> 要启用 Nvidia GPU 支持,在 docker run 命令中添加 --gpus all

docker run -d -p 3000:8080 --gpus all -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:cuda

# 如果是其他源拉取的镜像最好先给镜像改个名,以上述拉取的源为例拉取后镜像名字为:swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui

镜像名更改方法

# 获取镜像id
docker images
swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui   v0.5.9     f5ceaaf2e610   4 weeks ago     4.27GB
# 更改镜像名
docker tag f5ceaaf2e610 openwebui

docker images
openwebui  latest f5ceaaf2e610   4 weeks ago     4.27GB

镜像名更改成功后,在启动镜像时就需要用新的镜像名例如:

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name  open-webui openwebui
#出现以下内容则是镜像启动成功,实际情况返回的字符串不一样,如果启动失败则返回其他内容
1c35257286eb1b3cfacc4dc354122b76a6835cc558234b264c1e26467ff32f28

pip安装

#pip安装open-webui
pip install open-webui
#开启open-webui服务
open-webui serve

手动安装

curl -LsSf https://astral.sh/uv/install.sh | sh
# 更改DATA_DIR为你的实际路径以保护你的数据
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

open-webui使用

启动成功后,在以下地址访问 Open WebUI:

http://localhost:3000

第一次使用需要注册管理员账户,登录成功后点击右上角,切换到管理员面板,在设置中选择外部连接,修改ollama api的接口地址,如果本机部署则使用默认的

http://host.docker.internal:11434

即可,如果是异地部署,则需要填写ollama服务的ip地址和监听端口
如果不使用openai api,可以直接将此选项关闭,可以提高登录时页面的加载速度。
如果本地部署了兼容openai api 的其他模型引擎,例如vllm,可以在此处修改为你的openai api地址

相关文章:

  • 大模型应用开发学习笔记
  • 基于国产芯片的AI引擎技术,打造更安全的算力生态 | 京东零售技术实践
  • 3.2、对称加密算法
  • 实现单点登录的几种方式
  • 哈希查找与深度优先遍历深度解析
  • Qt 进度条与多线程应用、基于 Qt 的文件复制工具开发
  • 使用Kingfisher加载网络图片时使用indicatorType产生布局混乱
  • esp32s3聊天机器人(二)
  • 使用STM32CubeMX实现LED灯每秒闪烁一次(STM32G070CBT6单片机)
  • 深入理解 HTML 元素:构建网页的基础
  • 贪心算法二
  • mosquitto ds笔记250306
  • Linux网络编程
  • Scala:case class(通俗易懂版)
  • 如何禁止电脑中某个应用联网
  • C++ 学生成绩管理系统
  • 腾讯云对象存储服务(COS)
  • 爬虫逆向:脱壳工具ZjDroid的使用详解
  • Oracle数据导入导出小工具(主要用于导入导出小批量含大字段的数据)
  • Linux - 网络套接字
  • 拆分网站开发/网络营销推广方式有哪些
  • 留言板网站怎么做/北京做seo的公司
  • 做普工招聘网站/安卓手机优化软件哪个好
  • 各地好的深圳影视广告/北京网站优化
  • 阿胶在那种网站做推广好/app软件推广怎么做
  • 中国在菲律宾做网站/网站设计公司上海