天津品牌网站设计好游快游app官方网站下载
快速搭建open-webui
文章目录
- 快速搭建open-webui
- 一、下载镜像
- 二、启动容器
- 三、挂载大模型
- 四、一些问题
open-webui足够轻量级
一、下载镜像
国内镜像源：
docker pull ghcr.nju.edu.cn/open-webui/open-webui:main
二、启动容器
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
- 建议加上这个命令参数：-e HF_ENDPOINT=https://hf-mirror.com，不然可能会导致你的容器启动很慢。
三、挂载大模型
这里只说明使用阿里百炼的API方法
- 浏览器打开open-webui服务地址
http://localhost:3000/
- 设置好管理员账户
- 点击右上角头像
- 点击设置
- 点击 + 号
- 配置模型链接，配置好之后会导入阿里百炼的所有模型
- 只填base_url和密钥
- 阿里的base_url：https://dashscope.aliyuncs.com/compatible-mode/v1
四、一些问题
- open-webui的容器在启动的时候，健康检查可能不通过
- 实际上是因为容器启动时间超时，有的要几分钟，有的要十几分钟。
- 这是因为我用的huggingface的国内源，建议启动时加上-e HF_ENDPOINT=https://hf-mirror.com命令参数