人工智能-群晖Docker部署DB-GPT
人工智能-群晖Docker部署DB-GPT
-
- 0 环境及说明
- 1 获取dbgpt的docker镜像
- 2 下载向量模型
- 3 下载配置文件
- 4 修改配置文件
- 5 创建dbgpt容器并运行
- 6 访问dbgpt
0 环境及说明
| 环境项 | 说明 |
|---|---|
| DSM版本 | DSM 7.2.1-69057 update 3 |
| Container Manager版本 | 24.0.2-1535 |
当前 hub.docker.com 镜像仓库中的 dbgpt 镜像有一些问题，在使用 docker run 时指定的
- -e DEEPSEEK_MODEL_VERSION
- -e DEEPSEEK_MODEL_VERSION
- -e DEEPSEEK_API_KEY
等参数是无效的，默认容器启动使用的配置文件为dbgpt-proxy-siliconflow.toml，可以通过以下关联命令指定启动容器时使用那个配置文件：
dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml
由于群晖NAS没有单独的GPU算力，因此本文是以代理模型方式进行部署。下面介绍一下部署DB-GPT的关键步骤。
1 获取dbgpt的docker镜像
由于网络问题，群晖系统中Container Manager的Docker官方镜像仓库是访问不了的，可以添加一个国内代理镜像站，比如 毫秒镜像，如下图：
然后选中，使用这个镜像仓库，如下图：
关闭镜像仓库设置，然后在，搜索框中输入dbgpt，就可以看到对应的镜像，如下图：
选中这个镜像下载就可以，下载完毕后，就可以在Container Manager中的映像列表中看到它了，如下图：
说明
由于同步周期的问题，毫秒镜像中的docker镜像不一定是最新的，这种情况可以考虑现在个人电脑本地docker环境中通过科学上网的方式从docker官方镜像仓库获取最新的dbgpt镜像。