当前位置: 首页 > wzjs >正文

房产网站流量排名重庆自动seo

房产网站流量排名,重庆自动seo,北京电力建设公司网站,网站建设那里人工智能-WSL-Ubuntu20.04下Docker方式部署DB-GPT 0 环境及说明1 安装相关依赖2 docker下载dbgpt镜像3 下载向量模型6 运行dbgpt容器并指定配置文件7 访问dbgpt 0 环境及说明 环境项说明测试机型号联想拯救者Y9000PWindows版本Windows 11 专业版 23H2Linux版本Ubuntu20.04.6 L…

人工智能-WSL-Ubuntu20.04下Docker方式部署DB-GPT

    • 0 环境及说明
    • 1 安装相关依赖
    • 2 docker下载dbgpt镜像
    • 3 下载向量模型
    • 6 运行dbgpt容器并指定配置文件
    • 7 访问dbgpt

0 环境及说明

环境项说明
测试机型号联想拯救者Y9000P
Windows版本Windows 11 专业版 23H2
Linux版本Ubuntu20.04.6 LTS(基于WSL)
Docker版本28.0.2

当前 hub.docker.com 镜像仓库中的 dbgpt 镜像有一些问题,在使用 docker run 时指定的

  • -e DEEPSEEK_MODEL_VERSION
  • -e DEEPSEEK_MODEL_VERSION
  • -e DEEPSEEK_API_KEY

等参数是无效的,默认容器启动使用的配置文件为dbgpt-proxy-siliconflow.toml,可以通过以下关联命令指定启动容器时使用那个配置文件:

dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml

由于个人电脑GPU算力有限,因此本文是以代理模型方式进行部署。下面介绍一下部署DB-GPT的关键步骤。

1 安装相关依赖

# git大文件下载支持
sudo apt-get install git-lfs

2 docker下载dbgpt镜像

因为需要从 hub.docker.com 镜像仓库中下载镜像,目前需要配置科学上网才能下载。也可以配置docker镜像站下载,比如 毫秒镜像

docker pull eosphorosai/dbgpt:latest

下载后如下图:
在这里插入图片描述

可以看到dbgpt的镜像文件还是很大的。

3 下载向量模型

mkdir -p /opt/dbgpt/data/models
cd /opt/dbgpt/data/models#dbgpt-proxy-deepseek.toml中的默认EMBEDDING_MODEL
git clone https://www.modelscope.cn/BAAI/bge-large-zh-v1.5.git
# 可以改为以下向量模型,需要修改 dbgpt-proxy-deepseek.toml 中向量模型的配置
git clone https://www.modelscope.cn/Jerry0/text2vec-large-chinese.git
# 可以改为以下向量模型,需要修改 dbgpt-proxy-deepseek.toml 中向量模型的配置
git clone https://www.modelscope.cn/AI-ModelScope/m3e-large.git

我下载了bge-large-zh-v1.5和text2vec-large-chinese向量模型,只下载1个就可以,要与后面toml配置文件中向量模型的配置对应。向量模型如下:
在这里插入图片描述## 4 下载配置文件

toml配置文件可以从github或者gitee的DB-GPT项目处获得:

https://github.com/eosphoros-ai/DB-GPT/tree/main/configs
在这里插入图片描述

mkdir -p /opt/dbgpt/configs
# 把下载的toml配置文件放到/opt/dbgpt/configs目录下

把下载的toml配置文件放到/opt/dbgpt/configs目录下

如下图:
在这里插入图片描述## 5 修改配置文件

由于docker运行dbgpt容器时通过以下命令指定采用的配置文件:

  • dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml
    因此我们要对dbgpt-proxy-deepseek.toml配置文件进行修改。如果指定的是dbgpt-proxy-openai.toml,那就修改dbgpt-proxy-openai.toml。

dbgpt-proxy-deepseek.toml的原始内容如下:

[system]
# Load language from environment variable(It is set by the hook)
language = "${env:DBGPT_LANG:-zh}"
api_keys = []
encrypt_key = "your_secret_key"# Server Configurations
[service.web]
host = "0.0.0.0"
port = 5670[service.web.database]
type = "sqlite"
path = "pilot/meta_data/dbgpt.db"
[service.model.worker]
host = "127.0.0.1"[rag.storage]
[rag.storage.vector]
type = "chroma"
persist_path = "pilot/data"# Model Configurations
[models]
[[models.llms]]
name = "deepseek-reasoner"
# name = "deepseek-chat"
provider = "proxy/deepseek"
api_key = "your_deepseek_api_key"[[models.embeddings]]
name = "BAAI/bge-large-zh-v1.5"
provider = "hf"
# If not provided, the model will be downloaded from the Hugging Face model hub
# uncomment the following line to specify the model path in the local file system
# path = "the-model-path-in-the-local-file-system"
path = "models/bge-large-zh-v1.5"

我们主要修改[models]配置节下的[[models.llms]]和[[models.embeddings]]。

  • [[models.llms]](大语言模型) 修改说明:
    • name = “deepseek-reasoner” 表示推理模型,即DeepSeek-R1。
    • name = “deepseek-chat” 表示指令模型,即DeepSeek-V3。
    • api_key = “your_deepseek_api_key”,这是必须要改的,要改为自己在DeepSeek官网申请的api_key。
  • [[models.embeddings]](向量模型)修改说明:
    • name = “BAAI/bge-large-zh-v1.5” 表示向量模型的名称。
    • provider = “hf” 表示模型提供者为huggingface。
    • path = “models/bge-large-zh-v1.5” 表示向量模型文件的路径。

比如把向量模型改为text2vec-large-chinese为例,配置文件修改如下:

[[models.embeddings]]
name = "Jerry0/text2vec-large-chinese"
provider = "hf"
# If not provided, the model will be downloaded from the Hugging Face model hub
# uncomment the following line to specify the model path in the local file system
# path = "the-model-path-in-the-local-file-system"
path = "models/text2vec-large-chinese"

6 运行dbgpt容器并指定配置文件

docker run -d \--restart unless-stopped \--name dbgpt \-p 5670:5670 \-v /opt/dbgpt/configs:/app/configs \-v /opt/dbgpt/data/models:/app/models \-e LOCAL_DB_TYPE=sqlite \-e LOCAL_DB_PATH=data/default_sqlite.db \-e LANGUAGE=zh \eosphorosai/dbgpt:latest \dbgpt start webserver --config /app/configs/dbgpt-proxy-deepseek.toml

参数说明:

  • -p 5670:5670 为端口映射,冒号前面为宿主机的端口,冒号后面为docker容器的端口。
  • -v /opt/dbgpt/configs:/app/configs 为配置文件目录映射。
  • -v /opt/dbgpt/data/models:/app/models 为向量模型目录映射。
  • -e LOCAL_DB_TYPE=sqlite 指定环境变量 LOCAL_DB_TYPE 的值,这里表示本地数据库类型为sqlite。
  • -e LOCAL_DB_PATH=data/default_sqlite.db 指定本地数据库的路径。
  • -e LANGUAGE=zh 指定语言为中文。
  • dbgpt start webserver --config 后面跟具体的toml配置文件路径,设置关联的命令,表示容器启动后会这行这条命令。

可以通过以下命令查看运行日志:

docker logs dbgpt

在这里插入图片描述

可以通过以下命令查看容器运行状态

docker ps

在这里插入图片描述

7 访问dbgpt

容器启动如果没有报错,可以在Windows宿主机浏览器地址栏输入: http://localhost:5679 进行访问,如下图:
在这里插入图片描述
点击 Chat Excel 应用,在对话区域就能看到你采用的大语言模型,如下图:
在这里插入图片描述
也可以直接点击左侧菜单的[在线对话],进行直接对话,如下图:
在这里插入图片描述

http://www.dtcms.com/wzjs/480207.html

相关文章:

  • 网站优化 保定长沙网站推广和优化
  • 做微信图文推送的网站2023新冠结束了吗
  • 做外汇可以参考的网站深圳网络推广外包公司
  • 做网站要怎么找单网络商城应该如何推广
  • 直播网站如何做域名查询注册信息查询
  • 网站建设打造微信加人推码35一单
  • 兰州市城乡建设局网站s104项目seo工具优化软件
  • 美国疫情都是假的抖音seo源码搭建
  • 淘宝装修做代码的网站美区下载的app怎么更新
  • 毕设代做的网站市场营销推广策略
  • 网站建设实习报告范文郑州网站优化顾问
  • 怎么做单位网站竞价推广招聘
  • 龙口建设网站qq群引流推广平台
  • 西安市住房和城乡建设局企业网站优化服务
  • 网站建设需求文档模版怎么样做推广最有效
  • 开发软件网站建设合肥网络推广培训学校
  • 做网站mac网站优化seo教程
  • 修改网站需要什么搜索引擎是网站吗
  • 河北省建设环境备案网站西安网络推广外包公司
  • 建设信基金管理有限公司网站百度网络营销推广
  • 周口网站建设.com站长统计app进入网址新版
  • 网站的营销方式有哪些购物网站有哪些
  • 上海专业网站建设电商seo是什么意思
  • 重庆做网站 哪个好些嘛站长收录平台
  • wordpress 做网站百度问答兼职怎么做
  • wordpress 嵌套评论专业网站优化公司
  • 沈阳做网站优化人工智能教育培训机构排名
  • 江门市住房和城乡建设局门户网站石家庄网络营销网站推广
  • 国内做心理咨询师培训出名的网站外贸网站平台都有哪些
  • 成都企业模版网站建设青岛网站建设策划