当前位置: 首页 > news >正文

【openwebui 搭建本地知识库(RAG搭建本地知识库)】

安装准备

openwebui

这个本地安装之前写过使用python安装。也可以直接用docker 命令

docker run --rm -d \
  -p 3080:8080 \
  -p 3081:8081 \
  -e WEBUI_AUTH=true \
  -e DEFAULT_LOCALE=cn \
  -e GLOBAL_LOG_LEVEL="INFO" \
  -e AIOHTTP_CLIENT_TIMEOUT=100 \
  --privileged=true \
  -v /opt/app/test/ai/ollama/modelfile:/root/modelfile \
  -v /opt/app/test/ai/dev_open-webui_test/ollama:/root/.ollama \
  -v /opt/app/test/ai/dev_open-webui_test/data:/app/backend/data \
  -v /opt/app/test/ai/dev_open-webui_test/open_webui-0.4.8/backend/open_webui:/app/backend/open_webui \
  --name dev_open-webui_test \
  ghcr.io/open-webui/open-webui:ollama
docker logs -f dev_open-webui_test

启动的时候,会因为huggingface加载sententranformer的模型报错,但是应该不影响启动openwebui。
sententranformer是个语义小模型,如果只是使用openwebui与后台的聊天可以忽略这个错误,但是做知识库,而且使用默认的sententranformer进行语义分析,就需要安装
先从别的途径下载这个模型,魔塔等国内资源都可以获取到。

windows下装sententranformer

windows可以直接放到对应目录然后openwebui启动的时候,自动加载,windows目录
C:\Users\用户名.cache\huggingface\hub\models–sentence-transformers–all-MiniLM-L6-v2

linux下装sententranformer

linux的docker安装的话,可以拷贝到可以进入容器查看 环境变量SENTENCE_TRANSFORMERS_HOME配置的位置,我的是在 /app/backend/data ,所以看到docker启动的时候,也挂载了这个目录

配置 语义向量模型

在这里插入图片描述
当然语义模型也可以换其他ollama或者openai接口
当然基础的聊天模型是需要配置好,这个基础
在这里插入图片描述

配置知识库

首页侧边栏,工作空间 -》知识–》+ 增加知识库
在这里插入图片描述
创建知识库
在这里插入图片描述
点击知识库,进入可以点击+ 上传文档,就可以上传知识了。

配置知识库的模型

知识库是基础模型上知识库,还是得进入工作模型-》模型
在这里插入图片描述
选上基础模型 ,添加刚建立的数据库,保存。比如我们保存的模型叫test_model

测试本地知识库

进入对话窗口,模型选择刚才建立的 test_model,然后对话的时候,就会显示如下:
在这里插入图片描述

下面红框会显示从知识库中查出来的内容链接,当然这些内容也会传给后台消息,后台可以总结这些信息做一下输出。

http://www.dtcms.com/a/69567.html

相关文章:

  • 软件测试之测试用例
  • Microsoft Edge “无法更新” 解决办法
  • 学习笔记之车票搜索为什么用Redis而不是ES?
  • 32单片机——LED
  • 通过 Python 爬虫提高股票选股胜率
  • 【教学类-43-26】20240312 数独4宫格的所有可能(图片版 576套样式,空1格-空8格,每套65534张*576小图=3千万张小图)
  • 【web】网页崩溃
  • 【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
  • SVT-AV1源码分析函数 svt_av1_cost_coeffs_txb
  • 【Python入门】一篇掌握Python中的字典(创建、访问、修改、字典方法)【详细版】
  • Python使用FastAPI结合Word2vec来向量化200维的语言向量数值
  • Python爬取房天下二手小区数据(2025年3月更)
  • 布达佩斯召开 | 2025年第五届能源与环境工程国际会议(CoEEE 2025)
  • SpringBoot中使用kaptcha生成验证码
  • Spring 中 BeanPostProcessor 的作用和示例
  • Facebook投广告支付操作
  • 04 1个路由器配置一个子网的dhcp服务
  • 电脑实用小工具--VMware常用功能简介
  • 关于重构分析查询界面的思考(未完)
  • 【云馨AI-大模型】RAGFlow功能预览:Dify接入外部知识库RAGFlow指南
  • iOS 模块化架构设计:主流方案与实现详解
  • 区跨链知识和概念
  • MySQL中的B+树索引经验总结
  • PosterRender 实现微信下程序 分享商品生成海报
  • STM32Cubemx-H7-8-维特科技WT61C-TTL陀螺仪获取XYZ角度
  • 抽象工厂模式的C++实现示例
  • 23天 - 线程和进程有什么区别?进程之间的通信方式有哪些?进程的调度算法你知道吗?
  • uv pip install -r requirements.txt-报错,python版本过低
  • 大数据学习(67)- Flume、Sqoop、Kafka、DataX对比
  • 合并pull request的过程