当前位置: 首页 > news >正文

【openwebui 搭建本地知识库(RAG搭建本地知识库)】

安装准备

openwebui

这个本地安装之前写过使用python安装。也可以直接用docker 命令

docker run --rm -d \
  -p 3080:8080 \
  -p 3081:8081 \
  -e WEBUI_AUTH=true \
  -e DEFAULT_LOCALE=cn \
  -e GLOBAL_LOG_LEVEL="INFO" \
  -e AIOHTTP_CLIENT_TIMEOUT=100 \
  --privileged=true \
  -v /opt/app/test/ai/ollama/modelfile:/root/modelfile \
  -v /opt/app/test/ai/dev_open-webui_test/ollama:/root/.ollama \
  -v /opt/app/test/ai/dev_open-webui_test/data:/app/backend/data \
  -v /opt/app/test/ai/dev_open-webui_test/open_webui-0.4.8/backend/open_webui:/app/backend/open_webui \
  --name dev_open-webui_test \
  ghcr.io/open-webui/open-webui:ollama
docker logs -f dev_open-webui_test

启动的时候,会因为huggingface加载sententranformer的模型报错,但是应该不影响启动openwebui。
sententranformer是个语义小模型,如果只是使用openwebui与后台的聊天可以忽略这个错误,但是做知识库,而且使用默认的sententranformer进行语义分析,就需要安装
先从别的途径下载这个模型,魔塔等国内资源都可以获取到。

windows下装sententranformer

windows可以直接放到对应目录然后openwebui启动的时候,自动加载,windows目录
C:\Users\用户名.cache\huggingface\hub\models–sentence-transformers–all-MiniLM-L6-v2

linux下装sententranformer

linux的docker安装的话,可以拷贝到可以进入容器查看 环境变量SENTENCE_TRANSFORMERS_HOME配置的位置,我的是在 /app/backend/data ,所以看到docker启动的时候,也挂载了这个目录

配置 语义向量模型

在这里插入图片描述
当然语义模型也可以换其他ollama或者openai接口
当然基础的聊天模型是需要配置好,这个基础
在这里插入图片描述

配置知识库

首页侧边栏,工作空间 -》知识–》+ 增加知识库
在这里插入图片描述
创建知识库
在这里插入图片描述
点击知识库,进入可以点击+ 上传文档,就可以上传知识了。

配置知识库的模型

知识库是基础模型上知识库,还是得进入工作模型-》模型
在这里插入图片描述
选上基础模型 ,添加刚建立的数据库,保存。比如我们保存的模型叫test_model

测试本地知识库

进入对话窗口,模型选择刚才建立的 test_model,然后对话的时候,就会显示如下:
在这里插入图片描述

下面红框会显示从知识库中查出来的内容链接,当然这些内容也会传给后台消息,后台可以总结这些信息做一下输出。

相关文章:

  • 软件测试之测试用例
  • Microsoft Edge “无法更新” 解决办法
  • 学习笔记之车票搜索为什么用Redis而不是ES?
  • 32单片机——LED
  • 通过 Python 爬虫提高股票选股胜率
  • 【教学类-43-26】20240312 数独4宫格的所有可能(图片版 576套样式,空1格-空8格,每套65534张*576小图=3千万张小图)
  • 【web】网页崩溃
  • 【初级篇】如何使用DeepSeek和Dify构建高效的企业级智能客服系统
  • SVT-AV1源码分析函数 svt_av1_cost_coeffs_txb
  • 【Python入门】一篇掌握Python中的字典(创建、访问、修改、字典方法)【详细版】
  • Python使用FastAPI结合Word2vec来向量化200维的语言向量数值
  • Python爬取房天下二手小区数据(2025年3月更)
  • 布达佩斯召开 | 2025年第五届能源与环境工程国际会议(CoEEE 2025)
  • SpringBoot中使用kaptcha生成验证码
  • Spring 中 BeanPostProcessor 的作用和示例
  • Facebook投广告支付操作
  • 04 1个路由器配置一个子网的dhcp服务
  • 电脑实用小工具--VMware常用功能简介
  • 关于重构分析查询界面的思考(未完)
  • 【云馨AI-大模型】RAGFlow功能预览:Dify接入外部知识库RAGFlow指南
  • 广东韶关一镇干部冲进交通事故火海救人,获授“见义勇为”奖励万元
  • 季后赛主场优势消失之谜,这事竟然要赖库里
  • 外交部:中方愿根据当事方意愿,为化解乌克兰危机发挥建设性作用
  • 泽连斯基表示将在土耳其“等候”普京
  • 山东14家城商行中,仅剩枣庄银行年营业收入不足10亿
  • 俄罗斯今日将举行“胜利日”阅兵,有何看点?