当前位置: 首页 > news >正文

windows本地AI知识库解决方案( pageassist + nomic + deepseek-r1:1.5b)

想要在windows中配置一个本地AI知识库,要求幻觉少,内存占有少,rag模型和语言模型都用本地的模型生成,下面的操作都是基于windows10进行

目录

  • 第一步 安装ollama
    • 一、下载安装包
    • 二、安装
  • 第二步 安装相关模型
  • 第三步 安装插件
  • 第四步 配置插件
  • 第五步 使用插件

第一步 安装ollama

一、下载安装包

首先需要在windows中安装ollama服务,进入ollama官网下载页面,选择windows安装包即可下载
在这里插入图片描述

二、安装

点击安装包默认install即可安装成功(似乎没有选择自定义安装地址的地方,默认C盘)
不过我们可以把模型放到其他盘,这就需要进行环境变量的设置,具体操作步骤如下:

电脑桌面选择“此电脑” —— 右键 —— 选择“属性” —— 点击页面底下的“高级系统设置”
在这里插入图片描述

点击页面右下角的“环境变量”按钮
在这里插入图片描述

点击“环境变量”页面中“系统变量”的新建按钮
在这里插入图片描述

输入如图内容即可,变量名为:OLLAMA_MODELS;变量值为想要模型存储的位置
在这里插入图片描述

第二步 安装相关模型

win+R快捷键弹出运行框,输入cmd点击确定
在这里插入图片描述

在命令行中输入ollama list不报错就说明安装好了,在运行过程中(图中我是已经安装了很多模型,初始化情况下此列表应该为空)
在这里插入图片描述

执行ollama run deepseek-r1:1.5b就能下载对应的模型了,(具体ollama支持那些模型,可以进入链接页面查看)。
下载完会进入下面的页面,则代表可以对话了
在这里插入图片描述

继续执行ollama run nomic-embed-text:latest,会自动下载此RAG模型,最后会出现如图的报错,这个不用管他
在这里插入图片描述

以上,ollama安装模型就完成了,一共安装了两个模型,一个对话模型 deepseek-r1:1.5b,一个RAG模型 nomic-embed-text:latest

第三步 安装插件

先到本链接下载pageassist插件包 插件压缩包

在本地解压后,记住解压后的地址
在这里插入图片描述

进入到Google浏览器插件管理页面
浏览器右上角 —— 点击“管理拓展程序”
在这里插入图片描述

点击左上角“加载已解压的拓展程序”按钮 —— 选择上一步解压的文件夹
在这里插入图片描述

此时,点击拓展程序中对应的插件,就可以进入到页面
在这里插入图片描述

第四步 配置插件

选择右上角的设置按钮
在这里插入图片描述

需要配置红框中的三个模块
RAG Settings配置RAG模型内容
Ollama Settings配置语言模型内容
Manage Knowledge配置知识库内容
在这里插入图片描述

点击RAG Setting,选择 nomic-embed-text:latest 模型
在这里插入图片描述

点击“save”,【注意save的位置,这个不是页面最下面的save按钮】
在这里插入图片描述

选择Ollama Settings,如图配置,点击save按钮
在这里插入图片描述

选择Manage Knowledge —— 点击右边的Add New Knowledge —— 上传文件 —— 点击submit
注意:这里也可以同时选择多个文件,不过似乎文档库只能创建不能修改,所以创建文档库时相关文件就要全部上传
在这里插入图片描述

这样最基本的配置就完成了,知识库中也传入了一个文档

第五步 使用插件

点击首页左上角的New Chat,点击图中②的地方选择知识库内容
在这里插入图片描述
这样就可以和模型对话啦!生成的效率还得要看电脑配置。
大家有遇到什么问题欢迎留言探讨。

相关文章:

  • 改变 input 自动填充的背景颜色
  • Midjourney绘图参数详解:从基础到高级的全面指南
  • 卫星通信+5G+AI:遨游构建空天地一体化智慧应急通信网络
  • 第六章:响应式设计:让网页「见风使舵」
  • ReentrantLock源码和AQS
  • 【Vela学习】存储系统
  • 用android studio模拟器,模拟安卓手机访问网页,使用Chrome 开发者工具查看控制台信息
  • 全面解析Tomcat:简介、安装与配置指南
  • CentOS7离线部署安装Dify
  • Linux 提权
  • 工业节能新利器:第二类吸收式热泵与MVR热泵深度剖析
  • 【蓝桥】帮派弟位-DFS遍历树
  • 常用工具: kafka,redis
  • 管中窥豹数字预失真(DPD)
  • 尚硅谷TS快速入门笔记(个人笔记用)
  • 【大模型项目NexLM】如何封装多个 LLM(大模型) API 调用
  • maven无法解析插件 org.apache.maven.plugins:maven-jar-plugin:3.4.1
  • 科技快讯 | 中国团队发布通用型AI Agent产品Manus;谷歌安卓原生 Linux Terminal 终端应用上线
  • 平安养老险陕西分公司启动315金融消费者权益保护教育宣传活动
  • OpenHarmony子系统开发 - 编译构建Kconfig可视化配置指导
  • 用meteor框架做的微博网站/优化一下
  • 全国网站开发/樱桃bt磁力天堂
  • 有关做粪污处理设备的企业网站/十大广告公司排名
  • 免费做图片的网站有哪些/网上怎么推广产品
  • 网站备案 域名过期/seo博客网站
  • 如何搭建一个网站/重庆百度推广开户