当前位置: 首页 > wzjs >正文

建设银行发卡银行网站成都网站建设推

建设银行发卡银行网站,成都网站建设推,电商网站硬件配置,网站建设类公司排名想要在windows中配置一个本地AI知识库,要求幻觉少,内存占有少,rag模型和语言模型都用本地的模型生成,下面的操作都是基于windows10进行 目录 第一步 安装ollama一、下载安装包二、安装 第二步 安装相关模型第三步 安装插件第四步 …

想要在windows中配置一个本地AI知识库,要求幻觉少,内存占有少,rag模型和语言模型都用本地的模型生成,下面的操作都是基于windows10进行

目录

  • 第一步 安装ollama
    • 一、下载安装包
    • 二、安装
  • 第二步 安装相关模型
  • 第三步 安装插件
  • 第四步 配置插件
  • 第五步 使用插件

第一步 安装ollama

一、下载安装包

首先需要在windows中安装ollama服务,进入ollama官网下载页面,选择windows安装包即可下载
在这里插入图片描述

二、安装

点击安装包默认install即可安装成功(似乎没有选择自定义安装地址的地方,默认C盘)
不过我们可以把模型放到其他盘,这就需要进行环境变量的设置,具体操作步骤如下:

电脑桌面选择“此电脑” —— 右键 —— 选择“属性” —— 点击页面底下的“高级系统设置”
在这里插入图片描述

点击页面右下角的“环境变量”按钮
在这里插入图片描述

点击“环境变量”页面中“系统变量”的新建按钮
在这里插入图片描述

输入如图内容即可,变量名为:OLLAMA_MODELS;变量值为想要模型存储的位置
在这里插入图片描述

第二步 安装相关模型

win+R快捷键弹出运行框,输入cmd点击确定
在这里插入图片描述

在命令行中输入ollama list不报错就说明安装好了,在运行过程中(图中我是已经安装了很多模型,初始化情况下此列表应该为空)
在这里插入图片描述

执行ollama run deepseek-r1:1.5b就能下载对应的模型了,(具体ollama支持那些模型,可以进入链接页面查看)。
下载完会进入下面的页面,则代表可以对话了
在这里插入图片描述

继续执行ollama run nomic-embed-text:latest,会自动下载此RAG模型,最后会出现如图的报错,这个不用管他
在这里插入图片描述

以上,ollama安装模型就完成了,一共安装了两个模型,一个对话模型 deepseek-r1:1.5b,一个RAG模型 nomic-embed-text:latest

第三步 安装插件

先到本链接下载pageassist插件包 插件压缩包

在本地解压后,记住解压后的地址
在这里插入图片描述

进入到Google浏览器插件管理页面
浏览器右上角 —— 点击“管理拓展程序”
在这里插入图片描述

点击左上角“加载已解压的拓展程序”按钮 —— 选择上一步解压的文件夹
在这里插入图片描述

此时,点击拓展程序中对应的插件,就可以进入到页面
在这里插入图片描述

第四步 配置插件

选择右上角的设置按钮
在这里插入图片描述

需要配置红框中的三个模块
RAG Settings配置RAG模型内容
Ollama Settings配置语言模型内容
Manage Knowledge配置知识库内容
在这里插入图片描述

点击RAG Setting,选择 nomic-embed-text:latest 模型
在这里插入图片描述

点击“save”,【注意save的位置,这个不是页面最下面的save按钮】
在这里插入图片描述

选择Ollama Settings,如图配置,点击save按钮
在这里插入图片描述

选择Manage Knowledge —— 点击右边的Add New Knowledge —— 上传文件 —— 点击submit
注意:这里也可以同时选择多个文件,不过似乎文档库只能创建不能修改,所以创建文档库时相关文件就要全部上传
在这里插入图片描述

这样最基本的配置就完成了,知识库中也传入了一个文档

第五步 使用插件

点击首页左上角的New Chat,点击图中②的地方选择知识库内容
在这里插入图片描述
这样就可以和模型对话啦!生成的效率还得要看电脑配置。
大家有遇到什么问题欢迎留言探讨。

http://www.dtcms.com/wzjs/540379.html

相关文章:

  • 申请备案 关网站龙岗网站建设推广
  • 宏润建设集团网站北京营销型网站建设方案
  • 十堰网站搜索优化价格百度有没有做游戏下载网站
  • 申请网站建设费用的请示去哪个网站做兼职
  • 赤峰公司做网站百度贴吧有没有做网站的人
  • 分析网站示例cms系统开源
  • 青岛市建设网站wordpress 固定链接 404
  • 网站备案之前需要建好网站吗网站跳转微信链接
  • 昆山网站建设多少钱企业年报网上申报系统网址
  • 金华市网站建设公司免费投资办厂
  • 保健品网站dede模板网站生成系统
  • 网站建设简介wordpress cpu飙升
  • 建网站的方法宁波网站关键词
  • 网站建设存在的困难WordPress调用npr电台
  • 徐水区住房和城乡建设局网站云主机可以放几个网站
  • 青岛建网站公司阿里巴巴网官方网站
  • 乐清品牌网站建设wordpress用英文版
  • 网站如何从后台进入wordpress推广链接
  • 景区网站怎么做的做嗳啪啪 网站
  • 网站500兆空间多少钱做一个众筹网站多少钱
  • 电子政务与网站建设 总结想找个专业做网站公司
  • 做个网站要多少钱 一般怎么可以建网站
  • 好的外贸网站特点上线了建站
  • 响水网站建设公司河东手机网站建设
  • 泰安网站建设公司排名捕鱼游戏在哪做网站
  • 柳市做公司网站增城住房和城乡建设局网站
  • c 网站开发的书籍网站开发相关职业岗位
  • 新闻列表做的最好的网站新邱建设网站
  • 银川建网站如何把网站主关键词做到百度首页
  • dede做的网站被植入广告公众号开发专业