当前位置: 首页 > news >正文

亲测!我是如何用 Anything LLM 等搭建 AI 智能知识库的

以下是本地部署Anything LLM+Ollama+DeepSeek R1打造AI智能知识库的教程:

安装Ollama

  1. 下载Ollama:浏览器进入ollama.com主页,点击页面右上角或中间下端黑底的“Download”。选择对应的系统图标,如Windows用户点击“Download for Windows”下载PC版到本地。
  2. 安装Ollama:下载完成后,点击安装文件,按照安装向导的提示,一路点击“下一步”等按钮完成安装。
  3. 验证安装:在电脑下端任务栏搜索窗口里输入“cmd”,点击“命令提示符”,进入DOS会话界面,输入“ollama -v”,出现版本号说明安装成功。

配置DeepSeek R1模型

  1. 下载DeepSeek R1模型:访问ollama.com网页,点击“Models”,选择合适的DeepSeek R1版本,如普通用户可选择1.5b版本,点击右侧的“复制”按钮。回到DOS对话框,使用“Ctrl + V”粘贴刚才复制的内容,然后回车,开始下载。
  2. 启动模型:在命令行输入“ollama run deepseek-r1:7b”,若没有下载过该模型会直接下载,已下载过则直接启动。

安装Anything LLM

  1. 下载Anything LLM:访问anythingllm.com/desktop,选择适配电脑系统的版本进行下载,如Windows版。
  2. 安装Anything LLM:下载完成后,找到安装文件,双击运行,按照安装向导的提示,一路点击“下一步”等按钮,直至安装完成。

搭建AI智能知识库

  1. 配置Anything LLM参数:点击Anything LLM首页的设置按钮,进入参数配置。LLM模型选择Ollama deepseek r1 7b模型;Embedding首选项选择默认的AnythingLLM Embedder;向量数据库选择默认的Lance DB。其他参数如文本分割大小、文本块重叠等可根据文本实际情况设置。
  2. 新建工作区并上传相关文档:新建工作区,根据用途命名。然后上传构建知识库所需的各种格式文档,如PDF、Word、TXT、PPT、Excel等。点击“Embedding转换”,将文档转换为向量表示并保存。
  3. 和私有知识库进行对话:回到主界面,可看到新建的知识库,新建对话框,即可开始和知识库对话,输入问题,知识库会检索相关信息并生成回答。

相关文章:

  • Java 设计模式之解释器模式
  • UGUI RectTransform的SizeDelta属性
  • ocr智能票据识别系统|自动化票据识别集成方案
  • 深入浅出:CUDA是什么,如何利用它进行高效并行计算
  • 大数据开发治理平台~DataWorks(词汇梳理)
  • Zipkin 和 SkyWalking 区别
  • Qt——静态函数中发送信号方法总结(不需要通过类内部信号与槽实现,关键是清楚你发送的信号源自哪个对象)
  • docker 安装的open-webui链接ollama出现网络错误
  • 股票与比特币投资困境分析及解决方案
  • Open-WebUI官方部署文档
  • 【Git】说说Git中开发测试的使用Git分支Git标签的使用场景
  • 使用Java爬虫获取1688按图搜索商品(拍立淘API接口)
  • 模拟解决哈希表冲突
  • AI大模型零基础学习(6):多模态大模型实战——让AI看懂世界
  • 【Qt】之【Linux】Qt 5.12.8 单独编译 qtvirtualkeyboard 模块源码
  • LangChain实践11-问答
  • 【ISO 14229-1:2023 UDS诊断(ECU复位0x11服务)测试用例CAPL代码全解析⑩】
  • 深入解析iOS视频录制(二):自定义UI的实现
  • 伪装目标检测(Camouflaged Object Detection, COD)教程
  • Spring-GPT智谱清言AI项目(附源码)
  • 杭温高铁、沪苏湖高铁明起推出定期票和计次票,不限车次执行优惠折扣
  • 中国德国商会报告:76%在华德企受美国关税影响,但对华投资战略依然稳固
  • 山东莒县农商银行去年收入、利润下降,资本充足率等指标增长
  • 山东滕州市醉驾交通事故肇事人员已被刑拘
  • 安顺市原副市长、市公安局原局长顾长华任贵州省民委副主任
  • 博裕基金拟收购“全球店王”北京SKP最多45%股权