当前位置: 首页 > news >正文

deepseek本地部署并搭建个人知识库

学习视频:DeepSeek R1,本地部署才是王道!
超详细!本地部署DeepSeek-R1+搭建专属AI知识库

一、本地部署
1、本地部署AI大模型,推荐使用ollama框架 olla主页
在这里插入图片描述
在这里插入图片描述
下载比较简单,一直点击下一步即可,下载完成后会打开这样的页面在这里插入图片描述
在命令行窗口输入ollama,出现下面信息即为成功
在这里插入图片描述
在ollama官网输入deepseek-R1
在这里插入图片描述
在命令行里输入官网提供的命令即可(这里选择7b还是其它的,是根据自己电脑情况而定)

1.5b 模型,4GB显存就能跑。 7b、8b 模型,8GB显存就能跑。 14b 模型,12GB显存能跑。 32b 模型,24GB显存能跑。

在这里插入图片描述
部署完成后,就可以本地询问问题

具体方式:1、在命令行输入ollama list 可以查看本地大模型;2、在命令行输入ollama run 大模型名字即可进行使用

在这里插入图片描述

二、网页版
1、在chrome应用商店安装page Assist 插件

在这里插入图片描述
2、安装完成后按Ctrl+Shift+L ,即可进入页面,第一次进入,先进行设置
在这里插入图片描述
3、点击RAG设置,选择文本嵌入模型即可,最后点击保存
在这里插入图片描述
4、最后返回聊天页面,选择我们的模型,之后进行对话
在这里插入图片描述
三、定制角色
在这里插入图片描述
在文件对应目录下,在命令行里输入如下图所示命令即可配置成功。
在这里插入图片描述
在这里插入图片描述
四、构建知识库
1、安装词嵌入模型
在这里插入图片描述
点击进去后复制命令到命令行即可
在这里插入图片描述
2、安装Cherry Studio
打开官方网址
在这里插入图片描述
在这里插入图片描述

下载好后直接安装即可
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
3、建立自己的知识库
在这里插入图片描述

ps:如果碰到了如下问题,换个嵌入模型即可

在这里插入图片描述
在这里插入图片描述

点击确定后就完成了自己知识库的构建,可以往里面添加自己的内容,比如文档,pdf等
在这里插入图片描述

在这里插入图片描述
五、在线模型
由于本地模型参数有限,模型性能会受到限制,因此也可以选择接入在线的模型
1、如何接入千问模型
进入阿里云百炼申请个人API Key
在这里插入图片描述
在这里插入图片描述
创建完成后点击查看复制自己的API-key即可
在这里插入图片描述
复制API-key之后,进入cherry stdio,按照步骤复制密钥即可
在这里插入图片描述
点击管理,选择需要的模型添加
在这里插入图片描述
推荐的文本模型和视觉模型如下
在这里插入图片描述
可以选择我们刚才的千问在线模型,同样也可以添加自己的知识库
在这里插入图片描述
2、如何添加豆包模型

ps:记得在过程中关闭vpn哦

具体步骤网址:导入豆包模型

在这里插入图片描述

相关文章:

  • AIP-192 文档
  • ROS2软件架构全面解析-rmw软件框架
  • 使用系统自带的磁盘清理工具清理c盘空间 以及手动删除临时文件
  • leetcode141.环形链表
  • 数据分析中的基线校正算法全解析:原理、实现与应用
  • 什么是Giteki认证?认证流程详解
  • 盾牌图鉴(死亡细胞)
  • Go 语言常见错误——控制结构
  • 前端知识点 --- border-Radius的四个角(css)
  • MSYS2:Windows 开发环境的技术革新
  • react + css 实现 椭圆布局
  • 赛逸展2025年重磅回归,科技盛宴再启新篇
  • Manus的开源替代者之一:OpenManus通用AI智能体框架解析及产品试用
  • MacOS 安装open webui
  • 数据类设计_图片类设计总结(常更新)
  • 快速入手-基于Django-rest-framework的mixins混合类简洁写法(六)
  • 【算法学习计划】贪心算法(上)
  • 单片机 - MSB先发的串行数据收发 知识点整理
  • 华宇TAS应用中间件与晓窗科技智慧校园管理一体化平台完成兼容互认证
  • 有关C++加密和自制简单加密程序。
  • 网站做关键词库的作用/谷歌网站收录提交入口
  • 有没有专门做京东天猫的人才网站/图片识别搜索引擎
  • 怎么自己创建网站免费/沈阳优化网站公司
  • 抓取工具把对手网站的长尾词/百度一下官方网页
  • node 做的大型网站/最近的新闻大事
  • 做qq图片的网站吗/长沙seo招聘