当前位置: 首页 > news >正文

window 系统 使用ollama + docker + deepseek R1+ Dify 搭建本地个人助手

1. 下载ollama ,官网 下载地址:Download Ollama on macOS,选择 Window

下载完成后,可在终端 使用 ollama --version

2. 下载 本地大模型,这里下载deepseek r1 7b

3.下载Embed模型

Embed模型 是文本工具向量化的核心工具

可在这里https://huggingface.co/spaces/mteb/leaderboard ,查看各个Embed 模型的排名


ollama  pull bge-m3

4.最难的就是配置docker

https://github.com/langgenius/dify

进入 github 下载源码

在项目根目录下,复制.env.example文件并重命名为.env

并修改以下配置

规定了每次上传大小限制

修改之后,

进入docker 文件夹下,使用cmd 命令,
然后
docker-compose down
docker-compose up -d

这个时候,可能会报错,具体可参考基于windows 使用 Docker 本地化部署Dify_windows docker dify-CSDN博客

如:

Error response from daemon: Get "https://registry-1.docker.io/v2/": dialing registry-1.docker.io:443 container via direct connection because static system has no HTTPS proxy: connecting to registry-1.docker.io:443: dial tcp 162.220.12.226:443: connectex: No connection could be made because the target machine actively refused it.

可在docker 配置中修改镜像源

5. 搭建RAG 知识库

分别添加大模型和向量化模型,

然后·上传本地知识库

检索方式可选择混合检索

但好像 Dify 不支持 Rerank 模型

然后就可以在工作室中创建自己的应用了

最后可正常使用


文章转载自:
http://axostyle.elldm.cn
http://byre.elldm.cn
http://barnyard.elldm.cn
http://catholicity.elldm.cn
http://armscye.elldm.cn
http://bornholm.elldm.cn
http://bleu.elldm.cn
http://advocate.elldm.cn
http://bedeman.elldm.cn
http://abrupt.elldm.cn
http://aries.elldm.cn
http://chronometrical.elldm.cn
http://carpogonial.elldm.cn
http://carping.elldm.cn
http://advocatory.elldm.cn
http://atalanta.elldm.cn
http://brachydactyly.elldm.cn
http://accomplish.elldm.cn
http://broomie.elldm.cn
http://ameristic.elldm.cn
http://antigone.elldm.cn
http://antevert.elldm.cn
http://brutalism.elldm.cn
http://booze.elldm.cn
http://buttermilk.elldm.cn
http://antineoplaston.elldm.cn
http://centrum.elldm.cn
http://barratrous.elldm.cn
http://analytical.elldm.cn
http://cess.elldm.cn
http://www.dtcms.com/a/172669.html

相关文章:

  • GZIPOutputStream 类详解
  • GPIO引脚的上拉下拉以及转换速度到底怎么选
  • macbook install chromedriver
  • linux 中inotify与inode的关系是什么?
  • Linux系统编程--基础指令(!!详细讲解+知识拓展)
  • [人机交互]交互设计
  • 物联网mqtt和互联网http协议区别
  • 经典的 Masked + Self-supervised learning 的模型方法
  • “Copy-On-Write” (COW)
  • 基于思考过程评价的心理问题咨询对话记性评估
  • 端口(Port)
  • 【Java ee初阶】多线程(5)
  • 提示词压缩方法总结与开源工具包
  • 1. 设计哲学:让字面量“活”起来,提升表达力和安全性
  • Spring Boot 加载application.properties或application.yml配置文件的位置顺序。
  • Nacos源码—3.Nacos集群高可用分析一
  • Nuxt3还能用吗?
  • Jetpack Compose 响应式布局实战:BoxWithConstraints 完全指南
  • Java IO流核心处理方式详解
  • 【Bootstrap V4系列】学习入门教程之 组件-卡片(Card)
  • 因为gromacs必须安装cuda(系统自带的NVIDIA驱动不行),这里介绍下如何安装cuda
  • SpringMVC——第6章:RESTFul编程风格
  • 51c大模型~合集124
  • 【从零开始学习微服务 | 第一篇】单体项目到微服务拆分实践
  • 深入理解 Bash 中的 $‘...‘ 字符串语法糖
  • DXFViewer进行中 : ->封装OpenGL -> 解析DXF直线
  • Compose 中使用 WebView
  • Unity:输入系统(Input System)与持续检测键盘按键(Input.GetKey)
  • win10开了移动热点,手机无法连接,解决办法(chatgpt版)
  • socket,http