当前位置: 首页 > news >正文

window 系统 使用ollama + docker + deepseek R1+ Dify 搭建本地个人助手

1. 下载ollama ,官网 下载地址:Download Ollama on macOS,选择 Window

下载完成后,可在终端 使用 ollama --version

2. 下载 本地大模型,这里下载deepseek r1 7b

3.下载Embed模型

Embed模型 是文本工具向量化的核心工具

可在这里https://huggingface.co/spaces/mteb/leaderboard ,查看各个Embed 模型的排名


ollama  pull bge-m3

4.最难的就是配置docker

https://github.com/langgenius/dify

进入 github 下载源码

在项目根目录下,复制.env.example文件并重命名为.env

并修改以下配置

规定了每次上传大小限制

修改之后,

进入docker 文件夹下,使用cmd 命令,
然后
docker-compose down
docker-compose up -d

这个时候,可能会报错,具体可参考基于windows 使用 Docker 本地化部署Dify_windows docker dify-CSDN博客

如:

Error response from daemon: Get "https://registry-1.docker.io/v2/": dialing registry-1.docker.io:443 container via direct connection because static system has no HTTPS proxy: connecting to registry-1.docker.io:443: dial tcp 162.220.12.226:443: connectex: No connection could be made because the target machine actively refused it.

可在docker 配置中修改镜像源

5. 搭建RAG 知识库

分别添加大模型和向量化模型,

然后·上传本地知识库

检索方式可选择混合检索

但好像 Dify 不支持 Rerank 模型

然后就可以在工作室中创建自己的应用了

最后可正常使用

相关文章:

  • GZIPOutputStream 类详解
  • GPIO引脚的上拉下拉以及转换速度到底怎么选
  • macbook install chromedriver
  • linux 中inotify与inode的关系是什么?
  • Linux系统编程--基础指令(!!详细讲解+知识拓展)
  • [人机交互]交互设计
  • 物联网mqtt和互联网http协议区别
  • 经典的 Masked + Self-supervised learning 的模型方法
  • “Copy-On-Write” (COW)
  • 基于思考过程评价的心理问题咨询对话记性评估
  • 端口(Port)
  • 【Java ee初阶】多线程(5)
  • 提示词压缩方法总结与开源工具包
  • 1. 设计哲学:让字面量“活”起来,提升表达力和安全性
  • Spring Boot 加载application.properties或application.yml配置文件的位置顺序。
  • Nacos源码—3.Nacos集群高可用分析一
  • Nuxt3还能用吗?
  • Jetpack Compose 响应式布局实战:BoxWithConstraints 完全指南
  • Java IO流核心处理方式详解
  • 【Bootstrap V4系列】学习入门教程之 组件-卡片(Card)
  • 贵州黔西市游船倾覆事故最后一名失联人员被找到,但已无生命体征
  • 马斯克的“星舰基地”成为新城镇,首任市长为SpaceX员工
  • 《开始推理吧3》:演员没包袱,推理更共情
  • 热点问答|澳大利亚联邦选举结果有何看点
  • 力保夏粮丰收,粮食大省江苏多地党政主官到田间察看小麦长势
  • 韩国法院将重审李在明案,韩德洙入局能否为大选带来变数?