window 系统 使用ollama + docker + deepseek R1+ Dify 搭建本地个人助手
1. 下载ollama ,官网 下载地址:Download Ollama on macOS,选择 Window
下载完成后,可在终端 使用 ollama --version
2. 下载 本地大模型,这里下载deepseek r1 7b
3.下载Embed模型
Embed模型 是文本工具向量化的核心工具
可在这里https://huggingface.co/spaces/mteb/leaderboard ,查看各个Embed 模型的排名
ollama pull bge-m3
4.最难的就是配置docker
https://github.com/langgenius/dify
进入 github 下载源码
在项目根目录下,复制.env.example文件并重命名为.env
并修改以下配置
规定了每次上传大小限制
修改之后,
进入docker 文件夹下,使用cmd 命令,
然后
docker-compose down
docker-compose up -d
这个时候,可能会报错,具体可参考基于windows 使用 Docker 本地化部署Dify_windows docker dify-CSDN博客
如:
Error response from daemon: Get "https://registry-1.docker.io/v2/": dialing registry-1.docker.io:443 container via direct connection because static system has no HTTPS proxy: connecting to registry-1.docker.io:443: dial tcp 162.220.12.226:443: connectex: No connection could be made because the target machine actively refused it.
可在docker 配置中修改镜像源
5. 搭建RAG 知识库
分别添加大模型和向量化模型,
然后·上传本地知识库
检索方式可选择混合检索
但好像 Dify 不支持 Rerank 模型
然后就可以在工作室中创建自己的应用了
最后可正常使用