当前位置： 首页 > news >正文

DeepSeek + dify 搭建本地知识库

news 来源：原创 2025/6/7 19:16:02

环境：linux

下载ollama

Ollama是一个轻量级的大型语言模型（LLM）软件引擎，用于快速部署和运行大型语言模型。它负责模型的加载和服务器端的推理，确保模型能够快速响应请求。

curl -fsSL https://ollama.com/install.sh | sudo bash
sudo usermod -aG ollama $USER# 添加用户权限
sudo systemctl start ollama    # 启动服务

ollama默认只支持localhost访问，如果想要开放外网访问,需要修改/etc/systemd/system/ollama.service，添加环境变量。
如下面的：Environment

/etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434,OLLAMA_ORIGINS=*"
Environment="OLLAMA_ORIGINS=*"
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=/sbin:/bin:/usr/sbin:/usr/bin:/usr/X11R6/bin:/data/db/mysqldb/bin:/usr/local/bin/python3.10:/root/bin"

[Install]
WantedBy=default.target

修改后重启服务：

systemctl daemon-reload
systemctl restart ollama.service

在这里插入图片描述

模型下载与加载

访问https://ollama.com/library/deepseek-r1，默认为 7b 模型，如需其他模型，可以在当前页搜索所需模型
由于是云主机，无GPU，所以下载个最小模型，模型下载需要的时间大概在半个小时左右

/usr/local/bin/ollama run deepseek-r1:1.5b

测试服务
在这里插入图片描述
在这里插入图片描述

下载embed模型

模型名称：nomic-embed-text
/usr/local/bin/ollama pull nomic-embed-text

Dify知识库

为避免运行docker-compose.yaml时各种报错，请确认docker的版本
docker版本要求：
Docker 19.03 or later
Docker Compose 1.28 or later

#下载
git clone https://github.com/langgenius/dify.git
cd dify
cp .env.example .env
拉到镜像并运行，如拉镜像报错，请确保已配置加速源
docker compose pull
docker-compose up -d

Dify默认运行在80端口,首次访问需要初始化设置账号密码
在这里插入图片描述

Dify接入大模型

Dify 是基于大语言模型的 AI 应用开发平台，初次使用时你需要先在点击 Dify 平台右上角头像 -》Dify 的 设置-》 模型供应商 页面内添加并配置所需要的模型。
在这里插入图片描述

选择 Ollama 基础url配置为：http://10.0.0.72:11434/ ，需要修改为你的实际IP

在这里插入图片描述

添加embed模型

在这里插入图片描述

至此，可以开始创建应用，在主页选择 全部 -> 创建空白应用 -> 填入应用信息即可

在这里插入图片描述

配置私有知识库

主页选择 知识库 -> 创建知识库 -> 上传知识 -> 等待处理完成

在这里插入图片描述

知识库索引模式配置与引用embed模型

在这里插入图片描述
使用高质量-全文检索，在测试过程中与提供的知识库内容有较高的符合。

配置应用，上下文使用之前添加的知识库

在这里插入图片描述
在这里插入图片描述
配置完成后，在首页探索-》工作区-》选择之前添加的应用，即可开始使用
在这里插入图片描述

在这里插入图片描述

分享收集的deepseek文档，清华版的deepseek入门到精通，以及北大版的的文档

清华大学DeepSeek教程第一弹：《DeepSeek： 从入门到精通》
清华大学DeepSeek教程第二弹：《DeepSeek如何赋能职场应用》
清华大学DeepSeek教程第三弹：《普通人如何抓住DeepSeek红利》
清华大学DeepSeek教程第四弹：《DeepSeek+DeepResearch让科研像聊天一样简单》
清华大学DeepSeek教程第五弹：《DeepSeek与AI幻觉》
清华大学DeepSeek教程第六弹：《aigc发现研究3.0》
北大1文档-提示词工程和落地场景
北大2文档-DeepSeek与AIGC应用
北大2文档-DeepSeek-R1类强推理模型开发解读

「deepseek文档合集」
链接：https://pan.quark.cn/s/9b4d3ac0cad3

在这里插入图片描述
在这里插入图片描述

相关文章：

  • DifyでOracle Base Database Service(23ai)を利用する設定手順
  • 1114棋盘问题acwing（深度优先搜索）
  • 机器学习的三个基本要素
  • Docker入门指南：Windows下docker配置镜像源加速下载
  • 火山引擎AI一体机-DeepSeek版来了
  • 代码随想录算法【Day60】
  • 数据结构（初阶）（七）----树和二叉树（前中后序遍历）
  • 【2025-03-02】基础算法：二叉树 相同 对称 平衡 右视图
  • 前端控制器模式
  • QT-对象树
  • partner‘127.0.0.1:3200‘ not reached
  • JAVA SE 包装类和泛型
  • ​​“百镜大战”引爆AI眼镜元年：端侧大模型+轻量化设计，2025销量或暴增230%！ ​
  • 开源模型应用落地-工具使用篇-Spring AI（七）
  • 《论云原生架构及其应用》审题技巧 - 系统架构设计师
  • 《认知·策略·跃迁：新能源汽车工程师的深度学习系统构建指南》
  • 报错The default superclass, “jakarta.servlet.http.HttpServlet“（已经配置好tomcat）
  • pipeline状态的变化
  • 【成绩排序，按原顺依次序输出名次，有相同名次】
  • CSDN博客写作教学（四）：标题优化与SEO实战
  • 外国人做中国数学视频网站/太原百度快速优化排名
  • 合肥建网站/手机系统优化软件
  • jsp网站源码 怎么用/白山网络推广
  • 最佳网站/seo发外链的网站
  • 国内吃瓜爆料黑料网曝门/重庆电子商务网站seo
  • 白狐网站建设/一般的电脑培训班要多少钱