ubuntu系统 | dify+ollama+deepseek搭建本地应用

1、安装 Ollama

下载并安装 Ollama

(llm) wangqiang@wangqiang:~$ curl -fsSL https://ollama.ai/install.sh | bash
>>> Installing ollama to /usr/local
>>> Downloading Linux amd64 bundle0.3%

curl -fsSL https://ollama.ai/install.sh （下载ollama需要很久）

curl 是一个命令行工具，用于从网络下载数据。这里它下载 Ollama 的安装脚本。

• -f (--fail)：如果 HTTP 请求失败（如 404），静默退出，不显示 HTML 错误页面。

• -s (--silent)：静默模式，不显示进度或错误信息（除非严重错误）。

• -S (--show-error)：与 -s 一起使用时，仍然显示错误信息（如连接失败）。

• -L (--location)：如果 URL 发生重定向（如 301/302），自动跟随新地址。

| bash

|（管道符）将 curl 下载的脚本内容传递给 bash，并立即执行。

检查 Ollama 版本

ollama -v

 启动 Ollama 服务：

ollama serve

卸载Ollama：

ollama uninstall

下载并运行deepseek：

ollama run deepseek-r1:32b

 2、安装docker

ubuntu系统安装docker并进行配置：

1、Ubuntu系统安装docker_docker ubuntu systemctl-CSDN博客

2、ubuntu系统docker介绍及镜像源和仓库配置-CSDN博客

# 安装 Docker Compose
sudo curl -L "https://github.com/docker/compose/releases/download/v2.23.0/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose# 验证安装
docker-compose --version

3、安装 Dify（AI 工作流平台）

克隆 Dify 仓库

# 创建工作目录
mkdir dify && cd dify# 克隆 Dify 代码
git clone https://github.com/langgenius/dify.git
cd dify/docker

配置 Dify

# 复制配置文件模板
cp .env.example .env# 编辑配置文件
nano .env

修改以下关键参数：

# 数据库密码（自定义）
POSTGRES_PASSWORD=your_password# Redis 密码（自定义）
REDIS_PASSWORD=your_password# Ollama 配置（连接本地 Ollama 服务）
OLLAMA_BASE_URL=http://host.docker.internal:11434
OLLAMA_MODEL_NAME=deepseek-r1:7b

启动 Dify 服务

# 启动所有依赖服务（数据库、缓存等）
docker compose up -d db redis weaviate# 启动 Dify 核心服务
docker compose up -d

验证服务状态

# 检查容器运行状态
docker ps

确保以下容器状态为 Up：

• dify-api-1
• dify-web-1
• dify-worker-1

配置 Dify 与 Ollama/DeepSeek 集成

打开浏览器访问：http://localhost

首次使用需注册管理员账户。

4.2 添加模型配置

登录后进入 Settings → Model Provider，添加以下配置：

• Model Type：Local Model (Ollama)
• Base URL：http://host.docker.internal:11434
• Model Name：deepseek-r1:7b

dify官网使用说明文档

https://docs.dify.ai/zh-hans/introduction

五、使用本地知识库

5.1 上传文档

1. 在 Dify 控制台进入 Knowledge Base。
2. 点击 Upload File，支持 PDF、TXT、DOCX 等格式。
3. 上传后，Dify 会自动解析并存储为向量数据库。

5.2 使用 RAG 功能

1. 在 Chat 页面中输入查询。
2. Dify 会结合 DeepSeek 模型和本地知识库内容生成回答。