当前位置： 首页 > news >正文

dify部署，ollama部署，拉取模型，创建ai聊天应用

news 来源：原创 2025/5/14 8:41:33

dify下载安装

dify1.0.1 windos安装包百度云盘地址

通过网盘分享的文件：dify-1.0.1.zip

链接: 百度网盘 请输入提取码 提取码: 1234

dify安装包 linux安装包百度云盘地址

通过网盘分享的文件：dify-1.0.1.tar.gz

链接: 百度网盘 请输入提取码 提取码: 1234

1.安装docker

  • 安装必要的依赖包
sudo yum install -y yum-utils \
  device-mapper-persistent-data \
  lvm2

如这一步报错“Could not retrieve mirrorlist http://mirrorlist.centos.org/?release=7&arch=x86_64&repo=os&infra=stock error was

14: curl#6 - "Could not resolve host: mirrorlist.centos.org; Unknown error"

可如下修改切换国内镜像源

#备份原有仓库配置：
sudo mkdir -p /etc/yum.repos.d/backup
sudo mv /etc/yum.repos.d/CentOS-*.repo /etc/yum.repos.d/backup/

#下载阿里云镜像配置
sudo curl -o /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
#更新缓存
sudo yum clean all
sudo yum makecache
  • 设置docker软件源
# 设置docker镜像源
yum-config-manager \
    --add-repo \
    https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
    
sed -i 's/download.docker.com/mirrors.aliyun.com\/docker-ce/g' /etc/yum.repos.d/docker-ce.repo

yum makecache fast
  • 安装Docker引擎
yum install -y docker-ce
  • 配置镜像加速

新建/etc/docker/daemon.json 文件，写入如下内容

{
    "registry-mirrors": [
        "https://docker.m.daocloud.io",
        "https://dockerproxy.com",
        "https://docker.mirrors.ustc.edu.cn",
        "https://docker.nju.edu.cn",
        "https://iju9kaj2.mirror.aliyuncs.com",
        "http://hub-mirror.c.163.com",
        "https://cr.console.aliyun.com",
        "https://hub.docker.com",
        "http://mirrors.ustc.edu.cn"
    ]
}
  • 启动docker

注意一定要关闭防火墙,修改镜像加速后记得重启docker

# 关闭防火墙
systemctl stop firewalld
# 禁止开机启动防火墙
systemctl disable firewalld

# 启动docker服务
systemctl start docker

# 停止docker服务
systemctl stop docker  
# 重启docker服务
systemctl restart docker 

#查看docker版本
docker -v
  • 拉取镜像测试
#拉取镜像
docker pull nginx

#查看镜像
docker images

 2.安装docker-compose

Linux 通过命令下载：

# 安装
curl -L https://github.com/docker/compose/releases/download/1.23.1/docker-compose-`uname -s`-`uname -m` > /usr/local/bin/docker-compose

如下载失败或很慢。可从百度云盘下载，手动安装

可使用网盘分享的文件：docker-compose-Linux-x86_64

链接: 百度网盘 请输入提取码 提取码: 1234

上传到服务器后执行如下命令：

mv docker-compose-Linux-x86_64 docker-compose
mv docker-compose /usr/local/bin/docker-compose

修改文件权限

#添加可执行权限
chmod +x /usr/local/bin/docker-compose

Bash自动补全命令

#补全命令
curl -L https://raw.githubusercontent.com/docker/compose/1.29.1/contrib/completion/bash/docker-compose > /etc/bash_completion.d/docker-compose

如果这里出现错误，需要修改自己的hosts文件：

echo "199.232.68.133 raw.githubusercontent.com" >> /etc/hosts

查看docker-compose版本

docker-compose version

 

3.进入dify docker文件夹,执行命令

#新建目录文件dify
#将dify安装包文件上传至新建目录
#解压文件
tar -zxvf dify-1.0.0.tar.gz
#进入docker文件夹，执行命令
cd docker
docker compose up -d

4.访问ip地址,默认80端口

默认会是填写邮箱，以及设置用户名和密码界面->登录

ollama下载安装-设置镜像加速方式

1.下载安装脚本

curl -fsSL https://ollama.com/install.sh -o ollama_install.sh

2.修改下载源，加速下载

sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh

3.新增可执行文件

chmod +x ollama_install.sh

4.执行sh下载安装

sh ollama_install.sh

如这里还是下载很慢，不能接受，看下个方式通过百度网盘下载安装包，手动安装。

5.启动服务

#设置开机自启
systemctl enable ollama
#查看ollama 服务状态
systemctl status ollama
#启动ollama服务
systemctl start ollama

如命令执行失败：Failed to execute operation: No such file or directory

则按照如下方式解决

#创建服务文件
vi /etc/systemd/system/ollama.service
写入如下内容
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/usr/local/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

#注意上面的ExecStart的值需要修改为你的/bin/ollama 的路径

生效服务命令行

systemctl daemon-reload

服务自启动

systemctl enable ollama

启动服务

systemctl start ollama

再次查看是否安装成功

ollama -v

ollama下载linux安装包，手动安装

通过网盘分享的文件：ollama-linux-amd64.tgz

链接: 百度网盘 请输入提取码 提取码: 1234

上传到目录文件后，解压

tar -zxvf ollama-linux-amd64.tgz

进入bin目录，执行./ollama -v

创建ollama.service

#创建服务文件
vi /etc/systemd/system/ollama.service
写入如下内容
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
ExecStart=/opt/software/ollama/bin/ollama serve
User=root
Group=root
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

#注意上面的ExecStart的值需要修改为你的/bin/ollama 的路径

生效服务命令行

systemctl daemon-reload

服务自启动

systemctl enable ollama

启动服务

systemctl start ollama

再次查看是否安装成功

./ollama -v

拉取deepseek r1 1.5b模型

./ollama run deepseek-r1:1.5b

注意：刚开始拉取快，后面慢，可多次暂停后在继续拉取，就可以一直快。

就可以输入文字和 deepseek聊天了。

dify关联ollama

进入dify中的docker目录，复制.env.example,修改为.env文件

在.env文件最后新增

#将最后的PIP_MIRROR_URL=注释掉
#PIP_MIRROR_URL=
CUSTOM_MODEL_ENABLED=true
OLLAMA_API_BASE_URL=http://192.168.31.14:11434/

重启dify

docker compose down
docker compose up -d

然后在模型中配置

在Dify的主界面http://localhost/apps,右上角用户名下的设置-》模型供应商

点击安装Ollama

安装后，刷新页面，直到出现下面界面

点击添加模型

输入模型名称： deepseek-r1:1.5b

输入基础URL:

http://192.168.31.14:11434/

点击保存。成功页面

遇到的错误：

刚开始配置的域名，修改为ip后正确。

其他错误：ollama不能被浏览器访问，修改配置，重启。

在[Service]下加上Environment="OLLAMA_HOST=0.0.0.0"即可

vi /etc/systemd/system/ollama.service

#新增
Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin"
Environment="OLLAMA_HOST=0.0.0.0"
wq 报错并退出
#重新加载，重启
systemctl daemon-reload
systemctl restart ollama

dify创建ai聊天应用

开始聊天

相关文章：

  • 神经特征的统计度量及AI拓展
  • uniapp转换markdown
  • MySQL 常见存储引擎全解析：InnoDB、MyISAM、Memory 等对比与实战
  • 随笔 20250413 Elasticsearch 的 term 查询
  • 【UE5 C++课程系列笔记】35——HTTP基础——HTTP客户端异步请求API接口并解析响应的JSON
  • 【redis进阶三】分布式系统之主从复制结构(1)
  • deepseek微调环境配置
  • 如何对大模型进行优化，以提高其性能和效率？
  • 【计网】网络交换技术之分组交换（复习自用，重要1）
  • go语言学习笔记：gin + gorm + mysql 用户增删改查案例入门
  • 【Spring Boot 过滤器】
  • 中断的硬件框架
  • 【题解-洛谷】P2884 [USACO07MAR] Monthly Expense S
  • FreeBSD从14.1升级到14.2后桌面图标消失桌面背景消失且无法设置
  • 4.13日总结
  • 【RL系列】DAPO: An Open-Source LLM Reinforcement Learning System at Scale
  • 【HTTP】：应用层协议HTTP（1）
  • 银河麒麟服务器操作系统V10安装Nvidia显卡驱动和CUDA（L40）并安装ollama运行DeepSeek【开荒存档版】
  • 【中间件】nginx反向代理实操
  • 洛谷刷题小结
  • 北斗专访｜特赞科技范凌：现在AI主要是“说话”，接下来要“干活”了
  • 学习教育期间违规吃喝，李献林、叶金广等人被通报
  • 这个“超强致癌细菌”，宝宝感染率高达40%，预防却很简单
  • A股高开高走：沪指涨0.82%，创指涨2.63%，超4100股收涨
  • 来伊份：已下架涉事批次蜜枣粽产品，消费者可获额外补偿，取得实物后进一步分析
  • 郑州通报“夜市摊贩收取香烟交给城管”：涉事人员停职调查