当前位置: 首页 > news >正文

Dify使用02-Dify集成Ollama

Dify系列文章

Dify使用01-Dify安装与部署
Dify使用-常见问题及解决方案
Dify使用02-Dify集成Ollama


Dify使用02-Dify集成Ollama

  • Dify系列文章
  • 环境说明
  • 1、Ollama安装及配置
    • 步骤一:下载Ollama
    • 步骤二:Ollama配置远程访问
    • 步骤三:启动Ollama并验证Ollama可访问
  • 2、Dify集成Ollama
    • 步骤一:安装Ollama插件
    • 步骤二:添加Ollama本地模型
      • 进入设置页面
      • 进入ollama添加模型页面
      • 添加Ollama本地模型
    • 3、基于Ollama构建Dify应用
      • 步骤一:创建并发布应用
      • 步骤二:使用应用
    • 常见问题
      • 1、Dify无法访问Ollama
      • 2、Ollama插件添加模型后,Dify页面模型为空

环境说明

编号软件环境说明
1Ollama安装在本机上
2Dify安装在本机WSL的Ubuntu中
3本机Windows11

1、Ollama安装及配置

步骤一:下载Ollama

由于本机只有英特尔集显,因此去魔搭社区下载英特尔优化版Ollama,也可以去Ollama官网下载。

步骤二:Ollama配置远程访问

Ollama默认仅支持本机访问,需通过修改环境变量让其可以远程访问,windows电脑配置方法是在环境变量中新增OLLAMA_HOST,配置的值为0.0.0.0:11434

步骤三:启动Ollama并验证Ollama可访问

启动Ollama后,在浏览器输入本机IP:11434显示Ollama is running则表示Ollama可以远程访问。
在这里插入图片描述
使用Ollama拉取一个qwen3:8b模型,用于后续使用。

2、Dify集成Ollama

步骤一:安装Ollama插件

点击dify插件,然后搜索Ollama,安装Ollama插件即可。
在这里插入图片描述

步骤二:添加Ollama本地模型

进入设置页面

在这里插入图片描述

进入ollama添加模型页面

设置页面,点击模型供应商,即可看到模型列表有Ollama,此时点击ollama添加模型
在这里插入图片描述

添加Ollama本地模型

表单说明如下:

字段说明
模型名称与ollama模型名称相对应,如qwen3:8b
模型类型可选值为LLM(大语言模型)、Text Embedding(文本嵌入模型)、Rerank(重新排序模型)
基础URLOllama的访问地址,为“http://主机IP:11434”
模型类型可选值为对话、补全
模型上下文长度若不清楚就填默认值4096
最大token上限若不清楚就填默认值4096
是否支持 Vision模型支持图片理解则选是,否则选否
是否支持函数调用模型支持选是,否则选否
填写完成后,点击添加,此时ollama下会显示该模型。
在这里插入图片描述

3、基于Ollama构建Dify应用

步骤一:创建并发布应用

进入dify工作室,点击创建空白应用
在这里插入图片描述
配置应用名称描述
在这里插入图片描述
配置应用要调用的模型。
在这里插入图片描述
完成配置后,点击发布

步骤二:使用应用

点击探索,此时工作区就有应用,点击应用即可使用。
在这里插入图片描述

常见问题

1、Dify无法访问Ollama

可参照以下顺序去排查:
(1)未配置OLLAMA_HOST参数,开放Ollama远程访问: 环境变量增加OLLAMA_HOST参数后,重启Ollama;
(2)OLLAMA_HOST参数不生效: Ollama英特尔优化版配置OLLAMA_HOST参数不生效,是因为ollama-serve.bat有设置OLLAMA_HOST,会覆盖系统设置,所以需要修改ollama-serve.bat,改为set OLLAMA_HOST=0.0.0.0:11434
(3)Ollama IP填写错误: Dify通过Docker部署,此时填写127.0.0.1这样的IP,Dify是无法正确识别的,需要填写Ollama所在主机的具体IP地址,Dify才能正确识别。

2、Ollama插件添加模型后,Dify页面模型为空

原因: Dify默认配置对插件安装过程的​​超时限制较短​​,且依赖下载可能因网络问题失败.
解决方法: 进入/dify/docker目录下,修改env文件,改成如下值即可。

PLUGIN_PYTHON_ENV_INIT_TIMEOUT=1200
PLUGIN_MAX_EXECUTION_TIMEOUT=900
# PIP_MIRROR_URL=https://pypi.tuna.tsinghua.edu.cn/simple
PIP_MIRROR_URL=https://pypi.tuna.tsinghua.edu.cn/simple
http://www.dtcms.com/a/577147.html

相关文章:

  • [免费]基于Python的Flask酒店客房管理系统【论文+源码+SQL脚本】
  • LeetCode 219.存在重复元素2
  • 【CS224N】《深度学习自然语言处理》完整版笔记
  • 广东企业网站建设推荐网站做收录
  • XC7Z020-1CLG484I Xilinx AMD FPGA Zynq-7000 SoC
  • 论文分享 | BARD-GS:基于高斯泼溅的模糊感知动态场景重建
  • FPGA—ZYNQ学习spi(六)
  • 多智能体医疗会诊系统
  • ETCD 压力测试脚本
  • kali的下载和安装【ISO安装】
  • 从标签到数据流:BarTender让“可追溯”更简单
  • 零基础学AI大模型之Embedding与LLM大模型对比全解析
  • 7.游戏逆向-pxxx-TUObjectArray分析
  • web214-web220
  • 通州北苑网站建设程序开发的基本步骤是什么?
  • 专题:2025中国制造业出海与出海品牌社媒影响力洞察报告|附300+份报告PDF、数据、绘图模板汇总下载
  • 【 C/C++ 算法】入门动态规划 ----- 简单多状态 dp 问题》打家劫舍 和 股票买卖问题
  • (114页PPT)华为FusionCloud私有云最佳实践RegionTypeII(附下载方式)
  • 赤壁专业建站公司学做卤味视频网站
  • 3d光学轮廓仪如何局部测量标准台阶?
  • 【数据集+完整源码】水稻病害数据集,yolov8水稻病害检测数据集 6715 张,目标检测水稻识别算法实战训推教程
  • 3D Gaussian Splatting:渲染流程
  • 云原生LVS+Keepalived高可用方案(二)
  • IBM VO 面试经验分享|一场更像“聊天”的正式考核
  • 用单位的服务器做网站关键词优化网站
  • C语言基础开发入门系列(八)C语言指针的理解与实战
  • 如何绑定网站域名解析电商网站模板html
  • 【机器视觉通用检测框架】基于VS2019 C#+VisionPro9.0开发的视觉框架软件,全套源码,开箱即用
  • 智慧交通管理新范式 基于深度学习的城市交通车型识别AI监控系统 车型识别 停车场车型分类系统 高速路车型识别算法
  • pnpm 安装依赖后 仍然启动报的问题