当前位置: 首页 > news >正文

Dify+Ollama+QwQ:3步本地部署,开启AI搜索新篇章

如何来评价本地化部署的价值与优势分析:


成本优化与隐私保障

自定义搜索插件,告别信息过载

一键生成报告、分析,效率翻倍!

接下来我们就尝试跟随来部署本地的价值所在!

1:安装Ollama & 部署QwQ模型

1.1 安装Ollama

去官网ollama.com下载windows版,一路next就好。

1.2 拉取QwQ模型(通义千问官方推理模型)

在windows命令行输入ollama run qwq。

 

ollama run QwQ

QwQ是32B参数的,显存16G以上应该可以流畅运行。

当然也可以安装最新的Qwen3,它有很多不同参数版本,可以找到适合自己电脑配置的版本安装。

1.3安装Docker容器

本地部署Dify要先安装Docker桌面版,跟Ollama一样简单,也是去官网下载对应版本文件,直接安装就OK。

1.4安装Dify

安装 Dify 简单的方式就是git clone,复制其github地址github.com/langgenius/dify,找个文件夹git cloen就好,当然这样需要科学上网。

2:启动Dify,配置Google搜索插件

2.1 启动Dify

命令行进到dify文件夹中的docker目录,将.env.example文件拷贝一个,重命名为.env,然后运行dify启动命令。

 

cd dify
cd docker
copy .env.example .env
docker compose up -d

稍等一下,它会自动安装一些image

 

点开docker桌面版会看到容器里有个带绿点的docker就成功了。 

点开浏览器,地址栏输入http://localhost/insatll,设置自己本地dify的用户名和密码。

2.2 配置ollama本地模型

点开dify页面右上角的用户图标中的设置。

在模型供应商中选择ollama。

在模型供应商ollama中点添加模型。

注意填写模型名字“qwq”和地址“host.docker.internal:11434”。

成功后显示这样。

2.3 获取谷歌搜索API密钥

  1. 访问 serpapi.com

  2. 注册 → 需要邮箱和电话,国内手机就行

  3. 免费版每月可以进行100次搜索

  4. 进入后可以看到自己API密钥

2.4 添加Dify的谷歌搜索插件

Dify的插件功能比起繁琐的MCP服务器好用多了,直接在dify页面中插件,搜索google,直接安装并填入刚获得的谷歌搜索API密钥。

成功后会显示已授权。

 3:创建Dify Agent代理

3.1 创建Agent

这最后一步反而是最简单的,进入dify页面中工作室,agent菜单,创建空白应用。

在工具中添加谷歌。右上角模型中选qwq。 

到此就完成各位看官可以试一下! 

 

 

 

http://www.dtcms.com/a/268386.html

相关文章:

  • 1025 反转链表(附详细注释,逻辑分析)
  • 网络调式常用知识
  • 【机器学习笔记Ⅰ】1 机器学习
  • 【拓扑空间】可分性2
  • Spring Boot 集成 Thymeleaf​​ 的快速实现示例,无法渲染页面问题解决
  • 记录一点开发技巧
  • Spring Boot 3.x 整合 Swagger(springdoc-openapi)实现接口文档
  • class类和style内联样式的绑定 + 事件处理 + uniapp创建自定义页面模板
  • React Ref 指南:原理、实现与实践
  • 深度学习篇---Yolov系列
  • 远程桌面启动工具
  • Flutter 每日翻译之 Widget
  • Day53GAN对抗生成网络思想
  • MySQL主从复制与读写分离概述
  • 一文了解PMI、CSPM、软考、、IPMA、PeopleCert和华为项目管理认证
  • Protein FID:AI蛋白质结构生成模型评估新指标
  • Redis-主从复制-分布式系统
  • 算法学习day15----蓝桥杯--进制转换
  • Web攻防-XMLXXE无回显带外SSRF元数据DTD实体OOB盲注文件拓展
  • 大数据Hadoop之——Flink1.17.0安装与使用(非常详细)
  • 桥梁桥拱巡检机器人cad+【4张】设计说明书+绛重+三维图
  • 了解微服务
  • JVM的内存区域划分,类加载器和GC
  • Modbus 与 BACnet 协议互操作:工业协议转换方案(一)
  • JavaSE -- 泛型详细介绍
  • 【机器学习笔记 Ⅱ】2 神经网络中的层
  • HCIA-生成数协议(STP)
  • Debezium日常分享系列之:Debezium管理平台
  • 【Elasticsearch入门到落地】15、DSL排序、分页及高亮
  • golang 协程 如何中断和恢复