Dify+Ollama+QwQ:3步本地部署,开启AI搜索新篇章
如何来评价本地化部署的价值与优势分析:
成本优化与隐私保障
自定义搜索插件,告别信息过载
一键生成报告、分析,效率翻倍!
接下来我们就尝试跟随来部署本地的价值所在!
1:安装Ollama & 部署QwQ模型
1.1 安装Ollama
去官网ollama.com下载windows版,一路next就好。
1.2 拉取QwQ模型(通义千问官方推理模型)
在windows命令行输入ollama run qwq。
ollama run QwQ
QwQ是32B参数的,显存16G以上应该可以流畅运行。
当然也可以安装最新的Qwen3,它有很多不同参数版本,可以找到适合自己电脑配置的版本安装。
1.3安装Docker容器
本地部署Dify要先安装Docker桌面版,跟Ollama一样简单,也是去官网下载对应版本文件,直接安装就OK。
1.4安装Dify
安装 Dify 简单的方式就是git clone,复制其github地址github.com/langgenius/dify,找个文件夹git cloen就好,当然这样需要科学上网。
2:启动Dify,配置Google搜索插件
2.1 启动Dify
命令行进到dify文件夹中的docker目录,将.env.example文件拷贝一个,重命名为.env,然后运行dify启动命令。
cd dify
cd docker
copy .env.example .env
docker compose up -d
稍等一下,它会自动安装一些image
点开docker桌面版会看到容器里有个带绿点的docker就成功了。
点开浏览器,地址栏输入http://localhost/insatll,设置自己本地dify的用户名和密码。
2.2 配置ollama本地模型
点开dify页面右上角的用户图标中的设置。
在模型供应商中选择ollama。
在模型供应商ollama中点添加模型。
注意填写模型名字“qwq”和地址“host.docker.internal:11434”。
成功后显示这样。
2.3 获取谷歌搜索API密钥
-
访问 serpapi.com
-
注册 → 需要邮箱和电话,国内手机就行
-
免费版每月可以进行100次搜索
-
进入后可以看到自己API密钥
2.4 添加Dify的谷歌搜索插件
Dify的插件功能比起繁琐的MCP服务器好用多了,直接在dify页面中插件,搜索google,直接安装并填入刚获得的谷歌搜索API密钥。
成功后会显示已授权。
3:创建Dify Agent代理
3.1 创建Agent
这最后一步反而是最简单的,进入dify页面中工作室,agent菜单,创建空白应用。
在工具中添加谷歌。右上角模型中选qwq。
到此就完成各位看官可以试一下!