当前位置: 首页 > news >正文

华为云Flexus+DeepSeek征文|体验华为云ModelArts快速搭建Dify-LLM应用开发平台并创建联网大模型

华为云Flexus+DeepSeek征文|体验华为云ModelArts快速搭建Dify-LLM应用开发平台并创建联网大模型

什么是华为云ModelArts

  • 华为云ModelArts ModelArts是华为云提供的全流程AI开发平台,覆盖从数据准备到模型部署的全生命周期管理,帮助企业和开发者高效构建、训练、部署AI模型,实现智能化升级。

开始接触华为云ModelArts Studio大模型即服务平台

  • 访问官方地址https://www.huaweicloud.com/product/modelarts/studio.html
    在这里插入图片描述

快速搭建Dify-LLM应用开发平台

什么是Dify-LLM应用开发平台

  • Dify-LLM 应用开发平台是一个基于大型语言模型(LLM)的低代码/无代码开发平台,旨在帮助开发者快速构建、部署和管理基于 AI 的应用程序。它提供了可视化的操作界面和丰富的工具,简化了从模型调用到应用上线的全流程,适合不同技术背景的用户使用。

  • 华为云提供了一键部署快速搭建Dify平台的功能,使开发者可以快速搭建生产级的生成式AI应用

  • 快速搭建的方案架构如下
    在这里插入图片描述

  • 通过VPC与安全组构建安全网络,用户经ELB接入CCE部署的Dify服务集群,结合Embedding与reranker增强AI能力,并依托Redis、PostgreSQL、CSS与OBS实现多样化数据存储与处理,具备高可用、可扩展特性

开始搭建Dify-LLM应用开发平台

  • 先进入官网https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html
    在这里插入图片描述

  • 选择一键部署(云服务器单机部署)
    在这里插入图片描述

  • 这里不做操作直接下一步
    在这里插入图片描述

  • 把密码设置好下一步
    在这里插入图片描述

  • 继续下一步
    在这里插入图片描述

  • 点击创建执行计划
    在这里插入图片描述

  • 可以查看费用,然后点击部署
    在这里插入图片描述

  • 可以看到正在按顺序部署
    在这里插入图片描述

  • 等待服务部署完毕,访问Dify-LLM应用开发平台
    在这里插入图片描述

  • 部署完毕,访问Dify-LLM应用开发平台
    在这里插入图片描述

  • 登录Dify-LLM应用开发平台
    在这里插入图片描述

  • 至此搭建Dify-LLM应用开发平台大功告成,不得不说,华为云一键部署Dify平台真是太方便了,全程不需要怎么操作,全是一键搞定


开始搭建联网大模型

什么是联网大模型

  • 联网大模型是具备实时联网能力的AI,能主动搜索最新资料、调用外部工具(如计算、翻译、API等),并结合自身知识生成更准确、实时的回答,适用于动态信息查询(如新闻、股价、科研进展),避免传统大模型因数据滞后导致的错误。
  • 这里联网工具,我们使用SearXNG。

什么是SearXNG

  • SearXNG 是一款开源的元搜索引擎,它聚合并匿名化地查询多个搜索引擎(如 Google、Bing、DuckDuckGo 等)的结果,然后进行去重、排序并呈现给用户。它是 SearX 的分支(Fork),在原有基础上进行了改进和优化,提供更好的隐私保护和自定义功能。
  • 我们通过dify插件接入SearXNG,实现大模型联网检索。

开始搭建SearXNG

  • 打开dify所在的linux服务器,然后创建文件夹mkdir -p /home/docker/searxng,然后进入文件夹
[root@localhost ~]# mkdir -p /home/docker/searxng
[root@localhost ~]# cd /home/docker/searxng
[root@localhost searxng]# ls
[root@localhost searxng]#
docker run --rm \-d -p 8081:8080 \-v "/home/docker/searxng:/etc/searxng" \-e "BASE_URL=http://localhost:8081/" \-e "INSTANCE_NAME=my-instance" \searxng/searxng
  • 然后使用docker启动searxng, docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
[root@localhost searxng]# docker run --rm -d -p 8081:8080 -v /home/docker/searxng:/etc/searxng searxng/searxng
Unable to find image 'searxng/searxng:latest' locally
latest: Pulling from searxng/searxng
280600057b40: Pull complete 
Digest: sha256:8b7cd3f033ae553d94157216d336eb5e8ab2500476e8048504bc7d5ca3bfbb20
Status: Downloaded newer image for searxng/searxng:latest
b45ba114202256c76bd809f68c87b3447ac652c13571aa15bc5748eed7428ce4
  • 然后去配置文件进行配置,清空原本的配置文件,按我的输入配置
# see https://docs.searxng.org/admin/settings/settings.html#settings-use-default-settings
use_default_settings: true
server:# base_url is defined in the SEARXNG_BASE_URL environment variable, see .env and docker-compose.ymlsecret_key: "6b18c66e1a4b1e778a34784370a54906a090fccca2ad34f627e9aa68c191aeca"limiter: falseimage_proxy: true
ui:static_use_hash: true
redis:url: false
search:formats:- html- json
engines:
# 启用默认禁用的引擎- name: baiduengine: baidudisabled: false- name: 360searchengine: 360searchdisabled: false- name: sogouengine: sogoudisabled: false- name: bingengine: bingdisabled: false- name: bilibiliengine: bilibilidisabled: false# 禁用默认启用的引擎- name: archlinuxwikiengine: archlinuxdisabled: true- name: duckduckgoengine: duckduckgodistabled: true- name: githubengine: githubshortcut: ghdisabled: true- name: wikipediaengine: wikipediadisabled: true- name: googleengine: googledisabled: true- name: youtubeengine: youtube_noapidisabled: true- name: duckduckgoengine: duckduckgodisabled: true- name: qwantengine: qwantdisabled: true- name: braveengine: bravedisabled: true- name: startpageengine: startpagedisabled: true
  • 然后重启容器,打开网页,点击左上角的设置
    在这里插入图片描述

  • 然后配置中文与baidu
    在这里插入图片描述

  • 然后点击保存,进行测试,搜索华为云
    在这里插入图片描述

  • 这样SearXNG就部署完毕了

dify平台接入SearXNG

  • 首先登录dify,点击工具,搜索SearXNG进行安装
    在这里插入图片描述

  • 然后点击插件,看到SearXNG安装完毕后,进行配置
    在这里插入图片描述

  • 点击去授权
    在这里插入图片描述

  • 然后输入刚才部署的SearXNG的地址,点击保存
    在这里插入图片描述

  • 这样SearXNG就接入dify了

开始部署联网大模型

  • 创建一个联网大模型的agent
    在这里插入图片描述

  • 然后我们需要调用华为云的DeepSeek-V3-32K模型作为基底大模型

  • 安装dify中的大模型插件,OpenAI-API-compatible
    在这里插入图片描述

  • 等待安装完成
    在这里插入图片描述

  • 设置大模型
    在这里插入图片描述

  • 密钥从华为云中获取
    在这里插入图片描述

  • 进入api-key管理,创建自己的key,用于调用大模型
    在这里插入图片描述

  • 回来继续配置key,注意接口地址是https://api.modelarts-maas.com/v1
    在这里插入图片描述

  • 这样大模型就配置完毕了

  • 然后配置提示词

# 智能搜索与分析助手## 🛠️ 核心技能### 1. 联网搜索(searxng_search)
**触发条件**  
✓ 需要实时信息  
✓ 本地知识不足  
✓ 用户明确要求  **执行规范**  
- 关键词处理:  🔹 严格保持用户原始提问用语(中/英文不变)  🔹 长问题自动提取核心名词短语  
- 结果处理:  │→ 首轮:获取Top 3结果  │→ 次轮(无相关时):扩展至Top 5  └→ 仍无结果:返回`NO_VALID_DATA`  ### 2. 智能分析(webscraper)
**处理流程**  
```mermaid
graph TDA[原始结果] --> B{可信度评估}B -->|高| C[提取正文]B -->|低| D[丢弃]C --> E[去广告/格式化]E --> F[生成结构化摘要]【结论】  
• 核心事实点1  
• 核心事实点2  【元信息】  
来源:example.com  
时效:2024-03-15  
可信评级:⭐️⭐️⭐️⭐

在这里插入图片描述

  • 然后去工具配置插件,searxng_search,webscraper
    在这里插入图片描述

  • 然后点击发布,在预览看一下效果
    在这里插入图片描述

  • 然后点击运行去网页测试
    在这里插入图片描述

  • 可以看到调用了searxng进行联网检索

  • 至此联网大模型就搭建完成了

欢迎大家一起加入华为云

在这里插入图片描述

相关文章:

  • VScode - 我的常用插件01 - 主题插件Noctis
  • 【Css】css修改滚动条的样式
  • flutter基础面试知识汇总(二)
  • HMTL+CSS+JS-新手小白循序渐进案例入门
  • Neo4j 图数据库安装教程(2024最新版)—— Windows / Linux / macOS 全平台指南
  • java生成PDF合并单元格
  • 电路图识图基础知识-电机顺序启动控制电路解析(二十二)
  • 50天50个小项目 (Vue3 + Tailwindcss V4) ✨ | EventKey Codes(键盘码)
  • 滑动窗口最大值和最小值
  • 【靶场】xxe漏洞2
  • 【AI论文精读7】GraphRAG
  • 下载WinLibs时UCRT Runtime和MSVCRT Runtime(针对旧版本Windows)的区别
  • 基于“SpringBoot+uniapp的考研书库微信小程序设计与实现7000字论文
  • Monorepo + PNPM 搭建高效多项目管理
  • 云原生核心技术 (7/12): K8s 核心概念白话解读(上):Pod 和 Deployment 究竟是什么?
  • 深入浅出掌握 Axios(持续更新)
  • 深入解析 Nacos MCP Router:云原生时代的 MCP 服务调度中枢
  • 云原生核心技术 (4/12): Docker 进阶:镜像优化实战与 Docker Compose 揭秘
  • uniapp+vue2+h5图片下载保存,微信浏览器、非微信浏览器
  • spark数据处理练习题番外篇【上】
  • 教务系统网站建设模板下载/西安百度首页优化
  • 关于自己公司的网站怎么做/seo优化排名推广
  • 网站建设进程方案/关键字广告
  • 越秀营销型网站建设/全网优化推广
  • 考虑了软件开发过程中的风险/鹤壁seo推广
  • 为什么招聘网站做不大/墨猴seo排名公司