当前位置: 首页 > news >正文

华为云Flexus+DeepSeek征文 | 从零开始搭建Dify-LLM应用开发平台:华为云全流程单机部署实战教程

华为云Flexus+DeepSeek征文 | 从零开始搭建Dify-LLM应用开发平台:华为云全流程单机部署实战教程

  • 前言
  • 一、华为云Dify-LLM平台介绍
    • 1. Dify-LLM解决方案简介
    • 2. Dify-LLM解决方案地址
    • 3. Dify-LLM单机架构介绍
    • 4. 预估成本说明
  • 二、华为云Maas平台介绍
    • 1. 华为云ModelArts Studio简介
    • 2. 华为云ModelArts Studio主要特点
    • 3. 华为云ModelArts Studio主要使用场景
  • 三、ModelArts Studio平台开通DeepSeek商用服务
    • 1. 进入ModelArts Studio控制台
    • 2. 开通DeepSeek商用服务
    • 3. 调用说明介绍
    • 4. 保存API信息
  • 四、快速单机部署Dify-LLM平台
    • 1. 账号余额充值
    • 2. 社区单机版一键部署
    • 3. 创建资源栈
    • 4. 执行部署任务
    • 5. 检查部署结果
  • 五、访问Dify-LLM应用开发平台
  • 六、Dify-LLM的基本设置
  • 七、创建聊天助手
    • 1. 创建聊天助手
    • 2. 调试与预览
    • 3. 发布与测试
  • 八、清空云资源
  • 九、总结

前言


在AI技术蓬勃发展的浪潮中,Dify-LLM应用开发平台为开发者带来了无限可能。而华为云凭借强大的技术实力与完善的服务体系,成为了高效搭建该平台的理想之选。本文将从零开始,为你呈现华为云全流程单机部署Dify-LLM应用开发平台的实战教程,助你轻松开启AI应用开发之旅。


一、华为云Dify-LLM平台介绍

1. Dify-LLM解决方案简介

本解决方案旨在帮助用户在 华为云 上快速部署 Dify-LLM 应用开发平台 的单机版本和高可用版本。Dify 是一个开源的大语言模型(LLM)应用开发平台,融合了后端即服务(Backend as Service)与 LLMOps 的理念,支持开发者高效构建生产级生成式 AI 应用。

通过本方案,您可以轻松完成 Dify 平台的部署,并将创建的知识库挂载至 华为云对象存储服务(OBS)桶,实现知识数据的统一管理与持久化存储,适用于从个人学习到企业试点项目的多种场景。

2. Dify-LLM解决方案地址

  • 华为云官网地址:https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html

在这里插入图片描述

3. Dify-LLM单机架构介绍

社区版单机部署适用于测试、演示及轻量级使用场景,具备快速搭建、低成本的优势。其核心架构如下:

  1. Flexus 云服务器 X 实例(FlexusX):作为运行 Dify-LLM 平台的主节点,提供计算资源与运行环境。
  2. 弹性公网 IP(EIP):绑定 FlexusX 实例,实现与公网互通,便于远程访问与调试。
  3. 安全组配置:设置安全组规则,保障云服务器的网络安全,仅开放必要的访问端口。
  4. OBS 对象存储服务(可选):用于挂载 Dify 创建的知识库文件,实现数据的集中管理与长期保存。

在这里插入图片描述

4. 预估成本说明

以下为单机部署模式下的大致费用估算(按需计费):

资源类型单价(人民币)使用说明预估成本(体验期间)
Flexus 云服务器 X 实例0.95 元/小时按小时计费,运行 Dify 平台约 2~3 元
弹性公网 IP(EIP)0.80 元/GB/小时流量按 GB 计费约 1~2 元
总计不超过 5 元

⏱️ 预计耗时:部署约 20 分钟,卸载约 10 分钟
📅 更新日期:2025年6月
🧑‍💻 来源:由华为云官方构建并维护

二、华为云Maas平台介绍

1. 华为云ModelArts Studio简介

华为云ModelArts Studio 是基于 ModelArts 打造的大模型即服务(MaaS)平台,提供一站式的大模型开发、部署与管理能力。它支持从模型定制、推理到工作流编排的全流程应用构建,帮助企业快速实现智能化升级。凭借简单易用的工具链和强大的AI工程化支持,ModelArts Studio 显著降低了大模型应用门槛,助力企业高效落地AI能力。

华为云ModelArts Studio平台官方地址:https://www.huaweicloud.com/product/modelarts/studio.html

在这里插入图片描述

2. 华为云ModelArts Studio主要特点

  • 模型全面:集成Llama、Baichuan、Yi、Qwen、DeepSeek等主流开源大模型,并基于昇腾AI云服务进行性能与精度优化。
  • 免配置、免调优:提供一键式训练、自动超参调优功能,降低模型开发门槛,显著缩短开发周期。
  • 性能优异:通过昇腾算子优化与显存管理,实现大模型训练与推理性能大幅提升。
  • 资源灵活易获取:支持按需开通、弹性扩缩容,保障高性价比的算力使用,同时支持断点续训与故障恢复。
  • 一站式工具链:涵盖模型调优、压缩、评测、部署等全生命周期工具,开箱即用,低门槛上手。
  • 多组件集成能力强:支持LangChain、RAG、Agent、Guard等多种AI组件即插即用,快速构建复杂AI应用系统。

3. 华为云ModelArts Studio主要使用场景

  1. 智能问答系统:基于预训练大模型快速构建知识库驱动的问答系统,提升信息检索效率。
  2. 企业级AI助手开发:利用平台提供的Prompt模板和智能Agent能力,打造能理解任务并自主决策的企业AI助手。
  3. 个性化内容生成:适用于新闻撰写、营销文案、客服回复等内容创作类任务,提升内容生产效率。
  4. 多模态AI应用构建:结合图像、语音、文本等多模态数据,开发智能客服、虚拟主播等综合型AI产品。

三、ModelArts Studio平台开通DeepSeek商用服务

1. 进入ModelArts Studio控制台

访问华为云官网并点击“ModelArts Studio控制台”后,即可直接进入ModelArts Studio控制台,开启我们的AI开发与管理之旅。
在这里插入图片描述

2. 开通DeepSeek商用服务

在ModelArts Studio控制台首页左侧菜单栏中,选择 模型推理 > 在线推理,然后依次选中所需的商用服务模型 —— DeepSeek-R1-0528DeepSeek-V3-32KDeepSeek-R1-32K,点击“开通服务”即可完成配置。

在这里插入图片描述

3. 调用说明介绍

进入 DeepSeek-R1-32K-0528 的调用说明详情页,可以看到提供了 REST APIOpen SDK 两种调用方式。REST API 是基于 HTTP 协议的标准化接口,开发者通过发送 HTTP 请求(如 GET、POST)即可实现与模型的交互,具有良好的跨平台性和灵活性,适合希望自定义请求内容和控制流程的开发者。而 Open SDK 则是封装好的软件开发工具包,通常支持多种编程语言,将底层通信细节透明化,开发者只需调用简单的函数或方法即可完成调用,大大降低了集成难度,提升了开发效率。两者各有优势,开发者可根据项目需求和技术偏好选择合适的接入方式。

在这里插入图片描述

4. 保存API信息

我们以DeepSeek-V3-32K商用服务为例,点击【调用说明】,查看其OpenAI SDK信息。

在这里插入图片描述

将OpenAI SDK信息的接口信息保存在本地,如下所示:
在这里插入图片描述

在 API Key 管理页面中,点击【创建 API Key】按钮,生成所需的 API 密钥。创建完成后,将生成的 API Key 与 OpenAI SDK 的接口信息一并保存,以便后续调用和配置使用。
在这里插入图片描述

四、快速单机部署Dify-LLM平台

1. 账号余额充值

  • 为确保测试过程顺利进行,避免因账户余额不足导致部署中断或失败,请提前确认自己的华为云账户余额不低于 10 元。

  • 华为云充值页面:https://account.huaweicloud.com/usercenter/?region=cn-north-4&locale=zh-cn#/userindex/allview

在这里插入图片描述

2. 社区单机版一键部署

🔧 相关资源与部署方式

  • 华为云解决方案实践
    快速搭建 Dify-LLM 应用开发平台

  • 部署方式选择
    点击进入部署页面,选择 「一键部署(社区版单机部署)」 方式,开始快速搭建 Dify-LLM 应用开发环境。

在这里插入图片描述

3. 创建资源栈

在模板选择步骤中,保持默认配置即可。我们选择现有的模板类型,并将模板来源设置为“URL”,随后在输入框中填入指定地址,作为模板的加载路径。

在这里插入图片描述

在参数配置步骤中,需设置 ecs_password 的值,该字段用于指定华为云 Flexus X 实例服务器的登录密码。其余参数可保持默认配置,确认无误后点击“下一步”。

在这里插入图片描述

在资源栈设置步骤中,若不手动配置权限委托,系统将默认使用当前账号的权限完成部署。本次测试采用主账号操作,因此可直接保留默认配置,点击【下一步】继续。同时,建议开启回滚机制,以便在部署失败时能够自动回退,保障环境稳定与操作安全。

在这里插入图片描述

配置确认:完成参数设置后,对配置内容进行检查,确认无误后生成执行计划,准备部署操作。

在这里插入图片描述

4. 执行部署任务

在刚刚创建的执行计划中,点击【部署】选项,确认启动部署流程。这样即可开始执行已设定的部署计划。

在这里插入图片描述

确认执行后,资源栈将按照计划进行更新,并自动开通模板中定义的各项资源。根据资源的使用情况,可能会产生相应的费用。请确保账户余额充足以避免部署中断。

在这里插入图片描述

5. 检查部署结果

在部署环节,系统将自动触发多元云资源的创建流程,像计算实例、存储集群以及网络链路等组件都会依次生成。由于各类资源的初始化配置存在耗时差异(具体时间受云服务商底层架构和资源规格影响),建议保持耐心等候。

当事件日志界面显示【Apply required resource success】提示时,意味着:

  • 全量必要云资源已完成创建并通过一致性校验
  • 平台微服务架构部署完毕,核心模块进入可运行状态
  • 可开始进行模型接入配置、用户权限初始化等后续操作

注意:若超过常规部署时间(通常5 - 15分钟左右)仍未出现该提示,可按以下步骤排查:

  • 核实云账号是否具备资源创建的管理员权限
  • 检查控制台错误日志,重点关注网络连接超时、资源配额不足等异常类型
  • 联系技术支持团队并提供部署环境日志编号以便快速定位问题

在这里插入图片描述

五、访问Dify-LLM应用开发平台

在执行计划的输出结果中,会显示 Dify-LLM 平台的访问地址。通过这个地址,我们可以直接访问并开始使用新部署的平台。

在这里插入图片描述

在浏览器中打开 Dify 平台地址后,进入注册页面并设置账号密码即可完成注册。若页面无法加载,请检查华为云 Flexus X 实例的安全组配置,确认 80 端口是否已开放访问权限。

在这里插入图片描述

进入Dify 登录页面后,输入之前注册的账号和密码进行登录。确认信息无误后,点击登录按钮即可成功进入平台。

在这里插入图片描述

成功登录账号密码后,将跳转至 Dify 的首页界面。此时可以看到平台的主功能区域和操作入口,表示已成功进入 Dify 应用环境。

在这里插入图片描述

六、Dify-LLM的基本设置

在账户设置区域,点击下方的“设置”选项,进入系统配置界面。在模型供应商列表中,选择 OpenAI-API-compatible 并点击进行安装配置。

在这里插入图片描述

在刚刚添加的 OpenAI-API-compatible 模型供应商页面中,点击【添加模型】按钮。进入模型配置界面,开始设置所需的模型参数。

在这里插入图片描述

在模型配置界面中,可参考以下信息填写各项参数:

  • 模型类型:LLM
  • 模型名称:DeepSeek-V3
  • 模型显示名称:DeepSeek-V3
  • API Key:填写此前创建并保存的 API Key
  • API Endpoint URLhttps://api.modelarts-maas.com/v1

确认信息填写无误后,其余选项保持默认设置,点击【保存】完成配置。

在这里插入图片描述

在这里插入图片描述

七、创建聊天助手

1. 创建聊天助手

返回Dify首页后,我们点击“创建空白应用”开始新建一个应用。
在这里插入图片描述

🧩 空白应用配置参考

在创建空白应用后,可参考以下配置进行设置:

  • 应用类型:选择「聊天助手」

  • 应用名称:华为云客服小助手 💼

  • 应用描述
    华为云客服小助手是一款基于大语言模型(LLM)构建的智能对话机器人。通过简单配置,即可快速搭建一个能够理解用户问题并提供即时响应的对话系统。

    适用于客户服务场景,如解答常见问题、技术支持、客户咨询等,助力企业提升服务效率与用户体验,充分发挥华为云 AI 技术与算力优势。

  • 操作步骤
    完成配置信息填写后,点击【创建】按钮,即可生成您的专属智能客服助手。

在这里插入图片描述

2. 调试与预览

调试与预览界面中,我们提示词可以参考以下:

### 🧾 华为云客服小助手 —— 提示词(Prompt)**角色设定:**你是一个专业的 **华为云客服智能助手**,负责帮助用户解答关于华为云产品与服务的问题。你需要始终保持礼貌、专业、简洁,并基于提供的知识库内容进行回答,避免编造信息或提供不确定的答案。**核心职责:**- 回答用户关于华为云产品功能、使用方法、计费方式等问题  
- 提供常见问题的解决方案  
- 引导用户前往相关页面或联系人工客服处理复杂问题  
- 保持语气友好、清晰,符合企业级客服形象  **行为规范:**- 使用中文进行交流,语句通顺、表达清晰  
- 对于不确定的问题,应如实告知用户“我目前无法提供确切答案,请您联系人工客服或访问华为云官网获取更多信息”  
- 不得虚构数据或功能,回答需基于实际华为云产品文档  
- 遇到投诉或紧急问题时,引导用户拨打官方客服热线或提交工单  **欢迎语示例:**> 您好,我是华为云客服小助手,很高兴为您服务!您可以向我咨询关于华为云产品、账户、计费、使用指南等相关问题。如果我的回答无法满足您的需求,也可以为您转接人工客服。**示例问答引导:**- “如何注册华为云账号?”  
- “华为云服务器的计费方式有哪些?”  
- “如何重置云服务器密码?”  
- “如何开通对象存储服务OBS?”  
- “遇到支付问题该怎么办?”

在对话框中进行简单提问,例如“你是谁?”时,华为云客服小助手能够正常回答并进行自我介绍,这表明 AI 流程配置已成功完成。
在这里插入图片描述

3. 发布与测试

在“发布”页面中,点击“在探索中打开”,即可进入该 AI 助手的独立对话界面,开始与其进行交互。
在这里插入图片描述

在华为云客服小助手的独立对话页面中,我们尝试咨询了多个与华为云相关的问题,小助手均能快速、准确地给出详细解答。其专业的回复内容对学习和理解华为云产品具有显著帮助,同时有效提升了我们的工作效率。

在这里插入图片描述

在这里插入图片描述

八、清空云资源

完成实践操作后,建议及时清理临时开通的云资源,以避免不必要的持续计费。可在资源栈列表中找到对应条目,进行批量删除操作。通过一键删除所有相关资源,确保环境整洁并有效控制成本。

在这里插入图片描述

在这里插入图片描述

九、总结


在本次华为云全流程单机部署Dify-LLM应用开发平台的实战中,华为云展现出了非凡的实力与优势。从部署流程来看,其简洁高效的一键式操作,极大降低了开发门槛,即便是新手开发者也能快速上手,轻松搭建起属于自己的开发平台,大大缩短了开发周期,提高了开发效率。

华为云Flexus云服务器X实例更是为整个部署过程注入了强大动力。它依托先进的擎天QingTian架构与瑶光云脑技术,实现了卓越的算力提升,为复杂的AI应用开发提供了坚实保障;创新的X-Turbo加速技术,显著优化了关键业务应用的性能,让开发者在使用过程中感受到流畅与高效;灵活的算力定制模式,有效降低了成本,帮助开发者以更低的投入获取更高的收益;旗舰级别的可靠性,全方位守护业务稳定运行与数据安全,让开发者无需担忧后顾之忧。华为云,正以其出色的产品与服务,引领着开发者在AI应用开发的道路上稳步前行。


http://www.dtcms.com/a/263345.html

相关文章:

  • FPGA实现CameraLink视频解码转SDI输出,基于LVDS+GTX架构,提供2套工程源码和技术支持
  • 如何让Excel自动帮我们算加减乘除?
  • Python 数据分析与机器学习入门 (一):环境搭建与核心库概览
  • DAY 43 预训练模型
  • RWKV-8 系列之 DeepEmbedAttention:精简 KV 缓存,尤其适合混合模型(RWKV-7s)
  • 创客匠人方法论:从 0 到 1 打造创始人 IP 的实战框架
  • pytorch底层原理学习--PyTorch 架构梳理
  • 3.前端和后端参数不一致,后端接不到数据的解决方案
  • 16014.rtsp推流服务器
  • 详解Kafka如何保证消息可靠性
  • 大语言模型(LLM)笔记
  • YOLOv12_ultralytics-8.3.145_2025_5_27部分代码阅读笔记-instance.py
  • [15-2] 读写内部FLASH读取芯片ID 江协科技学习笔记(20个知识点)
  • MySQL DATETIME 类型时间精度陷阱:一次由毫秒引发的数据“消失”之谜
  • 【Actix Web】Rust Web开发实战:Actix Web框架全面指南(2025企业级应用版)
  • java初学习(-2025.6.30小总结)
  • TCP 三次握手协商 MSS 前,如何确定 MSS 值
  • SQL规范
  • 【软考高项论文】论信息系统项目的范围管理
  • 剑指offer51_数组中数值和下标相等的元素
  • 机器人仿真(1)Ubuntu24.04下CLion的ROS2开发环境配置
  • [ C++ ] | unordered_map 底层实现原理
  • Linux-进程概念(1)
  • 亚马逊,塔吉特采购,测评防砍单封号的养号下单黄金法则
  • 华为云Flexus+DeepSeek征文 | Word办公软件接入华为云ModelArts Studio大模型,实现AI智能办公
  • 【C++指南】C++ list容器完全解读(三):list迭代器的实现与优化
  • Deploy StarRocks with Docker
  • ubuntu源码安装python3.13遇到Could not build the ssl module!解决方法
  • Deepoc 大模型在无人机行业应用效果的方法
  • Python函数参数实例练习--输出信息