华为云Flexus+DeepSeek征文|基于 Dify-LLM 构建网站智能客服助手的实践探索
华为云Flexus+DeepSeek征文|基于 Dify-LLM 构建网站智能客服助手的实践探索
- 前言
- 一、相关名词介绍
- 1.1 华为云Flexus X实例介绍
- 1.2 华为云ModelArts Studio介绍
- 二、本次实践介绍
- 2.1 本次实践环境介绍
- 2.2 Dify-LLM平台介绍
- 三、搭建Dify-LLM开发平台
- 3.1 进入部署详情页
- 3.2 一键部署社区单机版
- 3.3 检查部署结果
- 四、 访问Dify-LLM应用开发平台
- 4.1 访问Dify初始页
- 4.2 访问Dify平台首页
- 五、Dify-LLM平台基本配置工作
- 5.1 开通ModelArts Studio商用服务
- 5.2 创建API key
- 5.3 Dify平台对接MaaS服务
- 六、创建知识库
- 6.1 配置Embedding 模型
- 6.2 创建知识库
- 6.3 知识库配置工作
- 6.4 创建Agent流程
- 6.5 测试对话功能
- 七、配置网站客户助手
- 7.1 选择发布方式
- 7.2 嵌入代码工作
- 7.3 查看效果
- 八、体验与测试
- 8.1 简单提问
- 8.2 关联知识库提问
- 九、快速清空资源
- 十、总结
前言
随着人工智能技术的迅猛发展,基于大语言模型(LLM)的智能客服系统正逐步成为企业提升服务效率与用户体验的重要手段。华为云Flexus与DeepSeek的结合,为企业级AI应用提供了强大算力和高效开发框架支持。本文将探索如何基于Dify平台构建一个具备自主交互能力的网站智能客服助手,助力企业实现智能化转型。
一、相关名词介绍
1.1 华为云Flexus X实例介绍
华为云Flexus云服务器X实例
是新一代面向中小企业和开发者的柔性算力云服务器。它能够智能感知业务负载的变化,自动调整资源配置。这款服务器特别适用于中低负载的应用场景,例如电商直播、企业网站建设、开发测试环境、游戏服务器以及音视频服务等。X实例的设计理念旨在为用户提供更加灵活和高效的计算资源管理方式。通过智能调整,它可以更好地满足不同业务的需求,提高资源利用率。
1.2 华为云ModelArts Studio介绍
ModelArts Studio
是华为云提供的一个大模型即服务平台(MaaS服务),旨在简化模型开发流程,支持定制化大模型的开发,并使这些模型能够无缝集成到业务系统中。通过降低企业AI应用的成本和难度,ModelArts Studio助力企业快速实现AI技术落地。
二、本次实践介绍
2.1 本次实践环境介绍
云厂商 | 实践目标 | 云服务器类型 | 部署方式 | 主要资源清单 |
---|---|---|---|---|
华为云 | 快速搭建 Dify-LLM 应用开发平台 | Flexus 云服务器 X 实例 | 单机一键部署(本地部署) | Flexus X 实例、弹性 IP(EIP)、安全组、VPC、Dify-LLM 应用开发平台 |
2.2 Dify-LLM平台介绍
华为云 Dify-LLM 平台简介:
华为云 Dify-LLM 平台
集成了 Dify 强大的 LLM 应用开发能力,并深度融合华为云基础设施和服务(如弹性云服务器 ECS、对象存储服务 OBS、虚拟私有云 VPC 等),提供开箱即用的 AI 应用开发环境。用户可灵活部署单机版或高可用版本,满足从个人开发者到企业级用户的多样化需求。
华为云 Dify-LLM 平台主要特点:
-
快速部署
支持一键部署单机版或高可用版,显著降低部署门槛和时间成本。 -
无缝集成华为云服务
深度对接华为云ECS、OBS、VPC等服务,实现资源统一管理和高效利用。 -
文档知识库挂载OBS
可将Dify创建的文档知识库直接挂载至华为云OBS桶,便于大规模数据持久化存储与调用。 -
支持多模型接入
提供灵活的模型接入能力,支持多种开源和自定义大语言模型,提升应用适配性。 -
可视化开发界面
提供友好的图形化界面,降低AI应用开发难度,提升开发效率。 -
LLMOps能力集成
内置模型版本管理、监控、日志分析等功能,支持生产级AI应用运维管理。 -
安全可靠
基于华为云完善的安全体系,保障数据传输、存储与访问的安全性与合规性。 -
弹性伸缩
支持根据业务负载自动伸缩资源,提升系统稳定性和资源利用率。 -
开源兼容性强
完全兼容开源 Dify 社区版本,用户可自由迁移、扩展和二次开发。 -
低成本高效能
通过优化资源调度和计费模式,帮助用户在控制成本的同时获得高性能AI开发体验。
三、搭建Dify-LLM开发平台
3.1 进入部署详情页
华为云快速搭建
Dify-LLM应用开发平台
地址:https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html
3.2 一键部署社区单机版
在部署方式中选择“一键部署(社区单机部署)”,点击确认即可开始部署。
创建资源栈—选择模版步骤
:如下所示,相关配置项默认设置即可,点击“下一步”。
创建资源栈—参数设置工作
填写以下参数,大部分参数默认即可,可参考下面的参数说明表。注意将填写
ecs_password
的值,该配置项将设置成华为云 Flexus X 实例的服务器密码。填写完毕后,点击“下一步”。
检查所有配置无误后,在配置确认界面中,单击“创建执行计划”。
可自行修改执行计划名称,这里直接默认名称,点击“确认”。
费用预估
:在开始部署前,我们在执行计划中,可以点击“查看费用明细”,注意保证账户余额充足,防止部署失败。
在执行计划列表中,选择刚才创建的执行计划,点击“部署”。
在弹出窗口中,点击“执行”,确认开始部署。
3.3 检查部署结果
需要等待一段时间进行部署,当在事件描述中,看到“ Apply required resource success. ”提示时候,表示已经部署成功。
四、 访问Dify-LLM应用开发平台
4.1 访问Dify初始页
确保华为云Flexus X实例的安全组规则中,入方向上放行80端口,如下所示:
在我们刚才创建的资源栈输出中,可以看到Dify-LLM应用开发平台的访问地址。
在本地浏览器打开该网址,可以访问到Dify平台初始页。
4.2 访问Dify平台首页
在Dify设置管理员账号页面上,我们自行设置账号密码即可,填写完毕后,点击“设置”。
重新登录Dify平台,输入刚才创建的邮箱账号和密码,完成登录。
五、Dify-LLM平台基本配置工作
5.1 开通ModelArts Studio商用服务
访问 ModelArts Studio 大模型即服务平台后,ModelArts Studio 控制台,登录后进入 模型推理 页面,选择 在线推理 > 预置服务 > 商用服务,在模型列表中找到 DeepSeek-R1-32K,点击“开通服务”以启用该模型,具体操作如下所示:
- ModelArts Studio 大模型即服务平台地址:https://www.huaweicloud.com/product/modelarts/studio.html
在使用说明中,我们选择OpenAI SDK,,复制模型名称和API地址。
5.2 创建API key
我们在ModelArts Studio控制台左侧菜单栏中,单击“API Key管理”,开始创建API key。
填写API key的标签和描述,填写完毕后,确认创建。
复制我们刚才生成的密钥,如下所示:
5.3 Dify平台对接MaaS服务
在 Dify 首页右上角点击用户头像或用户名,从下拉菜单中点击“设置”进入配置页面。
在左侧导航栏选择“模型供应商”,选择OpenAI-API-compatible供应商进行安装。
点击“添加模型”,配置模型信息,参考如下配置:
模型类型
: LLM模型名称
:DeepSeek-R1模型显示名称
:华为云- DeepSeek-R1API Key
: 将刚才创建的API key复制即可API endpoint URL
:https://api.modelarts-maas.com/v1其余默认即可
,点击保存。
在模型列表中,可以看到我们成功添加DeepSeek-R1模型。
六、创建知识库
6.1 配置Embedding 模型
在模型供应商配置中,填入硅基流动的 API Key,然后点击保存即可完成设置。该操作将为后续调用 Embedding 模型提供必要的认证信息。
6.2 创建知识库
在 Dify 平台页面中,我们选择知识库模块,点击“创建知识库”选项。
选择数据源:导入已有文本,上传本地测试文件。这里上传一份《百炼系列手机产品介绍 》的测试文件,点击“下一步”。
6.3 知识库配置工作
在配置知识库时,若无特殊需求,建议选择“高质量”模式并使用默认设置,Embedding 模型选择BAAI/bge-m3。设置完毕后,点击“保存并处理”。
出现以下界面,表示知识库已经创建成功。
6.4 创建Agent流程
在创建空白应用时,可参考以下配置:
- 应用类型:Agent
- 应用名称:智能客服助手
- 描述:基于大语言模型的AI客服解决方案,支持智能化问答与用户交互
配置提示词,可参考以下提示词描述:
你是一个专业的手机销售与客服助手,专注于为用户提供关于手机选购、功能对比、价格咨询、售后服务等问题的帮助。你需要以友好、专业、高效的语气,回答用户在电商平台中关于手机购买的各种疑问。你的主要职责包括:根据用户需求推荐合适的手机型号;
解答关于手机参数、性能、配置的问题;
提供价格、促销活动、保修政策等信息;
协助处理订单相关问题,如发货、退换货流程;
引导用户前往下单页面或联系人工客服处理复杂问题。
请始终保持口语化表达,简洁易懂,避免使用过于技术化的术语,让用户感受到贴心和专业的服务体验。
在聊天助手的编排设置中,我们关联刚才创建的知识库。
点击右下角的【管理】选项,可自定义AI智能客服的开场白,设置界面如下所示:
6.5 测试对话功能
在右侧的调试与预览界面中,进行简单的提问测试,若AI能够成功回应,则表明配置已生效。
七、配置网站客户助手
7.1 选择发布方式
点击右上角 “发布”,在发布方式中选择【嵌入网站】;Dify 提供全屏界面式、悬浮窗式、浏览器插件式三种嵌入方式,此次需嵌入测试网站;考虑到悬浮式是 Agent 常用的嵌入形式,故选择该方式进行操作。
7.2 嵌入代码工作
我们选择悬浮窗式嵌入方式,将界面中提供的代码复制并集成到我们的网站中,以实现灵活便捷的交互体验。
将复制的代码粘贴到网页的
<head>
或<body>
标签中,即可完成嵌入操作。 具体位置可根据实际页面结构和加载需求进行选择。
7.3 查看效果
重新打开测试网站,可以看到右下角已经出现AI客服助手的图标。
八、体验与测试
8.1 简单提问
点击页面右下角的机器人图标,进行简单的提问操作,若能收到正常回复则表明功能运行良好。
8.2 关联知识库提问
通过关联知识库文件进行提问,系统能够准确检索并返回相关内容,展现出良好的响应能力,体现了智能客服助手的实用性与价值。 我们 以“介绍下百炼Flex Fold+屏幕分辨率”为例,系统可基于知识库内容提供专业、精准的解答。
九、快速清空资源
为避免产生不必要的费用,在完成本次实践后,请及时关闭相关资源。进入资源编排服务控制台,找到刚创建的资源栈并点击“删除”按钮,即可一键清理所有关联资源,确保资源使用的成本可控。
十、总结
通过本次实践,我们成功基于华为云 Flexus 应用服务器 搭建了基于 Dify-LLM 的网站智能客服助手,充分验证了华为云在算力性能、网络稳定性以及部署便捷性方面的卓越表现。华为云 Flexus 凭借其灵活的资源配置和高效的云上服务能力,为 LLM 应用提供了坚实的基础支撑,极大提升了部署效率与运行稳定性。🚀
在整个构建过程中,华为云平台提供的可视化管理界面与一站式资源编排服务,让整个流程变得更加高效与可控。借助华为云的强大生态能力,我们不仅快速实现了智能客服的核心功能,还有效控制了资源成本,真正做到了“按需使用、灵活扩展”。💡
✨ 选择华为云,让 AI 赋能更简单、更高效!
🌐 立即体验华为云 Flexus,开启你的智能应用之旅!