华为云Flexus+DeepSeek征文|基于华为云Flexus云服务的Dify一键部署
ModelArts Studio大模型架构
通过一键部署DeepSeek大型模型,开启通往人工智能未来的门户。
ModelArts Studio大模型即服务平台
快速搭建Dify-LLM应用开发平台
使用Flexus云服务器X实例,可以轻松地私有化部署Dify LLM应用开发平台,这样开发者就能快速搭建出可以立即投入使用的生成式AI应用。
搭建导航
部署方案
官方提供了快速搭建Dify-LLM应用开发平台
部署指南
三种部署版本
社区版单机部署:
- 创建一台华为云Flexus云服务器X实例(FlexusX),用于搭建Dify-LLM应用开发平台
- 创建一个弹性公网IP EIP并关联FlexusX实例,提供访问公网和被公网访问能力
- 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护
知识库搜索增强版:
- 创建一台FlexusX实例,用于搭建Dify-LLM应用开发平台
- 创建一台FlexusX实例,用于部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型
- 创建两个弹性公网IP EIP并分别关联两个FlexusX实例,提供访问公网和被公网访问能力
- 创建一个云搜索服务 CSS OpenSearch集群,提供在线分布式搜索及语义搜索等功能
- 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护
CCE容器高可用版:
- 创建三个弹性公网IP EIP,提供访问公网和被公网访问能力
- 创建一个弹性负载均衡 ELB,并绑定EIP,将访问流量自动分发到不同后端服务,扩展应用系统对外的服务能力,实现强大的应用容错性能
- 创建一个NAT网关 NAT,并绑定EIP,配置SNAT规则,提供安全可靠的公网NAT网关和私网NAT网关服务,保护私有网络信息不对外暴露
- 创建三台FlexusX实例,用于安装部署Dify5个核心插件
- 创建一个云容器引擎 CCE Turbo集群,创建节点池并将三台FlexusX实例纳管为集群的Node节点
- 创建一台FlexusX实例,用于部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型
- 使用对象存储服务 OBS,用于将Dify的知识库挂载在对象存储服务 OBS桶上
- 创建一个分布式缓存服务Redis®*版,兼容Redis,为用户提供高性能、低成本NoSQL数据库,同时数据流转过程中数据的一致性
- 创建一个云数据库 RDS for PostgreSQL实例,主备分区部署,具备跨可用区故障容灾的能力
- 创建一个云搜索服务 CSS OpenSearch集群,提供在线分布式搜索及语义搜索等功能
- 创建四个安全组,通过配置安全组规则,为云服务器提供安全防护
一键部署
这里创建单机部署版本体验一下
选择默认的配置就好
下一步需要配置密码
打开回滚设置
创建执行计划
创建完成之后需要找到执行计划列表点击执行按钮
等待一下直到提供success,就成功了。
等待应用下载及部署完毕(约10分钟)后,请在浏览器上输入网址:http://ip/,即可访问Dify-LLM应用开发平台。
访问Dify-LLM应用开发平台
等待应用下载及部署完毕(约5-10分钟)后,输入快速部署步骤10的访问地址,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。
登陆刚才创建的账户
Dify-LLM控制台
创建应用
这里提供了几种应用可以供你选择,单纯的聊天助手或者Agent应用等等
知识库
导入对应的文本或者数据,成为自己独属的知识库,当你跟大模型询问时,知识库可以起到一定的辅助作用。
导入文档知识
导入一篇《电影解说万能公式》文本来测试一下。
导入数据,修改配置
配置模型
需要先配置相关的模型,才能创建应用,否则会提示模型初始化异常。
配置模型的密钥调用对应的服务
配置推理模型的服务
创建聊天助手
生成相关的提示词。
配置好对应的知识库
预览服务
聊天互动
创建Agent应用
配置相关的agent调用的工具,有很多工具可以提供给agent调用
同样的生成相关的提示词
与agent互动
FlexusX成本
FlexusX的一个独特优势在于它支持按需购买的服务模式。这种灵活的购买方式极大地帮助用户控制了成本,避免了一次性投入大量资金的情况。对于许多企业来说,尤其是在初创阶段或预算有限的情况下,能够根据实际需求来调整资源使用量,不仅提高了资金使用的效率,也使得更多类型的企业能够负担得起高质量的服务。此外,随着业务规模的变化,用户还可以轻松地增加或减少服务用量,进一步增强了其灵活性和适应性。总之,通过提供按需购买选项,FlexusX有效地解决了传统方案中常常遇到的成本过高问题,为用户带来了更加经济高效的选择。
非常友好的操作后台
费用成本
如果您选择按月付费的方式,那么对于相同的配置,每月需要支付的费用为561.00元人民币。这种方式适合那些希望灵活控制成本、或者暂时无法一次性支付较长期限费用的用户。相比一次性购买长期服务,虽然按月支付可能会稍微贵一些,但它提供了更高的灵活性和更低的初始投入门槛,使得用户可以根据自己的财务状况或业务需求随时调整订阅计划。
按需付费
这种按需购买的服务模式确实非常实惠,每小时只需要大约1元钱。对于预算有限或者希望灵活控制成本的用户来说,这无疑是一个极具吸引力的选择。它不仅降低了使用门槛,还让用户能够根据自己的实际需求来调整服务使用量,从而达到最优化的成本效益比。无论是个人还是企业用户,都能从中受益,享受到既经济又高效的服务体验。
删除服务
搜索“资源编排 RFS资源栈”
登录资源编排 RFS资源栈,找到该解决方案创建的资源栈,单击资源栈名称右侧“删除”按钮。
总结
Dify-LLM应用开发平台是一个专为配置大规模语言模型(LLM)而设计的强大工具。它不仅提供了接入多种大模型的便捷入口,还允许用户自定义配置知识库,极大地增强了应用或代理(agent)创建过程中的灵活性与多样性。无论是想要构建基于自然语言处理的新产品还是优化现有服务,Dify-LLM都能提供强有力的支持。
该平台的一大亮点在于其成本效益极高的服务器解决方案。采用按需付费模式意味着用户只需为自己实际使用的资源支付费用,这种灵活计费方式大大降低了初次尝试者的入门门槛,使得即便是小型团队或是个人开发者也能轻松负担得起高性能计算资源的成本。
此外,Dify-LLM还特别注重用户体验,通过简化操作流程、提供详尽文档支持以及活跃的技术社区帮助,让即使是不具备深厚技术背景的用户也能够快速上手并开始自己的项目探索之旅。总之,对于那些希望利用最新AI技术来创新或者改进自己业务的人来说,Dify-LLM无疑是一个值得考虑的选择。
引用
方案概述_快速搭建Dify-LLM应用开发平台_AI-华为云