MIAOYUN参编信通院《大模型API服务性能测试标准》
近日,成都元来云志科技有限公司(简称“MIAOYUN”)凭借在云原生及AI领域的技术积累和实践经验,积极参与制定《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》(AIIA/T 0221-2025)行业标准,获得由人工智能关键技术和应用评测重点实验室颁发的参编单位证书。
该标准由中国信息通信研究院(CAICT)牵头,依托中国人工智能产业发展联盟(AIIA)模型服务(MaaS)工作组,联合30余家行业领先企业共同编制,旨在规范大模型API服务的性能评估体系,推动AI技术的标准化与高质量发展。
此次参与标准编制,MIAOYUN结合自身在云原生架构优化、系统管理及在大模型技术上的深入探索等方面的实践经验,为大模型API服务的性能测试方法提供了创新性建议。
标准发布推动AI产业规范化发展
《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准面向大模型API服务,规范了性能测试的软、硬件环境要求,提出了关键性能测试指标及计算方法,多种测试类型及测试场景,并明确了性能测试过程中的测试数据集选择原则和系统资源监控范围,为大模型API服务性能测试流程设计、数据集选择、性能指标计算方式和评价维度进行了规范。
该标准的落地,一方面能够为大模型服务提供方,提供大模型API服务性能提升和优化的依据;另一方面也为大模型服务应用方,提供衡量和选择服务的参考,助力企业更高效地部署和优化AI应用。