当前位置: 首页 > news >正文

MIAOYUN参编信通院《大模型API服务性能测试标准》

近日,成都元来云志科技有限公司(简称“MIAOYUN”)凭借在云原生及AI领域的技术积累和实践经验,积极参与制定《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》(AIIA/T 0221-2025)行业标准,获得由人工智能关键技术和应用评测重点实验室颁发的参编单位证书。

图片

该标准由中国信息通信研究院(CAICT)牵头,依托中国人工智能产业发展联盟(AIIA)模型服务(MaaS)工作组,联合30余家行业领先企业共同编制,旨在规范大模型API服务的性能评估体系,推动AI技术的标准化与高质量发展。

此次参与标准编制,MIAOYUN结合自身在云原生架构优化、系统管理及在大模型技术上的深入探索等方面的实践经验,为大模型API服务的性能测试方法提供了创新性建议。

标准发布推动AI产业规范化发展

《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准面向大模型API服务,规范了性能测试的软、硬件环境要求,提出了关键性能测试指标及计算方法,多种测试类型及测试场景,并明确了性能测试过程中的测试数据集选择原则和系统资源监控范围,为大模型API服务性能测试流程设计、数据集选择、性能指标计算方式和评价维度进行了规范。

图片

该标准的落地,一方面能够为大模型服务提供方,提供大模型API服务性能提升和优化的依据;另一方面也为大模型服务应用方,提供衡量和选择服务的参考,助力企业更高效地部署和优化AI应用。

http://www.dtcms.com/a/305034.html

相关文章:

  • 营销活动效果分析与策略优化
  • 【JVM】常见的 Java 垃圾回收算法以及常见的垃圾回收器介绍及选型
  • ARM7微处理器的核心优势
  • Docker入门基础使用
  • 【vue(2)插槽】
  • ZKmall开源商城中台架构实践:API 网关与服务治理如何撑起电商技术骨架
  • vue3实战九、vue3+vue-cropper实现头像修改
  • 【Linux】批量处理多个用户的 sudo 权限问题
  • 【STM32开发】-基础开发笔记(STM32F103,HAL库开发)
  • 【ComfyUI学习笔记04】案例学习:局部重绘 - 上
  • 墨者:XPath注入漏洞实战
  • 第二十五节 MATLAB矩阵的加法和减法、除法(左,右)矩阵
  • Arduino声控RGB矩阵音乐节奏灯DIY全攻略
  • 解密数据结构之二叉树
  • Android11平台下rk3568的ATGM332D定位模块适配
  • 全志T507平台GPIO 控制(二)
  • OpenCV图像算数运算可莉版
  • bash命令创建新conda环境
  • Kubernetes自动扩容方案
  • 力扣-104. 二叉树的最大深度
  • Linux系统的虚拟控制台介绍(桌面卡死的拯救方案)
  • 深入探索爬虫与自动化脚本:释放效率的利器
  • 手写简易Spring框架
  • 万字详解——OSI七层模型:网络通信的完整架构解析
  • mysql 之多表
  • others-Facebook落地页自建归因逻辑
  • 如何快速把Clickhouse数据同步到Mysql
  • 解决百度网盘双击没反应打不开的问题
  • Element Plus常见基础组件(二)
  • 16大工程项目管理系统对比:开源与付费版本