软考 系统架构设计师系列知识点之杂项集萃(169)
接前一篇文章:软考 系统架构设计师系列知识点之杂项集萃(168)
第324题
试题三(共25分)
阅读以下关于嵌入式系统架构设计的叙述,回答问题1至问题3。
近年来,AI技术得到快速发展,其技术促使了智能终端软硬架构的全面升级。云端AI和端侧AI最大差别在于算力是在云侧,还是端侧计算的问题。某装备研制企业为了适应产品的智能化升级换代,要求研发部门开展端侧AI技术的研究工作,王工主要承担了智能终端的资源池化设计工作并就资源池的架构设计提出了自己的见解。在研发部门组织的讨论会上,王工的独到见解得到技术主管的认可。
【问题1】(6分)说明云端AI和端侧AI的定义以及端侧AI相比云端AI的优势是什么。
参考答案:
1. 云端AI指人工智能模型的训练和推理过程主要在远程数据中心(云端服务器)上运行。终端设备(如手机App、网页浏览器)主要负责收集数据、通过网络传输到云端、接收并展示云返回的处理结果。
2. 端侧AI指将人工智能模型的推理过程直接在终端设备上运行,无需依赖网络连接将数据传输到远程服务器进行处理。端侧AI的兴起主要是为了解决云端AI模式的一些固有局限,它在特定场景下具有显著优势:
- 低延迟/实时性:数据处理直接在设备上完成,消除了网络传输的往返时间。这对于需要即时响应的应用至关重要。