建设网站大概要花多少钱网站开发工程师项目经验怎么写

1 CUDA简介

• GPU为图形处理器, 也是显卡的“大脑”
• 显卡集成了GPU, 显存和其他电路的硬件
• GPU: 计算密集型
• CPU: 逻辑流控制
• GPU性能指标:
  • 核心数
  • GPU显存容量
  • GPU计算峰值
  • 显存带宽
• GPU不能单独计算, CPU+GPU组成异构计算架构
• CPU起到控制作用, 一般成为主机(Host), GPU可以看作CPU的协处理器, 一般称为设备(Device); 主机和设备之间内存访问一般通过PCle总线链接(速度不快)
• 简言之:CUDA是英伟达写给GPU的“软件语言”, 让GPU变成超级计算机, 那么CUDA怎么工作呢?
  • 硬件基础: CUDA只在英伟达的GPU上跑
  • 软件部分: C/C++加上CUDA语法写代码
  • 并行计算: GPU有几千个小核心, 每个核心干一小块活
• 2006年, NVIDIA(英伟达)公司发布CUDA（Compute Unified Device Architecture, 统一计算设备架构, 也就是说CUDA是NVIDIA开发的一种“超级工具”,让GPU可以做更多的事情, 比如跑复杂的计算任务, AI训练等）, CUDA建立在NVIDIA的CPU上的一个通用并行计算平台和编程模型
• CUDA旨在支持各种语言和应用编程接口，最初基于C语言，目前支持Ｃ＋＋，python等语言(本篇笔记使用C++)
• CUDA提供两层API接口，CUDA驱动（driver）API和CUDA运行时(runtime)API, 两种API调用性能几乎无差异