当前位置: 首页 > news >正文

在Visual Studio中进行cuda编程

首先下载与CUDA Toolkit匹配的Visual Studio版本

比如我的CUDA Toolkit版本是12.6,那么我可以使用2022的Visual Studio。

查看Toolkit版本

nvcc -V

配置

ok,让我们开始Visual Studio的nvcc编译器配置

参考例文https://github.com/apachecn/succinctly-zh/blob/master/docs/cuda/02.md

(1)头文件包含

这里的路径可以使用如下命令查看

where nvcc

(2)语法颜色

这样可将CU文件的语法颜色同cpp文件

测试

文件结构

//main.cppextern "C" void run_CUDA();int main() {run_CUDA();return 0;
}
//jaxsolver.cu#include <iostream>
#include <cuda.h>          // Main CUDA header
#include <curand_kernel.h>
#include <curand.h>#define N 256__global__ void VecAdd(float* A, float* B, float* C) {int i = threadIdx.x;if (i < N) {C[i] = A[i] + B[i];}
}extern "C" int run_CUDA() {float* h_A, * h_B, * h_C;float* d_A, * d_B, * d_C;size_t size = N * sizeof(float);// 分配主机内存h_A = (float*)malloc(size);h_B = (float*)malloc(size);h_C = (float*)malloc(size);// 初始化主机数据for (int i = 0; i < N; i++) {h_A[i] = i;h_B[i] = i * 2;}// 分配设备内存cudaMalloc((void**)&d_A, size);cudaMalloc((void**)&d_B, size);cudaMalloc((void**)&d_C, size);// 拷贝数据到设备cudaMemcpy(d_A, h_A, size, cudaMemcpyHostToDevice);cudaMemcpy(d_B, h_B, size, cudaMemcpyHostToDevice);// 调用核函数VecAdd <<<1, N >>> (d_A, d_B, d_C);// 拷贝结果回主机cudaMemcpy(h_C, d_C, size, cudaMemcpyDeviceToHost);// 输出部分结果for (int i = 0; i < 10; i++) {std::cout << h_A[i] << " + " << h_B[i] << " = " << h_C[i] << std::endl;}// 清理cudaFree(d_A);cudaFree(d_B);cudaFree(d_C);free(h_A);free(h_B);free(h_C);return 0; 
}

会显示<<<>>>表达 不能识别,但是可以编译

如果不使用extern "C",而是直接使用#include "JaxSolver.cu"中的函数,Visual Studio的C++的编译器会编译cu导致报错,这时会引发错误。

但当我们使用头文件,就不会编译出错误:

将文件结构修改为

//cudaInterface.hint run_CUDA();
//main.cpp#include "cudaInterface.h"int main() {run_CUDA();return 0;
}

这样也可以成功进行编译

那么为什么可以使用头文件的方式进行编译,而不使用头文件则不可行呢?这就要从编译的四个流程讲起:

对于本文的例子,不使用头文件,在预处理阶段会把include<.cu>的内容直接插入cpp文件,然后接下来进入编译阶段的时候,由于使用的是C++的编译器,CUDA语法是不存在的,所以会产生错误而导致编译过程不会进行。

而如果使用了头文件,在预处理阶段插入的是int run_CUDA();,在编译阶段,并没有C++编译器所不能“识别”的语法,编译和汇编的过程就能顺利执行。在链接阶段,nvcc编译器所编译出的.o会与C++编译的共同形成可执行文件。

下面写一下简单写一下nvcc编译的原理

nvcc编译原理

对于整个的编译过程而言,.cu文件会使用nvcc编译器编译,.cpp文件会使用cpp的编译器编译

对于nvcc编译的过程而言,这个编译器到底干了一件什么事?

nvcc编译器本质是一个元编译器,意思是管理各种编译器的编译器。原理是:将CUDA的特定函数,如Kernel函数,也就是本例中的VecAdd,通过__global__ 等关键字“识别”,使用ptxas编译器编译,而其他不能识别出来的则交给系统的C++编译器来编译。

Kernel函数与其他函数不同的是,它使用GPU执行该函数。

本例中Kernel函数的索引int i = threadIdx.x; 形成1个Block中的N个线程  <<<1, N >>>,该Block通过CUDA调度器调度到硬件层。

也可以形成多个Block,有什么需要注意的,这就不再展开。

多说一句

nvcc使用的是C++编译器,而不是C编译器,所以cpp文件可以通过头文件调用cu文件,而c文件不能调用。

所以,cu文件也具备C++的性质,比如函数的重载。众所周知,C语言是不能进行函数重载的,原因就在于C的编译器在链接过程中,不会更改函数的名称,而C++的编译器会更改函数的名称,这就允许了函数重载。

我使用的测试如下:

//JaxSolver.cpp#include <iostream>
#include <cuda.h>          // Main CUDA header
#include <curand_kernel.h>
#include <curand.h>#define N 256__global__ void VecAdd(float* A, float* B, float* C) {int i = threadIdx.x;if (i < N) {C[i] = A[i] + B[i];}
}__global__ void VecAdd(float* A, float* C) {int i = threadIdx.x;if (i < N) {C[i] = A[i];}
}//int run_CUDA() {
int run_CUDA() {float* h_A, * h_B, * h_C;float* d_A, * d_B, * d_C;size_t size = N * sizeof(float);// 分配主机内存h_A = (float*)malloc(size);h_B = (float*)malloc(size);h_C = (float*)malloc(size);// 初始化主机数据float j = 0;for (int i = 0; i < N; i++,j++) {h_A[i] = j;h_B[i] = j * 2;}// 分配设备内存cudaMalloc((void**)&d_A, size);cudaMalloc((void**)&d_B, size);cudaMalloc((void**)&d_C, size);// 拷贝数据到设备cudaMemcpy(d_A, h_A, size, cudaMemcpyHostToDevice);cudaMemcpy(d_B, h_B, size, cudaMemcpyHostToDevice);// 调用核函数VecAdd <<<1, N >>> (d_A, d_B, d_C);// 拷贝结果回主机cudaMemcpy(h_C, d_C, size, cudaMemcpyDeviceToHost);// 输出部分结果for (int i = 0; i < 10; i++) {std::cout << h_A[i] << " + " << h_B[i] << " = " << h_C[i] << std::endl;}VecAdd << <1, N >> > (d_A, d_C);// 拷贝结果回主机cudaMemcpy(h_C, d_C, size, cudaMemcpyDeviceToHost);// 输出部分结果for (int i = 0; i < 10; i++) {std::cout << h_A[i] <<" = " << h_C[i] << std::endl;}// 清理cudaFree(d_A);cudaFree(d_B);cudaFree(d_C);free(h_A);free(h_B);free(h_C);return 0; 
}

欢迎交流!

相关文章:

  • Axure元件动作六:设置图片
  • 滚珠导轨在航空航天领域具体应用是什么?
  • 使用腾讯云3台轻量云服务器快速部署K8s集群实战
  • 独立机构软件第三方检测:流程、需求分析及电商软件检验要点?
  • RAID技术全解析:从基础到实战应用指南
  • 信息安全管理与评估2025上海卷
  • 关于vector、queue、list哪边是front、哪边是back,增加、删除元素操作
  • C++八股 —— 手撕shared_ptr
  • 事务处理与事务隔离
  • 哈希表原理与双散列实战指南
  • HJ14 字符串排序【牛客网】
  • Global Securities Markets第一章知识点总结
  • 【Docker 新手入门指南】第十章:Dockerfile
  • http协议和session会话
  • 恢复二叉搜索树:递归与中序遍历的智慧应用
  • 汇编语言的子程序魔法:解锁四则运算的奥秘
  • AtCoder Beginner Contest 407(ABCDE)
  • 机器学习模型度量指标(混淆矩阵、准确率、精确率、召回率、F1分数、ROC曲线、AUC、平均精度均值)
  • (泛函分析)压缩映射
  • 线性回归原理推导与应用(七):逻辑回归原理与公式推导
  • 论文答辩ppt模板免费下载 素材/安卓优化
  • zencart 团购网站/seo关键词排名优化联系方式
  • 西安做网站印象网络/注册网站查询
  • 网站建设定制公司/宣传推广方案
  • 网站建设自学/竞价账户托管哪家好
  • wordpress插件分类/谷歌seo搜索引擎下载