CUDA-计时

最新推荐文章于 2024-10-14 20:30:57 发布
原创 最新推荐文章于 2024-10-14 20:30:57 发布 · 395 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

kernel计时，记录，以后需要就直接过来抄了。

cudaEvent_t start,stop;
HANDLE_ERROR(cudaEventCreate(&start));
HANDLE_ERROR(cudaEventCreate(&stop));
HANDLE_ERROR(cudaEventRecord(start,NULL));

//kernel计算
kernel<<<>>>();

HANDLE_ERROR(cudaEventRecord(stop,NULL));
cudaEventSynchronize(stop);
float msecTotal = 0.0f;
cudaEventElapsedTime(&msecTotal, start, stop);
printf("Time spend on GPU is %f ms\n", msecTotal);

具体的意思再解释吧。。

cuda及常用计时方式
ZIV555的博客
06-22 1581
CUDA中的计时方式： cudaEventCreate(&start1); cudaEventCreate(&stop1); cudaEventRecord(start1, NULL); Kernel>>( a, b, c ); cudaEventRecord(stop1, NULL); cudaEventSynchronize(stop1); cudaEvent
测试cuda-gdb调试某个线程,是否会影响其它线程
Hi20240217的博客
08-23 578
测试cuda-gdb调试某个线程,是否会影响其它线程。
【CUDA学习】计时方法
weixin_34405332的博客
06-04 394
问题描述:一般利用CUDA进行加速处理时,都需要测试CUDA程序的运行时间,来对比得到的加速效果. 解决方法: 1).GPU端计时,即设备端计时. 2).CPU端计时,即主机端计时. 设备端计时有两种不同的方不地,分别是调用clock()函数和使用CUDA API的事件管理功能. clock函数计时: 1).在内核函数中要测量的一段代码的开始和结束的位置分别调用一次clock函数,并将...
CUDA中的两种计时方式
meeelion的专栏
05-12 1856
1.clock_t clock();在内核启动和结束时对此计数器取样，确定两次取样的差别，然后为每个线程记录下结果，这为各线程提供度量方法2.cudaEvent_tcudaEvent_t start, stop;cudaEventCreate(&start);cudaEventCreate(&stop);这些事件可用于为代码示例计时，方法如下cudaEventR
CUDA-事件计时方法cudaEventElapsedTime
翟天保的博客
09-21 3391
CUDA-事件计时方法cudaEventElapsedTime
CUDA - 2.3 核函数计时
shi_xin的专栏
02-23 1123
2.3 核函数计时 核函数计时，有专门的工具，使用cpu计时是不准确的。 2.3.1 cpu计时不准 原理如下：(核函数开始执行后马上返回主机线程，所以必须加一个同步函数cudaDeviceSynchronize()，等待核函数执行完毕；否则测试的时间是从调用核函数，到核函数返回给主机线程的时间段) 核函数启动到结束的过程： 主机线程启动核函数 核函数启动成功 控制返回主机线程 核函数执行完成 主机同步函数侦测到核函数执行完 我们要测试的是2~4的时
CUDA 事件计时
Jane_yuhui的专栏
10-14 341
CUDA 事件 可以为主机代码和设备代码计时。可以看出第一次调用的时候最费时。
[CUDA编程] --- CUDA计时
M2嵌入式
08-25 1265
计时通常分为两种情况：1）直接得到接口函数的时间，一般用于得到加速比；2）获得接口函数内核函数、内存拷贝函数等所耗时间，一般用于优化代码时。情况（1）方法有两种，CPU计时函数和GPU计时函数。情况（2）有三种工具nsight，nvvp，nvprof本博客会详细介绍情况（1）的两种方法；情况（2）nsight不会用，简单介绍一下nvvp和nvprof的用法。
CUDA-纹理内存
翟天保的博客
09-21 3635
CUDA-纹理内存
CUDA-MODE 第一课: 如何在 PyTorch 中 profile CUDA kernels
I good vegetable a!
08-09 1645
我的课程笔记，欢迎关注：https://github.com/BBuf/how-to-optim-algorithm-in-cuda/tree/master/cuda-mode。
精选资源
CUDA-Fortran高效编程实践（一）-小小河-20140422.pdf
11-12
在实践中，第2章将深入探讨这些性能度量方法，包括使用事件计时、CUDA分析工具如Nsight和nvprof等，以评估内核执行的时间和资源利用率。此外，可能还会讨论如何通过并行化算法、减少通信开销和使用适当的同步机制来...
规约算法-reduction
耗纸的博客
05-01 4782
CUDA Samples上的例子，可是那个封装的优点太复杂，不适合初学者看，按照上面的方法实现了一下。如下#include <stdio.h> #include <stdlib.h> #include <assert.h> #include <math.h> #include "book.h" #define SIZE 81920000 #define THREAD_NUM 512__global_
如何写出正确CUDA程序(持续更新中)
耗纸的博客
05-01 3314
本文不谈CUDA优化，只谈如何正确写出CUDA程序，先写对，再说优化。最近写CUDA程序也是断断续续的，经常程序写完了需要很长的时间调试，各种错误，调试的方法也是简单的printf()，目前没找到更好的调试方法，如果有更好的办法的化希望告知。 昨天总结了下为什么写的CUDA程序总是出错（就先别说优化呢？写对再再谈别的吧），总结出一些心得和经验(算是经验)吧，结合例子看吧。首先谈谈调试方法吧，目前我
CUDA提供的函数评估Occupancy
耗纸的博客
04-15 1600
#include <iostream> #include <cuda_runtime.h> #include <cuda_occupancy.h
CUDA程序阻塞
耗纸的博客
05-01 1337
今天写一个程序，cuda的kernel竟然阻塞呢，什么情况？ 后来胡思乱想了一大堆， ，错误程序如下for (int i=tid; i<col_size; tid+=32) ...原来是写错程序遇到死循环了，一写程序一堆错。。哎,正确的如下for (int i=tid; i<col_size; i+=32) ...程序出错的时候， 建议在分配任务的时候画图，把block，thr
CUDA Pro Tip: Increase Performance with Vectorized Memory Access
耗纸的博客
04-17 709
#include <iostream> #include <cuda_runtime.h> #include <cuda_occupancy.h
布线问题 分支限界算法-下载即用.zip
01-01
下载方式：https://pan.quark.cn/s/a4b39357ea24 布线问题（分支限界算法）是计算机科学和电子工程领域中一个广为人知的议题，它主要探讨如何在印刷电路板上定位两个节点间最短的连接路径。 在这一议题中，电路板被构建为一个包含 n×m 个方格的矩阵，每个方格能够被界定为可通行或不可通行，其核心任务是定位从初始点到最终点的最短路径。 分支限界算法是处理布线问题的一种常用策略。 该算法与回溯法有相似之处，但存在差异，分支限界法仅需获取满足约束条件的一个最优路径，并按照广度优先或最小成本优先的原则来探索解空间树。 树 T 被构建为子集树或排列树，在探索过程中，每个节点仅被赋予一次成为扩展节点的机会，且会一次性生成其全部子节点。 针对布线问题的解决，队列式分支限界法可以被采用。 从起始位置 a 出发，将其设定为首个扩展节点，并将与该扩展节点相邻且可通行的方格加入至活跃节点队列中，将这些方格标记为 1，即从起始方格 a 到这些方格的距离为 1。 随后，从活跃节点队列中提取队首节点作为下一个扩展节点，并将与当前扩展节点相邻且未标记的方格标记为 2，随后将这些方格存入活跃节点队列。 这一过程将持续进行，直至算法探测到目标方格 b 或活跃节点队列为空。 在实现上述算法时，必须定义一个类 Position 来表征电路板上方格的位置，其成员 row 和 col 分别指示方格所在的行和列。 在方格位置上，布线能够沿右、下、左、上四个方向展开。 这四个方向的移动分别被记为 0、1、2、3。 下述表格中，offset[i].row 和 offset[i].col（i=0,1,2,3）分别提供了沿这四个方向前进 1 步相对于当前方格的相对位移。 在 Java 编程语言中，可以使用二维数组...
EP1C3T144C8 FPGA开发板设计
最新发布
01-01
先看效果： https://pan.quark.cn/s/03f8ba0ff118 ### FPGA开发板设计相关知识要点#### 1. FPGA基本概念- **定义**: 现场可编程门阵列（Field Programmable Gate Array, FPGA）属于半定制型集成电路，允许在完成制造后通过编程来设定其内部逻辑及连接配置，从而达成特定的功能实现。- **特性**: - 运行速度快 - 功耗相对较低 - 适用于复杂系统构建 - 可在现场进行重新编程- **应用范畴**: - 通信领域 - 自动控制系统 - 信息处理技术 - 数据加密方案 - 视频处理技术 - 车载电子系统 - 医疗器械设备等#### 2. EP1C3T144C8芯片介绍- **生产商**: Altera Corporation（现归属于Intel公司）- **系列归属**: Cyclone系列- **技术工艺**: 1.5V核心供电电压，采用0.13微米制造工艺- **资源参数**: - 包含2910个逻辑单元（LEs） - 提供高达59904位的嵌入式存储器 - 支持单个PLL（Phase Locked Loop，锁相环） - 最多可支持104个用户I/O接口- **优点**: - 价格经济 - 集成度高 - 片上资源丰富 - 灵活性强#### 3. 硬件电路设计原理##### 3.1 硬件电路整体构造- **构成部分**: - 下载电路: 负责将设计好的程序传送至FPGA中。 - 下载接口: 实现个人计算机与FPGA之间的数据交换。 - FPGA核心部件: EP1C3T144C8芯片。 - 电源电路: 提供必要的电源支持。 - 扩展接口: 用于连接各类传感器或扩展模块。###...
samplewithopengl.cpp:113:3: warning: 'cudaError_t cudaMemcpyToArray(cudaArray_t, size_t, size_t, const void*, size_t, cudaMemcpyKind)' is deprecated [-Wdeprecated-declarations] cudaMemcpyToArray(depth_cuda_array, 0, 0, evo_depth_gpu.data, sizeof(unsigned ^ In file included from /usr/local/cuda-10.1/targets/x86_64-linux/include/channel_descriptor.h:61:0, from /usr/local/cuda-10.1/targets/x86_64-linux/include/cuda_runtime.h:95, from samplewithopengl.cpp:28: /usr/local/cuda-10.1/targets/x86_64-linux/include/cuda_runtime_api.h:6598:57: note: declared here extern __CUDA_DEPRECATED __host__ cudaError_t CUDARTAPI cudaMemcpyToArray(cudaA ^ samplewithopengl.cpp:113:124: warning: 'cudaError_t cudaMemcpyToArray(cudaArray_t, size_t, size_t, const void*, size_t, cudaMemcpyKind)' is deprecated [-Wdeprecated-declarations] o_depth_gpu.data, sizeof(unsigned char) * w * h * 4, cudaMemcpyDeviceToDevice); ^ In file included from /usr/local/cuda-10.1/targets/x86_64-linux/include/channel_descriptor.h:61:0, from /usr/local/cuda-10.1/targets/x86_64-linux/include/cuda_runtime.h:95, from samplewithopengl.cpp:28: /usr/local/cuda-10.1/targets/x86_64-linux/include/cuda_runtime_api.h:6598:57: note: declared here extern __CUDA_DEPRECATED __host__ cudaError_t CUDARTAPI cudaMemcpyToArray(cudaA ^ samplewithopengl.cpp:158:4: error: 'last' was not declared in this scope last = now; ^ samplewithopengl.cpp:158:11: error: 'now' was not declared in this scope last = now; ^ samplewithopengl.cpp:159:15: error: 'std::chrono' has not been declared now = std::chrono::high_resolution_clock::now(); ^ samplewithopengl.cpp:160:9: error: 'std::chrono' has not been declared std::chrono::duration<double> elapsed = now - last; ^ samplewithopengl.cpp:160:26: error: expected primary-expression before 'double' std::chrono::duration<double> elapsed = now - last; ^ samplewithopengl.cpp:161:23: error: 'elapsed' was not declared in this scope float fps = 1.0f / elapsed.count(); ^
05-23
### 关于修复 `cudaMemcpyToArray` 的 Deprecated 警告 在 CUDA 10.1 中，`cudaMemcpyToArray` 函数并未被标记为废弃（Deprecated），但如果出现了此类警告，则可能是由于更高版本的 CUDA 或其他库引入了新的推荐替代方法。通常情况下，可以考虑使用更现代的内存复制接口来替换它，例如 `cudaMemcpy3D` 或者通过绑定纹理对象的方式实现相同功能。 以下是可能的解决方案之一： 如果目标是从主机内存拷贝数据到设备上的数组，可以尝试改用 `cudaMemcpy3D` 接口[^1]。该接口提供了更大的灵活性，并支持多种类型的内存布局转换。具体修改如下所示： ```cpp // 原始代码可能导致 Deprecation Warning cudaError_t err = cudaMemcpyToArray(d_array, 0, 0, h_data, size, cudaMemcpyHostToDevice); // 替代方案：使用 cudaMemcpy3D 和 cudaPitchedPtr 结构体 struct cudaPitchedPtr pitchedDest; pitchedDest.ptr = d_array->data; // 获取指向数组的数据指针 pitchedDest.pitch = width * sizeof(float); // 设置每行字节偏移量 pitchedDest.xsize = width; // 宽度 pitchedDest.ysize = height; // 高度 cudaMemcpy3DParms params = {0}; params.srcMemoryType = cudaMemoryTypeHost; params.srcHost = h_data; params.dstMemoryType = cudaMemoryTypeDevice; params.dstArray = d_array; params.extent.width = width * sizeof(float); params.extent.height = height; params.extent.depth = 1; cudaError_t result = cudaMemcpy3D(&params); if (result != cudaSuccess) { fprintf(stderr, "Failed to copy data with error %s\n", cudaGetErrorString(result)); } ``` --- ### 解决 std::chrono 命名空间相关的编译错误 对于 `std::chrono` 编译错误，通常是由于缺少必要的头文件或者命名冲突引起的。确保以下几点已正确配置： 1. **包含正确的头文件** 如果程序中涉及时间测量操作，请确认已经包含了 `<chrono>` 头文件。如果没有显式声明命名空间，则需要加上完整的限定符 `std::chrono`。 2. **修正未声明变量的问题** 若存在类似 “‘milliseconds’ was not declared in this scope” 这样的错误提示，说明当前作用域下无法识别 `std::chrono::milliseconds` 类型。可以通过两种方式解决此问题： - 使用完全限定名称调用相关类成员； - 添加 using 指令简化书写形式。 下面是一个简单的例子展示如何计算两个事件之间的时间差并输出毫秒级结果： ```cpp #include <iostream> #include <chrono> int main() { auto start_time = std::chrono::high_resolution_clock::now(); // 记录起始时刻 // 执行某些耗时的操作... auto end_time = std::chrono::high_resolution_clock::now(); // 记录结束时刻 std::chrono::duration<double, std::milli> elapsed_ms = end_time - start_time; // 时间间隔转为毫秒单位 std::cout << "Elapsed Time: " << elapsed_ms.count() << " ms" << std::endl; return 0; } ``` 注意这里采用了高分辨率计时器 (`std::chrono::high_resolution_clock`) 来获取精确的时间戳信息[^2]。 --- ### 综合调整后的样例代码片段 假设我们需要在一个 OpenGL 渲染循环里加入 GPU 数据传输逻辑的同时也记录帧率统计情况，那么最终整合起来的大致框架可参照如下结构设计： ```cpp #include <GL/glut.h> #include <cuda_runtime_api.h> #include <vector_types.h> #include <stdio.h> #include <stdlib.h> #include <memory> #include <chrono> void renderScene(void){ static float angle = 0.f; glClear(GL_COLOR_BUFFER_BIT | GL_DEPTH_BUFFER_BIT ); glPushMatrix(); glRotatef(angle ,0.,1.,0.); glutWireCube(1.0); glPopMatrix(); angle += .5f; } void initCudaTexture(unsigned int texId,float* devData,int w,int h){ struct cudaGraphicsResource *resource; checkCudaErrors(cudaGraphicsGLRegisterImage(&resource,texId,GL_TEXTURE_2D,cudaGraphicsMapFlagsWriteDiscard)); unsigned char* ptr; size_t size; checkCudaErrors(cudaGraphicsMapResources(1,&resource,NULL)); checkCudaErrors(cudaGraphicsResourceGetMappedPointer((void**)&ptr,&size,resource)); dim3 block(8,8),grid(w/block.x,h/block.y); kernel<<<grid,block>>>(reinterpret_cast<float*>(ptr),devData,w,h); checkCudaErrors(cudaGraphicsUnmapResources(1,&resource,NULL)); checkCudaErrors(cudaGraphicsUnregisterResource(resource)); } bool setup(){ glEnable(GL_TEXTURE_2D); GLuint textureID; glGenTextures(1,&textureID); glBindTexture(GL_TEXTURE_2D,textureID); glTexParameteri(GL_TEXTURE_2D,GL_TEXTURE_MIN_FILTER,GL_LINEAR); glTexImage2D(GL_TEXTURE_2D,0,GL_RGBA8,WIDTH,HEIGHT,0,GL_BGRA,GL_UNSIGNED_BYTE,nullptr); float* deviceBuffer; checkCudaErrors(cudaMalloc(&deviceBuffer,sizeof(float)*WIDTH*HEIGHT)); memset(deviceBuffer,0,sizeof(float)*WIDTH*HEIGHT); try{ initCudaTexture(textureID,deviceBuffer,WIDTH,HEIGHT); }catch(const std::exception& e){ printf("Exception caught:%s\n",e.what()); return false; } free(deviceBuffer); return true; } int main(int argc,char** argv){ glutInit(&argc,argv); glutInitDisplayMode(GLUT_DOUBLE|GLUT_RGB|GLUT_DEPTH); glutCreateWindow("OpenGL+CUDA Example"); if(!setup())return EXIT_FAILURE; glutDisplayFunc(renderScene); glutIdleFunc([](){glutPostRedisplay();}); auto lastFrameTime=std::chrono::steady_clock::now(); while(true){ glutMainLoopEvent(); const auto currentTime=std::chrono::steady_clock::now(); double deltaTime= std::chrono::duration_cast<std::chrono::microseconds>(currentTime-lastFrameTime).count()/1.e6; lastFrameTime=currentTime; printf("FPS=%.2lf\r",(double)(1./deltaTime)); fflush(stdout); } return 0; } ``` 以上代码展示了如何结合 OpenGL 和 CUDA 实现基本渲染流程，并利用标准库中的定时工具监控性能指标[^3]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值