Windows系统CUDA_nvprof/ncu/nsys性能分析学习笔记

原创

已于 2024-03-20 09:24:26 修改 · 1.2k 阅读

13 ·

CC 4.0 BY-SA版权

文章标签：

#gpu算力

于 2024-03-18 10:15:32 首次发布

一. nvcc

1. 报错： nvcc fatal : Cannot find compiler 'cl.exe' in PATH

因为没有识别到VS的路径导致报错，将C:\Program Files (x86)\Microsoft Visual Studio\2017\Professional\VC\Tools\MSVC\14.16.27023\bin\Hostx64\x64添加到高级系统设置---环境变量中，然后重启电脑即可。一定要重启。

2. 管理员身份运行cmd

输入 [nvcc -V] 可查询当前cuda版本信息

3. 创建项目库

方法1：

①转至.cu文件所在文件夹[cd D:\……\GPU]

②输入语句：nvcc kernel.cu -o Demo.exe

$ cd D:\……\cudatest\cudatest //kernel.cu所在文件夹路径
$ nvcc kernel.cu -o Demo.exe

方法2：

VS中直接编译，然后cd到编译出的exe所在文件夹。

二. nvprof

$ nvprof Demo

nvprof指标分析只支持算力7.5以下的显卡，7.5也不支持。能整体分析，但不能给具体指标。

后面改为使用Nsight Compute Common-line Interface（Cli命令行）抓取指标

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

345241120

关注关注

7
点赞
踩
13

收藏

觉得还不错? 一键收藏
2
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【性能分析】ncu Metric Name解释

AI知识搬运工

09-11

333

这些指标用于分析 CUDA 内核在 GPU 上执行时的性能表现，帮助识别潜在的性能瓶颈和优化机会，例如计算吞吐量、内存吞吐量、寄存器使用情况、共享内存使用情况等。

Nvidia GPU性能分析工具Nsight System

weixin_39427234的博客

05-10

6187

NVIDIA的Nsight System是一款性能分析工具，可以简单地理解为一种帮助用户查看和理解用到GPU程序在计算机上如何运行的工具。Nsight Systems会记录程序在运行过程中的各种信息，如每个任务的开始和结束时间、GPU的利用率、内存的使用情况等。然后，它会把这些信息以图形化的方式展现出来，让用户能够一目了然地看到程序的运行状况。

2 条评论您还未登录，请先登录后发表或查看评论

【cuda】Visual Studio中进行CUDA程序的性能评估

prinTao的博客

01-16

1814

对特定的函数、内存操作或其他CUDA活动进行深入分析。

windows下使用nvcc和nvprof

deep_love1314的博客

05-18

6758

nvcc这个大家都很熟悉了，是cuda代码的编译器。 nvprof这个是cuda代码的性能分析工具，具体我不详细介绍了，感兴趣的可以自己搜索！我这里只介绍怎么去使用nvcc和nvprof 这两个工具只要下载安装了cuda就可以出现了，默认情况下在如下路径中可以找到： C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin 我们的命令（参考链接：我的第一份CUDA代码）如下：那么我们从上面发现我们在windows10

【CUDA 】核函数性能分析工具

最新发布

weixin_44231807的博客

06-08

623

最近因为有事很久没有学习cuda代码了，关于性能分析的命令也已经忘的差不多了，今天用休息时间来把这方面内容补上，方便以后忘记查看。

win10 nvprof的性能分析表

qq_43594926的博客

05-28

1068

交叉访问是全局内存中最糟糕的访问模式，因为它浪费总线带宽使用多个线程块对基于交叉的全局内存访问重新排序到合并访问的两个参数应该怎么设置好呢。首先，CUDA GPU 使用大小为 32 的倍数的线程块运行内核，因此blockSize的大小应该设置为32的倍数，例如128、256、512等。

nvprof：CUDA编程性能分析工具

Briwisdom的博客

12-25

2679

NVIDIA提供了具有高性能计算的GPU产品，如何检验硬件的实际性能，写出高效的CUDA代码让算力加速卡物尽其用，那可以通过其配套提供的“护城河”软件工具链来检验和帮助发挥GPU的性能：nvprof。如下，对于将8192个A，B向量进行向量加法运算，即C[i] = A[i] + B[i]，当软件设置不同的blocknum, threadnum时候，CUDA执行kernel的时间是不同的。比如如下命令，可以看到程序tmp1的总体性能，下面一行是打印gpu的执行时间情况。

Windows系统下的Nsight Systems在打开.nsys-rep文件时一直卡在loading report from file 界面

m0_56507446的博客

04-25

944

使用的版本为2024.2.1，.nsys-rep文件是在linux系统下用CLI2024版本生成的，但是在windows下用GUI打开的时候，就会一直卡在下面这个界面上，卡很久也打不开。在windows下重装过nsight systems很多次，重新下载打开还是会卡住，不知道什么问题。有人遇到过这个问题吗？

CUDA-MODE课程笔记第8课: CUDA性能检查清单

I good vegetable a!

08-19

1585

这节课相当于对Lecture 1更系统的补充，重点介绍GPU kernel优化的一些实用技术和分析工具ncu。合并全局内存访问：确保线程访问连续的内存位置，以最大限度地提高内存带宽利用率。最大化占用率：优化kernel启动参数，以充分利用 GPU 的处理能力。理解内存与计算限制：分析kernel特征以确定限制因素（内存带宽或计算能力），并应用适当的优化技术。最小化线程的分化：避免导致warp内的线程采用不同执行路径的条件语句，从而导致性能下降。

测试CUDA __threadfence的行为

Hi20240217的博客

09-06

492

测试CUDA __threadfence的行为。

CUDA性能分析--metrics指标抓取命令总结

HTMCW的博客

04-21

676

目前，cuda主流驱动支持的性能分析命令已经由 nvprof 转换到 nsys，如果在ncu --metrics中输入nvprof的指标抓取命令(eg.可以将这些测量出的吞吐量与理论峰值进行比较，以判断内核是否接近理想性能。下面列出一些主要分析指标的抓取命令。

CUDA工具与资源：调试器、性能分析器与学习资料

weixin_42560991的博客

03-18

785

本文深入探讨了CUDA开发者在调试、性能分析和学习方面的关键工具和资源。介绍了CUDA-GDB和NVIDIA Parallel Nsight作为调试工具的应用，CUDA Visual Profiler在性能分析上的作用，以及推荐的书面资源和代码库，旨在帮助开发者更有效地解决性能问题并提升编程能力。

CUDA性能优化----kernel调优(nvprof工具的使用)

耗纸的博客

05-11

4638

见 http://blog.163.com/wujiaxing009@126/blog/static/71988399201701310151777?ignoreua主要用nvprof评价性能，主要三点。 occupancy nvprof --metrics achieved_occupancy ./a.outgld_throughputnvprof --metrics gld_throughp

CUDA - nvprof 性能刨析

Jane_yuhui的专栏

10-14

432

这个就包含命令耗时、调用次数、平均用时、最小用时、最大用时、命令名。

1.使用nsys分析GPU应用程序

热门推荐

TH_NUM的博客

11-22

2万+

例子矩阵加法 vector-add.cu #include <stdio.h> void initWith(float num, float *a, int N) { for(int i = 0; i < N; ++i) { a[i] = num; } } __global__ void addVectorsInto(float *result, float *a, float *b, int N) { int index = threadIdx.x + bl

windows 中的 Nsight Systems 通过ssh 链接分析 Linux 中的cuda程序性能

eloudy的专栏

07-12

1032

安装 ssh-server安装较新版本的 cuda sdk下载cuda-samples github repo编辑修改 ssh 配置：删除相关注释，修改后如下：Port 22。

Nsight System模型性能分析工具入坑记录

u012077914的博客

04-29

9311

在windows环境下使用torch的profiler+TensorBoard试图进行模型的性能分析，发现在TB上只有CPU的信息，缺少GPU的信息，试图去社区寻找解决方案，发现早在22年该问题就被提出来了，但是帖子里只有提问而无人解答。所以至此也一直无法解决（本人能力有限，等一个大佬救救孩子）。。。。于是乎，改变思路转而换成Nsight System进行。但是关于ns用于性能分析的教程较少，我也是啃了一上午官方文档才勉强实现需求。

GPU（七）CUDA事件计时与nvprof

NUCEMLS的博客

03-31

1103

CUDA计时与nvprof

cuda nvprof 输出结果的理解和优化空间

weixin_33971205的博客

09-29

407

该内容来自http://stackoverflow.com/questions/30371030/understanding-cuda-profiler-output-nvprof 放在这里作为一个提示和总结问题 I'm just looking at the following output and trying to wrap my mind around the numbers:...

kitti calib_json/000010.json

02-26

### 解析 KITTI 数据集中的 `calib_000010.txt` 文件为了读取和解析 KITTI 数据集中的校准文件，通常这些文件包含了不同传感器之间的转换矩阵以及相机内参。对于名为 `calib_000010.txt` 的文件，其结构与一般 calibration 文件相似。 #### Python 实现代码示例以下是用于加载并打印该特定校准文件内容的Python脚本： ```python def read_calib_file(filepath): """Read a calibration file and parse into dictionary.""" data = {} with open(filepath, 'r') as f: for line in f.readlines(): if not line or line.startswith('#'): continue key, value = line.split(':', 1) try: data[key] = np.array([float(x) for x in value.split()]) except ValueError: pass return data if __name__ == "__main__": import numpy as np filepath = "path/to/calib_000010.txt" calib_data = read_calib_file(filepath) # 打印所有键值对 for k, v in calib_data.items(): print(f"{k}: {v}") ``` 这段代码会遍历每一行，并尝试将其分割成键和对应的数值列表。注意这里假设路径已正确设置为实际存储位置[^1]。 #### 关于 Calibration 文件的内容说明 - **Tr_velo_to_cam**: 表达的是从 Velodyne 坐标系到参考相机 (通常是 cam0) 坐标系的变化关系。这允许将激光雷达获取的空间点云映射至图像平面上。 - **P_rect_xx**: 这些条目定义了矩形化后的投影矩阵，其中 xx 是指具体的摄像头索引号。通过这个矩阵可以从三维空间坐标计算出二维像素坐标[^2]。 #### 获取相机内部参数的例子如果要提取像平面中心 `(cu,cv)` 和焦距 `(fu,fv)` ，可以根据上述提到的标准配置来访问相应的字段: ```python # 提取 P_rect_00 中的信息作为第一个摄像机的内参 p_rect_00 = calib_data['P_rect_00'].reshape(3, 4) fx = p_rect_00[0][0] fy = p_rect_00[1][1] cx = p_rect_00[0][2] cy = p_rect_00[1][2] print(f"Camera Intrinsics:\nfu={fx}, fv={fy}\ncu={cx}, cv={cy}") ```