CUDA异步和同步传输

最新推荐文章于 2025-04-24 11:43:02 发布

自带BGM的狗熊

最新推荐文章于 2025-04-24 11:43:02 发布

阅读量1.6k

点赞数

分类专栏：并行

本文链接：https://blog.youkuaiyun.com/fangjiarui/article/details/39526787

版权

本文深入探讨CUDA中的异步和同步数据传输概念，分析它们在并行计算中的作用，以及如何优化GPU计算效率。通过实例展示了如何在CUDA编程中有效地利用这两种传输方式，以实现高效能计算。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

在cuda中用pinned内存+asyn，可以既缩短数据传输时间，又可以让cpu执行和gpu overlap

#include <thrust/host_vector.h>
#include <thrust/generate.h>
#include <thrust/sort.h>
#include <thrust/copy.h>
#include <thrust/device_vector.h>
#include <cstdlib>
#include <iostream>
#include <sys/time.h>
#include <algorithm>
// CUDA runtime
#include <cuda_runtime.h>
// includes
#include <helper_functions.h>  // helper for shared functions common to CUDA SDK samples
#include <helper_cuda.h>       // helper functions for CUDA error checking and initialization

using namespace std;

#define NUM_ELEM (1024*1024*4)

double getNow(){
	struct timeval t;
	gettimeofday(&t, NULL);
	return t.tv_sec*1000000 + t.tv_usec;
}

void cpu_sort(thrust::host_vector<int> host_array){
	vector<int> array(NUM_ELEM);
	for(