[CUDA] stream使用笔记

1. stream一般用法

cudaStream_t stream_;
cudaStreamCreate(&stream_); // create stream
// some operators running on this stream_
cudaStreamSynchronize(stream_)

// in final
cudaStreamDestroy(stream_);

• stream: Nonblocking模式 (WithFlags模式)

// stream_flags: 
// 1)cudaStreamDefault：这个和stream0默认流是同步的，启示和stream0上操作没区别
// 2)cudaStreamNonBlocking:和stream0号默认流不同步，异步，可以看reference[2]中的效果图可视化情况，更加形象
cudaStreamCreateWithFlags(&cuda_stream_, stream_flags)

2. stream与event：

cudaStream_t stream1;
cudaStream_t stream2;
cudaEvent_t event_stream2