cuBLAS gemv调用

https://blog.youkuaiyun.com/weixin_52027058/article/details/136652593

在上面文章基础上补充下gemv的例子。行列优先和CUBLAS_OP刚开始看是有点绕。

关键点：

1. c内存序的矩阵，在cuBLAS视角下是原始矩阵的转置。
2. 我们是调用cuBLAS，所以传入的参数都是cuBLAS视角下的矩阵参数。

   // C[M*1] =  A[M*K] x B[K*1]  // [ ] 内为shape
   // 写法1 需要先在CPU上保证数据是列优先的
   for (int j = 0; j < K; j++) {
      for (int i = 0; i < M; i++) {
        h_AC[j * M + i] = h_A[i * K + j];//行优先转列优先 等价转置操作! c语言视角变成一个[K*M]的矩阵
     }
   }
    cublasSgemv_v2(handle,
        CUBLAS_OP_N,  // 不用对输入做转置
        M,    // 以cublas视角此时d_A为[M*K]矩阵 所以正常填入A的shape                
        K,                    
        &alpha,           
        d_A,                 
        M,         // A的leading dim 主维度为M           
        d_B,                  
        1,      // 固定1             
        &beta,          
        d_C,           
        1);     // 固定1


    // 写法2 CPU上保持行优先不变。原始矩阵尺寸[M*K] 该内存直接传入在cublas视角来说是一个[K*M]的矩阵(即AT)。
	// 但[K*M]矩阵显然无法和K*1向量做乘法。于是定义op_type为转置
	// 注意传入的shape是在被转置操作前的
	// 输出结果依然是列优先的，但因为输出是vector所以没有影响
    cublasSgemv_v2(handle,
        CUBLAS_OP_T,  // 要求接口内进行转置(也可能是虚拟的)
        K,   // 填的是转置前cublas视角的矩阵(AT)的shape                 
        M,                    
        &alpha,           
        d_A,                 
        K, //   填的是AT的主维度             
        d_B,                  
        1,      // 填1             
        &beta,          
        d_C,           
        1);     // 填1