cublasSgemm函数实现矩阵乘

最新推荐文章于 2025-03-07 23:56:41 发布

原创最新推荐文章于 2025-03-07 23:56:41 发布 · 1.5k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#cublasSgemm

CUDA 专栏收录该内容

4 篇文章

订阅专栏

本文详细介绍了如何使用CUBLAS进行矩阵转置及乘法运算，并提供了具体代码实例，帮助读者理解CUBLAS中矩阵的列主元存储方式及其对操作的影响。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

①cublas中矩阵是按照列主元素存储的，所以想要计算A*B，那么输入的应该是B*A,就是把原来的B放在A的位置，把原来的A放在B的位置，这样子输出的就是A*B的结果。因为我们输入B，其实cublas读入的就是B的转置，A就是A的转置，然后BT*AT = (AB)T,但是再按列主元读出来的时候就是AB啦。

②m，n，k，以及lda，ldb，ldc这6个参数怎么输入啦。m是op（放在A矩阵的位置的矩阵）的行，k是op（放在A矩阵的位置的矩阵）的列，n是op（放在B矩阵的位置的矩阵）的列，但实际上我发现应该把这三个参数全都颠倒过来，就是行变列，列变行。然后lda，ldb，ldc分别是放在A矩阵的位置的矩阵，放在B矩阵的位置的矩阵，放在C矩阵的位置的矩阵的列，注意这里没有op，op表示对矩阵的一些变换，CUBLAS_OP_N,表示不变，CUBLAS_OP_T,表示转置，CUBLAS_OP_C,表示共轭转置。

下面是一个例子，我要实现的是矩阵的转置乘以原矩阵。

#include<iostream>
#include<cuda_runtime.h>
#include<stdlib.h>
#include<cublas_v2.h>

using std::cout;
using std::endl;

//矩阵的长和宽
#define W 3
#define H  5

int main()
{
	double *C = new double[W * H];

	cout<<"original matrix:"<<endl;
	for(int i=0;i<H;i++)
	{
		for(int j=0;j<W;j++)
		{
			C[i*W + j] = rand()%10;
			cout<<C[i*W + j]<<"  ";
		}
		cout<<endl;
	}

	double *C_d;
	cudaMalloc((void**)&C_d,sizeof(double)*H*W);
	cudaMemcpy(C_d,C,sizeof(double)*H*W,cudaMemcpyHostToDevice);

	double *CTC;
	cudaMalloc((void**)&CTC,sizeof(double)*W*W);

	cublasHandle_t cublasHandle;
	cublasCreate(&cublasHandle);

	double alpha = 1.0;
	double beta = 0.0;

	cublasDgemm(cublasHandle,CUBLAS_OP_N,CUBLAS_OP_T,W,W,H,&alpha,C_d,W,C_d,W,&beta,CTC,W);

	cublasDestroy(cublasHandle);

	double *CTC_h = new double[W * W];
	cudaMemcpy(CTC_h,CTC,sizeof(double)*W*W,cudaMemcpyDeviceToHost);

	cout<<"result:"<<endl;
	for(int i=0;i<W;i++)
	{
		for(int j=0;j<W;j++)
		{
			cout<<CTC_h[i*W+j]<<"  ";
		}
		cout<<endl;
	}

	delete []C;
	delete []CTC_h;
	cudaFree(C_d);
	cudaFree(CTC);

	return 0;

}

如有不对的地方，希望大家可以指正出来，互相学习。