导言
搞了一段时间的CUDA程序,虽然也不是写不出复杂程序,但是写个矩阵乘法都要搞个半天,还要担心各种性能瓶颈。不过,还好有cublas,实现了非常多的数学运算,这下子可以好好利用一番。以后再也不用担心自己写的CUDA效率不高了。
入门
cuBLAS的官方文档再这里,不懂的函数可以查。
cublas和matlab非常像,存储数组时,默认是列优先存储,而且是从1开始的。从C转过来,非常不习惯,不过你可以自己设置。
用 cublas之前你必须还是得会基本的CUDA,比如如何管理GPU显存。这里假设你都会了。
实例一
#include <stdio.h>
#include <stdlib.h>
#include <math.h>
#include <cuda_runtime.h>
#include "cublas_v2.h"
#define M 6
#define N 5
#define IDX2F(i,j,ld) ((((j)-1)*(ld))+((i)-1))
static __inline__
void modify(cublasHandle_t handle, float *m, int ldm, int n,
int p, int q, float alpha, float beta) {
cublasSscal(handle, n - p + 1, &alpha, &m[IDX2F(p, q, ldm)], ldm);
cublasSscal(handle, ldm - p + 1, &beta, &m[IDX2F(p, q, ldm)], 1);
}
int main(void) {
cudaError_t cudaStat;
cublasStatus_t stat;
cublasHandle_t handle;
int i, j;
float* devPtrA;
float* a = 0;
a = (float *)malloc(M * N * sizeof(*a));
if (!a) {
printf("host memory allocation failed");
return EXIT_FAILURE;
}
for (j = 1; j <= N; j++) {
for (i = 1; i <= M; i++) {
a[IDX2F(i, j, M)] = (float)((i - 1) * M + j);
}
}
cudaStat = cudaMalloc((void**)&devPtrA, M*N*sizeof(*a));
if (cudaStat != cudaSuccess) {
printf("device memory allocation failed"); return EXIT_FAILURE;
}
stat = cublasCreate(&handle);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf("CUBLAS initialization failed\n");
return EXIT_FAILURE;
}
stat = cublasSetMatrix(M, N, sizeof(*a), a, M, devPtrA, M);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf("data download failed");
cudaFree(devPtrA);
cublasDestroy(handle);
return EXIT_FAILURE;
}
modify(handle, devPtrA, M, N, 2, 3, 16.0f, 12.0f);
stat = cublasGetMatrix(M, N, sizeof(*a), devPtrA, M, a, M);
if (stat != CUBLAS_STATUS_SUCCESS) {
printf("data upload failed");
cudaFree(devPtrA); cublasDestroy(handle);
re