CUDA分配内存

CUDA是一种使用GPU加速计算的平台和编程模型，它提供了许多用于分配和管理内存的函数。在使用CUDA时，您需要了解如何分配和释放内存。

分配GPU内存

要在CUDA中使用GPU内存，您需要使用以下函数之一来分配内存：

cudaMalloc(void** devPtr, size_t size);
cudaMallocHost(void** ptr, size_t size);
cudaMallocManaged(void** devPtr, size_t size);

cudaMalloc

cudaMalloc函数用于在设备（GPU）上分配内存。它需要两个参数 - void** devPtr和size_t size。

• devPtr是一个指向指针的指针，它将指向分配的设备内存。
• size是要分配的内存大小（以字节为单位）。

例如，以下代码在设备上分配指向float类型数据的指针：

#include <cuda_runtime.h>
...

float* devPtr;
size_t size = N * sizeof(float);
cudaMalloc(&devPtr, size);

cudaMallocHost

cudaMallocHost函数用于在主机（CPU）上分配内存。 它需要两个参数 - void** ptr和size_t size。

• ptr是一个指向指针的指针，它将指向分配的主机内存。
• size是要分配的内存大小（以字节为单位）。

例如，以下代码在主机上分配指向float类型数据的指针：

#include <cuda_runtime.h>
...

float* ptr;
size_t size = N * sizeof(float);
cudaMallocHost(&ptr, size);

cudaMallocManaged

cudaMallocManaged函数用于在主机与设备之间共享内存。 它需要两个参数 - void** devPtr 和 size_t size。

• devPtr是一个指向指针的指针，它将指向分配的设备内存。
• size是要分配的内存大小（以字节为单位）。

例如，以下代码分配了一个大小为N的数组，该数组将在主机和设备之间共享：

#include <cuda_runtime.h>
...

float* devPtr;
size_t size = N * sizeof(float);
cudaMallocManaged(&devPtr, size);

释放GPU内存

一旦您完成了使用设备内存，您必须释放它以避免内存泄漏。 您可以使用以下函数之一来释放内存：

cudaFree(void* devPtr);
cudaFreeHost(void* ptr);

cudaFree

cudaFree函数用于释放设备上的内存。 它需要一个参数 - void* devPtr，它是您要释放的设备内存的指针。

例如，以下代码释放了先前分配的设备内存：

#include <cuda_runtime.h>
...

cudaFree(devPtr);

cudaFreeHost

cudaFreeHost函数用于释放主机上的内存。 它需要一个参数 - void* ptr，它是您要释放的主机内存的指针。

例如，以下代码释放了先前分配的主机内存：

#include <cuda_runtime.h>
...

cudaFreeHost(ptr);

总结

这些函数是在CUDA编程中使用GPU内存所需了解的基本函数。 您需要了解如何分配和释放内存，并且需要根据您的需求选择适当的内存分配方法。