使用非NVIDIA GPU

本指南解释如何在EvoX中使用PyTorch与AMD GPUs和Apple Silicon GPUs。

尽管 NVIDIA GPU 是一个可靠的选择，通常提供较强的性能，但其较新的型号主要针对深度学习工作负载和大型语言模型进行了优化。它们的许多高级特性，如对低精度数据类型的支持，目前在 EvoX 中尚未被充分利用。在某些情况下，非 NVIDIA GPU 在演化任务中可能提供更好的性能和更低的成本。

AMD GPU 支持

PyTorch 中对 AMD GPU 的支持通过 ROCm 提供。AMD 设备被识别为 cuda 设备（与 NVIDIA GPU 一样）。要使用 AMD GPU：

  1. 安装兼容ROCm的PyTorch版本。

  2. 使用标准设备设置，例如：device = torch.device("cuda")。

无需额外更改，只需使用ROCm构建即可。

Apple Silicon GPU 支持

如果您使用的是 Apple Silicon Mac，您可以利用内置 GPU 加速您的 EvoX 工作流。Apple Silicon GPU 通过 Metal Performance Shaders (MPS) 后端支持，并且可以通过 PyTorch 中的 mps 设备访问。

要使用Apple Silicon GPU:

  1. 确保已安装支持 MPS 的 PyTorch 版本。

  2. 将您的张量和模型移动到 mps 设备，例如 device = torch.device("mps")。

备注

mps 设备不支持编译（例如，#evox.compile）。