编译pytorch支持旧显卡

原创

mob64ca12f028ff 2024-09-06 05:21:06 ©著作权

文章标签 CUDA bash python 文章分类 PyTorch 人工智能

©著作权归作者所有：来自51CTO博客作者mob64ca12f028ff的原创作品，请联系作者获取转载授权，否则将追究法律责任

编译 PyTorch 支持旧显卡

在深度学习领域，PyTorch 是一个非常流行的开源框架，广泛用于各种研究和实用项目。但是，许多研究者和开发者可能并没有最新的高性能显卡，因此了解如何编译 PyTorch 以支持旧显卡显得尤为重要。本文将为您详细介绍如何编译 PyTorch，以便在较旧的显卡上运行，并附带相关的代码示例和图示。

一、环境准备

在开始编译之前，您需要安装一些依赖项。以下是一些常见的依赖项：

Python 3.x
CUDA Toolkit
cuDNN
Git

确保您有如下软件包安装：

sudo apt-get update
sudo apt-get install -y build-essential git python3-dev python3-pip
pip install numpy pyyaml mkl mkl-include setuptools cmake cffi typing

确认已安装的 CUDA 和 cuDNN 版本兼容您的显卡。您可以通过 NVIDIA 官方网站找到相关信息。

二、克隆 PyTorch 代码库

首先，您需要从 GitHub 克隆 PyTorch 的代码库：

git clone --recursive 
cd pytorch

注意使用 --recursive 选项，这样可以确保您获取到相关的子模块。

三、设置 CUDA 环境

为了在旧显卡上编译 PyTorch，您需要使用兼容的 CUDA 版本。请确认您的 ~/.bashrc 文件中包含了 CUDA 的路径。例如，对于 CUDA 10.1，您可以添加如下内容：

export PATH=/usr/local/cuda-10.1/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-10.1/lib64:$LD_LIBRARY_PATH

保存并执行 source ~/.bashrc 更新环境变量。

四、编译 PyTorch

您可以使用以下命令编译 PyTorch：

python setup.py install

需要注意的是，在一些旧显卡上，可能需要设置环境变量来禁用某些功能，以保证兼容性。例如，可以使用以下命令：

export TORCH_CUDA_VERSION=10.1

五、代码示例

这里是如何在编译后使用 PyTorch 进行简单的张量运算的例子：

import torch

# 创建一个张量
x = torch.tensor([1.0, 2.0, 3.0], requires_grad=True)

# 进行一些操作
y = x**2 + 2*x + 1

# 执行反向传播
y.backward(torch.tensor([1.0, 1.0, 1.0]))

# 打印结果
print("x:", x)
print("y:", y)
print("Gradients:", x.grad)

六、性能测试

您可以使用以下测试代码来验证编译的 PyTorch 是否能正常使用旧显卡：

import torch

# 检查 CUDA 设备
if torch.cuda.is_available():
    device = torch.device("cuda")
    print("CUDA is available. Using GPU.")
else:
    device = torch.device("cpu")
    print("CUDA is not available. Using CPU.")

# 创建一个大型张量并在设备上进行运算
x = torch.randn(10000, 10000, device=device)
y = x @ x
print("Matrix multiplication completed.")

七、序列图

为了更好地理解编译过程，这里我们将展示一个简单的序列图：

sequenceDiagram
    participant User
    participant GitHub
    participant Compiler

    User->>GitHub: clone PyTorch repository
    User->>Compiler: set up environment
    Compiler->>User: check CUDA compatibility
    User->>Compiler: run installation command
    Compiler->>User: build PyTorch

八、关系图

接下来，让我们看看 PyTorch 相关的组件和库的关系图：

erDiagram
    USER {
        string name
        string email
    }
    PYTORCH {
        string version
        string status
    }
    CUDA {
        string version
        string compatible
    }

    USER ||--o{ PYTORCH : "uses"
    PYTORCH ||--o{ CUDA : "requires"