代码收藏家技术教程 2024-10-16

vscode对python进行多卡调试

在 VSCode 中对 Python 进行多卡（多GPU）调试，尤其是对于深度学习任务（例如使用 PyTorch 或 TensorFlow），你需要结合 VSCode 的调试功能与分布式训练框架来实现。多卡调试通常意味着你要调试并行的计算任务，这需要协调多个 GPU 的计算资源和并发代码的执行。

1. 环境准备

安装相关工具

确保你安装了以下工具：

VSCode: 安装最新版的 VSCode。

Python 插件: 安装 VSCode 中的 Python 插件（Microsoft 官方插件）。

CUDA 和 GPU 驱动: 如果你在本地进行多卡训练调试，需要安装对应的 GPU 驱动、CUDA 和 cuDNN。

NVIDIA NCCL: 多 GPU 训练时 PyTorch 使用 NCCL 进行通信。

Python Debugger (debugpy): 支持远程和本地调试。

pip install debugpy

2. 在代码中配置调试（`debugpy`）

为了在 VSCode 中进行多卡调试，你可以在代码中添加 debugpy，使得 VSCode 可以附加到正在运行的多卡训练程序中。

在代码中（例如 PyTorch 分布式训练）插入调试的配置：

import torch
import debugpy

def setup_debug(rank):
    if rank == 0:  # 只在主节点上进行调试
        print(f"Debugger listening on rank {rank}")
        debugpy.listen(("0.0.0.0", 5678))  # 监听端口
        debugpy.wait_for_client()  # 等待VSCode调试器附加
        print("Debugger attached")
    else:
        print(f"Running on rank {rank} without debugger")

3. 启动多卡训练

使用 PyTorch 的 torch.distributed.launch 或 torchrun 来启动多 GPU 训练：

torchrun --nproc_per_node=4 --master_port=12345 your_script.py

这里 --nproc_per_node=4 表示你将使用 4 个 GPU。你可以在代码中设置每个 GPU 的任务和逻辑。

4. 配置 VSCode 调试器

打开 VSCode 的 launch.json 配置文件（位于 .vscode/launch.json），并添加调试配置以支持远程调试或多进程调试。
在 launch.json 中为多 GPU 环境添加调试配置：

{
    "version": "0.2.0",
    "configurations": [
        {
            "name": "Python: Attach (remote debugging)",
            "type": "python",
            "request": "attach",
            "host": "localhost",
            "port": 5678,  # 这里与代码中的 debugpy.listen() 保持一致
            "justMyCode": false
        }
    ]
}