AutoAWQ安装指南

关注B站可以观看更多实战教学视频：hallo128的个人空间

官方网址：https://pypi.org/project/autoawq/

1. 安装环境要求

必须在有GPU的环境下，无GPU的环境会安装失败

NVIDIA: Your NVIDIA GPU(s) must be of Compute Capability 7.5. Turing and later architectures are supported. Your CUDA version must be CUDA 11.8 or later.

AMD: Your ROCm version must be ROCm 5.6 or later.

您的 NVIDIA 图形处理器(s)必须是计算能力7.5。图灵和以后的架构是支持的。
您的 CUDA 版本必须是 CUDA 11.8或更高版本。

您的 ROCm 版本必须是 ROCm 5.6或更高版本。

2. pip安装

pip install autoawq

3. 源码安装

pip install autoawq@https://github.com/casper-hansen/AutoAWQ/releases/download/v0.2.0/autoawq-0.2.0+cu118-cp310-cp310-linux_x86_64.whl

pip install autoawq@https://github.com/casper-hansen/AutoAWQ.git

git clone https://github.com/casper-hansen/AutoAWQ
cd AutoAWQ
pip install -e .

作者：hallo128