YOLOv8实战教程:YOLOv8 TensorRT部署与Python推理保姆级指南

yolov8实战——yolov8TensorRT部署(python推理)(保姆教学)

  • 一 、准备好代码和环境
  • 安装TensorRt
  • 下载代码和安装环境
  • 部署和推理
  • 构建ONNX
  • 构建engine
  • 无torch推理
  • torch推理
  • 最近用到yolov8,但是寻找了一圈才找到了yolov8最佳的部署方法,限于python,所以在此进行总结记录,方便众人,看完此篇,不会纯属自己问题,与我无瓜0.0

    一 、准备好代码和环境

    先创建一个环境吧:

    conda create -n trt python=3.9
    

    安装TensorRt


    TensorRt下载链接
    下载之后,解压,吧其中的bin、include、lib的文件都放到安装cuda的对应文件里即可,然后激活环境trt,pip install python/tensorrt-8.6.1-cp39-none-win_amd64.whl

    下载代码和安装环境

    git clone https://github.com/triple-Mu/YOLOv8-TensorRT.git
    cd YOLOv8-TensorRT
    pip install -r requirements.txt
    

    部署和推理

    构建ONNX

    python export-det.py --weights weights/v8s4/weights/last.pt --iou-thres 0.65 --conf-thres 0.25 --topk 100 --opset 14  --input-shape 1 3 640 640 --device cuda:0 --sim
    

    构建engine

    这是集成了nms,速度更快

    python build.py --weights weights/v8s-faster-twoc-Lcls-coco802/weights/best.onnx --iou-thres 0.65 --conf-thres 0.25 --topk 100 --device cuda:0 --fp16
    

    无torch推理

    python infer-det-without-torch.py --engine best.engine --imgs data --show --method pycuda
    

    torch推理

    python infer-det.py --engine best.engine --imgs data --show 
    

    作者:一休哥※

    物联沃分享整理
    物联沃-IOTWORD物联网 » YOLOv8实战教程:YOLOv8 TensorRT部署与Python推理保姆级指南

    发表回复