目录

  • jetson nano环境配置+yolov5部署+tensorRT加速模型
    • 致谢
    • 主机和jetson nano环境
    • jetson系统开机烧录、系统设置、换源
    • python环境配置
    • conda环境
    • yolov5环境
    • matplotlib和opencv-python
    • tensorRT加速
    • Jetson Nano的conda 虚拟环境中使用TensorRT
      • 建立软链接
      • 查看版本
    • 运行export.py和detect.py
    • 其他错误
      • KeyError: ‘names’
    • 总结
    • 其他可能有用的参考文章
    • 图片展示

jetson nano环境配置+yolov5部署+tensorRT加速模型

断断续续地前后花了一个多星期配置环境以及部署模型，期间也报了无数错误，参考了很多文档，求助了身边的朋友，因此尽可能详细的记录一下这个过程。

致谢

此处感谢Xnhyacinth在配置过程中对我的帮助哈哈哈꒰ঌ( ⌯’ ‘⌯)໒꒱

主机和jetson nano环境

我主机上的环境是python3.9，cuda11.6
jetson nano环境jetpack4.6，cuda10.2，python3.6（conda）

jetson系统开机烧录、系统设置、换源

先熟悉各个接口及其功能，具体可参考NVIDIA官方文档（见下文）先组装好买来的风扇，准备好无线网卡，我用的是即插即用的usb版本的无线网卡，JD上有卖，组装时发现jetson nano开发板上有一个跳线帽，那里默认是没有短接的，这样的话只能连接电脑电源，必须先把跳线帽短接才能连接直流电源。
NVIDIA jetson nano官网
刚开始的烧录，sd卡格式化以及相关工作都是对照这个来的，基本没什么问题。完成之后就可以得到一个Ubuntu18.04的系统，然后如果有无线网卡可以直接连接WiFi，我后面一般都是通过xshell连接开发板，直接在主机操作，除了需要查看图片或者视频的时候才接屏幕。
这个阶段我还部分参考了以下文档，在此做一个记录不赘述了。
Nvidia Jetson Nano介绍与使用指南
Jetson Nano 从入门到实战（案例：Opencv配置、人脸检测、二维码检测）这篇文章我主要参考了2.4.1到2.4.3的部分，配置了一些系统环境并换源，因为不换源下载东西速度可能比较慢，具体如何换源的网上资料很多，可以自行查阅。

python环境配置

刚开始我没有用虚拟环境，自带的环境里是python2.7，先下载3.6,又在环境里装了torch，花了好几天所有环境全部装完到最后跑yolov5的时候还是报错，然后请教了其他人，让我安装conda的虚拟环境，于是从头再来，重新装conda环境。前面的坑我就不说了，我们直接安装conda环境。建议卡在这里的也可以直接使用conda环境，确实方便很多。

conda环境

安装conda环境前我们要一直意识到一个问题，jetson nano是aarch64架构的，因此Jetson Nano开发板无法成功安装Anaconda。下载所有环境配置或者网上搜攻略都要加上jetson nano或者arm64位架构。conda环境同样如此，miniconda和anconda都不支持jetson nano，我们需要下载archiconda（Archiconda是用于64位ARM平台的Conda发行版），命令和使用方式和前两者都一样，所以也很方便。下载地址如下。
下载地址
安装完成之后按照在Windows系统上一样创建环境，（可以搜索如何用conda创建环境，我这里装的是python3.6）创建完成后激活环境（我给环境取名为yolov5）

#激活环境conda activate yolov5

然后我们需要先安装很多包，很多很多。。我参考的是下面这个链接。建议这篇文章的第七步之前都可以按照作者写的走一遍，特别是下载一些包和cmake那段，一条一条命令复制过去安装，不然后面安装环境的时候会发现很多包下载不成功。
Jetson Nano部署YOLOv5与Tensorrtx加速——（自己走一遍全过程记录）

yolov5环境

然后接下来可以直接把你的yolo代码传到开发板上（我用的xftp），也可以先用官方的代码测试一下，先把环境跑一遍。我这里是先用官方代码跑了一遍再放的自己的代码。
先在jetson nano上安装一个git，然后直接

git clone https://github.com/ultralytics/yolov5.git

应该默认的是v7.0，反正是测试无关紧要。git下来之后，cd到yolov5主目录下，直接

pip install -r requirements.txt

应该有一部分下载不成功，先别着急，可以试着看看里面有哪些包需要安装，一个一个安装，尽量选低一些版本，实在不行手动下载安装包到本地然后安装，有找不到的包可以去pypi.org搜索下载，注意选择历史版本，然后选合适的python版本和系统版本，关键词“linux”“cp36”“arrch64”。

matplotlib和opencv-python

我当时遇到的情况是有两个包安装不上，耽搁了一天，一个是matplotlib，一个是opencv-python。第二个包我甚至参考了很多网上的编译安装opencv的教程，用c++编译安装的方式折腾了很久，实际上不需要，只要参考Jetson Nano部署YOLOv5与Tensorrtx加速——（自己走一遍全过程记录）并把作者的那些环境配置安装完之后就解决了。
全部环境安装完成之后直接命令行切到主目录然后输入python detect.py执行，如果下载速度很慢可以提前去yolov5官方仓库把yolov5s.pt下载到主目录，没有报错就会在run/detect/exp目录下生成两张图片，这就成功了。

tensorRT加速

tensorRT本质上就是把模型压缩，变得更快，因为jetson nano算力不够所以需要加速。官方仓库在这里我参考的仓库里面的README.md文档，按照他的指令转化成wts以及engine格式的模型文件。
另外还包括以下几篇文章的tensor加速部分。但是以下文章的该部分仅供参考，要确保自己的yolo以及各项版本和你下载的tensorRT一致（实际上很有可能不一致，也就是说即使生成了engine文件也用不了）。
Jetson nano上部署自己的Yolov5模型（TensorRT加速）onnx模型转engine文件
Jetson Nano部署YOLOv5与Tensorrtx加速——（自己走一遍全过程记录）
之所以说仅供参考是因为

1. 里面的部分内容与实际情况不一致
比如修改训练好的模型数量，默认是80我们不需要修改，但如果是自己训练的模型就需要修改，修改地址并非他们所说的tensorrtx/yolov5/yololayer.h，而是应该参考官方文档README里面的这样一句话：

 cd [PATH-TO-TENSORRTX]/yolov5/ # Update kNumClass in src/config.h if your model is trained on custom dataset

上面的注释中提到了如果要修改分类数量应该在src/config.h文件中更新kNumClass变量

但是还是有可能报错，TensorRT生成engine文件异常（[TRT] Network::addScale::434, condition: shift.count ＞ 0 ” />