目录

一.CUDA安装

二.cuDNN安装

三.TensorRT安装

3.1Pycuda安装

四.TensorFlow安装

五.PyTorch安装

六. DeepStream安装​​​​​​​

​​​​​​​6.1安装依赖软件

​​​​​​​6.2安装DeepStream SDK

​​​​​​​6.3运行DEMO

​​​​​​​七.Multimedia API安装

​​​​​​​八.VPI安装


主要安装部署需要的CUDA,cuDNN,TensorRT,以及推理框架TensorFlow,Pytorch,视觉框架DeepStrem, VPI ,Multimedia等。

一.CUDA安装

1.使用SDKManger下载好的 .deb安装包,或自行下载

2.手动安装CUDA

3.登记GPG KEY

4.安装

执行 sudo apt-get update

sudo apt-get install cuda

安装出现依赖有问题时,保持出厂的源,不要修改,执行

sudo apt –fix-broken install

5.测试CUDA Demo程序

进入/usr/local/cuda-11.4/samples/4_Finance/BlackScholes

注意:源也要保证最初始的,不行,更换国内源

二.cuDNN安装

  1. 将SDKManager下载好的.deb包,传输到板子上

2.手动安装

3.进入/var/cudnn-local-repo-ubuntu2004-8.4.1.50

4.手动安装三个xxx.deb包

5.测试 cuDNN Demo程序

进入/usr/src/cudnn_samples_v8/mnistCUDNN

编译执行demo

​​​​​​​三.TensorRT安装

  1. 在https://developer.nvidia.com/nvidia-tensorrt-8x-download下载对应的.dep包,需对应Ubuntu系统和cuda版本

将.deb包传输至开发板

另一种方式安装(可选)

依次安装提示的库

2.手动安装

配置os和tag变量,并安装

更新包,apt安装tensorrt

安装python3.x

安装TensorRT 使用 TensorFlow的模块

安装ONNX

验证

​​​​​​​3.1Pycuda安装

若需要使用Python编写TensorRT 则需要安装pycuda

安装pip3

sudo apt-get install python3-pip

执行:pip3 install pycuda

​​​​​​​四.TensorFlow安装

安装 :v502为jetpack版本,1.15.5为tensorflow版本,nv22.10为发布日期

查看版本https://developer.nvidia.com/embedded/downloads

sudo pip3 install –extra-index-url https://developer.download.nvidia.com/compute/redist/jp/v502 ‘tensorflow==1.15.5+nv22.10’

卸载:sudo 卸载出现警告是,去掉sudo

查看安装是否成功及版本号

​​​​​​​五.PyTorch安装

1.下载脚本,https://github.com/dusty-nv/jetson-inference

2.进入目录:jetson-inference/tools

3.执行:./install-pytorch.sh

六. DeepStream安装​​​​​​​

​​​​​​​6.1安装依赖软件

1.执行:sudo apt install \

libssl1.1 \

libgstreamer1.0-0 \

gstreamer1.0-tools \

gstreamer1.0-plugins-good \

gstreamer1.0-plugins-bad \

gstreamer1.0-plugins-ugly \

gstreamer1.0-libav \

libgstreamer-plugins-base1.0-dev \

libgstrtspserver-1.0-0 \

libjansson4 \

libyaml-cpp-dev

2.安装librdkafka

 git clone https://github.com/edenhill/librdkafka.git

配置:

git reset –hard 7101c2310341ab3f4675fc565f64f0967e135a6a

./configure

make

sudo make install

sudo mkdir -p /opt/nvidia/deepstream/deepstream-6.1/lib

sudo cp /usr/local/lib/librdkafka* /opt/nvidia/deepstream/deepstream-6.1/lib

​​​​​​​6.2安装DeepStream SDK

1.下载SDK

https://developer.nvidia.com/deepstream_sdk_v6.1.1_jetson.tbz2

2.解压配置

sudo tar -xvf deepstream_sdk_v6.1.1_jetson.tbz2 -C /

cd /opt/nvidia/deepstream/deepstream-6.1

sudo ./install.sh

sudo ldconfig

​​​​​​​6.3运行DEMO

进入cd /opt/nvidia/deepstream/deepstream-6.1/samples

在开发板的显示屏界面操作,

使用SSH连接会出现下面错误

目标检测Demo:

执行 sudo deepstream-app -c configs/deepstream-app/source30_1080p_dec_infer-resnet_tiled_display_int8.txt

​​​​​​​七.Multimedia API安装

1.使用SDKManager 安装

使用SDKManager 烧录系统和安装软件,均需要开发板连接外网,会检查apt update ,若不成功,会安装失败

​​​​​​​八.VPI安装

1.安装VPI repo 的key

sudo apt install gnupg

sudo apt-key adv –fetch-key https://repo.download.nvidia.com/jetson/jetson-ota-public.asc

sudo apt install software-properties-common

2. 安装

sudo apt-get install libnvvpi2

3. 查看

下一篇我将会分多篇给大家分享多个 AI的,分类检测,自动驾驶的语义分割等例子 。