香橙派OrangePi AIpro上手笔记——之USB摄像头目标检测方案测试（三）
整期笔记索引
香橙派OrangePi AIpro上手笔记——之USB摄像头目标检测方案测试（一）
香橙派OrangePi AIpro上手笔记——之USB摄像头目标检测方案测试（二）
香橙派OrangePi AIpro上手笔记——之USB摄像头目标检测方案测试（三）
本章前言
在测试笔记（一）中，我们已经掌握并搭建了板卡的初步调试环境。
在测试笔记（二）中，我们开始逐步上手官方的Demo，进行跑测，首先测试的是Camera图像获取(USB接口)样例。
今天，我们将要跑测：目标检测(USB接口)样例。
官方Demo跑测——02 目标检测（YoloV5s）
【目标检测(USB接口)样例 链接】
Ascend/EdgeAndRobotics - Gitee.com
https://gitee.com/ascend/EdgeAndRobotics/tree/master/Samples/YOLOV5USBCamera
【样例描述】
通过USB接口连接Camera与开发板，从Camera获取视频，基于yolov5s模型对输入视频中的物体做实时检测，将推理结果信息使用imshow方式显示。
YOLOv5是一种单阶段目标检测器算法
YOLOv5s是YOLOv5系列中较为轻量的网络模型，适合在边缘设备部署，进
行实时目标检测。
1、设置环境变量
PS：以HwHiAiUser用户登录开发板。
运行记录：（此处我使用的是命令行方式）
(base) HwHiAiUser@orangepiaipro:~$ export DDK_PATH=/usr/local/Ascend/ascend-toolkit/latest(base) HwHiAiUser@orangepiaipro:~$ export NPU_HOST_LIB=$DDK_PATH/runtime/lib64/stub2、安装ACLLite库
此处可以参考ACLLite仓安装ACLLite库。
ACLLite链接：
Ascend/ACLLitehttps://gitee.com/ascend/ACLLite
【ACLLite库描述】
通过USB接口连接Camera与开发板，从Camera获取视频，基于yolov5s模型对输入视频中的物体做实时检测，将推理结果信息使用imshow方式显示。
- CANN版本要求： 7.0及以上社区版本。
| 命名空间 | 模块 | 说明 |
| acllite | common | 资源管理及公共函数模块 |
| DVPPLite | DVPP高阶封装模块 | |
| OMExecute | 离线模型执行高阶封装模块 | |
| Media | 媒体功能高阶封装模块 |
- 安装依赖
- 安装CANN：
参考社区文档安装CANN
- 安装ffmpeg
（1）通过如下命令查询OS版本
lsb_release -a
此处显示我的操作系统为Ubuntu 22.04
（2）根据版本选择安装方式
根据查询结果选择安装方式此处我选择的是Ubuntu 22.04及以上版本的安装方式：apt安装
apt-get install ffmpeg libavcodec-dev libswscale-dev libavdevice-dev
- 安装步骤
# 拉取ACLLite仓库，并进入目录
git clone https://gitee.com/ascend/ACLLite.gitcd ACLLite
# 设置环境变量，其中DDK_PATH中/usr/local请替换为实际CANN包的安装路径
export DDK_PATH=/usr/local/Ascend/ascend-toolkit/latest
export NPU_HOST_LIB=$DDK_PATH/runtime/lib64/stub
# 安装，编译过程中会将库文件安装到/lib目录下，所以会有sudo命令，需要输入密码
bash build_so.sh
3、样例下载
可以使用以下两种方式下载，请选择其中一种进行源码准备。
- 命令行方式下载（下载时间较长，但步骤简单）。
- 压缩包方式下载（下载时间较短，但步骤稍微复杂）。
运行记录：
# 登录开发板，HwHiAiUser用户命令行中执行以下命令下载源码仓
cd ${HOME}git clone https://gitee.com/ascend/EdgeAndRobotics.git
# 切换到样例目录cd EdgeAndRobotics/Samples/YOLOV5USBCameraPS：所有运行均以HwHiAiUser用户登录开发板，切换到当前样例目录。
4、准备测试视频
请从以下链接获取该样例的测试视频，放在data目录下。
cd datawget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/yolov5s/test.mp4 --no-check-certificate
PS：若需更换测试视频，则需自行准备测试视频，并将测试视频放到data目录下。
5、获取PyTorch框架的Yolov5模型（*.onnx）
获取模型，并转换为昇腾AI处理器能识别的模型（*.om）
- 先设置两个环境变量减少atc模型转换过程中使用的进程数，减小内存占用。
export TE_PARALLEL_COMPILER=1
export MAX_COMPILE_CORE_NUMBER=1
- 然后直接给出原始模型下载及模型转换命令。
cd ../modelwget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/yolov5s/yolov5s.onnx --no-check-certificatewget https://obs-9be7.obs.cn-east-2.myhuaweicloud.com/003_Atc_Models/yolov5s/aipp.cfg --no-check-certificate然后进行模型转换（这一步时间稍长，请耐心等待...）
atc --model=yolov5s.onnx --framework=5 --output=yolov5s --input_shape="images:1,3,640,640" --soc_version=Ascend310B4 --insert_op_conf=aipp.cfg
atc命令中各参数的解释如下，详细约束说明请参见《ATC模型转换指南》。
- --model：Yolov5网络的模型文件的路径。
- --framework：原始框架类型。5表示ONNX。
- --output：yolov5s.om模型文件的路径。请注意，记录保存该om模型文件的路径，后续开发应用时需要使用。
- --input_shape：模型输入数据的shape。
- --soc_version：昇腾AI处理器的版本。
PS：这一步骤时间较长，同时可以看到下图在运行该步骤时，CPU运行占比较高。
完成后，信息显示如下：
6、编译样例源码
执行以下命令编译样例源码
cd ../scriptsbash sample_build.sh
7、运行样例
- 在HDMI连接屏幕场景，执行以下脚本运行样例。此时会以画面的形式呈现推理效果。
bash sample_run.sh imshow
HDMI的屏幕上显示如图：
- 在直连电脑场景，执行以下脚本运行样例。此时会以结果打屏的形式呈现推理效果。
bash sample_run.sh stdout
8、对比查看运行时的cpu和系统状态
| 运行前，系统状态如图 | 运行时，系统状态如图 |
|
|
|
官方Demo跑测——03 体验AI应用样例（运行目标检测）
【样例介绍】
在样例中已经包含转换后的om模型和测试视频、图片
在JupyterLab中运行样例
运行样例文件夹中共有 9 个文件夹和 1 个 shell 文件
分别对应 9 个 AI 应用样例和Jupyter Lab
1、切换到样例目录
(base) HwHiAiUser@orangepiaipro:~$ cd samples/notebooks/2、启动脚本
(base) HwHiAiUser@orangepiaipro:~/samples/notebooks$ ./start_notebook.shstart_notebook.sh脚本，会自动启动 Jupyter Lab
3、执行该脚本
终端会出现如下打印信息
PS：打印信息中会有登录 Jupyter Lab 的网址链接
4、打开火狐浏览器，访问log中的网页
- 首先在jupyterlab界面双击“01-yolov5”，进入到该目录下。
- 双击打开main.ipynb，在右侧窗口中会显示main.ipynb文件中的内容。
其中mian.ipynb是在JupyterLab中运行该样例的文件
- 在main.ipynb文件中infer_mode的值可赋值为image、video和camera，分别对应对图片、视频、USB摄像头中的内容进行目标检测，默认值为video。
- 单击 按钮运行样例，在弹出的对话框中单击“Restart”按钮，此时该样例开始运行。
infer_mode设为image变量时：
infer_mode设为video变量时：
infer_mode设为camera变量时：
附：硬件链接方案：
- 左侧：两个USB接口，一个是摄像头，另一个是USB扩展器(连接键盘鼠标)
- 中间：HDMI屏幕显示
- 右侧：电源连接线
结语
至此，我们的Demo 系列就完成了。
demo 1，我们调通了香橙派调用USB摄像头的环境。
demo 2，我们针对目标检测YoloV5s进行了跑测。
demo 3，我们深入体验板载的AI应用，针对视频、图片和摄像头的目标检测方案，进行了分步跑测。
从系统状态的角度来看，当前目标检测的小demo，并未用尽板子的性能，甚至连一半还没有用到。足可见得，当前开发板的性能对于yolo的一些简单项目来说，是足够使用的。
对于一些AI入门级选手，可以考虑入手，边学习边深入应用。