香橙派OrangePi AIpro，助力国产AIoT迈向新的台阶！

前言：很高兴受邀CSDN与OrangePi官方组织的测评活动，本次测评是一块基于AI边缘计算的香橙派开发板OrangePi AIpro。这是 香橙派 联合 华为昇腾 合作精心打造的新一代边缘AI计算产品，于2023年12月初发布，提供 8/20TOPS澎湃算力[1]，能覆盖生态开发板者的主流应用场景，让用户实践各种创新场景，并为其提供配套的软硬件。价格方面也是颇具性价比，8TOPS、8GB内存的创客价/预售价仅为799元。

本篇博文就围绕OrangePi AIpro 开发板进行较为全面的测评，包括基础开箱及环境配置，同时会从 AI 和 IOT 两个部分进行较为深入的测评体验。  

开箱测评

开箱展示

拿到产品，第一时间进行了拆箱。可以看到包装非常的专业、很严实，产品包括OrangePi AIpro开发板、65w pd充电器、充电线。瓷漆的设计高端大气，各细节考虑全面，很有质感。看了下充电器参数，兼容了5V/3A、9V/3A、12V/3A、15V/3A、20V/3.25A这几个常见的电压和电流输出，同时看到散热风扇和烧录系统镜像的32G内存卡都已经安装好了，一般AI CPU运行模型都需要散热，将芯片维持在一个正常的温度范围内是很有必要的。所以拿到板子不需要额外过多的安装步骤，开箱就能用起来，这一点还是非常友好的。

芯片方面，拆开风扇可以看到丝印上印制CN，表示中国制造的国产华为芯片，不过具体哪个厂商制作的目前还不清楚。可以说拿到这块香橙派开发板还是感觉很自豪的，即使国外限制芯片也不必担心，我们也拥有自己优秀的AI芯片，所以非常值得我们学习和使用OrangePi AIpro。

视图展示

下面是官方的开发板正反面视图，更好地展示香橙派细节。

正面试图：

背面试图：

注意到MIPI摄像头和显示器的接口，三年前玩过树莓派3B，也有摄像头的接头，没记错的话接口应该是一样的。板载的蓝牙WIFI天线，这里还专门标出来2.4G频段。背面可以看到可以接M.2的固态硬盘，定位孔和传统的开发板设计是非常相似的，上手也是非常的友好 。

⚠香橙派提醒：使用板子时天线不能贴到板子上，同时天线上的导电布也不能挨着板子，否则可能会烧坏板子哦~

接线登录

OrangePi AIpro的接线非常简单，因为板子上有个Micro-USB的调试串口，旁边正好有一根Micro-USB接口的接线。可是插入电脑没识别到串口，这根线好久没用可能坏掉了，现在更常见的是Type-C接口的，手头也没有其他Micro-USB的线了，不过没关系，还可以使用CH340串口调试工具。按照官方手册，UART0 的 TX 和 RX 引脚接到了40 Pin 扩展接口中的8号和10号引脚。

注意：查看手册，这里拨码开关BOOT1和BOOT2都拨到右边，否则无法正常启动内核。

刚上电风扇飕飕一顿转，吓我一跳，哈哈！看来是板子运行起来了，过一会风扇速度降下来了，风扇转速应该是软件控制的，后面再改一下吧。

打开MobaXterm软件，使用串口登录，这里波特率设置115200，RESET后打印启动信息和登录命令行，输入如下账号和密码即可完成串口登录：

除了串口，还有更为方便的WIFI方式连接到开发板，因为板子是带WIFI模块的。这里电脑和开发板连接同一个路由器，确保IP地址在同一个网段下，这样我们就能用SSH连接开发板，然后就可以把串口线拿掉，方便开发调试。

#板子搜索连接周围WIFI热点的方法：
nmcli dev wifi  #WIFI扫描
sudo nmcli dev wifi connect wifi_name password wifi_passwd
wifi_name：    需要换成想连接的WIFI 热点的名字。
wifi_passwd：  需要换成想连接的WIFI 热点的密码。

电脑和开发板连接同一个路由器并处在同一个网段后，就可以通过终端输入ssh HwHiAiUser@xxx.xxx.xx.xx远程登录开发板了，密码对应为Mind@123，当然也可以直接使用mobaxterm进行连接，这也是官方推荐的方式，

外设引脚

OrangePi AIpro接口很丰富，引脚也引出来了，一共40 Pin，非常的细致，如下图所示：

这里手册也介绍了40 Pin 接口使用的一些注意事项：

• 40 pin 接口中总共有26 个GPIO 口，但8 号和10 号引脚默认是用于调试串口功能的，并且这两个引脚和Micro USB 调试串口是连接在一起的，所以这两个引脚请不要设置为GPIO 等功能。

• 所有的GPIO 口的电压都是3.3v。

• 40 pin 接口中27 号和28 号引脚只有I2C 的功能，没有GPIO 等其他复用功能，另外这两个引脚的电压默认都为1.8v。

有了以上这些基本的环境搭建和板子初步了解后，就可以初步体验一下部分外设功能了。

点亮一盏LED灯

作为一名嵌入式工程师，拿到一块新的板子，怎么能不点亮一盏灯呢？正好手里有一个HW-269灯珠模块，使用杜邦线飞线连接，这里选取了几个靠近的GPIO进行接线。

具体接线：香橙派两个提供5V电源分别接到灯珠引脚2和引脚3，GPIO2_15连接灯珠引脚3，输出低电平即可点亮灯。

手册里介绍 Linux 镜像中预装了 gpio_operate 工具用于设置 GPIO 管脚的输入与输出方向，也可将每个GPIO 管脚独立的设为 0 或 1。

gpio_operate set_direction 2 15 1  //设置GPIO2_15为输出方向
gpio_operate set_value 2 15 0      //设置GPIO2_15输出低电平，点亮
gpio_operate set_value 2 15 0      //设置GPIO2_15输出高电平，熄灭

接好线，命令行分别键入设置GPIO方向以及输出电平，可以发现灯亮了，燃起来了！好像又回到了最初学习单片机的场景，一瞬间有点恍惚......

感受：

这里不得不说香橙派 AIpro的 40 Pin引脚确实丰富，提供了丰富的外设资源，包含：GPIO、I2C、UART、SPI 和 PWM等功能。Linux 镜像中给我们提前预装了 gpio_operate 工具用于设置 GPIO 管脚的输入与输出方向，也可将每个 GPIO 管脚独立的设为 0 或 1。很方便。后面自己又试用了 USART、SPI、IIC，手册上都有对应的例程，稍加改动就能应用到实际的项目中去。

OrangePi AIpro AI功能体验测评

登录juypter lab

官方手册给出的几个AI例程均在 Linux 系统桌面使用，这里如果你没有HDMI屏幕的话，可以在电脑上远程连接的，需要确保开发板和电脑在同一个频段，将板子IP跟在notebooks启动脚本后面即可。具体操作步骤如下：

首先进入这个目录：

 cd ~/samples/notebooks

开启notebook服务器：

./start_notebook.sh 192.168.2.109  #IP是OrangePi AIpro开发板的地址

将上图中红框内容粘贴到Chrome浏览器，如下所示，即可运行官方预制的AI例程了，可以看到有9个AI样例，下面就挑选几个感受一下OrangePi AIpro的算力。

目标检测用例测评

该样例中 infer_mode 的值可赋值为image、video 和camera，分别对应对图片、视频、USB 摄像头中的内容进行目标检测，默认值为video。这里使用的是video，实际运行启动时间大概20秒，检测效果不错，没有出现误标情况。

这里在运行此模型时我SSH另起一个连接，以此检测案例运行过程中芯片的数据信息，键入如下指令：

npu-smi info watch

在运行目标检测YOLOv5s例程时，通过监测发现芯片温度稳定在57°左右，正常待机时在52°左右，在风扇加持下温度没有明显上升；AI Core占用率不超过30%，内存占用率稳定在37%，可见YOLOv5轻量的网络在OrangePi AIpro运行还是挺流畅，适合在边缘设备部署，进行实时目标检测。

文字识别用例测评

OCR一般指Scene Text Recognition （场景文字识别），主要面向自然场景。 OCR两阶段方法一般包含两个模型，检测模型负责找出图像或视频中的文字位置，识别模型负责将图像信息转换为文本信息。此样例中，我们使用的检测模型为CTPN，识别模型则是SVTR。

运行结果：两排字均能识别出来，包括标点符号，识别速度还是很快的。

目标分类用例测评

运行结果：案例运行大概3秒后，我们可以看到模型对图片进的推理结果，一共展示了五种类别的置信度，最高的置信度类别是Standard Poodle，达到94%，效率很高。

OrangePi AIpro IoT亚马逊云使用测评

IoT作为AIoT的重要组成部分，正好作者最近工作和这方面强相关，对IoT也比较熟悉，在这里顺带测试一下OrangePi AIpro 在IoT方面的使用效果，这里选取的是AWS亚马逊云。

连接AWS IoT Core

AWS IoT Core 支持与 IoT 设备、无线网关、服务和应用程序的连接。设备可以连接到服务和其他设备，这样它们就可以向 AWS IoT 服务和其他设备发送数据和从中接收数据。应用程序和其他服务还可以连接 AWS IoT Core 以控制和管理物联网设备，并处理来自物联网解决方案的各种数据。

SDK 和工具

• 这些AWS 软件开发工具包为 API 和其他服务的 AWS IoT Core API 提供特定语言的支持。 AWS AWS 移动 SDK 为应用程序开发者提供针对特定平台的 AWS IoT Core API 支持，以及移动设备上的其他 AWS 服务。

• AWS CLI提供对 AWS IoT 服务端点提供命令行访问权限，并提供在 PowerShell 脚本环境中管理 AWS 服务和资源的工具。

身份验证

• 服务终端节点使用 IAM 用户和 AWS 证书对用户进行身份验证。

连接前需要先创建一个产品，详细细节参考文档：创建AWS IoT资源，然后保存Download certificates and keys，下载根 CA 文件，入下图所示：

将证书私钥等文件保存到香橙派的root/certs路径下保持，使用SSL加密socket通信导入到AWS SDK即可，入下所示。

static int32_t setCredentials( SSL_CTX * pSslContext,const OpensslCredentials_t * pOpensslCredentials )
{int32_t sslStatus = 0;sslStatus = setRootCa( pSslContext, pOpensslCredentials->pRootCaPath );sslStatus = setClientCertificate( pSslContext, pOpensslCredentials->pClientCertPath );sslStatus = setPrivateKey( pSslContext, pOpensslCredentials->pPrivateKeyPath );return sslStatus;
}

使用官方AWS IoT 嵌入式 C 示例的设备 SDK运行程序，由于是C语言，需要在香橙派安装CMake，编译后运行查看日志发现已经先后成功地建立TLS和MQTT连接。

基于MQTT数据交互

Json格式的请求响应文档下格式如下所示：

{"state": {"desired": {"attribute1": integer2,"attribute2": "string2",..."attributeN": boolean2},"reported": {"attribute1": integer1,"attribute2": "string1",..."attributeN": boolean1}},"clientToken": "token","version": version
}

• state — 更新仅影响指定字段。通常，您将使用 desired 或 reported 属性，但不能在同一请求中同时使用这两个属性。

  • desired — 请求在设备中更新的状态属性和值。

  • reported — 设备报告的状态属性和值。

• clientToken — 如果使用，您可以通过客户端令牌匹配请求和相应的响应。

• version 如果使用，仅当指定的版本与 Device Shadow 服务拥有的最新版本相符时，该服务才会处理更新。

我们通过desired 和reported 这种AWS的格式，实现数据上报和下发控制。

OTA初探

作为一款AI功能开发板，当我们的模型经过不断迭代优化后，需要将新的程序更新到板子，这里就需要通过远程空中下载的方式给设备升级(OTA)。使用AWS JOB机制便可实现功能，同时考虑到Linux升级文件一般会比较大，为了加快升级速度这里引用差分逻辑。

下面是AWS 官方文档给出的整个JOB 流转过程，这里简单移植使用了一下。

我把OrangePi AIpro的初始版本号设置成0.0.0，云平台上传了两个基础包和一个差分包，这里升级检测的时候会下载这两个差分包和全包，然后还原成原始文件。在板载外置天线加持下，下载速度还是比较快的，这里我只是把包下载好了，然后直接上报升级成功。后面有时间会研究一下OrangePi AIpro bootloader相关内容，把完整的OTA链路打通。

总结建议

本文通过开箱简单做了测评，从OrangePi AIpro的试图展示到外设资源，同时也点亮了一盏LED灯初步感受这块开发板的使用体验，然后从AI和IOT两个方面进行较为细致的测试。由于是第一次接触香橙派，以前一直使用的都是树莓派，经过对比发现OrangePi AIpro功能还是非常的强大，生态比想象的要完善，虽然网上相关资源比树莓派要少，但通过阅读官方手册就能上手，还是比较全面的。同时开发板的外观精致，包装专业，配件也齐全。可以发现OrangePi AIpro无论是在人工智能领域、工业自动化、还是智能家居等，都是一个不错的选择。

不过在使用过程中，个人感觉有以下两个点可以优化下：

• 1、相比较之前使用过的树莓派，Micro-USB的串口调试很方便，不过建议换成Type-C接口更好，毕竟更普遍；

• 2、两个BOOT拨码开关都在板子背面，如果开发板放入金属壳子，打开顶盖是看不到拨码开关的，需取下板子才能更改拨码开关位置，放置正面会更方便一点，或许官方觉得一般人不会频繁更改启动配置吧。

未来展望

昇腾的不断发展在AIoT领域发挥着越来越重要的作用，但相比较树莓派成熟的生态体系来讲还有一段距离，毕竟进场晚，不过没关系，有这么多优秀的开发工程师不断使用、改进、分享合作，共同推动昇腾AI官方社区生态发展，所谓前人种树，后人乘凉。同时我们对国产品牌也要有信心，期待香橙派与华为昇腾团不断更新迭代，促进国产AIoT为各行业的智能化转型赋能。

以上是OrangePi AIpro到手一周的使用感受，后期有时间会继续探索输出更多有关OrangePi AIpro教程及技术博文，欢迎大家交流探讨。

[1]:TOPS，全称为Tera Operations Per Second，是处理器运算能力单位。TOPS是Tera Operations Per Second的缩写，1TOPS代表处理器每秒钟可进行一万亿次（10^12）操作。昇腾论坛有博主专门对此做了对比测试。