Android平台有两种方式来调用RKNN API
1)应用直接链接librknnrt.so
2)应用链接Android平台HIDL实现的librknn_api_android.so
对于需要通过CTS/VTS测试的Android设备可以使用基于Android平台HIDL实现的RKNN API。如果不需要通过CTS/VTS测试的设备建议直接链接使用librknnrt.so,对各个接口调用流程的链路更短,可以提供更好的性能。
对于使用Android HIDL实现的RKNN API的代码位于RK356X/RK3588 Android系统SDK的vendor/rockchip/hardware/interfaces/neuralnetworks目录下。当完成Android系统编译后,将会生成一些NPU相关的库(对于应用只需要链接使用librknn_api_android.so即可)
本示例适用于librknn_api_android.so。
编译librknn_api_android.so
需要先下载RK356X/RK3588 Android SDK,在Android SDK根目录执行
```
source build/envsetup.sh
lunch your target ##需要根据自己的实际情况进行选择
mmm vendor/rockchip/hardware/interfaces/neuralnetworks/ -j16
```
将生成
/vendor/lib/librknn_api_android.so
/vendor/lib/librknnhal_bridge.rockchip.so
/vendor/lib64/librknn_api_android.so
/vendor/lib64/librknnhal_bridge.rockchip.so
/vendor/lib64/rockchip.hardware.neuralnetworks@1.0.so
/vendor/lib64/rockchip.hardware.neuralnetworks@1.0-adapter-helper.so
/vendor/lib64/hw/rockchip.hardware.neuralnetworks@1.0-impl.so
/vendor/bin/hw/rockchip.hardware.neuralnetworks@1.0-service
编译本demo
将$RKNPU2_SDK拷贝到Android SDK根目录,并执行:
mmm rknpu2/examples/librknn_api_android_demo
将生成的vendor/bin/rknn_create_mem_demo
将rknn_create_mem_demo推到板子/vendor/bin/目录
将model推到板子/data/目录
确保板子的rockchip.hardware.neuralnetworks@1.0-service已经运行
rknn_create_mem_demo /data/model/RK356X/mobilenet_v1.rknn /data/model/dog_224x224.jpg
rockchip.hardware.neuralnetworks@1.0-service服务没有运行怎么办
如果该服务没有运行,从Android SDK确保vendor/rockchip/hardware/interfaces/neuralnetworks/目录存在,并且重新编译系统固件,并重新烧写到板子上,具体步骤请参考SDK编译固件的说明。
遇到sizeof(rknn_tensor_attr) != sizeof(::rockchip::hardware::neuralnetworks::V1_0::RKNNTensorAttr)的错误
需要更新vendor/rockchip/hardware/interfaces/neuralnetworks到最新代码