PaddleX支持将训练好的paddle模型通过openvino实现模型的预测加速,OpenVINO详细资料与安装流程请参考OpenVINO
下表提供了PaddleX在不同环境下对使用OpenVINO加速支持情况
| 硬件平台 | Linux | Windows | Raspbian OS | c++ | python | 分类 | 检测 | 分割 |
|---|---|---|---|---|---|---|---|---|
| CPU | 支持 | 支持 | 不支持 | 支持 | 支持 | 支持 | 支持 | 支持 |
| VPU | 支持 | 支持 | 支持 | 支持 | 支持 | 支持 | 不支持 | 不支持 |
其中Raspbian OS为树莓派操作系统。
PaddleX到OpenVINO的部署流程可以分为如下两步:
模型转换请参考文档模型转换
说明:由于不同软硬件平台下OpenVINO模型转换方法一致,模型转换的方法,后续文档中不再赘述。
由于不同软硬下部署OpenVINO实现预测的方式不完全一致,具体请参考:
Linux:介绍了PaddleX在操作系统为Linux或者Raspbian OS,编程语言为C++,硬件平台为
CPU或者VPU的情况下使用OpenVINO进行预测加速
Windows:介绍了PaddleX在操作系统为Window,编程语言为C++,硬件平台为CPU或者VPU的情况下使用OpenVINO进行预测加速
python:介绍了PaddleX在python下使用OpenVINO进行预测加速