README.md 1.8 KB
PaddlePaddle模型C++部署
本目录下代码，目前支持以下飞桨官方套件基于PaddleInference的部署。
模型套件支持
- PaddleDetection(release/2.1)
- PaddleSeg(release/2.1)
- PaddleClas(release/2.1)
- PaddleX(release/2.0-rc)
硬件支持
- CPU(linux/windows)
- GPU(linux/windows)
- Jetson(TX2/Nano/Xavier)
文档
PaddleInference编译说明
模型部署说明
模型预测示例
API说明
ONNX模型部署
Paddle的模型除了直接通过PaddleInference部署外，还可以通过Paddle2ONNX转为ONNX后使用第三方推理引擎进行部署，在本目录下，我们提供了基于Triton和TensorRT两个引擎的部署支持。