heliqi
5c4294d57a
deploy support pdx 2.0.0rc model (#873)
|
před 4 roky | |
|---|---|---|
| .. | ||
| cmake | před 4 roky | |
| demo | před 4 roky | |
| docs | před 4 roky | |
| model_deploy | před 4 roky | |
| scripts | před 4 roky | |
| CMakeLists.txt | před 4 roky | |
| CMakeSettings.json | před 4 roky | |
| README.md | před 4 roky | |
README.md
PaddlePaddle模型C++部署
本目录下代码，目前支持以下飞桨官方套件基于PaddleInference的部署。
模型套件支持
- PaddleDetection(release/2.1)
- PaddleSeg(release/2.1)
- PaddleClas(release/2.1)
- PaddleX(release/2.0-rc)
硬件支持
- CPU(linux/windows)
- GPU(linux/windows)
- Jetson(TX2/Nano/Xavier)
文档
PaddleInference编译说明
模型部署说明
API说明
ONNX模型部署
Paddle的模型除了直接通过PaddleInference部署外，还可以通过Paddle2ONNX转为ONNX后使用第三方推理引擎进行部署，在本目录下，我们提供了基于Triton和TensorRT两个引擎的部署支持。