heliqi
ac2750910e
Develop encryption (#934)
|
il y a 4 ans | |
|---|---|---|
| .. | ||
| cmake | il y a 4 ans | |
| demo | il y a 4 ans | |
| docs | il y a 4 ans | |
| encryption | il y a 4 ans | |
| model_deploy | il y a 4 ans | |
| scripts | il y a 4 ans | |
| tools | il y a 4 ans | |
| CMakeLists.txt | il y a 4 ans | |
| CMakeSettings.json | il y a 4 ans | |
| README.md | il y a 4 ans | |
README.md
PaddlePaddle模型C++部署
本目录下代码，目前支持以下飞桨官方套件基于PaddleInference的部署。
模型套件支持
- PaddleDetection(release/2.1)
- PaddleSeg(release/2.1)
- PaddleClas(release/2.1)
- PaddleX(release/2.0-rc)
硬件支持
- CPU(linux/windows)
- GPU(linux/windows)
- Jetson(TX2/Nano/Xavier)
文档
PaddleInference编译说明
模型部署说明
模型预测示例
API说明
ONNX模型部署
Paddle的模型除了直接通过PaddleInference部署外，还可以通过Paddle2ONNX转为ONNX后使用第三方推理引擎进行部署，在本目录下，我们提供了基于Triton和TensorRT两个引擎的部署支持。