heliqi 4c4a1ba1e6 fix trt6 bug (#927) 4 жил өмнө
..
cmake d4f745add9 add dygrah 4 жил өмнө
demo f0ba8601f6 Develop encryption (#919) 4 жил өмнө
docs 7b5df2cda9 Develop doc (#924) 4 жил өмнө
encryption f0ba8601f6 Develop encryption (#919) 4 жил өмнө
model_deploy f0ba8601f6 Develop encryption (#919) 4 жил өмнө
scripts 4c4a1ba1e6 fix trt6 bug (#927) 4 жил өмнө
tools c39072c9e8 add build lib (#893) 4 жил өмнө
CMakeLists.txt 4c4a1ba1e6 fix trt6 bug (#927) 4 жил өмнө
CMakeSettings.json f0ba8601f6 Develop encryption (#919) 4 жил өмнө
README.md 7b5df2cda9 Develop doc (#924) 4 жил өмнө

README.md

PaddlePaddle模型C++部署

本目录下代码,目前支持以下飞桨官方套件基于PaddleInference的部署。

模型套件支持

硬件支持

  • CPU(linux/windows)
  • GPU(linux/windows)
  • Jetson(TX2/Nano/Xavier)

文档

PaddleInference编译说明

模型部署说明

模型预测示例

API说明

ONNX模型部署

Paddle的模型除了直接通过PaddleInference部署外,还可以通过Paddle2ONNX转为ONNX后使用第三方推理引擎进行部署,在本目录下,我们提供了基于Triton和TensorRT两个引擎的部署支持。