Inicio Explorar Axuda
Rexistro Iniciar sesión
zhengchun
/
PaddleX
1
0
Fork 0
Ficheiros Incidencias 0 Pull Requests 0 Wiki
Árbore: cbbcb31f72
Ramas Etiquetas
PaddleX
/
dygraph
/
deploy
/
cpp
FlyingQianMM cbbcb31f72 add meter reader pretrain weights %!s(int64=4) %!d(string=hai) anos
..
cmake d4f745add9 add dygrah %!s(int64=4) %!d(string=hai) anos
demo 6fd365740c preprocess optimize (#840) %!s(int64=4) %!d(string=hai) anos
docs cbbcb31f72 add meter reader pretrain weights %!s(int64=4) %!d(string=hai) anos
encryption dd6ce1657e add model and stream encryption and decryption SDK %!s(int64=4) %!d(string=hai) anos
model_deploy c39072c9e8 add build lib (#893) %!s(int64=4) %!d(string=hai) anos
scripts c39072c9e8 add build lib (#893) %!s(int64=4) %!d(string=hai) anos
tools c39072c9e8 add build lib (#893) %!s(int64=4) %!d(string=hai) anos
CMakeLists.txt 6fd365740c preprocess optimize (#840) %!s(int64=4) %!d(string=hai) anos
CMakeSettings.json bdec24f520 fix cmakelist copy error (#799) %!s(int64=4) %!d(string=hai) anos
README.md 3415ec759a support tensorrt and modify docs (#790) %!s(int64=4) %!d(string=hai) anos

README.md

PaddlePaddle模型C++部署

本目录下代码，目前支持以下飞桨官方套件基于PaddleInference的部署。

模型套件支持

硬件支持

  • CPU(linux/windows)
  • GPU(linux/windows)
  • Jetson(TX2/Nano/Xavier)

文档

PaddleInference编译说明

模型部署说明

API说明

ONNX模型部署

Paddle的模型除了直接通过PaddleInference部署外，还可以通过Paddle2ONNX转为ONNX后使用第三方推理引擎进行部署，在本目录下，我们提供了基于Triton和TensorRT两个引擎的部署支持。