|
|
@@ -2,7 +2,7 @@
|
|
|
|
|
|
PaddleX提供一个轻量级的模型加密部署方案，通过PaddleX内置的模型加密工具对推理模型进行加密，预测部署SDK支持直接加载密文模型并完成推理，提升AI模型部署的安全性。
|
|
|
|
|
|
-**注意：目前加密方案仅支持Linux系统**
|
|
|
+**目前加密方案已支持Windows，Linux系统**
|
|
|
|
|
|
## 1. 方案简介
|
|
|
|
|
|
@@ -40,9 +40,11 @@ PaddleX提供一个轻量级的模型加密部署方案，通过PaddleX内置的
|
|
|
|
|
|
### 1.2 加密工具
|
|
|
|
|
|
-[PaddleX模型加密工具](https://bj.bcebos.com/paddlex/tools/paddlex-encryption.zip)。在编译部署代码时，编译脚本会自动下载加密工具，您也可以选择手动下载。
|
|
|
+[Linux版本 PaddleX模型加密工具](https://bj.bcebos.com/paddlex/tools/paddlex-encryption.zip)，编译脚本会自动下载该版本加密工具，您也可以选择手动下载。
|
|
|
|
|
|
-加密工具包含内容为：
|
|
|
+[Windows版本 PaddleX模型加密工具](https://bj.bcebos.com/paddlex/tools/win/paddlex-encryption.zip)，该版本加密工具需手动下载。
|
|
|
+
|
|
|
+Linux加密工具包含内容为：
|
|
|
```
|
|
|
paddlex-encryption
|
|
|
├── include # 头文件：paddle_model_decrypt.h（解密）和paddle_model_encrypt.h（加密）
|
|
|
@@ -52,22 +54,38 @@ paddlex-encryption
|
|
|
└── tool # paddlex_encrypt_tool
|
|
|
```
|
|
|
|
|
|
+Windows加密工具包含内容为：
|
|
|
+```
|
|
|
+paddlex-encryption
|
|
|
+├── include # 头文件：paddle_model_decrypt.h（解密）和paddle_model_encrypt.h（加密）
|
|
|
+|
|
|
|
+├── lib # pmodel-encrypt.dll和pmodel-decrypt.dll动态库 pmodel-encrypt.lib和pmodel-encrypt.lib静态库
|
|
|
+|
|
|
|
+└── tool # paddlex_encrypt_tool.exe 模型加密工具
|
|
|
+```
|
|
|
### 1.3 加密PaddleX模型
|
|
|
|
|
|
对模型完成加密后，加密工具会产生随机密钥信息(用于AES加解密使用），需要在后续加密部署时传入该密钥来用于解密。
|
|
|
> 密钥由32字节key + 16字节iv组成， 注意这里产生的key是经过base64编码后的，这样可以扩充key的选取范围
|
|
|
|
|
|
+Linux:
|
|
|
```
|
|
|
./paddlex-encryption/tool/paddlex_encrypt_tool -model_dir /path/to/paddlex_inference_model -save_dir /path/to/paddlex_encrypted_model
|
|
|
```
|
|
|
|
|
|
+Windows:
|
|
|
+```
|
|
|
+./paddlex-encryption/tool/paddlex_encrypt_tool.exe -model_dir /path/to/paddlex_inference_model -save_dir /path/to/paddlex_encrypted_model
|
|
|
+```
|
|
|
+
|
|
|
`-model_dir`用于指定inference模型路径（参考[导出inference模型](deploy_python.html#inference)将模型导出为inference格式模型），可使用[导出小度熊识别模型](deploy_python.html#inference)中导出的`inference_model`（**注意**：由于PaddleX代码的持续更新，版本低于1.0.0的模型暂时无法直接用于预测部署，参考[模型版本升级](../upgrade_version.md)对模型版本进行升级。)。加密完成后，加密过的模型会保存至指定的`-save_dir`下，包含`__model__.encrypted`、`__params__.encrypted`和`model.yml`三个文件，同时生成密钥信息，命令输出如下图所示，密钥为`kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=`
|
|
|
|
|
|
|
|
|
|
|
|
## 2. PaddleX C++加密部署
|
|
|
|
|
|
-参考[Linux平台编译指南](deploy_cpp/deploy_cpp_linux.html#linux)编译C++部署代码。编译成功后，预测demo的可执行程序分别为`build/demo/detector`，`build/demo/classifer`，`build/demo/segmenter`，用户可根据自己的模型类型选择，其主要命令参数说明如下：
|
|
|
+### 2.1 Linux平台使用
|
|
|
+参考[Linux平台编译指南](deploy_cpp/deploy_cpp_linux.md)编译C++部署代码。编译成功后，预测demo的可执行程序分别为`build/demo/detector`，`build/demo/classifer`，`build/demo/segmenter`，用户可根据自己的模型类型选择，其主要命令参数说明如下：
|
|
|
|
|
|
| 参数 | 说明 |
|
|
|
| ---- | ---- |
|
|
|
@@ -83,7 +101,7 @@ paddlex-encryption
|
|
|
|
|
|
## 样例
|
|
|
|
|
|
-可使用[导出小度熊识别模型](deploy_python.html#inference)中的测试图片进行预测。
|
|
|
+可使用[导出小度熊识别模型](deploy_python.md#inference)中的测试图片进行预测。
|
|
|
|
|
|
`样例一`：
|
|
|
|
|
|
@@ -108,3 +126,34 @@ paddlex-encryption
|
|
|
./build/demo/detector --model_dir=/path/to/models/inference_model --image_list=/root/projects/images_list.txt --use_gpu=1 --save_dir=output --key=kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=
|
|
|
```
|
|
|
`--key`传入加密工具输出的密钥，例如`kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=`, 图片文件`可视化预测结果`会保存在`save_dir`参数设置的目录下。
|
|
|
+
|
|
|
+### 2.2 Windows平台使用
|
|
|
+参考[Windows平台编译指南](deploy_cpp/deploy_cpp_win_vs2019.md)。参数与Linux版本预测部署一致。预测demo的入口程序为paddlex_inference\detector.exe，paddlex_inference\classifer.exe，paddlex_inference\segmenter.exe。
|
|
|
+
|
|
|
+## 样例
|
|
|
+
|
|
|
+可使用[导出小度熊识别模型](deploy_python.md#inference)中的测试图片进行预测。
|
|
|
+
|
|
|
+`样例一`：
|
|
|
+
|
|
|
+不使用`GPU`测试图片 `/path/to/xiaoduxiong.jpeg`
|
|
|
+
|
|
|
+```shell
|
|
|
+./paddlex_inference\detector.exe --model_dir=/path/to/inference_model --image=/path/to/xiaoduxiong.jpeg --save_dir=output --key=kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=
|
|
|
+```
|
|
|
+`--key`传入加密工具输出的密钥，例如`kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=`, 图片文件`可视化预测结果`会保存在`save_dir`参数设置的目录下。
|
|
|
+
|
|
|
+
|
|
|
+`样例二`:
|
|
|
+
|
|
|
+使用`GPU`预测多个图片`/path/to/image_list.txt`，image_list.txt内容的格式如下：
|
|
|
+```
|
|
|
+/path/to/images/xiaoduxiong1.jpeg
|
|
|
+/path/to/images/xiaoduxiong2.jpeg
|
|
|
+...
|
|
|
+/path/to/images/xiaoduxiongn.jpeg
|
|
|
+```
|
|
|
+```shell
|
|
|
+./paddlex_inference\detector.exe --model_dir=/path/to/models/inference_model --image_list=/root/projects/images_list.txt --use_gpu=1 --save_dir=output --key=kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=
|
|
|
+```
|
|
|
+`--key`传入加密工具输出的密钥，例如`kLAl1qOs5uRbFt0/RrIDTZW2+tOf5bzvUIaHGF8lJ1c=`, 图片文件`可视化预测结果`会保存在`save_dir`参数设置的目录下。
|
jack