mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2026-04-25 09:57:51 +08:00
yeliang2258
45865c8724
* [FlyCV] Bump up FlyCV -> official release 1.0.0 * XPU to KunlunXin * update * update model link * update doc * update device * update code * useless code Co-authored-by: DefTruth <qiustudent_r@163.com> Co-authored-by: DefTruth <31974251+DefTruth@users.noreply.github.com>
78 lines
3.8 KiB
Markdown
Executable File
78 lines
3.8 KiB
Markdown
Executable File
[English](../../en/build_and_install/kunlunxin.md) | 简体中文
|
|
|
|
# 昆仑芯 XPU 部署环境编译安装
|
|
|
|
FastDeploy 基于 Paddle Lite 后端支持在昆仑芯 XPU 上进行部署推理。
|
|
更多详细的信息请参考：[Paddle Lite部署示例](https://www.paddlepaddle.org.cn/lite/develop/demo_guides/kunlunxin_xpu.html#xpu)。
|
|
|
|
本文档介绍如何编译基于 Paddle Lite 的 C++ FastDeploy 编译库。
|
|
|
|
相关编译选项说明如下：
|
|
|编译选项|默认值|说明|备注|
|
|
|:---|:---|:---|:---|
|
|
| WITH_KUNLUNXIN| OFF | 需要在昆仑芯XPU上部署时需要设置为ON | - |
|
|
| ENABLE_ORT_BACKEND | OFF | 是否编译集成ONNX Runtime后端 | - |
|
|
| ENABLE_PADDLE_BACKEND | OFF | 是否编译集成Paddle Inference后端 | - |
|
|
| ENABLE_OPENVINO_BACKEND | OFF | 是否编译集成OpenVINO后端 | - |
|
|
| ENABLE_VISION | OFF | 是否编译集成视觉模型的部署模块 | - |
|
|
| ENABLE_TEXT | OFF | 是否编译集成文本NLP模型的部署模块 | - |
|
|
|
|
第三方库依赖指定（不设定如下参数，会自动下载预编译库）
|
|
| 选项 | 说明 |
|
|
| :---------------------- | :--------------------------------------------------------------------------------------------- |
|
|
| ORT_DIRECTORY | 当开启ONNX Runtime后端时，用于指定用户本地的ONNX Runtime库路径；如果不指定，编译过程会自动下载ONNX Runtime库 |
|
|
| OPENCV_DIRECTORY | 当ENABLE_VISION=ON时，用于指定用户本地的OpenCV库路径；如果不指定，编译过程会自动下载OpenCV库 |
|
|
| OPENVINO_DIRECTORY | 当开启OpenVINO后端时, 用于指定用户本地的OpenVINO库路径；如果不指定，编译过程会自动下载OpenVINO库 |
|
|
更多编译选项请参考[FastDeploy编译选项说明](./README.md)
|
|
|
|
## 基于 Paddle Lite 的 C++ FastDeploy 库编译
|
|
- OS: Linux
|
|
- gcc/g++: version >= 8.2
|
|
- cmake: version >= 3.15
|
|
此外更推荐开发者自行安装，编译时通过`-DOPENCV_DIRECTORY`来指定环境中的OpenCV（如若不指定-DOPENCV_DIRECTORY，会自动下载FastDeploy提供的预编译的OpenCV，但在**Linux平台**无法支持Video的读取，以及imshow等可视化界面功能）
|
|
```
|
|
sudo apt-get install libopencv-dev
|
|
```
|
|
编译命令如下：
|
|
```bash
|
|
# Download the latest source code
|
|
git clone https://github.com/PaddlePaddle/FastDeploy.git
|
|
cd FastDeploy
|
|
mkdir build && cd build
|
|
|
|
# CMake configuration with KunlunXin xpu toolchain
|
|
cmake -DWITH_KUNLUNXIN=ON \
|
|
-DWITH_GPU=OFF \ # 不编译 GPU
|
|
-DENABLE_ORT_BACKEND=ON \ # 可选择开启 ORT 后端
|
|
-DENABLE_PADDLE_BACKEND=ON \ # 可选择开启 Paddle 后端
|
|
-DCMAKE_INSTALL_PREFIX=fastdeploy-kunlunxin \
|
|
-DENABLE_VISION=ON \ # 是否编译集成视觉模型的部署模块，可选择开启
|
|
-DOPENCV_DIRECTORY=/usr/lib/x86_64-linux-gnu/cmake/opencv4 \
|
|
..
|
|
|
|
# Build FastDeploy KunlunXin XPU C++ SDK
|
|
make -j8
|
|
make install
|
|
```
|
|
编译完成之后，会生成 fastdeploy-kunlunxin 目录，表示基于 Paddle Lite 的 FastDeploy 库编译完成。
|
|
|
|
## Python 编译
|
|
编译命令如下：
|
|
```bash
|
|
git clone https://github.com/PaddlePaddle/FastDeploy.git
|
|
cd FastDeploy/python
|
|
export WITH_KUNLUNXIN=ON
|
|
export WITH_GPU=OFF
|
|
export ENABLE_ORT_BACKEND=ON
|
|
export ENABLE_PADDLE_BACKEND=ON
|
|
export ENABLE_VISION=ON
|
|
# OPENCV_DIRECTORY可选，不指定会自动下载FastDeploy提供的预编译OpenCV库
|
|
export OPENCV_DIRECTORY=/usr/lib/x86_64-linux-gnu/cmake/opencv4
|
|
|
|
python setup.py build
|
|
python setup.py bdist_wheel
|
|
```
|
|
编译完成即会在 `FastDeploy/python/dist` 目录下生成编译后的 `wheel` 包，直接 pip install 即可
|
|
|
|
编译过程中，如若修改编译参数，为避免带来缓存影响，可删除 `FastDeploy/python` 目录下的 `build` 和 `.setuptools-cmake-build` 两个子目录后再重新编译
|