mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2026-04-23 00:17:25 +08:00
[Docs][CI] Fix prebuilt wheel installation and update Docs (#7289)
* [CI] Fix prebuilt wheel installation and update Docs * [CI] Update Dockerfile.gpu to restrict SM80/86/89/90, CUDA 12.6 and Python 3.10 * Update nvidia_gpu.md * Update nvidia_gpu.md * Revise NVIDIA GPU installation instructions Updated installation instructions for PaddlePaddle and FastDeploy to remove specific CUDA version mentions and clarify support for multiple GPU architectures. --------- Co-authored-by: Jiang-Jia-Jun <163579578+Jiang-Jia-Jun@users.noreply.github.com>
This commit is contained in:
@@ -14,10 +14,13 @@
|
||||
|
||||
## 1. 预编译Docker安装(推荐)
|
||||
|
||||
**注意**: 预编译镜像支持 80/86/89/90 架构的GPU硬件 (如 A800/H800/L20/L40/4090)。
|
||||
**注意**: 预编译镜像支持 80/86/89/90 架构的GPU硬件 (如 A800/H800/L20/L40/4090) 且仅支持 Python 3.10。
|
||||
|
||||
``` shell
|
||||
# CUDA 12.6
|
||||
docker pull ccr-2vdh3abv-pub.cnc.bj.baidubce.com/paddlepaddle/fastdeploy-cuda-12.6:2.5.0
|
||||
# CUDA 12.9
|
||||
docker pull ccr-2vdh3abv-pub.cnc.bj.baidubce.com/paddlepaddle/fastdeploy-cuda-12.9:2.5.0
|
||||
```
|
||||
|
||||
## 2. 预编译Pip安装
|
||||
@@ -57,7 +60,7 @@ python -m pip install fastdeploy-gpu -i https://www.paddlepaddle.org.cn/packages
|
||||
|
||||
## 3. 镜像自行构建
|
||||
|
||||
> 注意 ```dockerfiles/Dockerfile.gpu``` 默认编译的架构支持SM 80/90,如若需要支持其它架构,需自行修改Dockerfile中的 ```bash build.sh 1 python false [80,90]```,建议不超过2个架构。
|
||||
> 注意 ```dockerfiles/Dockerfile.gpu``` 默认编译产物仅支持 SM 80/86/89/90 架构,基于 CUDA 12.6 环境构建,且仅支持 Python 3.10,如若需要支持其它架构,需自行修改Dockerfile中的 ```bash build.sh 1 python false [80,90]```,建议不超过2个架构。
|
||||
|
||||
```
|
||||
git clone https://github.com/PaddlePaddle/FastDeploy
|
||||
@@ -91,7 +94,7 @@ bash build.sh 1 python false [80,90]
|
||||
|
||||
## 5. 算子预编译 Wheel 包
|
||||
|
||||
FastDeploy 提供了 GPU 算子预编译版 Wheel 包,可在无需完整源码编译的情况下快速构建。该方式当前仅支持 **SM80/90 架构(A100/H100等)** 和 **CUDA 12.6** 环境。
|
||||
FastDeploy 提供了 GPU 算子预编译版 Wheel 包,可在无需完整源码编译的情况下快速构建。该方式当前仅支持 **SM80/90 架构(A100/H100等)** **CUDA 12.6** 和 **Python 3.10** 环境。
|
||||
|
||||
>默认情况下,`build.sh` 会从源码编译;若希望使用预编译包,可使用`FD_USE_PRECOMPILED` 参数;
|
||||
>若预编译包下载失败或与环境不匹配,系统会自动回退至 `4. wheel 包源码编译` 模式。
|
||||
@@ -119,7 +122,7 @@ cd FastDeploy
|
||||
bash build.sh 1 python false [90] 1
|
||||
|
||||
# 从指定 commitID 获取对应预编译算子
|
||||
bash build.sh 1 python false [90] 1 8a9e7b53af4a98583cab65e4b44e3265a93e56d2
|
||||
bash build.sh 1 python false [90] 1 d693d4be1448d414097882386fdc24c8bec2a63a
|
||||
```
|
||||
|
||||
下载的 whl 包在 `FastDeploy/pre_wheel`目录下。
|
||||
@@ -128,7 +131,7 @@ bash build.sh 1 python false [90] 1 8a9e7b53af4a98583cab65e4b44e3265a93e56d2
|
||||
|
||||
> **说明:**
|
||||
> - 该模式会优先下载预编译的 GPU 算子 whl 包,减少编译时间;
|
||||
> - 目前仅支持 **GPU, SM80/90 架构, CUDA 12.6**;
|
||||
> - 目前仅支持 **GPU, SM80/90 架构, CUDA 12.6, Python3.10**;
|
||||
> - 若希望自定义架构或修改算子逻辑,请使用 **源码编译方式(第4节)**。
|
||||
> - 您可以在 FastDeploy CI 构建状态页面查看对应 commit 的预编译 whl 是否已构建成功。
|
||||
|
||||
|
||||
Reference in New Issue
Block a user