mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2026-04-23 00:17:25 +08:00
jc
8d384f9fd8
* Update usage of pd disaggregation * up * up * up * up * up * up * up * up * up * up dp docs * up * up * up * fix unittest
11 lines
384 B
Markdown
11 lines
384 B
Markdown
|
|
PD分离式部署，请参考[使用文档](../../docs/zh/features/disaggregated.md)。
|
|
|
|
PD分离式部署，推荐使用Router来做请求调度（即是V1模式）。
|
|
|
|
启动脚本：
|
|
|
|
* `start_v1_tp1.sh`：使用Router调度，P和D实例是TP1。
|
|
* `start_v1_tp2.sh`：使用Router调度，P和D实例是TP2。
|
|
* `start_v1_dp2.sh`：使用Router调度，P和D实例是DP2 TP1。
|