mirror of
https://github.com/PaddlePaddle/FastDeploy.git
synced 2026-04-23 00:17:25 +08:00
jc
8d384f9fd8
* Update usage of pd disaggregation * up * up * up * up * up * up * up * up * up * up dp docs * up * up * up * fix unittest
384 B
384 B
PD分离式部署，请参考使用文档。
PD分离式部署，推荐使用Router来做请求调度（即是V1模式）。
启动脚本：
start_v1_tp1.sh：使用Router调度，P和D实例是TP1。start_v1_tp2.sh：使用Router调度，P和D实例是TP2。start_v1_dp2.sh：使用Router调度，P和D实例是DP2 TP1。