PD分離

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設(shè)備上執(zhí)行。

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設(shè)備上執(zhí)行。收起

查看更多

正在努力加載...