PD分離

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個(gè)階段解耦,并將它們分配到不同類(lèi)型的計(jì)算設(shè)備上執(zhí)行。

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個(gè)階段解耦,并將它們分配到不同類(lèi)型的計(jì)算設(shè)備上執(zhí)行。收起

查看更多