PD分離

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設(shè)備上執(zhí)行。

PD分離(Prefill-Decode Disaggregation)技術(shù)的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設(shè)備上執(zhí)行。收起

查看更多
暫無相關(guān)內(nèi)容,為您推薦以下內(nèi)容

正在努力加載...