PD分離

加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

PD分離(Prefill-Decode Disaggregation)技術的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設備上執(zhí)行。

PD分離(Prefill-Decode Disaggregation)技術的核心思想是將Prefill和Decode這兩個階段解耦,并將它們分配到不同類型的計算設備上執(zhí)行。收起

查看更多
暫無相關內容,為您推薦以下內容

正在努力加載...