• 正文
  • 推薦器件
  • 相關(guān)推薦
申請(qǐng)入駐 產(chǎn)業(yè)圖譜

2024年AI SSD采購(gòu)容量預(yù)計(jì)突破45EB,NAND Flash供應(yīng)商加速制程升級(jí)

2024/08/12
1000
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點(diǎn)資訊討論

由于AI需求大幅升溫,最近兩季AI服務(wù)器相關(guān)客戶向供應(yīng)商進(jìn)一步要求加單Enterprise SSD(企業(yè)級(jí)固態(tài)硬盤(pán))。上游供應(yīng)商為了滿足SSD在AI應(yīng)用上的供給,加速制程升級(jí),開(kāi)始規(guī)劃推出2YY產(chǎn)品,預(yù)期于2025年量產(chǎn)。

TrendForce集邦咨詢表示,AI服務(wù)器客戶對(duì)供應(yīng)商加單的情況,導(dǎo)致Enterprise SSD合約價(jià)于2023年第四季至2024年第三季間的累積漲幅超過(guò)80%。SSD在AI發(fā)展中扮演重要角色,除了在AI模型訓(xùn)練過(guò)程中,SSD不僅負(fù)責(zé)儲(chǔ)存模型參數(shù),包含不斷更新的權(quán)重和偏差,另一項(xiàng)重要應(yīng)用是創(chuàng)建檢查點(diǎn)(check point),以定期保存AI模型訓(xùn)練進(jìn)度,即使訓(xùn)練中斷也能從特定點(diǎn)恢復(fù)。上述功能都相當(dāng)依賴高速傳輸以及寫(xiě)入耐用度,因此客戶主要選擇使用4TB/8TB TLC(三層單元閃存) SSD產(chǎn)品,以滿足嚴(yán)苛的訓(xùn)練過(guò)程需求。

TrendForce集邦咨詢指出,SSD應(yīng)用于AI推理服務(wù)器,可在推理過(guò)程中協(xié)助調(diào)整、優(yōu)化AI模型,尤其SSD可以實(shí)時(shí)更新數(shù)據(jù),以便微調(diào)推理模型結(jié)果。AI推理主要提供檢索增強(qiáng)生成(RAG, Retrieval-Augmented Generation)和大型語(yǔ)言模型(LLM, Large Language Model)服務(wù),而SSD可以儲(chǔ)存RAG和LLM參考的相關(guān)文檔和知識(shí)庫(kù),以生成含有更豐富信息的響應(yīng)。此外,隨著更多生成信息是以影片或相片顯示,其數(shù)據(jù)存儲(chǔ)量也相應(yīng)增加,因此,TLC/QLC(四層單元閃存) 16TB以上等大容量SSD便成為AI推理主要采用的產(chǎn)品。

AI SSD需求位元年增率超過(guò)60%,供應(yīng)商加快大容量產(chǎn)品開(kāi)發(fā)

2024年AI 服務(wù)器SSD市場(chǎng)除了16TB以上產(chǎn)品需求自第二季大幅上升,隨著NVIDIA H100、H20和H200等系列產(chǎn)品到貨,相關(guān)客戶進(jìn)一步加大TLC 4、8TB Enterprise SSD訂單需求。根據(jù)TrendForce集邦咨詢預(yù)估,今年AI相關(guān)SSD采購(gòu)容量將超過(guò)45EB,未來(lái)幾年,AI服務(wù)器有望推動(dòng)SSD需求年增率平均超過(guò)60%,而AI SSD需求在整個(gè)NAND Flash(閃存)的占比有機(jī)會(huì)自2024年的5%,上升至2025年的9%。

在供給市場(chǎng)方面,由于推理服務(wù)器采用大容量SSD產(chǎn)品的趨勢(shì)不變,供應(yīng)商已開(kāi)始加速升級(jí)制程,計(jì)劃從2025年第一季起,量產(chǎn)2YY/3XX層制程的產(chǎn)品,并推出120TB 的Enterprise SSD產(chǎn)品。

推薦器件

更多器件
器件型號(hào) 數(shù)量 器件廠商 器件描述 數(shù)據(jù)手冊(cè) ECAD模型 風(fēng)險(xiǎn)等級(jí) 參考價(jià)格 更多信息
VSSRC20AD101470UF 1 Vishay Intertechnologies Resistor/Capacitor Network, RC NETWORK, T-FILTER, 1W, 100ohm, 0.000047uF, SURFACE MOUNT, SSOP-20, SSOP, ROHS COMPLIANT
暫無(wú)數(shù)據(jù) 查看
CRCW08051K00FKEAHP 1 Vishay Intertechnologies Fixed Resistor, Metal Glaze/thick Film, 0.5W, 1000ohm, 150V, 1% +/-Tol, 100ppm/Cel, Surface Mount, 0805, CHIP, HALOGEN FREE AND ROHS COMPLIANT

ECAD模型

下載ECAD模型
$0.3 查看
PMR209MC6220M100R30 1 KEMET Corporation RC Network, Isolated, 100ohm, 630V, 0.22uF, Through Hole Mount, 2 Pins, RADIAL LEADED, ROHS COMPLIANT
$3.89 查看

相關(guān)推薦