作者:豐寧
數(shù)據(jù)中心,是一個熱詞。
在最近一個季度,英偉達(dá)、博通、AMD、英特爾、Marvell、SK海力士、美光和三星的數(shù)據(jù)中心相關(guān)出貨量超過了?2200?億美元的年出貨量(不包括電源芯片)。
隨著?LLM?的快速擴(kuò)展,預(yù)計到?2030?年數(shù)據(jù)中心的半導(dǎo)體支出將超過?5000?億美元,占整個半導(dǎo)體行業(yè)的?50%?以上。
那么,哪一系列芯片又會隨著數(shù)據(jù)中心的走紅同步受益?在此之前,先來了解一下數(shù)據(jù)中心。
?01什么是數(shù)據(jù)中心?
數(shù)據(jù)中心可以分為IDC(Internet Data Center,互聯(lián)網(wǎng)數(shù)據(jù)中心)、EDC(Enterprise Data Center,企業(yè)數(shù)據(jù)中心)、NSC(National Supercomputing Center,國家超級計算中心)。
其中,IDC是電信業(yè)務(wù)經(jīng)營者利用已有的互聯(lián)網(wǎng)通信線路、帶寬資源,建立標(biāo)準(zhǔn)化的電信專業(yè)級機(jī)房環(huán)境,通過互聯(lián)網(wǎng)向客戶提供服務(wù)器托管、租用以及相關(guān)增值等方面的全方位服務(wù)。
EDC是指由企業(yè)或機(jī)構(gòu)構(gòu)建并所有,服務(wù)于企業(yè)或機(jī)構(gòu)自身業(yè)務(wù)的數(shù)據(jù)中心,是一個企業(yè)數(shù)據(jù)運(yùn)算、存儲和交換的核心計算環(huán)境,它為企業(yè)、客戶及合作伙伴提供數(shù)據(jù)處理、數(shù)據(jù)訪問等信息,應(yīng)用支持服務(wù)。
NSC是指由國家興建、部署有千萬億次高效能計算機(jī)的超級計算中心。
根據(jù)規(guī)模容量不同,數(shù)據(jù)中心可以分為超大型數(shù)據(jù)中心、大型數(shù)據(jù)中心和中小型數(shù)據(jù)中心。
超大型數(shù)據(jù)中心:規(guī)模大于10000個標(biāo)準(zhǔn)機(jī)架的數(shù)據(jù)中心,用于為全球范圍內(nèi)的大型企業(yè)和互聯(lián)網(wǎng)服務(wù)提供商提供高容量和高性能的數(shù)據(jù)存儲和處理服務(wù),為企業(yè)和科研機(jī)構(gòu)提供數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí)和人工智能等領(lǐng)域的支持。
大型數(shù)據(jù)中心:規(guī)模介于3000~10000個標(biāo)準(zhǔn)機(jī)架的數(shù)據(jù)中心,用于為大型企業(yè)或者互聯(lián)網(wǎng)公司提供數(shù)據(jù)存儲和處理服務(wù)。
中小型數(shù)據(jù)中心:規(guī)模小于3000個標(biāo)準(zhǔn)機(jī)架的數(shù)據(jù)中心,用于為中小型企業(yè)提供數(shù)據(jù)存儲和處理服務(wù)。
數(shù)據(jù)中心建設(shè)規(guī)模的逐步擴(kuò)大,自然對芯片的需求水漲船高,以下一系列芯片市場也迎來頗多紅利。
?02這幾類芯片,更香了
數(shù)據(jù)顯示,在2030年數(shù)據(jù)中心半導(dǎo)體支出中,GPU/AI加速器占到60%;AI擴(kuò)展網(wǎng)絡(luò)芯片占到15%;CPU(x86和ARM)占到10%;存儲芯片占到10%;電源、BMC等占到5%。
其中,GPU/AI?加速器是算力核心,主要用于?AI?訓(xùn)練與推理、高性能計算,與?CPU?形成異構(gòu)計算,提升算力效率。
AI?擴(kuò)展網(wǎng)絡(luò)芯片負(fù)責(zé)構(gòu)建高帶寬低延遲網(wǎng)絡(luò),實現(xiàn)?GPU?間高速互聯(lián),卸載?CPU?網(wǎng)絡(luò)任務(wù),優(yōu)化?AI?流量傳輸。
CPU芯片作為控制中樞,管理系統(tǒng)資源、調(diào)度任務(wù),處理通用計算和協(xié)議事務(wù),并協(xié)調(diào)異構(gòu)計算。
HBM等存儲芯片與?GPU/AI?加速器配合,支撐高性能計算場景,為大規(guī)模數(shù)據(jù)處理提供高速存儲與讀取能力。
電源、BMC?等芯片,用于保障數(shù)據(jù)中心設(shè)備供電穩(wěn)定和遠(yuǎn)程監(jiān)控管理,確保系統(tǒng)可靠運(yùn)行。
同樣的,如今正有著越來越多的芯片公司押注這一市場。
?03數(shù)據(jù)中心芯片,誰更掙錢?
目前,幾乎所有數(shù)據(jù)中心半導(dǎo)體收入都集中在九家公司身上:英偉達(dá)、臺積電、博通、三星、AMD、英特爾、美光、SK?海力士和?Marvell。
GPU/AI?加速器,英偉達(dá)是最大贏家
在GPU/AI?加速器市場,??Nvidia是最大贏家,競爭者是?AMD與?Broadcom。
在剛剛過去的一個季度,英偉達(dá)來自AI加速器的季度收入為330億美元,博通來自AI加速器的收入約40億美元,Marvell來自AI加速器的季度收入約10億美元,AMD來自AI加速器的收入小于10億美元。
國產(chǎn)GPU公司也在這一市場發(fā)起挑戰(zhàn)。比如華為昇騰?910B、壁仞?BR100、天數(shù)智芯天垓?100、海光DCU K100、摩爾線程?MTT S4000等均是他們交出的不錯解法,只是國產(chǎn)GPU公司所占據(jù)的市場份額相比國際大廠還相對較小。
CPU看點(diǎn)頗多
在CPU市場中,看點(diǎn)可就多了。
近二十多年來,英特爾一直是數(shù)據(jù)中心?CPU?市場無可爭議的領(lǐng)導(dǎo)者,其提供的?Xeon?處理器為全世界大多數(shù)的服務(wù)器提供動力。另一方面,僅在七八年前,AMD?的處理器還只能占據(jù)個位數(shù)的市場份額。
如今,情況已發(fā)生了巨大變化。
雖然英特爾的?Xeon CPU?仍然為大多數(shù)服務(wù)器提供動力,但越來越多的新服務(wù)器,特別是高端設(shè)備已經(jīng)趨向于選用?AMD?的?EPYC?處理器。
去年11月,獨(dú)立研究機(jī)構(gòu)?SemiAnalysis?指出,AMD?的數(shù)據(jù)中心業(yè)務(wù)部門現(xiàn)在的銷量已經(jīng)超過了英特爾的數(shù)據(jù)中心和?AI?業(yè)務(wù)。
據(jù)悉,在AMD的新一代產(chǎn)品中,AMD?的?EPYC?處理器相對于英特爾的?Xeon CPU?取得了競爭優(yōu)勢,英特爾不得不以大幅折扣出售其服務(wù)器芯片,這降低了該公司的收入和利潤率。
下圖也清晰的展現(xiàn)了,自2022年第二季度以來,英特爾至強(qiáng)服務(wù)器CPU的出貨量一直在下降。
近日,ARM更是放出“狠話”:今年年底前,公司在全球數(shù)據(jù)中心CPU?市場的占比將躍升至?50%,遠(yuǎn)高于去年的約?15%。Arm?基礎(chǔ)設(shè)施業(yè)務(wù)主管?Mohamed Awad?表示,這一增長主要得益于?AI?產(chǎn)業(yè)的快速發(fā)展。
Arm?的?CPU?通常充當(dāng)?AI?計算系統(tǒng)的“主機(jī)”芯片,負(fù)責(zé)調(diào)度其他?AI?芯片。例如,英偉達(dá)的部分高端?AI?系統(tǒng)采用了一款名為?Grace?的?Arm?架構(gòu)芯片,該系統(tǒng)還包含兩顆?Blackwell?芯片。Awad?指出,Arm?芯片在許多情況下比英特爾和?AMD?的產(chǎn)品功耗更低。AI?數(shù)據(jù)中心耗電量極大,云計算企業(yè)因此越來越傾向于采用?Arm?芯片。
此外,數(shù)據(jù)中心芯片往往使用Arm?更多的知識產(chǎn)權(quán),使公司在這一領(lǐng)域的版稅收入遠(yuǎn)高于面向其他設(shè)備的芯片。
不僅如此,數(shù)據(jù)中心CPU市場在近日再度迎來一位“老朋友”——高通。
近日,高通正式與沙特主權(quán)財富基金(PIF)旗下?AI?企業(yè)?HUMAIN?達(dá)成合作,高通將為后者的開發(fā)和供應(yīng)最先進(jìn)的數(shù)據(jù)中心CPU和AI解決方案。
正如上文所言,在目前的數(shù)據(jù)中心市場,前有英特爾、AMD,后有Arm,競爭程度遠(yuǎn)遠(yuǎn)大于移動端CPU。
在數(shù)據(jù)中心CPU市場,高通也有過一段失敗的經(jīng)歷。早在?2017?年,高通曾推出基于?Arm?架構(gòu)的?Centriq 2400?處理器,試圖打破英特爾、AMD?在?x86?架構(gòu)的壟斷。但當(dāng)時受限于軟件生態(tài)適配不足、性能未達(dá)預(yù)期,該項目于?2019?年黯然終止。
時隔多年,高通此次卷土重來,采取了截然不同的策略。
此前,高通通過收購?Nuvia?獲得其?Phoenix?架構(gòu)技術(shù),并將其自研架構(gòu)融入到高通平臺中。該公司由前蘋果?A?系列芯片核心成員組成,其設(shè)計的?Oryon?內(nèi)核在能效比上表現(xiàn)優(yōu)異,在當(dāng)時一度引起行業(yè)轟動。從2023年開始,高通正式在桌面級CPU發(fā)力,旗下驍龍?X Elite?處理器已經(jīng)進(jìn)入消費(fèi)級PC市場。
國產(chǎn)CPU公司在數(shù)據(jù)中心芯片也發(fā)力良久,相關(guān)產(chǎn)品包括龍芯?3C6000?系列、海光?CPU?系列、飛騰?S2500?及騰云?S5000C、鯤鵬?920?等。
HBM內(nèi)存,SK海力士瘋狂撈金
在內(nèi)存市場中,HBM備受矚目。
據(jù)悉,最近一個季度幾乎HBM所有的收入(約?250?億美元)均來自數(shù)據(jù)中心。
隨著AI的興起,特別是在機(jī)器學(xué)習(xí)和深度學(xué)習(xí)等數(shù)據(jù)密集型應(yīng)用中,對HBM的需求空前高漲。預(yù)計2025年HBM出貨量將同比增長70%,因為數(shù)據(jù)中心和AI處理器越來越多地依賴這種類型的存儲器來處理低延遲的大量數(shù)據(jù)。HBM需求的激增預(yù)計將重塑DRAM市場,制造商將優(yōu)先生產(chǎn)HBM,而不是傳統(tǒng)的DRAM產(chǎn)品。
SK海力士、三星、美光三家公司為HBM領(lǐng)域的主要供應(yīng)商,其中僅僅是SK海力士一家就占到了越70%的HBM市場份額。
前不久,SK海力士宣布12層HBM4已開始送樣,最大容量36GB,下半年完成量產(chǎn)準(zhǔn)備。
隨著該公司在HBM市場的乘風(fēng)逐浪,DRAM市場的格局也得到重塑。
今年Q1,SK海力士憑借在HBM領(lǐng)域的絕對優(yōu)勢,終結(jié)三星長達(dá)四十多年的市場統(tǒng)治地位,以36.7%的市場份額首度登頂全球DRAM市場第一。SK海力士預(yù)計今年HBM將持續(xù)保持同比增長約一倍,12層HBM3E的銷售將穩(wěn)步增長,預(yù)計在Q2其銷售將占整個HBM3E比重的一半以上。
隨著HBM需求持續(xù)火熱,SK海力士在該市場持續(xù)撈金。
AI擴(kuò)展網(wǎng)絡(luò)芯片,英偉達(dá)再度蟬聯(lián)
在AI擴(kuò)展網(wǎng)絡(luò)芯片市場,英偉達(dá)依舊是最大的贏家,競爭者包括博通、Astera。
博通首席執(zhí)行官?Hok Tan?估計,網(wǎng)絡(luò)目前占數(shù)據(jù)中心支出的?5%?到?10%,隨著互連?GPU?數(shù)量的增加,互連的增長速度會更快,這一比例將增長到?15%?到?20%。
除了上述提到的芯片公司,其實AI代工公司在這一波浪潮中深度受益,比如得益于先進(jìn)的節(jié)點(diǎn)和?2.5D/3D?封裝技術(shù),臺積電幾乎為數(shù)據(jù)中心生產(chǎn)所有高價值非內(nèi)存芯片。其一半以上的收入來自?AI/HPC。英特爾與三星也正在這一市場發(fā)起挑戰(zhàn)。
展望未來,隨著AI、IoT和大數(shù)據(jù)技術(shù)的快速發(fā)展,數(shù)據(jù)中心芯片市場迎來了新的增長機(jī)遇。這些技術(shù)的應(yīng)用推動了對高性能計算和數(shù)據(jù)處理的需求,為數(shù)據(jù)中心芯片制造商提供了廣闊的市場空間。例如,AI技術(shù)在自動駕駛汽車、智能家居和工業(yè)自動化等領(lǐng)域的應(yīng)用,需要強(qiáng)大的數(shù)據(jù)中心芯片來支持復(fù)雜的計算任務(wù)。此外,隨著5G網(wǎng)絡(luò)的普及,更多的設(shè)備將連接到互聯(lián)網(wǎng),產(chǎn)生海量數(shù)據(jù),這將進(jìn)一步推動數(shù)據(jù)中心芯片市場的發(fā)展。
上述芯片也有望在未來迎來更高的市場價值。