AI話題已經(jīng)在全球熱議多年,但是真正把AI推向高潮的當屬去年ChatGPT4.0的發(fā)布以及今年Deepseek的爆火,AI時代真的來了!然而,AI應用和規(guī)模的暴增,也給AI數(shù)據(jù)中心帶來巨大的壓力,如何確保AI數(shù)據(jù)中心的穩(wěn)定運行?以及如何預判AI數(shù)據(jù)中心的風險點?模擬仿真測試成為AI數(shù)據(jù)中心穩(wěn)定運行的關鍵點。
針對AI數(shù)據(jù)中心的潛在需求,是德科技推出了Keysight AI(KAI),這是一系列端到端的解決方案,幫助客戶通過使用真實世界的AI工作負載仿真從而驗證AI集群組件來擴展數(shù)據(jù)中心的AI處理能力。KAI提供系統(tǒng)級互操作性、性能和效率洞察,幫助運營商最大化系統(tǒng)性能并找出測試單個組件時未發(fā)現(xiàn)的性能問題。
是德科技蓄勢待發(fā)的十年
在當前時間節(jié)點推出Keysight AI,離不開是德科技過去十年的不斷耕耘。是德科技于2014年從安捷倫正式拆分獨立上市,在這十年間,是德科技發(fā)布了多款重磅產(chǎn)品,同時進行了多次重組和并購,不斷擴充產(chǎn)品版圖和商業(yè)版圖,如今已經(jīng)轉(zhuǎn)變成一家提供以軟件為中心的測試解決方案的廠家。
是德科技大中華區(qū)市場總經(jīng)理鄭紀峰先生介紹,“過去十年中,我們公司完成了超過20宗并購,其中,并購Ixia使我們的方案可以全面覆蓋通訊的七層協(xié)議,提供從層1到層7的完備解決方案,以前我們的產(chǎn)品主要集中在物理層、鏈路層,現(xiàn)在利用更多協(xié)議可以提供包含應用層的方案;并購Scienlab,我們可以提供新能源汽車的電池管理系統(tǒng)和電池充放電解決方案,從此進入新能源汽車領域;并購軟件證書公司Cliosoft,我們獲得了更多軟件解決方案?!?/p>
是德科技大中華區(qū)市場總經(jīng)理鄭紀峰
除了并購,過去十年,是德科技還經(jīng)歷了幾個關鍵節(jié)點,2018年舉辦了第一場Keysight World,如今這已經(jīng)成了是德科技的年度活動,在上海、東京、首爾、班加羅爾等地舉辦;2018年,是德科技發(fā)布了業(yè)界第一款具備110G實時帶寬、256G實時采樣率的示波器,主要應用于AI、高速數(shù)字電路、高速數(shù)字接口等應用;2023年,是德科技和歐洲16家企業(yè)機構聯(lián)合創(chuàng)建6G-SANDBOX平臺,期望在6G和5G-Advance領域里做更多先進的研究;去年是德科技開啟了和NVIDIA 6G研究云平臺的合作,是德科技網(wǎng)絡仿真解決方案通過與該平臺的結合,使得研究人員能夠利用是德科技的全套端到端網(wǎng)絡仿真功能來開發(fā)和驗證優(yōu)化無線通信接入的新方法。
Keysight AI:為AI數(shù)據(jù)中心保駕護航
調(diào)研機構統(tǒng)計,2022年AI市場約869億美元規(guī)模,到2030年將達到1.3萬億美元規(guī)模,從2024年到2030年,AI市場的年增長率超過30%。IDC預測,到2030年,人工智能將為全球經(jīng)濟貢獻19.9萬億美元,將占全球GDP的3.5%。是德科技大中華區(qū)高速數(shù)字市場部經(jīng)理李堅先生表示,“在未來的1~2年甚至5~10年里,人工智能市場都有快速增長的機會,這種增長機會不僅來自算力基礎設施,可能更多來自于應用和服務?!?/p>
隨著AI應用的發(fā)展,以太網(wǎng)、存儲、PCIe、無線網(wǎng)絡都會面臨全面升級。未來3-5年,以太網(wǎng)帶寬將會從當前的400/800G上升到1.6/3.2T;存儲方面,預計未來會升級到DDR6或DDR7,同時高帶寬內(nèi)存(HBM)如HBM3、HBM3E、HBM4也將逐漸成為主流;PCIe 5很快會發(fā)展到PCIe 6,并進一步升級到PCIe 7。人工智能發(fā)展需要大模型、大算力和大帶寬,而這些都給我們的技術和產(chǎn)業(yè)帶來巨大的挑戰(zhàn)。
是德科技大中華區(qū)高速數(shù)字市場部經(jīng)理李堅
是德科技在測試測量領域深耕多年,擁有全面的產(chǎn)品線,與業(yè)內(nèi)合作伙伴,如:Cisco、Arista、NVIDIA、Google、Microsoft等公司展開了很多合作,積累了豐富的經(jīng)驗。李堅表示,“根據(jù)使用經(jīng)驗和客戶反饋,我們逐步完善了AI數(shù)據(jù)中心或人工智能產(chǎn)品的產(chǎn)品矩陣,這個系列的整體名字叫KAI(Keysight AI),包含四個產(chǎn)品組合套件,可應對從硅前模擬到部署后系統(tǒng)測試和故障排除的AI數(shù)據(jù)中心設計的所有方面。”
- KAI高速計算:這個方案基本集中在GPU板卡上,GPU之間的通信可能會用到PCIe,GPU和存儲之間可能用到DDR或HBM,還包括一些設計軟件。優(yōu)化高速數(shù)字設計,通過使用KAI-Compute解決方案加速下一代AI芯片開發(fā)進程,其主要包括電子設計自動化套件、誤碼儀、示波器和任意波形發(fā)生器。
- KAI互連:以前在板卡內(nèi)部和板卡之間使用PCB,現(xiàn)在因為速率的提高,不能使用PCB,要用線纜或光纜,速率已經(jīng)升級到400G、800G甚至到6T。驗證光學和電氣通道,通過使用KAI-Interconnect解決方案,以確保高達1.6T的可擴展高速連接,其主要包括采樣示波器、光子功率計和網(wǎng)絡測試儀。
- KAI網(wǎng)絡:在AI網(wǎng)絡中,GPU板卡通過高速交換機,網(wǎng)卡互聯(lián)在一起形成一個龐大復雜的網(wǎng)絡。過去是德科技的產(chǎn)品大部分集中在物理層,通過收購Ixia,是德科技的產(chǎn)品從物理層向傳輸層、網(wǎng)絡層,乃至于應用層擴張,從層1到層7完善了其產(chǎn)品矩陣。對AI網(wǎng)絡性能進行基準測試,通過使用KAI-Network解決方案,檢測瓶頸,優(yōu)化AI工作負載分配,其主要包括AI工作負載仿真器、分布式網(wǎng)絡流量生成器和網(wǎng)絡流量仿真器
- KAI能效:數(shù)據(jù)中心綠色節(jié)能至關重要。通過KAI-Power解決方案優(yōu)化數(shù)據(jù)中心組件的電源效率和能源管理,其主要包括示波器、電源軌探頭和電子設計自動化套件。
以上的四個產(chǎn)品板塊,覆蓋了數(shù)據(jù)中心的主要應用場景,是德科技的產(chǎn)品如何對這些應用場景進行支持?
李堅介紹,“是德科技推出三款新產(chǎn)品助力客戶應對AI應用場景中的挑戰(zhàn)。第一款產(chǎn)品是DCA-M采樣示波器,面向光芯片和光模塊的廠商。其型號是N1093A和N1093B,分為單通道和雙通道,帶寬達每通道224Gb/s。目前整個網(wǎng)絡正在迅速地向400G、800G、1.6T,甚至3.2T發(fā)展,因此,我們需要提升每通道速率;第二款產(chǎn)品是互連與網(wǎng)絡性能測試儀,它不僅覆蓋了物理層,還覆蓋了網(wǎng)絡層。該產(chǎn)品速率是1.6T——當用戶在實際測試時,每個通道按224Gb/s(約200Gb/s)計算,從單板輸出口角度來看,可以達到1.6T速率(200G×8=1.6T)。第二款產(chǎn)品的目標客戶是光電模塊、芯片、網(wǎng)卡和交換機廠商?!?/p>
第一個產(chǎn)品更偏向于物理層測試,第二個產(chǎn)品覆蓋了物理層和部分網(wǎng)絡層測試,用戶群延伸到了網(wǎng)卡、交換機客戶,第三個產(chǎn)品是KAI數(shù)據(jù)中心構建器,通過模擬大規(guī)模AI工作負載,以提高系統(tǒng)性能,預測和減輕組件故障的影響,并優(yōu)化數(shù)據(jù)中心運營。李堅繼續(xù)介紹,“它下面還有一系列的組件,包括集合通訊組件、壓力測試組件等,通過仿真數(shù)據(jù)中心里真實的通訊工作環(huán)境、流量環(huán)境來測試網(wǎng)絡。這個軟件主要運行在平臺AresONE上,它采用模塊化架構,支持2/4/8/16個端口,同時可以級聯(lián)提供數(shù)百個測試端口,仿真實際的網(wǎng)絡。該產(chǎn)品的目標客戶包括交換機廠商、云服務商等等。”
“AI標準還在不斷演進。AI產(chǎn)業(yè)正處于成長期,還遠遠沒有達到飽和?,F(xiàn)在的網(wǎng)絡還存在很多問題,行業(yè)需要在較為接近真實環(huán)境的情況下,從物理層到網(wǎng)絡層全面地探尋解決實際問題的方法,這也是我們推出這套方案的初衷。我們相信和產(chǎn)業(yè)界聚力同心可以走得更遠?!崩顖宰詈罂偨Y道。