美光企業(yè)副總裁暨存儲部門總經理Jeremy Werner
手機、PC、數據中心、汽車……市場變革帶來海量存儲需求
隨著人工智能(AI)技術,特別是生成式AI的快速發(fā)展,全球數據量預計將達到前所未有的數百ZB量級,這不僅對存儲設備的性能和容量提出了更高要求,也對整個存儲行業(yè)提出了新的挑戰(zhàn)。
在CFMS 2024峰會期間,美光企業(yè)副總裁暨存儲部門總經理Jeremy Werner,在其演講《美光計算與存儲:推動AI革命中,深入探討了 AI技術在推動社會和企業(yè)變革方面的巨大潛力。在當天舉行的媒體采訪中,Jeremy Werner對與非網記者詳細闡述了美光面對AI快速發(fā)展所帶來的挑戰(zhàn)和機遇,以及美光如何通過創(chuàng)新技術應對這些挑戰(zhàn)。
通過深入討論美光如何通過其存儲和內存解決方案助力AI技術的發(fā)展,Werner展示了美光在推動技術革新方面的重要角色。從數據中心到邊緣設備,無論是PC、智能手機還是汽車,美光的技術都在推動AI技術的發(fā)展,提升了處理性能和效率。
最近幾年,AI技術的迅猛發(fā)展幫助人類解決了一系列的全球性挑戰(zhàn),從治療疾病、解決饑餓問題到應對氣候變化等,揭示了AI技術的廣泛應用前景。AI技術也對邊緣設備產業(yè)的發(fā)展產生了巨大影響,包括PC、智能手機和汽車。
Jeremy Werner對與非網記者表示,隨著生成式AI技術逐漸進入PC領域,用戶對更快的內存和存儲的需求隨之增長。而智能手機市場也伴隨生成式AI技術的大量應用落地,對更高性能和更大容量的內存和存儲的需求也隨之增加。此外,隨著無人駕駛技術的發(fā)展,汽車對內存和存儲的需求將大幅增長。針對上述不同市場,美光憑借其廣泛的產品組合和最高的可靠性標準,已準備好應對這些新增需求帶來的挑戰(zhàn)。
如何應對AI發(fā)展帶來的挑戰(zhàn)?
Werner首先指出,面對AI時代對性能和容量雙重提升的需求,美光遇到的最大挑戰(zhàn)之一是如何在不犧牲用戶體驗的前提下,提供更高效能和更大容量的存儲解決方案。他強調了功耗管理的重要性,指出為了延長電池壽命并避免設備過熱,必須精心設計和優(yōu)化存儲產品。此外,Werner還討論了如何在提升存儲容量的同時保持產品價格在消費者和客戶端可接受的范圍內,這是美光在市場競爭中需要解決的關鍵問題。
針對容量提升的挑戰(zhàn),Werner詳細介紹了美光的QLC NAND技術及其在解決容量問題上的重要作用。他指出,通過QLC NAND,美光能夠以非常低的成本不斷提升存儲容量,同時確保不會對用戶體驗產生負面影響。這一技術的應用,使得美光在全球市場上保持領先地位,尤其是在PC和其他電子設備的存儲解決方案方面。Werner強調,通過對QLC技術的不斷創(chuàng)新和優(yōu)化,美光可以在容量、性能和成本之間找到最佳平衡,為消費者提供高性價比的產品。
在性能提升方面,Werner討論了SSD技術的重要性,特別是在降低功耗和提高數據訪問速度方面的應用。他說明了美光如何通過將SSD技術與硬件和固件緊密集成,優(yōu)化設備的功耗管理和性能。這些技術的融合不僅提升了產品的整體性能,也使得它們能夠更好地支持未來AI技術的發(fā)展需求。
如何助力數據中心的性能與功耗提升?
數據中心正成為AI技術發(fā)展的核心應用場景。Werner指出,數據中心最寶貴的資產是數據,而數據需要存儲在內存和硬盤上。美光致力于推動數據中心的性能極限,通過高帶寬內存(HBM)、高密度DDR5內存和創(chuàng)新的存儲解決方案,如CXL內存和SSD驅,來提高GPU的數據處理效率和性能。
Werner分享了美光在HBM3E產品上取得的進展,這一技術不僅提高了性能,還降低了功耗。Werner特別提到了HBM3E技術的核心地位及其對AI未來的關鍵作用。HBM3E技術的推出,旨在滿足高性能計算設備如GPU在AI和機器學習應用中對于極速數據傳輸的需求。通過這項技術,美光能夠為GPU提供必要的數據支持,確保它們以最高效率運作。
此外,DDR5內存技術在提升容量密度和減少延遲方面取得了重大突破,進一步推動了數據中心的效率。在討論美光的SSD技術時,Werner特別提到了9400 SSD對AI模型訓練和推理性能的積極影響。這些技術進展不僅提高了數據處理的速度,還降低了延遲,為AI應用提供了必要的技術支撐。
除了推動數據中心的效率,美光還專注于數據中心的功耗管理。Werner詳細解釋了高效的冷卻解決方案,包括水冷和浸入式冷卻,對于保持大型GPU工作效率至關重要。通過HBM3E技術,美光能夠在不犧牲性能的前提下,顯著降低數據中心的總體功耗,從而提升整個系統(tǒng)的能效比。
據介紹,美光在解決數據中心的存儲問題時,展現了其在技術創(chuàng)新和產品部署上的領先地位。通過不斷推出如176層、232層NAND技術以及1α/1β DRAM技術等創(chuàng)新產品,顯示了其在內存和存儲領域的技術領導力。這些技術進步不僅提高了數據處理的效率和速度,也為用戶帶來了更高的性價比,展現了美光在提升存儲產品性能和降低成本方面的不懈追求。
除此之外,Werner還介紹了美光在大容量固態(tài)硬盤(HCSSD)領域的進展,特別是美光6500 ION SSD的推出。這款產品基于業(yè)界領先的232層NAND制程工藝,超越了業(yè)界傳統(tǒng)的192層標準,為AI大語言模型訓練和其他數據密集型應用提供了強大的存儲解決方案。這標志著美光在提供大容量、高性能SSD方面的持續(xù)創(chuàng)新和領先地位,滿足了市場對于處理大規(guī)模數據集的迫切需求。
美光的核心策略和愿景是什么?
除了追求技術的領先性,美光科技對于產品設計的另一個關鍵考量是確保軟件管理的簡易性和高效性。由于每個存儲層都具有其獨特的復雜性,美光通過技術創(chuàng)新簡化了存儲管理,使得數據存取更為高效,同時降低了成本。例如,通過增強SSD的性能和降低其成本,美光希望能夠讓SSD層成為替代傳統(tǒng)硬盤的更佳選擇。這種策略不僅提升了數據訪問的速度和效率,也為客戶提供了更為經濟實惠的存儲方案。
在追求技術創(chuàng)新的同時,美光非常重視產品的信任度和可信度。美光確保每當推出新產品時,市場上都能夠即時找到,這反映了美光對市場需求快速響應的能力和對客戶承諾的堅持。Werner表示,美光的每一項技術創(chuàng)新和產品推出,都是為了真正意義上幫助客戶解決問題,提升其數據處理和存儲的能力。除了在產品和技術上的不斷創(chuàng)新外,美光還通過提供立即可用的解決方案,加強了與客戶之間的信任關系,進一步鞏固了其作為存儲解決方案領域領導者的地位。
在面對AI時代的挑戰(zhàn)和機遇時,美光科技的策略和愿景顯得尤為關鍵。作為全球領先的創(chuàng)新內存和存儲解決方案提供商,美光科技對于未來存儲產品的發(fā)展有著清晰而深遠的見解。其核心理念是“建立客戶和市場的信任”。Jeremy Werner認為,無論是數據的存儲還是調用,信任都是最寶貴的資產。這種信任不僅體現在產品的安全性、性能、耐用性、服務質量、延遲、容量和價格等多個方面,而且還涉及到對客戶隱私和敏感信息的保護。這表明,美光不僅追求技術上的卓越,也深刻理解了在當今社會中,數據安全和隱私保護的重要性。
CXL還是HBM?存儲技術的未來趨勢
對于高端存儲芯片的未來,Werner表達了其對于技術進步和市場變革的樂觀態(tài)度。隨著AI技術的不斷進步,對于存儲性能和容量的要求也在不斷提升。美光認為,高性能、低成本的SSD將在未來的存儲市場中扮演越來越重要的角色,逐步取代傳統(tǒng)的存儲解決方案。這一過程雖然可能需要較長時間,但隨著技術的成熟和市場的適應,高端存儲芯片的發(fā)展勢頭將更加迅猛。
Werner還探討了針對AI市場的存儲產品技術革新。對于近期出現的如索尼的硬盤容量翻倍技術,以及光存儲技術的突破。Werner認為,這些創(chuàng)新展示了存儲技術領域的活力和多樣化的發(fā)展方向。然而,Werner強調,一個新技術要想在市場上取得成功并成為主流,必須滿足兩個關鍵條件:具有競爭力的成本和用戶的廣泛接受。即使是具有技術先進性的解決方案,也必須考慮到其商業(yè)化的可行性,以及如何在實際應用中為用戶帶來真正的價值。
在對CXL技術和未來存儲解決方案的展望中,Werner認為,CXL技術依然擁有其在未來市場中不可替代的位置。隨著數據處理需求的增加,以及對于更高效、成本效益更好的存儲解決方案的追求,CXL作為一種高速、高效的連接技術,提供了一個在高性能計算環(huán)境中靈活擴展內存和存儲資源的可能。在處理大規(guī)模AI模型或龐大的數據庫時,傳統(tǒng)的多socket CPU服務器配置可能不再是成本效益最優(yōu)的選擇。CXL技術的引入,可以使系統(tǒng)設計師利用較少的CPU sockets(例如1-2個),通過CXL高速互聯來實現DRAM的擴展,這不僅減少了硬件成本,同時也提高了系統(tǒng)的整體效率和靈活性。
關于CXL技術以及其與HBM在未來高性能計算中的互補性,Werner認為CXL和HBM都在高性能計算時代扮演著重要角色。隨著HBM的容量快速增加,將催生更多的內存及相關設備容量的擴張,需要更多的本地存儲以實現更好的配合。CXL技術在這一進程中將發(fā)揮關鍵作用,尤其在支持大加速器內存概念方面顯示出其重要性,即GPU能夠直接從系統(tǒng)內存和存儲設備中獲取數據,無需CPU參與。這一進展不僅標志著存儲技術的進一步發(fā)展,也為市場發(fā)展提供了更多潛力和空間。
最后,針對生成式AI和文生視頻的發(fā)展,Werner也發(fā)表了自己的觀點。他認為隨著文生視頻技術的普及,預期會產生大量的視頻內容,這將對存儲產品產生重大影響。生成的視頻不僅數量龐大,而且由于人們傾向于保留而不刪除這些內容,因此對存儲容量的需求將會大幅增長。這種趨勢對存儲市場來說是一個利好消息,預示著未來將會有爆炸式的增長需求。
綜上所述,生成式AI和文生視頻技術的興起,以及CXL與HBM的互補使用,都預示著對高性能、大容量存儲產品的需求將會顯著增長。這對美光而言既是挑戰(zhàn)也是機遇,要求行業(yè)持續(xù)創(chuàng)新以滿足未來的存儲需求。Werner最后指出,隨著人工智能技術的進步和應用領域的擴展,存儲解決方案必須不斷創(chuàng)新以適應更加復雜的計算需求和數據管理挑戰(zhàn)。