• 正文
    • 一、算力指標
    • 二、顯存指標
    • 三、互聯(lián)帶寬
  • 相關推薦
申請入駐 產(chǎn)業(yè)圖譜

全球主流算力芯片參數(shù)匯總、整理、對比

7小時前
430
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

實習生作者:王華斌?上海紐約大學在讀

本文中表格內(nèi)容詳細數(shù)據(jù)的原始文檔,我放到了知識星球的云盤上供會員使用。如果您對此類數(shù)據(jù)有興趣,歡迎加入我的知識星球后獲取 -- 文章最后有加入方式

特別申明:本文數(shù)據(jù)系作者個人從各種網(wǎng)絡渠道獲取,可能存在部分信息錯誤,與事實有出入,需要讀者謹慎參考

前言:

AI大模型能力的快速提升(如Qwen3、Llama4的多模態(tài)升級與邏輯推理優(yōu)化)正推動AI從輔助工具向核心生產(chǎn)力滲透。而算力芯片的性能對大模型的訓練、推理至關重要。本文通過統(tǒng)計全球主要算力芯片的算力、顯存互聯(lián)帶寬指標,對比海外第三方設計公司、海外大廠自研和國產(chǎn)芯片的單卡性能。不考慮軟件(如CUDA)、Scale out架構(如華為CloudMatrix超節(jié)點)和成本。華為芯片缺少官方公布數(shù)據(jù),所有暫時沒有收錄。

英偉達英特爾、AMD

英偉達的芯片覆蓋最廣,包括高性能的H100、H200和B200,以及較早的V100、P100等,其產(chǎn)品線在算力和迭代速度均占據(jù)領先地位。英特爾的AI芯片為Guadi系列(如Guadi3),而AMD是MI系列(如MI325X、MI250X)。從時間線看,英偉達迭代速度最快,2023年后密集發(fā)布新品;AMD的MI300系列和英特爾的Guadi3則瞄準了同期的英偉達B200競爭。功耗設計上,英偉達B200的圓圈顯著更大,凸顯其高功耗高性能定位。

美國互聯(lián)網(wǎng)大廠

谷歌的TPU系列最為成熟,從v2到v7p逐步提升算力,其中v5p和v7p的能效比設計突出;亞馬遜的Trainium3、Meta的MTIA v2和微軟的Maia 100是較新的競爭者,發(fā)布時間集中在2023-2024年。這些芯片的算力普遍低于英偉達旗艦(如TPU v7p的FP16性能接近B200),但功耗更低(圓圈較?。?,反映其優(yōu)化能效的特點。谷歌的TPU發(fā)布時間跨度大,顯示其長期投入,而Meta、亞馬遜和微軟的布局更晚但速度迅猛。

國產(chǎn)芯片

寒武紀的思元590、海光信息的BW100和沐曦科技的曦云C500在算力和功耗上領先,發(fā)布時間集中于2023-2024年。整體來看,國產(chǎn)芯片的算力水平與英偉達中端產(chǎn)品(如A100)接近,但功耗控制更分散(圓圈大小差異大),反映技術路線多樣性。發(fā)布時間顯示2020年后中國AI芯片進入爆發(fā)期,但國際巨頭仍保持性能代差。

一、算力指標

1.?制程:

海外:

第三方設計公司:為后續(xù)產(chǎn)品制程的升級預留了空間。英偉達最新的Blackwell系列使用了TSMC 4NP,相當于4nm高性能版本。AMD、英特爾最新產(chǎn)品的制程都是5nm。Groq為了追求性價比,使用GlobalFoundries的14nm。

大廠自研:谷歌最新的TPU Ironwood(TPU v7p)和亞馬遜的Trainium3都使用了最先進的3nm,Meta和微軟使用了5nm。

中國大陸:

國內(nèi)廠商在受到制裁之前,旗艦產(chǎn)品絕大多數(shù)都是使用TSMC 7nm。目前正在轉向中芯國際7nm。燧原科技的所有產(chǎn)品都采用GlobalFoundries?的12nm工藝。

2.?晶體管數(shù)量/芯片面積/晶體管密度:

芯片面積:由于掩膜版的尺寸,單個芯片最大曝光區(qū)面積限制為858mm2,可以通過Chiplet構建更大的芯片。

晶體管密度:更高的晶體管密度允許在相同芯片面積內(nèi)集成更多計算核心,直接提升并行計算能力。

海外:

第三方設計公司:英偉達的B200首次使用了Chiplet技術,包含了兩個B100 Die,兩個Die通過NV-HBI互聯(lián),芯片面積達到1600mm2,晶體管密度達到130百萬/mm2。AMD的芯片一直都采用Chiplet,由許多小芯粒組成大芯片,芯粒之間通過Infinity Fabric互聯(lián).

大廠自研:谷歌最新的TPU Ironwood(TPU v7p)晶體管密度達到了308?百萬/mm2,是英偉達Blackwell的兩倍多。TPU v6e和微軟的Maia 100分別達到110百萬/mm2和128百萬/mm2。

中國大陸:

國內(nèi)廠商多使用Chiplet技術,增強算力、降低成本。燧原科技2021年發(fā)布的邃思2.0的芯片面積3306 mm2,采用GlobalFoundries 12nm工藝,號稱中國最大AI單芯片,達到了日月光?2.5D?封裝的極限。

3.?各浮點運算次數(shù)

海外:

第三方設計公司英偉達Blackwell系列的推出,鞏固了其在深度學習訓練和推理的領導地位。GB200的FP16算力達到5000TFLOPS,相比于H200提升了5倍以上。AMD的MI325X為1300TFLOPS,英特爾Gaudi3為1835TFLOPS,谷歌TPU Ironwood(TPU v7p)為2307TFLOPS,與GB200都有明顯差距。同時,Blackwell通過第二代Transformer引擎和定制Tensor Core,首次在硬件上實現(xiàn)了FP4數(shù)據(jù)類型的直接處理。

H20/H800H20基于H200進行性能裁剪,通過犧牲計算性能換取合規(guī)性。H20的FP16算力為148 TFLOPS,F(xiàn)P8算力為296 TFLOPS,僅為H200的15%左右。H800與H100算力指標保持一致,根據(jù)美國商務部2023年10月17日發(fā)布的出口管制新規(guī),H800?被列入禁售名單。

大廠自研:多數(shù)ASIC聚焦于低精度領域,除谷歌外都處于起步階段。谷歌最新的TPU Ironwood(TPU v7p)是首款專為推理而設計的加速器,F(xiàn)P16算力達2307TFLOPS,比前代提升了兩倍多。亞馬遜的Trainium3預計FP16算力達1310TFLOPS,是Trainium2的兩倍。

中國大陸:

除華為外,F(xiàn)P16算力能達到300TFLOPS以上的國產(chǎn)芯片,只有寒武紀的思元590和海光信息的BW100。壁仞科技在2022年推出的BR100的FP16算力能達到1024TFLOPS,但因受到制裁,無法量產(chǎn)落地。

4.?功耗/能效比

能效比:FP16運算次數(shù)/功耗(TFLOPS/W)

海外:

第三方設計公司:英偉達Blackwell的能效比在所有架構里面最高,體現(xiàn)英偉達超強的硬件設計能力。盡管GB200的功耗達到了2700W,但能效比仍能達到1.9,在業(yè)內(nèi)處于領先地位。

大廠自研:多數(shù)ASIC的功耗在700W以下,達到降本目的。但能效比仍低于英偉達的GPGPU。

中國大陸:

根據(jù)不完全統(tǒng)計,國產(chǎn)芯片的功耗絕大多數(shù)都在500W以下,能效比低于1。

二、顯存指標

1.?顯存/顯存帶寬/顯存容量

海外:

絕大多數(shù)海外廠商最新產(chǎn)品都配備HBM3e,因堆疊層數(shù)、頻率和HBM堆棧數(shù)量的配置不同,顯存帶寬和容量不同。英偉達從H200開始使用HBM3e。GB200的顯存帶寬達16TB/s,容量達384GB,是H200的三倍多。H20和H800的顯存分別與H200和H100保持一致,遠高于國產(chǎn)芯片。

中國大陸:

因受到制裁,絕大多數(shù)國產(chǎn)芯片最新產(chǎn)品使用HBM2e。除采用HBM外,還有國產(chǎn)芯片使用GDDR和LPDDR。如昆侖芯二代芯片和摩爾線程S4000、S3000均使用GDDR6,寒武紀MLU370系列均使用LPDDR5

2.?算術強度

算術強度:總浮點運算次數(shù)/內(nèi)存帶寬(FLOPS/Byte) 算術強度過高,說明內(nèi)存帶寬過低,芯片運行有內(nèi)存瓶頸。

海外:

英偉達H100的算術強度較高,接近600FLOPS/Byte,隨著HBM3e的使用,算術強度在H200和Blackwell系列逐漸降低。其他廠商因使用HBM3e且算力不高,算術強度都較低。

中國大陸:

國產(chǎn)芯片的算力水平較低,所以盡管顯存帶寬低,算術強度都較低,不存在帶寬瓶頸。

三、互聯(lián)帶寬

雙向互聯(lián)帶寬=每條鏈路單向帶寬x鏈路數(shù)x 2

海外:

絕大多數(shù)廠商都開發(fā)了專有協(xié)議,帶寬普遍在500GB/s以上。英偉達的NVLink5相比于NVLink4帶寬翻倍,達到了1800GB/s。英偉達的NVLink依然有較強壁壘。AMD的Infinity Fabric4達到896GB/s。谷歌的ICI Links最高能達到672GB/s。H20使用NVLink4,帶寬達到900GB/s,相較于國產(chǎn)芯片有較大優(yōu)勢。H800和A800都使用特供版NVLink,帶寬只有400GB/s。

?中國大陸:

國產(chǎn)芯片的互聯(lián)能力普遍較弱,除華為外,帶寬普遍在400GB/s以下。寒武紀思元270和思元590采用的MLU-Link,帶寬分別達到600GB/s和372GB/s。海光信息BW100和沐曦科技的曦云C500的互聯(lián)帶寬能達到400GB/s。

References:

[1]英偉達:公司官網(wǎng)https://www.nvidia.cn/

CSDN博客https://blog.csdn.net/qq_39815222/article/details/136897603

墨天輪https://www.modb.pro/db/1830075219425452032

[2]AMD公司官網(wǎng)https://www.amd.com/zh-cn.html

[3]英特爾:公司官網(wǎng)https://www.intel.cn/content/www/cn/zh/homepage.html

[4]GroqSacra.comhttps://sacra.com/c/groq/

[5]谷歌:The Next Platform?https://www.nextplatform.com/2025/04/09/with-ironwood-tpu-google-pushes-the-ai-accelerator-to-the-floor/

[6]亞馬遜:Semianalysis?https://semianalysis.com/2024/12/03/amazons-ai-self-sufficiency-trainium2-architecture-networking/

[7]Meta公司官網(wǎng)?https://ai.meta.com/blog/next-generation-meta-training-inference-accelerator-AI-MTIA/

[8]微軟:Semianalysishttps://semianalysis.com/2023/11/15/microsoft-infrastructure-ai-and-cpu/

[9]寒武紀:公司官網(wǎng)https://www.cambricon.com/

格隆匯https://finance.sina.com.cn/wm/2025-01-19/doc-inefpcsy0554481.shtml

北方算網(wǎng)https://zhuanlan.zhihu.com/p/18044815862

[10]昆侖芯:電子元件采購網(wǎng)https://www.ameya360.com/hangye/108036.html

電子元器件采購網(wǎng)https://www.ameya360.com/hangye/108036.html

知乎https://zhuanlan.zhihu.com/p/603925398

捷睿星云http://www.jieruixingyun.com/busniess/intro/

百度昆侖芯Product Briefhttps://paddlelite-demo.bj.bcebos.com/devices/baidu/K100_K200_spec.pdf

[11]平頭哥:公司官網(wǎng)https://img.102.alibaba.com/1622193035686/9898014ba4eb8adfd3f31db3b2cf26f3.pdf?spm=a2ouz.12987056.0.0.68229352l5LGSa&file=9898014ba4eb8adfd3f31db3b2cf26f3.pdf

集微網(wǎng)https://www.sohu.com/a/374479009_166680

[12]海光信息:鯨起Studiohttps://mp.weixin.qq.com/s/Oq3HZxFwOJuLTuwzj9RYQw

北方算網(wǎng)https://zhuanlan.zhihu.com/p/18044815862

華西證券研究所http://www.qdatis.com/files/20250207/447df7d38b08845b0b7fdf376030fd19.pdf

格隆匯https://finance.sina.com.cn/wm/2025-01-19/doc-inefpcsy0554481.shtml

[13]燧原科技:?美通社https://www.prnasia.com/story/296402-1.shtml

與非網(wǎng)http://www.electric-cart-golf-cart.com/article/498969.html

智東西https://chedongxi.com/news/21214.html

IT之家https://news.qq.com/rain/a/20211208A02G3B00

[14]摩爾線程:公司官網(wǎng)https://www.mthreads.com/product/S3000

TechPowerUphttps://www.techpowerup.com/316881/moore-threads-launches-mtt-s4000-48-gb-gpu-for-ai-training-inference-and-presents-1000-gpu-cluster

[15]沐曦科技:CSDN博客https://blog.csdn.net/qq_23934063/article/details/132473834

飛槳https://www.paddlepaddle.org.cn/support/news?action=detail&id=3334

[16]壁仞科技:第一財經(jīng)https://m.yicai.com/news/101501217.html

電子工程專輯https://www.eet-china.com/mp/a152602.html

[17]天數(shù)智芯:電子發(fā)燒友https://www.elecfans.com/d/2253998.html

安信力http://www.anssionic.com/sgproducts_view.asp?main_id=20&small_id=71&id=244

相關推薦