打造“FPGA+”的硬件優(yōu)化主張是否能抵得過(guò)“軟件定義硬件”？

隨著人工智能逐步落地，以及邊緣計(jì)算的快速發(fā)展，FPGA 由于性能比傳統(tǒng) CPU 快 10-100 倍，在加速市場(chǎng)發(fā)揮著越來(lái)越大的作用。據(jù) Research and Markets 預(yù)測(cè)，從 2018 年到 2023 年，F(xiàn)PGA 將是年復(fù)合增長(zhǎng)率最高的細(xì)分市場(chǎng)，數(shù)據(jù)中心加速器市場(chǎng)預(yù)計(jì)將從 2018 年的 28.4 億美元增長(zhǎng)到 2023 年的 211.9 億美元，年復(fù)合增長(zhǎng)率達(dá)到 49.7%。而這一高速增長(zhǎng)的驅(qū)動(dòng)力就來(lái)自于計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)、傳感器處理等企業(yè)級(jí)工作負(fù)載加速應(yīng)用對(duì) FPGA 的采用。

FPGA 的加速功能最終要靠加速卡完成，隨著新技術(shù)沿著“采用曲線(xiàn)”移動(dòng)，消費(fèi)使用模式在發(fā)生變化，超大規(guī)模廠(chǎng)商已經(jīng)實(shí)施了“FPGA 芯片級(jí)”設(shè)計(jì)，大多數(shù)二類(lèi)規(guī)模廠(chǎng)商還沒(méi)有足夠的規(guī)模經(jīng)濟(jì)或者內(nèi)部資源來(lái)支持實(shí)施芯片級(jí)設(shè)計(jì)，這些客戶(hù)正在尋求現(xiàn)成可用的板級(jí)或者系統(tǒng)級(jí)解決方案。

左：Achronix 公司市場(chǎng)營(yíng)銷(xiāo)副總裁 Steve Mensor

右：BittWare 公司副總裁 Sam Bichara

Achronix聯(lián)手BittWare打造高速FPGA加速卡

對(duì)于 FPGA 加速卡，業(yè)內(nèi)的用戶(hù)并不陌生，早在幾年前，賽靈思和英特爾（原來(lái)的 Altera）就已經(jīng)陸續(xù)推出了多款 FPGA 加速卡，目的就是為數(shù)據(jù)中心提速。Achronix 公司作為后起之秀，早期推出了 eFPGA IP，但是限于 IP 產(chǎn)品的變現(xiàn)速度太慢，隨后推出了 FPGA 芯片，今年 5 月發(fā)布的新品叫 Speedater7t。Achronix 公司市場(chǎng)營(yíng)銷(xiāo)副總裁 Steve Mensor 介紹，Speedater7t 的優(yōu)勢(shì)在于重新思考了 FPGA 架構(gòu)，以平衡片上處理、互聯(lián)和外部輸入輸出接口，實(shí)現(xiàn)數(shù)據(jù)密集型應(yīng)用吞吐量的最大變化，主要應(yīng)用于基于邊緣和基于服務(wù)器的 AI/ML 應(yīng)用、網(wǎng)絡(luò)處理和存儲(chǔ)。

（關(guān)于 Speedater7t FPGA 產(chǎn)品的詳細(xì)介紹，請(qǐng)參照?qǐng)?bào)道：抓住 AI 帶來(lái)的 3 倍飆升，這家公司拼力打造“FPGA+”實(shí)現(xiàn)突破）

從芯片到應(yīng)用端還隔著一個(gè)方案設(shè)計(jì)環(huán)節(jié)，當(dāng)自身還不夠強(qiáng)大的時(shí)候，Achronix 選擇了借力，與 BittWare 一起打造基于 Speedater7t FPGA 的 VectorPath PCIe 加速卡。BittWare 是 Molex 的子公司，在業(yè)內(nèi)有 30 多年 FPGA 加速卡設(shè)計(jì)經(jīng)驗(yàn)，業(yè)務(wù)遍布全球 40 個(gè)國(guó)家與地區(qū)，生態(tài)鏈非常完善。BittWare 總裁 Sam Bichara 向與非網(wǎng)記者介紹，“VectorPath S7t-VG6 加速卡搭載了 Achronix 采用 7nm 工藝打造的 Speedster 7tAC7t1500 獨(dú)立 FPGA 芯片，它在同類(lèi) PCIe FPGA 加速卡中，提供了目前業(yè)界最高性能的接口。這些高性能接口包括 1x400GbE 和 2x100GbE 接口，以及總帶寬為 4Tbps 的 8 組 GDDR6 的板上存儲(chǔ)器，使該加速卡成為高帶寬數(shù)據(jù)加速應(yīng)用的理想選擇?！?/p>

VectorPath PCIe 加速卡

其實(shí) BittWare 之前已經(jīng)基于賽靈思和英特爾的產(chǎn)品推出了 FPGA 加速卡，在 Sam Bichara 看來(lái)，Speedster7t FPGA 芯片集成了帶寬為 20 Tbps 的二維片上網(wǎng)絡(luò)（NoC），使 VectorPath PCIe 加速卡的性能更具有優(yōu)勢(shì)，提供 400GbE QSFP-DD 和 100GbE QSFP56 接口，具有 8 組 GDDR6 存儲(chǔ)器可提供 4 Tbps 的總帶寬，1 組帶有錯(cuò)誤檢查和糾正（ECC）功能的、運(yùn)行頻率為 2666MHz 的 DDR4 存儲(chǔ)器，符合 PCIe 的要求并獲得了認(rèn)證，具有 692K 的 6 輸入查找表（LUT），40K Int8 MAC 提供高于 80 TOps 的算力，OCuLink 可用于連接擴(kuò)展卡的 4 通道 PCIe Gen 4 連接器。

在應(yīng)用上，Sam Bichara 表示，在市場(chǎng)上，PCIe 加速卡應(yīng)用越來(lái)越多，在兩三年前一類(lèi)規(guī)模廠(chǎng)商開(kāi)始將加速卡放到數(shù)據(jù)中心，他們的工程師資源比較充分，可以把芯片直接做到主板中，而對(duì)于小型數(shù)據(jù)中心，工程師資源匱乏，可以基于 PCIe 加速卡發(fā)揮 FPGA 的優(yōu)勢(shì)。與 Achronix 的合作充分利用了 BittWare 和 Achronix 的優(yōu)勢(shì)，客戶(hù)將因此獲得巨大的、開(kāi)箱即用的優(yōu)勢(shì)，并且可以利用 Speedster7t FPGA 芯片的各種先進(jìn)功能。而且 BittWare 已經(jīng)開(kāi)發(fā)了多種加速卡，有一套標(biāo)準(zhǔn)的質(zhì)量控制流程，從前端到后端工廠(chǎng)，包括壓力、溫度、板載測(cè)試軟件都是自己測(cè)試，因此質(zhì)量更有保證。

為了實(shí)現(xiàn)開(kāi)箱即用，BittWare 還推出了 TeraBox 服務(wù)器平臺(tái)，可以更具用戶(hù)選擇 BittWare FPGA 加速器的數(shù)量進(jìn)行配置，預(yù)裝操作系統(tǒng)喝 FPGA 開(kāi)發(fā)工具，用戶(hù)簡(jiǎn)單配置即可部署，將從實(shí)驗(yàn)室到市場(chǎng)的轉(zhuǎn)換成本降至最低。而且對(duì)于大批量需求，提供定制服務(wù)，優(yōu)化成本結(jié)構(gòu)。

相對(duì)AI專(zhuān)用芯片，FPGA的應(yīng)用更廣

針對(duì) AI 應(yīng)用，市面上已經(jīng)有很多芯片廠(chǎng)商甚至終端產(chǎn)品廠(chǎng)商開(kāi)始推出 AI 專(zhuān)用芯片，未來(lái) FPGA 芯片會(huì)擔(dān)任怎樣的市場(chǎng)角色，是否會(huì)因此受到?jīng)_擊？這也是業(yè)界比較關(guān)心的問(wèn)題。Steve Mensor 解釋?zhuān)谝?，針?duì)各種應(yīng)用需要具有針對(duì)性的產(chǎn)品，如果不考慮成本因素，ASIC 一定是最有效的方案，但是當(dāng)用戶(hù)的購(gòu)買(mǎi)量小時(shí)，成本會(huì)上升，而 FPGA 的優(yōu)勢(shì)是不只針對(duì)某一應(yīng)用，而是同一款芯片通過(guò)可編程適配更多的應(yīng)用，這恰恰是數(shù)據(jù)中心所需要的，讓他們可以面向不同的客戶(hù)不同的應(yīng)用；第二，采用 AISC 意味著這一應(yīng)用的算法不再革新，不再需要編程，但是目前的情況是新技術(shù)在一直演進(jìn)，包括人工智能，CPU 和 GPU 有很多缺點(diǎn)，而 FPGA 可以超過(guò) GPU、ASIC 的應(yīng)用范圍。

堅(jiān)持“硬件定義軟件”發(fā)展思路

相對(duì)整個(gè)半導(dǎo)體幾千億美元的市場(chǎng)，F(xiàn)PGA 的市場(chǎng)份額并不大，把持大局的公司只有幾家，有意思的是，關(guān)于 FPGA 的發(fā)展趨勢(shì)，市場(chǎng)上出現(xiàn)了不同的聲音。就在前不久，賽靈思發(fā)布了軟件統(tǒng)一平臺(tái) Vitis，主張軟件定義硬件的發(fā)展趨勢(shì)；而 Achronix 則持有相反的看法。

Steve Mensor 認(rèn)為，“可以看到，他的系統(tǒng)中不僅有 FPGA，還有處理器、AI 引擎和高速接口，整個(gè)系統(tǒng)包含四種不同的底層硬件，這就涉及到各種硬件之間的協(xié)調(diào)問(wèn)題。要解決這個(gè)問(wèn)題，從表面看，賽靈思是通過(guò)軟件的思維開(kāi)發(fā)，實(shí)際上當(dāng)用戶(hù)使用時(shí)，需要搞清楚系統(tǒng)的哪些部分由 FPGA 處理，哪部分由 AI 引擎處理，以及它們互相之間的數(shù)據(jù)如何流動(dòng)？這不只是簡(jiǎn)單的工具問(wèn)題，而是整體設(shè)計(jì)的問(wèn)題，非常具有挑戰(zhàn)性。我們選擇了另外一個(gè)獨(dú)特的路徑，就是在傳統(tǒng)的 FPGA 上做了優(yōu)化，通過(guò)二維網(wǎng)絡(luò)，注意我們不是使用處理器，而是陣列，我們的底層思維還是硬件的思維，也配有開(kāi)發(fā)工具讓工程師可以使用 C、TensorFlow 等語(yǔ)言，但是系統(tǒng)中沒(méi)有不同的單元，不會(huì)產(chǎn)生協(xié)調(diào)數(shù)據(jù)的問(wèn)題。數(shù)據(jù)通信問(wèn)題不是軟件工程師可以想清楚的，原有的工程師可以方便地使用我們的工具，而且我們的產(chǎn)品在性能上有很大的提升，軟件工程也很容易使用?！?/p>

可以看出，兩家公司各執(zhí)一詞，至于哪種趨勢(shì)是主流趨勢(shì)，筆者認(rèn)為符合用戶(hù)設(shè)計(jì)需求的方案才能代表主流趨勢(shì)，現(xiàn)在還難以下定論。就像 Steve 所說(shuō)的那樣，我們堅(jiān)持自己的硬件優(yōu)化發(fā)展思路，誰(shuí)對(duì)誰(shuí)錯(cuò)由市場(chǎng)決定。FPGA 市場(chǎng)需要有公司能激起不一樣的浪花。