芯耀
657
2016年，“阿爾法狗（AlphaGo）”與李世石的圍棋對(duì)決，讓人工智能（AI）和深度學(xué)習(xí)進(jìn)入了大眾的視野。Gartner在最新報(bào)告中指出，預(yù)計(jì)到2022年，人工智能軟件市場(chǎng)的營(yíng)收或達(dá)到625億美元，預(yù)計(jì)較2021年增長(zhǎng)21.3% 。
AI技術(shù)的快速創(chuàng)新對(duì)FPGA市場(chǎng)有利
AI市場(chǎng)火熱的背后，我們常常會(huì)看到FPGA的身影，這就是今天說(shuō)的“AI技術(shù)的快速創(chuàng)新對(duì)FPGA市場(chǎng)有利”的一個(gè)前提。
而FPGA可以配合AI技術(shù)隨時(shí)為用戶提供最佳體驗(yàn)。由于AI不斷的技術(shù)創(chuàng)新，會(huì)不斷帶來(lái)新的實(shí)現(xiàn)方式，而新的實(shí)現(xiàn)方式的產(chǎn)生需要有更快的硬件和優(yōu)化的算法來(lái)實(shí)現(xiàn)，這些優(yōu)化的算法如果純粹只是停留在軟件，或者是大型CPU的計(jì)算方法上的話，對(duì)于實(shí)際的落地，尤其是對(duì)于邊緣端的部署，其實(shí)是比較大的挑戰(zhàn)。
?
圖 | AI模型的快速發(fā)展
從上圖中，大家可以看到AI模型的快速發(fā)展史，從2012到2021年，AI分類模型創(chuàng)新的數(shù)量逐年遞增。
網(wǎng)絡(luò)邊緣側(cè)的AI應(yīng)用更離不開(kāi)FPGA
我們看到網(wǎng)絡(luò)邊緣的計(jì)算正在快速興起，有很多新的應(yīng)用都在邊緣端發(fā)展出新的應(yīng)用和使用場(chǎng)景。ABI的研究調(diào)查表明，預(yù)計(jì)到2024年設(shè)備端的AI推理功能將覆蓋近60%的設(shè)備。
面對(duì)客戶端計(jì)算設(shè)備越來(lái)越需要快速響應(yīng)和情景感知式的用戶體驗(yàn)、高質(zhì)量視頻會(huì)議和協(xié)作式應(yīng)用的現(xiàn)實(shí)，我們發(fā)現(xiàn)網(wǎng)絡(luò)邊緣側(cè)的AI應(yīng)用是離不開(kāi)FPGA的，這是因?yàn)檫吘壎藢?duì)功耗的敏感度和尺寸的大小的要求是比較嚴(yán)格的。
?
圖 | 為什么選擇FPGA實(shí)現(xiàn)網(wǎng)絡(luò)邊緣AI
對(duì)比市場(chǎng)上的存量產(chǎn)品，就以Lattice的網(wǎng)絡(luò)邊緣AI產(chǎn)品來(lái)說(shuō)，它的功耗范圍可達(dá)1mW到1W，目前只有ASIC才有可能替換FPGA，但是ASIC目前還不能做到將使用場(chǎng)景固態(tài)化，并且和ASIC相比，F(xiàn)PGA的性能和效率是比較強(qiáng)的。而除了ASIC的器件外，其他的器件都不能實(shí)現(xiàn)。
比如我們常提到的CPU，與使用CPU來(lái)驅(qū)動(dòng)AI應(yīng)用的設(shè)備相比，采用sensAI開(kāi)發(fā)，并在萊迪思FPGA上運(yùn)行的AI計(jì)算設(shè)備的電池使用時(shí)間可延長(zhǎng)28%。sensAI還支持現(xiàn)場(chǎng)軟件更新，從而保持AI算法的演進(jìn)，還能讓OEM廠商靈活選擇不同的傳感器和SoC技術(shù)來(lái)適配他們的設(shè)備。
Lattice推sensAI v4.1解決方案集合，助力AI/ML發(fā)展
近日，Lattice再次更新了sensAI的版本，升級(jí)至sensAI v4.1。sensAI 4.1將會(huì)增加支持Lattice 今年剛剛推出的CetusPro-NX器件，而CetusPro-NX器件不僅容量方面有所提升，同時(shí)計(jì)算的能力和功效也提高不少。在這款器件的基礎(chǔ)上，Lattice還推出了相對(duì)應(yīng)的開(kāi)發(fā)板——聲音和視覺(jué)機(jī)器學(xué)習(xí)板，并配套CNN Plus加速器，以及相對(duì)應(yīng)的sensAI Studio。
圖 | Lattice sensAI解決方案集合
總結(jié)sensAI v4.1的增強(qiáng)特性和新特性，主要包括以下幾個(gè)方面：
1、客戶端計(jì)算AI體驗(yàn)參考設(shè)計(jì)
??? ?用戶檢測(cè)：用戶接近或離開(kāi)設(shè)備時(shí)會(huì)自動(dòng)啟動(dòng)或關(guān)閉客戶端設(shè)備
??? ?注意力追蹤：當(dāng)用戶的注意力不在屏幕上時(shí)，降低設(shè)備的屏幕亮度，節(jié)約電量，延長(zhǎng)使用時(shí)間
??? ?面部取景：在視頻會(huì)議應(yīng)用中提升視頻體驗(yàn)
??? ?旁邊者檢測(cè)：檢測(cè)站在設(shè)備后面潛在的窺視者，模糊屏幕以保障數(shù)據(jù)隱私
2、更多應(yīng)用支持
sensAI 4.1版本在性能和準(zhǔn)確度方面的提升有助于拓展其目標(biāo)應(yīng)用，包括自動(dòng)化工業(yè)系統(tǒng)中使用的高精度目標(biāo)檢測(cè)和瑕疵檢測(cè)等應(yīng)用。該解決方案集合擁有全新硬件平臺(tái)，包括板載圖像傳感器、兩個(gè)I2S麥克風(fēng)和用于添加更多傳感器的擴(kuò)展連接器，助力基于語(yǔ)音和視覺(jué)的機(jī)器學(xué)習(xí)應(yīng)用的開(kāi)發(fā)。
3、易于使用的工具
sensAI還更新了神經(jīng)網(wǎng)絡(luò)編譯器，支持Lattice sensAI Studio，這是一款基于GUI的工具，擁有AI模型庫(kù)，經(jīng)過(guò)配置和訓(xùn)練可適用于各類主流應(yīng)用場(chǎng)景。sensAI Studio現(xiàn)支持AutoML功能，能根據(jù)應(yīng)用和數(shù)據(jù)集目標(biāo)來(lái)創(chuàng)建機(jī)器學(xué)習(xí)模塊。一些基于Mobilenet機(jī)器學(xué)習(xí)推理訓(xùn)練平臺(tái)的模型專為最新的Nexus系列產(chǎn)品——Lattice CertusPro?-NX進(jìn)行了優(yōu)化。sensAI還兼容其他廣泛使用的機(jī)器學(xué)習(xí)平臺(tái)，包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。
sensAI v4.1的落地場(chǎng)景和落地途徑
Lattice Nexus FPGA和sensAI解決方案集合是開(kāi)發(fā)計(jì)算機(jī)視覺(jué)和傳感器融合應(yīng)用的理想平臺(tái)，可以提升用戶的參與和協(xié)作，保護(hù)用戶隱私。例如，客戶端設(shè)備可以分析攝像頭采集的圖像數(shù)據(jù)，確定后方人員是否離用戶過(guò)于靠近，還可以在用戶的注意力轉(zhuǎn)移到別處時(shí)，模糊屏幕，保護(hù)隱私，或者調(diào)暗屏幕，延長(zhǎng)電池使用時(shí)間。據(jù)悉，通過(guò)注意力追蹤可以延長(zhǎng)28%的電池壽命。
?
圖 | 電池使用時(shí)間與計(jì)算機(jī)視覺(jué)解決方案
為了能夠讓這款產(chǎn)品在PC上得到落實(shí)，Lattice和OEM的、其他芯片廠商、操作系統(tǒng)和軟件支持商，以及傳感器廠商合作，以保證客戶在使用Lattice方案的時(shí)候能夠很快的把這些方案做出來(lái)。
此外，前面也提到過(guò)，為了進(jìn)一步加速落地，Lattice還提供了三個(gè)參考設(shè)計(jì)：人員偵測(cè)、注意力追蹤和目標(biāo)分類。同時(shí)，在智能家居、智慧城市、工廠、智能汽車(chē)這些領(lǐng)域，還將提供相對(duì)應(yīng)的設(shè)計(jì)服務(wù)。
硬件優(yōu)化的設(shè)計(jì)方案：將AI的設(shè)計(jì)方案通過(guò)Lattice Radiant和DIAMOND結(jié)合之后，產(chǎn)生FPGA比特流，然后再把訓(xùn)練后的模型錄進(jìn)來(lái)，這樣產(chǎn)生一個(gè)類似于中央處理器的功能，而這里產(chǎn)生的量化的權(quán)重和指令更多指向于執(zhí)行的代碼，這兩個(gè)結(jié)合之后，可以產(chǎn)生一個(gè)AI的體驗(yàn)項(xiàng)目。
軟件優(yōu)化的設(shè)計(jì)方案：為了便于工程師的開(kāi)發(fā)設(shè)計(jì)，Lattice專門(mén)提供了一個(gè)PROPEL的軟件，便于大家對(duì)于整個(gè)內(nèi)部結(jié)果的控制能夠進(jìn)行類似于C代碼的控制，而不是使用比較難以上手的FPGA的開(kāi)發(fā)代碼，這樣的代碼是便于初學(xué)者能夠調(diào)用一些基本的指令進(jìn)行一些控制。左側(cè)更多指的是Lattice的開(kāi)發(fā)AI引擎的一些架構(gòu)，包括機(jī)器學(xué)習(xí)引擎，以此能夠做視覺(jué)的收取，同時(shí)做軟核的控制。
?
圖 | 軟件優(yōu)化的設(shè)計(jì)方案
Mirametrix副總裁Stephen Morganstein表示：“我們的Glance by Mirametrix注意力感應(yīng)軟件可以捕捉用戶的面部、眼睛和凝視動(dòng)作，從而了解用戶的意識(shí)和注意力。這項(xiàng)獨(dú)特的技術(shù)開(kāi)發(fā)的智能設(shè)備能提供更自然和沉浸式的用戶體驗(yàn)和設(shè)備交互。萊迪思的sensAI解決方案集合和低功耗FPGA可幫助開(kāi)發(fā)人員實(shí)現(xiàn)新穎的AI功能，提高設(shè)備的電池壽命?！?/p>
寫(xiě)在最后
借用Gartner高級(jí)研究主管Alys Woodward的一段話，“AI軟件市場(chǎng)正在加速發(fā)展，但長(zhǎng)期軌跡仍取決于企業(yè)AI的成熟度。想要獲得成功的話，還得看怎么挑選具體的應(yīng)用。綜合來(lái)看，通過(guò)提供重要的業(yè)務(wù)價(jià)值擴(kuò)展、同時(shí)降低AI用例的風(fēng)險(xiǎn)，對(duì)于AI投資和業(yè)務(wù)營(yíng)收的預(yù)期影響至關(guān)重要?！倍馤attice推出的這一些列采用sensAI技術(shù)的產(chǎn)品是促使AI軟件市場(chǎng)不斷發(fā)展的重要基石，尤其是在網(wǎng)絡(luò)邊緣側(cè)。
?
