在邊緣側 MCU可以擔當AI處理器

AI處理已經從云端向邊緣滲透，到2025年，將有75%的AI處理會在邊緣側完成，而不需要上云，這是半導體硬件技術發(fā)展所推動的。如今，AI的硬件處理已經不僅僅是FPGA、GPU或者專用加速處理器，MCU這類器件也正在成為AI處理的主力。考慮到MCU廣泛的適用性，這將極大地促進AI邊緣計算的進程，同時擴大嵌入式應用的內涵。

一些大廠很早就看到了這一趨勢背后的商機，結合自身產品和技術積極布局?，F已成為ADI一部分的Maxim早在2013年就開始研發(fā)卷積神經網絡 (CNN) 加速器，并將之和自家MCU進行整合，在兩年前推出了MAX78000。去年，該公司被ADI收購。最近這條產品線又推出了升級版的MAX78002。

一切有效的產品技術的創(chuàng)新，都源自應用需求。AI MCU的出現，原因在于端側智能化，即邊緣端越來越需要更多的基于數據處理的決策能力。這些端側涵蓋消費、工業(yè)、醫(yī)療和汽車等領域。但傳統(tǒng)上，MCU的主要應用是邏輯控制，并逐漸擴展到傳感器管理、數據采集、嵌入式安全認證、數據通訊、算法，以及電源管理等。ADI在總結其MCU性能時，給出的一組評價維度也反映出傳統(tǒng)應用對MCU的要求，即低功耗、豐富的接口資源、對BLE的支持、全面的評估資源（外設驅動、評估套件和開發(fā)平臺）、簡易的開發(fā)，以及很高的安全性。

AI這一新的應用給MCU帶來了變化。應用上看，ADI將其MCU分為3類，低功耗、安全和AI。小體積、低功耗和大存儲的低功耗MCU適用于工業(yè)、物聯網、醫(yī)療和可穿戴設備；具有抗攻擊的加密能力和安全系統(tǒng)架構的安全MCU適用于移動支付終端和讀卡器等；具有邊緣AI處理能力的AI MCU則適用于電池供電的人工智能和物聯網設備，比如說智能家居、人臉打卡、語音控制等等。

ADI中國技術支持中心高級工程師辛毅認為，傳統(tǒng)上依賴軟件技術的音視頻檢測和識別技術已經難以勝任現在的應用需求，AI技術已經成為標準手段。但無論是物聯網還是消費類設備，在融合AI的過程中都要克服大量計算、高存儲空間帶來的功耗和成本的挑戰(zhàn)。在諸如體征監(jiān)測、語音識別和智能預警這類邊緣AI應用中，系統(tǒng)通常不聯網，并采用電池供電，這就需要處理器小而美。

這正是MCU一直努力的方向。而MAX78000的特性則證明了MCU在AI化上的努力是有效的。該器件采用了基于FPU的Arm Cortex-M4F處理器（100MHz）+32位RISC-V協處理器（60MHz）的雙處理器內核，并內置了自研的CNN 引擎。該引擎有64個8位處理器，頻率為50MHz，擁有432KB的權重存儲內存，可支持1、2、4、8位權重（支持權重高達350萬的網絡），其權重內存基于SRAM（128KB），因此可以即時進行 AI 網絡更新。該引擎可編程網絡深度達64層，每層網絡通道數達1024。引擎具有512KB的數據存儲器，其架構高度靈活，支持包括MLP和循環(huán)神經網絡在內的其他網絡類型，允許在PyTorch和TensorFlow等傳統(tǒng)工具集中訓練網絡，然后使用 ADI提供的工具進行轉換以在MAX78000上執(zhí)行。

據ADI MCU產品線資深業(yè)務經理李勇介紹，在具體工作中，Arm Cortex-M4F負責MCU的控制處理，而RISC-V協處理器則專門配合CNN 引擎進行AI推理中的數據搬運。ADI提供的資料顯示，與MCU+DSP方案相比，這種方案使得復雜的AI推理功耗降低99%以上。此外，該AI MCU的成本只是FPGA或GPU方案的零頭，而執(zhí)行推理的速度比低功耗微控制器上實施的軟件方案快100倍。

不久前，ADI推出了升級版的MAX78002，原有架構不變，主要是提高了CNN引擎的內存資源和網絡支持能力，其頻率大幅提高到200MHz，權重存儲內存增加到2 MB，可支持1600 萬個權重的網絡，可編程網絡深度達256層。另外，該引擎的數據內存提高到1.31MB 。除了CNN引擎，MAX78002也升級了更多的片內資源，包括內核主頻提升至120MHz，2.5 MB閃存和384 KB SRAM，支持更多的高速和低功耗通信接口，包括I2S、MIPI CSI-2串行攝像頭、并行攝像頭(PCIF)和SD 3.0/SDIO 3.0/eMMC 4.51安全數字。

顯然，有了CNN引擎，MCU可以實現更多的應用，諸如目標檢測和分類（人臉、物體和寵物等）、災難檢測（煙感、煙霧監(jiān)測；火災監(jiān)測；泥石流監(jiān)測；震動監(jiān)測）、醫(yī)療應用（心電圖；心率、血液數據）、指令識別（語音指令控制智能家居），以及人聲識別（可以識別指令的發(fā)出人）等。

如上圖所示，在這些應用中，AI MCU可以用更小的處理器內核實現一些大內核MCU所不能達到的性能，并大大降低了功耗，這為降低MCU以及邊緣AI應用的邊際成本提供了新的途徑。ADI的AI MCU已經在智能門鎖、垃圾分類、車載冰箱、智能頭盔和管道泄漏檢查等系統(tǒng)中應用?，F階段，AI MCU的應用面向那些基于RTOS而非安卓或Linux的操作系統(tǒng)，以及并不需要很高算力的邊界內。相信不久的將來，面對廣闊的邊緣智能化市場，AI MCU將會承擔越來越關鍵的角色。