• 正文
    • 邊緣處理——數(shù)十億量級的藍海市場
    • 機器學習入侵邊緣處理
    • 邊緣賦能下,嵌入式計算將如何演進?
  • 相關推薦
申請入駐 產業(yè)圖譜

邊緣AI在嵌入式處理器將掀起什么軒然大波?

原創(chuàng)
2020/11/02
154
加入交流群
掃碼加入
獲取工程師必備禮包
參與熱點資訊討論

作為移動設備之后的第五波計算浪潮,邊緣計算受到空前關注。它可以參與到生活的方方面面,包括居家、辦公、城市、工廠等,使智能生活更安全、效率更高。

2020 年,Gartner 將邊緣計算列為十大戰(zhàn)略技術趨勢之一。Gartner 指出,邊緣計算是一種拓撲結構,信息處理以及內容收集和傳遞被放置在離信息源更近的位置,其核心邏輯是保持流量本地和分布式以減少延遲。

這將包括物聯(lián)網的所有技術。邊緣賦能將著眼于這些設備的增長方式并為智能空間奠定基礎,并使關鍵應用和服務更接近使用它們的人員和設備。根據(jù)預測,到 2023 年,網絡邊緣的智能設備數(shù)量可能是傳統(tǒng) IT 領域的 20 倍以上。
?

邊緣處理——數(shù)十億量級的藍海市場

邊緣計算何以實現(xiàn)這樣的增長?恩智浦NXP)高級副總裁兼邊緣處理事業(yè)部總經理 Ron Martino 指出了背后的三大驅動因素:第一,它能夠降低總體擁有成本,不需要總是進行云接入,從而降低本地成本。第二,它可以保護數(shù)字隱私,提高安全性。第三,它能夠減少應用延遲,支持實時應用,增強本地體驗質量。

隨著邊緣計算與傳統(tǒng)分布式計算架構的深度融合,邊緣處理——正在悄然醞釀一場變革。NXP 作為在安全、連接、嵌入式領域耕耘多年的半導體廠商,將如何布局邊緣處理的廣闊市場?又會進行哪些變革?

Ron Martino 表示,邊緣處理市場可以看作一個分布式智能金字塔。底部是包括工業(yè)和物聯(lián)網在內的應用邊緣,其中工業(yè)邊緣包括工廠自動化、基礎設施、交通運輸、醫(yī)療等,物聯(lián)網邊緣包括智能家居、消費及可穿戴領域,這是邊緣處理規(guī)模最大的、十億量級的大市場;中部是網絡邊緣,主要支持 5G 本地網絡及數(shù)據(jù)集成,是一個千萬到億級的市場;最頂部則是數(shù)據(jù)中心,以云服務為主,大約是百萬量級。對邊緣處理的布局,NXP 的應用主要包括三大類:網絡邊緣、工業(yè)邊緣、物聯(lián)網邊緣,也就是金字塔底部和腰部規(guī)模最大的兩塊。

機器學習入侵邊緣處理

幾年前,人們普遍認為機器學習、深度學習只能通過由網關、邊緣服務器或數(shù)據(jù)中心執(zhí)行的邊緣訓練和推理,在高端硬件上完成。如今,情況已然發(fā)生了變化,處理器不必提供每秒數(shù)萬億次操作(TOPS),也能執(zhí)行機器學習,只要使用帶有嵌入式機器學習加速器的微控制器,就能在邊緣設備上進行機器學習。

內置機器學習加速器的微控制器代表著物聯(lián)網的下一階段:在生產數(shù)據(jù)的源頭,例如麥克風、攝像頭和監(jiān)控其他環(huán)境條件的傳感器中引入智能計算,只需極低的成本和極低的功耗,這些設備就能出色地完成機器學習,僅在絕對必要時才連接到云。

目前,機器學習在邊緣計算中的應用已經比較普遍,有 55%的開發(fā)人員表示他們當前或未來工作需要機器學習,早期的采納者已經開始探索更有意義的用例,未來則會被越來越多的開發(fā)者接受,也將使得機器學習的開發(fā)鴻溝得以消弭。
?

在 NXP 看來,在嵌入式開發(fā)中引入機器學習,當務之急是讓更多的開發(fā)者用起來。NXP 與 Au-zone 合作開發(fā)機器學習工具包,并與 Arm 合作,使 Arm Ethos-U65 microNPU 提供可擴展且高性能的機器學習用例。通過合作,加強 NXP 對 eIQ 機器學習開發(fā)環(huán)境的支持,幫助用戶部署優(yōu)化機器學習的模式,并且在全球范圍內優(yōu)化機器學習能力,直到 MCU 的層級。

不過,機器學習在嵌入式端具體如何實現(xiàn)?畢竟設備資源受限,對功耗、帶寬、存儲、模型尺寸等都有完全不同的要求。

NXP 邊緣處理事業(yè)部副總裁兼 IoT 業(yè)務線總經理于修杰表示,很多客戶其實都關心有沒有可能免費在設計中實現(xiàn)人工智能或機器學習,其實指的就是用 CPU 來運行。NXP 的 eIQ 工具可以部署類似這種模式,例如在家居場景中,由于人是交互對象,因此在推理方面需求不高,在機器學習方面就無需購買加速產品,從而可以降低成本。

此外,微處理器應用處理器神經網絡加速器的發(fā)展速度十分迅猛,更完善的解決方案也層出不窮??傮w趨勢是將更多以人工智能為中心的功能(例如神經網絡處理)與應用處理器一起整合到微處理器中,同時避免功耗或尺寸顯著增加。

不過,目前尚處于機器學習發(fā)展的早期,會有很多迭代和戰(zhàn)略微調。他強調,機器學習和人工智能應用,在選擇處理器方面不可能做到一刀切,取決于市場對于應用的需求和對功耗、成本的容忍度,每種技術都能找到自己適用和擅長的領域,因此未來還有很大的繼續(xù)創(chuàng)新的空間。NXP 將通過可擴展的處理器,支持從簡單到復雜的機器學習用例。

EdgeVerse 是 NXP 的邊緣處理平臺,通過嵌入式處理產品組合,結合安全、軟件和整體解決方案來加速邊緣計算。具體包括 MCU、跨界處理器、應用處理器以及高端微處理器等多系列的產品組合。其適用范圍較為廣泛,據(jù) Ron Martino 介紹,可覆蓋新基建七大重點領域中的六個,如 AI、工業(yè)互聯(lián)網、城際交通、5G、數(shù)據(jù)中心、新能源汽車充電。
?

邊緣賦能下,嵌入式計算將如何演進?

混合計算架構成為邊緣計算迅速融入物聯(lián)網多種多樣應用中的一個趨勢,跨界 MCU——就是 NXP 順應這一趨勢的創(chuàng)新。所謂“跨界”,是指介于常規(guī)的 MPU 與 MCU 之間,采用了 MCU 的內核,但基于 MPU 的架構,因此既能實現(xiàn) MPU 的高性能和豐富功能,同時又兼具傳統(tǒng) MCU 的易用性、低功耗、低成本的特性,從而打破了 MPU 和 MCU 之間的界限。

Ron Martino 指出,機器學習已經出現(xiàn)約 20 年了,一旦發(fā)布一款芯片,人們就會嘗試在處理引擎上運行各類計算,不論是 DSP、CPU 還是 GPU,隨著高集成度的出現(xiàn),在產品中使用這些計算密集型神經網絡也成為可能。在軟件層面,整個協(xié)議棧到軟件和應用層,也必須從機器學習的角度對許多方面進行評估。而更重要的是用戶體驗,需要找到他們真正想解決的問題。這就使得當前對于機器學習的用例優(yōu)化非常重要,通過硬件 IP 與軟件相結合,真正解決終端應用需求。

“邊緣計算有著廣泛的可能性,無論是性能還是能力,因此可擴展的解決方案具有更大的價值,它能夠充分挖掘邊緣計算的能力,這也需要非常廣泛的器件組合,在滿足軟件方面要求的同時又能夠兼顧平臺的效率”,Ron Martino 強調,“安全也越來越重要,隨著接入點的增多,產生了非常多的關鍵數(shù)據(jù),安全性和不斷集成的功能已經成為極為重要的因素,也成為嵌入式計算不斷演進的關鍵因素。”

至于嵌入式計算會如何演進?他表示,這些年來嵌入式計算的關鍵指標從頻率、單線程性能一直到具有很多計算模塊的異構計算,能耗效率和成本效益在不斷提升,機器學習功能也會不斷進化。在開發(fā)嵌入式計算產品方面不僅要結合各種計算模塊實現(xiàn)互聯(lián),也需要進行軟件的優(yōu)化賦能和硬件的用例優(yōu)化。機器學習和傳統(tǒng)的 CPU 工作負載有不同,比如內存的接入可能會成為一個潛在的瓶頸,另外還需要優(yōu)化它的尺寸,將其作為計算部件的一部分,實現(xiàn)與 CPU 功能及其他功能的協(xié)同,這是涉及系統(tǒng)級優(yōu)化的復雜過程,需要熟練的制造流程作用于軟件和硬件應用,以便真正優(yōu)化性能并降低功耗。

相關推薦

登錄即可解鎖
  • 海量技術文章
  • 設計資源下載
  • 產業(yè)鏈客戶資源
  • 寫文章/發(fā)需求
立即登錄