芯耀
907
AI芯片，有錢就能做？必要但不充分。只有當(dāng)你足夠成功，才配有名有姓。
兩大陣營
為什么全球CPU、GPU公司只有屈指可數(shù)的幾家，但是人工智能大潮一來，幾年間就涌現(xiàn)出了那么多的AI芯片公司？AI芯片，有錢就能做嗎？
這是芯片工程師的一個“友盡”話題，肯定派認(rèn)為：與高端通用處理器相比，AI芯片多數(shù)是ASIC，容易多了；否定派認(rèn)為，AI芯片需要針對算法進行特定設(shè)計，應(yīng)用場景限制更多，是多方面設(shè)計思想的完美平衡，尤其是直接面向碎片應(yīng)用的邊緣計算AI芯片，并不比CPU、GPU容易。
開發(fā)不易落地難，費時燒腦忙全?！闶?a class="article-link" target="_blank" href="/tag/%E8%BE%B9%E7%BC%98AI/">邊緣AI芯片開發(fā)的真實寫照了吧。
邊緣計算其實是上世紀(jì)九十年代初提出的概念，來源于數(shù)據(jù)內(nèi)容傳輸網(wǎng)絡(luò)，用來服務(wù)網(wǎng)頁和視頻內(nèi)容，當(dāng)時是從端側(cè)服務(wù)器所產(chǎn)生的服務(wù)，可以更加靠近用戶。
從過去三十年的發(fā)展變遷來看，數(shù)據(jù)類型和體量發(fā)生了巨大變化。最早期是人產(chǎn)生數(shù)據(jù)（比如廣播、電視媒體等），到現(xiàn)在大量智能終端用戶都在產(chǎn)生數(shù)據(jù)，此外，還有機器產(chǎn)生的數(shù)據(jù)，以及元數(shù)據(jù)（描述數(shù)據(jù)的數(shù)據(jù)）……這些數(shù)據(jù)必須要靠近處理數(shù)據(jù)的地方。這些都導(dǎo)致了數(shù)據(jù)類型越來越多元化，遠(yuǎn)非傳統(tǒng)CPU或GPU就可以處理的。
邊緣AI芯片設(shè)計新挑戰(zhàn)？
英特爾研究院副總裁、英特爾中國研究院院長宋繼強表示，邊緣計算是巨大的創(chuàng)新機會，它是由數(shù)據(jù)和場景驅(qū)動的，因此需要進行許多垂直整合，優(yōu)化包括算法、應(yīng)用負(fù)載、異構(gòu)計算的集成等整套系統(tǒng)，而不只是做好一部分底層技術(shù)就可以。
時擎科技總裁于欣認(rèn)為，邊緣計算AI芯片的最主要挑戰(zhàn)是如何提高算力的效率?，F(xiàn)在已經(jīng)過了通過粗暴的先進制程來去堆砌算力的時代了，特別是面向應(yīng)用和算法的時候，如何把芯片的算力發(fā)揮出來，是決定未來AI芯片發(fā)展的一個重要的因素。
靈汐科技副總經(jīng)理華寶洪提到了AI芯片的三大技術(shù)挑戰(zhàn)：
首先是摩爾定律挑戰(zhàn)，半導(dǎo)體光刻技術(shù)已經(jīng)接近極限，目前想要在3nm以下再提升工藝水平已經(jīng)是極為挑戰(zhàn)的技術(shù)難題，而成本、市場與需求之間的平衡，也極大可能難以為繼。相伴而來的還有馮·諾依曼架構(gòu)的瓶頸：高速處理器與數(shù)據(jù)I/O帶寬間的不平衡，高速處理器和低能效比存儲之間的不平衡等，這些因素嚴(yán)重影響了整體效率。
其次是對高能效比與高性價比的兼顧，既要保證邊緣端用戶享受優(yōu)質(zhì)的算力服務(wù)，又要給予合理的價位水平。
最后還需要能適應(yīng)邊緣計算各種復(fù)雜場景的自適應(yīng)能力。如何去處理動態(tài)的復(fù)雜的場景？如何去解決沒有大數(shù)據(jù)情況下有限樣本的泛化？如何去面對真實世界不可被窮舉的數(shù)據(jù)？這些都是現(xiàn)階段AI芯片面臨的挑戰(zhàn)。
Imagination計算業(yè)務(wù)產(chǎn)品管理總監(jiān)Rob Fisher也強調(diào)，AI芯片要設(shè)計足夠靈活的架構(gòu)以適應(yīng)新的創(chuàng)新，同時，與可編程設(shè)備相比，還要實現(xiàn)高效加速。要達到這一平衡，既需要足夠的固定功能以獲得性能和效率，通常又要有足夠的可編程性以適應(yīng)新網(wǎng)絡(luò)和算法的發(fā)展速度。
傳統(tǒng)芯片開發(fā)模式受沖擊？
邊緣場景復(fù)雜、算法復(fù)雜、任務(wù)碎片化，體現(xiàn)在硬件層面，芯片底層設(shè)計要考慮如何用軟件定義硬件，給未來的軟件開發(fā)留出足夠多的調(diào)整迭代空間，達到應(yīng)用場景的多樣化和復(fù)雜化；體現(xiàn)在軟件棧層面，包括指令集、底層編譯器、高層編譯器、算法、應(yīng)用框架支持等全鏈條，都需要有能力覆蓋和支持。這意味著既有的芯片開發(fā)模式，無論硬件還是軟件層面，都在遭受新的沖擊。
靈汐科技華寶洪認(rèn)為“實現(xiàn)碎片化產(chǎn)業(yè)的融合”非常關(guān)鍵。芯片設(shè)計首先要考慮邊緣計算場景，進行定制化的優(yōu)化；一旦流片完成，后續(xù)所有場景和復(fù)雜任務(wù)的更新，都通過軟件來迭代。也就是說，通過軟件定義硬件的模式驅(qū)動需求的最終落地，即基于軟硬件解耦技術(shù)屏蔽底層硬件的差異，實現(xiàn)碎片化應(yīng)用的落地。
事實上，對于五花八門的芯片架構(gòu)，下游廠商往往無法真正做到“高效地利用硬件資源”。 時擎科技于欣表示，這就需要芯片原廠做得更多一些，不再是簡單提供一個芯片，而是針對客戶要求的一個完整的解決方案。這對于芯片原廠的算法和應(yīng)用開發(fā)能力，肯定是帶來更高挑戰(zhàn)。 “當(dāng)然還有一種辦法，就是把芯片做得更“好用”，對開發(fā)者更友好”，他補充，“這是兩個努力的方向，本質(zhì)上也不沖突。畢竟芯片原廠根本的出發(fā)點，還是如何更好地配合客戶，以芯片為核心和基礎(chǔ)，提供客戶所需要的增值服務(wù)?！?/p>
如何尋求新突破？
時擎科技于欣認(rèn)為，AI芯片設(shè)計可以遵循兩個大的思路：一是如何對開發(fā)者更友好，從而能夠進行最優(yōu)化設(shè)計，讓芯片里的每一個晶體管都能真正派上用場；二是通過專用的架構(gòu)，讓算法和芯片融合得更緊密。
從目前所看到的主流方向來看，除了智慧安防、智能汽車等，更多是整體智能化生活的演進在驅(qū)動著邊緣計算的發(fā)展?！安灰姷帽仨毷切律膱鼍昂驮O(shè)備形態(tài)，目前存量的終端設(shè)備的智能化升級，也是很大的一個推動力。當(dāng)然這是一個過程，一定需要時間。而決定這個過程進展快慢的，一方面要看AI技術(shù)是否帶來真正的便利，另一方面還要看成本上是否可行、可落地，從這個角度來說，物美和價廉一個都不能少”，于欣補充。
談及下一步的突破點，靈汐科技華寶洪認(rèn)為“要多向人腦學(xué)習(xí)”。傳統(tǒng)意義上單純依靠堆大數(shù)據(jù)、高算力的方法或?qū)⒊蔀檫^去式，要想有新的突破，必須有新的思路，而類腦計算就是關(guān)鍵之一。從過往的發(fā)展來看，基于碳基已經(jīng)進化到人腦這個最強大的通用智能體，基于硅芯片已經(jīng)可以輸出一些強大的機器智能，那么，借鑒腦科學(xué)的基本原理發(fā)展類腦計算，從而支撐人工通用智能的發(fā)展，是完全有可能的。“類腦計算將有可能成為一把突破傳統(tǒng)AI計算瓶頸、打開通用人工智能大門的鑰匙，從而也就破解了后摩爾時代所帶來的新挑戰(zhàn)”，他表示，“此外，邊緣計算芯片多以SoC為主，可以自研也可以直接采購第三方IP，在此背景下，擁有獨立研發(fā)AI計算 IP核的能力也成為了企業(yè)的核心競爭力和突破點?！?/p>
關(guān)于AI芯片應(yīng)用的驅(qū)動力，Imagination Rob Fisher認(rèn)為，自然語言處理是一大方向。例如最近在語音轉(zhuǎn)意圖引擎領(lǐng)域的研究和開發(fā)，已經(jīng)實現(xiàn)了在極低功耗架構(gòu)中構(gòu)建精確系統(tǒng)，從而可以加速小型神經(jīng)網(wǎng)絡(luò)。此外還有自動駕駛系統(tǒng)，正在推動芯片設(shè)計人員創(chuàng)建極快的加速架構(gòu)，以實時處理大量的傳感器數(shù)據(jù)。
邊緣訓(xùn)練尚乏動力？
目前在邊緣側(cè)，仍以推理任務(wù)居多。如果要進一步滿足低延遲、自適應(yīng)響應(yīng)的要求，是否有必要在邊緣側(cè)進行一定量的訓(xùn)練任務(wù)？如果要進行訓(xùn)練，還有哪些挑戰(zhàn)需要解決？
上海雪湖科技有限公司副總裁趙小吾認(rèn)為，訓(xùn)練所需要的算力比推理多很多，目前還沒看到太多在邊緣側(cè)進行訓(xùn)練的需求。不過，如果自適應(yīng)學(xué)習(xí)模型能滿足邊緣計算設(shè)備對精度、性能、功耗和成本的要求，相信未來會看到更多的應(yīng)用需求。
時擎科技于欣也認(rèn)為短期內(nèi)不會出現(xiàn)這種需求。絕大部分的訓(xùn)練對延時、甚至成本并不是非常敏感，這些任務(wù)完全沒有必要放在邊緣去做。他強調(diào)，所有的工作任務(wù)還是有邊界的，還是要揚長避短地去完成，這是由內(nèi)在的邏輯決定的，沒有必要為了跨界而去跨界。
靈汐科技華寶洪則表示，車路云協(xié)同、自動駕駛等領(lǐng)域，由于實時性、安全性的要求，均需要在邊緣側(cè)進行訓(xùn)練。未來，在線學(xué)習(xí)、小樣本學(xué)習(xí)、復(fù)雜場景中實現(xiàn)動態(tài)自適應(yīng)調(diào)整等需求都會在邊緣側(cè)的訓(xùn)練中得到解決。
他認(rèn)為，一方面，邊緣側(cè)仍以CPU、GPU等傳統(tǒng)芯片為主，訓(xùn)練任務(wù)所帶來的高能耗、高價格等是固有的挑戰(zhàn)；另一方面，邊緣側(cè)的特點決定了在邊緣進行訓(xùn)練，將會面臨大數(shù)據(jù)不足、離線訓(xùn)練時間代價高等難題，這些挑戰(zhàn)嚴(yán)重阻滯了邊緣訓(xùn)練的發(fā)展。邊緣訓(xùn)練要取得長足發(fā)展，離不開新型計算架構(gòu)的支撐，實現(xiàn)途徑包括在線學(xué)習(xí)、小樣本學(xué)習(xí)等。
方向：走向更強的智能邊緣
智能邊緣確實是一個熱詞，未來的市場空間也非常龐大。但是，業(yè)界當(dāng)前對它的理解和部署仍在摸索中。比如，電信運營商的移動邊緣計算（Mobile Edge Computing）叫智能邊緣，云廠商、CDN前置的一些業(yè)務(wù)類型也可以叫智能邊緣。未來，各行各業(yè)的數(shù)字化轉(zhuǎn)型雖然都需要進行智能邊緣的部署，但是還要取決于具體的應(yīng)用需求，例如延遲、帶寬、價格和能耗等方面。
從實現(xiàn)方式來看，現(xiàn)在很多智能邊緣的能力多數(shù)通過一個盒子（邊緣計算盒）的形式在提供，能力非常有限，實際上相當(dāng)于是對MEC簡單的擴展，是比較弱的智能邊緣。
英特爾宋繼強表示，如果未來要用在智能制造、港口、礦山等領(lǐng)域，需要網(wǎng)絡(luò)、計算、存儲等更多功能，那就意味著對數(shù)據(jù)量的處理是巨量的，對AI算力要求更高，而且有實時要求。因此，弱的邊緣肯定是不夠的，一定要向更強的邊緣去演進。
他認(rèn)為服務(wù)機器人是邊緣計算一個非常典型的應(yīng)用場景，因為持續(xù)學(xué)習(xí)的能力對于機器人非常重要。例如未來要走入家庭中起到照顧、陪伴作用的機器人，它需要具備長期的、可逐步提高的服務(wù)能力，這就需要從具體場景中逐漸學(xué)習(xí)、構(gòu)造對場景的理解。通過進一步分析場景中的相互關(guān)聯(lián)，形成機器人自己的記憶，才能進行后續(xù)的能力提升。
如果這個學(xué)習(xí)過程只靠機器人自身完成的話，對硬件的要求太高，這就需要用到邊緣計算，一方面將不需要即時響應(yīng)的計算卸到邊緣側(cè)，另一方面也可以利用邊緣計算進行存儲，相當(dāng)于通過智能邊緣，幫助機器人這類前端設(shè)備，具備了更大的存儲和計算容量，獲得了自體之外的另一個“大腦”。
寫在最后
芯片是工業(yè)技術(shù)發(fā)展到極致的體現(xiàn)，包括對零部件精細(xì)度、生產(chǎn)環(huán)境、自身工藝的要求等等，是一個龐大的系統(tǒng)工程。對于AI芯片來說，除了面臨傳統(tǒng)芯片的問題，挑戰(zhàn)更進一步。因為在AI應(yīng)用中，芯片是承載計算功能的基礎(chǔ)部件，軟件是實現(xiàn)AI的核心，這是AI芯片從業(yè)者不得不面對的現(xiàn)實。
不過，經(jīng)過過去幾代IT產(chǎn)業(yè)不斷給萬物云化、智能化帶來新的推動力，現(xiàn)在已經(jīng)到了一個把萬物都智能化的關(guān)鍵階段。新時代的數(shù)據(jù)盛宴，正是邊緣計算發(fā)力的絕佳時期，邊緣AI芯片挑戰(zhàn)不小，蛋糕也不小。
