芯耀
1278
32/64位、高效能低功耗的RISC-V處理器核心領導供貨商暨RISC-V國際協(xié)會創(chuàng)始首席會員晶心科技今日宣布全新產(chǎn)品線 AndesAIRE? 或 Andes AI Runs Everywhere 正式上市，該解決方案為邊緣及終端設備人工智能推理提供極高的計算效率。AndesAIRE? 包含首代人工智能和機器學習（AI/ML）硬件加速器IP AndesAIRE? AnDLA? I350（Andes Deep Learning Accelerator），以及神經(jīng)網(wǎng)絡軟件開發(fā)工具包 AndesAIRE? NN SDK。
隨著人工智能和機器學習（AI/ML）應用的爆炸性成長，高效能與高效率深度學習解決方案的需求不斷增加。在此需求下，由于邊緣和終端運作環(huán)境嚴格的功耗限制，使得僅僅依賴CPU架構(gòu)變得困難。針對這樣特別的挑戰(zhàn)，晶心科技推出AndesAIRE? AnDLA? I350，提供行業(yè)領先的高效率、低功耗和小面積，非常適合廣泛應用于邊緣推理應用，包括智能物聯(lián)網(wǎng)設備和智能相機，到智能家電和機器人等應用。
AndesAIRE? AnDLA? I350 建立在晶心科技過去18年來CPU 技術中累積的計算加速經(jīng)驗，并提供了一個高效能的AI/ML加速平臺。該解決方案支持主流的深度學習框架，例如 TensorFlow Lite、PyTorch 和 ONNX，以及在 int8 數(shù)據(jù)類型中執(zhí)行多種神經(jīng)網(wǎng)絡算子，例如convolution, fully-connect, element-wise, activation, pooling, channel padding, upsample, concatenation等。此外，AnDLA? I350 內(nèi)部設備直接內(nèi)存訪問（DMA）和本地內(nèi)存（local memory），以發(fā)揮硬件計算引擎的最佳計算能力。而operator fusion技術也是其特色之一，能更有效地執(zhí)行常見的計算序列。AnDLA? I350主要可配置參數(shù)包括從 32 到 4096 MAC 計算能力， 16KB 到 4MB 的SRAM 大小，為廣泛的應用提供64 GOPS 到 8 TOPS（在1 GHz下）靈活計算能力。
AndesAIRE? NN SDK 是一套全面的軟件開發(fā)工具包，可用于端到端（end-to-end）的開發(fā)與部署。它包括以下部分：
- AndesAIRE? NNPilot?: 神經(jīng)網(wǎng)絡優(yōu)化工具套件
- AndesAIRE? TFLM for AnDLA?：專為 AnDLA? 優(yōu)化的TensorFlow Lite for Microcontrollers框架
- AnDLA? driver and runtime
- NNPilot? 可自動分析輸入的神經(jīng)網(wǎng)絡模型，進行模型剪枝（pruning）和模型量化（quantization），根據(jù)硬件配置產(chǎn)生 AnDLA? 可執(zhí)行文件，并于 TFLM 框架下進行模型推論。
- NNPilot? 還會生成樣本 C 代碼，在主機的裸機環(huán)境中調(diào)用 AnDLA? 驅(qū)動程序。
為因應不斷進展與快速發(fā)展的人工智能技術，晶心科技致力于開發(fā)可擴展的人工智能子系統(tǒng)，能完美結(jié)合AndesAIRE? AnDLA?、AndesCore? RISC-V CPU和Andes Custom Extension? （ACE）。在此子系統(tǒng)中，人工智能工作負載中大部分結(jié)構(gòu)化與計算耗時的部分將有效率地在 AnDLA? 中計算，而如非線性函數(shù)等較不結(jié)構(gòu)化的計算可以通過RISC-V DSP/SIMD或Vector指令擴展的處理器中進行計算。其中ACE 是 CPU 和 AnDLA? 之間進行高效數(shù)據(jù)傳輸的重要關鍵，能減少海量存儲器帶寬和功耗，并同時大幅提高硬件利用率。ACE 還可以針對特定領域計算設計客制化指令，例如數(shù)據(jù)的前與后處理，來進一步提升處理效能。除了硬件IP 的可擴展性外，晶心科技不斷投入開發(fā)軟件 AndesAIRE? NN SDK 和 AndesAIRE? NN Library，使得已量產(chǎn)的SoCs可以因應未來人工智能算法的演進。自 2021 年以來，晶心科技每年于其計算函式庫中增加了超過一百個函數(shù)，并且將持續(xù)優(yōu)化和擴展新功能到 NN SDK 和 NN library 中。
「晶心科技非常高興推出我們?nèi)斯ぶ悄芎蜋C器學習（ AI/ML ）解決方案的新產(chǎn)品系列，包括 AndesAIRE? AnDLA? I350 和 AndesAIRE? NN SDK 。這是一款包含杰出效能的硬件以及專為邊緣和端點人工智能推理設計的端到端軟件解決方案，」晶心科技總經(jīng)理暨技術長蘇泓萌博士表示?！竿高^ AndesAIRE? ，我們賦予開發(fā)人員和創(chuàng)新者打造高擴展性和面向未來的 AI/ML 的芯片和應用?！?/p>
「 AndesAIRE? 產(chǎn)品線展現(xiàn)了我們對于 AI/ML 的市場愿景?！?晶心科技市場處資深技術經(jīng)理王庭昭表示，「透過融合 RISC-V 處理器、 AnDLA? 和 ACE 的優(yōu)勢而成的一個人工智能子系統(tǒng)，可充分平衡效能、功耗和面積，提供客戶極具競爭力的解決方案。不僅如此， RISC-V 處理器和 NN 軟件棧確保了彈性，而豐富的擴展性也讓客戶為其 AI/ML 特定應用建立出獨特的價值?！?/p>
AndesAIRE? AnDLA? I350和AndesAIRE? NN SDK現(xiàn)在正開放早鳥授權項目。
