我是老溫,一名熱愛學習的嵌入式工程師。關(guān)注我,一起變得更加優(yōu)秀!
科技發(fā)展太快,新技術(shù)層出不窮,比如:人工智能,大模型,生成式AI,看得我眼花繚亂。
作為一名資深的嵌入式牛馬工程師,我總覺得需要花點時間和精力,持續(xù)關(guān)注AIoT應(yīng)用技術(shù)。
為什么?因為,時代變了!
平時有關(guān)注芯片動態(tài)的嵌入式工程師老鐵,相信都應(yīng)該能觀察到,很多常見的單片機廠商都開始推出帶有模型推理能力的MCU。
詳見以下文章:
單片機的性能開始逆天開掛,集成NPU,可以進行模型推理!
國外一線MCU大廠率先展開布局,這是一個非常非常明顯的信號,不知道國內(nèi)的MCU廠家什么時候開始布局端側(cè)AI單片機芯片?
國內(nèi)現(xiàn)在基本上是通過MPU芯片內(nèi)自帶的神經(jīng)網(wǎng)絡(luò)處理器NPU,來對模型進行推理運算,比較出名的芯片廠商,有瑞芯微和全志科技。
比如,得益于端側(cè)AI芯片的落地應(yīng)用,瑞芯微2024年的財報數(shù)據(jù),非常亮眼!
DeepSeek總結(jié)出來的數(shù)據(jù)
我曾簡單地學習過,如何在瑞芯微RK3588上部署AI大模型,并且在上面流暢地運行DeepSeek-R1 1.5B大模型。(點擊以下鏈接)
嵌入式AI入坑第一步,先把開發(fā)環(huán)境搭建起來!
嵌入式AI入坑第二步,模型轉(zhuǎn)換與部署!
嵌入式AI入坑第三步,在開發(fā)板上部署DeepSeek-R1大模型
嵌入式AI入坑第四步,設(shè)備運行大模型后的硬件性能數(shù)據(jù)。
如果想了解更多嵌入式AIoT技術(shù)應(yīng)用,推薦您關(guān)注:
傳統(tǒng)的嵌入式單片機工程師,與嵌入式AIoT工程師,兩種崗位角色的技術(shù)棧方向,還是有一定區(qū)別的,對比如下:
關(guān)鍵差異總結(jié):
硬件升級:AIoT工程師需掌握NPU加速器和多核處理器,傳統(tǒng)工程師專注單一MCU或SoC 。
軟件擴展:AIoT技術(shù)棧涵蓋從邊緣AI到云端協(xié)同,傳統(tǒng)嵌入式以本地控制為核心 。
協(xié)議復(fù)雜化:AIoT需處理異構(gòu)網(wǎng)絡(luò)(如LoRa+WiFi 6混合組網(wǎng)),傳統(tǒng)場景通信協(xié)議比較單一 。
開發(fā)范式轉(zhuǎn)變:嵌入式AIoT更接近全棧模式,需同時理解硬件限制和云原生架構(gòu)。
并不是說傳統(tǒng)嵌入式工程師會被淘汰,但在時代的技術(shù)洪流里面,嵌入式工程師多學一點AIoT技術(shù),無疑可以擴大自身的職場競爭優(yōu)勢。
技術(shù)無罪,但時代無情!