我們正邁入一個(gè)計(jì)算新時(shí)代，智能部署到邊緣——從工廠機(jī)器人到駕駛輔助、乘客娛樂功能甚至協(xié)助完成作業(yè)的智能汽車。當(dāng)今的AI必須實(shí)現(xiàn)本地化、快速響應(yīng)、高效能且安全可靠，以滿足實(shí)時(shí)、設(shè)備端決策需求。

為此，恩智浦邁出了重要一步。我們近期宣布，正式完成對(duì)Kinara的收購。Kinara是業(yè)界高性能、高能效獨(dú)立神經(jīng)處理單元(DNPU)的領(lǐng)導(dǎo)企業(yè)之一。

重要意義

智能系統(tǒng)的未來將以邊緣為中心。從工廠的預(yù)測(cè)性維護(hù)到智能攝像頭中的生成式AI，邊緣系統(tǒng)被寄予厚望，需要不依賴云端，在本地處理復(fù)雜的推理工作。這一轉(zhuǎn)變帶來了諸多優(yōu)勢(shì)：降低延遲、增強(qiáng)數(shù)據(jù)隱私、降低帶寬成本以及增強(qiáng)抗風(fēng)險(xiǎn)能力。但同時(shí)也對(duì)設(shè)備端計(jì)算性能和能效提出了更高要求。

與此同時(shí)，由于開發(fā)人員尋求安全、經(jīng)濟(jì)高效且節(jié)能的AI解決方案，邊緣AI處理市場(chǎng)正呈爆發(fā)式增長(zhǎng)。Omdia在2024年底預(yù)測(cè)，到2029年，邊緣人工智能加速硬件市場(chǎng)(其定義涵蓋微控制器級(jí)別以上、且網(wǎng)絡(luò)往返時(shí)間在20毫秒以內(nèi)的所有計(jì)算設(shè)備)規(guī)模將從該年底的430億美元增長(zhǎng)至897億美元。

通過收購Kinara，恩智浦借助高性能獨(dú)立NPU增強(qiáng)了其產(chǎn)品組合，并為AI驅(qū)動(dòng)邊緣系統(tǒng)建立了一個(gè)可擴(kuò)展的平臺(tái)。恩智浦將吸納Kinara在機(jī)器學(xué)習(xí)硬件、軟件協(xié)議棧和應(yīng)用集成方面經(jīng)驗(yàn)豐富的AI工程師團(tuán)隊(duì)。同樣重要的是，此次收購將增強(qiáng)恩智浦的軟件實(shí)力，更好地支持客戶構(gòu)建量產(chǎn)型解決方案。

獨(dú)立神經(jīng)處理單元正在重塑邊緣智能。如需了解恩智浦與Kinara如何共同推進(jìn)本地AI發(fā)展的更多信息，請(qǐng)查閱官方新聞稿。

邊緣需要高效且可擴(kuò)展的AI

Kinara的旗艦產(chǎn)品Ara-1和Ara-2是旨在應(yīng)對(duì)全系列邊緣AI工作負(fù)載的獨(dú)立NPU。第一代芯片Ara-1可提供高達(dá)6 eTOP 的性能，并已在以視覺為中心的邊緣應(yīng)用場(chǎng)景中大規(guī)模部署。第二代產(chǎn)品Ara-2則是一個(gè)性能高達(dá)40 eTOP的強(qiáng)勁引擎，專門針對(duì)生成式AI、大語言模型(LLM)、視覺語言模型(VLM)、視覺語言行動(dòng)模型(VLA)、代理式AI及系統(tǒng)級(jí)加速進(jìn)行了優(yōu)化。

Ara-2支持卷積神經(jīng)網(wǎng)絡(luò)(CNN)和基于Transformer的架構(gòu)，專為滿足現(xiàn)代AI的計(jì)算和內(nèi)存帶寬需求而構(gòu)建。它在處理大語言模型和多模態(tài)應(yīng)用方面表現(xiàn)出色，例如，將視覺輸入與語音或文本結(jié)合以進(jìn)行情境感知推理。

Ara-2能夠在AI計(jì)算和嵌入式系統(tǒng)上實(shí)時(shí)執(zhí)行生成式AI和LLM，從而帶來低延遲、更低運(yùn)營成本和增強(qiáng)的數(shù)據(jù)隱私

Ara-1和Ara-2所基于的架構(gòu)采用基于RISC-V的可編程數(shù)據(jù)流設(shè)計(jì)，推理引擎能夠在專有乘積累加運(yùn)算(MAC)單元上被高效解析和執(zhí)行。這種靈活性意味著解決方案能夠隨AI算法的演進(jìn)而適應(yīng)，工程師既能處理當(dāng)前的工作負(fù)載，也能為未來的任何需求做好準(zhǔn)備。

Kinara與恩智浦相輔相成

Kinara的價(jià)值超越其芯片本身。其全面的AI軟件協(xié)議棧包含一個(gè)軟件開發(fā)套件(SDK)、模型優(yōu)化工具以及一個(gè)包含大量預(yù)優(yōu)化AI模型的庫。Kinara SDK將被集成到恩智浦的eIQ?軟件開發(fā)環(huán)境中，以便開發(fā)人員能夠輕松地在合并后的產(chǎn)品組合上構(gòu)建、優(yōu)化和部署AI應(yīng)用。

全面的AI軟件協(xié)議棧包含一個(gè)軟件開發(fā)套件(SDK)、模型優(yōu)化工具以及一個(gè)包含大量預(yù)優(yōu)化AI模型的庫

這套統(tǒng)一的工具為開發(fā)人員提供了無縫且簡(jiǎn)化的用戶體驗(yàn)。無論是構(gòu)建智能攝像頭、語音助手、預(yù)測(cè)性維護(hù)引擎還是多模態(tài)人機(jī)接口，開發(fā)人員現(xiàn)在都能享受到一站式服務(wù)體驗(yàn)。我們廣泛的應(yīng)用處理器、獨(dú)立NPU、電源管理、安全及連接產(chǎn)品陣容，都能得到差異化軟件支持的全面保障。

此外，Kinara的獨(dú)立NPU與恩智浦的i.MX應(yīng)用處理器(MPU)(如i.MX 8M Plus和i.MX 95)能夠自然搭配。在邊緣AI應(yīng)用中，DNPU加速器將分流繁重的推理任務(wù)，而MPU則可管理預(yù)處理、后處理及通用計(jì)算。這種協(xié)同作用使客戶能夠獨(dú)立于應(yīng)用處理器來擴(kuò)展AI性能，并獲得滿足任何成本或功耗預(yù)算的系統(tǒng)級(jí)靈活性。

此次收購?fù)瓿珊螅髦瞧挚蓪ⅹ?dú)立NPU和強(qiáng)大的AI軟件集成到其處理器、連接、安全和高級(jí)模擬解決方案產(chǎn)品組合中，進(jìn)一步增強(qiáng)恩智浦提供從TinyML到生成式AI的完整、可擴(kuò)展AI平臺(tái)的能力

此外，Kinara長(zhǎng)期以來一直是恩智浦合作伙伴計(jì)劃的成員，其與恩智浦應(yīng)用處理器的成功部署案例，為客戶提供了值得信賴的基石。

共同釋放生成式AI的潛力

通過將獨(dú)立NPU集成到產(chǎn)品組合中，恩智浦能夠支持復(fù)雜的生成式AI和大語言模型任務(wù)在邊緣運(yùn)行。生成式AI擅長(zhǎng)對(duì)圖像和視頻進(jìn)行實(shí)時(shí)解讀與推理，基于高質(zhì)量視覺內(nèi)容提升清晰度和決策能力。Ara DNPU器件能夠運(yùn)行多模態(tài)LLM模型，從圖像和視頻中提取特征和情境信息，并利用文本和語音輸入來執(zhí)行基于視覺輸入的任務(wù)，從而為諸如老年人監(jiān)護(hù)、工業(yè)安全分析、工廠危險(xiǎn)檢測(cè)以及樓宇或家庭安防等應(yīng)用提供實(shí)時(shí)分析。

在零售領(lǐng)域，生成式AI能根據(jù)客戶個(gè)人偏好創(chuàng)建虛擬展廳或產(chǎn)品設(shè)計(jì)。在制造業(yè)，DNPU解決方案與生成式AI及代理式AI相結(jié)合，能夠有效提升效率、精度與適應(yīng)性，為各行業(yè)的創(chuàng)新、針對(duì)性及自主應(yīng)用鋪平道路。

展望未來

隨著新的AI應(yīng)用場(chǎng)景日新月異，邊緣技術(shù)正在飛速演進(jìn)。通過收購Kinara，恩智浦現(xiàn)可提供廣泛的邊緣AI計(jì)算選項(xiàng)組合，涵蓋微控制器、應(yīng)用處理器和獨(dú)立NPU，使客戶能夠?yàn)槿魏芜吘墤?yīng)用獲取全棧解決方案。通過我們的整體產(chǎn)品方案，客戶能夠加快開發(fā)流程、降低系統(tǒng)復(fù)雜性，并專注于打造差異化AI體驗(yàn)以提升競(jìng)爭(zhēng)力。