今天，全球芯片及電子系統(tǒng)設(shè)計(jì)自動(dòng)化(EDA)軟件巨頭Cadence首次在國(guó)內(nèi)發(fā)布Tensilica系列的兩款新品： Tensilica DNA 100處理器IP和Tensilica HiFi 5音頻/語(yǔ)音數(shù)字信號(hào)處理器IP。此前，DNA 100于9月19日在德國(guó)發(fā)布，HiFi 5 DSP于10月31日在美國(guó)發(fā)布。
其中，Tensilica DNA 100是Cadence首款深度神經(jīng)網(wǎng)絡(luò)加速器AI處理器IP，將于今年12月向部分客戶提供，預(yù)計(jì)明年第一季度全面上市。Tensilica HiFi 5 DSP是Cadence首款為高性能遠(yuǎn)場(chǎng)處理和AI語(yǔ)音識(shí)別處理量身優(yōu)化的IP核，在基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別算法上提供高達(dá)4倍的改進(jìn)。
Cadence公司IP事業(yè)部Tensilica資深產(chǎn)品總監(jiān)Lazaar Louis、Cadence公司IP事業(yè)部Tensilica技術(shù)營(yíng)銷總監(jiān)Yipeng Liu來(lái)到中國(guó)，與Cadence公司亞太區(qū)IP業(yè)務(wù)總監(jiān)陳會(huì)馨一同介紹了兩款新品。
一、首款深度神經(jīng)網(wǎng)絡(luò)加速器AI處理器IP
Tensilica DNA 100處理器是Cadence首款深度神經(jīng)網(wǎng)絡(luò)加速器(DNA)AI處理器IP，具有靈活可擴(kuò)展的特點(diǎn)，能夠滿足小到0.5大至數(shù)百TeraMAC(TMAC)的各種需求的擴(kuò)展，為終端側(cè)(on-device)AI提供高性能與高能效。
以汽車動(dòng)力等應(yīng)用為例，汽車擁有大量傳感器，包括雷達(dá)、攝像頭、激光雷達(dá)和超聲波等，對(duì)推理性能需求越來(lái)越高。標(biāo)準(zhǔn)DSP主要用于做信號(hào)處理，而數(shù)據(jù)相關(guān)任務(wù)將被移交給神經(jīng)網(wǎng)絡(luò)加速器，比如DNA 100就負(fù)責(zé)處理感知和決策制定任務(wù)。
Cadence表示，較其他采用相似陣列尺寸大小的乘法累加運(yùn)算(MAC)解決方案，DNA 100處理器性能提升達(dá)4.7倍，在功率方面每瓦特性能提升高達(dá)2.3倍。
神經(jīng)網(wǎng)絡(luò)(NN)的特征在于權(quán)重和激活的固有稀疏度，加載和乘以零會(huì)造成其他處理器中不必要的MAC消耗。
DNA 100處理器的專用硬件計(jì)算引擎移除了上述兩項(xiàng)任務(wù)，只計(jì)算非零激活和權(quán)重，利用稀疏度提高能效并降低計(jì)算量。
神經(jīng)網(wǎng)絡(luò)再訓(xùn)練有助于增加網(wǎng)絡(luò)中的稀疏度，并通過(guò)DNA 100處理器的稀疏計(jì)算引擎實(shí)現(xiàn)更高的性能。
DNA 100處理器能夠利用更小的陣列實(shí)現(xiàn)最大吞吐量。例如，在4K MAC配置環(huán)境下，ResNet 50推理性能預(yù)計(jì)能實(shí)現(xiàn)高達(dá)每秒2550幀(fps)和3.4TMAC/W(在16nm工藝)，而競(jìng)爭(zhēng)對(duì)手只能達(dá)到每秒538幀。
DNA 100處理器非常適用于自動(dòng)駕駛汽車、ADAS、安防監(jiān)控、機(jī)器人、無(wú)人機(jī)、AR/VR、智能手機(jī)、智能家居和物聯(lián)網(wǎng)領(lǐng)域的設(shè)備端NN推理應(yīng)用。
此外，DNA 100處理器還配備了完整的AI軟件平臺(tái)，兼容最新版本的Tensilica神經(jīng)網(wǎng)絡(luò)編譯器，支持Caffe、TensorFlow等多種AI框架，Cadence最近還宣布它將支持Facebook的跨硬件平臺(tái)機(jī)器學(xué)習(xí)編譯器Glow。
Tensilica神經(jīng)網(wǎng)絡(luò)編譯器利用一套全面優(yōu)化的NN庫(kù)函數(shù)，將任何NN映射為可執(zhí)行和高度優(yōu)化的高性能代碼。因此，DNA 100處理器具有支持分類、對(duì)象檢測(cè)、分割、重復(fù)和回歸等多種不同網(wǎng)絡(luò)類型的軟件生態(tài)系統(tǒng)。
DNA 100處理器還支持Android神經(jīng)網(wǎng)絡(luò)(ANN)API，用于Android設(shè)備中的設(shè)備AI推理。
DNA 100處理器在所有NN層運(yùn)行，包括卷積、完全連接、LSTM、LRN和池化。單個(gè)DNA 100處理器可以輕松地從0.5擴(kuò)展到12個(gè)有效TMAC，并可以通過(guò)堆疊多個(gè)DNA 100處理器以實(shí)現(xiàn)數(shù)百TMAC，可用于最計(jì)算密集型設(shè)備端的NN應(yīng)用。
為了以防DNA 100處理器內(nèi)部硬件引擎當(dāng)前不支持的新NN層，DNA 100處理器還集成了Tensilica DSP，同時(shí)使用Tensilica指令擴(kuò)展(TIE)指令提供Tensilica Xtensa核心的可擴(kuò)展性和可編程性。
由于DNA 100處理器擁有獨(dú)立的直接存儲(chǔ)器訪問(wèn)(DMA)，因此無(wú)需新增控制器即可運(yùn)行其他控制代碼。
DNA 100處理器將于2018年12月面向部分客戶提供，預(yù)計(jì)2019年第一季度將全面上市。
二、首款為高性能遠(yuǎn)場(chǎng)處理和AI語(yǔ)音處理而優(yōu)化的IP核
Tensilica HiFi 5音頻/語(yǔ)音數(shù)字信號(hào)處理器(DSP)IP是 Cadence Tensilica HiFi DSP系列的新品，也是Cadence首款為高性能遠(yuǎn)場(chǎng)處理和AI語(yǔ)音識(shí)別處理量身優(yōu)化的IP核，該產(chǎn)品主攻市場(chǎng)有智能家居、汽車車載、藍(lán)牙耳機(jī)等。
與HiFi 4 DSP相比，這款HiFi 5 DSP為音頻處理提供了2倍的計(jì)算能力，為NN處理提升了4倍的計(jì)算能力。
Tensilica HiFi DSP系列是全球最廣泛使用的音頻/聲音/語(yǔ)音處理器，截至目前在全球有超過(guò)125家生態(tài)合作伙伴，Tensilica HiFi DSP每年出貨量超過(guò)10億。
HiFi 5 DSP的關(guān)鍵特性包括：
1、采用5個(gè)超長(zhǎng)指令字(VLIW) 插槽架構(gòu)，支持每循環(huán)發(fā)布2個(gè)128-bit負(fù)載。
2、對(duì)比HiFi 4 DSP，預(yù)處理和后處理的MAC性能提高2倍，包括支持每周期8個(gè)32×32-bit MACs或16個(gè)16×16-bit MACs，可選每周期8個(gè)單精度浮點(diǎn)MACs。
3、對(duì)比HiFi 4 DSP，NN處理MAC性能提高4倍，包括每周期32個(gè)16×8或16×4 MACs、可選每周期16個(gè)半精度浮點(diǎn)MACs。
4、全新HiFi NN庫(kù)為NN處理(尤其是語(yǔ)音任務(wù))提供了一組專門優(yōu)化的庫(kù)函數(shù)。這些庫(kù)函數(shù)可以輕松集成到主流機(jī)器學(xué)習(xí)框架中集成。
5、完全兼容HiFi產(chǎn)品線擁有的超過(guò)300個(gè)HiFi優(yōu)化的音頻語(yǔ)音編解碼器以及語(yǔ)音增強(qiáng)軟件包。
此外，Cadence還會(huì)提供Tensilica HiFi DSP NN庫(kù)等一系列軟件。
隨著語(yǔ)音助手的普及，語(yǔ)音控制用戶界面對(duì)智能產(chǎn)品制造商們愈發(fā)重要，他們需要更先進(jìn)的DSP算法以消除噪音并隔離揚(yáng)聲器的聲音干擾。此外，因?yàn)閷?duì)延遲、隱私問(wèn)題的擔(dān)憂，基于神經(jīng)網(wǎng)絡(luò)的語(yǔ)音識(shí)別算法更多是在本地而非云端來(lái)執(zhí)行任務(wù)。
為了應(yīng)對(duì)在能耗敏感型設(shè)備上搭載NN遠(yuǎn)場(chǎng)處理和語(yǔ)音識(shí)別算法帶來(lái)的計(jì)算挑戰(zhàn)，Ambiq Micro成為Cadence HiFi 5 DSP的第一家被授權(quán)方。
結(jié)語(yǔ)：邊緣計(jì)算升溫帶動(dòng)行業(yè)智能
在AI的浪潮之下，邊緣設(shè)備的AI處理器應(yīng)用快速增長(zhǎng)，但更低的延遲、更好的隱私、更快的處理速度、更自然的語(yǔ)音UI交互等各種越來(lái)越高的需求正在增加設(shè)備上的處理工作負(fù)荷。
針對(duì)智能產(chǎn)品滋生的痛點(diǎn)，Cadence正在以其獨(dú)特的優(yōu)勢(shì)深入AI市場(chǎng)，為圍繞著視覺(jué)和語(yǔ)音處理的邊緣AI推理和應(yīng)用提供更多底層的助力，在AI行業(yè)中扮演越來(lái)越重要的角色。
關(guān)鍵詞：
