CEVA：保持AI處理器的功耗和性能優勢，為OEM廠商提供DSP全方案

隨著技術的升級，AI從雲端走向終端，終端AI迎來巨大發展機遇，並且該趨勢必將繼續擴大到更多的終端設備上。手機、機器人、無人機等智能設備對低延遲、低功耗和低成本人工智能的需求日益增長。需求的出現催生出市場，越來越多IP提供商推出自家的AI處理器。

2018年10月31日,我愛方案網受邀參加CEVA於深圳威斯汀酒店舉行的媒體見面會，有機會在第一時間了解這家專注於移動設備的人工智能處理器IP提供商。

據了解，CEVA於今年推出了用於前端設備深度學習的AI處理器IP NeuPro。該處理器由NeuPro引擎和NeuPro VPU組成。NeuPro引擎是深度神經網路推理硬件引擎，用以處理卷積、全連結、活化與池化層；NeuPro VPU是可編程矢量DSP，用於處理CDNN軟件，同時為AI負載的新進展提供基於軟件的支持。

NeuPro AI處理器如何保持功耗和性能優勢？

移動設備對功率及面積有較高的要求，功耗、性能和面積的可行性設計至關重要。據CEVA行銷副總裁Moshe Sheier介紹，NeuPro AI 處理器降低功耗有多這種方式。

其中一種是對數據進行壓縮處理。由於數據處理在AI處理器中能量的消耗會占比較大的比重，其中卷積層部分占了整個計算量的近80%。因此NeuPro會把連續的層在Engine單元內部進行處理，無需一層一層地進行數據加載和存儲處理。 而且，NeuPro VPU單元和 Engine單元 中間是直連的通道，兩個單元之間的層和層之間的數據交換可以直接進行，不需要通過Soc總線做交換，大大減少中間的處理過程。

另外一種是在嵌入式SoC晶片上，優先採用更有效的定點計算。當將網路從浮點轉換為定點時，會不可避免的損失掉一些精度。最小化精度損失的方法之一是在8位和16位整數精度之間做出選擇。8位精度可以節省帶寬和計算資源，但如果要確保準確性，還是要採用16位精度。NeuPro引擎能讓這些混合操作達到平衡，減少工作量，進而減少功率的消耗，因而讓各層都達到最理想的執行，讓性能最佳化。

尤其是在功耗控制方面，CEVA基於對應用的深入理解和長期的積累，來判斷什麼樣的組件應該來做什麼任務，完成處理器內部任務分配最佳化。比如哪些任務得通過軟件，哪些工作得通過硬件，哪些工作得通過DSP來做到等等。

另外，無論是新出現的層還是模型，都可以放到CEVA的VPU（Vision DSP）上處理，既能保持DSP很強的功耗和性能優勢，也能讓NeuPro不斷適應新的變化。由於機器學習尚未成熟，還在持續發展，因此為了設計能因應未來的解決方案，靈活性就至關重要。所以，這也是CEVA的AI方案的一大優勢。

AI硬件性能差距小，軟件才是當下制勝的關鍵

「AI最大的變化是很多領域已經從傳統的算法全面轉變成應用的處理，而這種算法和軟件的更新使得整個產業發生根本性的變化：整個產業的硬件計算性能提高了，進入產業的門檻降低了，因此給了很多算法公司湧現和冒頭的機會。」 Moshe Sheier如此說道。

他表示，目前AI還處於早期發展階段，很多公司的AI處理器的IP都不小，未來將不斷演進。 現在每一家廠商的AI處理器IP的設計都非常相似，相同功率之下，處理器的面積和功耗也不會有很大的差別。所以目前來看，軟件發揮著更加重要的作用。這種情況下，對各個廠商來說，最終不管是比拼成本還是比拼產品生命周期，更重要的是看軟件能否適應oem廠商的變化。無論是面積還是功耗，十年後再回過頭來看現在AI處理器顯得很龐大。但由於要考慮到盈利問題，所以在產品的演進過程中，廠商要通過多用軟件少用固件的方法盡量延長產品的生命周期。否則，產品的壽命如果過短，將對自身以及產業發展不利。

在應用廣泛的音頻領域，比如智能語音包括喚醒，關鍵字識別等等的處理已經從傳統的算法全面轉變成應用的處理。廠商需要做的就是不斷往神經網路和人工智能的方向去更新算法。另外，語音晶片也會往這個方向去發展，不斷演進出新的算法和新的平台。

Moshe Sheier指出，技術本身沒有什麼難度，只是時間投入的問題。未來AI的演進路線將會類似通訊技術，能活得比較好的有兩類公司：一種是大廠商通過自主研發或者收購來自己掌握技術，另一種是像CEVA在通訊領域這樣幾乎是唯一一家提供通用平台的DSP方案的廠商。

現在做算法的廠商有很多，未來將會在數量上減少，部分公司會被合併，部分公司會被市場淘汰。而CEVA將在長期的競爭當中，圍繞DSP技術，持續去演進和發展。

結語

總的來說，CEVA的核心優勢是基於性能、功耗和成本等因素等考慮對AI處理器進行詳細的架構設計。該公司最終的目標是幫助OEM廠商做全方案處理。比如，在音頻領域，絕大多數廠商都只能提供一部分音頻處理所需的模塊，包括科大訊飛，雲之聲等都只能提供自己擅長的一部分模塊，而CEVA想針對不同廠商的需求，給他們提供他們擅長領域之外的模塊，形成產業互補。

方案超市都是成熟的量產方案和模塊，歡迎合作：

AI人臉識別套件方案定制

http://www.52solution.com/shop/6543.html

基於AI圖像識別技術的生物盤點解決方案

http://www.52solution.com/shop/6348.html

AI 人工智能 語音控制 無線藍牙音箱 解決方案開發

http://www.52solution.com/shop/6338.html

快包任務，歡迎技術服務商承接：

AI智能照明燈具 預算：￥10000.00

http://www.52solution.com/detail/13432.html

AI活動燈支架 預算：￥100000.00

http://www.52solution.com/detail/12331.html

AI機器人 預算：￥1000000.00

http://www.52solution.com/detail/13181.html