采取矽光子學構建更好的神經網路

尋夢新聞LINE@每日推播熱門推薦文章,趣聞不漏接❤️

加入LINE好友

摘要:事實上,這項技術有足夠的前景,英特爾(Intel)將資助一項研究工作,利用這家晶片製造商在矽光子學、半導體製造和深度學習硬件設計方面的專長,將基於光學的人工智能計算推向市場。簡而言之,研究的重點是光學神經網路(ONNs),以及如何利用矽光子學做到不同的電路設計,以盡量減少由於製造過程中引入的變化而導致的計算精度不精確。

人工智能的商業化做到讓企業爭相為這個數十億美元的市場開發下一個重大硬件技術突破。雖然對神經形態和量子計算等領域的研究已經吸引了未來人工智能系統的大部分注意力,但使用光學處理器的想法正在慢慢獲得關注。

采用矽光子學構建更好的神經網絡

與電子學相比,光學技術具有低功耗和低延遲的明顯優勢,這對人工智能來說是兩個特別重要的因素。

事實上,這項技術有足夠的前景,英特爾(Intel)將資助一項研究工作,利用這家晶片製造商在矽光子學、半導體製造和深度學習硬件設計方面的專長,將基於光學的人工智能計算推向市場。這項研究由英特爾人工智能產品部門的首席技術官辦公室高級主任卡西米爾•維琴斯基(Casimir Wierzynski)牽頭。雖然這項工作還處於早期階段,但維爾琴斯基和他在加州大學伯克利分校的同事們已經發表了一篇論文,詳細介紹了他們最近的一些工作。論文鏈接:https://www.osapublishing.org/oe/fulltext.cfm?uri=oe-27-10-14009

簡而言之,研究的重點是光學神經網路(ONNs),以及如何利用矽光子學做到不同的電路設計,以盡量減少由於製造過程中引入的變化而導致的計算精度不精確。(計算光子學本質上是模擬的,因此對電路中的缺陷很敏感。)研究人員使用基於MNIST數據集的手寫數字識別深度學習基準測試了兩種ONN設計的性能。

「你可以把這樣的設備想像成光學TPU,」Wierzynski告訴我們,他指的是Google為深度學習專門開發的定制張量處理單元。雖然TPU是全數字化的,但ONNs使用光子學來執行神經網路處理的底層矩陣操作,其餘的計算依然依賴於電子學。

與基於自由空間設計的光學計算不同,通過衍射器拍攝雷射以做到快速傅立葉變換,矽光子學在光學電路級別工作。因此,它可以利用現代半導體製造中固有的可擴展性。英特爾在矽光子學和半導體製造方面擁有專業知識,這使得光學神經網路成為這家晶片製造商頗具吸引力的押註對象。「我們知道如何小型化光學電路,」Wierzynski解釋道。「我們非常擅長這一點。」

本文所描述的研究工作是基於ONNs的仿真,而不是任何硬件做到。考慮到這一點,研究表明,在理想條件下,手寫識別測試的準確率約為95%。它能夠保持高水平的精度,即使在仿真中加入了噪聲——噪聲被用來表示電路製造和校準中的不精確性。另一種ONN設計的精度更高,達到98%,但隨著噪聲的引入,其性能迅速下降。

基於之前ONN的研究工作,Wierzynski指出,這些設備可以做到皮秒範圍內的推理延遲,這比從GPU、CPU甚至FPGA中擠出來的延遲要小得多。這些數字架構的延遲通常在毫秒範圍內。

同樣,基於矽光敏器件的能源效率有望明顯優於電子器件。隨著電路數量的增加,ONN的能效會變得更好,因為一些功率開銷可以在整個設備上攤銷。這是因為雷射器的固定功率成本驅動光子通過電路; 無論這些光子必須穿過多少電路,光學計算基本上是免費的。

該裝置的構建塊是Mach-Zender干涉儀(MZI),其用於在矽襯底上形成波導。當您將兩個波導靠近在一起時,它們會以產生模擬等效2×2矩陣乘法的方式相互干擾。技巧是能夠將這些MZI電路的數量排列在一起,以便可以執行更大的矩陣乘法運算。英特爾的研究重點是安排這些電路,以便最大限度地減少製造變化的影響,從而提高光學計算的精度。

精度是這些設備的症結所在,這使得人工智能推理,而不是訓練,成為任何初始工作的邏輯選擇。但是,如果能在更大程度上規避製造中的缺陷,人工智能訓練,甚至更精確的應用,如高性能計算模擬,也能得到解決。

但這超出了我們的能力範圍。在這一點上,僅顯示了模擬的ONN設計。任何硬件做到,如果存在的話,在英特爾也都是不公開的。但考慮到晶片製造商在矽光子學領域的專業知識和對數據通信的興趣,這幾乎肯定是這項研究的目標。事實上,如果原型ONN硬件還沒有安裝在英特爾實驗室的某個地方,我們也不會感到驚訝。

能源效率、近乎實時的延遲和可擴展性的結合,可能會使這項技術適用於各種人工智能環境——從超大規模的雲到物聯網邊緣設備,以及汽車、數據中心、手機當中。

*免責聲明:本文由作者原創。文章內容系作者個人觀點,轉載目的在於傳遞更多信息,並不代表EETOP讚同其觀點和對其真實性負責。如涉及作品內容、版權和其它問題,請及時聯繫我們,我們將在第一時間刪除!

點擊閱讀原文查看半導體行業相關公眾號有哪些?

About 尋夢園
尋夢園是台灣最大的聊天室及交友社群網站。 致力於發展能夠讓會員們彼此互動、盡情分享自我的平台。 擁有數百間不同的聊天室 ,讓您隨時隨地都能找到志同道合的好友!