Science逆天研究:人造大腦突觸實現運算存儲同步,只需手機供電
【新智元導讀】Science在線發表最新論文:科學家創造類似一種人造突觸,可以模仿神經元在大腦中的通信方式。對於特定的任務,人工突觸系統處理和記憶動作所需的能量,僅相當於最先進的計算系統的十分之一。
模仿大腦,計算機能夠同時處理存儲和運算了。
人腦可以在能耗很低的條件下具備同時學習和記憶大量信息的能力,而目前傳統的計算機系統只能先處理數據,再移動到存儲中。
最近,斯坦福大學和桑迪亞國家實驗室的研究人員開發出一種類腦計算機的部分裝置:它類似一種人造突觸,可以模仿神經元在大腦中的通信方式。對於特定的任務,人工突觸系統處理和記憶動作所需的能量,僅相當於最先進的計算系統的十分之一。
這項工作以在線論文形式發表在Science上。
研究人員稱,這些裝置中的9個(3x3)原型陣列在處理速度、能效、可再現性和耐久性方面表現優於預期。
數據處理和信息存儲同時進行,能耗僅需計算機的十分之一
該團隊打造的人工突觸類似於改版的電池,研究人員可以調大或關閉兩個終端之間的電流,電流模仿大腦中的學習方式。
由斯坦福大學和桑迪亞國家實驗室的研究人員設計的一系列人工突觸可以模擬人類大腦處理和存儲信息的方式。
這是一種特別高效的設計,因為大腦中的數據處理和內存存儲是一個動作,而不是更傳統的計算機系統中那樣,先處理數據,再移動到存儲中。
瞭解這些設備如何在陣列中執行是至關重要的一步,因為系統可以讓研究人員同時對多個人工突觸進行編程,這比為每個突觸逐一編程要節約大量的時間,而且這種方式與大腦實際工作方式更加類似。
在之前對該設備的先前測試中,研究人員發現,對於特定的任務,人工突觸系統處理和記憶動作所需的能量,僅相當於最先進的計算系統的十分之一。
不過,研究人員擔心所有這些設備在較大陣列中協同工作可能會產生過高的功率,因此重新設計了每個設備以降低電流。雖然電池不如原來了,但人工突觸陣列更節能了。
中國科學家參與,性能超出預期
這個3×3陣列依賴於第二類設備作為陣列中突觸編程的開關。該設備由馬薩諸塞大學的Joshua Yang(楊建華)教授開發,他也是該論文的共同作者之一。
他的學生Zhongrui Wang也參與了論文。
楊建華教授曾與南京大學物理學院繆峰教授課題組與南京大學現代工程與應用科學學院王鵬教授等人合作,在可耐受超高溫存儲研究方面取得重要進展。研究成果以Robust memristors based on layered two-dimensional materials(基於層狀二維材料的高魯棒性憶阻器)為題於2018年2月5日在Nature Electronics(《自然·電子學》)上發表。
論文鏈接:https://www.nature.com/articles/s41928-018-0021-4
在Science這篇論文中,研究人員發現陣列的性能超出了研究人員的預期。團隊預測下一版本的系統設備測試需要使用特殊的高速電子設備。在測試了3×3陣列的能效後,研究人員對1024×1024大型突觸陣列進行了計算機模擬,並估計系統可以使用目前用於智能手機或小型無人機的電池供電。研究人員還將設備進行了超過十億次的開關操作,沒有發現其行為的任何退化現象。
圖:IFG神經形態陣列的並行編程、XOR映射和仿真。
圖(A):將3×3的原型IFG陣列劃分為兩層神經網絡的示意圖,分別用橙色和綠色表示。
圖(B):給出了4個變成模式的例子,它們隨電導的相對變化而變化,其中灰度表示更新強度。
除了加速權值更新步驟外,研究人員還演示了在使用3×3 IFG陣列將’exclusive or’函數(XOR)映射到一個兩層神經網絡之後的推理(圖C)。
該網絡對所有XOR輸入進行分類,準確率為100%。crossbar被用於在推理過程中執行模擬點積(圖D)和在寫入操作過程中執行模擬外積更新(圖B)。
圖(E)顯示,最終得到的網絡達到了理想的精度。
目前剛剛觸及”問題表面“,未來可期
展望未來,研究團隊希望將他們的人工突觸與傳統電子設備相結合,為小型設備上進行人工智能學習邁出重要的一步。
“如果人的記憶系統能夠以我們提出的能源效率和速度來學習,那麼你甚至可以把它放在智能手機或筆記本電腦中。”該論文作者之一、研究生Scott Keene說。
斯坦福大學材料科學與工程教授Alberto Salliio是本文共同通訊作者,他表示,這一發現將讓我們對自己的神經網絡進行訓練,並在我們自己的設備上本地解決問題,無需依靠數據傳輸。
研究人員還沒有對人工突觸陣列的學習效果進行測試,但未來有計劃研究這個問題。研究團隊還希望瞭解他們的設備對不同環境條件(比如高溫)的承受能力,以及如何讓該系統與其他電子設備進行集成。未來還有許多基礎問題有待解答,以幫助研究人員準確理解為什麼他們的系統表現如此出色。
目前關注這個特定的架構的團隊不多,但研究人員認為這是一個非常有前景的方向。“目前仍有不小的改進空間,還有創造力尚待挖掘。我們才剛剛觸及問題的表面而已。“
參考鏈接:
https://news.stanford.edu/2019/04/25/fast-efficient-artificial-synapse-developed/?utm_source=twitter&utm_medium=social&utm_content=university-communications_twitter_stanford_https:
論文地址:
https://science.sciencemag.org/content/sci/early/2019/04/24/science.aaw5581.full.pdf