本文來自微信公眾號:X-MOLNews
在過去的幾年裡,基於機器學習的人工智慧(AI)領域取得了突飛猛進式的發展。前有“阿爾法狗”(AlphaGo)黑白對弈擊敗世界名將,後有清華大學教AI晶片騎腳踏車,這些亮眼的成果屢次登上頂刊封面。
2016、2019年兩期Nature雜誌封面
各位人類小夥伴也不用太焦慮,AI雖強,但經歷了億萬年進化打敗無數競爭對手的人類也不弱,人類的大腦也有當前AI無法企及的能力。大腦作為一個不斷進化的生命體器官,在人的一生中都不斷變化,具有極強的可塑性,包括神經元的形成以及突觸的形成,統稱為神經再生。這對於人類的終身學習以及腦損傷後神經迴路的修復至關重要。然而,計算機晶片的電路在出廠後就不會再改變,無論是計算機科學導向還是神經科學導向,都是進行演算法最佳化,無法在“神經形態”電路和計算機架構中模擬這種“可塑性”。
圖片來源於網路
近日,美國普渡大學張海天(第一作者兼通訊作者,現工作單位為北京航空航天大學)、Tae Joon Park和Shriram Ramanathan等研究者合作,在Science 雜誌上發表論文,設計出一種基於鈣鈦礦鎳酸鹽的可重構電子器件,能夠按需生成人工神經元、突觸和記憶電容器等基本元件,只需透過電脈衝訊號就可以改變器件型別。這種按需定製的動態網路模式,在學習場景中表現出更優異的效能,為模擬神經的“可塑性”、構建自適應網路開闢了新的方向。
Shriram Ramanathan 教授。圖片來源:普渡大學 [1]
鈣鈦礦鎳酸鹽可重構器件。圖片來源:Science [2]
鈣鈦礦型鎳酸鹽作為一類量子材料,其電子性質依賴於強電子相互作用。氫摻雜劑作為電子給體,可以將電子提供給Ni的d軌道,改變能帶的填充狀態,導致電阻率變化達幾個數量級的相變。晶格中的質子存在大量的亞穩態能態,因此,它們的分佈和區域性濃度可隨後透過施加到電極的電場進行調製,實現人工神經元、突觸和記憶電容器的功能轉換。
鈣鈦礦鎳酸鹽器件。圖片來源:Science
初始鈣鈦礦鎳酸鹽器件主要表現為線性電阻行為,施加單個電壓脈衝完成一定程度的氫摻雜後,材料電阻增加,器件表現電容行為。需要指出的是,器件的電阻狀態是非易失性的,放置6個月後,氫仍留在鎳酸鹽的晶格中,器件的電阻保持穩定。對器件施加連續的電刺激,一旦達到臨界水平,就會觀察到器件的電阻突然變化。器件對電刺激的非易失性神經元反應取決於電刺激的脈衝電壓和脈衝寬度。鎳酸鹽器件還可進行模擬型(analog)漸變電阻行為,實現人工神經突觸功能。此外,器件功能改變的過程是可逆的,透過施加單個電脈衝,可以將該器件恢復至初始電阻狀態,實現器件重構。
器件的功能轉換和重構。圖片來源:Science
為了證明該器件的實際應用價值,以及可重構器件網路作為神經形態計算的硬體平臺解決複雜任務的能力,研究者將該器件與不同理論模型相比較。在數字識別、語音識別以及心電圖資料處理等場景下,模擬100個樣本的處理過程,可重構器件需要的數量更少,即可實現相同的結果。
基於鎳酸鹽器件進行計算模擬。圖片來源:Science
更重要的是,器件的可重構特性為下一代人工智慧,即新興的動態神經網路領域,開闢了新的道路。靜態自組織網路具有固定數量的節點,在開始時隨機初始化;而動態網路則可以新增或刪除網路節點,避免了災難性遺忘,表現出更好的機器學習能力,最終的準確度測試可提高2倍以上。此外,由於動態網路具有重構能力,可以按需建立新的節點,因此呈現出更好的精度和更高的學習效率,節省運營成本。
動態網路學習能力模擬。圖片來源:Science
“生物的大腦可以在其一生中不斷學習。我們為機器建立了一個人工平臺,可以在其整個生命週期內進行學習,”Shriram Ramanathan教授說,“受大腦的啟發,我們希望能夠不斷地對晶片進行程式設計和更改” [1]。該技術基於現有的矽基半導體工藝,ALD等製備方法都是積體電路的主流技術,可以很容易地被半導體行業接受,並有可能極大地改變電子產品和神經形態計算未來的設計思路。
基於可重構器件的電子晶片,讓人工智慧像人腦一樣“終身學習”。圖片來源:普渡大學 [1]
Reconfigurable perovskite nickelate electronics for artificial intelligence
Hai-Tian Zhang, Tae Joon Park, A. N. M. Nafiul Islam, Dat S. J. Tran, Sukriti Manna, Qi Wang, Sandip Mondal, Haoming Yu, Suvo Banik, Shaobo Cheng, Hua Zhou, Sampath Gamage, Sayantan Mahapatra, Yimei Zhu, Yohannes Abate, Nan Jiang, Subramanian K. R. S. Sankaranarayanan, Abhronil Sengupta, Christof Teuscher, Shriram Ramanathan
Science, 2022, 375, 533-539. DOI: 10.1126/science.abj7943
參考文獻:
[1] The brain’s secret to lifelong learning can now come as hardware for artificial intelligence
https://www.purdue.edu/newsroom/releases/2022/Q1/the-brains-secret-to-lifelong-learning-can-now-come-as-hardware-for-artificial-intelligence.html
[2] R. A. John, An adaptive device for AI neural networks. Science 2022, 375, 495-496.
DOI: 10.1126/science.abn6196
(本文由小希供稿)