北理工在光電融合儲備池計算用于語言學(xué)習(xí)方面取得重要進展
發(fā)布日期：2021-05-18 供稿：物理學(xué)院
編輯：王莉蓉 審核：姜艷 閱讀次數(shù)：
日前,，北京理工大學(xué)物理學(xué)院院長姚裕貴團隊孫林鋒教授與韓國高等科學(xué)技術(shù)研究院Heejun Yang教授，香港大學(xué)Wang Zhongrui教授合作,，提出了一種基于低維材料體系的新型多維度光電融合憶阻器件,，實現(xiàn)了傳感器內(nèi)儲備池計算，并成功用在語言符號識別與學(xué)習(xí)上,。在考慮相似度極高的干擾項存在的前提下,，對復(fù)雜的語言句子體系實現(xiàn)了91%的識別率。該項成果為機器學(xué)習(xí)和邊緣計算應(yīng)用提供了一種處理時序信號事件的低成本訓(xùn)練方案,。此項工作于五月十四日發(fā)表在《Science》子刊 Science Advances上,。
近年來，受生物啟發(fā)的機器視覺在發(fā)展迅速,，因為視覺感知掌握了人類與周圍環(huán)境互動過程中約80%左右以上的信息量,。盡管人們在模擬人腦的視覺皮層以實現(xiàn)“看”的功能方面付出了巨大的努力，物理上分離的傳感,、內(nèi)存和處理單元導(dǎo)致了大量的能量耗費,、時間延遲和額外的硬件成本。特別是隨著物聯(lián)網(wǎng)的快速發(fā)展以及爆炸式增長的數(shù)據(jù)量,，物聯(lián)網(wǎng)上的傳感器節(jié)點數(shù)也隨之持續(xù)增加,。此外，傳統(tǒng)的遞歸神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法過于復(fù)雜,、計算量過于龐大,，收斂速度較慢，網(wǎng)絡(luò)結(jié)構(gòu)也很難優(yōu)化,，進一步加劇了這一挑戰(zhàn),。而儲備池計算已經(jīng)被證明可以顯著降低計算成本，為開發(fā)用于時間模式分類,、混沌態(tài)預(yù)測等提供了一個很好的解決方案,。但是，目前的儲備池計算在信息處理過程中是串行的,，無法實現(xiàn)更具潛力的傳感并行機制,。因此，如何實現(xiàn)傳感器內(nèi)儲備池計算將是信息處理速度進一步提高的關(guān)鍵,，有利于儲備池計算朝著高速,、低功耗和易于集成的方向發(fā)展。此項研究工作克服了物理上分離的傳感器和儲備池計算這一技術(shù)瓶頸,，大大降低了系統(tǒng)學(xué)習(xí)復(fù)雜度和計算成本,。此方法可以應(yīng)對物聯(lián)網(wǎng)時代對爆炸式增長的大數(shù)據(jù)處理的迫切要求，為實現(xiàn)更有效的機器學(xué)習(xí)和類腦計算提供了技術(shù)上的突破,。
物理學(xué)院孫林鋒教授為該工作的第一作者,，Heejun Yang教授為通訊作者,。該工作得到北京理工大學(xué)青年學(xué)者項目研究獎金，韓國三星研究基金會,，三星電子孵化基金以及韓國國家研究基金的支持,。
Linfeng Sun, Zhongrui Wang, Jinbao Jiang, Yeji Kim, Bomin Joo, Shoujun Zheng, Seungyeon Lee, Woo Jong Yu, Bai Sun Kong and Heejun Yang*, “In-sensor reservoir computing for language learning via two-dimensional memristors”, Science Advances, 7, 20, 2021 (eabg1455).
文章鏈接：https://advances.sciencemag.org/content/7/20/eabg1455
分享到：