中新網北京8月29日電 (記者 孫自法)記者29日從中國科學院自動化研究所獲悉,該所徐波研究員團隊聯合科研同行最新研究提出一種基于神經調制依賴可塑性的新型類腦學習方法(NACA),實現更高分類精度和更低學習能耗,可極大緩解災難性遺忘問題,有望進一步引導新型類腦芯片的設計。
這項人工智能(AI)領域類腦研究重要進展成果論文,由徐波研究員團隊與中國科學院腦科學與智能技術卓越創新中心蒲慕明院士、臨港實驗室李澄宇研究員等共同完成,近日在國際著名學術期刊《科學》旗下《科學進展》在線發表。
(相關資料圖)
大腦中的神經調制相關示意圖。中國科學院自動化所 供圖
論文第一作者、中國科學院自動化研究所張鐵林副研究員介紹說,人工智能迫切需要借鑒生物系統中的微觀、介觀、宏觀等多尺度神經可塑性融合計算機制,以便啟發實現更加高效的類腦連續學習算法,消除人工神經網絡由于采用反向傳播等人工學習方法而導致的廣泛災難性遺忘現象。
而生物系統中常見的多巴胺、5-羥色胺、血清素、去甲腎上腺素等神經調質物,往往經由特定的腺體釋放,并遠程彌散、投射到一定范圍內的目標神經元群體,且根據調質濃度水平的不同,對局部的神經元、突觸等多種微觀可塑性產生復雜的調制影響。受生物神經調制機制的啟發,研究團隊通過建模多巴胺、乙酰膽堿等“全局神經調制可塑性”“局部時序依賴可塑性”等多尺度神經可塑性機制,整合得到這種基于神經調制依賴可塑性的新型類腦學習方法。
張鐵林指出,這一新型類腦學習方法參考大腦中復雜的神經調制通路結構,并以期望矩陣編碼的形式對神經調制通路構建數學模型,在接受刺激信號后產生不同濃度的多巴胺監督信號并進一步影響局部突觸和神經元可塑性類型。該方法支持采用純前饋的流式學習方法訓練脈沖和人工神經網絡,通過全局多巴胺的彌散支持與輸入信號同步,甚至先于輸入信號的正向信息傳播,再加上選擇性對“局部時序依賴可塑性”的調整,使其表現出明顯的快速收斂和緩解災難性遺忘優勢。
基于神經調制依賴可塑性的新型類腦學習方法(NACA)計算模型。中國科學院自動化所 供圖
論文通訊作者徐波研究員表示,在兩類典型的圖片和語音模式識別任務中,研究團隊從準確率和計算成本兩方面對新型類腦學習方法的算法進行評估,并選取兩種全局學習算法作為對比,在人工神經網絡中則以目標傳播和反向傳播算法作為對比對象。結果顯示,在圖片分類和語音識別標準數據集上,新型類腦學習方法都實現更高的分類精度和更低學習能耗。
同時,在驗證靜態分類任務的擬合能力后,研究團隊重點測試新型類腦學習方法的連續學習能力,并將神經調制擴充到神經元可塑性范圍。在連續手寫數字、連續手寫字母、連續手寫數學符號、連續自然圖片、連續動態手勢等五大類連續學習任務中,新型類腦學習方法具有更低的能耗且發現可以極大地緩解災難性遺忘問題。
基于神經調制依賴可塑性的新型類腦學習方法(NACA)計算模型在任務中的表現。中國科學院自動化所 供圖
研究團隊認為,這次研究提出的新型類腦學習方法,是一類生物合理的全局優化算法,其采用宏觀可塑性來進一步“調制”局部可塑性,可視為一種“可塑性的可塑性”方法,與“學會學習”“元學習”等有直觀上的功能一致性。
新型類腦學習方法同時在兩種優化問題中獲得性能和計算成本上的優勢,更在連續學習這一更貼合生物生存環境和實際應用場景的動態任務范式下發揮出重要作用。“這些純前饋學習、低訓練能耗、支持動態連續學習等綜合特征,也將有望進一步引導新型類腦芯片的設計。”徐波說。(完)
標簽: