交叉学科
Interdisciplinary
2023年8月11日,中国科学院自动化研究所曾毅研究员课题组在Cell Press细胞出版社期刊Patterns上发表了一篇题为“BrainCog: A Spiking Neural Network based, Brain-inspired Cognitive Intelligence Engine for Brain-inspired AI and Brain Simulation”的封面文章。他们研制并发布了全脉冲神经网络的类脑认知智能引擎“智脉”(Brain-inspired Cognitive Intelligence Engine,BrainCog)。BrainCog开源平台集成了不同的生物神经元、编码策略、学习规则、脑区以及软硬件协同设计等作为一套通用的基础组件,同时支持脑启发的人工智能和多尺度的脑结构及功能模拟,助力自然智能的计算本质探索和新一代人工智能的发展。
▲长按图片识别二维码阅读原文
研究亮点
  1. BrainCog为脑启发的人工智能和多尺度的脑模拟提供了一套通用的、系统的基础设施;
  2. BrainCog以多尺度生物可塑性原理为基础,集成一系列完备的、用户友好的基础组件;
  3. BrainCog支持全脉冲神经网络的多项类脑认知功能建模,以及脑功能及多尺度结构模拟;
  4. 融合BrainCog诸多认知功能的类脑智能引擎“创生(BORN)”赋能通用人工智能探索。
论文简介
人脑能够自组织地协同数百项认知功能,灵活适应复杂多变的环境。如何通过计算建模整合多尺度生物可塑性法则来探索自然智能并构造人工智能是类脑人工智能和计算神经科学领域共同关注和面临的重要挑战。脉冲神经网络(Spiking Neural Network, SNN)作为第三代神经网络,从编码方式、学习法则、信息传递和处理机制等多个角度模拟了生物脑,具有更强的生物可解释性,更加适合建模大脑的各项认知功能及复杂的结构。另一方面,由于脉冲序列的稀疏表征,也使得脉冲神经网络具有潜在的低能耗特征。现有的脉冲神经网络平台有的涉及到精细的生物神经元模型、大规模神经网络模拟、神经网络动力学等较为细节的脑认知功能和结构模拟,有的关注于生物突触可塑性启发的脉冲神经网络建模,有的从深度学习领域借鉴经验来提升深度脉冲神经网络的性能。
已有的脉冲神经网络平台一般是面向人工智能或者面向脑模拟两者之中的一者作为目标,中国科学院自动化研究所曾毅研究员领衔的类脑认知智能实验室深度挖掘两者的异同,研制并发布了同时支持类脑人工智能与脑模拟的基于全脉冲神经网络的新一代人工智能开源开放平台:类脑认知智能引擎“智脉(BrainCog)”。BrainCog以多尺度神经可塑性及更具生物合理性的类脑信息处理机制为核心,将探索智能计算本质与构建类脑人工智能的科学探索深度融合。
图1. 类脑认知智能引擎“智脉(BrainCog)”架构
论文第一及通讯作者曾毅研究员说:
“BrainCog以多尺度生物可塑性原理为基础,为类脑人工智能和计算神经科学的研究者提供了一套相对完整的、通用的、系统化的接口组件。如图1所示,BrainCog的基础组件包含不同精细程度的生物神经元模型、多样化的编码方式、神经网络连接模式、丰富的类脑学习与可塑性法则、功能性脑区,以及软硬件协同设计。此外,在脉冲神经网络的优化算法、数据集(如ES-ImageNet、小样本神经形态数据集N-Omniglot)等方面也集成了完备的接口。
  • 不同精细程度的生物神经元模型:BrainCog不仅集成了常用的积分-放电,漏电-积分-放电脉冲神经元,还包含了计算神经科学以及脑模拟领域常用的Hodgkin-Huxley,Izhikevich等神经元模型,以及具有更加精细结构的多房室神经元模型;
  • 不同的编码方式:如频率编码、时序编码、群体编码、以及受量子叠加态启发的量子编码;
  • 不同的神经网络连接模式:如侧抑制、局部连接、前馈连接、反馈连接等丰富的神经微环路结构;
  • 丰富的类脑学习与可塑性法则:如依赖于生物可塑性的赫布法则,脉冲时序依赖可塑性法则,短时程突触可塑性法则等,以及基于代理梯度的反向传播和基于预训练人工神经网络的模型转换等SNN优化算法;
  • 丰富的功能性脑区模型:基于上述组件构建了如前额叶皮层(Prefrontal Cortex,PFC)、海马、基底神经节、丘脑、视觉通路,运动皮层等若干个功能性脑区的脉冲神经网络计算模型;
  • 软硬件协同设计:BrainCog正在发展一系列软硬件协同创新,近期发布了脉冲神经网络FPGA加速器智脉·萤火(FireFly),能在硬件层面提升脉冲神经网络在边缘设备上的推理性能。”
图2. BrainCog协同功能性脑区及环路实现多项类脑认知功能
论文共同作者赵东城助理研究员介绍:
“BrainCog包含的基础组件为脑启发人工智能及脑模拟提供基础设施支持,在类脑人工智能模型方面,BrainCog协同哺乳动物脑中28个功能性脑区实现类脑的五大类认知功能:感知与学习、决策、运动控制、知识表征与推理以及社会认知(提供了约30个算法模型及源代码)。”
感知与学习
BrainCog 支持多种有监督和无监督的训练法则,如基于突触可塑性的STDP,基于代理梯度的反向传播算法,和基于ANN到SNN的转换算法。同时在小样本以及噪声环境下取得突出的适应性。论文共同作者赵东城助理研究员介绍:“基于BrainCog完成的前馈连接与反馈连接结合的SNN,通过反馈连接引入全局的误差信号,提升了基于局部优化法则的脉冲神经网络在深层网络结构上的性能与稳定性,达到了与基于反向传播算法训练相抗衡的性能。”论文共同作者博士生申国斌介绍道:“基于BrainCog中实现的具有生物合理性的时间空间调节算法,能够训练深层的SNN模型,并在MNIST、CIFAR10、ImageNet等图像分类任务上,以及DVS-CIFAR10、DVS-Gesture等事件分类任务上,与其他的SNN相比,有先进性能的同时,展现出明显的低能耗。”论文共同作者博士生李杨介绍道:“基于BrainCog构建的ANN-SNN转换模型充分结合了反向传播算法与脉冲神经网络的优势,使SNN能以更少的能耗和更高的效率在图像分类、目标检测和语义分割等任务中完成同ANN相媲美的性能。”论文共同作者博士生董一廷说:“使用BrainCog构建的基于STDP算法的无监督脉冲神经网络模型,借由具有生物可解释性的优化算法和多种自适应机制,极大提升了网络性能与效率。实现了在少量样本下相同模型结构下优于ANN的性能。”
“BrainCog涵盖多感觉融合的概念学习框架,协同概念的多感觉信息与文本信息,构建类人的概念学习计算模型。该模型所生成的概念表征能够更为接近人类,助力概念学习的下游任务发展。”论文共同作者王寓巍助理研究员介绍道。“受量子叠加态的启发,BrainCog集成的量子编码使用时空脉冲序列表征图片像素信息和背景信息,将量子叠加态脉冲信息输入到多房室神经元模型,实现了SNN识别背景翻转的图片。”论文共同作者孙胤乾助理研究员说。
决策
“BrainCog既支持对生物脑决策机理的建模,也包含解决复杂决策任务的类脑脉冲神经网络的构建。在对脑决策机理建模方面,BrainCog建模了哺乳动物脑前额叶皮层到基底神经节到丘脑再到运动皮层的决策神经环路,在这条环路上不同的脑区及子脑区之间相互协同又各司其职,”论文共同作者赵菲菲副研究员介绍道,“具体来说,BrainCog分别从结构和功能两个方面对脑的决策机理进行建模。在结构方面,我们调用BrainCog基类中的LIF神经元或简化的H-H神经元模型作为建模脑区的基本单元,通过赋予不同子脑区还有脑区之前的兴奋性、抑制性连接,我们构建了基底神经节脑区基类,再协同其他脑区实现了一个多脑区协同的类脑决策脉冲神经网络模型。在功能方面,我们调用BrainCog中的STDP,奖励调控的STDP来动态地调整网络的突触连接强度,由此实现了在与环境交互中的快速决策。”“此外,基于BrainCog实现的神经元和脑区模块,实现了脉冲神经网络在复杂任务上的决策功能,比如深度强化学习上的应用,BrainCog实现了脉冲神经网络DQN模型,基于多房室脉冲神经元和神经元群体编码的类脑深度值分布强化学习模型,实现了视觉输入情况下类脑决策脉冲神经网络的学习与优化,在Atari游戏上效果好于传统基于ANN的深度强化学习模型。”论文共同作者孙胤乾助理研究员介绍。
运动控制
“BrainCog初步实现了利用脉冲神经网络控制人形机器人运动。受大脑运动控制机制的启发,BrainCog构建了包括前运动皮层(PMC)、辅助运动区(SMA)、基底神经节和小脑功能的多脑区协同机器人运动脉冲神经网络模型,并应用于人形机器人弹奏钢琴。”论文共同作者孙胤乾说。
知识表征与推理
“BrainCog通过融合多神经可塑性和群体编码机制进行知识表征和推理。利用类脑的音乐记忆和风格创作模型实现了音符序列的知识表征和记忆,可以生成具有不同风格的乐曲。”论文共同作者梁倩副研究员介绍到。“序列生成SNN实现了对符号序列的表征与记忆,并可根据不同的规则对符号序列进行重构。常识表征SNN将常识知识库编码进SNN,可据此网络完成概念化知识生成后续认知任务。因果推理SNN将因果图编码为脉冲神经网络,实现了演绎推理、溯因推理等认知任务。”论文共同作者方宏坚博士介绍。
社会认知
论文共同作者赵宇轩副研究员和博士生赵卓雅说:“BrainCog实现了一种具有生物合理性的脑启发的社会认知脉冲神经网络模型。该模型使得智能体初步地具备了理解自我和他人的能力,能够通过多机器人镜像自我识别测试并且降低了智能体交互过程中的安全风险。前者是社会认知中自我感知的经典实验,后者则是社会认知中心理揣测(Theory of Mind)实验的变体。”
图3. 基于BrainCog的自我感知脉冲神经网络赋能机器人通过镜像测试
论文共同作者张倩副研究员介绍:
“BrainCog可以支持不同尺度的脑结构与认知功能模拟,从而为在局部和全脑尺度计算验证科学猜想和科学解释提供强有力的支持。”
脑认知功能模拟
“BrainCog实现了果蝇线性、非线性决策和PFC工作记忆功能的模拟。在果蝇线性和非线性决策模拟中,BrainCog验证了非线性抉择环路在两难抉择下的赢者通吃行为,得到了与果蝇生物学实验一致的结论,相应算法还应用到了无人机平台使其获得类脑决策能力。”论文共同作者赵菲菲副研究员介绍。论文共同作者张倩副研究员和博士生杜骋骋用BrainCog实现的PFC网络,在不改变网络结构的情况下,使用人类神经元代替啮齿类动物神经元可以显著提高图像输出的准确性和完整性,这证明了生物脑结构的演化不仅仅体现在神经元和脑区尺度连接结构的演化,还体现在神经元这个基本计算单元的信息处理能力方面的优化。
脑结构模拟
BrainCog可以模拟不同规模的生物脑结构,从微环路到皮质柱到全脑结构模拟。基于解剖到成像的多尺度连接数据,BrainCog对不同类型哺乳动物脑进行多尺度模拟,构建了包含不同类型点神经元的鼠脑模拟器、猴脑模拟器(12.1亿神经元、1.3万亿突触,1/5猴脑规模)、人脑模拟器(规模达8.6亿脉冲神经元,2.5 万亿突触,1/100人脑规模)。
图4. 基于Allen小鼠脑模型的全脑脉冲神经网络模拟
图5. 恒河猴全脑脉冲神经网络模拟
图6. 基于BrainCog和人脑网络组图谱的人脑全脑脉冲神经网络模拟
论文第一及通讯作者曾毅研究员说:
“类脑认知智能引擎(智脉BrainCog)所提供的基础设施平台旨在助力发展类脑通用人工智能,为了进一步说明和验证BrainCog支持人工智能引擎研发的能力,论文介绍了基于BrainCog框架开发的致力于获得通用认知能力的脉冲神经网络人工智能引擎—创生(BORN),并展示了BORN引擎实现多项认知功能协同的能力。创生(BORN)的高层架构是整合时空可塑性,使人工智能具备感知与学习、决策、运动控制、工作记忆、长时记忆、注意力和意识、情感、知识表征和推理、社会认知等大脑认知功能。空间可塑性结合了微观、介观和宏观尺度的神经可塑性原理。时间可塑性考虑了处于不同时间尺度的学习、发育和演化可塑性。BORN的学习框架包括多任务连续学习、小样本学习、多模态概念学习、在线学习、终身学习、示教学习、迁移学习等,并致力于在不久的将来实现不同学习模型的深度融合。”
图7. 类脑人工智能引擎“创生(BORN)”的功能框架和愿景图
“基于BrainCog平台的基础组件及认知功能,BORN初步提供了一个基于人形机器人和情感驱动的乐曲创作和演奏应用。该应用需要协同BrainCog中的感知与学习功能来实现视觉情感的识别、知识表征与推理功能来创作乐曲,运动控制功能来实现乐曲的演奏,最终实现了多认知功能协同的人形机器人情感驱动的音乐创作和演奏。”论文共同作者鲁恩萌研究工程师介绍道。
图8. 基于BORN的人形机器人多认知功能协同情感驱动音乐创作与演奏
论文第一及通讯作者曾毅研究员说:
“类脑认知智能引擎“智脉(BrainCog)”涵盖了一套相对完备、通用、用户友好的基础组件,在此基础上,实现了感知与学习、知识表征与推理、决策、运动控制、社会认知等类脑认知功能,同时支持对多个物种的生物脑进行了不同尺度的结构及功能模拟。我们期望BrainCog能够为研发基于脉冲神经网络的人工智能和计算神经科学研究提供强有力的基础设施,在BrainCog基础上,我们致力于为新一代人工智能前沿探索打造基于脉冲神经网络的通用智能引擎。我们希望通过未来的持续科学探索与努力,融入更体系化的人类智慧之自然演化机理,探究具有自我感知、心理揣测、情感共情、伦理道德等社会认知能力的有意识的生命体,发展类儿童由简入繁连续学习、多模态概念学习、自适应发育的理论体系,建立向善的人工智能伦理道德引擎,助力人类与人工智能和谐共生的未来。”
作者介绍
曾毅
研究员
曾毅,中国科学院自动化研究所研究员、类脑认知智能实验室负责人、脑图谱与类脑智能实验室副主任、人工智能伦理与治理研究中心主任;中国科学院大学岗位教授、博士生导师;中国人工智能学会心智计算专委会主任;国家新一代人工智能治理专委会委员;联合国教科文组织人工智能伦理特设专家组专家。研究方向为:类脑人工智能、人工智能伦理、治理与可持续发展。
代表性成果发表在Cell Press旗下期刊Patterns、iScience,Nature出版社旗下Scientific Data、Scientific Reports,以及Science出版社旗下Science Advances、IEEE Transactions、Neural Networks以及人工智能领域重要国际会议IJCAI和AAAI等。
赵东城
助理研究员
赵东城,中国科学院自动化研究所类脑认知智能实验室助理研究员。研究方向为类脑脉冲神经网络、类脑深度神经网络。目前已在Patterns、IEEE TVLSI、Scientific Data、Neural Networks、Information Sciences、AAAI、IJCAI等发表论文多篇。
赵菲菲 
副研究员
赵菲菲,中国科学院自动化研究所类脑认知智能实验室副研究员。研究方向为类脑决策、发育及演化脉冲神经网络。目前已在Patterns、IEEE Transactions on Cognitive and Developmental Systems、Neural Computation、Scientific Reports、Cognitive Computation、Frontiers in Neuroscience以及人工智能领域重要国际会议IJCAI等发表论文多篇。
申国斌
博士研究生
申国斌,中国科学院自动化研究所类脑认知智能实验室2021级博士研究生,导师曾毅研究员。主要研究方向为类脑脉冲神经网络可塑性建模。目前已在Patterns,Information Sciences, ACM ToMM等发表论文多篇。
董一廷
博士研究生
董一廷,中国科学院自动化研究所类脑认知智能实验室2020级博士生,导师为曾毅研究员。研究方向为类脑脉冲神经网络优化方法。目前已在Scientific Data、Neural Networks、Patterns等发表论文多篇。
鲁恩萌
研究工程师
鲁恩萌,中国科学院自动化研究所类脑认知智能实验室研究工程师。主要研究方向为类脑具身认知智能、类脑伦理道德决策等。目前已在AI and Ethics、Cognitive Computation、Frontiers in Neurorobotics/Neuroscience/Computational Neuroscience等发表论文多篇。
张倩
副研究员
张倩,中科院自动化所类脑认知智能实验室副研究员,主要从事类脑认知计算建模,尤其是工作记忆计算建模,已在Patterns、IEEE TVLSI、Scientific Reports、Frontiers in Neuroscience等期刊发表多篇论文。
孙胤乾
助理研究员
孙胤乾,中国科学院自动化研究所类脑认知智能实验室助理研究员。研究方向为脉冲神经网络,类脑量子计算,类脑感知与决策,类人机器人等。目前已在iScience、Patterns、Frontiers in Neuroscience等发表论文多篇。
梁倩
副研究员
梁倩,中国科学院自动化研究所类脑认知智能实验室副研究员。主要研究方向为类脑脉冲神经网络,类脑音乐学习,类脑音乐创作。目前已在Patterns、Frontiers in Computational Neuroscience等发表论文多篇。
赵宇轩
副研究员
赵宇轩,中国科学院自动化研究所类脑认知智能实验室副研究员。研究方向为类脑认知计算建模、高等认知功能模拟。目前已在Patterns、iScience、Frontiers in Neuroscience、Cognitive Computation等期刊发表多篇论文。
赵卓雅
博士研究生
赵卓雅,中国科学院自动化研究所类脑认知智能实验室2019级博士研究生,导师为曾毅研究员。研究方向为类脑心理揣测与决策模型。目前已在Patterns、Frontiers in Neuroscience等发表论文多篇。
方宏坚
博士研究生
方宏坚,中国科学院自动化研究所类脑认知智能实验室2017级博士毕业生,导师为曾毅研究员。主要研究方向为类脑脉冲神经网络、符号表征、因果推理等。目前已在Patterns、Frontiers in Computational Neuroscience、IJCNN等发表论文多篇。
王寓巍
助理研究员
王寓巍,中国科学院自动化研究所类脑认知智能实验室助理研究员。研究方向为类人概念学习计算模型、类脑脉冲神经网络。目前已在Cognitive Computation, Frontiers in Computational Neuroscience, Frontiers in Systems Neuroscience, Scientific Reports等期刊发表论文多篇。
李杨
博士研究生
李杨,中国科学院自动化研究所类脑认知智能实验室2019级博士生,导师为曾毅研究员。研究方向为类脑脉冲神经网络优化方法。目前已在Patterns、Scientific Data、Neural Networks、Information Sciences、IJCAI等发表论文多篇。
刘鑫
助理研究员
刘鑫,曾任中国科学院自动化研究所类脑认知智能实验室助理研究员,从事脑模拟相关研究。目前已在Cognitive Computation等期刊发表多篇论文。
杜骋骋
博士研究生
杜骋骋,中国科学院自动化研究所类脑认知智能实验室2021级博士研究生,导师曾毅研究员。主要研究方向为类脑认知智能、工作记忆建模。
孔庆群
副研究员
孔庆群,中国科学院自动化研究所类脑认知智能实验室副研究员。研究方向为类脑视觉、连续学习等。目前已在Neural Networks、IEEE Transactions on Cognitive and Developmental Systems、Frontiers in Neuroscience 等发表论文多篇。
阮子哲
研究工程师
阮子哲,中国科学院自动化研究所类脑认知智能实验室研究工程师。研究方向为类脑生成式人工智能及类脑认知智能各应用平台的实现与开发。
毕韦达
研究工程师
毕韦达,中国科学院自动化研究所类脑认知智能实验室研究工程师,主要负责脑模拟可视化。
相关论文信息
论文原文刊载于Cell Press细胞出版社旗下期刊Patterns上,点击“阅读原文”或扫描下方二维码查看论文
论文标题:
BrainCog: A spiking neural network based, brain-inspired cognitive intelligence engine for brain-inspired AI and brain simulation
论文网址:
https://www.cell.com/patterns/fulltext/S2666-3899(23)00144-7
DOI:
https://doi.org/10.1016/j.patter.2023.100789
BrainCog开源开放平台网址:
http://www.brain-cog.network
▲长按图片识别二维码阅读原文
2021年,Cell Press推出了“集体审稿”(Community Review)模式,作者可以选择多本Cell Press旗下期刊同时提交稿件。“集体审稿”模式可以增加您的文稿在Cell Press得到正式同行评审的可能性,同时避免一轮又一轮的评审,缩短从投稿到正式出版所需的时间。
CellPress细胞出版社
推荐阅读
▲长按识别二维码关注细胞科学
继续阅读
阅读原文