脑-机接口(Brain-Computer Interface,BCI)用户中枢神经系统产生的脑信号模式与BCI范式和神经编码紧密相关。在BCI技术系统中,BCI范式与神经编码是BCI研发的关键和重要内容之一。然而,迄今为止少有文献阐述BCI范式的定义与设计原则,以及BCI神经编码的定义与建模原则。为此,本文详细论述了这一些内容,并介绍了现有主要的BCI范式与神经编码。最后讨论了BCI范式与神经编码面临的挑战及未来的研究方向,包括以用户为中心设计和评价BCI范式与神经编码、变革传统的BCI范式、突破现有的脑信号采集技术和BCI技术与先进的AI技术相结合提升脑信号解码性能。可望本文为BCI范式与神经编码的创新研发提供启发。
1)该论文指出不少BCI研发者把BCI系统的研发归结为一个纯工程问题,强调在线脑-机接口(BCI)系统的研发,绝非仅仅是一个工程实现的挑战。在线BCI系统的研发同样,甚至更为关键地涉及到深刻的科学理论与原理问题。论文认为BCI范式与神经编码是BCI的科学原理。
2)迄今为止,尚没有文献清晰且完整的给出BCI范式的定义,也没有给出BCI范式的设计原则。该论文不仅清晰地定义了BCI范式,还提出了BCI范式设计所需要仔细考虑的原则,明确了BCI范式设计和评估应该以用户为中心。
3)该论文明确给出了BCI神经编码的定义与建模原则。同时,阐明了BCI神经编码与BCI范式及神经解码的关系,以及BCI神经编码与脑神经编码及计算机信息编码的关系。
4)迄今为止,现有几种BCI范式与神经编码存在局限性,阻碍了BCI的转化应用,为此,BCI范式与神经编码的创新设计和完善是BCI系统研发的关键任务之一。该文提出以用户为中心设计和评价BCI范式,需要变革传统的BCI范式。
该论文指出,BCI范式是指在特定的脑成像技术下,由BCI研发者精心选择/设计的一组特定的心理任务或外部刺激,用于表示受试者或用户(后面统一为用户)的意图。BCI范式的目的是把用户的意图“写入”脑信号中,即由脑信号表征或编码(神经编码),期望所采用的脑成像技术能够检测到用户意图的神经编码,为后续“读出”或解码用户的意图打下基础。有必要注意一下的是,BCI难以解码用户任意/随机的心理活动,也难以解码其接收的任意/随机的外部刺激。
特定的心理任务是内隐的心理活动,如运动想象、视觉想象、言语想象、心算、推理等;特定的外部刺激是外显的注意任务,如视觉刺激、听觉刺激和触觉刺激等。通过内隐的心理活动或外部刺激诱发特定的脑信号特征,这些特定的脑信号特征标识了特定的心理任务和特定的刺激,为后续的BCI解码提供相关依据。内隐的心理活动或外部刺激对应特定的脑功能和脑活动,特定的脑功能和脑活动与特定的脑区和脑网络/脑回路紧密相关。图1示意了BCI范式与特定的脑功能和脑结构关系。需要非常注意的是,通常在特定的脑成像技术下讨论BCI范式,即BCI范式与特定的脑成像技术紧密相关。
迄今为止,有若干BCI范式,如运动想象、SSVEP和P300范式等,这些范式各有优缺点,有许多研究依然在完善这些范式。创新设计BCI范式是BCI 研发的关键和重要内容之一,为了使设计的BCI范式能够转化为实际应用,BCI范式设计原则的依据是以用户为中心和BCI人因工程设计并评价BCI范式。该文提出的BCI范式设计原则如表1所示。
该论文指出,BCI神经编码是指在特定的BCI范式下,把用户不同的意图“写入”或编码进中枢神经信号中,由具有可分性的脑信号特征表征,这种具有编码意图的脑信号可由特定的脑成像技术检测到,最后可由BCI神经解码算法识别用户意图。BCI神经编码过程如图2所示。
BCI神经编码的建模需要仔细考虑特定的BCI范式、脑神经编码机制、不同脑成像技术采集的神经信号特征和高效解码用户意图,如表2所示。
通常先设计BCI范式,然后揭示BCI范式下的神经编码,接着由神经编码规律提取脑信号特征,最后进行神经解码。显然,BCI范式与其神经编码是BCI解码的基础或前提。需要强调的是,在BCI系统中,没有BCI范式就没有相应的神经编码,没有BCI神经编码就没有神经解码,或者没有良好的BCI范式和神经编码就没有高性能的神经解码性能。图3示意了BCI神经编码与BCI范式及神经解码的关系。
在该论文中,强调脑神经编码是BCI神经编码的基础,其表征外部刺激和心理任务与特定神经元或神经元群响应之间的假设关系以及神经元群中神经元的电活动之间的关系。根据感觉和别的信息在大脑中由神经元网络表示的理论,人们认为神经元可以对数字和模拟信息进行编码。计算机信息编码是信息从一种形式或格式转换为另一种形式的过程,可拿来表示事物的关系,它可以用数字、字母、特殊的符号或它们之间的组合来表示,将数据转换为代码或编码字符,并能译为原数据形式。图4示意了脑神经编码与BCI神经编码及计算机信息编码的关系。
在该论文中,受图4中脑神经编码模型的启发,总结了BCI神经编码模型,如表3所示,这些BCI神经编码最终将转化为计算机信息编码,由计算机处理。
迄今为止,现有几种BCI范式与神经编码存在局限性,阻碍了BCI的转化应用,为此,BCI范式与神经编码的创新设计和完善是BCI系统研发的关键任务之一。需要以用户为中心设计和评价BCI范式与神经编码、需要变革传统的BCI范式、突破现有的脑信号采集技术、以及BCI技术与先进的AI技术相结合提升脑信号解码性能。
BCI的最终使用者是用户,同时用户本身是驱动BCI的信号源(中枢神经系统)。用户是BCI系统必不可少的最复杂、最活跃、高度自适应的子系统。因此,BCI系统是最典型的人在环路的系统(人脑与机器直接相连或耦合,是脑机直接交互的闭环系统),BCI范式与编码的设计和评价(可用性和满意度)需要以用户为中心,考虑BCI人因工程。
BCI范式及神经编码与用户的感知觉、表象、注意、认知或思维等心理活动或任务的神经机制紧密相关。BCI系统的性能(有效性与效率等)与用户的心理活动紧密相关,如运动想象BCI系统的性能在很大程度上取决于用户执行运动想象的效果或能力。
值得注意的是,为评价2.2节提出的BCI范式设计的第一个原则“BCI范式任务诱发的中枢神经信号应具有较好的可分性”,任何创新设计的BCI范式与神经编码模型,常常要离线数据分析并建立模型,最终一定要通过在线BCI系统的神经解码验证和评价。
从通信原理与技术角度看,BCI范式类似于一种编码协议,即通过特定的外部刺激或心理任务将大脑意图编码到神经活动产生的信号中。
迄今为止,BCI研发已有50余年,然而现有BCI范式局限性较大,转化面临极大的挑战,需要大幅改进、甚至变革或突破传统经典的BCI范式(如SSVEP-BCI、P300-BCI、MI-BCI等),增加新的更自然更有效交互的BCI范式。最近几年,BCI范式的创新取得了许多重要进展。
言语是人类主要的交流方式,言语BCI范式是一种比较自然的BCI范式。言语BCI具有解码试图言语引发的神经活动为文本或声音的潜力,从而有望为瘫痪患者恢复快速的交流。
到目前为止,BCI研究的一个主要重点是恢复粗大肢体的运动技能,例如伸手和抓握或用计算机光标点击打字。Francis R. Willett等人研发了一种皮层内脑机接口,通过运动皮层手结区的神经活动解码尝试的手写动作,并采用递归神经网络解码方法将运动皮层的神经活动实时翻译成文本。
该论文认为,在BCI技术系统中,BCI范式与神经编码是BCI研发的关键和重要内容之一。本文较为系统明确地给出了BCI范式的定义和7条设计原则,以及BCI神经编码的定义与编码模型,包括BCI频率/速率编码、时间编码、相位编码、皮质内神经元群体编码、相关性编码、稀疏编码以及混合编码模型。介绍了现有主要的BCI范式与神经编码,包括皮质内LFP-BCI、ECoG-BCI、fNIRS-BCI、fMRI-BCI、MEG-BCI、EEG-BCI以及混合BCI的范式与神经编码。最后讨论了以用户为中心设计和评价BCI范式与神经编码、变革传统的BCI范式、突破现有的脑信号采集技术和BCI技术与先进的AI技术相结合提升脑信号解码性能。可望本文为BCI范式与神经编码的创新研发提供启发。
杨帮华:上海大学机电工程与自动化学院、医学院双聘教授,博士生导师,脑机工程研究中心主任,上海市五一劳动奖章获得者,上海市三八红旗手,省部级人才。从事脑机接口及其工程应用研究20多年,主要研究运动想象脑机接口、神经信号智能解码技术、虚拟现实(VR)/增强现实(AR)技术、脑机接口结合VR/AR 在医疗领域工程应用。主持科技部国家重点研发计划项目1项、国家自然科学基金项目和其他国家级项目 10 多项;担任脑机接口领域期刊《IEEE Transactions on Neural Systems and Rehabilitation Engineering》副主编,在国内外知名期刊发表学术论文 130 余篇,授权专利 10 余项,相关研究得到 CCTV-1、CCTV-9、CCTV-17等权威媒体专访报道。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
23岁砍9000分,华子超越科比,他能破詹姆斯最年轻10000分纪录吗
酷炫对比照:AKS-74U与SG552短步枪巅峰对决 各自代表不同流派
新消费日报 长城汽车与宇树科技签署战略合作协议;今年以旧换新带动家电销售1247.4亿元……
《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律
据传iPhone 17 Pro机型将在相机应用中提供前后双视频录制功能
消息称苹果 iPhone 17 Pro/Max 将支持前后摄像头双视频同步录制