大脑会误以为现在是放松的时刻(你的大脑正在自动)

大脑会误以为现在是放松的时刻(你的大脑正在自动)(1)

本文来自Mindverse Research(ID:gh_be9d7092abf7),作者:朱思嘉,审校:十三维,原文标题:《Growing offline:生物神经回放》,题图来自:视觉中国

纵然我们已不像半个世纪前那样对大脑的 offline 状态一无所知,如今不管是谁都知道休息和睡眠可以给我们带来诸多好处。但是在这个“内卷化”时代里,很多年轻人依旧把休息当做一种奢侈,仅仅想象自己生命的1/3将在睡眠中度过就会感到一种被落后的不安。于是他们牺牲了睡眠,熬夜工作、备考、学习新的知识。可如果他们有时间停下来回顾一下,或许就会发现,他们牺牲了健康的作息换来的的知识好像很难真正地“进入脑子”。

而很多时候,我们先前怎么背也记不住的知识,怎么想也想不通的难题睡一觉或者是放空一段时间之后反而豁然开朗。睡眠似乎并不只是被动地起到防止外界干扰的作用,而是在其中扮演了一个更积极的角色,这里究竟发生了什么,我们无意识下的offline大脑究竟施展了什么样的“魔力”?近年研究激增的神经回放为我们提供了一种新的可能解释。

一、生物神经回放的研究历程

来自动物的发现

虽然近年神经回放研究吸引了足够的热度,但是神经回放现象的发现却并不是最近的事,1994年,科学家就在大鼠身上首次发现了这种现象(Wilson & McNaughton, 1994)。他们在三只大鼠的大脑中植入了记录海马子区CA1区细胞活动的微驱动阵列(microdrive arrays,如下图所示),然后依次记录了:

(1)大鼠在正常睡眠期间的神经元放电情况(PRE);

(2)大鼠完成空间运动任务(走迷宫获得食物)时的神经元放电情况(RUN);

(3)大鼠在空间行为任务之后的睡眠期间的神经元放电情况(POST)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(2)

三只大鼠记录的海马锥体细胞群的空间放电特征

结果发现,大鼠在运动后睡眠期间的海马位置细胞会以其先前经过路径的相同顺序进行放电(如下图所示)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(3)

细胞网络的有效连接矩阵图:大多数在任务阶段出现的高度相关细胞对也在任务后的睡眠阶段中出现。*点表示单个细胞、线条表示细胞之间的正相关、红色代表相关性大于0.2

继这项开创性工作之后,更多研究在非人类动物的不同皮层和皮层下区域都发现了神经回放的现象,即神经元细胞依照先前的放电顺序再次重新按顺序激活,发现的脑区包括视觉皮层、腹侧纹状体、内侧前额叶、顶叶和运动皮层等。并且研究发现神经回放可以出现在多种不同时期,包括清醒期间、非快速眼动睡眠(NREM)期间和快速眼动睡眠(REM)期间(Foster, 2017)。

从动物实验到人类实验

尽管在动物身上做了大量的研究,但是在对人类的神经回放现象的研究中,由于神经元放电活动的观察困难性,在很长的一段时间内研究者都无法直接对神经回放本身进行研究,而此期间,非侵入式功能性神经影像学研究为神经回放提供了诸多的间接证据。

例如,通过在慢波睡眠期间呈现相关气味线索,海马体会得到相应的激活(Diekelmann et al., 2011)。此外,也发现了学习结束后离线阶段大脑的重激活现象,包括慢波睡眠时期海马体的再激活(Peigneux et al., 2004),和运动学习后REM期间运动前皮层活动的增加(Maquet et al., 2000)。

目前,由于动物研究已经确认了神经回放发生的主要脑区和背后的神经机制,随着技术和方法的更新,最近的研究可以通过iEEGs、MEG(Buch et al., 2021; Liu et al., 2019)、iBIC甚至传统的fMRI(Schuck & Niv, 2019)和行为实验(Zuo et al., 2020)的手段证明人类神经回放活动的存在,并且发现了人类的神经回放和动物神经回放的极大的相似性。从动物实验到人类实验,从侵入性研究到非侵入性研究,神经回放的研究进入了一个新的阶段。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(4)

在Web of Science数据库中,以主题“Neural replay”进行检索所得

人类运动学习后的神经回放研究

在本节中,我们将简单地介绍来自哈佛医学院 Sydney S. Cash 团队在2020年(Eichenlaub et al., 2020)和2022年(Rubin et al., 2022)的两项研究,不同于其他研究中更多地使用 MEG 等非侵入式神经活动无创记录技术和神经解码(decoding)中的多变量模式分析方法来对正常人的脑活动进行监测和分析,这两项研究中使用植入式微电极阵列,对病人在序列运动学习后的神经元放电情况进行了直接的记录。

如其中一位研究者 Beata Jarosiewicz 博士所说“这是第一个直接证据,证明我们也可以看到人类在学习后的休息期间有帮助巩固记忆的回放现象……我们在动物身上研究了几十年与回放有关的记忆巩固机制,看起来很可能也适用于人类。”

在 Cash 团队的这两项研究中,被试首先完成微电极阵列设备校准(熟悉如何通过意图移动光标),然后被要求闭眼休息约半小时,记录其静息态下的脑活动指标(Rest1);随后被试会完成一个类似电子游戏“西蒙”(Simon)的序列运动学习任务:电脑首先显示目标序列,然后被试通过自己的意念想象去操纵光标按照这样的序列运动(iBCI,详见下图和视频),其中被试需要完成的重复序列和随机序列试次数量呈现3:1的比例(Sequence game);任务结束后,被试会再次闭眼休息并被记录学习后的脑活动情况(Rest2)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(5)

在2022年的研究中,实验者还会在这一基础上记录被试在任务前一天晚上和当天晚上睡眠时的大脑活动情况(如下图所示)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(6)

在第一篇研究(2020)中,研究者提取了每个电极通道上的发放功率(spike power,250-5000Hz的总频谱功率),然后使用模板匹配方法(Template matching approach)评估了神经元发放功率时空模式相似度,将每个目标/每个试次的神经活动模式的平均值作为单独的时空模板,将其与前后 Rest 阶段中每个时间步长的神经活动模式进行相关分析,以检测单个目标和整体序列的神经回放现象。

计算并确定每个模板的相关系数(CC)峰值,将 CC 大于95%的定义为候选回放事件,并将回放指数(RI)定义为CC峰值的平均值占比变化(Rest2-Rest1)。结果发现重复序列和随机序列的 RI 分布如下图A所示,该结果表明,完成序列运动学习任务之后,重复序列在休息时的大脑中得到了更多的回放。

此外,研究者还设置了时间膨胀因子(time dilation factor),结果显示,上述发现的显著的神经回放现象在0.1*(即比实际时间快10倍)的时间尺度上达到峰值(如下图B、D所示),即神经回放不遵循原始事件的实际时间,而是以一种时间压缩的形式发生。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(7)

在2022年的第二项研究中则发现,不仅是序列运动学习之后紧跟着的休息期间,在距离任务足够久的睡眠期间,大脑也会产生持续的神经回放(如下图所示):

大脑会误以为现在是放松的时刻(你的大脑正在自动)(8)

A:任务期间神经活动模式;C:夜间睡眠期间不同时间点上候选回放事件的神经活动示例

并且,在睡眠期间的远程神经回放同样呈现一种时间压缩的形式(如下图所示):

大脑会误以为现在是放松的时刻(你的大脑正在自动)(9)

此外,在这项研究中,Cash 研究团队还表明睡眠期间的神经回放与短波睡眠(SWS)阶段的尖波涟漪(Sharp wave ripples, SPW-Rs)爆发有关(如下图所示),这一在非人动物身上被普遍证实的特点也因植入式脑机接口技术(iBIC)的发展,首次得以在人类被试中被直接证明。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(10)

左图:任务后睡眠期间神经活动;右图:回放事件与尖波涟漪之间的关系

Cash 团队的两项研究开创性地直接观察到了人类的神经回放活动,证实人类不仅可以在序列运动学习后即刻的清醒休息期间发生时间压缩的神经回放活动,还会在距离运动学习任务间隔时间更久的睡眠期间产生持续的神经回放现象。

这两项研究为后续人类神经回放机制的研究以及脑机接口BCI的应用都提供了重要的参考价值。此外,两项研究也涵盖了神经回放活动中重要的特点与形式,接下来我们将对这些内容做更进一步的解读。

二、神经回放的特点与形式

在上述两项研究中,我们已经提到了神经回放最为突出的特点:时间压缩;此外,上述两项研究中的神经回放可以根据是否处在原始经历环境中分成本地神经回放(local replay)与远程神经回放(remote replay),或者根据神经回放时主体的清醒状态分为清醒神经回放和睡眠神经回放;除了这些分类方法,我们还可以根据神经回放序列的方向分为正向神经回放(forward replay)和反向神经回放(reverse replay)。

在本节中,我们就将对神经回放这一最突出的特点和三种常见的形式进行简要的介绍。

时间压缩

纵观神经回放的研究,神经回放最为突出的特点就是其在时间尺度上的变化,一般表现为时间压缩(time compression),即神经回放并不以与先前实际事件相同的速度进行神经元的重新激活放电,而是以一种压缩的、更快的速度在大脑中进行回放,如上文所述。

在另一项研究中(Buch et al., 2021),研究者通过脑磁图(MEG)对人类完成序列动作学习和短暂休息时的大脑活动进行记录(如下图所示),结果发现,在间隔休息期间,神经回放过程仅持续了约50ms,几乎是实际行为速度的20倍,而训练间隔休息时的神经回放速度大约是训练后休息期间的三倍。通过和前文研究结果进行比较,我们也可以发现神经回放的时间压缩尺度在不同范式、不同情景上存在着很大的不同。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(11)

那神经回放是否一定是时间压缩的呢?最新的研究发现其实也存在正常速度的回放,这说明了神经回放事件包含更丰富的事件速度,而这被研究者认为可以促进不同空间和时间尺度上记忆的存储和更新(Denovellis et al., 2021)。

本地神经回放与远程神经回放

对于本地神经回放和远程神经回放的划分最早也起源于动物研究,研究者根据神经回放发生的环境将其分为本地回放(local replay)和远程回放(remote replay)。

研究者(Karlsson & Frank, 2009)发现,啮齿类动物不仅可以在事件发生的当下环境(如下图E1)中产生即刻的神经回放,还可以在原始事件发生一段时间后的新环境(如下图E2)中产生神经回放,并且这种远程神经回放占到了全部回放事件中的44%(下图Rest4阶段),即本地神经回放和远程神经回放几乎同样普遍。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(12)

后续在对人类被试的研究中,研究者则进一步发现类似的不同神经回放形式可能支持了不同的学习与认知过程,比如从直接经验学习的本地学习,和基于推理的非本地/间接学习等(Liu et al., 2021)。

清醒神经回放与睡眠神经回放

在前文介绍的人类研究中,我们发现神经回放可以发生在清醒休息和睡眠等多种的情况下,我们可以根据大脑是否处于有意识状态将神经回放分为两种形式:清醒神经回放与睡眠神经回放。而研究者通过研究发现,处于不同状态的神经回放很可能扮演着不同的功能角色。

睡眠期间的海马回放更多地与记忆巩固有关;而清醒期间的神经回放则有更加不同的功能,例如前瞻性规划:在啮齿动物中,在间隔休息期间的清醒海马回放已被证明可以预测下一条路径(Euston et al., 2007)。

有趣的是,清醒回放不仅可以向前(即与事件最初经历的顺序相同)进行,还可以以相反的顺序回放。有研究者认为这种反向的神经回放可以实现在线记忆巩固,并且随着奖励的大小增加,反向回放的频率增加,这可能会增强重要事件的记忆强度(Ambrose et al., 2016, Kaefer et al., 2022)。

此外,清醒回放不仅包括与当下环境相关的本地神经回放,还可以包含不同环境下的远程回放,而睡眠回放几乎总是远程回放(Foster, 2017)。

正向神经回放与反向神经回放

我们把与实际事件经历顺序相同的神经回放称为正向回放(forward replay),相反的神经回放称为反向回放(reverse replay)。研究者通过记录三只大鼠来回奔跑获得食物奖励时的海马活动发现,约95%的正向回放发生在大鼠运动之前,约85%的显著反向回放事件发生在大鼠运动之后。(如下图所示,Diba & Buzsáki, 2007)

大脑会误以为现在是放松的时刻(你的大脑正在自动)(13)

后续的研究发现,两种不同方向的神经回放对奖励的响应之间存在显著差异,反向回放率与奖励成正比变化,而正向回放则不受影响。反向回放更多地被认为在记忆巩固、价值分配学习中发挥重要作用,而正向回放则被认为是记忆提取和预测未来路径的重要机制(Ambrose et al., 2016)。

三、神经回放的作用

在上文中,我们已经介绍了神经回放的形式与特点,可以发现神经回放的不同发生形式或许承担着不同的功能,那么,神经回放究竟具体有着哪些功能呢?在本章中,我们将简单介绍神经回放所起到的一些作用。

Indulgently speaking, it looks less like dreaming and more like thought. —— Foster, 2017

记忆巩固

我们在上文中所讲述的几项研究和神经回放研究历史上大部分的研究大多都与记忆巩固的功能有关:大鼠通过神经回放巩固了成功穿越迷宫的经验,病人在神经回放中巩固了对规则序列的记忆。

研究者不仅通过神经回放后量化的记忆测试发现了良好的记忆表现和神经回放活动之间的强相关(Dupret et al., 2010),还通过破坏大鼠的神经回放(抑制尖波涟漪的产生)发现了神经回放对记忆巩固的因果作用(Ego-Stengel & Wilson, 2010, Girardeau et al., 2009)。

此外,不仅是简单的程序性记忆,信息更为复杂的情景记忆也被发现会因神经回放得以巩固(Wimmer et al., 2020,如下图所示)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(14)

随着研究的不断增加,现在我们对神经回放在记忆巩固的作用有了越来越深的理解,在前人的基础上发现了更多与之相关的特性和底层机制,例如不同意识状态下记忆巩固的水平差异、更低频段的神经振荡同步和神经网络在其中的参与等等。对于该方向下产生的大量研究,此处就不再赘述了。

生成式回放:不仅仅是过去

值得一提的是,随着研究者对神经回放作用的研究的深入,他们发现,神经回放似乎并不仅仅是对过去经历的机械重复,而是一种更具动态性、甚至更具创造性的过程。对于这一激动人心的假设,已经有许多研究者通过实证研究证明了神经回放对视觉理解(Schwartenbeck et al. 2021)、决策(Liu et al. 2021)、规划(Momennejad et al. 2018)和预测(Ekman et al. 2017)等更多认知过程的支持。

研究者有时也将发生在实际事件之前的生成式神经回放称为预演(preplay),而这种更面向未来的回放也与我们前文所提到的正向与反向的神经回放两种形式的存在息息相关。此处,我们将以2021年发表在Science上的一篇文献为例(Liu et al. 2021),介绍神经回放对人类后续决策的影响。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(15)

在这项研究中,被试被要求不断地在两条路径做出选择(如上图A,共有三种可能的选择环境),以使自己获得奖励(X或Y,奖励的概率浮动如上图B),被试在每个试次中做出选择后,程序就会自动播放其选择的路径并告知其是否获得奖励(如上图D)。

MEG结果显示(如下图),对于本地路径(即其所选择的路径),被试的大脑会在滞后约160ms时达到反向回放的峰值,而对于非本地路径(即其当下试次未选择的路径),被试的大脑会在约30ms时达到正向回放的峰值。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(16)

结合前文所述的不同形式的神经回放的功能,在这里我们发现,被试的大脑在无意识的情况下既巩固了其当下经历的价值学习和记忆,又支持了对其他环境下的路径预测,而这促进了被试在后续做出更好的决策。

你或许会惊讶,大脑竟然可以在毫秒级的精度下完成如此多而不同的工作,但是神奇的还不仅仅如此。

观察式回放:不需要亲身经历

除了可以起到知识整合、规划和预测作用的生成式回放,今年科学家还在大鼠身上发现了一种更特别的神经回放现象:大鼠甚至不需要自己亲身经历相应的空间导航任务,仅仅在观察其同伴通过迷宫获得奖励之后,其自己的大脑中就会产生远程神经回放,并且神经回放的强度会预测其后续自己在迷宫中的行为表现,即这种回放促进了后续大鼠对奖励地点和未来轨迹的偏好(Mou et al., 2022)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(17)

这一神经回放的发现也为人类观察学习的神经机制研究提供了启示,神经回放是否也在人类身上起着同样的作用,如果是这样,那么这个作用是否可以泛化到更为复杂的诸如社会互动的观察学习之中呢?看起来,我们还远远没有探索完神经回放的奥秘。

四、神经回放的机制

在对神经回放脑机制的探索中,尽管也有研究发现神经回放与更低频的神经振荡有关(Higgins et al., 2021),但是目前大部分研究者还是一致认同尖波涟漪(Sharp-Wave Ripples, SPW-Rs)的产生是神经回放的关键机制,神经回放通常发生在 SPW-Rs 期间。从第一部分介绍的实验中,我们就可以看到这一结论。

尖波涟漪,顾名思义包括尖波(Sharp-Wave)和涟漪(Ripples)两部分,尖波是 Vanderwolf 等人最早在啮齿类动物的海马子区 CA1 观测到的大幅度负朝向的波形,持续时长 40-100ms 左右。涟漪是 O’Keefe 等人在 CA1 区域观测到一种由高度同步的神经元活动引起的,快速且短暂的神经振荡活动,波形似水面激荡起的涟漪。其频率在人类和灵长类动物上为 80~140Hz 左右。多数情况下,尖波的产生都伴随着涟漪,因此称之为尖波涟漪(Buzsáki, 2015)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(18)

https://zhuanlan.zhihu.com/p/79345382

由于尖波涟漪通常在海马子区被检测到,很多研究者也直接将其称为“海马尖波涟漪”,了解了海马和尖波涟漪之间的关系,我们就不难猜想为何神经回放会在记忆巩固中起到如此重要的作用了。通过Buzsáki(Buzsáki, 2015)和Neuron上的一篇文献(Gupta et al., 2010),我们可以对海马尖波涟漪及其在神经回放中的作用有一个更清晰的了解。

而随着科学家对大脑了解的加深,单一脑区的解释逐渐变得单薄起来,今年的一篇研究指出了脑区尖波涟漪的全脑耦合情况(Nitzan et al., 2022),这也为神经回放背后的全脑参与提供了一定的证据,接下来,我们将对已被证实参与神经回放的部分脑区和脑网络进行一个简单的介绍。

相关脑区

replay may be a conserved mechanism of learning and memory across multiple cortical systems, including semantic, navigational, and motor systems —— Rubin et al., 2022

①海马与新皮层

前文中,我们讲述了神经回放对记忆巩固的作用以及海马尖波涟漪的爆发如何作为其底层机制。但是记忆的形成和巩固过程并不能仅仅在海马中就完成。研究者一般认为海马和新皮层的交互在记忆形成的过程中起着关键的作用,现在让我们来看一看神经回放是否确实遵循这种交互方式。

研究者(Ji & Wilson, 2007)通过在大鼠完成迷宫行走任务的时候和之后记录其海马和初级视觉皮层的神经元活动,发现海马和皮层上的神经回放模式倾向于在精细的时间尺度上同时开始和结束(如下图所示)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(19)

且两处脑区的细胞放电序列呈现相同的轨迹,即两个脑区回放了相同的体验(如下图所示)。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(20)

之后其他研究者在此类发现的基础上提出了标准系统巩固理论(standard systems consolidation theory, SSCT),表明信息仅仅暂时存储在海马体里,只有通过离线期间的巩固才能进入皮层区域形成长期记忆。后续又有研究者提出情境绑定假说(contextual binding account),强调了海马的核心作用和大脑离线状态对信息编码后情境漂移产生遗忘的抑制(Yonelinas et al., 2019)。

尽管这些理论分别强调了不同的方面,但是都指出了神经回放扮演的积极角色以及海马和新皮层作为一个整体的交互模式。

②默认模式网络

如果把神经回放这一神经活动现象放在一个更大的范围里说,可以把它归类为一种特定的大脑自发神经活动,即不需要特定的任务或刺激诱发的大脑活动,那么既然它是一种大脑自发活动,我们很容易猜想默认模式网络(DMN)是否会相应地在其中起到一定的作用,而研究者已经证明了这一假设。

这个月中旬,Nature Reviews Neuroscience上刊登了一篇文章(Kaefer et al., 2022),研究者在其中提出了一种级联记忆系统(cascaded memory systems, CMS)模型,他们认为在大脑离线期间,神经回放和 DMN 的激活两种现象密切相关,且具有重叠的潜在功能。他们假设 DMN 不仅构成了回放传播的主干,中介了海马和新皮层之间的相互作用,它还可以独立启动回放级联(replay cascades),以支持记忆或高级语义表征的重新激活。

大脑会误以为现在是放松的时刻(你的大脑正在自动)(21)

CMS模型示意图,彩色圆环描述了DMN(黄色)到单峰感觉区域(蓝色)的主要功能连接梯度,三角形表示皮层区域,三角形的颜色反映了不同皮层区域在瞬态事件期间激活的顺序(红色→黄色→绿色,灰色为未激活)

研究者通过这一模型表明:神经回放主要从海马体出发沿上述主要连接梯度传播;神经回放可以在多个皮层区域上独立地发生,即神经回放的产生不限于海马,许多皮层都具有足够的内在连接性以支持神经回放活动,但是会因为级联层次有所不同;存在于全脑空间中的回放会以一种瞬态广泛激活(transient widespread activations)的形式产生。

说到这里,我们已经对神经回放的底层可能机制有了一个大概的了解,诸如 CMS 模型此类的最新研究提出了许多的假设,这些假设可以启示和指导后来的研究者对神经回放进行更深入的研究,但是对于神经回放本身依旧还有大量的问题需要得到实证的验证和更彻底的理论检验。

五、小结

在本文中,我们简单介绍了生物神经回放的研究历程及其特点。神经回放是大脑“离线期间”对先前经历的神经元放电序列的顺序重新激活,这种重新激活可以在多个时间尺度上发生,且具有正向、反向两种不同的回放方向,并且大脑不止可以在经历后的相同环境中产生本地神经回放,还可以在距离实际经历更遥远的其他环境中发生远程神经回放,多种形式的神经回放支持了生物体记忆巩固、学习、决策、推理和规划等多样的认知过程,且这种特定的大脑自发活动会在以海马为核心的全脑尺度上产生和传播。

对类似神经回放的大脑无意识状态下自发活动的研究可以帮助科学家不断接近大脑的本质,至今为止,大脑依旧拥有着任何超级计算机都无法匹敌的能力:脑神经网络大约包含1000亿个神经元和100万亿个神经突触,如此庞大的网络在信息加工上却仅耗能约20W。并且神经元以几毫秒的速度就可以实现生物互联,对组件级的故障又具有优异的容错性。

在信息技术高度发展的当代,如何从此类现象中汲取灵感、制造出更优的 human-level 的人工智能是各个领域科学家都需要关注的问题。

除此之外,尽管随着技术的更新,科学对人脑神经回放研究的限制正在不断被解除,但是生物神经回放依旧遗留着太多需要去探索的问题:神经回放在多大程度上是自发的,其是否需要认知资源的参与,又有什么因素会对其产生影响?在自然的生活下,面对海量的信息输入,大脑会选择什么内容进行回放?神经回放的强度和速度是否会又如何受到调节?

很多神经科学研究者对这些问题依旧束手无策,但随着计算机技术的发展,深度学习网络等领域的发展,神经学家们也有了更多探索的路径和方法,这些工具也正变得越来越适合解决具有挑战性的神经科学问题(Richards et al., 2019)。

神经科学和计算机科学正在成为两门不断交叉和融合的学科,彼此都可以从对方的研究中获得灵感和启发,在下期推文中,我们将介绍计算机学家如何受到人脑神经回放的启发,创造出更低功耗、可持续学习的人工神经回放。

参考文献

Ambrose, R. E., Pfeiffer, B. E., & Foster, D. J. (2016). Reverse Replay of Hippocampal Place Cells Is Uniquely Modulated by Changing Reward. Neuron, 91(5), 1124–1136. https://doi.org/10.1016/j.neuron.2016.07.047

Buch, E. R., Claudino, L., Quentin, R., Bönstrup, M., & Cohen, L. G. (2021). Consolidation of human skill linked to waking hippocampo-neocortical replay. Cell Reports, 35(10), 109193. https://doi.org/10.1016/j.celrep.2021.109193

Buzsáki, G. (2015). Hippocampal sharp wave-ripple: A cognitive biomarker for episodic memory and planning. Hippocampus, 25(10), 1073–1188. https://doi.org/10.1002/hipo.22488

Denovellis, E. L., Gillespie, A. K., Coulter, M. E., Sosa, M., Chung, J. E., Eden, U. T., & Frank, L. M. (2021). Hippocampal replay of experience at real-world speeds. ELife, 10, e64505. https://doi.org/10.7554/eLife.64505

Diba, K., & Buzsáki, G. (2007). Forward and reverse hippocampal place-cell sequences during ripples. Nature Neuroscience, 10(10), 1241–1242. https://doi.org/10.1038/nn1961

Diekelmann, S., Büchel, C., Born, J., & Rasch, B. (2011). Labile or stable: Opposing consequences for memory when reactivated during waking and sleep. Nature Neuroscience, 14(3), 381–386. https://doi.org/10.1038/nn.2744

Dupret, D., O’Neill, J., Pleydell-Bouverie, B., & Csicsvari, J. (2010). The reorganization and reactivation of hippocampal maps predict spatial memory performance. Nature Neuroscience, 13(8), 995–1002. https://doi.org/10.1038/nn.2599

Ego-Stengel, V., & Wilson, M. A. (2010). Disruption of ripple-associated hippocampal activity during rest impairs spatial learning in the rat. Hippocampus, 20(1), 1–10. https://doi.org/10.1002/hipo.20707

Eichenlaub, J.-B., Jarosiewicz, B., Saab, J., Franco, B., Kelemen, J., Halgren, E., Hochberg, L. R., & Cash, S. S. (2020). Replay of Learned Neural Firing Sequences during Rest in Human Motor Cortex. Cell Reports, 31(5). https://doi.org/10.1016/j.celrep.2020.107581

Ekman, M., Kok, P., & de Lange, F. P. (2017). Time-compressed preplay of anticipated events in human primary visual cortex. Nature Communications, 8(1), 15276. https://doi.org/10.1038/ncomms15276

Euston, D. R., Tatsuno, M., & McNaughton, B. L. (2007). Fast-Forward Playback of Recent Memory Sequences in Prefrontal Cortex During Sleep. Science, 318(5853), 1147–1150. https://doi.org/10.1126/science.1148979

Foster, D. J. (2017). Replay Comes of Age. Annual Review of Neuroscience, 40(1), 581–602. https://doi.org/10.1146/annurev-neuro-072116-031538

Girardeau, G., Benchenane, K., Wiener, S. I., Buzsáki, G., & Zugaro, M. B. (2009). Selective suppression of hippocampal ripples impairs spatial memory. Nature Neuroscience, 12(10), 1222–1223. https://doi.org/10.1038/nn.2384

Gupta, A. S., van der Meer, M. A. A., Touretzky, D. S., & Redish, A. D. (2010). Hippocampal Replay Is Not a Simple Function of Experience. Neuron, 65(5), 695–705. https://doi.org/10.1016/j.neuron.2010.01.034

Higgins, C., Liu, Y., Vidaurre, D., Kurth-Nelson, Z., Dolan, R., Behrens, T., & Woolrich, M. (2021). Replay bursts in humans coincide with activation of the default mode and parietal alpha networks. Neuron, 109(5), 882-893.e7. https://doi.org/10.1016/j.neuron.2020.12.007

Ji, D., & Wilson, M. A. (2007). Coordinated memory replay in the visual cortex and hippocampus during sleep. Nature Neuroscience, 10(1), 100–107. https://doi.org/10.1038/nn1825

Kaefer, K., Stella, F., McNaughton, B. L., & Battaglia, F. P. (2022). Replay, the default mode network and the cascaded memory systems model. Nature Reviews Neuroscience, 1–13. https://doi.org/10.1038/s41583-022-00620-6

Liu, Y., Dolan, R. J., Kurth-Nelson, Z., & Behrens, T. E. J. (2019). Human Replay Spontaneously Reorganizes Experience. Cell, 178(3), 640-652.e14. https://doi.org/10.1016/j.cell.2019.06.012

Liu, Y., Mattar, M. G., Behrens, T. E. J., Daw, N. D., & Dolan, R. J. (2021). Experience replay is associated with efficient nonlocal learning. Science, 372(6544), eabf1357. https://doi.org/10.1126/science.abf1357

Maquet, P [P.], Laureys, S [S.], Peigneux, P [P.], Fuchs, S [S.], Petiau, C., Phillips, C [C.], Aerts, J [J.], Del Fiore, G [G.], Degueldre, C [C.], Meulemans, T., Luxen, A [A.], Franck, G., van der Linden, M., Smith, C., & Cleeremans, A. (2000). Experience-dependent changes in cerebral activation during human REM sleep. Nature Neuroscience, 3(8), 831–836. https://doi.org/10.1038/77744

Momennejad, I., Otto, A. R., Daw, N. D., & Norman, K. A. (2018). Offline replay supports planning in human reinforcement learning. ELife, 7, e32548. https://doi.org/10.7554/eLife.32548

Mou, X., Pokhrel, A., Suresh, P., & Ji, D. (2022). Observational learning promotes hippocampal remote awake replay toward future reward locations. Neuron, 110(5), 891-902.e7. https://doi.org/10.1016/j.neuron.2021.12.005

Nitzan, N., Swanson, R., Schmitz, D., & Buzsáki, G. (2022). Brain-wide interactions during hippocampal sharp wave ripples. Proceedings of the National Academy of Sciences, 119(20), e2200931119. https://doi.org/10.1073/pnas.2200931119

Peigneux, P [Philippe], Laureys, S [Steven], Fuchs, S [Sonia], Collette, F., Perrin, F., Reggers, J., Phillips, C [Christophe], Degueldre, C [Christian], Del Fiore, G [Guy], Aerts, J [Joël], Luxen, A [André], & Maquet, P [Pierre] (2004). Are spatial memories strengthened in the human hippocampus during slow wave sleep? Neuron, 44(3), 535–545. https://doi.org/10.1016/j.neuron.2004.10.007

Richards, B. A., Lillicrap, T. P., Beaudoin, P., Bengio, Y., Bogacz, R., Christensen, A., Clopath, C., Costa, R. P., de Berker, A., Ganguli, S., Gillon, C. J., Hafner, D., Kepecs, A., Kriegeskorte, N., Latham, P., Lindsay, G. W., Miller, K. D., Naud, R., Pack, C. C., … Kording, K. P. (2019). A deep learning framework for neuroscience. Nature Neuroscience, 22(11), 1761–1770. https://doi.org/10.1038/s41593-019-0520-2

Rubin, D. B., Hosman, T., Kelemen, J. N., Kapitonava, A., Willett, F. R., Coughlin, B. F., Halgren, E., Kimchi, E. Y., Williams, Z. M., Simeral, J. D., Hochberg, L. R., & Cash, S. S. (2022). Learned Motor Patterns Are Replayed in Human Motor Cortex during Sleep. Journal of Neuroscience, 42(25), 5007–5020. https://doi.org/10.1523/JNEUROSCI.2074-21.2022

Schwartenbeck, P., Baram, A., Liu, Y., Mark, S., Muller, T., Dolan, R., Botvinick, M., Kurth-Nelson, Z., & Behrens, T. (2021). Generative replay for compositional visual understanding in the prefrontal-hippocampal circuit (p. 2021.06.06.447249). bioRxiv. https://doi.org/10.1101/2021.06.06.447249

Schuck, N. W., & Niv, Y. (2019). Sequential replay of nonspatial task states in the human hippocampus. Science (New York, N.Y.), 364(6447). https://doi.org/10.1126/science.aaw5181

Wilson, M. A., & McNaughton, B. L. (1994). Reactivation of hippocampal ensemble memories during sleep. Science (New York, N.Y.), 265(5172), 676–679. https://doi.org/10.1126/science.8036517

Wimmer, G. E., Liu, Y., Vehar, N., Behrens, T. E. J., & Dolan, R. J. (2020). Episodic memory retrieval success is associated with rapid replay of episode content. Nature Neuroscience, 23(8), 1025–1033. https://doi.org/10.1038/s41593-020-0649-z

Y, L., Mg, M., Tej, B., Nd, D., & Rj, D. (2021). Experience replay is associated with efficient nonlocal learning. Science, 372. https://www.neuroscience.ox.ac.uk/publications/1179004

Yonelinas, A. P., Ranganath, C., Ekstrom, A. D., & Wiltgen, B. J. (2019). A contextual binding theory of episodic memory: Systems consolidation reconsidered. Nature Reviews Neuroscience, 20(6), 364–375. https://doi.org/10.1038/s41583-019-0150-4

Zuo, S., Wang, L., Shin, J. H., Cai, Y., Zhang, B., Lee, S. W., Appiah, K., Zhou, Y., & Kwok, S. C. (2020). Behavioral evidence for memory replay of video episodes in the macaque. ELife, 9. https://doi.org/10.7554/eLife.54519

https://debuglies.com/2020/05/07/first-direct-evidence-that-human-brains-replay-waking-experiences-while-asleep/

https://zhuanlan.zhihu.com/p/79345382

本文来自Mindverse Research(ID:gh_be9d7092abf7),作者:朱思嘉,审校:十三维

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com

正在改变与想要改变世界的人,都在 虎嗅APP

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页