推荐一款“秦皇岛麻将有挂吗果然有挂”[分享装挂详细步骤]-2025最新攻略
bfc002
2025-01-19 13:38:37

您好:这款游戏秦皇岛麻将可以开挂的,确实是有挂的,通过微信【1319459】很多玩家在这款游戏中打牌都会发现很多用户的牌特别好,总是好牌,而且好像能看到其他人的牌一样。所以很多小伙伴就怀疑这款游戏是不是有挂,实际上这款游戏确实是有挂的,


一、秦皇岛麻将开挂有哪些方式
1、脚本开挂:脚本开挂是指在游戏中使用一些脚本程序,以获得游戏中的辅助功能,如自动完成任务、自动增加经验值、自动增加金币等,从而达到游戏加速的目的。

2、硬件开挂:硬件开挂是指使用游戏外的设备,如键盘、鼠标、游戏手柄等,通过技术手段,使游戏中的操作更加便捷,从而达到快速完成任务的目的。

3、程序开挂:程序开挂是指使用一些程序代码,以改变游戏的运行结果,如修改游戏数据、自动完成任务等,从而达到游戏加速的目的。

二、开挂的技术支持
1、脚本开挂:使用脚本开挂,需要游戏玩家了解游戏的规则,熟悉游戏中的操作流程,并需要有一定的编程基础,以便能够编写出能够自动完成任务的脚本程序。

2、硬件开挂:使用硬件开挂,需要游戏玩家有一定的硬件知识,并能够熟练操作各种游戏外设,以便能够正确安装和使用游戏外设,从而达到快速完成任务的目的。

3、程序开挂:使用程序开挂,需要游戏玩家有一定的编程知识,并能够熟练操作各种编程语言,以便能够编写出能够改变游戏运行结果的程序代码,从而达到游戏加速的目的。

三、开挂的安全性
1、脚本开挂:虽然脚本开挂可以达到游戏加速的目的,但是由于游戏开发商会不断更新游戏,以防止脚本开挂,因此脚本开挂的安全性不高。

2、硬件开挂:使用硬件开挂,可以达到快速完成任务的目的,但是由于游戏开发商会不断更新游戏,以防止硬件开挂,因此硬件开挂的安全性也不高。

3、程序开挂:使用程序开挂,可以改变游戏的运行结果,但是由于游戏开发商会不断更新游戏,以防止程序开挂,因此程序开挂的安全性也不高。

四、秦皇岛麻将开挂的注意事项
1、添加客服微信【1319459】安装软件.

2、使用开挂游戏账号,因此一定要注意自己的游戏行为,避免被发现。

3、尽量不要使用第三方软件,通过微信【1319459】安装正版开挂软件 ,因为这些软件第三方可能代码,会给游戏带来安全隐患。

  

PREDICTIVE CODING WITH SPIKING NEURALNETWORKS: A SURVEY

在本文中,我们回顾了一类被归类为脉冲预测编码的神经拟态计算模型。具体而言,我们在神经元发射离散动作电位(即脉冲)的背景下,回顾了预测处理的一般框架。从理论上,我们围绕预测误差的表示方式构建了我们的综述,从而将历史上的神经拟态泛化方法分为三大类:显式误差神经元组中的预测误差、膜电位中的预测误差以及隐式预测误差编码。此外,我们探讨了利用更节能的边缘计算硬件平台的脉冲预测编码的一些应用。最后,我们强调了这一新兴的脑启发计算研究方向中的重要未来方向和挑战。基于计算认知神经科学、机器智能和神经拟态工程的先前研究成果,我们希望这篇关于预测编码的神经拟态公式和实现的综述能够鼓励并指导这一新兴研究领域的未来研究与发展。

关键词:预测编码 · 脉冲神经网络 · 高效编码 · 神经拟态计算 · 脑启发计算

近年来,作为大脑功能理论的预测编码和预测处理方法引起了广泛关注[48, 108, 53, 69, 51, 96]。这些理论思想催生了许多实验研究,旨在理解这些概念是否以及如何在大脑中实现。然而,“预测编码”和“预测处理”这两个术语在文献中的使用并不一致,不同研究者以不同方式使用它们。一些作者,特别是在心理科学领域,有时使用这些术语来泛指大脑进行预测的观点,例如神经活动代表未来奖励或个体行为的结果;而另一些作者则将这些术语用于精确定义的算法和计算框架。术语“预测编码”含义广泛的一个原因是其历史起源。一般来说,关于哺乳动物(包括人类)大脑能够生成预测并利用预测来产生适应性行为的观点,存在一定程度的共识。Rao和Ballard[88]提出了一个更具体的预测编码定义,其灵感来自高效编码思想[5, 7, 109]。高效编码理论认为,大脑通过利用感官信息中的冗余并以更高效的方式(例如使用更少的活动)重新编码感官输入来节省能量。由于自然世界的物理特性以及我们感知世界的方式,时变感官输入通常包含可预测的结构,从而导致跨时间的冗余,这些冗余可以被利用以实现更高效的编码。Rao和Ballard的想法是实现一个视觉世界的分层生成模型,其中使用预测误差进行贝叶斯推断[87, 88, 84];因此,可预测的信息被移除,只有预测误差被传递到更高层次的处理中,从而获得高效的编码。Friston的后续工作[33, 35]将Rao和Ballard的框架从最大后验(MAP)推断扩展到通过分层贝叶斯推断的特定变分近似进行全面的概率推断。这两条研究路线是“预测编码”或“预测处理”领域后续工作的起源,但自那时以来已经提出了许多变体和扩展(参见[108, 51, 96]的综述)。在本综述中,我们将“预测编码”定义为通过学习或利用感官预测误差来驱动神经信息传递结构的性质和形式的核心特征。

从上述预测编码的早期提出到当前,大多数工作都集中在由允许连续或分级激活水平的基本处理单元组成的连接主义神经网络中实现这些思想。这种单元的激活水平有时被认为代表单个神经元或具有相似调谐特性的一小群神经元的时间平均放电率。然而,真实的大脑使用脉冲神经元工作,其在几毫秒的短时间尺度内的活动本质上是二元的——要么发射脉冲,要么不发射。脉冲神经网络中的信息处理和学习是计算神经科学和神经拟态工程研究的核心主题。研究脉冲神经网络的一个关键动机是,与连接主义网络相比,它们具有更高的生物物理真实性,并且可能有助于理解大脑的显著能量效率,尽管预测编码是否真的会导致能量消耗的减少仍然是一个有争议的问题(参见[58]的讨论)。

鉴于至少部分预测编码文献植根于能量高效信息编码理论,并且脉冲信息编码被认为有助于大脑的高能量效率,研究预测编码思想的脉冲神经网络公式和实现是相当自然的。然而,令人惊讶的是,这一领域仍然研究不足,文献分散在不同的、看似独立发展的分支中。在这里,我们旨在调查现有的方法并将其组织成不同的类别,讨论它们各自的优点和缺点,并指出我们当前理解中的空白。我们希望这将促进这一重要且令人兴奋的领域的未来研究。

由于预测编码方法(根据我们的定义)的共同点是组织推断和学习的预测误差概念,我们围绕预测误差在不同方案中的表示和使用方式来构建我们的综述(在框1中,我们回顾并正式讨论了速率编码的预测编码)。具体而言,我们区分了三大类方法。第一类使用显式预测误差神经元,其放电活动编码预测误差。第二类方法中,预测误差不是由神经元的脉冲活动编码,而是由它们的膜电位编码。第三类中,我们归类了预测误差在脉冲神经网络中隐式编码的替代方法。我们注意到,第四类网络是那些预测未来但不有效编码预测误差的网络。这种脉冲网络[10, 43, 81, 95]选择预测特征而不是令人惊讶的特征。根据噪声水平,这可能导致神经元学习与其输入相关或去相关(参见[20]的综述)。由于这些网络不执行预测编码,而是参与一种“为未来编码”的形式,因此本文将不讨论它们。

本文的其余部分按以下方式组织。我们首先在第2节中回顾了一些使用脉冲神经网络的预测编码的前身和早期模型。随后,在第3节中,我们介绍并研究了第一类预测编码方法,这些方法采用显式误差神经元。第4节涵盖了第二类方法,即利用神经元的膜电位来表示预测误差的方法。在第5节中,我们讨论了第三类方法,其中预测误差仅以隐式方式编码。图1总结了这三类方法如何编码预测误差。第6节简要介绍了一些脉冲预测编码方法的应用。最后,在第7节中,我们综合并总结了本次综述,强调了在脑启发机器智能、计算认知神经科学和神经拟态工程背景下,这一新兴科学研究与工程领域的重要未来方向和挑战。

历史上,曾有过多次尝试将经典的预测编码方法迁移到脉冲领域。这些尝试始于Rao、Ballard及其合作者的最早工作,并延续到Denève将脉冲神经元上的贝叶斯推断公式化为一种预测编码形式。这些历史方法背后的一个共同因素是试图明确定义脉冲如何编码信息,例如作为概率。

预测编码的根源在于最大化预测未来输入到网络中的概率。与这一标准方法类似,早期的脉冲预测编码模型基于这样一种思想:神经元通过发放脉冲来改进对其未来输入的预测。除了这些早期的脉冲预测编码模型外,还有一些关于构建学习高效感官编码的脉冲神经网络的先前工作。其中一些努力旨在压缩信息,使得神经元仅对刺激的非冗余(因此不可预测,如标准预测编码中所述)部分作出反应。这些高效的脉冲模型启发了最近的脉冲预测编码模型——特别是我们分类中的第三类模型——这些模型偏离了经典预测编码的立场,即使用显式的、独立的预测神经元和误差神经元。

在本研究中,我们将上述研究工作分为以下三个历史组别:1)关于学习高效感官编码的早期工作,2)Ballard、Rao及其合作者的早期工作,以及3)Denève的早期工作。我们首先回顾这些努力所涵盖的不同模型,然后讨论它们与近期工作的关系。在图2中,这些早期工作中的关键努力按时间顺序呈现(特别是在时间轴的前半部分),为后来的工作(在时间轴的后半部分呈现)提供了背景。

早期关于在脉冲神经网络中学习高效感官编码的工作 如前所述,预测编码方法至少部分植根于更广泛的高效编码思想。在本研究中,我们将“高效编码”这一短语理解为高效编码假设,即在(内部)约束条件下(例如仅使用少量脉冲),感觉神经元被视为编码关于感官输入的最大信息。因此,在脉冲神经网络中进行无监督学习以获取高效感官编码的工作可以被视为使用脉冲神经元单元进行全面预测编码方法的前身。事实上,已有大量相关工作实现了各种无监督学习方法的近似,例如主成分分析(PCA)[46]、稀疏编码(SC)和字典学习[75, 60],以及独立成分分析(ICA)[9, 49]。所有这些方法都以某种方式试图在最小化所需资源的同时传递关于刺激的最大信息量。从这个意义上说,它们可以被认为是高效的。

Toyoizumi等人推导了一种随机脉冲神经元的学习规则,该规则在将其发放率维持在所需范围内的同时,最大化其输入和输出脉冲序列之间的互信息[113]。由Maass领导的团队扩展了这一方法,使得神经元在最大化其输入和输出脉冲序列之间的互信息的同时,最小化其输出与其他脉冲序列或其他时变信号的互信息,最终将该方法与信息瓶颈方法[112]和ICA[55, 54]联系起来。他们还正式推导了模型的简化线性化版本,建立了与PCA的联系[17](通过基于PCA目标推导更新规则,并证明该规则与非脉冲神经元的PCA导向协方差规则等价[102])。其他几项工作也在脉冲神经网络中实现了SC和ICA的形式。Perrinet及其同事[82, 83]使用基于脉冲延迟的编码方案(即排序编码方案),结合贪婪形式的匹配追踪[63],以学习视觉感受野;类似的方法也被用于听觉信号[107]。匹配追踪稀疏地激活仅编码尚未被编码信息的单元。从这个意义上说,它导致了一种高效且非冗余的编码。在另一项补充工作中,Zylberberg等人提出了一种根据局部学习规则演化的脉冲神经模型,当在自然图像上训练时,再现了哺乳动物视觉皮层中所谓简单细胞的许多特征[124]。Hu等人提出了一种混合分布式算法(HDA),该算法学习了一种高效感官编码,其操作等效于一个由积分发放神经元组成的网络[47]。最后,Savin等人展示了通过结合局部和生物学上合理的规则(包括脉冲时间依赖性可塑性(STDP)、突触归一化和内在兴奋性的可塑性)以及自适应形式的侧向抑制,使用脉冲神经元网络近似ICA的方法[98]。Clopath等人基于仅局部可塑性规则设计了类似的学习系统,并引入了一种电压依赖性STDP规则[21]。随后,Gilson等人正式将STDP与PCA和ICA联系起来[38]。这些及其他相关努力为尝试实现全面预测编码方案的脉冲神经网络研究奠定了基础。

Ballard、Rao及其合作者的早期工作 虽然预测编码框架是由Rao和Ballard在1999年的开创性论文[88]中作为一种速率编码方法正式提出的,但研究提供了越来越多的证据表明神经编码中存在精确的脉冲时间[62, 22]。这些证据激发了早期关于脉冲预测编码模型的研究。Ballard等人在[6]中提出了最早的模型之一,其中输入被编码为随时间重复的同步代码。在该模型中,脉冲神经元由二进制单元表示,其值和突触权重通过基于最小描述长度原则的误差最小化来学习。这项工作涉及学习一个网络,该网络可以从二进制编码图像中消除顺序脉冲。在这一努力之后,Zhang和Ballard提出了另一种脉冲预测编码模型[122],其动机相同。他们提出了一种脉冲的功能解释,即神经元的脉冲明确地将信息编码为概率。他们通过在模拟外侧膝状体(LGN)和初级视觉皮层(V1)的循环网络中执行梯度下降来学习突触权重。他们的模型可以解释许多生物学观察结果,例如简单细胞样感受野和表现出伽马频段振荡的神经元活动。与此同时,Rao和Sejnowski在一系列论文中建立了脉冲时间依赖性可塑性(STDP)与以预测为中心的学习之间的联系。他们采用时间差分(TD)学习规则与分区神经元模型相结合,证明这可以通过复制前/后脉冲对来等效于STDP[90, 91]。作者强调了STDP规则在学习预测中的特性,并指出STDP诱导的抑制和兴奋可能类似于标准预测编码中观察到的正反馈和负反馈。后来的研究考虑了由移动视觉模式驱动的脉冲神经元池[92]。他们的结果表明,神经元更早地发放脉冲,并且前馈输入往往被抑制,正如标准预测编码所规定的那样。有趣的是,STDP学习的连接具有方向选择性,并且与猴子视觉皮层的发现一致。

虽然最近的模型使用Hebbian学习(例如STDP)作为其主要学习规则,而不是Ballard最初方法中的梯度下降,但这些早期模型中提出的信息论观点,包括基于STDP诱导的预测学习的模型,仍然被积极使用(参见第1类和第3类模型)。

Denève的早期工作 关键的是,Denève在一系列论文[28, 25, 26]中提出了将贝叶斯推断扩展到脉冲神经元中的预测编码。贝叶斯推断包括基于对特定隐藏原因存在的信心或根据先前对世界的信念(即先验)认为响应或事件将发生的统计推断。Denève的模型认为,神经元只有在脉冲传递关于隐藏原因存在的新信息时才应该发放脉冲。这是高效的,因为它应该仅编码无法由先前脉冲解释的信息。

Denève将贝叶斯模型表述如下:神经元跟踪给定所有过去突触输入的隐藏原因的对数几率比,以及基于其自身输出脉冲序列的同一隐藏原因的对数几率比。当基于输入的对数几率比高于基于输出的对数几率比加上阈值时,神经元发放脉冲。“膜电位”被解释为两个对数几率比之间的差异。预测编码组件有效地体现在这个“膜电位”中:基于输入的隐藏原因估计与基于神经元自身输出的估计的比较。基于输出的隐藏原因估计可以解释为移动阈值或增加的绝对不应期。因此,只有当神经元遇到尚未在其输出中传递的输入时,才会发放脉冲。贝叶斯神经元的输入权重可以在无监督的情况下学习,例如使用期望最大化(EM)算法,因为它们的更新仅依赖于输入脉冲序列的统计。因此,这种贝叶斯推断方法最大化了解释来自神经元脉冲序列的隐藏原因的概率,并且是高效的,因为神经元仅对其尚未传递的刺激作出反应。值得注意的是,贝叶斯神经元背后的原理已在实验设置中实现[119, 23, 118],其中表明上述形式的适应确实发生在皮层神经元中,并提高了信息处理的效率。

正如前一段所述,Denève通过展示这些神经元的膜电位可以解释为基于输入(突触证据积累)的刺激存在的对数几率比与基于神经元自身对刺激存在的预测的对数几率比之间的差异,将贝叶斯神经元模型的脉冲动力学与泄漏积分发放神经元联系起来。这引入了膜电压作为预测误差的形式化,用于一些最近的脉冲预测编码工作(参见第2类)。

结论 各种各样的工作都尝试将预测编码迁移到脉冲网络中。重要的是不要将使用脉冲实现的一般贝叶斯推断模型(例如[85])误认为是预测编码模型,因为大多数这些一般贝叶斯模型明确地从脉冲网络中解码信息,而没有对效率的任何约束,这与预测编码模型相反。虽然上述研究工作与经典预测编码几乎同时提出(见图2中的时间线),但它们当时只激励了少数研究人员探索脉冲网络。由于现在对脉冲神经网络和预测编码的兴趣更大,重新审视本节中描述的早期工作并观察它们与当前脉冲预测编码模型的关系非常重要。例如,Denève的工作催生了第2类,即所谓的脉冲编码网络,我们将在第4节中回顾。同样,与高效感官编码相关的不同工作以及Ballard及其合作者的开创性工作是第1类和第3类模型的前身,我们将在第3节和第5节中回顾。总体而言,这些早期工作揭示了将预测编码应用于脉冲网络的困难,并引入了许多支撑更近期脉冲预测编码形式的思想。

3 使用显式误差神经元的脉冲预测编码(第1类)

我们将考虑的第一类脉冲预测编码模型是那些通过指定的误差神经元编码预测误差的模型。在这一类别中,误差神经元被明确定义,并负责计算外部输入的感觉表示与对该感觉表示的预测(由自上而下的通路或反馈产生)之间的不匹配。标准的预测编码似乎难以与脉冲网络兼容,因为它需要能够编码正负预测误差的误差神经元。脉冲误差神经元的活动(其发放率只能为正)如何编码正数和负数?一个初步的解决方案可能是将有符号误差表示为发放率相对于基线发放率值(表示零或无预测误差)的正偏差或负偏差。然而,为了解决这个问题,第一类中的一些模型定义了两类误差神经元来表示正预测误差与负预测误差(受视网膜中的中心-周围和周围-中心类型细胞的启发),而另一些模型则使用基于速率的误差单元与脉冲预测单元结合。某些研究报告了皮层中存在此类单元,但这仍然是该领域高度争议的话题[53]。我们在下面回顾了尝试在脉冲系统中应用这种特定误差神经元建模方式的预测编码模型。

使用脉冲预测编码的失匹配负波(MMN) Wacongne等人提出了第一个脉冲预测误差神经元的实现[116]。具体而言,这种机制模拟了在Izhikevich神经元网络中表现出的所谓失匹配负波(MMN)。作者考虑了一个由预测误差层、预测层和记忆痕迹层组成的三层网络。此外,使用类似丘脑的输入来激发网络。在这种架构中,预测误差神经元从两类丘脑神经元接收前馈AMPA兴奋,并从预测神经元接收循环反馈GABA抑制。预测误差神经元随后将误差发送回预测神经元,预测神经元随后更新记忆神经元。记忆神经元积累信息并通过循环兴奋通路将其发送回预测神经元。除了这些AMPA/GABA电流外,作者还考虑了在接收兴奋时添加的NMDA受体依赖性电流。虽然模型的大部分连接权重是随机的,但记忆神经元和预测神经元之间的突触连接通过STDP进行调整。重要的是,这项工作成功地复制了MMN的生物学观察结果。此外,虽然MMN也可以通过突触习惯化来解释,但这项工作反对这种解释,而是支持完全预测编码的观点。进行了一项MEG实验,以表明预测模型解释了MMN的生物学观察结果,而这些结果无法仅通过突触习惯化解释。Wacongne后来还表明,他们的模型可以解释在精神分裂症患者中观察到的MMN变化[115]。

生物可解释的V1模型中的预测编码误差神经元 在Billeh等人在[11]中提出由泄漏积分发放神经元组成的生物可解释V1模型后,Fraile等人研究了该网络,以查看其是否可以复制预测误差神经元的观察结果,并评估它们出现的条件[32]。在V1中,在感觉运动体验期间,在超颗粒层(L2/3)中报告了此类神经元[52]。L2/3中的神经元接收自上而下的投射,这使它们成为预测误差神经元的主要候选者[88, 51]。此外,即使在缺乏自上而下的运动输入的情况下,L2/3神经元也被报告为去极化/超极化[52, 71]。

Fraile等人用不同的漂移光栅刺激网络,并观察到L2/3中存在两类神经元:去极化(正误差神经元)和超极化(负误差神经元)。他们验证了兴奋性/抑制性连接和神经元的突触强度,确定了两类神经元之间的差异,这使得它们即使在仅自下而上的兴奋下也能充当误差神经元。例如,正误差/去极化神经元与内部颗粒层(L4)和LGN有强连接,而负误差/超极化神经元的连接较弱。作者还检查了内部锥体细胞层(L5/6)神经元的连接和响应动态。他们的结果表明,这些神经元不具备出现误差神经元所需的特性。虽然所使用的模型在生物学上是可解释的,但它仅考虑了点神经元,而没有考虑具有树突的分区神经元模型,这些模型也被假设在预测误差神经元的出现中起重要作用。

SpNCN:脉冲神经编码网络 Ororbia提出的计算框架[76]试图忠实地体现经典预测编码(PC)电路的核心机制,同时将其置于脉冲序列的背景下。具体而言,脉冲神经编码网络(SpNCN)是神经生成编码(NGC)[78]在脉冲神经元模型(SNMs)中的一种推广,这些模型是工程化的数学函数,能够引发计算神经科学文献中已知的脉冲细胞的特定特性,例如泄漏积分发放、脉冲响应核等。在SpNCN模型的每一层SNM中,局部预测以电脉冲的形式发出,直接传递给误差神经元或另一组预测性SNM。SpNCN框架中的误差神经元显著地操作于生物化学神经调节/谷氨酸浓度,数学上表现为简单的(变量)痕迹。具体而言,在SpNCN中,痕迹被专门设计用于跟踪突触后脉冲活动,这意味着SpNCN的一层神经元试图预测另一层神经元的脉冲时间。理想情况下,在痕迹级别产生的误差信号也可以用于局部、事件驱动的突触调整规则,这些规则在每个模拟时间步骤触发。在框2中,我们正式描述了SpNCN的核心神经元动力学和局部可塑性,这些特性在数学上刻画了SpNCN。Ororbia[76]证明,这种SpNCN在分类性能上与深度网络具有竞争力,并且可以进一步修改以在处理复杂感官输入流时进行一种在线持续适应。

SNN-PC:用于预测编码的脉冲神经网络 Lee等人提出的用于预测编码的脉冲神经网络(SNN-PC)模型[61]在生物真实性方面取得了进展。通过使用由自适应指数积分发放(AdEx)神经元构建的神经元架构、NMDA介导的突触传递组件和误差单元,作者构建了一个完全脉冲的预测编码系统。

作者在提高生物真实性方面的主要贡献之一是对传统误差单元的重新表述。具体而言,他们将每个误差单元分为两个子组件:一个编码正误差值,另一个编码负误差值。这两个组件基于相同的信号工作,即自下而上的兴奋性输入和自上而下的抑制性输入,但这些输入的组合方式被反转。

Lee等人的另一个贡献是他们在模型中使用了前馈概要通路(gist pathway)。据信,视觉皮层处理发生在两个过程中:对世界/生态位的快速近似和较慢、更详细的过程。后者由预测编码模型和前面描述的误差节点处理。前者,即更高层次的表示,由概要通路构建。在作者的工作中,输入图像通过稀疏随机连接(概要单元)进行转换,然后传递给每个表示单元,以帮助将表示偏向特定图像。

PC-SNN:脉冲神经网络中的预测编码 Lan等人在最近的工作中提出了一种适用于人工神经网络(ANN)的预测编码算法的改编版本,称为“PC-SNN”[59]。PC-SNN使用基于Hebbian的规则来控制其突触可塑性,该规则仅受局部节点影响。具体而言,突触后层的误差节点和前一层积分发放(IF)神经元用于调整突触可塑性。在PC-SNN模型中,误差节点是突触后神经元的首次脉冲时间与该神经元的实际脉冲时间之间的简单减法。

Lan等人专注于Friston提出的自由能量生物概念[33],以推导他们的学习规则。他们将问题的自由能量定义为所有误差节点和所有时间上的误差总和。他们逻辑上认为系统过于复杂,无法直接达到稳态,但可以通过缓慢调整突触效能来使模型逐步接近稳态;值得注意的是,这一目标与早期的SpNCN[76]类似,后者也迭代优化时间能量函数。值得注意的是,作者为他们的模型添加了两个额外的约束。第一个约束是每个IF神经元在任何给定图像输入下最多只能发射一个脉冲;这意味着,为了进行分类,他们使用了“先到先得”(winner-take-all;即一次只有一个神经元可以发射脉冲)的编码方案。另一个约束应用于突触更新——突触更新被屏蔽,以便在预测神经元在预测时间之前发射脉冲时不产生权重变化。

结论 “第1类”预测编码网络代表了将预测误差(或自由能量)最小化动态转化为离散脉冲发射神经元系统的首次尝试。最终,这些模型基于一个假设,即不匹配/误差信号来自显式误差神经元(其活动随时间的总和近似于自由能量函数),并因此围绕这一构建块构建其信息传递架构。这些模型的主要区别在于它们建模这些误差神经元的策略(例如,一些模型通过变量痕迹模拟这些变化是由不同浓度的神经递质产生的,而另一些模型则设计单元以不同方式编码各种误差信号的符号)以及它们为突触可塑性实例化的生物物理机制,以及在整个神经元结构中反馈和期望信号的传递。

4 膜电位作为预测误差(第2类)

在我们将要回顾的第二类脉冲预测编码模型中,预测误差不是由显式指定的误差神经元编码的,而是分布在神经元自身的膜电位中。换句话说,神经元的膜电位表示网络接收到的输入与其解码活动之间的预测误差,后者形成对输入(或其函数)的估计。从这个意义上说,这些特定类型的预测编码网络将神经编码的编码和解码视角统一起来——它们表明,高效编码不能独立于解码算法本身来制定,而高效编码的本质取决于所使用的解码器和所考虑的任务。在这里,我们将首先展示脉冲编码网络(SCNs)的原始公式。接下来,我们将讨论它们的扩展和推导,以及其他在神经元膜电位内计算预测误差的形式化方法。

脉冲编码网络(SCNs) SCN的推导采用了与传统解码问题不同的视角。它没有问“这种神经活动的最佳解码器是什么?”,而是从问题“给定输入信号s(t) 、解码器X、误差函数和限制神经活动的成本函数C ,我的网络结构应该是什么样子,以便网络在E 和 C 下最优地生成可以被解码为估计的活动?”开始。在其原始公式中,Boerlin、Machens和Denève[12, 13]使用这种方法,结合具有指数衰减的线性解码器和L2损失函数,推导出一个网络,其中具有相似解码权重的神经元的循环突触连接是抑制性的,而具有相反符号解码权重值的神经元的循环连接则相互兴奋。每个神经元通过来自其他神经元的循环输入对网络的当前估计进行局部估计,并比较如果它发射或不发射脉冲时的未来估计。只有当脉冲有助于改进估计时,神经元才会发射脉冲。因此,与贝叶斯神经元(第2节)类似,每个神经元不断将输入与其自身输出进行比较,并仅在有助于输入估计时生成脉冲。因此,在这种情况下,与贝叶斯神经元一样,被持续跟踪并与阈值比较的参数,即“膜电位”,本身就是预测误差。有关显式推导,请参见框3。这一过程也可以解释为网络在“边界框”内跟踪输入,其精度由阈值和神经元数量决定[18]。需要注意的是,网络可以执行的计算不仅限于自编码器(即,还包括多项式动力系统[72]以及最优控制[106]。

令人惊讶的是,上述推导的网络表现出了一些难以用传统解码器解释的特性。其中之一是网络表现出高度试验间变异性的不规则活动。重要的是,这种不规则活动不应与噪声混淆。相反,它是退化编码的结果:由于跟踪刺激的问题有多个“解决方案”,网络将在不同初始条件下使用不同的解决方案。这种过度表示使网络对噪声、扰动和细胞损失具有极强的鲁棒性[8]。网络的纠错特性也反映了神经生物学中兴奋和抑制的一种平衡形式[27, 101]。最后,尽管可以使用上述方法数学推导出网络的理想连接性,但网络连接性也可以通过局部无监督学习规则有效地学习[15, 1, 16]。

在其原始公式中,SCNs代表了一类可以解释生物神经元网络观察到的生物物理特性的网络,例如兴奋和抑制的平衡、高度试验间变异性、不规则发放以及对噪声和细胞损失的鲁棒性,这些特性都在功能背景下得到解释。这一功能背景是预测编码,其中每个神经元在膜电位中跟踪输入(或其函数)与网络估计之间的误差。这些编码非常高效(在稀疏性方面),因为只有在有助于网络估计时才会发射脉冲。

向生物真实性扩展的脉冲编码网络 SCNs的原始公式展示了编码和解码的基本纠缠,但从生物物理角度来看,这仍然相当抽象。例如,网络由同质的泄漏积分发放(LIF)神经元组成,而不是生物物理记录中发现的更复杂和异质的神经元群体。此外,连接是密集的,并且不遵循Dale定律,即每个神经元既可以是兴奋性的,也可以是抑制性的。几位作者扩展了SCN框架,以研究该框架在更生物真实性设置中的可行性。

包含更生物真实性神经元模型的扩展 为了包含更生物真实的神经元模型,SCN框架已经进行了多项扩展。Zeldenrust等人[120]使用了具有不同核的“滤波-发放”模型(类似于第2节中听觉信号中的匹配追踪公式[107]),而不是LIF模型,并发现增加神经元群体的异质性可以提高网络的效率和抗噪声鲁棒性。Schwemmer等人[101]开发了一种基于电导模型的实现,只要突触的动力学比信号更快,这种模型就能正常工作。Gutierrez和Denève[40]表明,生物神经元普遍存在的脉冲频率适应性[41]可以被理解为成本-精度权衡的解决方案。

连接性的改进 原始的SCN模型连接密集,并且需要瞬时连接以防止“乒乓效应”,即编码输入中相反特征的神经元群体在交替的时间段内发放脉冲,导致估计不准确和极高的发放率。Koren和Denève表明,只要在目标函数中包含脉冲成本,SCN中就可以包含突触延迟[56],从而限制发放率,类似于上述的脉冲频率适应性。或者,Chalk等人[19]实现了一种符合Dale定律的具有突触延迟的SCN。在这些网络中,伽马振荡作为高效编码的标志出现。类似地,Koren和Panzeri[57]为具有短突触衰减时间常数的兴奋性和抑制性群体定义了单独的目标函数,推导出一个可以执行一般线性变换的网络,该网络符合Dale定律并使用广义LIF模型。Buxó和Pillow[93]提出了快速循环连接问题的另一种解决方案;他们实现了条件泊松发放,即软阈值而不是硬阈值,这允许突触延迟而不会发生“乒乓效应”。最后,Timcheck等人[111]推广了瞬时连接问题,并推导了编码保真度如何依赖于SCN中的噪声水平和延迟的解析表达式;这项工作表明,给定神经元之间的突触延迟,存在一个最佳噪声水平。

结论 通过包含更真实的神经元模型和连接结构,SCN的抽象和简化原始公式可以变得更加生物真实。然而,大脑是否实际采用了类似SCN的形式/结构,以及如何通过实验评估这一点,仍然是进一步研究和调查的对象。

树突计算预测误差 除了上述讨论的SCNs外,几位作者提出树突在神经元水平上计算预测误差中至关重要。Thalmeier等人[110]将SCNs推广到线性解码的通用计算(包括非线性动力系统)。由于线性解码,非线性变换必须在网络中计算,在这种情况下,这是通过在神经元水平上设计的饱和或非线性树突完成的。Mikulasch等人[67, 68]没有使用单层网络来预测输入(或其函数),而是推导了一个经典的分层预测编码网络,其中每一层将其输入的反馈预测信号发送到前一层,并将前馈误差信号发送到下一层[88]。在这个框架中,预测在胞体中计算,而误差在神经元的顶端树突(前馈误差)和基底树突(反馈误差)中计算,作为输入(误差)与胞体预测之间的差异。最近,Zhang和Bohte[121]采用了一种(双目标)优化方法:他们训练了一个具有多室神经元的多层网络,以最小化能量消耗,同时使用梯度优化与任务相关(重建)目标。在这些网络中,前馈信号被发送到胞体,而反馈信号被发送到树突。训练后,这些网络表现出预测编码的两个标志:它们对预期刺激进行内部预测,并对预期和意外刺激引发不同的反应。因此,在这些神经架构中,预测编码行为是能量优化的结果(而不是相反)。本质上,这三种预测编码的实现表明,树突非线性的加入可以极大地增加预测编码网络的计算能力,特别是在连续层中分层执行计算时。

结论 “第2类”预测编码网络的推导都遵循类似的路径:定义目标计算、误差函数、成本函数和解码器,并由此推导或学习神经元和网络的特性。在生成的网络结构中,神经元在其膜电位中跟踪预测误差,并且仅在减少误差时发放脉冲,这使得这些网络本质上非常高效。网络的连接性和特性取决于计算、误差、成本和解码器的选择,但网络在兴奋和抑制之间保持紧密平衡,表现出不规则发放、高度试验间变异性以及对噪声和神经元损失的鲁棒性。

5 隐式预测误差编码(第3类)

在迄今为止回顾的预测编码模型中,误差总是以某种方式显式编码。第1类使用特定的误差单元,而第2类推导了在神经元膜电位中编码误差的脉冲网络。虽然这些误差编码模型很有吸引力,但它们并不是文献中提出的唯一方法。由于预测编码与一般高效编码假设之间的联系,我们看到早期高效感官编码的脉冲模型(见第2节)对最近属于第三类模型的研究的影响,这些模型提出了使用不同误差编码实现脉冲预测编码。这些模型中的大多数表现出类似预测误差的响应,而没有显式定义误差编码。相反,它们隐式编码误差;例如,这是通过可塑性兴奋性和抑制性突触之间的竞争实现的。除了通过兴奋/抑制隐式编码外,还提出了其他方法,包括实现校正神经元或设计预测学习规则。第三类方法是最新的预测编码方法之一(见图2中的时间线)。

通过抑制实现高效编码 根据高效编码假设,高效编码将用尽可能少的脉冲表示刺激。在预测编码的背景下,这将通过某种预测神经元直接抑制冗余编码来实现。Sinapayen等人提出了“通过刺激避免学习”(LSA)[105, 104],这是一种基于STDP的脉冲神经网络学习框架,表现出类似预测编码的效果,如抑制。LSA基于这样一种思想,即神经元通过最小化接收更多兴奋的机会来学习响应外部刺激。这一学习框架源自Shahaf和Maron对大鼠皮层神经元的实验[103, 64]。在这些实验中,神经元被兴奋,直到大鼠执行目标行为。一旦达到目标行为,刺激就被移除。因此,神经元通过学习以移除刺激为目标来优化对刺激的响应。在动作训练期间,因此只有在整个网络(由Izhikevich神经元组成)实现预期行为时,刺激才会被移除。在神经元尺度上,STDP自然会导致刺激移除,因为导致期望动作的输入会增强其突触强度。这项工作表明,这种效果也可以出现在网络尺度上,群体可以本质上学习选择性行为。虽然LSA是作为一种没有显式预测方面的控制方法引入的,但Masumori等人表明,通过包含抑制性STDP,LSA可以用于执行预测编码[65]。他们将一组输入兴奋性神经元连接到抑制性神经元。在呈现信号/目标刺激对后,抑制性神经元学会预测(从而抑制)目标信号。作者还观察到,如果利用突触延迟,他们的网络可以在时间上相对较远地抑制信号。

最近,N’dri等人提出了“轻量级预测编码”(PCL)[73]。PCL质疑仅将预测误差传递到更高处理阶段的想法。相反,实际感知内容的压缩表示被传递到更高处理级别。压缩是通过横向和自上而下的抑制性连接的相互作用实现的,这些连接学会通过一种抑制性STDP形式抑制最可预测的脉冲。这一想法可以有效地提炼为:高度可预测的脉冲携带的信息很少,因此应该被抑制以节省宝贵的能量(在神经计算期间消耗)。从这个意义上说,PCL深深植根于高效编码思想[7]以及稀疏编码方法[74]。然而,PCL并不试图成为生物学的忠实模型。例如,在N’dri等人的实现中,没有区分兴奋性和抑制性神经元,而是只有一种神经元类型,被建模为LIF神经元。这些神经元通过其前馈连接兴奋更高处理阶段的神经元,并抑制相同或更低处理阶段的神经元,从而违反了Dale定律。尽管存在这种建模限制,PCL的一个吸引人的特点是所有连接都是通过生物学上合理的局部STDP规则学习的。

值得注意的是,PCL的作者证明,在这一框架内的网络成功地将用于表示来自神经形态视觉传感器(即动态视觉传感器)的视觉输入的脉冲数量大致减半,而在不同分类任务下经验评估的信息损失仅为中等。有趣的是,早期视觉处理的PCL网络还学会了生物学上合理的简单和复杂细胞感受野,并再现了周围抑制和方向调谐抑制现象,这些现象被认为是大脑采用预测编码方法的可能标志。

通过抑制性可塑性实现预测误差 实验观察到,神经元响应随着刺激呈现频率的变化而变化。与用新颖或异常刺激兴奋的神经元相比,反复用某种刺激兴奋的神经元表现出响应降低(“重复抑制”)。这种响应变化在预测编码框架中信号预测误差的减少。虽然这通常用误差神经元响应的增加来解释,但Schulz等人通过提出抑制性可塑性作为这种皮层预测误差响应的解释来挑战这一观点[99]。作者特别模拟了一个生物学上合理的哺乳动物皮层脉冲网络模型,其中神经元通过兴奋性和抑制性通路循环连接。该模型中的不同突触连接是可塑的,并通过三重脉冲时间依赖性可塑性规则(三重STDP)学习[39]。Schulz等人特别在一系列实验中表明,不仅学习的抑制产生了预测误差/新颖性响应,还解释了刺激特异性适应(SSA)。

通过稳态可塑性实现预测误差 Zhu和Rosenbaum[123]也分析了通过稳态可塑性产生的类似预测编码效果。类似的研究也使用速率编码神经元进行[45, 44]。虽然作者考虑了接收固定自下而上输入和自上而下反馈的神经元群体,但预测误差的计算并不是来自信号的直接不匹配,而是通过STDP学习循环抑制。在他们的实验中,作者表明,当用自下而上输入和自上而下反馈对进行训练时,抑制将活动减少到目标发放率。然而,他们进一步观察到,当自下而上和自上而下的信号不再匹配时,抑制未能稳定网络活动,从而导致预测误差的出现。此外,这些研究人员通过使用平均场理论从他们的脉冲模型中推导速率代码,分析了他们模型的网络动态。

通过学习规则和校正神经元实现预测和预测误差 受一般预测处理的启发,Saponati和Vinck提出了一种预测学习规则。这项工作中的网络通过提前发放来适应其突触权重值,以预测未来输入[97]。该模型中任何单个神经元的目标是从其膜电位和前馈突触权重预测其下一个输入,从而最小化直接编码在网络损失函数中的预测误差。推导的学习规则增强了被发现对预测未来输入有用的输入的连接强度,而无法预测未来输入的输入的连接被抑制。作者证明,在由类似LIF的神经元组成的循环连接脉冲神经网络中,这种预测学习规则允许预测未来输入序列,同时也解释了脉冲时间依赖性可塑性规则模式的出现。

Van Driel等人提出了另一种解释预测不匹配响应/预测误差的方法,即“校正神经元”[114]。他们考虑了一组循环连接的类似LIF的脉冲神经元,这些神经元接收前馈兴奋以及兴奋性和抑制性反馈(预测)。该模型中的所有连接都是固定的。预测或反馈导致神经元的早期(预期)发放,当这些预测与输入不匹配时,一类称为“校正神经元”的神经元被激活。这些神经元与误差神经元相似,但不是发出错误信号,而是发放以信号表明预期的脉冲是“错误的”。因此,这些脉冲具有校正神经代码的功能用途,而不是编码错误。Van Driel等人表明,这种机制网络可以在最小网络中解释预测误差;这项工作理想地再现了Fiser等人[30]在小鼠视觉皮层上进行的预测误差/预测不匹配响应实验。

结论 第三类模型提出的方法质疑了显式误差编码的必要性。例如,没有任何显式误差定义,仅通过STDP学习的抑制就能够学习高效感官代码,其中冗余刺激被抑制,只有不可预测的刺激才会生成脉冲。同样,当观察神经元对频繁和异常刺激的响应时,第三类方法显示了预测不匹配响应——我们在本工作中将其定义为预测误差——这些响应再次来自STDP学习的兴奋性和抑制性突触的竞争。STDP在预测中的不同用途进一步让人联想到Rao和Sejnowski早期关于预测学习的工作[90, 91, 92](见第2节)。我们还在第三类中回顾了各种通过预测规则学习预测的新方法,这些方法通过“校正神经元”而不是经典的“误差神经元”进一步复制了预测误差的观察结果。总的来说,第三类方法取得的结果表明,显式误差编码可能不是脉冲预测编码的关键要求。

6 脉冲预测编码的神经形态应用

在执行预测编码时,预测和误差计算由显式连接的神经元在本地执行。这甚至被认为可以替代深度学习的核心——反向传播[70, 2, 117, 96, 79]。预测编码执行的本地计算不仅使其成为反向传播的生物学合理替代方案,还使其成为神经形态硬件应用的合适候选者。尽管具有这些特性,预测编码在神经形态平台上的实现仍然很少。众所周知,标准的深度学习方法存在权重传输问题以及训练的高计算成本(如前向和后向锁定问题[96, 79]),这使得它们在神经形态硬件上的实现变得复杂。最近,尝试在神经形态硬件上实例化预测编码的努力也开始质疑预测编码本身是否仍然受到类似于阻碍基于反向传播的深度网络的限制[31, 42];这些努力通常通过反馈对齐和神经元储备池等方案提供这些潜在限制的解决方案,以实现更硬件友好的预测编码版本。我们在此回顾了这些工作,以及基于Friston工作的预测编码算法在脉冲神经元上的映射应用,包括一些硬件实现。

硬件约束下的预测编码 Hagiwara等人评估了经典预测编码在硬件约束下的性能[42]。为了减少神经形态平台上深度神经元模型的训练计算成本,通常使用反馈对齐和储备池等技术。反馈对齐表示用随机初始化、固定的突触权重替换反向传播的误差。另一方面,时间储备池表示在正向传播期间使用的随机初始化网络,以更好地表示顺序信息。由于其突触权重的非自适应和随机性,反馈对齐和储备池在训练期间的计算成本很低。Hagiwara等人[42]提出将此类工程技术应用于预测编码,以构建在训练期间成本低廉的网络。他们在图像分类任务和涉及动态信号预测的任务中验证了他们的工作,并表明此类预测编码网络产生的结果与经典预测编码相似。受储备池在信息处理中显著成果的启发,Ishikawa等人还将储备计算与预测编码结合起来[50]。他们最近提出了一种预测编码的实现,其中预测误差单元更新了脉冲神经元的动态储备池。然后,该储备池将生成输入的预测。

脉冲预测编码的硬件实现 在Friston的预测编码公式中,在自由能量原理下运行的网络最小化所谓的变分自由能量,该能量计算先验(观察背后原因的内部模型)和后验(数据/证据推断的观察实际演变)之间的差异。虽然这种Fristonian的预测编码观点通常应用于速率编码建模方法,但Palacios等人将其扩展到脉冲神经元网络[80],类似于“第1类”模型中回顾的工作。在他们的框架中,每个神经元通过所谓的“变分消息传递”最小化变分自由能量,试图预测其他神经元何时会发放脉冲。在这种方法中,网络知道生成观察的确切生成模型以及逆(推理/识别)模型。网络利用这个逆模型:每次接收到新的观察时,网络推断其背后的隐藏原因(脉冲)。它使用这些信息、网络的发放率以及对未来活动的预测来更新所有神经元的发放率。然后,当神经元的发放率超过特定阈值时,它们才会发放脉冲。这种方案已被证明可以导致对扰动具有鲁棒性的同步网络,并在神经元之间发展出稀疏连接。Gandolfi等人基于这项工作,通过相互推断自由能量最小化神经元的小脑样网络结构,再现了所谓的延迟眨眼经典条件反射效应[36]。他们的网络由遵守Dale定律的兴奋性和抑制性连接的神经元组成。关键的是,Gandolfi等人在低功耗微控制器上实现了基于这些计算原理的数字神经元。与其他复制眨眼经典条件反射效应的方法相比,这种预测编码的神经形态硬件实现显著减少了所需的神经元数量(从而也减少了功耗)。在硬件上获得的结果进一步优于软件结果。关键的是,这些结果标志着在神经形态硬件上实现低能耗和高效脑启发计算的重要一步。

关于预测编码的其他神经形态应用,Feng等人提出了一种受自由能量原理启发的机器人疼痛脉冲模型[29]。在他们的脑启发机器人疼痛脉冲神经网络(BRP-SNN)中,“疼痛”是由于物理损伤导致的感觉输入与其预测之间的不匹配。该模型被实现为具有LIF神经元和群体编码的前馈SNN。预测神经元通过STDP适应以预测正常机器人状态下的感觉数据。一组误差神经元分别通过兴奋性和抑制性连接从预测神经元和感觉神经元接收输入。误差神经元在由于机器人损伤导致预测误差时发放,并通过兴奋性连接触发疼痛模块。值得注意的是,该模型对实际损伤和通过STDP学习检测到的与先前损伤相关的感知线索的潜在损伤都作出响应。所提出的模型在配备本体感觉和视觉线索的人形机器人上得到了验证。

结论 在本节中,我们回顾了旨在理解预测编码在考虑硬件约束(如训练计算资源)时如何应用的努力,以及其他受自由能量原理启发提出的软件和硬件脉冲实现的工作。脉冲预测编码在硬件上的实现稀缺,表明这是一个重要的开放研究领域,应用于现实世界任务的快速、高效且生物学上合理的计算。

在本文中,我们回顾了旨在通过脉冲神经网络实现预测编码(PC)的方法。这一主题日益受到关注的主要原因有两个。首先,预测编码思想在脑功能理论中占据重要地位,理解其在脑内脉冲神经元层面的可能实现具有重要意义;这是计算神经科学的动机。其次,构建更节能的人工智能系统的兴趣日益增长,而脉冲神经网络是实现这一目标的有潜力的候选者,这反映在对神经形态硬件的日益关注中;这是神经形态工程的动机。鉴于这两种不同的动机,关于这一主题的文献分散在不同领域和场所也就不足为奇了。本文基于预测编码原则,在一个统一的框架内对这些文献进行了综述。

我们选择根据预测误差在各种计算建模方法和方案中的编码方式来组织本次综述。具体而言,我们将其分为三大类:使用特定误差单元的模型(第1类)、通过单元膜电位编码误差的模型(第2类)以及没有任何直接误差编码机制的隐式误差模型(第3类)。这是一个务实的选择,旨在突出脉冲PC方法之间的根本差异。然而,其他组织方式也是可能的。例如,我们发现了一种二分法:一类方法旨在通过计算建模更好地理解PC在大脑中的实现(反映计算神经科学的动机),另一类方法则侧重于技术进步(反映神经形态工程的动机)。在本综述的组织中,这些方法被分散在各类别中,这可能被视为一个缺点。事实上,这两类方法的实例很难比较,因为它们使用非常不同的“成功”衡量标准。虽然计算神经科学强调提高对生物现象的理解(生物数据的再现和解释,生成可测试的预测),但对神经形态工程来说,重要的是应用中的性能(准确性、速度、能效)。尽管如此,我们认为本综述中提出的组织方式是促进这两种视角之间交叉融合的重要起点和垫脚石。最终,计算神经科学研究可以从神经形态计算硬件中受益匪浅,以加快模拟时间,这通常是计算神经科学研究和科学探索的限制因素。同时,神经形态工程可以从计算神经科学中汲取新思想,了解哪些生物机制值得在下一代神经形态系统和硬件平台中实现。

我们将建模方法分为三大类,这引发了一个明显的问题:是否有一类方法应被视为优于其他类?什么是脉冲预测编码的最佳建模范式?在这一点上,我们认为没有任何方法已经充分证明其优越性以排除其他方法,特别是如前所述,这些类别中的方法根据其科学目标和研究问题使用不同的成功衡量标准。此外,重要的是要认识到答案可能取决于具体研究工作的动机是神经科学还是神经形态工程。很可能某一类方法在大脑中的PC建模方面表现更好,而另一类方法在神经形态系统(如神经机器人)的技术应用中占主导地位。毕竟,回想David Marr的经典类比,我们不会用羽毛和拍打翅膀来建造飞机。

即使在计算神经科学领域,基于脉冲的PC的不同实现也并非都在相同的抽象层次和空间尺度上提供解释(见图3)。虽然贝叶斯神经元和脉冲编码网络专注于误差如何在神经元中表示以及输入刺激的单一功能如何表示,但分层预测编码模型在更高的认知和网络抽象层次以及更大的空间尺度上提供解释,特别是揭示了信息如何在层和区域之间共享。最后,许多控制理论和自由能量的预测编码实现在更高的抽象层次(以及更大的空间尺度)上运行,结合了动作和与环境的闭环交互(例如主动推理[34, 94]和主动预测编码[89, 86])。

与上述观点相关的是,不同的硬件或湿件组件既可能促进也可能阻碍某些问题的解决方案。例如,某种PC公式可能在计算上高效,并在某些脉冲神经网络硬件平台上运行良好,但在生物神经系统中可能无法实现,因为生物神经系统在连接性、信号传输和处理的时间尺度等方面存在限制。忽视这些限制可能会迅速导致研究“死胡同”,特别是如果目标是理解PC如何在大脑中实现。相反,遵守生物学中存在的限制(但在工程计算硬件中可以克服)可能会忽视某些工程问题的高效和强大解决方案。同时,神经形态硬件可能具有其自身的限制,例如芯片制造过程中的限制,这些限制在生物学中没有对应物。尽管存在这些差异,我们认为在可预见的未来,这两种视角仍然可以相互借鉴,因为许多基本问题仍未得到解答,未来可能会出现跨学科的科学探索,从而产生新的目标和问题,例如与生物或混合基质中PC的神经形态构建相关的问题[77]。

然而,计算和神经形态视角的共同点是基本结论:一方面,能效与任务制定和实现(或编码和解码)不应被视为相互独立。预测编码及其对抑制可预测刺激的偏好通常会导致网络活动的去相关性[20]。这可以提高刺激表示的效率,但不适用于类似工作记忆的任务,正如神经异质性案例所示[120, 37]。特别是脉冲编码网络明确展示了编码和解码问题的纠缠。因此,我们得出结论,高效代码的构成不能独立于任务定义和实现来看待。

最后,鉴于脉冲和神经形态预测编码(以及预测处理)的研究主题仍然相对年轻,正如整体上在这一方向上明确努力的相对缺乏所表明的那样,本综述的一个重要潜在目标是提供一个统一视角,以鼓励和启发下一代学者、科学家和工程师致力于构建脉冲预测编码模型及其物理实现。展望未来,在脉冲预测编码方面取得新的进展和发展,并回答与之相关的关键问题,可能对脑启发计算[66]、仿生通用智能和仿生工程[77]以及绿色人工智能[100]领域具有特别宝贵的价值。

原文链接:https://arxiv.org/pdf/2409.05386

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关内容

热门资讯