首页 > 信息融合频道 > AI人工智能

MIT重磅研究:基于人工神经网络,探索抑制神经元

2017年01月12日 09:10:03   来源:36氪
MIT重磅研究:基于人工神经网络,探索抑制神经元

  在近几年,人工神经网络——一种参照大脑运作模式而建成的计算模型——已经成为了最为炙手可热的人工智能系统,并且应用于从语音到图像的各个领域。kxV中文科技资讯

  AI科技评论消息,MIT CSAIL于今日发布了一个重磅研究成果:他们已经开发出一个大脑神经回路的计算模型,它揭示了抑制神经元的生物意义。kxV中文科技资讯

  这个模型是由一组输入神经元阵列与同等数量的输出神经元组成,采用「竞争学习规则」(winner-take-all)来操作。kxV中文科技资讯

  也就是说,网络的输出神经元之间相互竞争以求被激活,但在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元,而其它神经元的状态被抑制,故称为Winner Take All,这就像美国大选一样,在该州获得更多选票的候选者就会得到该区所有的选票。kxV中文科技资讯

  MIT研究者们证明,通过使用理论计算机科学的相关工具,他们的模型能够让一定配置的抑制性神经元遵循「竞争学习规则」,并获得最有效的结果。这其中原因何在?真相就在于该模型能够对抑制性神经元在大脑中的行为进行预测,而这也成为了计算分析辅佐神经科学研究的绝佳例子。kxV中文科技资讯

  这一新发现在本周的理论计算机科学变革会议上公布。论文作者为MIT软件科学及工程的NEC教授Nancy Lynch,博士后Merav Parter及电子工程与计算机科学的研究生Cameron Musco。Lynch表示,「这一发现能够为计算机网络或以手机为代表的电子设备与生物系统中的神经网络之间建立起紧密联系,我们正在尝试从分布式计算的角度寻找可能使之受益的方向,并将重点放在算法上。kxV中文科技资讯

  为了补充一些背景知识,AI科技评论先为大家简单介绍一下kxV中文科技资讯

  人工神经网络与人体神经网络的联系与区别:kxV中文科技资讯

  我们都知道,大脑的神经细胞存在两种状态:兴奋和抑制。神经细胞通过某种方式将所有树突上的信号进行相加,如果信号总和超过了某个阈值,那么这个神经细胞就会被刺激,达到兴奋状态。人工神经网络也就是模仿上述原理而设计的一种算法模型。kxV中文科技资讯

  人工神经网络与人体的神经元类似,由多个节点(神经元)之间联结而成,每个节点代表一种特定的输出函数,并根据各个节点的不同权重生成不同的计算输出。kxV中文科技资讯

  由于权重能够表示激发或抑制作用(在这里,雷锋网为大家简单表示为正负关系),这些或正或负的数据将作为激励函数的输入进行作用。而这个激励函数经过所有不同节点的权重综合计算后得到一个新的激励值,并最终得到我们想要的结果。kxV中文科技资讯

  而在人工智能应用中,实际情况当然会更加复杂一些。一个神经网络可以接受不同数据的训练,不断通过调整权重而得到更契合实际的结果。kxV中文科技资讯

  “生物层面上的真实性”kxV中文科技资讯

  Lynch团队对该模型进行了多处修改,使得人工神经网络在生物层面更加真实。首先是增加抑制性神经元的数量。通常在人工神经网络中,连接上的权重值就和方才提及的一样,通常是正的,或者是可正可负的。但在人体大脑中,有一些神经网络能够发挥纯粹的抑制作用,并阻止其它神经元活动,因此MIT的研究人员参考这一点,将这些神经元建模为只连接负权重的节点。kxV中文科技资讯

  而就像我们所了解到的一样,很多人工智能采用的是前馈网络,即信号只从一个方向通过网络,从接收输入数据的第一层到提供计算结果的最后一层。但大脑间的反馈会更加复杂一些。kxV中文科技资讯

  Lynch、Parter及Musco的神经网络就增加了一层反馈机制,输出神经元的信号传递到抑制性神经元,它的输出会再次传递到输出层。此外,输出神经元的信号也会反馈给自身,这对竞争学习规则而言显得非常重要且有效。kxV中文科技资讯

  MIT的研究人员改进的人工神经网络还有一点最大的不同在于,神经网络变得更具概率性。因为在此前传统的人工神经网络中,如果节点的输入值超过某个阈值,则节点会被激发。但在大脑中,即使增加了输入神经元的信号强度,也只会增加输出神经元激活信号的机会。这同样对于竞争学习规则也具有不小的意义。kxV中文科技资讯

  抑制的优点kxV中文科技资讯

  Parter与她的同事们成功证明,如果只有一个抑制性神经元,是不可能变成竞争学习的最终「赢家」的(但两个就OK了!)。其中的秘诀在于,如果多于一个输出神经元激活抑制性神经元(研究人员称之为收敛神经元)能够激活强抑制信号。而另一个抑制性神经元(被称为稳定神经元)的功能在于,只要任何输出神经元正在激活信号,那么它都只会发出更弱的信号。kxV中文科技资讯

  收敛神经元能够驱动神经网络选择单个输出神经元,并在该节点上停止激活信号;而稳定神经元则会在收敛神经元已经停止活动时防止输出神经元的第二次作用。而如果输出神经元被抑制的时间越久,它越有可能继续保持这一状态。而一旦选择了单个输出神经元,它的反馈回路能够确保自己能够克服稳定神经元的抑制作用。kxV中文科技资讯

  但是,如果缺少了随机性,网络并不会收敛到单个输出神经元,抑制性神经元权重的任何设置将同等地影响所有的输出神经元。「你需要随机性来打破这种对称性,」Parter解释道。kxV中文科技资讯

  来源:XXX(非中文科技资讯)的作品均转载自其它媒体,转载请尊重版权保留出处,一切法律责任自负。

  文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

  中文科技资讯登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。您若对该稿件内容有任何疑问或质疑,请即与中文科技资讯联系,本网将迅速给您回应并做处理。

[责任编辑: CIT07]
分享到微信

最新

新闻

智能电视机陷“智能”困境:花高价买一个大显示器

随着互联网对传统电视机市场的冲击,现在几乎所有的电视机厂商都对外宣传推出智能电视机,但记者调查发现,所谓的智能电视机仅仅是能回看电视内容或点播电视剧,而在实际的使用过程中,却出现智能电视机频频死机、操作复杂、应用少的困境。

科学

NASA资助10个小卫星任务概念研究 以促进利用小型探测

据美国国家航空航天局(NASA)官网22日消息,在第48届月球与行星学会大会上,NASA发放了总额为360万美元的奖金,资助10个利用小型卫星探测金星、月球、小行星、火星以及外行星的项目,希望这些项目能促进NASA研制小型探测器,进行深空科学探测。

融合

微软强化Edge浏览器沙盒访问机制:为用户筑起更高的

即将上线的Windows 10 Creators Update中,除了改善系统界面、Cortana语音助手、游戏体验等之外,Edge浏览器也将会带来更多的改善和功能,尤其值得指出的是,通过强化沙盒让Edge浏览器变得更加安全。

专栏

重新设计 10周年iPhone 8外壳或将向它致敬

iPhone 8(暂名)外壳将重新设计,市场传闻指它的外壳很有玻璃的感觉,但是最近却有传闻指,这台 10 周年 iPhone 8 的外壳,将会向这部手机致敬。