找回密码
 立即注册
搜索

向大脑学习智能本质,探求通用 AI 的另一条可行途径



“大数据”、“大算力”和“大模型”,是近些年人工智能范畴的热点词汇。
与此同时,在这个追求“大”的时代,能否还存在其他道路和途径,来促进人工智能的发展和迈向通用智能的前沿探求?
生命是智能的第一载体,在自然中曾经有亿万年的退化历史。作为代表自然界拥有最通用智能的生物大脑,可以经过低功耗和大批后天数据就能完成比现有人工智能愈加通用及完成复杂环境下复杂义务的智能行为。因此,探求生物大脑智能认知的底层机理和复杂行为背后的神经迷信基础,对于探求智能的本质、揭示心智的奥妙,迈向将来的通用人工智能研讨具有重要意义。

在近期举行的“2021北京智源大会”的全体大会环节以及严重研讨方向“人工智能的认知神经基础”专题论坛上,该方向的迷信家约请了来自于美国、瑞典、德国和日本的六位国际顶尖迷信家分享了他们在类脑研讨范畴的阅历和最新成果,以及人工智能将来发展能够存在什么样的瓶颈及相应的处理思绪。此外,围绕“AI与脑迷信的错位 —— 此认知非彼认知”这一主题,该方向也停止了深度讨论,并就智源“天演”模型研讨停顿做了工作汇报。

1观点一


应用信息几何方法了解深度学习的泛化行为,解释深度神经网络的学习机制。



日本理化学所荣休教授甘利俊一(Shun-ichi Amari)先生在人工神经网络的发展历程做出了大量跨时代的工作,其在1967年就提出了随机梯度下降算法,并初次将其用于多层感知机训练(相似工作深度学习之父Hinton等人在1986年才提出),在1972年就提出了联想式记忆模型(相似的工作由Hopfield 1982年提出)。甘利先生用微分几何方法来解释概率模型学习,提出并发展了著名的信息几何实际来研讨深度学习网络。

在深度网络学习中,可训练参数数量远多于训练样本数量,但是训练得到的网络却依然可以在测试集上表现出良好的泛化功能,而不是过拟合到有限的训练数据上去。

如何了解这一泛化行为?甘利先生梳理了近年来范畴内发展的一些重要的实际方法,如信号变换方法,神经正切核方法等,进而引见了其本人基于信息几何方法对此成绩的研讨,从实际上证明了在一个超大的随机网络权值空间中,总可以找到拟合恣意目的函数的权值点,该方法为我们了解深度神经网络的学习机制提供了核心的实际工具。

2观点二


在高精度模型上探求大脑的通用智能,从大脑结构和功能动手探求通用人工智能的新方向。



瑞典皇家理工学院Jeanette Hellgren Kotaleski 教授是欧盟人类脑计划的担任人,也是欧洲神经信息学范畴的指导者。

Jeanette教授在此次报告中详细引见了欧盟脑计划中建立一个高精度基底核脑区模型的相关标准,以及如何在高精度模型上探求大脑的通用智能。基底核是大脑中多巴胺分泌最丰富的核团,在医学上和帕金森症亲密相关,而人工智能范畴目前最热的强化学习实际也来源自从基底核的工作原理。

Jeanette教授展现了如何从分子,细胞和神经回路的尺度上,精巧的还原了大脑运动和感知相结合的工作原理,成功模拟了鳗鱼在复杂水流的状况下,以无监督学习的方式,完成自感知、自顺应、自驱动,同时停止躲避妨碍与向目的物体游动的行为。Jeanette的一系列工作均发表在顶刊PNAS上,代表了欧洲神经学界的大脑精细模拟学派如何从大脑的结构和功能动手,探求通用人工智能的方向。

3观点三


自创人类大脑在概念表征、情境信息处理等方面的工作机理,提高机器智能的感知和认知才能。



曾任职德国马克斯普朗克脑研讨所和法兰克福高等研讨院,目前在人工智能范畴创业的Danko Nikolic博士经过多个方面的对比研讨阐述了大脑的工作机理和与深度学习的差异。这些差异使得一些对人来说很简单的事情对人工智能却很困难。也使得人工智能只能胜任特定义务,而不具有通用智能。

Danko Nikolic对比了人工智能在所犯错误类型、对概念的表征和了解、对情境的感知才能、学习的方式等各个方面与人脑的不同,指出这些不同使得人工智能在灵敏性和泛化性上远远不如大脑,很难顺应开放和未知的环境。

另外,在智能的可扩展性方面,人类大脑与类人猿大脑相似,但在智能程度上有极大的提升,表现了生物智能系统良好的可扩展性。而当后人工智能程度的提升则需求巨量的资源投入,并且随着资源投入的增大其边际效益疾速下降。类脑智能的研讨需求进一步深化了解这些本质差异并提出有效的处理方案,才能在可预见的将来让机器达到人类的智能程度。

4观点四


基于人类视觉感知机理设计和评价机器视觉算法,促进类脑视觉系统的创新研讨。



约翰霍普金斯大学认知迷信系和计算机迷信系Bloomberg特聘教授Alan Yuille教授师从霍金获实际物理学学位,后转向计算机视觉范畴,曾获计算机视觉范畴最高奖马尔奖(Marr Prize),是计算机视觉范畴的威望。

Alan Yuille教授以为,虽然当前AI视觉算法在特定数据集上超过了人类程度,但这是由于人工智能是非常好的应试者,可以应用数据集外面的统计规律性来提高在特定数据集上的功能,但这样的处理方案缺乏人类视觉感知的鲁棒性和通用性。这在一定程度上由计算机视觉和机器学习范畴当前普遍运用的研讨范式形成。

目前,人工智能视觉算法次要是基于有限的数据量并对其停止标注来训练和完成的,显然无法顺应理想世界各种视觉认知义务的复杂性,相关算法对不常见的但后果严重的状况常常缺乏足够的鲁棒性和泛化才能,也对其他场景不具有可推行性。同时,传统的机器视觉算法和模型对标注数据的依赖让大家倾向于处理容易标注而不是真实场景下重要的成绩。

Alan Yuille教授以为,我们应该经过研讨人类视觉感知的规律并运用更严厉的功能目的来应战和评价算法,例如采用与训练数据具有较大不同的分布外(out-of-distribution)测试集、探求新的神经网络架构等策略,处理对抗性攻击、对环境信息过于敏感等算法弱点。尤其是向人类视觉学习,开发具有组合性的模型,这将有助于鼓励研讨界开发出功能与人类视觉系统一样好或更好的算法。

5观点五


交融人类视觉感知与留意选择的机制,完恶人类视觉感知框架,启示类脑智能系统研讨。

德国图宾根大学和马克斯普朗克脑研讨所的李兆平教授从物理学转向计算神经迷信,努力于推进对人类感知觉系统的了解。

李兆平教授在其报告中引见了生物智能如人类大脑视觉系统的工作机理,强调了对视野地方与外周的二分(central-peripheral dichotomy)加工,并提供了直观的图片样例与丰富的实验证据。

现有的深度卷积网络只是在方式上自创了人类大脑视觉皮层的层状结构,模拟了大脑的部分视觉功能,却未能深化地了解大脑视觉系统运作背后的机理。

人类视觉系统对地方视野的输入存在反馈调理等机制,能在有限输入的环境中兼顾鲁棒性与通用性,并完成视觉了解,而对外周视野的加工则表现出与现有人工智能相似的不波动性。

李兆平教授以为循着视觉皮层的层级结构和反馈机制愈加深化地研讨人类视觉系统,了解人类视觉系统的运作机制,有利于启示将来人工智能的研讨和发展。

6观点六


自创最新的大脑学习机制,发展新一代的人工智能强化学习系统。

Peter Dayan在剑桥大学学习数学,并在爱丁堡大学获得博士学位,曾共同创建盖茨比计算神经迷信组并担任该机构主任,同时也是马克斯·普朗克/加州大学学院计算肉体病学和老龄化研讨中心副主任。

Peter Dayan指出过去的强化学习研讨次要集中在研讨生物大脑中的有模型学习,无模型学习,以及简单的巴普洛夫条件下的强化学习行为。

近年来,大量新的研讨表明,大脑中的阅历回放,在生活压力和焦虑条件下对风险的偏好程度等,对于生物体的强化学习行为会产生重要的影响。

生物大脑在学习过程中,会产生丰富的阅历回放现象,比如老鼠在停止寻食行为前,会产生前向的阅历回放,而在完成寻食行为后,会产生反向的阅历回放。假如干扰阅历回放的停止,最终都会影响老鼠的学习行为。大量的实际假设被提出,比如阅历回放为深度强化学习提供了一种记忆缓存机制,对以前的学习阅历停止重组,前向阅历回放能够是大脑在做在线规划等。

除了阅历回放现象,最新的研讨表明,大脑对风险的偏好程度决议着我们对于奖赏价值的衡量,这对于我们的决策行为有着重要的影响。除了阅历回放和风险偏好,近年来,在有限感性、元控制、情境控制、社会互动等方面对生物大脑强化学习系统的研讨,也可以对人工智能强化学习系统提供自创。

Peter Dayan以为大脑学习机制和人工智能有深入的联络,我们可以从人工智能的算法获得启示解释脑迷信机制,也可以从丰富而有效的大脑学习机制中获得启示和学习,发展更多新的人工强化学习方法,人工智能应与大脑“联姻”。


由于微信公众号试行乱序推送,您能够不再能准时收到AI科技回复的推送。为了第一工夫收到AI科技回复的报道, 请将“AI科技回复”设为星标账号在看”。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册