找回密码
 立即注册
搜索

学术前沿丨清华团队打造光学人工智能,让《三体》中计算机成理想

转自 DeepTech深科技


以深度学习为代表的人工智能技术已在包括自动驾驶、医疗诊断、语音翻译等众多范畴带来宏大的变革。随着深度学习算法的迅猛发展,人工神经网络规模的不断增大,迫切需求不断提升计算处理器的运算速度和能效。采用传统电子计算方式曾经越来越难以满足将来人工智能对处理器计算功能的需求。近年来,基于光计算高速、低功耗、高并行的颠覆性优势,经过光电交融的方式构建光学神经网络与智能光电计算处理器曾经成为国际信息技术前沿的热点研讨范畴。


但是,现有的光电智能计算技术间隔实践运用还面临着以下应战:(1)模型构架简单,现有的光学神经网络模型复杂度较低,光学非线性完成较为困难,因此模型功能与电子的人工神经网络有较大的差距;(2)系统误差难校正,光计算系统误差大小和系统复杂度成正相关,因此误差校正算法对于构建大规模智能光计算系统至关重要,但是迄今为止尚缺普适性的误差校正方法;(3)系统重构困难,现有光学神经网络结构难以重构,因此计算功能单一,而网络参数编程则依赖较为复杂的光学效应,大规模参数的疾速精准写入仍存在困难。


学术前沿丨清华团队打造光学人工智能,让《三体》中计算机成理想-1.jpg
图一:光电智能衍射计算处理器的基本原理


针对上述应战,来自清华大学信息学院的戴琼海教授研讨团队提出并构建了光电智能衍射计算处理器(Diffractive Processing Unit, DPU),可以有效地重构完成包含百万神经元的多类新型光电神经网络,经过自顺应的在线训练算法完成了高功能的视觉分类义务,并验证了光电智能计算的优越性。
DPU 的构架采用了光学衍射的物理现象,可以产生大规模的光学互联,从而助力构建高复杂度的光学神经网络(图一)。此外,该光学处理器原理充分应用了光的波粒二象性,神经网络权重的调整经过控制光波传播的波前分布来完成,采用光电效应可以完成人工神经元的功能。DPU 的运转过程光计算部分则几乎承担一切的计算操作,采用高通量可编程的光电器件并结合电子计算的灵敏特性,可以完成高速数据调控以及大规模网络结构和参数的编程。“在这项工作中我们定义了光电的衍射人工神经元,可以完成对衍射光场的线性加权求和以及非线性激活呼应,这是构建复杂光电深度学习系统的基础。” 林星特聘研讨员说到。


学术前沿丨清华团队打造光学人工智能,让《三体》中计算机成理想-2.jpg
图二:DPU 完成手写数字辨认(GIF 图片)


经过软件编程重构 DPU 完成了包括前馈和循环的多种类型的深度神经网络架构,每个神经网络都包含数百万个神经元,具有较高的模型复杂度。这些神经网络经过所提出的自顺应在线训练方法校正系统误差累积,从而优化实验计算功能。这种自顺应的训练方法经过测量神经网络外部的形状完成对计算参数的实时调整,因此不依赖网络结构,可以普适于现有的光电智能计算系统。


学术前沿丨清华团队打造光学人工智能,让《三体》中计算机成理想-3.jpg
图三:DPU 完成人类动作辨认(GIF 图片)


将所构建的系统运用于分类和辨认义务,并在深度学习的标准数据集上停止了功能验证,包括手写数字图像数据集(MNIST,图二)、时兴物品图像数据集(Fashion-MNIST),以及人类动作视频数据集(Wetzmann 和 KTH,图三)。光电智能计算模型功能初次超越了 LeNet-4 电子神经网络模型。系统还能完成高速、高精度的人类动作辨认。运转异样的神经网络,光电计算系统与特斯拉 V100 图形处理器(GPU)相比,计算速度提高了 8 倍,系统能效提升超过一个数量级,核心模块计算能效则可以提升四个数量级。
学术前沿丨清华团队打造光学人工智能,让《三体》中计算机成理想-4.jpg
(来源:戴琼海教授研讨团队)


戴琼海教授指出,“当前光电智能计算技术的潜力还有待深化发掘,将来运用超材料构建片上相控阵列,可以极大提升处理器的计算功能,而完成光电计算机的目的则需求多学科的交叉交融。” 将来已来,推进类脑光电子芯片的研发将极大促进人工智能的发展,将为大规模数据的实时智能处理,高速低功耗智能化无人系统,以及从十亿像素到百亿像素光场成像奠定基础,具有极为广阔的运用前景。
这项工作发表在 Nature Photonics 期刊上,周天贶博士研讨生为该论文的第一作者,林星特聘研讨员(清华脑与认知迷信研讨院、将来芯片技术高精尖创新中心)、方璐副教授(清华电子系)、戴琼海教授(北京信息迷信与技术国家研讨中心)为通讯作者。工作得到了国家科技部和国家自然迷信基金委的支持。


-End-


参考:
https://rdcu.be/ciybp
https://www.nature.com/articles/s41566-021-00796-w
https://dx.doi.org/10.1038/s41566-021-00796-w
回复

使用道具 举报

大神点评3

文成波 2021-4-16 22:38:21 显示全部楼层
看起来不错
回复

使用道具 举报

高阳大闲人 2021-4-18 07:03:17 来自手机 显示全部楼层
强烈关注楼主~请继续!
回复

使用道具 举报

无名小乞丐 2021-4-18 22:46:08 显示全部楼层
啥也不说了,大佬,给你个赞
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册