来源:科技日报
AI解锁无人时代 仍需数据安全保驾护航
近几年，科技企业在推行新一代信息技术产品时，数据安全、数据隐私等成绩广受诟病。数据作为驱动人工智能疾速发展的重要基础，其安全也决议了人工智能的安全。人工智能的加速发展给数据的安全管理带来了新的机遇和应战。
验证码登陆、移动在线支付、人脸辨认门禁……
随着新一代信息技术的发展，互联网和人工智能技术运用蓬勃发展，数据也被视为一种有形的资产。但是，技术是一把双刃剑，在给我们消费生活带来效率提升的同时，伴随的安全成绩也不可忽视。
近几年，科技企业在推行新一代信息技术产品时，数据安全、数据隐私等成绩广受诟病。数据安全成为当今数字化转型时代的关键紧迫议题。
在7月8日至10日举行的2021世界人工智能大会上，数据安全、数据管理、网络安全等成绩备受关注。业界以为，在人工智能深化推进城市数字化转型过程中，企业应积极自动接受监管，推进产业健康持续发展。
数据安全管理面临新的机遇和应战
近日，桔视记录仪等25款App因存在严重违法违规搜集运用个人信息成绩，被国家互联网信息办公室根据《中华人民共和国网络安全法》相关规定，告诉运用商店下架。
此前，在上海车展特斯拉车主维权事情中，特斯拉公布了维权车主车辆事发前半小时的行车数据。该行为引发了众多争议：车企该不该将行车数据公开？人们如何确定数据的牢靠性？
没有大数据的搜集和基础，人工智能是无本之木。数据作为驱动人工智能疾速发展的重要基础，其安全也决议了人工智能的安全。人工智能的加速发展给数据的安全管理带来了新的机遇和应战。
“大数据驱动业务的展开，让数据安全对城市运转变得史无前例的重要，数据一旦遭到攻击，就意味着业务会停转，将形成严重的经济损失和社会后果。”360公司创始人、董事长兼CEO周鸿祎表示，最近几年，360公司接到大量医院的报警，称医院网站被讹诈软件攻击之后不能停止手术，不能给病人挂号看病。
近年来，城市也成为了网络讹诈的重要目的，而且网络攻击的对象不只限于电脑、手机、设备、系统，还逐渐扩展到数据。人工智能数据的获取、处理和应用具有极强的隐私性与范畴扩展性，关乎个人信息安全甚至国家信息安全。对政府、城市公共事业单位的数据讹诈，会形成城市运转和服务堕入停摆。往年5月，美国最大的燃油保送管线遭遇网络攻击被迫关停，导致美国东海岸45%的汽油、柴油等燃料供应遭到影响。
业界以为，针对上述状况，要让人工智能技术的头顶上高悬一把达摩克里斯之剑。
数据输入、分析等过程都存在相应风险
数据非法跨境流通能够危害国家主权和国家安全；数字信息的过度采集和非法运用，能够侵犯公民的权益和隐私；算法的偏好能够加剧社会的成见或歧视，要挟公平正义；无人驾驶汽车紧急避险等智能决策能够要挟特定人群的生命……
全国政协社会和法制委员会副主任陈智敏在人工智能大会安全高端对话上指出，人工智能发展与安全发展风险同时并存，这不只是一个技术成绩，也是一个安全成绩，同时还触及伦理、法律和国际规则等相关成绩。
国家工业信息安全发展研讨中心副主任何小龙在人工智能大会上表示，人工智能带来的数据安全成绩一方面加速了传统数据安全成绩。
人工智能大规模的运用使得过度采集数据安全成绩进一步加剧。另一方面，也带来了新型数据安全的成绩。人工智能的算法对数据具有较强的依赖性，能够会带来数据投毒等新型数据安全应战。
算法、模型和数据构成机器学习三大基石。腾讯朱雀实验室首席AI安全专家朱季峰在人工智能大会主题论坛上表示，以算法构建过程中上下游的产业链来看，数据的输入、数据的分析、模型的训练、模型的决策、模型的上线部署运用以及模型的改造过程当中都存在相应的风险。
例如，在数据输入环节，假如攻击者控制了数据来源，或者攻击者可以对搜集数据的设备本身产生安全攻击，最终将经过这个链条影响到算法模型。如经过超声波影响陀螺仪，最终可以使无人机坠落。或者在模型决策阶段，可以经过物理攻击，使得自动驾驶车辆最终视觉辨认系统出成绩，这样能够影响车辆自动行驶或者对行人的判别。
随着人工智能的运用，技术的滥用带来失控风险。验证码验证机制首当其冲。朱季峰引见，早在2017年，地下的黑产就曾经末尾用机器学习的方法做二维码辨认训练。材料表明，80%以上验证的准确性都可以经过机器学习算法自动完成线上的注册，这就产生了一系列的安全成绩。
3大系统共筑数据安全防火墙
人脸辨认技术依托于对海量视图数据的分析，因此数据安全直接影响着人脸辨认技术的实战运用。人工智能技术在安防范畴的运用是技术寻求落地进程最快、运用最早的训练场。
达闼创始人、董事长兼CEO黄晓庆表示，从数据采集到数据处理到数据传输，处理数据网络安全成绩有很多手腕。从网络和数据角度要完成三个重要的义务——物理隔离、网络隔离、运用端到端的保护。
除了技术，我国应用法律武器在数据立法上也做出了探求。
往年6月，我国颁布了《数据安全法》，9月1日将末尾正式实施。《数据安全法》提出以数据分级分类为核心，搭建数据安全的监管制度，要求强化落实各级数据处理活动主体数据安全保护的义务与责任，为规范数据处理活动，保障数据安全提供法律根据。另外，《个人信息保护法（草案）》也即将进入三审阶段，两项法案相反相成，推进我国个人信息保护和数据安全管理进入全新阶段。
在人工智能大会“大爱无疆·共生”论坛上，清华大学苏世民书院院长薛澜回顾人工智能管理形式历经回应式管理、集中管理和矫捷管理三个阶段。“如今我们进入了相对比较集中的管理形式。该形式明白了国家加强行业监管，促进制度落地的决计，对暴显露来的各种成绩采取比较坚决的措施落实监管规则，同时触及到需求进一步研讨的成绩。”薛澜说。
目前，上海正研讨立项公共场所人脸辨认分级分类运用规范的地方标准，将成为全国首个立项的人脸辨认的地方性标准；展开全市人工智能数据立法调研，规范数据确权，数据共享等重要内容，推进可信人工智能的研讨。上海市人大也正在起草《上海市数据条例》。
此外，上海市数字证书认证中心、复旦大学计算机学院、上海交通大学电子信息与电气工程学院、移动互联网系统与运用安全国家工程实验室、上海赛博网络安全产业创新研讨院共同发起筹建数字身份与数据流通讯任技术实验室，该实验室将基于数字信任技术的产学研生态合作，展开隐私计算、区块链、前沿密码等数字信任技术攻关和产业运用，支撑城市数字化转型、数据要素市场构建和网络安全体系建设。
记者获悉，上海浦东新区将在数据资源共享、数据买卖、数据开发应用等方面停止立法探求；临港新片区将试点展开企业法人数据的跨境流通的安全评价和服务监管，加强个人数据的全生命周期安全监控和防护。 |
