智客公社

标题: AI数据风险陡增安全可控成共识途径 [打印本页]

作者: folknoise 时间: 2021-6-8 21:47
标题: AI数据风险陡增安全可控成共识途径
本报记者谭伦北京报道

“从数据层面看，如古人工智能运用效果很大程度上依赖于数据质量，但由此会带来隐私走漏、数据确权等成绩，假如处理不好数据安全的成绩，人工智能产业也不能够健康地发展。”在日前举行的2021北京智源大会上，中国迷信院院士、清华大学人工智能研讨院院长张钹教授表示，人工智能（以下简称“AI”）技术很容易被误用，这种脆弱性也使得AI系统容易受攻击，被诈骗，给AI技术的滥用形成无隙可乘，形成人工智能的安全成绩。

AI数据安全成绩显然就是其中之一。IDC数据估计，到2024年，中国人工智能软件及运用市场规模将达到127.5亿美元，2018～2024年复合增长率达39.0%，市场疾速发展之下，安全风险日益严峻。

《中国运营报》记者留意到，在往年的315晚会时期，包括科勒卫浴、宝马4S店等在内的商户违规采集用户数据信息被曝光，使得应对AI数据安全风险陡升的讨论再次被推到产业聚焦前沿。

2020年发布的《人工智能数据安全管理报告》指出，随着人工智能在产业和技术上加快渡过“探求期”，逐渐进入“长大期”，人工智能与数据安全愈加深度交错。数据安全成绩已然成为人工智能打破关键转轨期所必须处理的重要制约瓶颈。

为此，张钹提出，发展第三代人工智能，经过交融知识驱动和数据驱动的前两代人工智能技术，应用知识、数据、算法和算力四大要素，建立新的可解释和鲁棒性的AI实际与方法，发展安全、可信、牢靠和可扩展的AI技术。

迈向第三代人工智能

“第三代人工智能”的提法由张钹在2020年纪念《中国迷信》创刊70周年的专刊文章《迈向第三代人工智能》中首创。据其引见，人工智能自1956年诞生以来，至今不断存在符号主义与衔接主义两种互相竞争的范式，前者到上世纪80年代之前不断主导着AI的发展，后者从上世纪90年代逐渐发展，并逐渐成为主流。但两种范式的本质仍是模拟人类心智（或大脑），不能触及人类真正的智能。

为此，张钹提出，应发展一个片面反映人类智能的“第三代人工智能”，其具有知识、数据、算法和算力四大要素，既能最大限制地自创大脑的工作机制，又能充分应用计算机的算力，使得人工智能在某些方面可以超越人类，成为一个更弱小的AI系统。

据记者了解，在该系统中，安全、可信、牢靠和可扩展被以为是最重要的特征，而由清华人工智能研讨院孵化而来的瑞莱智慧科技有限公司（以下简称“瑞莱智慧”），正是践行第三代人工智能这一理念最重要的产物。截至目前，瑞莱智慧曾经推出系列触及AI安全的平台产品。

在本次大会上，瑞莱智慧CEO田天向记者表示，人工智能产业正派历从高速增长向高质量发展转变。“目前的AI不只关注功能的发展，也末尾更多关注安全与可控两个层面的发展。”田天表示。

在安全层面，田天以为次要包括数据安全与算法安全，前者针对数据泄露和数据投毒等隐患，后者则重在提升算法的鲁棒性与牢靠性；而在可控层面，不只包含运用层面的合规可控，更指核心技术的自主可控。“安全、可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。”田天强调。

据田天引见，目前围绕打造安全可控的人工智能基础设备，瑞莱智慧研发基于自主创新的一系列核心技术，围绕数据安全、算法牢靠、运用牢靠一系列的人工智能算法和平台，成为迈入国内第三代人工智能大潮的企业代表之一。

标准与法规需协同跟进

抛开技术外，在中国信息通讯研讨院安全所信息安全研讨部主任魏薇看来，保障AI数据的安全可控，还需求内行业标准、法律规范等多个维度协同推进。

清华大学人工智能管理研讨院副院长梁正以为，与国际算法管理阅历相比，国内的管理根据虽然初步构成，政策引导、标准指南、法律规章等相继发布，但尚未构成完善的管理体系。

对此，梁正给出了“分范畴、分级”的指点建议，他表示目前应关注个人信息的算法决策，将来再聚焦自动驾驶、医疗等触及到人身安全的高风险范畴。同时，在管理过程中一定要区分算法本身与算法不当运用形成的成绩，找准问责主体，针对性地处理。

“不管从开发、设计、部署上，应该坚持安全、公平、透明和隐私的准绳，不能完全归结于算法的黑箱，应该设立基本的权益准绳设定规范，在这个基础上去开发和改良相应的算法。”梁正强调。

在法律层面，据中伦律师事务所合伙人陈际红引见，针对AI数据的安全，各国都在加强隐私保护、数据保护的立法。我国从2020年下半年末尾，加快了个人信息和数据安全的立法，目前《个人信息保护法》《数据安全法》都在审议阶段，将来将与此前的《网络安全法》构成我国数据保护与监管的“三驾马车”。

但陈际红指出，鉴于对大数据、实时数据、数据交融的需求，人工智能产业与上述数据保护法规产生冲突。陈际红建议，一方面企业应具有自动合规防备风险的看法，在产品生命周期内引入隐私安全概念，同时，立法者应留意做好隐私保护和产业发展的平衡。陈际红强调，全社会具有良好隐私保护理念的基础，再加上严厉的法律环境，才会是助推AI长久发展的两翼。

此外，魏薇强调培育人才也异样重要。“人是最关键的，这外面包括学校、企业和引进人才，与国外的专家停止交流等等。”魏薇表示，可以经过企业、科研机构和高校等结合停止人工智能安全课题的申报、技术的研发，甚至到最后的运用，共同来促进人工智能的数据安全管理。

（编辑：张靖超校正：颜京宁）

作者: guomeili 时间: 2021-6-9 07:08
看起来好像不错的样子

作者: 佐鸣雪子 时间: 2021-6-9 19:48
在撸一遍。。。

作者: 鹿泉烟火 时间: 2021-6-10 22:43
锄禾日当午，发帖真辛苦。谁知坛中餐，帖帖皆辛苦！

欢迎光临智客公社 (http://bbs.cnaiplus.com/)