人工智能正加速各行各业的智能化转型，但数据隐私、算法成见、技术滥用等安全成绩也给人工智能的管理与产业发展带来严峻应战。
将来人工智能如何兼顾创新发展与安全可控？在前不久举行的北京智源大会AI安全与产业管实际坛上，中国迷信院院士、清华大学人工智能研讨院院长张钹表示，将来人工智能产业发展在扩展运用场景的同时，必须完成数据、算法与运用层的安全可控。
“人工智能的安全可控成绩要从技术层面来处理。”在详细完成途径上，张钹提出了发展“第三代人工智能”，即交融第一代知识驱动和第二代数据驱动的人工智能，应用数据、知识、算法和算力4个要素，发展安全、可信、牢靠和可扩展的AI技术。
如何定义人工智能“安全可控”？北京瑞莱智慧科技有限公司CEO田天以为，“安全”是指打造数据安全与算法安全两大核心才能，处理数据强依赖带来的隐私泄露等隐患，同时提升算法的牢靠性，从而保证系统在网络过载或有意攻击状况下，依然波动运转不崩溃；“可控”既指运用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，经过实际创新、技术打破构成核心竞争力。安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。
数据的不安全和算法的不安全是制约当后人工智能产业发展的次要要素，也是发展安全可控人工智能需求处理的核心成绩。在中国信息通讯研讨院安全所信息安全研讨部主任魏薇看来，人工智能与数据产业互促发展的同时，安全成绩也互相影响。一方面，人工智能对数据强依赖的发展特性导致其面临的本身数据安全风险、运用导致的数据安全风险以及运用加剧的数据管理应战日益凸显；另一方面，人工智能也为数据管理工作提供自动化、智能化、高效化、精准化的智慧支撑。
相较数据安全，算法安全成绩初露端倪。阿里安全资深算法专家何源引见，虽然人工智能技术曾经在污染网络环境、知识产权保护、生物辨认、线下安防等安全工作中发挥着越来越大的助力作用，让安全更智能，但其本身也面临着鲁棒性不够、可解释性差、技术滥用等安全风险。比如，算法破绽的存在可以针对图像检索系统展开攻击，导致非原创图片逃逸检测，对网站安全与商家权益形成要挟。
发展安全可控的人工智能是一项系统性的工作，需求从行业标准、法律规范、技术发展等多个维度打造与之配套的“基础设备”，其中技术基础设备的打造仍将发挥基础性作用。比如，基于安全多方计算、联邦学习、匿踪查询等技术打造数据安全共享平台处理数据隐私难题，让数据安全共享流通；打造人工智能系统防火墙，为人脸辨认、目的检测、图像分类等系统提供安全检测与防御加固，从根本上提升系统安全性。
在新基建浪潮驱动下，人工智能产业即将迎来与传统产业深度交融的机遇期。田天表示，在安全可控的核心支撑下，人工智能可以完成从“单点自动化”到“深度智能化”的价值提升。例如，在金融范畴，人工智能的创新交融正为金融行业打造出一个兼具决策分析与感官感知的“智慧大脑”。而在安全可控的支撑下，“智慧大脑”可以拓展全新才能边界，构成更好的“决策左脑”与愈加安全牢靠的“感知右脑”。
在安全可控的助力下，“深度智能”时代正加速到来，人工智能在各行业范畴的运用广度和深度将不断得到拓展。“第三代人工智能经过释放‘数据、知识、算法、算力’的全新维度，为完成安全可控的新一代人工智能提供能够，让人工智能走出‘浅层智能’的温馨区，重塑产业价值。”田天说。
来源：经济日报 |
