作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了严重而深远的影响，但数据隐私、算法成见、技术滥用等安全成绩也给社会公共管理与产业智能化转型带来应战。
将来人工智能如何兼顾创新发展与安全可控？在近日举行的北京智源大会AI安全与产业管实际坛上，中国迷信院院士、清华大学人工智能研讨院院长张钹表示，将来人工智能产业发展在扩展运用场景的同时，必须完成数据、算法与运用层的安全可控。
“人工智能的安全可控成绩要同步从技术层面来处理。”在详细完成途径上，张钹提出了发展“第三代人工智能”，即交融第一代的知识驱动和第二代的数据驱动的人工智能，应用知识、数据、算法和算力四个要素，发展安全、可信、牢靠和可扩展的AI技术。
瑞莱智慧CEO田天表示，现阶段人工智能产业正派历从高速增长向高质量发展的转变，产业等待的提升让金融、医疗等更复杂的高价值场景运用需求不断添加，安全性的注重程度也不断提升，但由于传统技术范式存在自然的算法破绽和缺陷，难以支撑人工智能的长久高质量发展。
如何定义人工智能“安全可控”？田天以为，“安全”是指打造数据安全与算法安全两大核心才能，处理数据强依赖带来的隐私走漏等隐患，同时提升算法的鲁棒性与牢靠性；“可控”既指运用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，经过实际创新、技术打破构成核心竞争力。安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。
数据的不安全和算法的不安全是制约当后人工智能产业发展的次要要素，也是发展安全可控人工智能需求处理的核心成绩。中国信息通讯研讨院安全所信息安全研讨部主任魏薇以为，人工智能与数据产业互促发展的同时安全成绩也交错影响，一方面人工智能对数据强依赖的发展特性导致其面临的本身数据安全风险、运用导致的数据安全风险以及运用加剧的数据管理应战日益凸显；另一方面，人工智能也为数据管理工作提供自动化、智能化、高效化、精准化的智慧支撑。
相较数据安全，算法安全成绩仍处于刚“兴起”阶段。阿里安全资深算法专家何源引见，虽然人工智能技术曾经在污染网络环境、知识产权保护、生物辨认、线下安防等安全工作中发挥着越来越大的助力作用，让安全更智能，但其本身也面临着鲁棒性不够、可解释性差、技术滥用等安全风险。比如，算法破绽的存在可以针对图像检索系统展开攻击，导致非原创图片逃逸检测，对网站安全与商家权益形成要挟。
在“新基建”浪潮驱动下，人工智能产业即将迎来与传统产业深度交融的机遇期。田天表示，在安全可控的核心支撑下，可以高效的贡献人工智能的技术优势，重塑产业智能，完成从“单点自动化”到“深度智能化”的价值提升。比如，在金融范畴，人工智能的创新交融正为金融场景打造出一个兼具决策分析与感官感知的“智慧大脑”。在安全可控的支撑下，“智慧大脑”可以拓展全新才能边界，完成更好的决策左脑与愈加安全牢靠的感知右脑。
在安全可控的助力下，“深度智能”时代正将加速到来，人工智能在各行业范畴的运用广度和深度将不断得到拓展。田天表示，第三代人工智能经过释放“数据、知识、算法、算力”的全新维度，为完成安全可控的新一代人工智能提供能够，让人工智能走出“浅层智能”的温馨区，重塑全新的产业价值。（文/光明网记者 李政葳）
来源： 光明网 |
