观安信息CTO胡绍勇：安全不是人工智能发展的枷锁丨2021金水科创大会

6月8日，“2021金水科创大会”在郑州市金水区浩大开幕。本次大会由中共金水区委、金水区人民政府主办，郑州金水科教园区管委会结合36氪承办。大会汇聚科技范畴的众多资深学者，以及200多家国内互联网知名企业和行业龙头企业代表。本次会议聚焦信息安全、人工智能、互联网经济等热点范畴，共探科创产业发展将来，共促郑州科创产业集聚优势。

同时，大会约请到了河南省委网络安全和信息化办公室、河南省发展改革委员会、河南省迷信技术厅、河南省工业和信息化厅、河南省地方金融监督管理局、郑州市人民政府作为指点单位。

观安信息CTO胡绍勇在会上分享了本人对于人工智能的数据安全管理的看法，他以为，数据是这个时代最关键的消费要素，但也正是由于数据隐私性的成绩，所以才会出现许多安全隐患。我们需求在人工智能的动态发展过程中来完成对整个数据安全风险的可管、可知、可控，也要充分发挥安全对人工智能发展的赋能作用。

观安信息CTO胡绍勇

以下为观安信息CTO胡绍勇演讲实录，36氪整理编辑：

尊崇的各位指导、各位来宾，我是观安信息的胡绍勇，很荣幸明天可以参与这次大会，明天跟大家分享的议题是人工智能的数据安全管理。

提到人工智能，绕不开往年的几个热词：新基建、新要素、数字化转型。明天给大家分享四块内容，一是当后人工智能的发展面临的数据安全应战，二是引见一下当前全球人工智能数字安全管理现状，同时提出我国人工智能数据安全框架，以及一些典型场景的数据安全处理方案。

一、数字经济时代的人工智能发展趋向

去年疫情以来，数字新基建、数据新要素等一系列新的发展曾经影响了大家的生活，这些都离不创始新的基础设备建设。同时，一些创新的人工智能运用场景产生了新的数据，这些数据也成为了我们人工智能发展的一个核心动力和弱小驱动。

人工智能核心的三要素是算力、算法和数据。当前，在线新经济产生了很多新的数据。往年我们国家提出了数字化转型，包括云计算、大数据、5G都带来了新的变革。数据成为了更关键的消费要素，但同时也面临很多安全要挟，比如往年5月份美国供油管道公司的讹诈病毒。其实这些年企业和政府单位都面临着安全的要挟，比如窃取或是被讹诈病毒加密等等。

当前，人工智能的发展从探求期进入到长大期，这外面有几个特点：人工智能的专业技术迅速打破，产业生态进一步成型，人工智能场景向深层拓展、深化到我们生活和工作的方方面面。

在人工智能发展过程中，我们也看到人工智能加剧了数据安全的风险，比如新的数据安全风险上的成绩，甚至是一些人身安全或者社会安全上的成绩。

二、人工智能片面新发展的数据安全应战

人工智能典型场景下的安全风险，一是数据采集阶段，近几年国家工信部处理了一些违规APP，这些违规的APP多数是采集了个人的一些隐私信息。同时，国家在个人隐私和数据安全方面也加强了法律约束。

二是数据处理阶段，典型成绩包括数据污染、数据投毒攻击以及数据偏向和歧视。早期的人脸辨认能够对白种人或者亚洲人的辨认效果比较好，但是对于非洲人、黑人的辨认效果比较差，这就触及到数据偏向和歧视成绩。再举第二个例子，如今很火的自动驾驶汽车、无人驾驶，假如当它面临投毒攻击或者定向攻击，或者它本身的算法出现成绩的时分，很容易导致车祸出现人身损伤，这也是和我们的传统计算机安全不太一样的地方，人工智能的数据安全出现成绩的时分能够会引发一些社会安全上的成绩。

在流通阶段，人工智能也有它的特点。数据是人工智能的核心要素，在数据处理阶段也产生了一个生态圈或者产业链，从数据的采集到数据的标注，不同厂商之间的数据在不断流通。这外面也会形成数据交互、数据孤岛这样一些成绩，同时也会产生数据跨境的成绩，就像后面提到的无人驾驶汽车，国外自动驾驶汽车能够要把它的一些数据传到国外的服务器，但是这些数据能够又会触及到国内一些个人隐私的成绩，甚至会触及到一些涉密地方道路的隐私成绩，这能够也会影响到国家的一些安全。

所以，前一段工夫大家会看到特斯拉预备在国内建造数据中心，就是为了不将这些敏感数据传输到国外。包括在后面的处理阶段也会面临一些抗样本攻击等典型的人工智能攻击场景。

三、全球次要国家人工智能管理现状

再看次要国家人工智能的管理现状。美国提出了《人工智能公开数据计划》，欧盟在《数据安全法案》外面将一些特定的人工智能场景列入其中。一些国际化组织也都在一些安全倡议和伦理规范外面强调了人工智能和数据安全的成绩。

美国、欧盟和中国的管理现状存在一些差异。美国更多是经过一些场景化的立法，比如说在自动驾驶、人脸辨认，在各个州先提出场景化的法案；欧盟是在一致的法律框架下针对一些典型的，像自动驾驶、人脸辨认等重要场景提出了数据安全相应的条款；我们中国目前还在加快推进数据安全立法包括人工智能的立法，不管是《个人隐私法》还是《数据安全法》当前曾经进入到草案阶段。

四、全球人工智能数据安全前沿技术方向与实际

那么，人工智能管理的思绪和框架又是怎样的？

首先，由于安全是为整个发展做出赋能的，而不是为人工智能创造一个枷锁。所以，我们要在人工智能的动态发展过程中来完成对整个数据安全风险的可管、可知、可控，也要充分发挥安全对人工智能发展的赋能作用。

我们提出四项管理准绳：一是促进和鼓励人工智能的发展，保护主体权益，由于人工智能很多算法在运用过程中要采集一些个体的数据；二是注重技术赋能，经过一些技术手腕处理人工智能风险成绩；三是聚焦行业场景，比如说人脸辨认或者自动驾驶等场景，进入很多场所的时分要刷码或者人脸辨认，要关注这些商场和企业有没有将辨认后的人脸数据妥善保管，是不是存在泄露风险，这些都是典型场景；四是从标准上和法律法规上推进多元参与以及加强国际合作。

基于准绳和思绪我们提出了四点管理途径：一是加快完恶人工智能数据安全管理的顶层设计；二是聚焦重点场景人工智能数据安全的标准体系，包括标准计划、通用标准、行业标准以及地方标准；三是不断提高人工智能相关企业本身的数据安全防护才能，这个防护才能不光是技术的，还包括组织建设、流程建设、人员建设；四是打造片面平面的人工智能数据安全才能供给。

五、人工智能场景数据安全技术处理方案

第一，我们在去年上海举行的世界人工智能大会上发布了人工智能数据安全检测平台，这个平台可以完成对企业人工智能运用平台的评价，包括数据质量评价、数据差异评价以及人工智能运用的底层平台的破绽评价，同时也可以针对人工智能的一些技术、数据采集环节，比如敏感数据、成见数据的检测停止相应的数据安全风险检测。

第二，我们也发布了针对无人驾驶数据安全的处理方案。无人驾驶场景存在的数据安全风险首先是传输和存储环节敏感数据被窃取的风险，二是数据过度采集和越界运用，如今可以把无人驾驶比喻成大型的智能终端，你经过的一些地方的三维图片曾经被人工智能车辆采集到了。这个场景下，我们关注的一是加强车载的防控以及完成分域的管理，二是PKI或者数据通讯加密，三是提升全体车联网的网络态势才能。

第三，针对人脸辨认的数据安全处理方案。这更多是由于企业外部本身的网络安全防护才能不足，有泄露敏感数据的风险。人脸辨认有能够在一些场景下辨认精准度比较低，也存在数据安全风险。基于这点，首先需求企业加强核心人工智能平台的准入，包括认证和控制，确保全体数据链路的安全。同时，也要注重数据共享安全，由于很多人脸辨认数据、训练过程中的数据能够不是一家产生的，会由多家公司提供或者共享。最后，要完成全体可追踪溯源。

第四，针对工业互联网数据安全的处理方案。工业互联网多个层次之间都存在数据安全，因此，工业互联网企业要优先建立好数据防泄露圈层，二是对关键核心数据包括数据库完成数据安全审计，三是经过数据脱敏完成数据安全的交换和共享；四是经过人工智能技术，基于下面的子系统停止全体数据安全的分析和数据安全的预警，来完成全体工业互联网企业数据安全。

以上是我明天分享的次要内容，谢谢各位！