7月14日，深圳市人大常委会办公厅发布关于《深圳经济特区人工智能产业促进条例（草案）》（简称“《草案》”）公开征求意见的公告。这是全国人工智能范畴的首部地方性法规，共七章八十三条。《草案》从基础研讨与技术开发、产业基础设备建设、运用场景拓展等方面提出了促进人工智能产业发展的措施。此外，《草案》还明白了深圳人工智能产业的管理准绳和措施，确立多元主体协调共治的管理机制，设立人工智能伦理委员会，并明白规定制止侵犯个人隐私和个人信息保护、损害国家安全和社会公共利益、算法歧视等一系列行为，划定了行为底线。
关于《深圳经济特区人工智能产业促进条例（草案）》公开征求意见的公告。图自深圳市人大官网
中国社科院研讨员段伟文以为，此次深圳出台《草案》，作为一种地方的先行先试，将对国内其他城市的地方立法探求起到示范作用。而在国家立法层面，清华大学教授梁正表示，法学界的专家意见是，如今还不是人工智能综合立法的合适阶段。目前国家在人工智能范畴以专门立法为主，兜底性地划定界限，而《草案》则是以促进发展为主的综合性地方条例，二者在将来能够构成很好的互动。
1 推进公共数据开放，引导开放更多运用场景
《草案》第一章为总则，第二章到第五章详细规定了人工智能产业发展的促进措施。在基础研讨与技术开发方面，《草案》从制度建设和人才培育层面推进处理基础研讨薄弱的成绩。提出注重基础研讨和关键核心技术打破，鼓励科技资源开放共享等。在产业基础设备建设方面，《草案》要求，加强数据开放平台、算法开源平台、算力开放平台、检测及认证平台等基础设备建设。值得留意的是，《草案》第二十九到第三十六条都与数据相关，鼓励搭建支撑人工智能发展的绿色数据中心，构建公共数据资源体系，推进公共数据的创新运用。《草案》明白，市政府应建设公共数据开放平台，建立人工智能运用范畴的公共数据开放清单和调零件制，推进公共数据分类分级有序开放。《草案》还特别提到，超出公共数据开放清单范围的，“数据主管部门该当在安全可控的前提下，在法律法规允许范围内最大限制开放相关数据。”在运用场景拓展方面，《草案》支持人工智能技术在医疗、教育、失业、养老、文明、住房保障等民生服务范畴的创新运用，引导开放更多运用场景。关于产品准入机制，《草案》明白，要加快低风险的细分范畴的产操行政答应，允许经过测试、实验、试点等方式，支持低风险人工智能产品和服务先行先试。《草案》特别提到，鼓励医疗机构建立临床实验伦理审查的疾速审核机制与互认机制，加速人工智能医疗器械的临床实验。就如何保障人工智能产业的成绩，《草案》也指出了详细的措施。对于人工智能企业，在金融支持、科技保险、知识产权等方面做好保障。在人才培育方面，《草案》提出要吸引国际高端人才，建立海外人才储备库，并为人工智能范畴人才提供多方面的保障和便利。《草案》还提出“加强宣教”，要求相关部门加强向公众的教育科普，协助公众顺应人工智能发展带来的生活方式、失业方式以及伦理道德等方面的影响。
2 专家解读管理机制：包容慎重、矫捷管理、协同共治
在一系列促进产业发展的措施之后，《草案》第六章对人工智能产业管理准绳与措施做了规定。
《草案》确立了政府规范、行业自律、企业自治、社会监督的多元主体协同共治的管理机制。人工智能企业应停止伦理安全风险评价，鼓励人工智能企业设立伦理风险岗位或者委托专业机构，展开前款工作。
梁正以为，在协同共治中，政府规范的次要作用是“保底线”，经过法律法规做兜底工作，次要采取预先追责的方式；但行业发展产生的很多新成绩，经过法规也许不好判别，这时分就需求行业自律，制定行业标准规范；企业外部也需求有良好的管理体系、合规体系、风控体系建设；最后，社会监督层面将来能够次要会触及运用的环节，监督技术滥用或误用的成绩。后面政府、行业、企业这三个主体在管理中发挥次要作用，社会监督作为外部的一种补充。
段伟文关怀社会监督将来如何落地的成绩。《草案》第七十七条提到，社会组织和个人可以向市场监管部门、行业组织等告发违规行为。“比如在人脸辨认等运用场景下，普通民众到底能不可以停止监督，这个值得观察。”他说。
延续我国《新一代人工智能管理准绳》中的矫捷管理准绳，《草案》明白采用矫捷管理方式，相关部门该当展开人工智能发展的监测和评价，组织展开人工智能社会实验，研讨人工智能发展对个人和组织的行为方式、社会心思，失业结构、支出变化、社会公对等方面的综合影响，并及时调整产业发展政策。《草案》的一个重要的制度创新是由深圳市政府设立人工智能伦理委员会。人工智能伦理委员会需求实行下列职责：制定人工智能伦理规范和安全标准管理制度；对数据垄断、算法歧视、隐私保护、伦理道德等重点范畴展开监测与研判；评价、监督人工智能企业的伦理规范执行状况等。
在梁正看来，成立人工智能伦理委员会就是矫捷管理的一个很好范例，表现了一种灵敏的、柔性的管理方式。“在市一级的政府成立人工智能伦理委员会，是一个比较开拓性的思绪。目前伦理委员会次要是在一些企业中设立，作为企业外部管理或风险防备的机制。这次深圳由政府设立伦理委员会，从它的职责能看出，这不是一个强监管和惩罚性的机制，更多的是停止一些风险的预判和辨认，以及制定白皮书等去做引导。这的确能起到一个很好的引领示范作用。”他说。
段伟文评价，人工智能伦理委员会的职责中提到了数据垄断、算法歧视、智能滥用等重点范畴，非常详细，而且是对现有成绩的及时应对，落地性很强。
此外，《草案》还明白了对人工智能采取分级监管的机制。高风险的人工智能运用该当采用事前评价和风险预警的监管形式；中低风险的人工智能运用该当采用事前披露和预先控制的监管形式。
段伟文以为，分级分类监管的准绳，是对人工智能产业的动态管理的表现。
不过，《草案》并未表明风险级别应如何界定。梁正以为，下一步需求对“高风险”和“中低风险”做界定。他给出了一种评价方式，从后果的严重程度和风险发生的概率这两个维度来评价风险等级。以自动驾驶为例，风险发生的概率低，但一旦发生事故能够会形成严重后果，这样的运用要采取预防性管理。而像人脸辨认这样的运用，风险发生的概率很高，但在普通的普通消费场景，危害没有自动驾驶那么严重，因此要采用及时管理的方式。假如风险发生的概率和后果的严重程度都高，应采取优先管理方式；假如两个维度都低，则应该经过激发主体的意情愿识停止处理。对于人工智能技术中的算法，《草案》明白要对算法停止分类规制。其中特别提到，对于公共决策范畴以及触及公共利益的商业范畴的算法，该当采取公众可了解的方式停止算法阐明。《草案》还明白了人工智能范畴的“制止行为”，包括侵犯隐私、危害国家安全、危害人身安全、歧视用户、大数据杀熟等。此外，《草案》明白制止相关组织和个人实施垄断和不合理竞争等行为，并强调了相应的法律责任。
段伟文以为，《草案》中的国际管理、风险评价、加强宣教等条款都值得关注。其中，国际管理谈到了要推进构成具有广泛共识的国际人工智能管理框架和标准规范，阐明此次《草案》出台的影响力能够将超出国内范围。风险评价则罗列了五项详细的评价内容，让伦理安全风险评价比较容易落实。加强宣教除了教育培训科普外，还特别强调了伦理道德和社会价值观的引导。
3 立法意义：为其他城市做示范，与国家立法做互动
作为国内人工智能范畴首部地方性法规草案，该草案对于人工智能范畴立法实际有何意义？据深圳市人大常委办公厅发布的《关于<深圳经济特区人工智能产业促进条例（草案）>的阐明》（简称“《阐明》”）引见，在人工智能范畴立法方面，国际上以欧盟和美国为代表的国家次要采取分行业、分散式的人工智能立法形式，而国内尚未出台针对人工智产业发展停止全方位规范的专门性立法。通读深圳此次出台的《草案》全文可以发现，其内容大多是对人工智能范畴全体的框架性规定，对人工智能的细分行业触及较少。对此，《阐明》停止了解释——该《草案》是基础性立法。“在结构上侧重制度体系的搭建，在内容上不作过细的规定，为与相关细分范畴的专门立法做好衔接预留空间，同时保持立法的波动性。”此外，《阐明》引见，在立法思绪上，该《草案》的另外两个指点准绳分别是创新性和促进性。创新性体如今“发挥先行示范区立法的引领作用，为人工智能国家层面立法先行探路”，促进性的含义则是现阶段更需求对产业发展予以支持、呵护，因此《草案》围绕“促进人工智能产业发展”这个核心目的，在内容上注重表现“片面促进与合理必要的规范”。
促进性异样体如今《草案》总则中的“包容慎重监管”条款，明白了监管应按照鼓励创新的准绳。段伟文以为，相比欧盟严苛的“慎重监管”管理方案和而美国宽松的“无须同意式监管”管理方案，包容慎重表现了中国近二十年来对数字和网络产业的一向政策。
在他看来，此次深圳出台《草案》，作为一种地方的先行先试，具有积极意义。深圳的探求反映了人工智能的一个特点，即人工智能范畴出现新的场景运用的成绩、监管的成绩，实践上是随着技术和产业不断发展而涌现的，在人工智能产业较发达的地区，对于立法的需求就更为迫切。在国内，北京、上海、杭州等城市的人工智能产业创新都比较集中，深圳的探求对国内其他城市能起到很好的示范作用。此外，他以为，《草案》还能够加快新兴行业将来立法的速度。例如，《草案》第七十二条为算法规制，规定对于公共决策范畴以及触及公共利益的商业范畴的算法，该当采取公众可了解的方式停止算法阐明。“算法规制实践上是很新的东西，但在这里的规定是非常明白的。”在对其他城市立法的引领示范之外，深圳的《草案》能否会对国家层面在人工智能范畴的立法提供阅历？
对于这个成绩，梁正以为，这次深圳的《草案》作为一个综合性的地方条例，可圈可点。它涵盖了人工智能范畴的技术研发、产业发展、运用场景、数据等很多方面，次要内容是促进发展。而在国家层面，目前，法学界的专家意见是，如今还不是国家对人工智能产业综合立法的合适阶段。由于人工智能范畴面临的成绩比较新，假如综合立法的话很容易失于笼统。如今我国与人工智能范畴相关的《数据安全法》、《个人信息保护法》，都是专门立法，在网络安全方面，针对不同场景的标准规范也在逐渐出台，所以国家层面目前是以专门立法为主，兜底性地划定界限，而地方性条例更多以促进发展为主。
“我觉得将来会构成一个很好的互动，国家层面立法把红线设置好，地方性条例多采用综合性方式，做一些促进发展、先行先试的探求。在真正的前沿实际中反应要快，不能提早就把什么都管‘死’，这也是我们讲的矫捷管理理念。”梁正补充道。他还强调，一切的立法目的都是促进发展。新一代的人工智能规划基本的指点准绳明白，创新和管理是两个轮子，都是为了更好地发展。“一边走得稍微快一点，另一边就要跟上，是这样一个思绪。”他说。
采写：南都见习记者李娅宁 |
