域外法治 | 欧盟委员会2021年《人工智能法》提案研讨

！

文 | 北京师范大学 吴沈括 胡然

2021年4月，为了加强整个欧盟范围内对于人工智能的运用、投资和创新，欧盟委员会经过了《人工智能法》提案（以下简称“提案”）。提案提出一套人工智能范畴的法律框架，以期对人工智能的运用停止规范和限制，保护人们日常生活和合理权益不受损害。提案不只对人工智能技术，如汽车自动驾驶、银行贷款、社会信誉评分等一系列日常生活中的运用停止规范，还对欧盟执法系统和司法系统运用人工智能的情形提出了相应的规制途径。

值得留意的是，提案作为欧盟在人工智能范畴作出的关键立法，意味着欧盟对人工智能范畴的数字管理提出了新要求，反映了人工智能技术的管理与发展该当在《通用数据保护条例》（GDPR）的有效监管下停止，即按照与《通用数据保护条例》（GDPR）分歧的方式停止一致部署。

提案采用详细法律框架的方式与各成员国实施的协调计划积极结合，以保障公众和企业的隐私安全和基本权益为次要出发点，进一步明白了人工智能在不断更新和发展的同时，该当满足于世界范围内符合社会基本价值观与发展新兴技术两者间的平衡要求，从而使欧洲公众可以加强对人工智能技术所提供的产品和服务的信任。

提案的出台背景与制度设计

在过去的十年里，人工智能技术阅历了疾速的发展，其为经济、社会和文明发展、动力可持续性、更好的医疗保健和知识传播提供了丰富的机会。但同时，这些机会也伴随着潜在风险，如失业、不对等、失业歧视、社会排挤、不知情的监督和操纵等。自人工智能技术问世以来，思索到潜在风险的存在，欧盟委员会在符合欧盟价值观的背景下以提高其技术竞争力为次要目的，持续促进和加强欧盟各成员国在人工智能技术方面的合作。根据欧盟委员会的定义，人工智能技术是指采用官方所列明的一种或多种技术和方法开发的软件，并且可以针对特定人群或详细目的在内容、预测、建议或决议等方面产生一系列影响其交互环境的输入技术。

关于人工智能技术在欧盟的发展现状与前景，欧盟委员会数据执行副主席Margrethe Vestager表示：“在人工智能范畴，公众信任是必须存在的，而对其停止监管和规制是建立这些信任的最佳方式。只要存在具有里程碑式的监管规则，才能确保人工智能值得信任。欧盟对人工智能技术采取的规则将面向将来的创新与提高，并在欧盟公民的安全和基本权益遭到要挟时停止干涉。”基于此，提案应运而生。这一举动表现了欧盟在人工智能范畴积极引领并制定新的全球规范的意图。

提案的总体目的在于为全球范围内人工智能技术的运用与发展制定详细标准，以及为符合道德和法律双重标准的人工智能技术铺平道路，并确保欧盟在此过程中保持技术竞争力，从而有效加强欧洲作为全球杰出人工智能中心的地位，并使得欧洲人工智能技术的发展符合欧盟的总体价值观和规则。

提案明白了适用对象，并指出了几类主体范围，分别为将人工智能系统投放市场或投入运用的供应商、欧盟范畴内人工智能系统的运用者、位于第三国的人工智能系统的供应商和运用者。

人工智能技术的风险分级

显然，欧盟曾经看法到人工智能技术对欧洲价值观、基本权益及准绳的风险影响。提案对人工智能采取了思索风险但总体慎重的方法，将人工智能技术能够带来的风险划分为以下四个层级。

第一，不可接受的风险。此类风险被欧盟以为将会对公民的安全、日常生活和基本权益构成分明要挟，故予以明令制止。如经过操纵人类行为来规避用户自在志愿的人工智能技术或运用程序，最典型的事例是运用智能语音辅助的玩具来鼓励未成年人从事风险行为。

第二，高风险。提案未对人工智能技术高风险的详细含义停止阐明，但将人工智能技术能够发生高风险的覆盖范畴详细归纳为关键基础设备、公民教育、产品的安全组件、公民失业、公共服务、涉权型执法、出出境成绩、司法和民主进程等8类。

提案强调了一切远程生物辨认系统都应被划入高风险的范围。提案要求，部分成员国曾经出台法律对该系统停止限制的，该当与提案所规定的内容保持分歧。关于远程生物辨认系统的制止情形，提案还规定了豁免条款，即准绳上制止在公众可进入的空间和场所内运用远程生物辨认系统，但出于执法目的的某些例外状况，可经司法或其他独立机构授权予以运用，如在紧急状况下搜索失踪儿童，防止火烧眉毛的恐惧主义要挟，侦查、定位、辨认或起诉严重刑事犯罪的犯罪嫌疑人等。同时，提案要求，即便在前述例外状况下，对于远程生物辨认系统的适用工夫、地理范围和搜索的数据库等方面依然必须停止适当限制。

提案还详细规定了存在高风险的人工智能技术在投放市场之前必须实行7种严厉义务。同时，这些义务在人工智能系统投放市场或投入运用前及在整个生命周期内都要接受审查。7种严厉义务详细包括：1.完备的风险评价系统；2.向系统提供高质量的数据集，以将风险和歧视性结果降至最低；3.记录活动以确保结果的可追溯性；4.提供有关系统及其目的的一切必要信息，以供当局评价其合规性；5.向用户提供明晰、充分的信息；6.采取适当的人为监督措施，将风险降至最低；7.高程度的安全性和准确性。

第三，有限的风险。此类风险指包含特定透明度义务的人工智能系统。因特定透明度义务的存在，故当用户运用人工智能系统时，可以看法到其本身正在与人工智能系统停止交互，即在用户知情的状况下提供用户方决议继续运转或中止的权益。

第四，极小的风险。如提案允许无偿运用人工智能视频游戏或渣滓邮件过滤器等运用程序等。绝大多数人工智能系统都属于此类风险。由于欧盟以为这些人工智能系统对公民的权益或安全产生的风险极小，甚至无法产生风险，故提案并未对极小的风险停止干涉。

关于人工智能的管理主体，提案指出人工智能系统的设计和开发该当保证在运用过程中可以遭到公民的监督，故其规定由国家主管市场监督机构监督新规则的适用。将来，可以建立欧洲人工智能委员会来促进新规则的实施和推进人工智能标准的制定，并由其承担各种复杂的义务，如协助国家主管市场监督机构来确保提案的分歧适用、发布与人工智能技术发展相关的意见和建议、在成员国之间搜集和分享最佳实际等。

为此，提案还提出了鼓励不属于高风险范围的人工智能技术的提供者制定行为守则，促进自愿采纳适用于高风险人工智能技术的强迫性要求，并提出了监管沙盒形式以促进人工智能范畴的创新。在人工智能技术规制措施的执行方面，提案规定由各成员国根据不同国情予以严厉执行。此外，提案还规定了企业在8种高风险范畴范围内运用人工智能技术，若违犯规定将处以高达3000万欧元或公司全球年度总营业额2%至6%的行政罚款，最终选择罚金金额更高的处罚方案。

目前，提案曾经提交给欧洲议会和欧洲理事会停止审议和分析。提案若经过，将会在欧盟官方公报上公布20天后失效，并将在失效后的两年内持续适用。鉴于人工智能技术触及大量的利益相关者，且争议性较大，故欧盟方以为提案详细落实于公民理想生活的过程照旧道阻且长。

提案与《通用数据保护条例》

人工智能技术与个人数据长期保持着严密联络。借助于人工智能技术，个人数据可以用来分析、预测和影响人类行为。在许多状况下，自动化的预测和决策不只成本更低，而且比人类的预测和决策更准确、更公正。由于人工智能系统可以避免人类心思的典型错误，并且可以遭到严厉的控制。

《通用数据保护条例》（GDPR）作为欧盟范围内保护个人数据的重要条例，充斥着模糊的条款和开放的标准，而这些条款和标准的运用往往需求平衡互相竞争的利益。在人工智能运用中，技术的新颖性、复杂性及其个人和社会影响的广泛性加剧了不确定性。显然，提案的出台将会在此方面予以明白和规制，从而有效保护个人数据的流通与搜集。

虽然《通用数据保护条例》（GDPR）没有明白提到人工智能一词，其许多条款与人工智能相关，如《通用数据保护条例》（GDPR）允许开发人工智能和大数据运用程序，成功地平衡数据保护和其他社会经济利益，但它对如何完成这一目的仅提供了有限的指点。此外，提案规定了从事人工智能处理的控制者该当采取担任任和风险导向的方法，同时鉴于成绩的复杂性及《通用数据保护条例》（GDPR）中存在的模糊性，不应让控制者单独参与该项工作。

笔者置信，随着提案的问世，欧盟各机构仍能够会继续促进对人工智能运用的广泛讨论，并进一步提供高程度的指示。欧盟数据保护当局需求积极参与和一切利益相关者的对话，包括人工智能系统的控制者、处理者和社会公民，以便根据共同的价值观和有效的技术制定适当的应对措施。当《通用数据保护条例》（GDPR）所规定的数据保护准绳的分歧运用与有效运用人工智能技术的才能相结合时，可以经过提案所指出的预防风险的方式，为人工智能技术在将来的成功运用做出贡献。

提案与欧盟《人工智能白皮书》

2020年2月19日，欧盟委员会发布了《人工智能白皮书》（以下简称《白皮书》），旨在经过提升欧洲在人工智能范畴的创新才能，防备和处理人工智能技术带来的各类风险，从而推进道德和可信任人工智能的发展。《白皮书》就人工智能技术的重要战略意义作出了高度评价，其指出人工智能技术的发展趋向已不可阻挠，将会迎来新一轮数据浪潮机遇。不可否认，在人工智能技术带来大量好处的同时，也意味着能够会对经济和社会形成不波动的影响，如休息力剩余、个人信息失控、在线平台加剧垄断等。而前述成绩仅依托市场力气很难得到及时有效的处理。

为了获得人工智能范畴的抢先地位，欧盟希望经过政策监管与添加资金投入两种措施促进人工智能发展并处理其带来的风险。不言而喻，提案作为《白皮书》中政策监管措施的积极践行，表现了欧盟正在采取实践立法举动对人工智能技术的风险予以规制。而在添加资金投入方面，《白皮书》也指出，将来十年，欧盟每年将吸引两百亿欧元的投资。

笔者以为，提案的出台，是《白皮书》实施计划中的重要一环，预示着欧盟曾经末尾针对人工智能范畴的规制和监管采取了积极的立法措施，并在《白皮书》的引导和指示下不断加强对潜在风险的预警和处理，积极明白提案的规制对象与规制范围。此外，《白皮书》还曾指出为了应对人工智能的应战，欧洲需求一个片面涵盖商业和公共管理的战略部署，除了为人工智能的发展创设有利环境外，还必须基于广泛认可的价值观和准绳来建立全球监管规范和框架，以保证人工智能的发展以人为本。值得留意的是，提案重申了该内容，即符合社会基本价值观与发展新兴技术两者之间该当获得有效平衡，并进一步规定了诸多措施，从而使人工智能技术的不良影响降至最低。

可以预见，将来欧盟将会持续加大对人工智能技术的投资，并会严厉按照提案与《白皮书》的要求停止规制和监管，使人工智能技术在符合欧洲基本价值观的前提下进一步加强其技术研讨与运用实际。

（本文是国家社会迷信基金项目【同意号：15CFX035】的阶段性成果）

本期封面及目录

《中国审讯》杂志2021年第9期

中国审讯旧事半月刊·总第271期

编辑/孙敏 实习编辑/衷烨晗