请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
搜索

人工智能时代下的算法共谋,该如何应对?

算法共谋是指利用一系列特定的指令实施相应的协同行为,从而达到垄断市场、排除、限制竞争等效果。人工智能的发展与运用,使得算法共谋的达成更加简单、隐蔽,而其影响也将较之于传统共谋更为深远。但同时,传统的反垄断法共谋规制理论在应对人工智能的算法共谋时,存在识别和归责方面的不足,需要监管者借助技术手段以及确立适当的认定与归责原则加以弥补。


(本文首刊于《中国审判》2023年第18期)






本文作者

孙 凯

民事审判庭 法官助理

法律硕士






本文作者

鲍海跃

民事审判庭 审判员

法学硕士



一、缘起:人工智能引发算法共谋之迭代



“算法”是指机械、系统的操作列表,以输入为起点,以输出作为最终目的。而“共谋”源自于美国反托拉斯法上的术语,其内涵等同于我国《反垄断法》中的“垄断协议”,是指市场经营主体通过协同行为垄断市场、排除、限制竞争。







所谓“算法共谋”,是指利用一系列特定的指令实施相应的协同行为,从而达到垄断市场、排除、限制竞争等效果。作为反垄断领域的新兴概念,“算法共谋”一词最早由牛津大学法学教授Ariel Ezrachi和美国田纳西大学法学教授Maurice E.Stuckle于2015年提出。随后在2016年出版的《算法驱动经济的前景和风险》中,二位教授直言不讳地阐述了对算法共谋的担忧:“……数据驱动下的算法能迅速监控竞争对手的价格,并统一地调整价格,日益透明的价格看似对消费者有利,却讽刺性地以伤害其而告终……”


所谓“莫为言之不预”,从Topkins固定海报产品价格案到Uber被指控与司机达成纵向共谋,再到RealPage涉嫌操纵学生住房市场价格,算法共谋正是贯穿其中的草蛇灰线。2017年,OECD主持召开主题为“算法与共谋”的数字经济工作圆桌会议,针对算法共谋之于未来市场的影响展开了深入的研究与探讨,并形成《算法与共谋:数字时代的竞争政策》为题的背景报告,标志着反垄断法学界和业界对于算法共谋的强烈关注。而最近,以ChatGPT为典型代表的生成式人工智能的诞生与发展,则更进一步引起了反垄断法学界和业界对于算法共谋的强烈关注。


相较于传统的机器算法,人工智能同时具备海量数据的处理反馈能力以及自我学习的能力。这意味着经营者可以依托人工智能,构建一系列特定算法,该算法可通过自我学习和自我决策,从而不断优化并最终构建一套最优的定价策略,从而帮助经营者实现利润的最大化。由于定价的最优策略数量有限,因此在人工智能执行定价策略的过程中,市场中的竞争者们很可能在未经过联络意思的前提下,通过人工智能反复地、持续地强化预测和理解其他类似主体的行为,自发地达成共谋。该种经由人工智能而自发达成的共谋显然较之传统反垄断法意义上的共谋行为更加棘手,盖因其呈现如下几个特点。







二、聚焦:人工智能时代的算法共谋呈现出新特点



首先,达成共谋的门槛更低。传统共谋的形成,除了依赖经营者本身以外,还需要具有特定结构的市场环境。该类市场环境通常呈现份额集中、经营者数量有限、进入门槛及壁垒较高、集中化程度较高等特征。而人工智能引导的算法共谋则突破了市场条件的限制,使得即便是在正常、开放的市场环境中,经营者之间或是经营者与生产者间的共谋也能通过最优策略的趋同而得以轻易实现。


最典型的例子便是亚马逊的天价图书案。在图书销售市场中,正是由于亚马逊的各个商铺使用了趋同的算法,使得旗下平台上各个商铺对于同一本图书的定价竞相涨价,最终单价竟飙涨到了惊人的23698655.93美元。


其次,共谋揭示的难度更大。这主要体现在两个方面:第一个方面是人工智能算法的模糊性。基于对知识产权的保护,人工智能的算法开发者存在故意隐藏算法工作的可能,同时,人工智能所拥有的自主学习能力具有天然的不确定性,即所谓的“算法黑箱”,这将使得共谋的意思处于一种模糊的、不确定的状态。第二个方面是算法共谋运作过程的隐蔽性。算法本身运行于虚拟的网络空间,与现实主体联系较弱,若经营者们利用人工智能达成算法共谋,则算法间的互动交流(即算法集会)将使得共谋行为脱离协议实体,从而增加了共谋行为的隐蔽性。


最后,共谋影响的范围更广。基于数字市场上产品差异化策略和动态定价等特点,经营者们一旦通过人工智能达成算法共谋,则可以迅速地将影响扩大到不同的产品或服务所在的市场,并以人工智能定价策略的趋同性,不断进行动态定价,持续性地提高产品或者服务的价格,且在同时限制、排挤现有或潜在的竞争者,使得消费者的需求无法得到满足,被迫转而为垄断价格买单。大数据“杀熟”现象便是此类影响的产物。经营者利用人工智能获取及反馈消费者的消费信息,利用信息差为不同的消费者标定不同的价格,从而追求利润的最大化。


三、检查:传统反垄断法体系对算法共谋的规制尚存短板



人工智能自发引导的算法共谋所呈现出的上述特征,对于传统反垄断法共谋规制理论发起了全新的挑战。







传统反垄断共谋规制理论主要构建在“合理规则”——“本身违法原则”的理论基础之上,其主要从协议主体、限制竞争行为及反竞争后果三个要素对协议行为进行考察。若市场竞争主体间存在建立协议的联络意思,并进一步达成了反垄断法所列举的排除、限制竞争的行为,且该些行为最终严重限制相关市场的竞争,或损害了消费者的利益,则该协议行为构成反垄断法意义上的共谋。我国以《反垄断法》《电子商务法》《国务院垄断委员会关于平台经济领域的反垄断指南》等构成的反垄断共谋规制体系,便是该种理论在司法实践中的具体表现。


传统反垄断共谋规制理论对于共谋的认定,遵循市场经营主体之间的意思联络——一致行为——反竞争后果的逻辑链条,其关键因素便在于“人”。然而,在人工智能引导的算法共谋中,“人”的参与因素被削弱。人工智能的自我学习与自主决策机能,将导致共谋的行为不依靠市场经营主体间的意思联系,而是通过算法集会形成协议行为。在此过程中,市场经营主体是否存在共谋的故意,甚至是否有市场经营主体参与其中,都被隐藏在了技术壁垒之后。且即便假设市场经营主体间存在联系的故意,基于市场最优决策的有限性,如何证明协议行为是市场经营主体间的算法共谋,而非人工智能自主学习后导致的巧合性后果,也存在相当的复杂性。


最后,人工智能自发的算法共谋若不存在实体的市场经营主体参与,但其确实造成了严重限制市场竞争或损害消费者利益的后果,其归责主体又为何?若将市场经营主体作为归责主体,则是否有违法律的谦抑性原则?若将人工智能作为归责主体,则人工智能是否能成为法律主体?若将人工智能的制造者作为归责主体,则非市场经营主体的制造者能否成为适格的责任主体?这些也是传统反垄断理论需要给出回应的问题。


四、探索:人工智能时代下算法共谋的规制路径



人工智能技术的日新月异对法学理论与法律规制提出了新的要求,监管者需要维持谦抑审慎的态度,将算法审查作为人工智能时代共谋规制的重要任务。


一是建立完善的算法透明化机制。


算法透明化作为“算法黑箱”的应对行为,在很大程度上能够满足反垄断执法过程中对于算法的知情权。通过建立算法适用预先报备制度强化事前监管,同时通过互联网孵化平台等方式整理特定的算法代码、逻辑架构大数据,以便在算法共谋发生时,可以更快实现甄别。


二是适度扩展主观联络的认定范畴。


人工智能自发的算法共谋需以算法集会作为技术条件。而算法集会本身便是人工智能算法间的联络意思。因此,可以适当放宽反垄断法理论在人工智能算法共谋认定时的主观因素考量,将此类算法间的联络意思作为协议的联络意思。


三是明确归责主体。


在算法的开发者与共谋行为的受益者并非同一主体时,可以先评估算法共谋的获益结构,然后根据实际参与主体的获益大小以及对人工智能的控制程度进行综合判断,进而判定算法的开发者是否需要承担连带责任。




来源|上海市宝山区人民法院

作者:孙凯、鲍海跃

责任编辑:张巧雨

声明|转载请注明来自“上海高院”

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册