ChatGPT、Midjourney等AI应用的出现,极大地集中了议会的注意力。
欧洲议会议员周四向欧盟范围内监管ChatGPT和其他人工智能系统迈出了关键的第一步,布鲁塞尔希望迅速实施这些系统。
议会公民自由和消费者保护委员会以压倒性多数投票支持了一项立场文本,呼吁限制人工智能在欧洲的使用方式,同时仍促进该行业的创新。
该文本将于下个月提交议会全体成员通过,然后与欧盟成员国就最终法律进行谈判。
立法者称周四的投票是“历史性的”,并希望这将导致“世界上第一个关于人工智能的规则”。
他们的文本接替了两年前欧盟委员会提案的主线,但建议增加对生物识别监控、情绪识别和预测性警务人工智能系统的禁令。
它试图将ChatGPT和Midjourney等生成式AI系统归入需要特殊透明度措施的类别,例如通知用户输出是由机器而不是人类完成的。
议会的文本还寻求有关什么构成“高风险”人工智能应用领域的其他标准,这可能会缩小该指定的范围。
委员会提议的清单涵盖了关键基础设施、教育、人力资源、公共秩序和移民管理领域的人工智能。
但欧洲议会议员希望达到一个额外的门槛,要求对安全,健康或基本权利的威胁也被视为在起作用。
企业看到创新威胁
代表主要科技公司的欧洲行业游说团体CCIA表示,虽然“议会对文本进行了一些有用的改进”,但它正在“放弃欧盟委员会提案中基于风险的结构”。
人工智能模型成倍增加。
“欧盟激励其他司法管辖区的最佳方式是确保新法规能够促进而不是抑制有用的人工智能应用程序的发展,”CCIA欧洲政策经理Boniface de Champris表示。
欧洲消费者组织虽然支持议会在其文本中注入“加强对消费者的保护”,但与委员会相比。
“尽管人工智能可以在很多方面改善我们的生活,但有充分理由担心人工智能系统也会伤害消费者。必须适当保护人们免受这些新技术的风险,“该组织副主任Ursula Pachl说。
虽然欧盟的立法工作已经进行了一段时间,但自去年年底ChatGPT突然出现以来,人工智能的潜在和潜在危险直到最近几个月才进入公众意识。
此后,Midjourney和DALL-E等图像生成AI引发了在线热潮,以制作看起来像梵高或穿着高级时尚羽绒服的教皇,而AI音乐网站则以其产生类似人类的歌声的能力给人留下了深刻的印象。
“自过去两三个月以来,几乎每天都打开电视就足够了,看看这个文件对公民有多重要,”欧洲议会文本的主要欧洲议会议员之一德拉戈·图多拉奇(Drago Tudorache)说。
欧洲和世界其他地区的政策制定者越来越担心这项技术如何被用于造假,愚弄人们并影响公众舆论和选举。
这促使埃隆·马斯克(Elon Musk)和一些研究人员敦促暂停,直到法律框架能够赶上。
在委员会的提案中,人工智能公司将被要求保持对其算法的人工控制,提供技术文档,并为“高风险”应用程序建立风险管理系统。
每个欧盟成员国都有一个监督机构,以确保遵守规则。
欧洲议会议员还希望人工智能公司对非法内容和可能用于训练其算法的受版权保护的作品采取保护措施。
他们还希望防止抓取互联网上发布的照片用于训练算法,除非获得相关人员的授权。
原文标题:EU lawmakers take first step towards AI curbs
原文链接:https://techxplore.com/news/2023-05-eu-lawmakers-ai-curbs.html
作者:Marc BURLEIGH
编译:LCR |