西班牙多名少女被AI做假裸照敲诈 滥用AI伤害青少年问题引关注｜封面深镜

封面新闻记者 马晓玉 边雪

生成式人工智能（AI）狂飙，在技术赋能下多项产业革新之余，它如同一把双刃剑，使造假也变得更加轻而易举。

快速进化的AI生成技术，让生成假照片、图像/视频换脸更加真假难辨。近年来，不少人唯恐天下不乱，借用P图造谣生事，或者进行敲诈勒索。

据英国广播公司24日报道，西班牙发生一起利用AI的深度伪造技术制作少女裸照的事件，疑犯不仅将裸照在校园内及网络上传播，更有甚者利用裸照进行勒索。

至少有28名11岁至17岁的少女成为受害者，当地警方展开调查后，锁定嫌犯为11名未成年男孩。此事引起外界震惊，再次引发人们对AI技术被不法利用的隐忧。



AI应用程式ClothOff官网截图。图源西班牙媒体。

受害女孩不敢踏出家门半步

仍有“裸照”陆续流出

事件最开始由当地知名妇科医生阿迪布揭露，她的两名14岁和17岁的女儿都是受害者。阿迪布在社交媒体上发布了视频，希望引起大众关注，呼吁受害女孩和家属一同报警。

她表示，女儿称有人用应用程式制作了裸照，“那些合成照片超级真实，这令人非常不安和愤怒”，照片在网上疯传，还有同学留下带有恶意的评论，女儿看到后感到困扰，照片甚至有可能已经传到儿童色情网站上了。

阿迪布说：“这些假裸照如果被传到色情网站，将给这些孩子造成心理创伤，性犯罪反而会让受害者感到羞耻。”

另一名受害少女的母亲戈梅兹向当地媒体表示，一名男孩试图用假裸照勒索她的女儿，在遭到拒绝后，男孩便发了一张该女孩的“裸照”。

经警方调查，至少有11名当地的男孩被确定参与了制作上述裸照，并在社交软件WhatsApp和Telegram上传播。部分男孩还是受害少女的同学。裸照的流传对受害人造成极大的伤害，部分女孩甚至“不敢踏出家门半步”。她们的父母还专门成立了一个组织来保护孩子们。

据西班牙留学生小郭透露，尽管有了阿迪布的爆料和警方的介入，罪犯仍旧十分猖獗。到目前为止，平台上仍有新的照片陆续流出。小郭表示：“已经有部分家长起诉这个软件的公司，但是还没有后续。”

小郭告诉记者：“我们了解到这些信息的话当然会担心，但实际上担心没有任何用途，在目前的网络环境下根本不可能做到照片完全私密化。”

嫌疑人年龄在12岁至14岁之间

量刑成为难题

西班牙国家警察称，目前正在展开调查，他们听取了7名受害者的陈述，已经确定了可能参与的一些未成年人。律师费尔南多·坎布雷斯警告说，这些照片的作者可能面临最高九年的监禁，此外还要承担民事责任。不仅如此，这些罪行也会影响传播图像的人，即使他们不是事实的作者，但都与侵犯个人隐私的犯罪有关。

但另一方面，涉嫌使用AI合成裸照的嫌疑人年龄在12岁至14岁之间，如何给他们定罪是个难题。尽管裸照涉及儿童色情内容，但西班牙现行法律并没有具体规定AI色情图片的量刑问题；只有超过14岁才会面临刑事指控，而部分嫌犯还不满14岁。

西班牙警察网络犯罪部门儿童保护相关负责人哈维尔·伊兹奎尔多表示：“未成年人能够轻松使用这项技术是我们面临的新挑战。”

多起案例连发

西班牙掀起反性骚扰浪潮

阿尔门德拉莱霍市长拉米雷斯表示，这起事件“又是一起性别暴力案件”。在稍早之前，西班牙足协主席卢比亚雷斯被指控未经同意亲吻女足世界杯冠军埃尔莫索，受到外界挞伐。而本月14日，一名男子在街头性骚扰正在连线直播的女记者，遭到警方逮捕。

如今又爆发散布造假的未成年女孩裸照事件，也令西班牙民众感到气愤，并掀起一阵反性骚扰和性别暴力的浪潮。有人表示：“这会让我们想到自己的孩子。”也有人表示，嫌犯的父母必须受到谴责：“他们应该做些预防措施，譬如收走孩子的手机，或者规定孩子的手机里哪些应用程序可以用、哪些不能用。”

在此次事件中有几十名未成年人受到影响，但只有不到一半的未成年人向警察局提出投诉。阿迪布呼吁女孩们不要害怕报告此类行为，“你是受害者，你不应该为发生的事情负责，要将这些事情告诉你的亲戚朋友们，他们会帮助你，而不必保持沉默或羞愧。”

到底是什么在支撑未成年人犯罪？

一群青少年决定使用程序生成未成年人的裸照进行敲诈勒索，那么，到底是什么工具在支撑这种犯罪？据悉，这些青少年先是用一个名叫ClothOff的AI应用程式来制作裸照，而后再通过社交平台进行病毒式传播。

据了解，ClothOff主要利用深伪技术，其口号则是“脱掉任何人的衣服，免费脱掉女孩的衣服”，用户需要花费10欧元，上传正常着衣的照片，就可以立马得到25张裸体的照片，效果极其逼真。即使不付费，也可以通过邀请其他朋友或等待三天来免费使用，其唯一的要求是该人独自出现在图像中，取景或姿势都无关紧要。

此外，要使用此工具，ClothOff在服务条款中指出，用户必须年满18岁或获得父母、法定监护人的许可。

令人惊讶的是，ClothOff在服务条款中警告说，互联网用户“对生成的图像负全部责任”或“负责不将应用程序用于非法或未经授权的目的”，例如创建令人反感的内容和侵犯知识产权。它还强调，它“不主张对结果内容的所有权”，因为该服务“旨在用于个人和非商业用途”。

同时，在页脚中，ClothOff强调“我们不保存任何数据”“我们对使用网站创建的图像不承担任何责任”。这些条款还受西班牙宪法的保护。



ClothOff网站底部声明对产生的图像不承担任何责任。

AI存在于我们的日常生活中，无论是生成文本、提出个性化建议、进行学术工作、编辑照片还是创建图像，以及众多选项。在大多数情况下，AI以积极的方式帮助人类完成许多任务的补充，但是，它也有可能违反法律，其带来的不良后果也应当引起各方警惕。

“用户利用AI换脸技术伪装，导致被伪装人的肖像权等权利被侵权，或导致其他人的感情和财产大量受损时，平台在未尽到合理审核义务、未有效规制该类行为发生的情况下，需要承担一定的帮助侵权甚至直接侵权法律责任。”泰和泰律师事务所律师刘青告诉封面新闻记者，但是，除非平台故意为之或协助诈骗人进行诈骗行为，否则很难认定平台构成诈骗罪。

“用户在使用AI技术介入的软件或互联网产品时，一方面应当注意勿恶意利用AI技术进行不法行为，另一方面也应注意识别、核对交流方的真实身份，切勿轻信表象，在需要转账或花销采购时谨慎考虑。”刘青指出，若民众遭遇诈骗应当第一时间报警寻求警方的帮助，注意保留相关材料以供警方尽快掌握案情，严惩犯罪分子。“此外，一旦发现自己的肖像被盗用或者‘被换脸’，我们应当第一时间保留证据，以便后续维权；同时还可以向网络平台运营商提出投诉，要求强制下架侵权图片或视频；最后，也可以提起人格权诉讼，用法律武器维护自己的合法权益。”

【如果您有新闻线索，欢迎向我们报料，一经采纳有费用酬谢。报料微信关注：ihxdsb，报料QQ：3386405712】