欧盟加大力度打击AI生成儿童性虐待内容：定为刑事犯罪

欧盟委员会宣布，为跟上技术发展步伐，计划更新现有立法，将人工智能生成的图像和其他形式描绘儿童性虐待（CSA）的深度伪造行为定为刑事犯罪。

除了将AI生成的儿童性虐待内容定为刑事犯罪外，欧盟还提议将直播儿童性虐待行为也定为新的刑事犯罪。此外，拥有和交换“恋童癖手册”也将被定为犯罪行为，这是欧盟为加强预防CSA所采取的一项举措，旨在提高对网络风险的认识，并支持受害者举报犯罪行为（包括赋予他们获得经济赔偿的权利）。

在提交提案之前，委员会进行了影响评估，认为儿童上网人数的增加和最新的技术发展为CSA的发生创造了新的机会。成员国法律框架的差异可能会阻碍打击虐待行为的行动，因此该提案旨在鼓励成员国加大对“提高认识”的投入，并减少网络儿童性虐待和性剥削普遍存在的有罪不罚现象，并改进当前“有限的”预防CSA和援助受害者的工作。

此前在2022年5月，委员会已经提交了一份单独的CSA相关立法草案，旨在建立一个框架，规定数字服务必须使用自动技术来检测和报告其平台上流传的现有或新的儿童性虐待材料（CSAM），并识别和报告针对儿童的诱拐活动。

随着对AI生成内容和儿童性虐待的关注不断增加，欧盟采取了更加严厉的立法措施。人们担心AI技术可能被滥用于制作CSAM，并使执法部门在识别真正受害者时面临更大的挑战。因此，欧盟立法者正在重新审视相关规则。

欧盟议会和理事会的共同立法者将决定提案的最终形式。尽管在此之前有争议的私人信息扫描计划引起了分歧，但今天的CSA打击提案可能会更容易获得通过。

根据委员会的说法，一旦就如何修订现行的打击CSA指令达成一致，该指令将在欧盟官方公报上公布20天后生效。届时，该法案将为预防人工智能产生的儿童性虐待行为和保护受害者提供重要保障。