巴西南圣卡塔琳娜州的一名内科医生因在治疗过程中偷拍儿童患者的性图像,并持有1万3千张图片而被捕。这名男子将图片保存在谷歌公司的云服务中,通过该公司的非法内容监控系统被发现。他的账户被立即封禁,保存的数据被提交给检察院的网络犯罪部门,他也被关进了监狱。当地媒体于9月11日报道了这一事件。

负责的检察官吉列尔梅·巴尔比耶罗表示,为了遏制这类犯罪,与在虚拟世界中活动的企业的合作是必不可少的,并解释说:“如果没有谷歌的举报,这个事件可能不会被发现。”

谷歌利用人工智能持续监控,并和国际机构的合作,来发现用户的非法活动,并向当局报告犯罪情况。2021年,该公司在全球范围内报告了300万起性虐待内容。根据该公司的透明度报告,2023年7月至12月期间,有24万9千个账户因传播儿童性虐待内容(CSAM)而被封禁。其中也包括了该医生的在线账户和电子邮件地址。他目前是一起关于CSAM的刑事诉讼的被告,但调查细节是保密的。

在网络领域,儿童性虐待案件逐年增加,2023年巴西国内有7万1867起举报,比之前的最高记录2008年增加了28%。谷歌的顾问律师卡米拉·罗莎表示,这类犯罪跨越国界,巴西是报告数量最多的10个国家之一。

谷歌识别出的CSAM(儿童性虐待内容)会被报告给美国的非营利组织“全国失踪与受剥削儿童中心(NCMEC)”,并通报给全球的执法机构。该公司结合了人工智能的自动检测工具和训练有素的审查人员的监控,来进行非法内容的检测和应对。

由于谷歌没有进行调查的权力,一旦发现明显违反政策的内容,就会向当局报告,并随后根据法院的决定采取行动。巴尔比耶罗检察官解释说:“谷歌将个人云中的数据转移到加密的云中,只有持有加密密码的正式调查人员才能访问并分析资料。”

据该检察官称,NCMEC正在追踪犯罪图像,并使用一种称为“哈希”的代码来识别和追踪非法内容。如果儿童性虐待图像广泛传播,这些犯罪将在联邦调查局的支持下,由联邦司法机构进行调查。如果访问受到限制,则由州检察院或市警察进行调查。

在巴西南圣卡塔琳娜州医生的案件中,发现了有关非法活动的信息,并已发送至该州检察院的网络犯罪部门。2023年11月24日,检察院对医生执行了搜查和扣押令,扣押了多个电子设备。

该州网络犯罪部门的调查不仅包括针对儿童的性暴力,还包括对公共财产的犯罪、腐败和银行欺诈。到目前为止,已经冻结了超过400万雷亚尔的资金,并发出了127份搜查和扣押令。