AI帮助打击儿童性虐待:它可以自动检测在线图片并适应多国法律

近日,英国团队发明了一项新的技术,用人工智能帮助检测并阻止网络上涉及儿童性虐待的图像和视频。

该技术由剑桥的互联网观察基金会研发,为实现该AI检测系统,研发团队的21名成员每天要花数小时浏览并标记网络上的儿童性虐待图像和视频。仅去年一年,该团队就确定了 15万个带有儿童性虐待图像链接的网页。他们根据这些内容创建了一个庞大的数据库,并最终发明了自动检测儿童性虐待图像的系统。

该系统可以从20多个维度来详细分析涉及儿童性虐待的图片和视频,例如年龄、性别、图像中发生的具体动作等,以确定该图像中的行为是否违法以及违法的严重程度。

通过细节分析,该系统将能够更好地评估网络上的虐待类型,并确定犯罪行为是否正在发生变化。并且,通过该系统,人们能够知道发生了多少特定类型的虐待事件以及受害者的年龄分布情况。该系统还能够分辨哪些类型的虐待最常被哪些网站。

长期以来,虐待儿童在很多国家成为严重的社会问题,由于虐待儿童常发生于家庭之中,往往并不容易被发现。随着互联网技术的发展和普及,网络上的儿童虐待尤其是性虐待内容逐年上升。美国法律要求,当科技公司在自己的平台上发现虐待儿童相关的内容,必须向国家失踪和受虐儿童中心报告。据媒体报道,去年,该机构收到了2140万份来自科技公司的关于儿童虐待的报告,这是有史以来报告数最多的一年。

此前,一些科技公司也有过用人工智能技术检测儿童性虐待图像的先例。其难点在于,不同的国家对于儿童性虐待的法律规定不同,它们使用不同的分类方法来判定儿童性虐待行为。因此,当用一套系统对网络平台上的图像进行检测时,由于这些图像来自不同的国家,系统就很难做出判定。

此次英国团队发明的这个人工智能检测系统解决了法律差异的问题。该系统通过调整参数,可以自动将图像和视频与澳大利亚、加拿大、新西兰、美国和英国的规则和法律相匹配。并且,该团队正在研究更多国家的法律,让该系统在国际上有更大的适用范围。目前,已经有二十个国家被列入该团队下一步研究的名单。

谷歌的一位发言人表示,该系统对于打击儿童性虐待意义重大。“跨司法管辖区的分类工具将有助于非政府组织、企业和立法者识别政策和法规的差异,并有望带来更好的立法结果。”

综合/编译:南都见习记者李娅宁

发表评论

邮箱地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据