Apple 将审查 iCloud 相册和 iMessages 应用

作为扩大儿童安全计划的一部分,苹果公司将会添加旨在审查 Messages 应用程序和 iCloud 相册的功能。

苹果公司审查的目标是色情内容, Messages 将会为儿童用户接触的色情图片做模糊处理并通知他们的父母,但这不会使苹果公司获知消息内容本身。

与此同时,苹果公司会审查任何上传到 iCloud 相册中的内容是否与儿童色情(CSAM)有关。在上传相册前,Apple 会针对该图像与内嵌在系统中的一个已知CSAM(儿童色情)哈希值集进行匹配。

如果配对成功,设备就会创建一个加密安全凭证,该凭证与图像一起被上传到 iCloud Photos,一旦配对数量达到一定阈值,苹果就能解密该内容。苹果公司还采用了名为“神经网络哈希算法”的技术,使简单的裁剪修改无法规避苹果的检测。

苹果公司解释说,利用另一项称为阈值秘密共享的技术,该系统确保安全凭证的内容不能被苹果公司解密,除非 iCloud 照片账户跨越已知CSAM内容的阈值。该阈值的设置是为了提供极高的准确性,并确保每年错误标记一个特定账户的几率小于一万亿分之一。

这些被检测到的图像最终会经过人工审查,以确认是否存在匹配。此后苹果公司将会封禁用户 iCloud 账户,并向 NCMEC 发送一份报告,并与美国各地的执法机构合作。

这项功能将在 iOS 15, iPadOS 15, watchOS 8 和 macOS Monterey 的更新中推出,并首先在美国施行。

参考资料

Expanded Protections for Children(Apple)

发表评论

电子邮件地址不会被公开。 必填项已用*标注