苹果公司出台了一项遏制儿童色情的新计划。以下是该计划引发争议的原因。

本月初，苹果宣布将采取更多措施限制儿童性虐待内容 (CSAM) 的传播。尽管 CSAM 是非法的，但苹果为打击这一祸害而采取的措施却遭到了越来越多的技术专家、倡导者、活动家、学者和律师的谴责。

苹果宣布了什么？

有三项新功能将于 2021 年某个时候实现。其中一项功能是扫描通过 iMessage 应用发送的照片，以查找色情内容。家长可以选择加入一个系统，如果他们的孩子发送或接收色情内容（如裸照），他们会收到警告。虽然家长看不到这些材料，但如果孩子决定查看这些材料，他们会收到通知。

另一个即将推出的功能是，如果人们的照片库与 Apple 的云服务同步，Apple 可以检测人们手机上的 CSAM 材料。上传到 iCloud 的照片和视频将被扫描，以查找与美国国家失踪与受虐儿童中心 (NCMEC) 数据库中的照片的匹配情况。如果匹配情况足够多，Apple 管理员将收到通知，并采取后续措施，例如禁用帐户。

最后，Siri 和搜索将为搜索 CSAM 的人们提供干预和资源，并为询问 Siri 如何提交 CSAM 报告的人们提供指导。

反应如何？

苹果的最新举措得到了计算机科学家 David Forsyth、密码学家 Mihir Bellare 和 Benny Pinkas 的认可，也得到了儿童保护组织的赞扬。NCMEC 首席执行官 John Clark 在一份声明中表示：“苹果扩大对儿童的保护将改变游戏规则。”

但有超过 7,000 人签署了一封公开信，抗议此举，其中包括众多学术和技术专家以及前苹果员工。信中说：“该提案引入了后门，有可能破坏所有苹果产品用户的基本隐私保护。”在一份泄露的内部备忘录中，苹果软件副总裁表达了对公众如何接受这一提议的担忧，称“不少人担心其影响。”

由于存在太多混乱，苹果不得不发布一份额外的常见问题解答来解决人们的担忧。他们写道：“让我们明确一点，这项技术仅限于检测存储在 iCloud 中的 CSAM，我们不会同意任何政府要求扩展它的要求。”苹果还发布了一份名为《苹果儿童安全功能的安全威胁模型评估》的附加文件。

爱德华·斯诺登 (Edward Snowden)、Epic 首席执行官蒂姆·斯威尼 (Tim Sweeney) 和政治家布里安娜·吴 (Brianna Wu) 也表达了他们的担忧，开放隐私研究协会、民主与技术中心和电子前沿基金会也表达了他们的担忧。

WhatsApp 负责人威尔·卡斯卡特在推特上表示：“苹果公司没有专注于让人们轻松举报他人分享的内容，而是开发了一款可以扫描你手机上所有私人照片的软件。这不是隐私。”

此前，WhatsApp 和 Facebook Messenger 坚决反对让执法部门查看加密信息。

有哪些值得担忧的地方？

苹果将​​自己定位为隐私先锋，通过广告宣传和广告牌提醒消费者苹果将如何帮助他们保护隐私。他们还称隐私是“人权”。但隐私专家表示，这些新功能将使该公司发生重大转变。电子前沿基金会 (EFF) 高级律师兼公民自由主任大卫·格林 (David Greene) 表示：“苹果过去曾表示，它不会搜索用户手机的内容。现在，最大的变化是，这实际上将会发生。”

格林表示，苹果提供一种搜索手机中不良内容的方法，可能违背用户的意愿（因为它适用于上传到 iCloud 的照片），这代表着“苹果与 iPhone 用户关系的重大变化”。他并不是唯一一个对苹果最新声明表示失望的人。约翰霍普金斯大学的密码学家马修格林在推特上写道：“自 1990 年代以来，我们第一次夺回了隐私权。”“今天我们走上了一条不同的道路。”

虽然 Reddit 和 Facebook 等社交媒体网站也使用图像扫描软件来检测裸体，并且法律要求报告在其网站上发现的任何 CSAM，但苹果长期以来一直不愿扫描人们的手机。（社交媒体公司进行的这些扫描还会检查存储在服务器上的文件，而苹果的新业务会检查人们手机上上传到 iCloud 的文件。）

过去，苹果曾表示，他们无法以不侵犯用户隐私的方式在人们的手机上搜索内容。在反对联邦调查局要求在圣贝纳迪诺恐怖袭击枪手的 iPhone 中创建后门的法律文件中，苹果指出，无论请求多么迫切，政府总会提出另一项请求。

格林警告称，这一工具对于民主和非民主政府来说都十分有用，他们可能对苹果在用户手机上检测哪些内容有自己的计划。他还指出，如果这些新功能得以实施，现有的国家法律（如印度法律）将触发，印度法律要求公司采取技术措施检测其他类型的内容，这将赋予苹果新的责任。

该工具可能会被滥用吗？

尽管苹果素以保护消费者隐私著称，但它也向外国政府做出了让步，例如在阿拉伯联合酋长国销售不带 Facetime 功能的 iPhone。

哈佛大学网络法律诊所讲师肯德拉·艾伯特 (Kendra Albert) 表示：“一旦你开发出这类技术和工具，政府最好会礼貌地要求你将检测程序扩展到其他类型的内容，最坏的情况是法院命令。”换句话说，专家们担心苹果的 CSAM 策略可能会成为用户隐私的滑坡。

而且人们的担忧不仅仅在于 CSAM 内容。Albert 指出，从研究到分析，有多种原因可以解释为什么有人的设备中可能存在与恐怖主义相关的内容。他们表示，这可能为“对其他主题进行真正重大的监控”奠定基础。

另一个问题是，用于检测 iMessage 照片中裸露内容的机器学习算法的运作方式。从历史上看，当其他科技公司试图通过算法检测色情内容时，很难实施。在 Tumblr 实施禁令后，沙丘照片被标记，而在 Instagram 上，超重男性和女性的照片经常被标记为不合适。Facebook 的裸体法律经常因其不一致而受到批评。

艾伯特在谈到 iMessage 功能时表示：“苹果通过开发这项功能，基本上已经涉足了一系列有关决定什么是裸露内容或色情内容的重大问题。”他们还指出，这些发展可能会让孩子向父母暴露自己的性取向，或者让同性恋或跨性别青少年面临风险，尤其是如果他们觉得与父母谈论自己的性取向不安全的话。

“如果我面前有一个 12 岁的酷儿，我会告诉他们使用 Signal，”他们说道，指的是一款因强大的隐私保护功能而获得赞誉的加密消息服务。