Meta正在努力从Facebook和Instagram上清除恋童癖者 - 华尔街日报
Jeff Horwitz and Katherine Blunt
Meta 平台花了数月时间试图解决Instagram和Facebook上的儿童安全问题，但它在阻止自己的系统不支持甚至推广大量的恋童账号方面遇到了困难。
这家社交媒体巨头在《华尔街日报》和斯坦福大学以及马萨诸塞大学阿默斯特分校的研究人员披露Instagram的算法连接了一系列致力于未成年性内容的账号后，于6月成立了一个儿童安全工作组。五个月后，《华尔街日报》和加拿大儿童保护中心的测试显示，Meta的推荐系统仍在推广这类内容。该公司已经下架了与恋童相关的标签，但其系统有时会推荐带有微小变化的新标签。即使Meta被告知了问题账号和用户群，它在删除它们方面也表现得不尽如人意。
测试显示，这个问题不仅限于Instagram，还涵盖了Facebook Groups的更广泛范围，包括明确以儿童性化为中心的大型群组。拥有超过30亿全球月活跃用户的Facebook将其群组功能宣传为一种连接具有相似兴趣的用户的方式。
Meta的一位发言人表示，该公司已经在Facebook的搜索结果中隐藏了19万个群组，并停用了数万个其他账号，但工作进展不如其所愿。这位发言人说：“儿童剥削是一种可怕的犯罪，网络捕食者是决心坚定的罪犯。”Meta最近宣布了一项与其他寻求根除这些问题的平台合作的努力。“我们正在积极继续实施我们今年早些时候成立的工作组确定的变化。”
该公司表示，它还推出了其他方法来查找和删除违反其儿童剥削政策的账户，并改进了技术以识别直播视频中的成人裸露和性行为。
加拿大儿童保护中心是一家非营利组织，致力于构建自动化筛选工具以保护儿童，该中心表示，一个Instagram账户网络，每个账户拥有多达1000万粉丝，数月后仍在直播儿童性虐待视频，尽管已向公司报告。华尔街日报的测试显示，Facebook的算法帮助建立了大量专门用于交易儿童性虐待内容的Facebook群组。
Meta表示，其工作组曾一度拥有超过100名员工，已禁止了数千个恋童癖者用于推广或搜索儿童性化内容的标签，删除了恋童癖账户，并为内容审核人员提供了更多指导。该公司表示，正在努力加强软件工具，以限制其算法连接恋童癖者，并帮助定位吸引他们的论坛和内容。
近年来，Meta已将注意力和资源转向人工智能、虚拟现实和元宇宙。过去一年的大规模成本削减导致数百名专注于“高严重性”内容问题的安全员工被裁员，其中包括一些儿童安全专家，据现任和前任员工透露。
Meta表示，公司将继续投资于儿童安全工作，包括指派一个团队来查找并删除平台上的儿童剥削材料。
Meta不愿意大幅限制呈现个性化内容和用户体验的系统，这些系统帮助Meta成为全球最大的社交媒体公司。一位发言人表示，直接限制或删除也与可接受内容连接的功能并不是防止不当推荐的合理方法，公司投资于安全以保持其平台的健康。“我们的系统每天都在帮助数百万人与对他们有意义的有趣和积极的群体联系”，他说，其中包括癌症支持和工作列表。
《华尔街日报》审查的公司文件显示，今年早些时候，Meta的高级管理人员指示公司的诚信团队，该团队负责解决用户安全问题，优先考虑减少“广告商摩擦”和避免“无意中限制我们产品的良好使用意图”的目标。这些目标在《华尔街日报》查看的规划文件中被列为优先于传统的关注有害内容的安全工作，如儿童剥削。
“对诚信团队成员来说，保护社区安全是首要任务，”Meta发言人表示。
像其他科技公司一样，Meta长期以来一直在与其平台上滋生儿童色情或交易儿童性虐待材料进行斗争。《华尔街日报》6月份的文章显示，Instagram不仅容纳了这样的活动，而且其推荐系统还将恋童癖者相互连接，并引导他们找到内容销售者。
在过去的五个月里，对于浏览包含有关儿童令人不安的讨论的公开Facebook群组的《华尔街日报》测试账户，Facebook的算法推荐了其他名为“小女孩”、“漂亮男孩”和“年轻少年仅限”等群组。这些群组的用户在其中以性的方式讨论儿童，发布据称是关于虐待的内容链接，并组织私人聊天，通常是通过Meta自己的Messenger和WhatsApp平台。《华尔街日报》记者没有发表评论，点击任何链接或加入任何聊天。
在一定程度上得益于Facebook的“你应该加入的群组”算法，这类论坛的成员数量可以迅速膨胀。在一个庆祝乱伦的公开群组中，有20万用户讨论诸如一个男人的侄女在9岁时是否“ready”之类的话题，并安排交换据称是关于自己孩子的性内容。在另一个拥有80万成员的用户群组中，管理员分享了学生妹的图片，以宣传一个与女性内衣有关的西班牙语网站。
当《华尔街日报》的研究账户通过用户举报标记了许多这样的群组时，公司经常宣称它们是可以接受的。“我们已经查看过了，并发现该群组并不违反我们的社区标准，”Facebook对一个名为“乱伦”的大型Facebook群组的举报回复道。
只有在《华尔街日报》将特定群体带到 Meta 公司的沟通人员的注意之后，该公司才将它们移除。
此前，该技术曾用于限制 Meta 系统认为可能属于恋童癖的 Facebook 或 Instagram 账户，使其无法找到并联系儿童。Meta 现在的目标是利用该技术阻止恋童癖互相关注并形成志同道合的群体。该技术旨在限制推荐表现出各种可疑行为的账户和群体。
Meta 首次开始禁用得分高于一定可疑行为阈值的个人账户，一位女发言人表示。
今年五月，美国一位外部研究人员记录下一组 Instagram 账户，其中一些拥有数百万粉丝，正在直播儿童性虐待视频。该研究人员向 Meta 和当局报告了这一活动。《华尔街日报》还向 Meta 的沟通人员标记了这些账户，当时该公司表示正在调查。
Meta在十月底表示已经关闭了数百个账号。但是在这个网络被报告给Meta后的五个多月里，与该网络有关的账号仍然经常传播成人色情、儿童性虐待和兽交视频的混合内容，这是由加拿大儿童保护中心的独立研究发现的。
“我们经常在想，‘为什么我们可以在几分钟内找到这些庞大的网络呢？’” 该中心的主席Leanna McDonald说道。“为什么他们那边没有人处理这个问题呢？”
斯坦福互联网观察组的研究人员发现，当Meta关闭它认为与恋童癖有关的Instagram或Facebook标签时，它的系统经常无法检测到，有时甚至会建议使用稍微变化的新标签。在Meta停用#Pxdobait后，它的搜索建议会向任何输入这个短语的人建议尝试在末尾简单地添加一个特定的表情符号。
斯坦福团队向Meta提供了一份受Instagram儿童性化社区欢迎的群组分析。五个月后，其中一些被标记的群组仍在运营。
Meta发言人表示关闭群组是复杂且耗时的。他说，公司自7月1日以来已经删除了16000个违反儿童安全政策的群组。
斯坦福互联网观察组的首席技术官David Thiel表示，这些本不应该那么难以审查。“这些群组很容易通过重叠成员进行排名，而排名靠前的条目绝大多数都有问题，”他说。
尽管Meta允许用户标记有问题的内容，但《华尔街日报》六月的文章显示，它的系统经常忽视或拒绝对儿童性剥削的举报。当时Meta表示已经发现并修复了一个软件故障，该故障导致大量用户举报未能被处理，并且正在为公司的内容审核员提供新的培训。
《华尔街日报》向 Meta 提出关于 Facebook 群组存在恋童癖问题的警告后，四个月过去了，但是《华尔街日报》研究账号提交的关于这些群组的用户举报仍然没有得到及时处理。
Meta 表示，其审核电话的准确率约为 90%。但是该公司在五月份进行的内部审查发现，对于用户举报的未成年人性内容，公司的决定通常是难以解释的。
Meta 聘请外部承包商来协助内容的审核。该公司于六月成立了一个儿童安全工作组，并派遣团队前往孟买，这是该公司最大的外包审核工作人员的中心。
该团队发现，审核员的培训不足，而且 Meta 的 IT 系统有时会显示空白屏幕，而不是他们应该审核的“高危”内容。在其他情况下，合同工被要求审核他们不懂的语言的文本。
Meta 承认了这些缺陷，并表示已经在解决这些问题上取得了进展。
然而，春末至夏季期间，该公司裁减了儿童安全专家和其全球运营团队的大部分人员，该团队负责处理有时包括儿童安全问题的“高危”内容审核。在 Meta 的全球内容审核总部都柏林，超过 130 名员工被裁减，一些北美地区的安全工作被分配给了分配到中欧和中东的员工。
Meta 的发言人表示，被裁减的都柏林员工只偶尔处理儿童安全问题。
《华尔街日报》在六月份发布了调查结果后，Meta表示正在重新考虑在保护儿童安全和给予用户最大自由之间的平衡。
此前，Meta曾拒绝禁止Instagram和Facebook上的标签#CP，这是“儿童色情”的缩写，常被恋童癖者使用，因为这些缩写有时也被用于有关小儿麻痹症和西班牙语中的鸡肉汤的帖子。
Meta限制了该术语以及数千个其他术语的搜索可见性，包括#incest和#lolita。
斯坦福大学研究人员在九月份对Instagram进行的一项审查发现，一些之前在春季识别出的未成年人出售色情内容的账户仍然活跃，并且正在使用先前标签的微小变体来推广非法材料。
Instagram的系统旨在帮助用户自动推荐搜索词的个性化变体。斯坦福研究人员发现，即使是Meta已经禁止的搜索词，这种情况仍在发生。
在《华尔街日报》的Instagram测试账户上，Meta不允许搜索结果显示“Child Links”这个短语，但系统建议了一个替代短语：“儿童色情链接”。在《华尔街日报》的查询后，Meta封锁了该术语后，系统开始推荐新的短语，如“儿童内衣”和“childp链接”。
最近，Facebook的“你应该加入的群组”功能建议的话题包括绑架、与11岁的儿童“约会”甚至给女性下催眠药。
《华尔街日报》报道了关于催眠药群组的情况后，Meta公司将其下架。然而，两周内，一个专门致力于给儿童下催眠药的1800名成员的群组重新出现在Facebook的“你应该加入的群组”推荐中。
在这个群组中，用户发布了用抹布遮住脸的女孩的照片。一名成员发布了一张笑着的小女孩的照片，并配文“适合绑架吗？”其他群成员认为适合。
《华尔街日报》标记了该群组后，Meta也将其下架。
请写信给Jeff Horwitz，邮箱为[email protected]，以及Katherine Blunt，邮箱为[email protected]
发表于2023年12月2日的印刷版上，标题为“Meta正在努力清除其平台上的恋童癖者”。