Instagram连接了庞大的恋童癖网络-华尔街日报
Jeff Horwitz and Katherine Blunt
Instagram，这个备受欢迎的社交媒体网站，由Meta平台拥有，帮助连接和推广一个庞大的网络账户，公开致力于未成年性内容的制作和购买，根据《华尔街日报》和斯坦福大学以及马萨诸塞大学阿默斯特分校的研究人员的调查。
恋童癖者长期以来一直在利用互联网，但与那些为对非法内容感兴趣的人提供服务的论坛和文件传输服务不同，Instagram不仅仅是托管这些活动。它的算法还会推广这些活动。《华尔街日报》和学术研究人员发现，Instagram会连接恋童癖者，并通过出色的推荐系统引导他们找到内容销售者，这些推荐系统擅长连接那些分享利基兴趣的人。
尽管对于大多数平台上的用户来说是看不见的，但Instagram上的性感账户对他们的兴趣毫不掩饰。研究人员发现，Instagram让人们可以搜索明显的标签，比如#pedowhore和#preteensex，并将他们连接到使用这些术语来宣传出售儿童性材料的账户。这些账户经常声称是由孩子们自己经营，并使用明显性感的用户名，包含诸如“为你小荡妇”之类的词语。
在Instagram上提供出售非法性材料的账户通常不会公开发布，而是发布内容“菜单”。某些账户邀请买家委托特定行为。一些菜单包括儿童自残视频的价格和“儿童与动物进行性行为的图像”，斯坦福互联网观察所的研究人员发现。以合适的价格，儿童可以进行面对面的“见面会”。
未成年人色情内容的推广违反了Meta建立的规则以及联邦法律。
在回应《华尔街日报》的提问时，Meta承认其执法行动中存在问题，并表示已成立了内部工作组来解决提出的问题。“虐童是一种可怕的犯罪，”该公司表示，并补充说，“我们正在不断调查积极防范这种行为的方法。”
Meta表示，在过去两年里已关闭了27个恋童癖网络，并计划进行更多清除。自收到《华尔街日报》的提问以来，该平台表示已封锁了数千个将儿童性化的标签，其中一些帖子数量达到了百万，并限制了其系统推荐用户搜索已知与性虐待有关的词语。该公司还表示正在努力防止其系统推荐潜在的恋童癖成年人互相联系或互动。
斯坦福互联网观察所主任、Meta的首席安全官Alex Stamos在2018年之前表示，即使是明显的滥用行为也需要持续的努力才能控制住。
“即使是一支只有有限访问权限的三人学术团队都能找到如此庞大的网络，这应该让Meta警觉，”他说，并指出该公司比外部人员拥有更有效的工具来绘制其恋童癖网络。“我希望该公司重新投资于人类调查员，”他补充道。
由于围绕儿童色情内容的法律非常广泛，甚至在公共平台上公开推广这种内容的调查在法律上是敏感的。
在其报道中，《华尔街日报》咨询了在线儿童安全方面的学术专家。斯坦福大学的互联网观察站是该大学网络政策中心的一个部门，专注于社交媒体滥用，制作了一份独立的定量分析，分析了Instagram的功能，帮助用户连接和查找内容。
《华尔街日报》还联系了UMass的Rescue Lab，评估了Instagram上的恋童癖者如何融入在线儿童剥削的更大世界。两个实体使用不同的方法，都能够迅速识别大规模推广犯罪性虐待的社区。
研究人员建立的测试账户查看网络中的一个账户后，立即收到了“为您推荐”的建议，其中包括据称销售和购买儿童色情内容的账户，以及链接到平台外内容交易网站的账户。仅仅遵循其中几个建议就足以让测试账户充斥着性感化儿童的内容。
斯坦福互联网观察站使用与未成年性行为相关的标签，找到了405个销售研究人员标记为“自制”的儿童色情材料的卖家，或者据称是由儿童自己经营的账户，有些声称他们只有12岁。根据通过网络映射软件Maltego收集的数据，这112个卖家账户共有22,000个独特的关注者。
未成年性内容创作者和购买者只是致力于性化儿童内容的更大生态系统中的一小部分。Instagram上的恋童癖社区中的其他账户聚集了支持恋童癖的模因，或者讨论他们接触儿童的情况。曾在Instagram儿童安全倡议上工作过的现任和前任Meta员工估计，存在主要用于关注此类内容的账户数量高达数十万，甚至数百万。
Meta发言人表示，公司积极寻求删除这类用户，仅在一月份就因违反其儿童安全政策而关闭了49万个账户**。**
“Instagram是通往互联网上更明显的儿童性虐待地点的入口，”UMass Rescue Lab主任布莱恩·莱文（Brian Levine）说道，该实验室研究在线儿童受害情况并构建取缔工具。莱文是2022年为美国司法部研究机构国家司法研究所撰写的一份报告的作者，该报告涉及互联网儿童剥削。
据估计，Instagram拥有超过13亿用户，尤其受青少年欢迎。斯坦福大学的研究人员发现，在其他规模较小的社交平台上也存在一些类似的性剥削活动，但他们表示，在Instagram上的问题尤为严重。他们在一份定于6月7日发布的报告中写道：“这些买家和卖家网络最重要的平台似乎是Instagram。”
社交媒体平台和执法部门的努力主要集中在搜索已知在网络上传播的儿童色情图片和视频，即已知的儿童性虐待材料（CSAM）。美国非营利组织“失踪与被剥削儿童国家中心”与执法部门合作，维护了这些图片和视频的数字指纹数据库，并提供了一个平台，供互联网公司共享这些数据。
互联网公司的算法会将其平台上发布的图片的数字指纹与该列表进行对比，并在检测到它们时向中心报告，这是美国联邦法律要求的。2022年，该中心收到了3190万份儿童色情举报，其中大部分来自互联网公司，比两年前增加了47%。
Meta旗下的应用拥有超过30亿用户，包括Instagram、Facebook和WhatsApp，在未加密的情况下能够检测到这些已知图片。Meta占据了向中心提交的儿童色情举报的85%，其中包括来自Instagram的约500万份。
Meta的自动筛查已知儿童剥削内容的功能无法检测新图片或宣传它们的销售。阻止和检测此类活动不仅需要审查用户举报，还需要跟踪和破坏恋童癖网络，目前和前员工以及斯坦福研究人员表示。目标是让这些用户难以互相联系、找到内容和招募受害者。
这样的工作至关重要，因为执法机构缺乏资源来调查NCMEC收到的举报的一小部分，UMass的Levine说。这意味着这些平台有责任防止社区形成并使儿童性虐待行为变得正常。
斯坦福发现，Meta在这方面的努力比其他平台更困难，这既因为执法力度不足，也因为设计特性促进了合法和非法内容的发现。
斯坦福团队在Twitter上发现了128个提供出售儿童性虐待材料的账户，比他们在Instagram上发现的数量少了三分之一，而Instagram的整体用户基数远远大于Twitter。团队发现，Twitter没有像Instagram那样推荐这类账户，并且他们更快地将这些账户关闭。
在其他受年轻人欢迎的平台中，Snapchat主要用于直接消息，因此不会帮助创建网络。斯坦福报告称，TikTok的平台似乎不会出现“这种类型的内容泛滥”。
Twitter没有回应评论请求。TikTok和Snapchat拒绝置评。
斯坦福互联网观察所的首席技术专家David Thiel说：“Instagram的问题归结于内容发现功能，推荐主题的方式以及平台在搜索和账户之间的链接上的依赖程度。”曾在Meta负责安全问题的Thiel补充说：“对于这种增长密集型的东西，你必须设置一些防护措施，以便仍然在名义上是安全的，而Instagram没有做到这一点。”
该平台一直在努力监管一项基本技术：关键词。在Instagram上，标签是内容发现的核心部分，允许用户标记和查找特定社区感兴趣的帖子，从广泛的主题如#时尚或#nba到更狭窄的主题如#刺绣或#洞穴探险。
在许多情况下，Instagram允许用户搜索其自身算法可能与非法内容相关的术语。在这种情况下，用户会看到一个弹出屏幕警告称“这些结果可能包含儿童性虐待图像”，并指出这种材料的制作和消费会对儿童造成“极大伤害”。屏幕为用户提供了两个选项：“获取资源”和“仍然查看结果”。
在回应《华尔街日报》的问题后，Instagram删除了用户查看可能产生非法图像搜索结果的选项。该公司拒绝透露为什么提供了这个选项。
Instagram上的恋童账户在厚颜无耻和肤浅的掩饰活动之间混合，研究人员发现。某些表情符号被用作一种代码，比如地图的图像——代表“对未成年人有兴趣的人”，或者“奶酪披萨”的一个，它的缩写与“儿童色情”相同，根据马萨诸塞大学的莱文说。许多人宣称自己是“热爱生活中的小事物。””
这些账户自称为“卖家”或“s3ller”，许多在简介中说明他们的首选付款方式。这些卖家账户经常通过说他们“在第14章”或“31岁”后跟一个反向箭头的表情符号来传达孩子所谓的年龄。
马萨诸塞大学的莱文说，一些账户显示出性交易的迹象，比如一个展示一个少女脸上写着“妓女”字样的账户。
一些声称出售自制性内容的用户表示他们是“无面孔”的——只提供颈部以下的图像——因为过去有顾客跟踪或勒索他们的经历。其他人冒险，收取高价的图像和视频，可能会通过展示他们的脸来揭示自己的身份。
许多账户显示用户手臂或大腿内侧有切割疤痕，其中一些引用了过去的性虐待经历。
即使在Instagram的恋童社区中与一个账户有一瞥，也可能触发平台开始推荐用户加入。
Adams说她只花了几秒钟访问了这个账号——一个拥有超过10,000名粉丝的支持乱伦的表情包集合，然后向Instagram举报，然后试图忘记这件事。但在接下来的几天里，她开始听到震惊的家长们的声音。她说，当他们查看Adams的Instagram资料时，由于Adams与该账号的联系，他们被推荐了“乱伦幼儿”。
Meta发言人表示，“乱伦幼儿”违反了其规定，Instagram在执行上出现了错误。该公司表示，计划在其新的儿童安全工作组中解决这类不当的推荐问题。
与大多数社交媒体平台一样，Instagram推荐的核心是基于行为模式，而不是将用户的兴趣与特定主题匹配。这种方法在增加推荐的相关性方面是有效的，并且对于分享一组狭窄兴趣的社区来说，它最可靠地起作用。
从理论上讲，在Instagram上的恋童癖社区的这种紧密性应该使Instagram更容易地绘制出网络并采取措施来打击它。《华尔街日报》此前审查的文件显示，Meta过去曾做过这种工作，以压制其认为有害的账号网络，比如在1月6日国会大厦骚乱后推广选举非法化的账号。
像其他平台一样，Instagram表示它会征用其用户来帮助检测违反规定的账户。但这些努力并不总是有效的。
根据众多儿童安全倡导者在过去一年提交的大量报告的审查，有时用户关于涉及儿童裸露的举报几个月都得不到回应。
今年早些时候，一位反对恋童癖的活动人士发现了一个Instagram账户，声称属于一个出售未成年性内容的女孩，包括一篇声明：“这个少女已经准备好迎接你们这些变态了。”当活动人士举报该账户时，Instagram回复了一条自动消息，称：“由于我们收到的举报数量很大，我们的团队尚未能够审核此帖子。”
当同一活动人士举报另一篇帖子，其中一个少女穿着暴露，配有具有图解性的性描述时，Instagram回复说：“我们的审核团队发现[该账户]的帖子并不违反我们的社区准则。”回复建议用户隐藏该账户以避免看到其内容。
一位Meta发言人承认Meta收到了这些报告但未采取行动。该发言人表示，对公司处理儿童性虐待举报的审查发现，软件故障导致大量用户报告无法处理，公司的审查人员未能正确执行平台规则。该公司表示已经修复了其举报系统中的错误，并为其内容审核员提供了新的培训。
即使Instagram删除了出售未成年性内容的账户，它们也不总是消失。
根据平台的内部准则，违反社区标准的惩罚通常针对的是账户，而不是用户或设备。因为Instagram允许用户运行多个关联账户，系统很容易规避有意义的执行。用户经常在他们的个人简介中列出“备用”账户的句柄，这样如果Instagram将他们移除，他们可以简单地继续向同一组关注者发布内容。
Instagram的人工智能驱动的标签建议并没有接收到这个信息。尽管拒绝显示该服务名称的结果，但平台的自动填充功能建议用户尝试在名称后添加“男孩”和“CP”等词的变体。
在回应华尔街日报的查询期间，该公司试图禁用这些标签。但是几天后，Instagram再次推荐了该服务名称的新变体，这也导致了出售所谓未成年性内容的账户。
在公司首次清理由斯坦福大学和华尔街日报提出的账户后，UMass的Levine查看了Instagram上一些剩余的未成年卖家账户。与以往一样，查看其中一个账户会导致Instagram推荐新的账户。Instagram的建议正在帮助重建平台自身安全人员正在试图拆除的网络。
一位Meta发言人表示，他们目前正在建立系统来防止这类推荐。Levine称Instagram在推广恋童癖内容和账户方面的角色是不可接受的。
他说：“拉动紧急刹车。经济利益是否值得给这些孩子带来伤害？”
请写信给Jeff Horwitz，邮箱为[email protected]，以及Katherine Blunt，邮箱为[email protected]
发表于2023年6月8日的印刷版上，标题为“Instagram链接恋童网络”。