TikTok上的“Blackout Challenge”正在诱使年轻孩子走向死亡 - 彭博社
Olivia Carville
阿罗约家庭在阿里亚尼的卧室。
摄影师：大卫·卡斯尼克，彭博商业周刊“西西被缠住了！”
这个5岁男孩惊恐的呼喊声在阿罗约一家三居室的密尔沃基板房里的走廊里回荡。那是2021年2月，他在睡前和他9岁的妹妹阿里亚尼一起玩耍。他们的母亲在参加圣经学习班，他们的父亲在地下室的车间里，听不到声音。男孩看着阿里亚尼爬上一个玩具箱，把一根金属狗链绕在脖子上，将扣子挂在衣柜门的铰链上。现在她悬在离地面2英尺的地方，踢着，拼命地抓着她的脖子。
几天后，阿里亚尼被埋葬时穿着一条公主裙和头饰，指甲刚刚涂过，男孩告诉父母发生了什么。他们在玩一个游戏，他说，就像他们在 TikTok 上看到的。
阿里亚尼在她家的照片。摄影师：戴夫·卡斯尼克，彭博商业周刊这个游戏有一个名字：窒息挑战。全世界的孩子们用家庭用品勒颈直到晕厥，拍摄他们在恢复意识时获得的肾上腺素飙升的视频，然后将视频发布在社交媒体上。这是几十年来窒息挑战的现代版本，只是现在它们通过强大的社交媒体算法传递给孩子们，并且触及那些还不足以完全理解风险的年龄。
Arriani的死亡没有受到媒体的报道，TikTok直到数月后才得知。但该公司知道，一些年龄不足以在其应用上创建个人资料的孩子们正在玩黑暗挑战游戏时死亡。在此之前的几周，TikTok的信任与安全团队，负责保护用户并捍卫公司声誉，已经开始调查西西里巴勒莫的一起类似事件。一名10岁的女孩Antonella Sicomero于一月被发现用浴袍腰带悬挂在毛巾架上身亡。Antonella的父母告诉当地媒体她死于在TikTok上玩的“一款极端游戏”。巴勒莫检察官办公室展开了调查，意大利的隐私监管机构要求这家社交网络删除任何在该国无法验证年龄超过13岁的用户，指控其未能遵守让未成年人远离应用的规定。
在 Terminal**上收听The Big Take播客。收听这个故事的音频版本。
信任与安全团队的一小部分成员花了几天时间审查Antonella最近观看的每个视频剪辑，根据两名看过内部报告摘要的团队成员的说法，他们要求匿名，因为未获授权与媒体交谈。视频很多：报告称Antonella，由于新冠疫情关闭了学校，每天在应用上的时间长达10小时。该团队还了解到，像许多同龄孩子一样，Antonella在创建账户时声称自己年龄超过13岁。
团队报告称未发现TikTok的算法推荐了这个挑战给Antonella。团队成员表示，这让高管们松了一口气。制定了一项危机管理策略，将TikTok与这场悲剧拉开距离，将其描述为整个行业的问题。公司告诉记者，这个挑战“从未在平台上成为趋势”，并表示用户是“从TikTok以外的来源了解到它的”。
在过去的18个月中，至少有15名12岁或以下的儿童死于这个黑暗挑战
TikTok一直坚持相同的说法，包括最近向Bloomberg Businessweek发表的声明，因为太小而不适合上社交媒体的儿童继续死亡。根据数据，在过去的18个月中，至少有15名12岁或以下的儿童死于这个黑暗挑战，这些数据是从新闻报道、法庭记录和与家庭成员的采访中整理出来的。Businessweek。在这段时间内，至少有五名13岁和14岁的儿童也死亡。在这些死亡事件发生后的头条新闻中，经常单独指责TikTok，但警察部门拒绝了信息自由法案请求，以查看可能有助于证明哪个平台涉及其中的事件报告。
到阿里亚尼去世时，高管们正在忙于想出如何更好地检测和清除谎称年龄的儿童。没有有效的机制可以阻止未成年用户进入社交媒体平台，这个问题自它们发明以来一直困扰着它们。2021年，据熟悉谈话内容的人士称，TikTok至少与两家面部年龄估计软件提供商会面，这些软件可以相对准确地区分儿童和青少年。这些机器学习程序会扫描面部以获取有关一个人年龄的线索，这些公司表示，这些系统可以在不识别个人或存储任何数据的情况下运行，这可能引起隐私担忧。
TikTok的黑暗面
尽管如此，据熟悉谈话内容的人士称，TikTok的一名高管否决了这些交易。这家公司隶属于总部位于北京的字节跳动有限公司，被世界各地的监管机构和政客指控是中国政府的监视工具，并面临着在美国可能被禁止的风险，目前仍在审查中。据该人士称，这位高管担心使用生物特征数据会引起怀疑，认为中国在监视儿童用户。其他社交媒体平台，包括Twitter、Instagram和照片分享应用BeReal，此后已与这些年龄估计软件提供商合作。
TikTok拒绝就会议发表评论，也没有解释为什么没有采用这项技术。它表示，删除了未成年人的账户，仅在今年上半年就删除了4100万个。但是，据前员工称，拥有超过10亿全球用户的任务是无休止的——只需问问任何年轻的TikTok瘾君子，删除他们的账户是否会让他们在平台上呆上几分钟以上。
刊登在 Bloomberg Businessweek，2022年12月5日。 立即订阅。图片插图：Justin Metz for Bloomberg Businessweek；图片来源：Getty；TikTok美国法律禁止社交媒体公司收集13岁以下儿童的数据，TikTok表示遵守规定。在美国，尝试注册账户的未满13岁的儿童将被转移到一个应用程序的版本，他们可以观看经过策划的内容，而不需要个人资料或看到广告。但TikTok拥有青少年文化——根据一项调查，它是美国最受欢迎的应用程序，被近70%的13至17岁青少年使用，公司意识到孩子们经常谎报年龄以获取成人版本。尽管TikTok不披露用户年龄信息，泄露给New York Times的内部数据显示，2020年多达三分之一的用户年龄不到14岁。
这对公司来说是一个敏感问题，根据一份内部消息文件，公司告诉员工“谈论年轻人，但不要谈论儿童。” 《商业周刊》审查过。 TikTok因允许儿童使用其应用而被罚款，全球各地的监管机构正在调查其年龄验证措施。它还在美国面临错误死亡诉讼，声称其算法向8岁的儿童发送了黑暗挑战。
对于本文采访的二十多名现任和前任信任和安全工作者来说，持续的审查是一个好消息。他们表示公司可以而且应该做更多来防止儿童使用该应用。“TikTok的公关口径是用户安全是我们的首要任务，”一位不愿透露身份讨论公司内部事务的加利福尼亚前信任和安全负责人说。“这是不正确的。增长是第一要务。成为世界上最受欢迎的应用是第一要务。赚更多钱是第一要务。”
2018年，当字节跳动花费约8亿美元将TikTok与音乐应用Musical.ly合并时，它不仅获得了2亿多新用户。它还继承了美国联邦贸易委员会对Musical.ly让年幼儿童使用其应用的调查。多年来，Musical.ly一直无视美国法律，欢迎那些未满13岁的人使用其应用，同时违反了旨在保护青少年免受广告商针对的《儿童在线隐私保护法》。
Musical.ly的联合创始人兼联合首席执行官Alex Zhu在2016年的一次 [TechCrunch会议上承认，该应用的许多顶级用户未成年。但他表示，这是符合法律的，因为这些孩子得到了父母的同意。Zhu说，设定年龄要求没有意义；如果Musical.ly要求输入出生日期，孩子们只会撒谎。尽管这可能是一个诚实的承认，但在2019年，字节跳动被 美国联邦贸易委员会罚款570万美元，当时是美国历史上最大的儿童隐私和解金额。（这笔罚款几乎没有对这家现在 估值为3000亿美元的公司造成影响，很快就被 17亿美元的儿童隐私罚款所超越，这笔罚款是针对 谷歌旗下的YouTube和谷歌的。](https://www.youtube.com/watch?v=ey15v81pwII)
2016年，Zhu在TechCrunch Disrupt London上。摄影师：John Phillips/Getty Images在同一场2016年的会议上，Zhu表示，Musical.ly与其他娱乐应用的区别在于其每日挑战。该公司每天推广一个新挑战，通常会产生超过100万个视频。当Musical.ly并入TikTok时，这些挑战也随之而来。
这些挑战引起了第一波新冠疫情期间被困在家的青少年的共鸣。它们从编排好的舞蹈演变成了家庭联结的潮流，比如在一个视频中展示四代人或给宠物打扮。2020年，TikTok的下载量增加了75%。为了放大这一增长，公司代表联系了影响者，鼓励他们尝试不同的挑战。
当一些挑战变得危险，比如孩子们爬高堆叠的牛奶箱、大量服用Benadryl或破坏学校财产时，TikTok建立了一个“伤害谱系”，以帮助其审核员决定什么内容可以保留，什么内容应该删除，据该公司美国安全负责人Eric Han称。肉桂挑战中，用户吃一勺粉末可能导致轻微肺部损伤，但被认为不太可能造成灾难性伤害，因此信任和安全团队在内容上附上了警告并将其保留。他们还有其他紧迫问题要解决，包括选举诚信、打击仇恨言论以及应对特朗普政府对TikTok提出的国家安全担忧的威胁。
在那种混乱和应用程序爆炸性增长的背景下，挑战变得越来越危险。在摔断头骨挑战中，两个人会诱使第三个人跳起来，然后在半空中绊倒跳跃者，导致有关脑震荡和脑损伤的报道。插座挑战涉及将一枚硬币掉在部分插上电源的手机充电器的插脚上，看着它发出火花，导致学生被指控破坏财产。火焰挑战中，孩子们用催化剂浇在物体上并点燃，有时会导致三度烧伤。而窒息挑战有时是致命的。
阅读更多：
美国卫生官员似乎只研究了社交媒体蓬勃发展之前几年与勒颈游戏有关的死亡案例。2008年疾病控制和预防中心发布的一份报告发现，从1995年到2007年，即第一部iPhone发布的那一年，有82名6至19岁的儿童死于玩勒颈游戏。政府自那时起就没有再发表关于这个问题的研究报告，但研究人员的个别报告表明，社交媒体已经放大了这个问题。
Judy Rogg在她的12岁儿子Erik在2010年玩游戏时死亡之后成为了一个倡导者，当时TikTok还没有被创建。Rogg成立了一个名为Erik’s Cause的非营利组织，帮助学校了解如何应对在线风险，并收集有关勒颈游戏相关死亡的统计数据。她发现自2018年以来，至少有33名不到13岁的孩子死亡。“随着社交媒体的普及，它变得更受欢迎，” Rogg说。“它绝对是一种爆炸。”
这些挑战在各个平台上传播，随着用户规避安全限制，不断演变成新的形式，使用不同的标签和代码词。勒颈挑战有许多名称，从更明显的“勒颈游戏”和“昏厥挑战”，到更微妙的“flatliner”和更晦涩的“space monkey”。孩子们拼错单词以避免被发现，比如“space monkee”或“blackout tr1ck”。今天在TikTok上有一些带有这些标题的视频，展示孩子深呼吸并互相按压胸部直到晕倒，或者用手勒住对方的脖子。你可以看到孩子们暂时失去意识，然后醒来笑着。一个标题说：“最疯狂的感觉。”
超过70%的美国儿童在12岁之前拥有手机，英国8至11岁的一半儿童每天观看TikTok内容，根据两国的调查。TikTok培训其审核团队查找未成年用户，并依靠基于文本的分析来检测个人资料中写有年龄等关键词。它还依赖其他用户来展示他们的账户。公司发言人Mahsau Cullinane拒绝透露更多细节，以避免教会孩子们如何“规避我们的安全措施”。她指出TikTok在2020年推出了一个工具，允许家长监控他们孩子在应用上的活动。
全球约有40,000名审核员负责审核TikTok的视频，其中四分之三是合同工作。据前员工称，每个审核员每天查看大约1,000个视频，每个视频大约需要20秒的审核时间。他们表示，该系统并不针对寻找未成年用户。帖子通过扫描每个上传的视频（仅在今年第一季度就有100亿个视频）的人工智能软件进行筛选，并自动删除任何违反社区准则的内容，如裸露或暴力。如果软件不确定，它会将材料发送给人类进行评估。每个视频如果观看次数超过约3,000次（数字在各国有所不同）也会发送给审核员，确保最受欢迎的内容得到人工审核。13岁以下的孩子不太可能发布违反准则或达到那么多人眼睛的内容，不过。
TikTok的审核员可能正在积极寻找未成年用户的账户，但他们从未删除Arriani Arroyo的账户，在那里她为她的260名粉丝发布视频。她并没有隐藏自己的身份：她的个人资料照片是她9岁时的照片。在她的视频中，她跳舞、笑着和和她的兄弟玩耍。她的最后一条帖子有457次观看。
“这是她最后穿的衣服，”Christal Arroyo说着，从她女儿的梳妆台上拿起一件条纹印花睡衣。她小心翼翼地展开上衣，露出了医护人员剪开的一道锯齿状裂缝。“我不喜欢看它们，”她说着，重新折叠起衣物。“我来闻一闻。” 雨点砸在窗户上，闪电在Arriani的卧室里投射出一道白色的光。Arroyo没有注意到。她闭着眼睛，深呼吸着女儿残留的气味。
Arriani喜欢闪闪发光的东西、指甲油和童话公主裙。她收集贝壳，在她的日记里写下待办事项：“刷牙、挑选衣服、打扮化妆、玩得开心！” 她最喜欢的歌曲是 Girl on Fire by Alicia Keys，她会在早晨的日常中唱这首歌。她在8岁时就想要一部iPhone——“就像美国的每个孩子一样，”她的母亲说。她最喜欢的应用是TikTok。当疫情在2020年关闭了她的学校时，Arriani变得“着迷”于它，Arroyo说。
阿里亚妮和她的兄弟花了几个小时做舞蹈趋势和病毒挑战。有些足够无害，比如嘴里含水直到开始咯咯笑或者只吃红色食物24小时。她们在她去世的那天晚上一起玩耍。“有人评论说，‘父母在哪里？’”她的父亲埃迪·阿罗约说。“嗯，那天，那一刻，我就在家，什么都没听到。”他的儿子下到地下室告诉他阿里亚妮被缠住了。
“我跟着他上去看出了什么问题，就在那里我发现了她，”他指着他儿子的卧室说。她用来上吊的狗绳原本是为一只他们计划购买的小狗准备的。“她无法呼吸，无法呼救，”埃迪说。
有些父母会收拾行李离开，被记忆所困扰。阿罗约一家选择留在阿里亚妮去世的房子，因为那也是她生活的地方。她镶有宝石的Juicy Couture Ugg靴子放在床边；她的粉色睡美人睡眠面罩挂在床柱上。他们本想把她埋在街对面的墓地，透过她闪闪发光的窗帘可以看到那里的地面。但是靠着埃迪的卡车司机工资抚养五个孩子——克里斯塔尔是一名全职预法学生——他们买不起一块墓地。所以，阿里亚妮被埋在了离家七分钟车程的地方。
葬礼之后，阿罗约一家问阿里亚妮的朋友她去世时在玩什么游戏。那时他们第一次听到“黑暗挑战”这个词。
阿罗约家族在阿里亚尼的坟墓前。摄影师：戴夫·卡斯尼克为彭博商业周刊随着更多孩子的死亡，他们阅读新闻报道。约书亚·海莱耶苏斯两个月后在科罗拉多被发现脖子上绑着一根鞋带；他的父亲泽里亚胡恩说，他死于尝试TikTok的晕厥挑战。六月份又有三名儿童死亡，同样导致了晕厥挑战的头条新闻：内特·斯奎尔斯，13岁，在马萨诸塞州；拉泰里厄斯·史密斯小，9岁，在田纳西州；以及詹姆斯·博伊德-格尔杰利，14岁，在澳大利亚。七月份，8岁的拉拉尼·沃尔顿被发现在卧室里上吊，同样是在田纳西州。九月份，海登·罗伯特·克雷格，10岁，在乔治亚州的后院树上被发现上吊。
警方没有公开将这些死亡事件与TikTok联系起来。根据Erik’s Cause创始人罗格的说法，其他死亡可能未被报告。“不幸的是，许多这些死亡被错误地归类为自杀，”她说。证明孩子参与了挑战或找出涉及的平台的唯一方法是官员进行心理尸检——调查孩子的在线网络和友谊圈，以重建他们可能在想什么——或者对他们的设备进行法庭分析，以确定他们在线观看了什么。
在拉拉尼·沃尔顿去世的田纳西州克拉克斯维尔市，警察就是这样做的。根据她父母提起的诉讼，警方表示，对她手机的分析显示，她在死前的一天的一次公路旅行中花了几个小时观看了TikTok上的黑屏挑战视频。（克拉克斯维尔警察局的一位发言人拒绝置评。）在乔治亚州发现海登·罗伯特·克雷格的尸体后，一名警察注意到他附近有一部iPad，根据《商业周刊》看到的一份事件报告，它刷新显示了一个带有血腥刀符号的黑屏TikTok视频。
TikTok亚太地区安全咨询委员会的成员，由外部专家组成，也对黑屏挑战与他们地区的死亡案件联系在一起表示担忧。林芳阮，一位越南儿童在线安全专家，也是该委员会的成员，表示有几名孩子在柬埔寨、菲律宾和越南尝试这一挑战时死亡。其中，一名来自胡志明市的孩子只有5岁。她在YouTube上观看了这一挑战后，用一块纱巾从她的双层床上吊死了。（YouTube的一位女发言人表示，该平台会删除黑屏挑战视频，并禁止“任何会导致窒息或窒息的活动”）
一些委员会成员建议TikTok和其他社交媒体平台建立联盟，阻止危险挑战的传播，熟悉私人会议的人士表示。但是TikTok在硅谷没有太多朋友。根据《华盛顿邮报》的报道，一个潜在的盟友，Meta平台公司，于2021年雇佣了反对研究人员，散布关于TikTok传播危险挑战的新闻报道，而这些挑战实际上起源于Facebook。Meta没有否认这种诽谤活动，以转变公众对其最大竞争对手的看法，而该竞争对手同时也在努力复制其格式和算法。
Cullinane，TikTok女发言人表示，公司“非常认真地对待每一份关于涉及危险行为或挑战的报告。” 每次有人死亡或者有头条新闻出现，TikTok都会成立一个特别小组进行调查。但内部人士表示，这些调查旨在转移责任。每当一个黑屏挑战的头条新闻与TikTok联系在一起时，负责该案件的团队都会找到证据表明死者使用了多个社交媒体平台，并得出结论无法证明哪个应用程序指引他们参与挑战。在某些情况下，团队甚至无法确认是否存在TikTok账户。
在2021年1月安东内拉·西科梅罗（Antonella Sicomero）去世以及意大利禁止未经验证的TikTok账户之后，该公司同意重新验证该国1250万用户的年龄。结果删除了50万个账户。TikTok还告诉其地区经理们要密切关注市场上任何黑屏挑战内容，删除宣传此类内容的视频，并终止用户在应用程序中搜索此类内容的能力。TikTok拒绝透露删除了多少视频，但Cullinane表示公司从未发现挑战在平台上趋势。她指出了一项委托调查显示，仅有0.3%的青少年表示他们参与了他们认为“非常危险”的挑战。这项全球调查还发现，有2%的人表示他们参与了他们认为“有风险和危险”的挑战。
尽管TikTok采取了措施，死亡事件仍在发生。去年12月，10岁的Nylah Anderson在费城郊区的家中用手提包带自己上吊身亡。在她去世后，她的母亲Tawainna Anderson发现了Nylah和她的表弟玩窒息游戏的手机视频，并向警方报告。
Nylah Anderson来源：宾夕法尼亚东区联邦法院一名警官在一份事件报告中写道，表弟告诉他，“这是他们在TikTok和YouTube上看到的一个勒颈挑战。” 根据尼拉的母亲在五月份在宾夕法尼亚联邦法院提起的一起针对TikTok和字节跳动的致命伤害诉讼，尼拉手机的法庭分析显示，TikTok向她发送了一个视频，鼓励她将一个手提包放在壁挂衣架上，将头部放在包和肩带之间，然后悬挂自己直到晕倒。控诉书称，该公司“毫无疑问地知道致命的晕厥挑战正在通过他们的应用传播，而且他们的算法明确地将晕厥挑战传递给了包括那些已经死亡的儿童在内的儿童们。”
七月份，社交媒体受害者法律中心在西雅图代表阿里亚尼·阿罗约和拉拉尼·沃尔顿的父母提起了第二起诉讼。该中心成立于2021年，由马修·伯格曼，一位产品责任律师创立，已对TikTok、Meta、 Snapchat和YouTube提起了40多起诉讼，指控对心理健康造成伤害、社交媒体成瘾和致命伤害。伯格曼，他的职业生涯一直在起诉石棉制造商，去年当他听说Meta告密者弗朗西斯·豪根泄露文件描述Facebook如何伤害青少年时，他将注意力转向了社交媒体。伯格曼表示，这些平台“正在对我们的孩子进行实验，将利润置于人民之上。”
Zaiden Baldwin（左）和Lalani Walton。社交媒体受害者法律中心提供阿罗约和沃尔顿家族提起的诉讼声称，TikTok对这些女孩的死亡负有责任，因为其算法推荐了挑战，并未能阻止其传播。今年8月，该案件被修改以增加另一位原告，即11岁的扎伊登·鲍德温（Zaiden Baldwin）的祖母和法定监护人，他于今年夏天早些时候在新墨西哥州的一个棚子后面被发现上吊。投诉书称，他告诉他的姐姐他在TikTok上看到了关于窒息挑战的视频，并想尝试。该案件仍在审理中，TikTok尚未提交答辩。
“这些公司最不愿意做的事情就是站在陪审团面前向他们解释为什么他们的利润比生命更重要，”伯格曼说。“他们将尽可能利用一切法律手段来避免这种清算，而我们将尽最大努力追究他们的责任。”今年9月，新墨西哥州又有一名13岁男孩在尝试窒息挑战时死亡，第三起针对TikTok的诉讼案件随之提起。
TikTok女发言人卡林恩表示，她对这些家庭表示同情，但不能就未决诉讼发表评论。今年7月，该公司提交了一项驳回尼拉·安德森诉讼的动议，声称其“没有法定义务保护免受第三方危险活动描绘的侵害”。TikTok在动议中称，根据《通信廉正法》第230条的规定，技术平台不会对其网站上发布的内容承担责任。今年10月，法官驳回了该案，同意即使TikTok向尼拉推荐了挑战，也不能起诉TikTok。尼拉的母亲的律师已经提起上诉。
最高法院可能会对此事发表看法。十月份，它同意审理一个与第230条免责规定范围有关的不相关案件。它的决定可能会允许停电挑战诉讼继续进行，或者将其消灭。
克里斯塔尔·阿罗约和她的儿子在家外。摄影师：大卫·卡斯尼克为彭博商业周刊拍摄社交媒体平台正受到越来越多的议员的压力，要求它们采取更多措施保护儿童。九月份，加利福尼亚州州长加文·纽森签署了一项在线隐私法，该法是以英国的适龄设计准则为模板，要求科技公司优先考虑儿童的最佳利益而不是商业利益。这项加利福尼亚法典将于2024年生效，要求公司“以合理的确定程度”估计儿童用户的年龄。一项联邦法案，也包括有关年龄验证的部分，今年夏天得到了参议院小组的两党支持。该法案，儿童在线安全法，要求国家标准与技术研究所花一年时间研究平台如何能够准确验证年龄同时保护未成年人的隐私。
科技公司一直面临的平衡之道是：安全与隐私。如果他们使用面部识别技术或要求用户提供政府签发的身份证明，比如驾照或护照，他们就会因侵犯隐私权和囤积个人数据而受到批评。如果他们只要求用户输入出生日期，他们就会因未采取足够措施保护谎报年龄的孩子而受到攻击。而任何年龄验证引入的摩擦都与 TikTok 内部文件中包含的信息背道而驰：“我们的最终目标是增加每日活跃用户。”
悬而未决的监管压力已经迫使年龄确认问题摆在了前台，导致一些最大的社交媒体平台在过去的18个月里雇佣了第三方年龄估计公司。与寻求识别个人并依赖存储数百万图像的面部识别技术不同，年龄估计软件不会保留、分享或重复使用数据，据数字身份公司 Yoti Ltd. 的首席政策和监管官 Julie Dawson 表示。Yoti 总部位于伦敦，与 Meta 旗下的 Instagram 合作；其软件已研究了数十万张带有已知年龄的面孔，并且被编程为将图像分解为像素，分析模式并估计这个人有多大。
“他们已经准备好了这些解决方案。他们几乎可以立即实施。”
去年，Yoti 在私下会议中向 TikTok 展示了这项技术，Dawson 表示，“截至目前，他们还没有决定采取行动。” TikTok 还会见了 Hive，一家与 Twitter Inc. 和 Reddit 合作的旧金山公司，根据三位知情人士的说法。这些讨论始于 2021 年初，但也没有取得任何进展。
道森表示，TikTok“非常担心”允许第三方软件提供商使用其生物识别数据的形象。那年二月，字节跳动同意支付 9200万美元来解决伊利诺伊州用户提起的一起集体诉讼，指控该公司未经他们同意使用面部图像进行定向广告。TikTok否认了这些指控，但四个月后，它修改了隐私政策，允许该应用明确收集其用户的“面部特征和声纹”。十月份，其高管们在国会接受质询，询问他们打算如何使用这些数据。他们回避了问题，但表示TikTok收集的数据比其他社交媒体公司少。
波士顿儿童医院数字健康实验室主任、儿科医生 迈克尔·里奇表示，问题在于“这些公司并不把用户视为需要服务的客户，而是把他们视为正在出售的产品。” 平台并不严格执行年龄限制，因为这并不符合他们的最佳利益，他指出。“任何人都不会感到意外，这些公司只是在走过场设置年龄限制，而并没有严格执行。”
马克·伯克曼，社交媒体安全组织的首席执行官，一个消费者保护团体，表示TikTok未使用第三方年龄估算软件正在伤害儿童。“他们的保护措施是不足够的，”伯克曼说，他的团体提供关于如何让孩子在网上安全的教育建议。“他们已经准备好了这些解决方案。他们几乎可以立即实施。但他们选择不这样做。这是在服务商业利益，而不是安全利益。”
八月份又发生了两起死亡事件。阿奇·巴特斯比，英格兰埃塞克斯郡的一名12岁男孩，在经过数月的生命支持后去世。他被发现脖子上缠着绳索昏迷不醒。他的母亲告诉记者，他曾尝试过窒息挑战，尽管验尸官没有找到支持这一说法的证据。同样在八月，利昂·布朗，14岁，在苏格兰家中被发现无反应。当地新闻报道称，他的朋友告诉他的母亲，利昂在TikTok上看到了窒息挑战，并在视频通话中与他们一起尝试。
“我对TikTok的问题是，你们将会采取什么措施来改变这个平台？因为目前对任何人都不安全，对任何孩子绝对不安全。”阿罗约说，她的幸福随着阿里亚尼的离世而消失。“一个社交媒体应用，”她想着，语气困惑。“我从未想过这会导致我失去女儿。”
在她去世前几周用手机拍摄的视频中，阿里亚妮坐在父母的车后座上，穿着一件带有蓝色花朵的褶边粉红色上衣。她黑色的头发被拉后，凌乱的头发在耳朵上方卷曲。她用一只手拿着手机，摄像头离得很近，你可以看到她最近掉了一颗乳牙。“不要在意别人对你说的话，”阿里亚妮说。“要自信，要充满激情，因为这个世界上的每个人都是美丽的。”她向摄像头飞吻并做出和平手势。“那么，再见，”她微笑着说。
*《商业周刊》*将视频发送给了Hive，这是与TikTok会面的软件公司之一。其机器学习模型将视频分解成帧并扫描每个图像，以得出对阿里亚妮的年龄估计。“做到这一点的技术肯定是存在的，”首席执行官凯文·郭说。“但也许这些平台更倾向于不了解这个问题的范围。”
Hive的模型用了三秒钟来估计阿里亚妮是10岁。她在离10岁生日还有三个月时去世了。