他的工作是让Instagram对青少年更安全他的14岁孩子向他展示了这个应用的真实情况-《华尔街日报》
Jeff Horwitz
2021年秋天，一位名叫Arturo Bejar的顾问给Meta平台首席执行官马克·扎克伯格发送了一份不同寻常的便条。
“我想提醒你，我认为我们作为一家公司在处理伤害问题的方式存在重大缺陷，以及我们服务对象的体验存在重大缺陷，”他开始写道。尽管Meta定期发布公开报告，表明公司在其平台上的安全问题基本上得到了控制，但他写道，公司是在自欺欺人。
在Meta旗下的Instagram平台上，年轻用户的体验尤为严重。在给Instagram负责人亚当·莫瑟里的随后一封电子邮件中，有一个统计数据格外引人注目：16岁以下用户中有八分之一称他们在过去七天内在该平台上遭遇了不受欢迎的性骚扰。
对于贝哈尔来说，这个发现并不令人意外。他写道，他的女儿和她的朋友们从14岁起就在该平台上收到了未经请求的阴茎照片和其他形式的骚扰，而Meta的系统通常会忽视他们的举报，或者回复说这种骚扰并没有违反平台规定。
“我问她为什么男孩们会这样做，”贝哈尔写信给扎克伯格和他的高级助手们。“她说，如果唯一的后果就是他们被封锁，他们为什么不这样做呢？”
为了用户的健康，贝哈尔主张，Meta需要改变方向，更少地关注基于规则的执法系统，更多地关注解决这类不良体验。公司需要收集用户感到不快的数据，然后努力解决问题的根源，促使那些让他人感到不舒服的人改善行为，并孤立那些故意伤害他人的用户群体。
两年后，Bejar指出的问题仍未解决，新的盲点也出现了。公司在6月启动了一个庞大的儿童安全特遣队，此前曝光Instagram正在培养大规模的恋童癖用户群之后，公司表示正在努力解决这个问题。（大规模恋童癖用户网络）。
本文基于《华尔街日报》审阅的Meta内部文件，以及与Bejar以及在他担任公司顾问期间与他一起工作的现任和前任员工的采访。Meta拥有Facebook和Instagram。
在撰写本文时，Meta对Bejar的说法提出异议，称其未充分关注用户体验，并未充分采取其“健康团队”的调查结果。Meta发言人安迪·斯通表示，在Bejar担任顾问期间以及之后，公司推出了几个旨在解决“健康团队”调查结果的产品功能。这些功能包括在用户发布Meta自动系统标记为潜在冒犯的评论之前向用户发出警告，并在向接收大量消息的用户（如内容创作者）发送直接消息时提醒他们要友善。
对于一名顾问来说，贝哈在公司有着异常深厚的根基。他最初是在2009年被聘为Facebook的工程总监。负责保护平台的用户，他最初将这项任务视为传统的安全工作，构建工具来检测黑客攻击，打击欺诈团伙并移除被禁内容。
监控当时Facebook的3亿多用户的帖子并不像执行规则那么简单。在Facebook上有太多的互动需要监管，而令用户不悦的事情往往是主观的。
贝哈热爱这项工作，只是在2015年离开Facebook，因为他正在离婚并希望能花更多时间和孩子在一起。加入公司时还未进行首次公开募股，他有资源可以在接下来的几年里从事爱好，包括与他14岁的女儿一起修复老爷车，而她在Instagram上记录了她的新业余爱好。
麻烦就从那时开始。一个女孩修复老爷车在平台上引起了很多好的关注，也吸引了一些真正的变态，比如那个告诉她“人们观看你的视频唯一的原因是因为你有胸部”的家伙。
贝哈尔感到非常震惊——尤其是当他得知几乎所有女儿的朋友都遭受了类似的骚扰。“DTF？”一个他们从未见过的用户会问，用简称表示下流的提议。Instagram 几乎不会对这种行为的举报采取行动，以至于女孩们不再费心举报。
贝哈尔开始向他在 Facebook 的前同事们提出关于他们在解决这种不当行为方面所做的工作的问题。公司的回应是给他提供了一份为期两年的咨询工作。
这就是贝哈尔如何在 2019 年秋季回到 Meta 校园，与 Instagram 的健康团队一起工作的。虽然在指挥链中并不高，但他能够非常接近高管——人们记得他和他的工作。
从一开始，任何试图解决 Instagram 用户普遍遇到的问题都面临一个障碍：Meta 自己的统计数据表明并不存在重大问题。
在贝哈尔离开公司的四年里，Meta 已经开始将管理用户行为视为一个极度自动化的过程。工程师们会编制不可接受内容的数据集，比如恐怖主义、色情、欺凌或“过度血腥”等，然后训练机器学习模型来筛选未来的内容，以便找出类似的材料。
根据公司自己的指标，这种方法非常有效。几年内，公司宣称，99% 的被删除的恐怖主义内容都是在没有用户举报的情况下被移除的。虽然用户仍然可以标记让他们不悦的内容，Meta 却将资源从审核这些内容上撤出。为了阻止用户提交举报，2019 年的内部文件显示，Meta 在举报流程中增加了步骤。Meta 表示，这些变化旨在阻止轻率的举报，并教育用户了解平台规则。
“马克个人最看重言论自由，并会说这是一个特性而不是一个缺陷，”罗森在Facebook内部沟通平台上回应道。
此外，支撑Meta统计数据的还有规则的书写范围狭窄，只能禁止明显恶劣的内容。Meta的规则并未明确禁止成年人在青少年的帖子评论区刷爱心表情符号或者发布儿童穿着内衣的照片，并邀请他们的粉丝在私人Facebook Messenger群组中“查看更多”。
狭窄的规则和不可靠的自动执行系统为不良行为留下了很大的空间，但它们让公司的儿童安全统计数据看起来相当不错，符合Meta首选的衡量标准：普遍性。
普遍性被定义为全球观看的内容中明确违反Meta规则的百分比，是公司用来衡量用户遇到问题的首选标准。然而，Meta公开发布的普遍性数字总是微不足道。根据普遍性，儿童剥削在该平台上是如此罕见，以至于无法可靠地估计，低于0.05%，这是功能性测量的阈值。鼓励自残的内容，比如饮食失调，同样微不足道，而针对欺凌和骚扰的规则违反仅发生在10,000次观看中的八次中。
“有一个自行评分作业的问题，”曾任 Meta 负责创新责任的前主管 Zvika Krieger 说道。“Meta 定义了什么构成有害内容，因此它塑造了关于它处理有害内容的成功程度的讨论。”
要向 Meta 领导层证明公司的普及度指标错失了重点，需要一些公司没有的数据。因此，Bejar 和来自 Well-Being Team 的一组员工开始收集这些数据。
“人们觉得他们正在经历糟糕的经历，或者没有，”BEEF 的一个演示指出。“他们的感知不受政策的限制。”
虽然“糟糕的经历”是 Meta 平台上用户的一个问题，但在 Instagram 上的青少年中似乎特别普遍。
在 16 岁以下用户中，有 26% 回忆起在过去一周中因目睹针对某人种族、宗教或身份的敌意而有糟糕的经历。超过五分之一在查看他人的帖子后感到更糟，13% 在过去七天中经历了不受欢迎的性骚扰。
最初的数字甚至更高，但在重新评估后进行了修订。发言人斯通表示，该调查是在全球范围内的Instagram用户中进行的，并没有明确定义不受欢迎的进展。
在公司自己的统计数据中，被认为有问题的内容的低普遍性与用户告诉公司他们所经历的情况之间的巨大差距表明，贝哈尔认为Meta的定义是错误的。如果公司要解决诸如不受欢迎的性进展之类的问题，就必须开始让用户“在产品中表达这些经历”。
Instagram的其他团队已经在提出解决BEEF所强调的问题的建议。为了减少青少年告诉研究人员让他们对自己感到不好的内容，Instagram可以限制用户看到的美容和时尚影响者内容的数量。它可以重新考虑其AI生成的“美容滤镜”，内部研究表明，这些滤镜使使用者和观看图像的人都更加自我批评。它还可以建立用户举报不受欢迎联系的途径，这是找出如何阻止这些行为的第一步。
根据BEEF数据进行的一项实验显示，当用户被告知他们的评论或帖子让看到它的人感到不快时，他们经常自行删除它。“即使你不强制行为，”克里格说，“你至少可以发送关于哪些行为是不受欢迎的信号。”
但贝哈尔和克里格表示，在Meta的高级中层管理人员中，BEEF遇到了阻碍。那些以逐步改善普遍性统计数据为职业生涯的经理们对这种方法不起作用的建议并不乐意接受。
Meta争辩说公司并未拒绝Well-Being团队的方法。
Meta的Stone表示：“暗示我们只在2019年开始进行用户感知调查或者暗示这项工作与普及率指标存在某种冲突是荒谬的。”他补充说公司认为每种方法都有价值。“我们根据两者采取行动，而且至今仍在两者上继续工作。”
Stone指出研究表明青少年在线面临类似的骚扰和虐待。
在硅谷工作了三十年后，他明白公司高管可能不会欣赏一份引用公司自己数据的产品对年轻用户安全风险的严厉评估，尤其是这种评估。
“这封邮件是我整个科技职业生涯训练我不要发送的，”他说。“但我内心的一部分仍然希望他们只是不知道。”
在公司即将离职的最后几周，贝哈尔给扎克伯格、首席运营官谢丽尔·桑德伯格、首席产品官克里斯·考克斯和Instagram负责人亚当·莫瑟里发送了邮件，将BEEF的发现与公司如何让像他自己的女儿这样的用户失望的高度个人化的例子结合在一起。
“政策执行类似于警察，”他在2021年10月5日的电子邮件中写道，他认为对犯罪做出反应是至关重要的，但这并不是使社区安全的关键。Meta有机会对其用户做出正确的事情，并解决Bejar认为几乎肯定是整个行业范围内的问题。
对于Bejar的邮件，桑德伯格只给Bejar发送了一封私人邮件，而没有给其他高管。据他回忆，她说Bejar的工作表明了他对公司和用户的承诺。在个人层面上，这位《职场女性力》一书的作者写道，她意识到他的女儿所面对的压制是令人沮丧的。
莫瑟里代表团队回信，邀请贝哈尔进一步讨论他的发现。贝哈尔说他从未收到过扎克伯格的回复。
在剩下的几周时间里，贝哈尔致力于完成两个最终项目：起草“幸福团队”工作的一个版本，以便在Meta内部更广泛地传播，并为与莫瑟里进行的半小时会议做准备。
贝哈尔回忆说，与莫瑟里的谈话进行得很顺利。尽管总会有需要改进的地方，贝哈尔回忆说莫瑟里承认了贝哈尔描述的问题，并表示他热衷于创建一种让用户举报不受欢迎的联系人而不仅仅是将其屏蔽的方式。
“亚当明白了，”贝哈尔说。
但是，贝哈尔努力将“幸福团队”的数据和结论分享给公司高管以外的人士却遇到了麻烦。在豪根披露内部研究之后，Meta加强了对任何可能导致进一步声誉损害的泄露内容的限制。在高管私下断言公司的研究部门容纳了一批敌对分子之后，Meta正在制定一系列新规则，用于员工的内部沟通。公司称之为“叙事卓越”的实现要求之一是保持研究数据的保密，并且永远不要声称有道德或法律义务来解决问题。
在与Meta的传播和法律人员周旋数周后，贝哈尔获得了在内部发布他发送给扎克伯格及其副手的经过精简的版本的许可。代价是他必须省略“幸福团队”的调查数据。
“我不得不把它写成一个假设，”贝哈尔说。他没有承认Instagram的调查数据显示青少年经常面临不受欢迎的性骚扰，备忘录只是建议了如果青少年面临这样的问题，Instagram可能如何帮助他们。。
贝哈尔离开时感到沮丧，但选择不公开他的担忧——他告诉《华尔街日报》，他的“幸福团队”同事们仍在努力前进，他们最不需要的就是再次应对另一位告密者引发的后果。
团队工作将继续的希望并没有持续下去。公司停止了进行BEEF背后的具体调查，然后裁掉了几乎所有参与其中的人员，这是扎克伯格所称的Meta“效率之年”的一部分。
贝哈尔告诉《华尔街日报》，如果Meta要改变，努力必须来自外部。他开始与一群州检察长联合起来进行咨询，他们于上个月底对该公司提起诉讼，指控该公司构建其产品以最大化用户参与度，却以牺牲年轻用户的身心健康为代价。贝哈尔还与国会议员联系，谈论他认为该公司的用户安全工作存在不足的地方。
他计划在周二在参议院小组委员会前作证。
摘自杰夫·霍维茨（Jeff Horwitz）著作《破碎的代码：Facebook内部及揭露其有害秘密的斗争》，预计于2023年11月14日由Knopf Doubleday Publishing Group旗下的Doubleday出版。版权所有 © 2023 杰夫·霍维茨。
请写信给杰夫·霍维茨，邮箱：[email protected]
刊登于2023年11月4日的印刷版上，标题为“一名14岁少年向Meta展示了Instagram的有害性”。