YouTube高管忽视警告，让有害视频肆意传播 - 彭博社

插图：格雷厄姆·鲁米厄一年前，苏珊·沃西基在舞台上为YouTube辩护。她的公司因在网上传播虚假信息而受到数月的抨击，正因一起关于佛罗里达州帕克兰高中枪击事件的阴谋论视频而陷入困境，该视频暗示受害者是“危机演员”。

沃西基，YouTube的首席执行官，是一位不情愿的公共大使，但她在奥斯汀的南方西南会议上推出了一项她希望能帮助平息阴谋论的解决方案：一个来自维基百科等网站的小文本框，位于质疑已确立事实的视频下方，如 登月，并将观众链接到真相。

沃西基的媒体巨头，旨在超越电视，预计每年的销售额超过160亿美元。但在那一天，沃西基将她的视频网站与另一种机构进行了比较。“我们实际上更像是一个图书馆，”她说，重申了作为言论自由捍卫者的熟悉立场。“如果你回顾图书馆，始终存在争议。”

自沃西基上台以来，该平台上的一些显著阴谋论——包括一个关于儿童疫苗接种的；另一个将希拉里·克林顿与撒旦邪教联系在一起——引起了渴望监管科技公司的立法者的愤怒。而一年后，YouTube与网络的阴暗面更加相关。

难题不仅在于质疑登月或疫苗有效性的视频出现在YouTube上。这个由用户生成、几乎没有编辑监督的庞大“图书馆”必然会有不真实的胡说八道。相反，YouTube的问题在于它允许这些胡说八道繁荣发展。而且，在某些情况下，通过其强大的人工智能系统，它甚至提供了让这些胡说八道传播的燃料。

苏珊·沃西基在2018年的SXSW上发言。摄影师：大卫·保罗·莫里斯/彭博社沃西基和她的副手们知道这一点。近年来，YouTube及其母公司谷歌内部的许多人对世界上最大的视频网站所呈现和传播的大量虚假、煽动性和有毒内容表示担忧。一名员工希望标记那些接近仇恨言论规则的令人不安的视频，并停止向观众推荐这些视频。另一名员工希望在电子表格中跟踪这些视频，以图表显示它们的受欢迎程度。第三名员工担心“另类右派”视频博主的传播，创建了一个内部垂直栏目，展示他们的受欢迎程度。每次他们得到的基本回应都是：不要搅动船只。

公司花了多年时间追求一个业务目标：“参与度”，这是衡量在线视频的观看次数、花费时间和互动的指标。与二十多位在YouTube工作或最近离职的人交谈显示，企业领导层因害怕抑制参与度而无法或不愿对这些内部警报采取行动。

沃西基“绝不会偏袒任何一方，”一位为她工作过的人说。“她的观点是，‘我的工作是管理公司，而不是处理这些问题。’”这位人士与其他向彭博新闻社发言的人一样，因担心报复而要求匿名。

YouTube拒绝了彭博新闻社与沃西基、其他高管、谷歌管理层和其母公司Alphabet Inc.的董事会进行交谈的请求。上周，其首席产品官尼尔·莫汉告诉 纽约时报，公司在解决推荐和激进内容问题上“取得了重大进展”。

一位YouTube发言人对沃伊西基对这些问题不够关注以及公司将参与度置于首位的观点表示反对。相反，这位发言人表示，公司在过去两年里专注于寻找内容问题的解决方案。自2017年以来，YouTube根据一种称为“责任”的指标推荐视频，该指标包括在视频播放后进行的满意度调查的反馈。YouTube拒绝对此进行更详细的描述，但表示每周收到“数百万”份调查反馈。

“我们的主要关注点是解决平台上最棘手的内容挑战，”一位发言人在电子邮件声明中表示。“我们采取了一系列重要措施，包括更新我们的推荐系统以防止有害虚假信息的传播，改善YouTube上的新闻体验，将专注于内容问题的人员数量增加到10,000人，投资于机器学习以更快地发现和删除违规内容，以及审查和更新我们的政策——仅在2018年我们就进行了30多项政策更新。这还不是结束：责任仍然是我们的首要任务。”

针对关于将增长置于安全之上的批评，Facebook公司提出了对其核心产品的重大转变。YouTube仍然难以向公众和投资者解释任何新的公司愿景——有时甚至对其自己的员工也是如此。在过去两年中，五名离开YouTube和Google的高级人员私下表示，平台无法控制极端、令人不安的视频是他们离开的原因。在Google内部，YouTube无法解决其问题仍然是一个主要的不满。周二纽约早盘交易中，Google的股价下滑，使其今年迄今上涨了15%。Facebook的股价在2019年上涨了超过30%，而去年则遭受重创。

YouTube的惰性再次被揭示，几周前一起致命的麻疹疫情引发了公众对社交媒体上疫苗阴谋论的关注。来自Moonshot CVE的最新数据，这是一家研究极端主义的伦敦公司，发现传播这些谎言的YouTube频道不到二十个，却吸引了超过1.7亿观众，许多人随后又被推荐观看其他充满阴谋论的视频。

该公司对针对儿童的明确视频的反应乏善可陈，受到了科技行业本身的批评。前谷歌董事Patrick Copeland于2016年离职，最近在LinkedIn上发布了对他老东家的严厉指控。在观看YouTube时，Copeland的女儿被推荐观看了一段视频，视频中既有夸张性特征的白雪公主角色，又有一匹马参与性行为。“大多数公司会因为在工作时观看这个视频而解雇某人，”他写道。“不可思议！！”在谷歌工作了十年的Copeland决定屏蔽YouTube.com域名。

YouTube总部位于加利福尼亚州圣布鲁诺。摄影师：Kim White/BloombergMicah Schaffer于2006年加入YouTube，距其被谷歌收购九个月，远在其成为文化基石之前。他的任务是为这个自由奔放的网站撰写政策。那时，YouTube专注于说服人们为什么应该观看业余视频并上传自己的视频。

几年后，当他离开YouTube时，该网站仍然没有盈利，主要以轻浮著称（当年，David，一个在牙医那里看完后迷迷糊糊的七岁小孩的视频，是第二个最受欢迎的视频。）但即便如此，恶意内容的问题依然存在。那时YouTube注意到赞美厌食症的视频有所增加。作为回应，工作人员开始疯狂地审查这些视频，以设置年龄限制、将其从推荐中删除或完全下架。Schaffer回忆道，它们“威胁到了我们的用户的健康。”

他最近想起了那一集，当关于所谓疫苗危险的视频开始在YouTube上传播时。他认为，在早期阶段，这本来是个显而易见的决定。“我们本会严重限制它们或完全禁止它们，”Schaffer说。“YouTube绝不应该允许危险的阴谋论成为平台文化的主导部分。”

他补充说，在过去的十年中，YouTube优先追求利润而非用户安全。“我们可能一直在亏损，”他说。“但至少骑滑板的狗从来没有伤害过任何人。”

大约从2009年开始，谷歌对YouTube进行了更严格的控制。它引入了高管，例如前Netflix的销售主管Robert Kyncl，制定技术战略和商业计划以维持其爆炸式增长。2012年，YouTube得出结论，观看人数越多，广告投放就越多——而推荐视频，配合片段或在片段结束后，是保持用户关注网站的最佳方式。

因此，当时由谷歌老将Salar Kamangar领导的YouTube设定了一个公司目标，即每天达到十亿小时的观看时间，并重写了其推荐引擎以最大化这一目标。当Wojcicki在2014年接管时，她回忆起YouTube距离目标还有三分之一的路程，正如投资者John Doerr在2018年的书中所述衡量重要的事。

“他们认为这会让互联网崩溃！但在我看来，这样一个明确且可衡量的目标会激励人们，我为他们加油，”Wojcicki对Doerr说。“每天十亿小时的观看时间给我们的技术人员提供了一个北极星。”到2016年10月，YouTube达成了这一目标。

在同一个秋天，三位谷歌程序员发表了一篇关于YouTube推荐系统如何与大量新上传视频一起工作的论文。他们概述了YouTube的神经网络，这是一种模仿人脑的人工智能系统，如何更好地预测观众接下来会观看什么。研究指出，人工智能可以尝试抑制“标题党”，即那些关于其主题虚假宣传并失去观众注意力的视频。

然而，它没有提到那些地雷——虚假信息、政治极端主义和令人厌恶的儿童内容——这些内容自那时以来获得了数百万的观看次数并让公司感到震动。在2016年美国大选之前，这些话题很少被提及。“我们当时忙于实现目标和推动网站使用，根本没有抬头看，”一位前高级经理说。“我不知道我们是否真的抬起过头。”

YouTube并没有给出确切的病毒式传播配方。但在争夺十亿小时的竞赛中，一个公式浮现出来：愤怒等于关注。哈佛大学卡尔中心的研究员布里坦·赫勒表示，这是政治边缘人士轻易利用的公式。“他们不知道算法是如何工作的，”她说。“但他们确实知道，内容越离谱，观看次数就越多。”

YouTube内部的人知道这种动态。多年来，关于如何处理那些麻烦视频的辩论非常痛苦——那些不违反内容政策因此仍然留在网站上的视频。一些软件工程师给这个问题起了个外号，叫做“坏病毒式传播”。

谷歌的隐私工程师约纳坦·宗格回忆起他在2016年离开公司之前向YouTube员工提出的一个建议。他提议设立第三个层级：允许留在YouTube上的视频，但由于它们“接近删除政策的边界”，将从推荐中移除。“坏演员很快就会非常擅长理解明亮的界限，并尽可能靠近这些界限，”宗格说。

他的提议被YouTube政策负责人拒绝了。“我可以非常自信地说，他们是深深错误的，”他说。

YouTube没有改进其推荐引擎，而是加倍努力。2016年研究中描述的神经网络自2015年起在YouTube推荐中生效。根据可用的衡量标准，它达到了让人们留在YouTube上的目标。

“这是一种上瘾引擎，”计算机科学家弗朗西斯·欧文说，他对YouTube的人工智能系统进行了批评。

欧文表示，他已向YouTube员工提出了这些担忧。他们的反应是难以置信，或者表示他们没有改变软件工作方式的动力，他说。“这不是一个灾难性的失败算法，”欧文补充道。“它对很多人来说运作良好，并且赚了很多钱。”

保罗·科温顿，一位高级谷歌工程师，2016年推荐引擎研究的共同作者，在次年三月的一个会议上展示了这些发现。他被问及工程师如何决定其算法的目标结果。“这有点像产品决策，”科温顿在会议上说，指的是一个独立的YouTube部门。“产品告诉我们，我们想要提高这个指标，然后我们去提高它。所以这并不完全由我们决定。”科温顿没有回复请求评论的电子邮件。

一位YouTube发言人表示，从2016年末开始，公司在其推荐算法中增加了一项“社会责任”的衡量标准。这些输入包括人们分享视频和点击“喜欢”及“不喜欢”按钮的次数。但YouTube拒绝分享有关该指标或其影响的更多细节。

德国柏林的YouTube广告牌广告。摄影师：肖恩·加卢普/盖蒂图片社唐纳德·特朗普当选后三天，沃伊茨基召集了她的全体员工进行每周会议。一名员工大声担忧关于该网站与选举相关的视频观看情况。观看量主要被像布莱特巴特新闻和信息战争这样的出版商主导，这些出版商以其愤怒和挑衅而闻名。布莱特巴特有一个受欢迎的栏目叫“黑人犯罪”。根据一位与会者的说法，这一事件引发了广泛的讨论，但没有立即的政策指令。一位发言人拒绝对具体案例发表评论，但表示“通常极端内容在平台上的表现不佳。”

那时，YouTube的管理层正专注于一个截然不同的危机。其“创作者”，即上传视频到该网站的大量用户，感到不满。一些人抱怨薪酬，另一些人公开威胁要转投竞争对手网站。

沃伊茨基和她的助手们制定了一个计划。YouTube称之为“豆荚计划”或有时称为“煮海洋”，以表明任务的艰巨性。（有时他们称之为BTO3——这是YouTube的第三次重大改革，之前有提升移动观看和订阅的举措。）根据三位参与该计划的前高级员工的说法，该计划旨在重写YouTube的整个商业模式。

它的核心是为创作者提供一种不基于他们视频所承载广告的支付方式。相反，YouTube将根据观众的参与度进行支付——观看视频的观众数量以及观看时长。一个特殊的算法将汇集进来的现金，然后分配给创作者，即使他们的视频上没有广告。这个想法是奖励那些被系统忽视的视频明星，例如制作性教育和音乐视频的创作者，这些视频被主要广告商认为过于冒险而不愿支持。

YouTube的程序员们辛勤工作了至少一年，使这个项目可行。但公司管理层未能意识到这个项目可能会适得其反：基于参与度的支付风险使其“坏病毒性”问题更加严重，因为这可能会奖励那些因愤怒而获得人气的视频。一位参与者表示，支付算法是严格保密的。如果当时实施，这个人说，像亚历克斯·琼斯——Infowars的创始人和在该网站上拥有大量追随者的阴谋论者，在YouTube去年八月将他踢出之前——可能会突然成为收入最高的YouTube明星之一。

亚历克斯·琼斯，去年八月被踢出YouTube。摄影师：安德鲁·哈雷尔/彭博社沃伊西基在2017年10月向谷歌的领导团队推介了Project Bean。到那时，YouTube和其他社交媒体网站面临着第一波谴责，因为它们制造了“过滤气泡”——引导人们走向已有的信念，然后再给他们更多相同的内容。沃伊西基的老板，桑达尔·皮查伊，拒绝了YouTube的提案，部分原因是他认为这可能会使过滤气泡问题更加严重，根据两位熟悉此事的人士的说法。另一位熟悉情况的人表示，由于担心这会过于复杂化创作者的支付方式，该项目被搁置。

YouTube拒绝对此项目发表评论。

在2017年11月，YouTube终于对传播有害视频的频道采取了果断行动，几乎在一夜之间切断了数千个频道的广告收入或将其从网站上完全移除。创作者们称之为“清洗”。该公司面临着持续的广告商抵制，但真正的催化剂是媒体对针对儿童的令人不安的视频的爆炸性报道。最糟糕的是“玩具怪物”，这是一个父亲与他的两个女儿一起发布视频的频道，有时展示她们呕吐或极度痛苦的情景。YouTube删除了玩具怪物，并迅速与其保持距离。

但是这个频道并没有处于阴影中。拥有超过八百万订阅者，它在网站上被报道为前100个最受欢迎的频道之一。这类令人不安的视频在公司内部是一个“公开的秘密”，一位前员工表示，他们的存在常常以言论自由的理由为辩护。

YouTube还在其儿童节目方面与另一场辩论作斗争。在推出专为未成年人设计的应用程序YouTube Kids之前，有几个人主张公司只在服务中提供精心挑选的视频，以避免任何内容争议。这些论点失败了，该应用程序自此以来通过算法选择视频。

YouTube确实投入资金来应对其内容问题。它雇佣了更多的员工来筛选视频，以找到那些违反网站规则的内容。但对一些内部人士来说，这些解决方案的到来太慢，或者与问题的规模相比显得微不足道。根据一位专门处理外语内容的前审核员的说法，截至2017年，YouTube关于内容审核员如何处理阴谋论的政策并不存在。

根据一位前员工的说法，到年底，“信任与安全”部门的员工人数不到二十人，该部门负责监督内容政策。这个团队不得不“拼尽全力”向科技巨头争取更多资源，这个人说。一位YouTube发言人表示，该部门自那时以来“显著”增长，但拒绝透露确切数字。

在2018年2月，指责帕克兰枪击事件受害者为“危机演员”的视频在YouTube的热门页面上迅速传播。政策工作人员随后建议限制该页面上的推荐，仅限于经过审查的新闻来源。根据一位知情人士的说法，YouTube管理层拒绝了这一提议。该人士不知道拒绝的理由，但指出当时YouTube意图加快与新闻相关视频的观看时间。

然而，YouTube很快就解决了其与新闻相关内容的问题。去年7月，YouTube宣布将在YouTube搜索中添加指向Google新闻结果的链接，并开始在其新闻部分展示来自知名媒体的“权威”来源。YouTube还向制作视频的新闻机构提供了2500万美元的资助。在2018年最后一个季度，YouTube表示已删除超过880万个频道，因其违反了指南。这些措施旨在帮助埋没其网站上令人不安的视频，该公司现在将这些努力视为其关注内容问题的标志。

然而，在过去，YouTube积极劝阻员工采取主动。根据一位对这一做法感到不满的前高管的说法，律师口头建议未被指派处理审核的员工避免自行搜索可疑视频，例如关于最高法院法官露丝·巴德·金斯伯格的病毒性谎言。该人士表示，这一指令从未以书面形式提出，但信息很明确：如果YouTube知道这些视频的存在，其法律基础将变得更加薄弱。联邦法律保护YouTube和其他科技巨头免于对其网站内容的责任，但如果这些公司采取过于积极的编辑角色，就有可能失去这一法律的保护。

一些员工仍然寻求这些视频。根据两位知情人士的说法，一个重要时刻发生在2018年初。一名员工决定创建一个新的YouTube“垂直频道”，这是公司用来将其大量视频素材进行分类的一个类别。这个人将视频聚集在一个想象中的“另类右派”垂直频道下，这个政治团体与特朗普松散相关。根据参与度，假设的另类右派类别与音乐、体育和游戏一起，成为YouTube上最受欢迎的频道，试图展示这些视频对YouTube业务的重要性。一位熟悉高管团队的人表示，他们不记得看到过这个实验。

尽管如此，随着公司的算法继续造成麻烦，矛盾开始显现。

一些前员工指责沃西基，她继承了一个旨在获取更多观看次数的业务，但未能有意义地改变其方向。其他人则指责Kyncl，YouTube的业务负责人，负责创作者关系和内容审核决策。虽然沃西基和YouTube的产品负责人尼尔·莫汉在内容相关问题上发表了几次公开演讲，但Kyncl在此事上则较少发声。即便如此，这位高管还做出了一些被谷歌内部一些人视为自我宣传的公开举动。去年八月，在一份关于YouTube上极端主义视频普遍存在的严厉报告发布一周后，他在奢侈品牌Brioni的一则广告中展示了西装。根据一位谷歌内部人士的说法，这则广告在YouTube面临困境时发布，引发了谷歌几名员工对Kyncl优先事项的担忧。公司和Kyncl的代表拒绝发表评论。

今年一月，YouTube 听从前谷歌员工 Zunger 的建议，创建了一个针对问题视频的新层级。所谓的“边缘内容”，虽然不违反服务条款，可以留在网站上，但将不再推荐给观众。一个月后，在一系列关于疫苗阴谋论的报道之后，YouTube 表示将一些这些视频归入该类别。二月份，谷歌还发布了一份详细文件，说明它如何处理其服务中的虚假信息，包括 YouTube。“我们推荐系统的主要目标是为用户创造一个值得信赖和积极的体验，”文件中写道。“YouTube 的公司整体目标不仅仅被框定为‘增长’，而是‘负责任的增长’。”

该公司一直在应用 Wojcicki 一年前提出的修复方案。YouTube 表示，Wojcicki 在奥斯汀首次推出的信息面板现在每周显示“数千万次”。

来自 iHealthTube.com 的一段 2015 年关于疫苗的片段，作为一个“自然健康” YouTube 频道，现在也有一个小灰色框。文本链接到 MMR 疫苗的维基百科条目。总部位于伦敦的反极端主义公司 Moonshot CVE 识别该频道为 YouTube 上最持续生成反疫苗理论的频道之一。

但 YouTube 似乎只是不定期地应用这一修复方案。iHealthTube.com 最受欢迎的视频之一并不是关于疫苗的。它是一段七分钟的片段，标题为：“每种癌症都可以在几周内治愈。”虽然 YouTube 表示不再向观众推荐该视频，但页面上没有维基百科条目。该视频的观看次数超过 700 万次。