YouTube禁止哪些内容？难以控制的极右翼视频 - 彭博社

照片：阿拉米与YouTube的许多同事不同，Tala Bardan并不将2017年6月的公司团建视为一个美好的长周末。YouTube的员工们住在洛杉矶市中心的威斯汀酒店，享受了一场私人 Snoop Dogg表演，并前往附近的哈利波特主题公园进行日游。他们喝免费饮料。然而，当派对于那个星期五早上开始时，Bardan是约十几名不走运的员工之一，被首席执行官 Susan Wojcicki带到酒店地下室开了一个关于视频网站与恐怖分子问题的发人深省的会议。

[摘自*点赞、评论、订阅：YouTube混乱崛起的内幕*，作者Mark Bergen。来源：Mark Bergen](https://www.penguinrandomhouse.com/books/653248/like-comment-subscribe-by-mark-bergen/)对于恐怖分子的讨论对于Bardan来说并不陌生，她在海外的一个相对初级职位上观看阿拉伯语暴力视频，这些视频是YouTube部门筛选出的被归类为“VE”的素材，公司用这个缩写来表示暴力极端主义。在会议上，一位高级工程师解释说，YouTube已决定尝试从其网站上消除导致伊斯兰国等组织崛起的整个意识形态。该公司将重新编码YouTube的推广算法，以淹没“具有煽动性的宗教和至上主义内容”。政策人员将制定一个包含14位煽动性人物的名单，所有这些人都是穆斯林男性，无论他们发布什么内容都将被禁止。

Bardan的团队立即被指派执行新规则，周末工作，而其他人都在聚会。一个队友在凌晨2点被叫醒处理一个特别棘手的视频，接听电话时挤在酒店浴室里，以避免唤醒与之同房的同事。

紧急情况的来源并不神秘。几个月来，广告商发现他们的商业广告出现在伊斯兰国盟友、新纳粹分子和其他令人反感的视频上后，他们一直在抵制该服务。前一周，三名伊斯兰极端分子在伦敦桥上杀死了八人。事后的报道显示，其中一名凶手从YouTube上观看的有争议的神职人员Ahmad Musa Jibril的视频中获得了灵感。

对YouTube母公司Alphabet Inc.的Google造成的 财务混乱严重到足以让YouTube考虑结束那个曾经让它成为互联网巨头的商业模式——与众多视频制作者分享广告销售收入。在广告商抗议期间的某个时刻，员工警告在线创作者，YouTube可能只能在与建立媒体机构或唱片公司有关联的频道上播放广告，实质上删除了YouTube中的“你”。

“我们总是处于危机之中，” Wojcicki在那年的一次紧急会议上说。

巴尔丹在2017年的撤退时已经在YouTube工作了好几年，并被教导了其言论理念：只要视频不展示或煽动过度暴力，就让视频保留下来。“这是一个平台，”她被告知。“我们不对上面的内容负责。”

随着YouTube成为互联网上访问量最大的网站之一，这种理念的局限性变得显而易见，根据对数十名现任和前任YouTube员工的采访，该公司一直在努力调整。

在YouTube高层看来，2017年的会议被视为有效地从商业网络上清除激进伊斯兰教的第一步，并更认真地对待各种极端主义。广告商回归，帮助将其业务从濒临崩溃的边缘拉回。

但YouTube公司内部较低层次的员工并没有将其视为一场胜利。在员工撤退后不久，白人民族主义者在弗吉尼亚州夏洛茨维尔发动了一场致命的暴乱，这是美国和国际上极右翼暴力增加的一个分水岭时刻。一系列年轻的白人男子进行了种族主义袭击，并附带着他们在网上被激进化的经历。

在撤退三年后，巴尔丹和几位同事组织了一个演示，展示了YouTube上白人至上主义者的普遍存在，列举了最近在新西兰、威斯康星、南卡罗来纳和德克萨斯发生的致命袭击事件。YouTube花了多年时间制定处理暴力极端内容的方案。这些方案奏效了。那么为什么对这种威胁如此不情愿使用呢？

右翼团体爱国者前线成员在2021年12月4日横穿华盛顿特区的纪念桥。摄影师：Win McNamee/Getty ImagesYouTube的大部分标准内容长期以来一直是无害的、有用的，甚至是令人愉悦的——如何视频、愚蠢小品和电视上找不到的珍贵素材。但该公司试图将这种混乱塑造成一个功能性创意经济的努力却因一些人倾向于上传黑暗或非法材料而变得复杂。确切的界限可能很难划定。在早期，该公司为其版主撰写了一本70页的手册，详细介绍了处理穿着尿布的成年人或插入物品的描绘视频的技巧。“凭你的判断！”一张页面建议道。手册的另一部分要求删除旨在“恶意传播针对受保护群体的仇恨”的内容。

制定对大肆行为的标准是极其困难的。有些视频赞美骷髅测量学的智慧，或者宣扬种族主义阴谋论，以至于许多版主都看不懂。在一次会议上，YouTube政策律师詹妮弗·卡里科（Jennifer Carrico）在点击了大量超现实的视频后，大声问道：“我们打开了什么样的潘多拉魔盒？”

政府官员有时要求删除他们描述为极端分子或团体的视频。YouTube发现大多数这类请求都是道德说教或幼稚，而公司的律师认为他们无法做出封锁“恐怖分子”等主观定义群体的全面决定。

阿拉伯之春，当世界看到革命在YouTube和社交网络上展开时，似乎证实了这种方法。YouTube的政策主管维多利亚·格兰德在2014年的一次演讲中说：“捍卫获取信息的权利意味着直面那些试图审查他们认为危险的观念的政府和其他人。”

伊斯兰国考验了这种决心。随着这个激进组织在伊拉克和叙利亚崛起，其成员开始在YouTube上上传制作精良、影视化的宣传片。2014年夏天的一段恐怖视频显示极端分子扣押了被俘的记者詹姆斯·弗利，在他被斩首前的片刻。视频以对继续进行更多杀戮的威胁结束。

这种内容对YouTube来说是一场噩梦。特别是在欧洲，政客们对该平台的压力前所未有。当布鲁塞尔的议员们召集谷歌参加一场关于极端主义的听证会时，YouTube的人手如此稀缺，以至于在欧洲甚至没有专门的政策官员。

YouTube尽可能迅速地清除了伊斯兰国的视频。沃吉奇基也认为可以用反恐叙事来对抗恐怖主义内容。YouTube的员工们围绕着这个古老的法律格言： “阳光是最好的消毒剂。”

最终是广告商的压力，而不是政客，最终促使YouTube彻底改变了其方法。2017年2月9日，《泰晤士报》报道说，使用YouTube自动广告系统的知名品牌“不知情地”赞助了“伊斯兰极端分子、白人至上主义者和色情制作者”的视频。已经在与谷歌谈判的广告商发起了一场持续的抵制。数月来，YouTube限制了任何与经过审查的工作室、网络或唱片公司无关的频道上的广告——基本上是任何不在电视上的内容。情况变得如此严重，以至于YouTube不确定是否能够再次与独立创作者分享广告收入。YouTube的一位主管杰米·拜恩告诉一群知名的YouTube创作者：“一旦我们度过难关，情况将会好转。但如果我们不能，你们知道——就完了。”

关于YouTube清除激进伊斯兰主义的目标，几乎没有投诉；问题似乎主要出在它的执行方式上。“组织并没有做好准备，”一位前员工回忆道，描述YouTube的管理部门为“一团糟”，充斥着管理不善和混乱。就在在威斯汀酒店的撤退之后，这位员工翻阅了最初的过滤代码，发现其中包括阿拉伯语中的“真主”一词，这可能会清除掉数百万无辜视频。

2018年，YouTube的销售人员为热门的中东频道在斋月期间预订了赞助商，一名员工将这个区域性的营销季节描述为“相当于30倍的超级碗”。但当节日到来时，许多广告却不见了踪影。看起来YouTube的审核人员和机器，被训练成防止与极端主义有任何商业联系，却笨拙地将广告从几乎任何带有伊斯兰意象或阿拉伯语的视频中移除。

最终，YouTube解决了这些错误。丑闻变得更少。广告销售有所改善。Wojcicki创建了一个情报部门，专门发现令人担忧的趋势并将其从YouTube上清除。伊斯兰国的视频有效地消失了。

YouTube暴力极端主义专家巴尔丹在2019年3月15日一早醒来，得知一名澳大利亚男子在新西兰基督城的清真寺和伊斯兰中心开枪，夺走了51条生命。他在网上直播了他的谋杀行为，并将其记录在一个身体摄像头上。巴尔丹哭泣，擦干眼泪，打开电脑，开始观看恐怖分子的视频。

枪手的文字、采访和数字痕迹将揭示他对“大换代”理论的狂热信仰，该理论认为非白人对西方文明构成种族灭绝威胁。“这个个人声称自己并不经常在极右翼网站上发表评论，”新西兰政府在一份报告中总结道，“对他来说，YouTube是一个更重要的信息和灵感来源。” 枪手从YouTube上的教程学会了组装他的枪支，他的直播也在那里播出。

枪击事件发生后，YouTube急忙删除了视频的残留部分。但该平台被仇恨分子和喷子们洪水般地涌入了对这些谋杀的致敬。有一次，有人每秒钟发布了一份新的视频副本。

“我们没有足够的审查员，”领导其情报部门的YouTube副总裁詹妮·奥康纳(Jennie O’Connor)在一夜之间恳求道。一名高管后来表示，重新上传的速度之快让公司内部的一些人怀疑有国家行为者参与其中。 （YouTube发言人拒绝就此发表评论。） YouTube决定切断所有与枪击事件有关的上传和搜索，这是该网站历史上的首次。三个月后，YouTube修改了其仇恨言论规则，禁止视频“声称某个群体优越以此来辩解歧视、隔离或排斥。” 它禁止否认或美化“有充分证据证明的暴力事件”，如大屠杀或校园枪击事件，以及由施暴者拍摄的致命材料。

这引起了一些波澜，直到随后的夏天，乔治·弗洛伊德被谋杀。2020年6月底，随着美国席卷全国的种族正义抗议活动，YouTube清除了几个具有煽动性的账户，包括前龙骑士团领袖大卫·杜克和曾经收到基督城枪手捐款的视频博主斯蒂芬·莫林尼克斯。 （莫林尼克斯后来表示他“立即谴责了新西兰恐怖分子”，并辩称他们没有共同信仰。）

从外部看，YouTube似乎是在弗洛伊德被谋杀后才意识到这一点。但高管们坚称，这只是前一年的仇恨言论更新生效，特别是因为频道直到有多次违规行为才被关闭。“这通常需要时间，”副总裁奥康纳说。“我们不会抬头看一眼然后说，‘哦，YouTube上有仇恨言论。我们真的应该重视这个问题。’”

巴基斯坦卡拉奇的哀悼者为2019年基督城新西兰清真寺枪击案的受害者祈祷。摄影师：法里德·汗/AP当YouTube在削弱伊斯兰国恐怖分子的能力时，一些员工开始担心该平台对其他形式的政治极端主义有多么盲目。马修·门格林克于2015年加入YouTube担任工程副总裁，是科技领域中罕见的穆斯林。当他在网站上搜索“圣战”一词时，他发现几乎没有穆斯林极端分子，但却有无数来自愤怒的茶党信徒和直勾勾盯着你的视频博主的视频。许多受到YouTube广告销售推动的志同道合的频道网络，抓住了右翼对欧洲不断增长的穆斯林移民人口的关注。在那附近有关于《大替换》理论的视频讨论。

门格林担心YouTube的推荐引擎助长了这种恶语相向。 “任何暴露出偏见的东西—它会像没商量一样挖掘这种偏见，”他回忆道。 他建议重新调整代码，降低那些接近仇恨言论规定线的视频的排名，并通过推荐替代观点来对抗批评穆斯林、黑人美国人或犹太人的视频。 这样的提议当时被认为是不合理的，不符合Google的风格。

杜克（左）在2020年被删除的视频中。门格林于2016年离开了公司。 YouTube在广告抵制之后，开始采纳他的建议，从推荐中删除了数百万个有争议的视频。 然而，其他人看到在接下来的几年里极端内容的恶性蔓延。 巴尔丹帮助组织的2020年的演示突显了YouTube在内容管理上的双重标准。 一张幻灯片展示了来自已知伊斯兰恐怖组织或人物的剪辑截图，其中包括古兰经诵读或对美国的谴责，这些在2017年的规则变更后允许YouTube将其归类为极端内容。 所有这些视频都被删除了。

然后又出现了另一个极端的幻灯片。 它展示了一个来自雅利安国家的领袖的视频布道的缩略图，以及“联合右翼”夏洛茨维尔集会组织者杰森·凯斯勒在摄像机前讨论“白人种族灭绝”的镜头。 这些视频仍然在YouTube上。

从莫林尼克斯的YouTube频道中剪辑的视频，已被删除。员工们认为，问题主要是官僚主义。YouTube有不同的团队负责处理宗教极端主义（VE）的视频，以及处理仇恨言论的团队，白人至上主义者的视频也被归类在这里。反对宗教极端主义的工作有更多的自由度和资源。一位曾在处理仇恨言论的同事向巴尔丹坦白，他们被大量材料淹没，很少有时间处理被归类为白人民族主义者的有争议视频。

巴尔丹工作的文件包括一系列建议，包括将来自白人民族主义者的内容视为暴力极端主义。到年底，她离开YouTube，从未得到领导层的直接回应。

当YouTube解决这个问题时，它的辩护词与其他在线平台的说辞相似：处理伊斯兰极端主义更容易，因为各国政府对定义达成一致；有注册表和制裁。YouTube主要依赖于英美政府的被禁恐怖组织名单。“相对而言，这更简单，”奥康纳说。她补充说，没有类似的东西适用于白人民族主义。

凯斯勒在2018年华盛顿特区的“联合右翼2”集会上。摄影师：克雷格·哈德森/AP在唐纳德·特朗普的总统竞选活动和随后的政府任期中，即使是主流政治言论也开始挑战YouTube的内容准则。该如何处理一个总统曾称墨西哥人为“强奸犯”，称几个国家为“屎坑国家”？特朗普及其盟友多年来还一直指责谷歌和硅谷存在自由主义偏见，这让YouTube更难做出艰难的判断。对于诉讼和围绕社交媒体内容管理的新政府法规的呼吁也在增加。

寻找可用定义的人员在YouTube内部提议，建议将其政策基于南方贫困法律中心的分类，这是一家追踪仇恨团体和意识形态的知名组织。但是，由于SPLC已成为杰出的特朗普对手，YouTube的领导人拒绝了这一提议，因为存在政治风险，根据两位熟悉该决定的人士。一位前高管回忆说，SPLC在YouTube内部“变成了一个负面词汇”。YouTube发言人表示，SPLC“并未被广泛接受为仇恨团体的权威声音。”

Susan Corke，SPLC情报项目的主任，负责追踪极右翼，通过电子邮件表示，YouTube未能积极防止极端分子滥用其平台，对SPLC专业知识的贬低“再次显示其对用户安全的承诺不足。”

如何标记仇恨和恐怖，以及如何处理这一困境，并非仅限于YouTube，甚至不仅限于互联网。自2001年9月11日以来，许多政府已将更多资源投入到一种危险的意识形态之上。新西兰对基督城枪击的官方分析确定，该国的安全机构“几乎完全”专注于伊斯兰极端主义。报告得出结论称，这种方法“并非基于对恐怖主义威胁的知情评估。”

在2019年，德克萨斯州埃尔帕索购物中心发生大规模枪击事件，现场附近出现了一个临时纪念碑。据信，嫌疑人在袭击前在网上发布了一个白人民族主义宣言。摄影师：约翰·洛克尔/APYouTube表示，它已大大改善了对各种极端主义的应对。它指出了明确的规则，禁止仇恨言论和宣扬暴力或针对受保护群体的仇恨内容，并表示它减缓了接近违反其规则的视频的传播速度。它已开始删除某些宣扬“大换人”理论的视频。当人们今天在YouTube上搜索这个主题时，他们会在搜索结果的顶部找到一个关于这个主题的维基百科条目。

5月14日，一名种族主义枪手在水牛城一家超市杀害了10人，并在Twitch上进行了直播，这是亚马逊公司旗下的一个YouTube竞争对手。，YouTube删除了重新上传的视频如此迅速，以至于它们实际上不存在。

但这场悲剧也遵循了一个熟悉的模式。枪手发布了一份在线宣言，其中大部分内容与基督城枪手的意识形态基本一致，公司的批评者称其仍在帮助传播这种意识形态。他还在YouTube上观看了枪械教程。

谷歌继续鼓励可能引导易受极端主义信息影响的人们改变方向的内容。它与Define American合作，这是一个移民倡导非营利组织，在水牛城枪击事件发生前一个月发布了一份名为 大换人网络的报告，分析了23个流行的YouTube视频，被归类为“反移民”。其中一些来自独立YouTuber，但许多是由资金充裕的智库（胡佛研究所）和流行的保守媒体（福克斯新闻）制作的。“这是极端主义，但包装得感觉很主流，”Define American的数字叙事主任肖娜·西格尔科说。

她的团队正在尝试阳光照射的方法，赞助了今年夏天一个YouTube创作者的视频 揭示了“大换代”理论的危险。这段视频在第一个月就获得了30万次观看。报告中被标记为“反移民”的YouTube视频总观看次数超过1亿次，而且还在增加。阅读下一篇文章： 真相社交存在内容审查问题