亚马逊的Twitch安全、人工智能伦理和裁员引起前员工的担忧-彭博社

摄影师：Hollie Adams/Bloomberg亚马逊公司旗下的Twitch部门裁员引起了前员工和内容监管人员对这个流行直播网站监管滥用或非法行为能力的担忧 — 这些问题自公司成立以来一直困扰着该业务。

Twitch的裁员行动导致负责监控此类行为的员工人数减少约15%，据了解此事的前员工透露。这些人表示，该公司还解散了一个负责监督其人工智能工作伦理的新团队，他们要求匿名以保护自己的就业前景。

自2022年底以来，技术公司裁减了超过20万个工作岗位，包括信任和安全职位以及承包商，在 Meta Platforms Inc.、Alphabet Inc. 和 Twitter。包含“信任和安全”这些词的工作岗位在2023年3月较去年同期减少了78%，根据招聘网站Indeed的数据。技术公司还精简了他们的 负责人工智能伦理 和 多样性团队。

技术领域的信任与安全工作岗位减少

过去两年内容监控的工作机会急剧下降

来源：Indeed

“裁员信任与安全团队可能严重阻碍减少在线仇恨和滥用的努力 — 尤其是在激进化和儿童安全方面”，并且“可能让 Twitch 面临法律责任，”说道 Kat Lo，她是 Meedan 的内容审核主管，这是一家非营利软件公司。“信任与安全还负责审核新功能，以最大程度地减少滥用的可能性。”

在接受彭博新闻采访时，四名了解信任与安全或人工智能运营的前 Twitch 员工质疑公司或亚马逊的高管是否适当地优先考虑了内容审核和有意识地构建人工智能工具。

“我们更多地被视为成本中心，而不是收入生成中心，”一名前员工说。

随着裁员，公司在这些团队中失去了大量的机构知识，一位人士表示。另一位人士表示，裁员对那些负责对被禁止或暂停的直播者的上诉的人员影响尤为严重。一些工作将被外包，这些人说。

Twitch 和亚马逊的高管越来越专注于减少直播业务的损失。除了裁员外，他们还 改革了创作者的报酬。亚马逊在 2014 年以 9.7 亿美元收购了 Twitch。自那时以来，观众人数增长了超过 六倍，达到了每时每刻 240 万人。

在这段时间里，运营该服务所需的成本也大幅增加。虽然Twitch从亚马逊那里获得了托管服务的折扣价格，但运营国际直播服务成本极高，高管告诉了彭博社。已告知彭博社。

“用户和收入增长未能跟上我们的预期，”新任首席执行官丹·克兰西在三月份的一篇博客文章中写道，宣布公司裁员。

该公司拒绝置评。

在Twitch每天播出250万小时的用户生成内容，且没有人在视频播出前进行监控，该公司需要先进的监管工具。几起恐怖袭击事件在该平台上进行了直播，包括2022年纽约布法罗超市枪击事件。Twitch也在保护儿童和防止平台上的诱骗方面遇到了困难，一项彭博调查发现。

上个月，Twitch高级官员与英国监管机构Ofcom的代表会面，讨论了公司打击平台上儿童诱骗的计划。该监管机构正在审查Twitch的审查能力是否足够强大，以防止非法或有害内容，一位机构发言人表示。

“我们将密切监测这些措施的有效性，”Ofcom发言人说。

多年来，Twitch允许与游戏文化相关的毒性泛滥成灾。随着平台变得更加主流，公司投资于审查工具，包括一个名为AutoMod的用户激活功能。管理层还雇佣了更多全职信任和安全专业人员，评估用户的举报并删除违反服务条款或法律的内容。

联合创始人兼前首席执行官埃米特·谢尔在三月裁员公告前几天辞职，据人们称赞了信任和安全工作。

除了简化和合并一些部门外，Twitch将增加对外部供应商的依赖，以监控内容并监管用户活动。其中一家承包商是卢森堡Majorel集团SA，一家欧洲技术顾问公司。

2022年，Insider发布了一份报告声称Majorel的工人在代表TikTok审查令人讨厌的内容时遭受监视和过度工作。

在向彭博社发表的声明中，Majorel的执行副总裁卡斯滕·肯尼格表示，公司内容审核员的健康和福祉是优先事项。

“我们通过提供全天候的专业心理支持，以及一套受到我们员工高度赞誉的全面健康和福祉计划，每天都在展示这一点，”他说。

作为最近裁员的一部分，Twitch解雇了其执法应对团队负责人杰西卡·马拉萨。在Twitch，马拉萨因制定了创新的新政策而广受尊敬，比如服务外行为政策。该政策允许公司删除在互联网或现实生活中犯有严重罪行的用户的账户。

Marasa 还领导了 Twitch 在人员聚集的活动中的安全工作，包括 TwitchCon 大会，去年在圣地亚哥吸引了 30,000 名与会者。

“公众和政客们正在加大对社交媒体平台审查其处理令人不安、仇恨和非法内容的能力，”Meedan 的审查主管 Lo 说。

据知情人士称，这些解雇使得一些旨在解决 Twitch 独特安全挑战的功能和倡议搁置不前。公司正在制定计划，帮助被封禁的创作者进行康复，并教育他们负责任的行为或版权协议。据知情人士称，公司还在努力通过新产品提高平台上儿童安全。