AI告密者正在站出来是时候了- 彭博社

OpenAI首席执行官Sam Altman（左）在6月10日的苹果全球开发者大会（WWDC）期间与苹果的Eddy Cue交谈。

摄影师：Justin Sullivan/Getty Images 北美这就是詹姆斯·麦迪逊所警告的。

摄影师：Nathan Howard/Getty Images

这是一项应该使我们所有人受益的人工智能进步：人工智能构建者更容易警告世界，他们的算法可能造成的危害 — 从传播错误信息和取代工作，到产生幻觉和提供一种新形式的监视。但这些潜在的告密者可以向谁求助呢？由于补偿政策的变化、工程师们重新发声的势头以及英国政府支持的安全组织的影响力不断增强，对更好监督的积极转变正在进行中。

Bloomberg观点动力仍在吸引壮丽的魔力伦敦的竞争降至最低点是一场大赌局欧元被困在魔鬼般的美联储和激烈的政治海洋之间沙特的消费 — 不是生产 — 对于石油产量的峰值至关重要金融变革是最重要的。人工智能工作者面临着终极的第一世界问题，即如果他们在正确的公司坚持几年，并且在离开时保持对其问题的沉默，他们可以通过股票期权赚取七位数或八位数的收入。根据Vox最近的报道，如果被发现发声，他们就失去成为百万富翁的机会。根据本月由13名前OpenAI和Google DeepMind员工（其中6人匿名）发布的公开信，这使得许多人选择保持沉默。

OpenAI对这类投诉的回应令人鼓舞。它不仅道歉，而且表示将解除大部分过去员工对这些不得贬低的要求。曾是OpenAI员工的丹尼尔·科科塔洛（Daniel Kokotajlo）拒绝签署禁言令并面临损失170万美元（根据《纽约时报》的报道，这是他净资产的大部分），现在将能够变现他的股份并获得这笔钱，他的律师，劳伦斯·莱西格（Lawrence Lessig）告诉我。

丹尼尔·科科塔洛丹尼尔·科科塔洛照片由丹尼尔·科科塔洛提供这里令人振奋的发展并非是已经薪酬丰厚的AI科学家们获得更多的钱或保护他们的利润丰厚的职业，而是在OpenAI至少不再有一个保持沉默的强大动机。莱西格今年早些时候与超过半打前OpenAI员工会面，制定了一系列AI建设公司应该做出的承诺，希望至少有一家AI公司同意全部承诺。

这可能是一个艰巨的任务。但将不得贬低协议与补偿分开是一个有希望的第一步，其他大科技公司，如今雇佣超过33,000名以AI为重点的工作者，如果他们尚未制定这样的政策，应该效仿。令人鼓舞的是，OpenAI竞争对手Anthropic的一位女发言人表示，公司没有这种有争议的禁言令。

那些公司应该做得更多，让告发者更容易发出警报。OpenAI表示，他们的工程师可以使用“热线”，但当这条线只通往公司老板时，这并没有什么意义。

一个更好的设置是建立一个在线门户，通过该门户，AI工程师可以向他们的老板以及具有技术专长的公司外人士提交关注。在没有任何官方AI监管机构的情况下，谁应该成为第三方？当然，像美国联邦贸易委员会和司法部这样的现有监管机构是一个选择，但另一个选择是英国的AI安全研究所（AISI）。

由英国政府资助，这是世界上唯一一个由国家支持的实体，已成功与包括Alphabet Inc.的Google、微软公司和OpenAI在内的世界八大领先科技公司达成协议，对其AI模型进行安全测试，在其投入使用前后。1

这使得英国的AISI成为这个快速发展领域中最接近武器检查员的机构。到目前为止，它已经对来自几家领先公司的五个AI模型进行了国家安全风险测试。

该组织有30名员工，并正在筹建一个旧金山办公室。根据其最新的职位招聘信息，一些高级研究人员的年薪约为£135,000（约合$170,000），远低于谷歌总部在加利福尼亚州山景城的一个大致相当职位的薪酬（超过$1,000,000）。尽管如此，该组织已成功聘请了前OpenAI和Google DeepMind的主管。

硅谷工程师与海外组织联系可能看起来有些尴尬，但不可否认的是，他们设计的算法具有全球影响力。短期内，英国充当美国和欧洲，甚至美国和中国之间的便捷中间地带，以调解各方关切。

吹哨机制在人工智能领域仍有一段路要走，但至少比以往任何时候都更具可行性。这是值得庆祝的事情，希望也能为其他人敢于说话带来更大的动力。

更多来自彭博观点：

• 谷歌人工智能部门的高尚理念被秘密所玷污：Parmy Olson
• 人工智能正在让机器人变得更聪明。它们需要界限：Thomas Black
• 最高法院泄密者应该站出来：Stephen L. Carter

​​​​​想要更多彭博观点吗？ OPIN <GO> 。或者您可以订阅 我们的每日新闻简报 。

宗教保守派数十年来一直致力于通过将税款发送到基督教学校并利用法律挑战来颠覆几十年来有关宗教自由的法律原则，来拆除公立学校系统。

正如 采用了普遍学校选择计划的12个州所展示的，这一计划正在奏效。公共教育正逐渐被私立教育取代，而公立学校正在关闭。