亚马逊、Meta等公司在拜登警告后推出人工智能安全措施 - 彭博报道
Justin Sink, Anna Edgerton
七家领先的人工智能公司将在白宫周五举行的活动上推出新的自愿保障措施，旨在最大程度减少滥用和偏见在新兴技术中的存在。
乔·拜登总统将与来自亚马逊公司、Alphabet公司、Meta平台公司、微软公司和OpenAI等公司的高管一起出席，这些公司承诺遵守透明度和安全承诺。
根据协议，公司将在发布新的人工智能系统之前对其进行内部和外部测试，并要求外部团队检查其系统是否存在安全漏洞、歧视倾向或对美国人权利、健康信息或安全构成风险。
这些公司，包括Anthropic和Inflection AI，还承诺与政府、民间社会和学术界分享信息以改善风险缓解，并在漏洞出现时报告漏洞。领先的人工智能公司将在他们生成的材料中加入虚拟水印，提供一种帮助区分真实图像和视频与计算机生成图像的方法。
这一方案正式化并扩大了一些主要人工智能公司已经在进行的步骤，这些公司已经看到公众对他们新兴技术的巨大兴趣，但同时也担心相应的社会风险。
Meta全球事务总裁尼克·克莱格表示，这些自愿承诺是“确保为人工智能建立负责任的监管框架的重要第一步，它们为其他政府树立了榜样。”
“人工智能应该造福整个社会。为了实现这一目标，这些强大的新技术需要负责任地构建和部署，”他在周五早些时候发布的声明中说道。
白宫助手表示，这一承诺有助于平衡人工智能技术的承诺与风险，并是数月来在幕后进行密集游说的结果。许多高管预计将出席周五在白宫举行的会议，他们曾在五月份与拜登总统和副总统卡玛拉·哈里斯会面，届时政府警告行业需要负责确保其技术的安全。
“我们必须确保公司在开发产品时进行压力测试，特别是在发布之前，以确保它们不会出现意外后果，比如容易受到网络攻击或被用来歧视某些人，”白宫幕僚长杰夫·齐恩茨在接受采访时说道。“而重要的一点是——你将在所有工作中看到这一点——他们不能自己给自己打分。”
自愿保障
然而，这些承诺是自愿的事实表明了拜登政府在引导最先进的人工智能模型远离潜在滥用方面的局限性。
这些指导方针并未规定需要获得特定外部专家的批准才能发布技术，公司只需要报告——而不是消除——可能存在的不当使用或偏见风险。水印系统仍需开发，而且可能难以在内容上打上标记，以防恶意行为者轻易删除，从而在互联网上散布虚假信息。
除了公众舆论之外，几乎没有其他机制能够迫使承诺将这些技术用于医学和气候变化等社会优先事项。
“这是一个不断变化的目标，”齐恩茨说。“因此，我们不仅必须执行和实施这些承诺，还必须想出下一轮承诺，因为技术在变化。”
齐恩茨和其他政府官员还表示，如果没有国会立法来帮助政府制定更严格的规则并拨款以聘请专家和监管人员，要跟上新兴技术将会很困难。
助手们表示，人工智能引起的担忧是总统近几个月来的首要任务。拜登经常在与经济、国家安全和卫生顾问的会议中提及这个话题，并与内阁部长进行对话，告诉他们要优先考虑技术如何与他们的机构交叉。
在与外部专家的对话中，拜登被警告称，像Meta的Facebook和Instagram以及字节跳动有限公司的TikTok这样的算法社交媒体已经展示了人工智能可能带来的一些风险。一位外部顾问建议总统应该将这个问题视为上世纪90年代的克隆问题，需要明确的原则和防护措施。
白宫表示在周五的声明之前与20个国家的政府进行了磋商。
“我认为各方都愿意或渴望尽快行动，因为这就是人工智能的运作方式 — 你不能对这项技术掉以轻心，”副幕僚长布鲁斯·里德说。
所有这些努力，然而，都落后于由企业竞争激发的人工智能发展的步伐，以及对中国创新可能超越西方进步的担忧。
即使在欧洲，欧盟的人工智能法案远远领先于美国国会通过的任何法案，领导人们也意识到在制定约束性法律之前，需要公司自愿承诺。一位白宫官员估计，至少需要两年时间才能让欧洲的法规开始影响人工智能公司。
这也让那里的官员们要求公司自我监管。在过去三个月与科技高管的会议中，欧盟内部市场专员蒂埃里·布勒顿呼吁人工智能开发者同意签署一项“人工智能协议”以设定一些非约束性的界限。