欧盟要求大科技公司警告用户AI的“黑暗面”-彭博社

Vera Jourova摄影师：David Paul Morris/Bloomberg欧盟希望科技公司警告用户有关可能导致虚假信息的人工智能生成内容，作为一项自愿准则的一部分，Twitter Inc.上个月离开了。

欧盟委员会副主席维拉·约罗娃告诉记者：“新的人工智能技术‘可以是一种力量’，但也存在‘黑暗面’，‘新风险和对社会可能产生负面后果的潜力’。‘新技术对打击虚假信息提出了新挑战。’”

签署了欧盟打击虚假信息自愿准则的公司，包括TikTok Inc.、Microsoft Corp.和Meta Platforms Inc.，现在应该“明确标记”任何可能传播人工智能生成虚假信息的服务，约罗娃表示。

欧盟正在赶紧赶上并制定生成式人工智能规则，同时正在就其人工智能法案进行谈判，该法案将在下周提交给欧洲议会全体会议进行关键投票。即使欧盟机构在年底前就最终版本达成一致意见，公司可能也不需要在2026年之前遵守，因此各种政治家正在提出一系列想法来覆盖该地区。

欧盟的自愿准则规定了欧盟内容管理规则的遵守，数字服务法案，目前尚不包括人工智能生成内容的风险。

Jourova表示，签署者“将生成式人工智能集成到其服务中，比如微软的Bing聊天，Google的Bard，”现在还应“建立必要的保障措施，以防止恶意行为者利用这些服务生成虚假信息。”

Jourova已经与签署该行为准则的40多家公司进行了会面。埃隆·马斯克的Twitter上个月离开了。

“我们认为这是Twitter的一个错误。Twitter选择了一条艰难的道路。他们选择了对抗，”Jourova说道。“毫无疑问，通过退出行为准则，Twitter吸引了很多关注，其行为和对欧盟法律的遵守将受到严格和紧急的审查。”

更多保障措施

执行副总裁玛格丽特·维斯塔格正在与G7伙伴印度和印度尼西亚合作制定一项行为准则，以说服公司在推出这项技术时增加更多保障措施。

维斯塔格在与美国政府和OpenAI首席执行官萨姆·奥尔特曼等行业领袖的对话中表示，一些限制措施已经达成“共识”。例如，奥尔特曼对透明度要求、外部审计和红队测试感兴趣。

“重要的是，当然，这个过程不能被最低限度所控制，以至于无法运作，”维斯塔格说。“它必须由民主主导，而不是由行业主导，但它需要行业的参与。”

内部市场专员蒂埃里·布勒顿宣布了一项“人工智能协议”，将填补人工智能法案达成协议并生效之间的几年时间。

这项协议将有助于公司在AI法案生效之前遵守规定，布雷顿今天告诉记者，Google首席执行官桑达尔·皮查已表示他将签署该协议。

委员会可以为公司提供压力测试，以评估它们已经如何遵守规定，正如专员已经计划与Twitter合作遵守数字服务法案。