AI监管：欧盟在马拉松谈判后制定首个规定 - 彭博社

摄影师：格雷厄姆·休斯/彭博社本周早些时候，欧洲谈判代表们在布鲁塞尔的一个会议室里进行了将近24个小时的辩论 —— 有时打瞌睡，有时使劲操作自助咖啡机以至于它坏了。

他们的使命只有一个：达成一项调控人工智能的协议。他们并没有完全达成目标。但据知情人士透露，欧盟内部市场专员蒂埃里·布勒顿不希望周末休息太久，以免游说者有更多时间参与讨论。

周五，他们又进行了一轮激烈的讨价还价，拉上窗帘，在强光下达成了共识。

就在午夜前，代表们宣布他们最终达成了一项控制技术的协议，这项技术被埃隆·马斯克、OpenAI公司的山姆·奥尔特曼、人工智能先驱杰弗里·辛顿等人警告称如果不加以控制可能构成存在威胁。

阅读更多： 欧盟将如何监管ChatGPT等先进人工智能模型

欧洲关于所谓的AI法案的协议开启了一个关键时刻，世界各国领导人将展示他们调控人工智能技术以及抑制其潜在偏见、侵犯隐私、产生过大影响和其他风险能力和意愿。没有什么时刻比欧洲数日的辩论更能捕捉到政府在不扼杀有益人工智能技术的情况下如何面对这一困境。

一些人提出“人工智能无法受到管制，要么是因为立法者不了解这项技术，要么是因为技术发展得太快，”哥伦比亚大学法学院欧洲法律研究中心的教授阿努·布拉德福德（Anu Bradford）周五表示。她说，虽然欧盟的政策面临阻力，但该地区有“展示自己不能让完美成为良好的敌人的机会。”

阅读更多： 欧盟达成协议，对ChatGPT和人工智能技术进行监管

除中国和印度外，对人工智能进行监管的努力有限。一些美国城市和州通过了限制在特定领域使用该技术的立法，如警务调查和招聘。各个联邦机构正在审查人工智能工具的使用，一些监管机构正在利用现有法律监管这项技术，美国国会的成员正在探讨立法。但该国远未像欧盟那样推出《人工智能法案》。

正在通过欧盟立法程序的政策远不止限于过去一年吸引世界关注的生成式人工智能工具。它将规定执法部门允许如何使用AI动力监控摄像头；它如何可以部署在关键基础设施中；以及OpenAI的ChatGPT和谷歌的Bard等程序的开发者将如何负责减轻其系统风险。

它还将具有一定的约束力。政策制定者建议对违反规定的公司处以罚款，罚款高达3500万欧元（3770万美元），或全球营业额的7%，具体取决于违规行为和公司规模。

阅读更多： 监管人工智能？美国、欧盟和中国是如何做的：快速了解

欧洲议会和欧盟的27个成员国都需要批准这项协议。但上周达成的协议标志着迈出了一项关键步骤，为清理具有里程碑意义的人工智能政策铺平了道路，这将在美国国会没有任何实质性行动的情况下，为西方世界的磋商和随后的监管设定基调。

欧盟 — 像其他政府一样 — 在保护自己的人工智能初创企业（如法国的 Mistral AI和德国的 Aleph Alpha）与潜在社会风险之间挣扎。这在谈判中被证明是一个关键的分歧点，一些国家包括法国和德国反对他们认为会不必要地削弱本国公司的规定。

一些细节仍需要在未来几周由公务员们商定，但谈判代表们基本上同意对生成式人工智能设立限制，为驱动它们的大型模型的任何开发者建立基本的透明度要求。

硅谷和华盛顿并不总是看法一致。虽然商界领袖经常表示监管会扼杀创新，但一些立法者坚持认为鉴于技术进步的速度，监管是必不可少的。在人工智能领域，这种动态的赌注已经变得非常高。在这一集的AI IRL中，Nate Lanxon和Jackie Davalos与Bloomberg BETA的风险投资家James Cham、大西洋理事会民主与技术研究员Brittan Heller以及美国众议员唐·拜尔一起讨论了机器学习公司的可能性和风险。

许多人感到惊讶的是，最具争议的讨论围绕着实时扫描和识别人脸的生物识别工具，而不是生成式人工智能。但这个问题一直是一个长期的、情感激烈的辩论。议会在去年春天投票决定完全禁止使用这些工具，而欧盟国家一直在推动为国家安全和执法豁免这些工具。

阅读更多： 美国警告欧盟的AI政策将只会使大科技公司受益

最终，双方同意限制在公共场所使用这项技术，并加强监管。

一些人认为欧洲长时间的辩论表明决策者在深思熟虑，不再仓促行事。“我们花了很多时间寻找合适的平衡，”布勒顿在上周六的一份声明中表示。

你对人工智能有疑问，我们有答案。注册接收彭博科技的每周问答新闻简报。

本周持续数天的讨论是为了达成协议，并在6月的欧洲选举之前获得立法通过，以避免新一届委员会和议会推迟努力。

法国数字化部长让-诺埃尔·巴罗表示，法国政府将在未来几周内审查这项妥协，以确保它“保护欧洲发展自己的人工智能技术的能力”。西班牙数字化和人工智能国务秘书阿尔蒂加斯指出，在这项协议下，法国人工智能初创公司Mistral在研发阶段可能不会受到通用人工智能系统的控制。

谈话结束时，据说阿尔蒂加斯打开了一瓶香槟。“我们对此抱有希望，”她说，“他们都会确认的。”