中国试图通过国家控制和对科技公司的支持来规范人工智能 - 彭博社

北京正准备在本周实施对人工智能服务的全面新规，试图在国家控制技术的同时提供足够支持，使其公司能够成为有竞争力的全球竞争对手。

政府发布了要求平台提供商在推向市场之前注册其服务并进行安全审查的24项指南。七个机构将负责监督，包括中国国家互联网信息办公室和国家发展和改革委员会。

最终的规定比四月份的原始草案要宽松，但它们显示中国像欧洲一样，正在推进对过去30年中可能是最有前途的技术之一的政府监管。相比之下，美国尽管行业领袖警告人工智能带来“灭绝风险”，但在公开听证会上，OpenAI的Sam Altman敦促国会介入，但并没有认真考虑任何立法。

“中国启动得非常迅速，”卡内基国际和平基金会的研究员Matt Sheehan说道，他正在撰写一系列关于这个主题的研究论文。“他们开始建立监管工具和监管能力，因此他们将更有准备监管技术的更复杂应用。”

中国的法规超出了西方民主国家所能想象的范围。但它们也包括一些在美国等地得到支持的实际步骤。

例如，北京将要求在合成内容上标明明显的标签，包括照片和视频。这旨在防止欺骗，比如一段在线视频中的南希·佩洛西被篡改成看起来喝醉了。中国还将要求任何引入AI模型的公司使用“合法数据”来训练他们的模型，并根据需要向监管机构披露这些数据。这样的要求可能会安抚那些担心他们的作品会被AI引擎利用的媒体公司。此外，中国公司必须提供一个明确的机制来处理公众对服务或内容的投诉。

尽管美国历史上对监管采取了不干预的态度，给了硅谷巨头成为全球巨头的空间，但这种策略在生成式AI方面存在严重的危险，人工智能专家、香港城市大学兼职教授Andy Chun表示。

“人工智能有潜力在我们才刚刚开始意识到的方式上深刻改变人们的工作、生活和娱乐方式，”他说。“如果AI的发展在没有充分监督的情况下继续进行，它也会对人类构成明显的风险和威胁。”

美国与中国的AI监管比较

来源：彭博社研究

在美国，联邦议员们提出了各种各样的AI监管，但努力仍处于早期阶段。美国参议院今年夏天举行了几次AI简报会，帮助成员们在制定监管规定之前了解技术及其风险。

六月，欧洲议会通过了AI法案的草案，该法案将为人工智能系统设立新的监管措施和透明度要求。在该立法生效之前，欧洲议会、欧盟成员国和欧洲委员会必须就最终条款进行协商。

北京花了多年时间为即将于周二生效的规则奠定基础。国务院，即中国的内阁，于2017年发布了一份人工智能路线图，宣布发展该技术为优先事项，并制定了一个时间表，以制定政府监管规定。

像CAC这样的机构随后与中国政法大学的张凌翰等法律学者就人工智能治理进行了磋商，根据希恩的说法。随着中国关于生成式人工智能的草案指南演变为最新版本，监管机构、行业参与者和学者之间进行了数月的磋商，以平衡立法和创新。北京方面的这一举措在一定程度上受到了人工智能的战略重要性以及希望在其他政府之上获得监管优势的驱动，深圳中国香港大学国际事务研究所监管与全球治理中心主任尤传满说。

现在，从百度公司到阿里巴巴集团和商汤科技等中国最大的人工智能参与者开始行动。北京将人工智能定为十二项技术优先事项之一，并在经过两年的监管打击后，政府正在寻求私营部门的帮助来支撑疲软的经济并与美国竞争。在ChatGPT引发全球人工智能狂潮之后，领先的科技高管和有抱负的企业家们投入数十亿美元到这一领域。

在激烈的全球竞争背景下，缺乏发展是最不安全的事情，中国政法大学学者张写道关于这些指导方针。

在今年的一系列活动中，阿里巴巴、百度和商汤都展示了人工智能模型。商汤首席执行官徐立进行了最华丽的演示，其中包括一个聊天机器人，可以根据英文或中文提示编写计算机代码。

然而，中国公司仍落后于OpenAI和谷歌的母公司Alphabet等全球领先者。他们可能会很难挑战这些竞争对手，尤其是如果美国公司只受自身监管的话。

“中国正试图在几个并非必然兼容的不同目标之间保持平衡，”乔治城大学安全与新兴技术中心的主任海伦·托纳说。“一个目标是支持他们的人工智能生态系统，另一个目标是维护社会控制，保持审查和控制中国信息环境的能力。”

商汤集团联合创始人兼首席执行官徐立来源：在美国，OpenAI 对信息几乎没有控制，即使信息是危险或不准确的。其 ChatGPT 编造了虚假的法律先例，并向公众提供制造炸弹的指导。一名乔治亚州的广播主持人声称这个机器人生成了一份虚假投诉，指控他侵吞资金。

在中国，公司必须更加小心谨慎。今年二月，总部位于杭州的元宇智能在其ChatYuan服务上线仅几天后便停止了服务。据在线流传的截图显示，该机器人将俄罗斯对乌克兰的攻击称为“侵略战争” —— 这与北京的立场相违背 —— 并对中国的经济前景提出了质疑。

现在这家初创公司已经完全放弃了ChatGPT模型，专注于一种名为KnowX的AI生产力服务。公司负责人徐亮表示：“机器无法实现100%的过滤，但你可以向模型中添加爱国主义、值得信赖和谨慎等人类价值观。”

阅读更多关于AI的内容：
监管AI？这在美国可能意味着什么：QuickTake
亿万富翁和官僚动员中国参与与美国的AI竞赛
欧盟在AI监管方面走在前列：Big Take Podcast
为什么AI是中美科技竞争的下一个焦点：QuickTake

拥有威权权力的北京遵循的规则与华盛顿不同。当中国机构责令科技公司并处罚时，这些公司无法反击，通常会公开感谢政府的监督。在美国，大型科技公司雇佣大批律师和游说者来对抗几乎任何监管行动。弗吉尼亚大学媒体研究副教授艾恩·科卡斯表示，与利益相关者之间的激烈公开辩论并行，这将使得制定有效的AI监管变得困难。

在中国，人工智能正开始进入庞大的审查制度，以确保该国互联网上不出现禁忌和有争议的话题。从技术上讲，这并不意味着容易。“香港中文大学的You表示，ChatGPT和类似的人工智能创新中最吸引人的创新之一是其不可预测性或超越我们人类干预的创新。在许多情况下，这超出了平台服务提供商的控制。”

一些中国科技公司正在使用双向关键词过滤，利用一个大型语言模型来确保另一个语言模型不包含任何有争议的内容。一位由于政治敏感性而拒绝透露姓名的科技初创公司创始人表示，政府甚至会对人工智能服务如何标记数据进行抽查。

“可能最引人入胜和令人担忧的时间线是，审查是通过专门开发的新型大型语言模型进行的，”哈佛大学伯克曼-克莱因中心的研究员Nathan Freitas说。

欧盟可能是最进步的，保护个人免受这种过度干预。6月通过的草案法确保隐私控制并限制面部识别软件的使用。欧盟提案还要求公司对其服务可能带来的风险进行一些分析，比如对健康系统或国家安全。

但欧盟的做法引发了反对意见。OpenAI的Altman表示，他的公司可能会“停止运营”在实施过于繁琐法规的国家内。

华盛顿可以向中国监管机构学习的一点是“有针对性和迭代”，Sheehan说。“建立这些工具，他们可以不断改进，随着不断的监管。”

AI聊天机器人ChatGPT的复杂人类化回复几乎看起来像魔法。这也是问题的一部分。Alex Webb告诉我们更多