中国要求对ChatGPT等AI服务进行安全审查 - 彭博社
bloomberg
中国计划要求生成式人工智能服务在获准运营之前进行安全审查,这给包括百度在内的中国最大科技公司推出的ChatGPT等机器人带来了不确定性。
服务提供商必须确保内容准确并尊重知识产权,既不歧视也不危害安全,中国互联网管理局在公开征求意见的草案指南中表示。该国互联网监管机构在一份声明中还表示,AI运营商必须清楚标明AI生成的内容发布在其网站上。
中国互联网管理局的要求增加了北京方面对生成式人工智能爆炸性增长的监管尝试,自OpenAI的ChatGPT在去年11月引发行业热潮以来。从阿里巴巴集团到商汤科技和百度,所有这些公司都致力于打造全球最大互联网市场的下一代AI平台。这与国外发展的浪潮相呼应,包括Alphabet公司的谷歌和微软公司等许多科技公司正在探索生成式人工智能,它可以通过简单的用户提示从诗歌到艺术创作原创内容。
中国并没有掩饰其希望提升人工智能的愿望,而此时该国正与美国在从芯片到电动汽车等技术领域陷入冲突。但政府打算如何激励和监管这一新兴领域仍然不确定。周二的指南基本上将现有的关于数据和内容的规定——从个人信息保护到审查党认为不受欢迎的信息——移植到了新兴的人工智能领域。
中国可能会像对待美国的搜索和社交媒体服务一样,禁止外国的人工智能服务,比如OpenAI或Google。北京坚持对在线内容和讨论进行严格控制。但目前预计北京不会过度约束本地企业,因为担心扼杀一个需要创新空间的新兴领域,香港大学法学副教授张安琪表示。
观看:商汤科技是最新的中国挑战者,推出了一套新的人工智能服务。
“CAC对这项新技术的快速反应清楚地表明了其在这一领域的监管雄心,”张说。“这些发展可能会对未来的中国人工智能监管产生溢出效应。然而,到目前为止,我看到中国监管机构在监管方面相当谨慎,以便为该国生成式人工智能的发展提供更多空间。”
阿里巴巴股价在CAC的公告后周二大部分初期涨幅消失,而商汤科技基本持平。这家更大的电子商务公司周二描述了它计划如何将生成式人工智能集成到类似Slack的工作应用和类似Amazon Echo的智能音箱中,然后将该组合扩展到其其他服务。一天前,商汤展示了大型人工智能模型SenseNova和一个名为SenseChat的用户界面聊天机器人。
这之后是百度的Ernie机器人,大约一个月前开始进行有选择性的测试。这家被认为是目前国内领先者的公司在香港下跌了多达7%。中国运营商如中国移动以及从360安全技术到人工智能芯片制造商寒武纪科技等较小的人工智能相关股票也大幅下跌。
“在这里,有真正的潜力影响模型的训练,这对我来说非常重要,”Trivium China的高级分析师汤姆·纳恩利斯特说道。他补充说,这些规定可能会影响中国未来AI模型的训练方式,尽管很大程度上取决于监管机构如何解释通知中的广泛条款。
阅读更多: 阿里巴巴推出AI音箱和类Slack应用,进入ChatGPT竞争
了解更多全球AI竞赛信息 |
---|
中国SenseTime发布ChatGPT的最新竞争者“快速行动,打破陈规”成为担心AI的新理由AI聊天机器人越狱成为科技行业的新消遣百度ChatGPT机器人备受质疑,怀疑情绪蔓延:科技观察 |
北京计划出台规定,管理人工智能在各行业的应用。今年二月,科技部官员表示,政府将推动对AI服务的安全可控应用,认为这是一个战略性产业。
此外,这位强有力的监管机构强调,AI服务必须对训练其大规模模型所使用的数据和算法保持透明,强调北京在维护敏感和有价值信息方面的控制。
“服务提供商应在AI训练中提供有关数据的某些信息,包括数据的来源、大小和类型,”CAC在声明中说道。“它还要求AI平台分享使用的基本算法和其他技术。”
彭博智库的看法
根据中国国家互联网信息办公室(CAC)于4月11日发布的新指导方针,北京加强了对该国ChatGPT风格服务的监管,这看起来不太可能阻止阿里巴巴、百度、商汤和网易等公司的扩张计划,我们认为。CAC提出的规则,包括对首次违规行为进行公开谴责,对重复违规者进行停业和罚款,符合已经制定的用于管理本地科技公司的一般指令。
- 分析师Catherine Lim和Trini Tan
点击 这里 查看研究。
综合起来,这些规则可能旨在确保ChatGPT类服务服从共产党对争议性或不良内容在线的严格禁令。但这也可能通过为未来服务提供更清晰的基本规则来促进百度和商汤等公司的发展。周二,CAC表示,被视为违背社会规范的内容将被禁止,但没有详细说明。
目前尚不清楚新规定将如何影响未来的AI发展。包括 腾讯控股有限公司 在内的几乎所有主要科技公司都在探索利用其潜力的方法。
然而,人们担心中国公司能否长期获得高端芯片和技术,以开发大规模人工智能模型。例如,商汤正面临美国制裁,限制其获取资金以及关键的美国元件,拜登政府去年还对向中国客户出售AI加速器芯片实施了限制 — 这是开发任何大规模生成模型的关键组成部分。