OpenAI、谷歌等承诺为AI内容添加水印以确保安全,白宫表示 | 路透社
Diane Bartz,Krystal Hu
华盛顿/纽约,7月21日 (路透社) - 包括OpenAI、Alphabet(GOOGL.O)和Meta Platforms(META.O)在内的人工智能公司已经自愿承诺向白宫实施措施,例如为AI生成的内容添加水印,以帮助使这项技术更加安全。美国总统乔·拜登周五宣布。
拜登表示:“这些承诺是一个有希望的步骤,但我们还有很多工作要一起完成。”
在白宫举行的一次活动上,拜登就人工智能可能被用于破坏性目的的担忧发表讲话,称“我们必须对新兴技术带来的威胁保持清醒和警惕”,以维护美国的民主。
这些公司 - 还包括Anthropic、Inflection、亚马逊(AMZN.O)和OpenAI的合作伙伴微软(MSFT.O) - 承诺在发布系统之前进行彻底测试,并分享有关如何减少风险和投资于网络安全的信息。
此举被视为拜登政府努力监管这项技术的胜利,该技术在投资和消费者受欢迎程度方面经历了蓬勃发展。
微软在周五的一篇博文中表示:“我们欢迎总统领导科技行业共同制定具体步骤,帮助使人工智能更安全、更安全,并对公众更有益。”
自从生成式人工智能(使用数据创建类似ChatGPT的语言流畅的新内容)今年变得非常受欢迎以来,世界各地的立法者开始考虑如何减轻这项新兴技术对国家安全和经济的危险。
美国在处理人工智能监管方面落后于欧盟。六月份,欧盟立法者达成一致,制定了一套草案规定,要求像ChatGPT这样的系统必须披露由人工智能生成的内容,帮助区分所谓的深度伪造图像和真实图像,并确保防范非法内容。
这是2023年6月拍摄的人工智能(AI)字母和机器手的微型插图。路透社/Dado Ruvic/插图/
美国参议院多数党领袖查克·舒默在六月份呼吁制定“全面立法”,以推进并确保人工智能的安全防护。
国会正在考虑一项法案,要求政治广告披露是否使用人工智能生成图像或其他内容。
拜登在白宫会见七家公司的高管时表示,他还在努力制定一项行政命令和跨党派的人工智能技术立法。
拜登说:“在未来10年,甚至在未来几年,我们将看到更多的技术变革,比过去50年看到的还要多。这对我来说是一个令人震惊的启示。”
作为努力的一部分,这七家公司承诺开发一种系统,可以为所有形式的内容打上“水印”,从文本、图像、音频到由人工智能生成的视频,以便用户知道何时使用了这项技术。
这个水印以技术方式嵌入内容中,据推测将使用户更容易发现可能的深度伪造图像或音频,例如显示未发生的暴力事件,制造更好的诈骗或扭曲政治人物的照片以使其不利。
目前尚不清楚水印在信息分享中将如何显现。
这些公司还承诺将专注于保护用户隐私,随着人工智能的发展,并确保技术没有偏见,不用于歧视弱势群体。其他承诺包括开发人工智能解决科学问题,如医学研究和减缓气候变化。