微软将帮助打击美国总统选举中的AI换脸技术深度伪造视频 - 彭博社
Margi Murphy
微软公司正在向美国政客和竞选团体提供一种工具,旨在帮助打击2024年总统选举前深度伪造视频的增长。
微软总裁布拉德·史密斯(Brad Smith)在公司的博客上于周三早些时候表示,这种新工具将允许各方使用所谓的水印凭证对其视频和照片进行认证。史密斯表示,通过使用密码学,该服务将创建图像或视频的永久记录,使任何人都可以在网络上查看它是否经过数字修改或使用人工智能生成。
人们担心人工智能将被用来干扰选举。在未来一年,民主机构的力量和韧性可能会受到前所未有的考验。
据一位知情人士透露,微软最初计划免费向政治候选人提供这一工具,然后可能在2024年美国大选后将其扩展到更多团体。该知情人士要求匿名,因为这些信息尚未公开。
随着美国公民准备在2024年11月选出新总统,人们对由人工智能生成的图像和视频以及它们潜在的加剧误导能力的担忧日益加剧。已经出现了几个政治深度伪造视频:罗恩·德桑蒂斯(Ron DeSantis)在6月因在社交媒体平台X上发布了唐纳德·特朗普与安东尼·福奇博士亲密的虚假图像而受到责备,这是为了嘲笑他的共和党挑战者。今年4月,共和党全国委员会传播了一段虚假视频,描绘了拜登总统统治下的美国末日景象。
政客及其竞选团队实际上会采纳微软的提议并使用其工具的程度尚不清楚。在2020年,微软推出了一款用于检测深度伪造视频的工具,并类似地为政客提供了一种验证其内容的手段,这已经成为微软的一种选举传统。
尽管微软正在警告深度伪造视频并提供帮助来对抗它们,但该公司也在大力投资生成式人工智能领域。微软已向OpenAI投入了100亿美元,OpenAI是最受欢迎的人工智能图像生成器之一,名为Dall-E。
就在拜登的视频发布几周前,一段篡改的视频剪辑在网上疯传,伊丽莎白·沃伦参议员说共和党人应该被禁止投票。
一群美国参议员在九月提出了一项跨党派的法案,该法案将禁止使用深度伪造视频来影响选举或募集政治资金。
微软还发布了一份新的威胁情报报告,强调了其先前对外国行为者试图影响竞选的担忧。该公司在报告中表示,中国、伊朗和俄罗斯可能会在未来一年试图干预美国政治。
注册*《网络公报》**,独家报道黑客和网络间谍的阴影世界,以及企业如何进行防御。*
微软在报告中表示,预计2022年美国中期选举将受到俄罗斯的网络攻击和影响操作的困扰,但没有报告发生重大事件。不过,微软表示,俄罗斯仍然是“2024年选举面临的最具承诺和能力的威胁”,该公司补充说,该国可能会利用合成内容在社交媒体上制造分裂。
微软在报告中表示:“克里姆林宫可能认为明年的竞争是一场必须赢得的政治战争,决定了对基辅的支持轨迹和乌克兰战争的结果。”