印度选举中AI干预的担忧：印度明星的Deepfakes引发担忧 | 路透社

第1项，印度总理纳伦德拉·莫迪的支持者戴着他的面具参加2024年3月31日在印度梅尔特举行的竞选集会。路透社/Anushree Fadnavis

印度总理纳伦德拉·莫迪的支持者戴着他的面具参加2024年3月31日在印度梅尔特举行的竞选集会。路透社/Anushree Fadnavis 孟买，4月22日（路透社）- 在一些在网上疯传的虚假视频中，印度两位一线宝莱坞演员被看到批评总理纳伦德拉·莫迪，并呼吁人们在印度正在进行的大选中投票支持反对党国大党。。在一段30秒的视频中，Aamir Khan和另一段41秒的Ranveer Singh视频中，这两位宝莱坞演员据称表示，莫迪未能实现竞选承诺，在他担任总理期间未能解决关键的经济问题。

这两个由人工智能生成的视频以国大党的选举标志和口号结束：“为正义投票，为国大党投票”。

据路透社的审查显示，自上周以来，这两个视频在社交媒体上已被观看超过50万次。

它们的传播突显了这种人工智能生成内容在印度于上周五开始的庞大选举中可能发挥的作用。将继续直到六月。人工智能和人工智能生成的伪造品，或者深度伪造品，正越来越多地被用于世界其他地方的选举中，包括美国，巴基斯坦和印度尼西亚。印度的竞选长期以来一直侧重于门到门的宣传和公开集会，但对WhatsApp和Facebook的广泛使用作为竞选工具始于2019年。今年的大选 - 预计莫迪将获得罕见的第三个任期 - 是首次使用人工智能。国大党发言人苏贾塔·保罗（Sujata Paul）于4月17日与她的16,000名关注者在X上分享了演员辛格的视频，到周六下午，她的帖子已被转发2,900次，点赞8,700次，观看次数达到438,000次。

保罗通过电话告诉路透社，她知道该视频被X标记为“操纵媒体”，但她不想删除它，因为在发布时，她认为那个人长得像辛格，“这确实很有创意”。

周日，在路透社向国大党社交媒体负责人发出评论请求后几小时，该帖子在X上不再可见，该负责人未回复。

两位演员都表示这些视频是假的。Facebook、X和至少八个事实核查网站表示这些视频已被篡改或操纵，而路透社数字验证部门也已证实。

路透社无法确认是谁制作了这些视频。汗对这个病毒性的“假”视频感到“震惊”，辛格的团队正在调查此事，根据两位演员的发言人。辛格在周五写道：“朋友们，小心深度伪造。”

莫迪的办公室和他的印度人民党的IT主管没有回应评论请求。

警方调查

印度有将近9亿人可以接入互联网，由Esya Centre研究机构和印度管理学院商学院进行的一项调查显示，印度人平均每天在社交媒体上花费超过三个小时。该国有近10亿选民。

一些视频的版本已在社交媒体上被屏蔽，但至少有14个视频在周六仍然在X上可见。Facebook删除了路透社标记给公司的两个视频，但另一个仍然可见。

Facebook在一份声明中表示，由于违反其政策，他们已经“删除了这些视频”。X没有回应路透社的查询。

这些视频已经引发了一起警方调查，汗于4月17日在孟买针对未透露姓名的人注册了一起案件，指控制作了这个假视频进行冒充和欺诈。

孟买警方没有回复评论请求，但两名参与汗案件的警官（拒绝透露姓名）表示，他们已经致函Facebook和X，要求删除视频，这两家公司表示已经完成。

这两名警官表示，他们一直工作到周五凌晨2点，不断刷新页面以检查是否删除了汗的在线视频。在被问及案件进展时，其中一人表示：“这样的技术调查需要时间。”

已故父亲的AI视频

在今年的选举中，政客们以其他方式使用人工智能。

在印度南部，国大党领袖维贾伊·瓦桑特的发言人表示，他的团队利用人工智能制作了一段2分钟的音视频剪辑，该剪辑在社交媒体平台上分享，展示了他已故但更受欢迎的政治家父亲H. 瓦桑塔库马尔为他拉票。

这位已故政治家被看到说：“即使我的身体离开了你们，我的灵魂仍然在附近。”

在印度共产党（马克思主义）（CPM）在YouTube上发布的视频中，AI生成的主持人Samata穿着传统的印度长裙，以模仿常规新闻频道的风格讲话，批评了西孟加拉邦的执政党。

在一个视频中，主持人声称该党不关心环境，因为许多水体已经消失，原因是非法建筑。

执政党的发言人否认了这一指控，并表示邦政府已确保不会发生这种建筑。印度共产党未回应置评请求。

在这段已经观看了1.2万次的视频中，主持人Samata宣布：“这些是我们这座城市的公民需要深思的问题。”

即将推出：通过路透社经济世界（Reuters Econ World）获取有关全球经济状况的最新新闻和专家分析。在这里注册。