快速的人工智能扩散是民主的威胁，专家表示 | 路透社

人工智能的字样出现在这张插图中，拍摄于2023年3月31日。路透社达多·鲁维奇/插图/文件照片

11月8日（路透社）- 人工智能的加速发展可能已经扰乱了选举等民主进程，甚至可能威胁到人类的存在，人工智能专家在纽约举行的路透社NEXT大会上发出了警告。

最近几个月，生成式人工智能的爆炸性增长——它可以根据开放式提示创建文本、照片和视频——引发了人们对其潜力的兴奋，同时也引发了对其可能使一些工作变得过时、颠覆选举甚至可能超越人类的恐惧。

“最大的直接风险是对民主的威胁……全球2024年有很多选举，几乎没有可能一个选举都不会被深度伪造等因素左右，”纽约大学教授加里·马库斯在周三在纽约举行的路透社NEXT大会上的一个小组讨论中表示。

一个主要的担忧是生成式人工智能已经加速了深度伪造视频的制作——这是由人工智能算法根据大量在线视频训练而成的逼真但虚构的视频——这些视频出现在社交媒体上，在政治上模糊了事实和虚构。

尽管这种合成媒体已经存在了几年，但马库斯表示，以前需要花费数百万美元的东西现在可能只需要300美元。

专家们在会议上警告说，公司越来越多地使用人工智能来做出包括定价在内的决策，这可能导致歧视性结果。

Marta Tellado，非营利性消费者报告组织的首席执行官，表示一项调查发现，居住在以黑人或棕色人口为主的社区，并且与大部分白人居民的社区相邻的车主支付的汽车保险费要高出30%。

“消费者在任何方面都没有透明度，”她在一次小组访谈中说。

立法者和科技领袖必须防范的另一个新兴威胁是人工智能变得如此强大，以至于对人类构成威胁，未来生命研究所的创始人兼执行董事安东尼·阿吉雷在一次会议上接受采访时表示。

“我们不应低估这些模型现在有多强大，以及它们将会变得多么强大，”他说。

未来生命研究所是一个旨在减少先进人工智能带来的灾难性风险的非营利组织。今年三月，该组织发布了一封公开信，呼吁暂停训练比OpenAI的GPT-4更强大的人工智能系统六个月。该组织警告称，人工智能实验室一直在进行一场“失控的竞赛”，开发“强大的数字思维体，甚至它们的创造者也无法理解、预测或可靠地控制。”

开发越来越强大的人工智能也将冒着消灭就业岗位的风险，到最后人类可能无法简单地学习新技能并进入其他行业。

“一旦发生这种情况，我担心要让人工智能重新成为一种工具、成为赋予人们力量的东西将不那么容易。它将更多地成为取代人类的东西。”