OpenAI选举：初创公司试图阻止人工智能竞选误导信息 - 彭博社

摄影师：David Paul Morris/Bloomberg OpenAI 正在推出一系列举措，以防止其产品在美国和全球选举的重要一年被用于传播错误信息。

这家人工智能初创公司在周一宣布了新工具，这些工具将为其聊天机器人ChatGPT提供的有关当前事件的信息进行归因，并帮助用户确定一张图片是否是由其人工智能软件创建的。这些变化是因为人们对所谓的“深度伪造”图片和其他人工智能生成的内容可能在竞选期间误导选民的风险感到担忧。

该公司在周一的一篇博客文章中写道：“保护选举的公正性需要来自民主进程各个角落的合作，我们希望确保我们的技术不会被用于可能破坏这一进程的方式。”

这家初创公司将开始使用其Dall-E 3图片生成工具生成的图片进行编码，并附加有关来源的信息，这些信息指的是有关内容来源的数据，比如谁制作了这张图片以及制作时间。这可以帮助选民更好地了解他们在网上看到的图片是否是由人工智能制作的。该过程将使用由内容来源和真实性联盟（Coalition for Content Provenance and Authenticity，简称C2PA）制定的加密标准。Adobe公司、微软公司、英特尔公司和其他几家公司于2021年共同创立了这个联盟。

OpenAI还表示，它将发布一款图像检测工具，供人们使用以查看图像是否由Dall-E生成。该公司将首先向记者、平台和研究人员推出该工具以征求反馈意见。历史上，许多试图确定特定图像或文字是否由人工智能创建的检测工具在准确性上存在困难。然而，OpenAI首席技术官米拉·穆拉蒂在十月份表示，该公司一直在研发的图像检测工具在内部测试中准确率达到了99%。

对于ChatGPT，OpenAI将使人们能够使用聊天机器人实时获取有关当前事件的信息。结果将提供归属信息和文章链接，这是该应用目前默认不显示的功能。该公司表示正在“越来越多地与现有信息来源整合”。

OpenAI正在与数十家媒体公司进行内容许可协议谈判，包括CNN、福克斯公司和时代等主要媒体机构，此前有报道称。这家初创公司已经与Axel Springer SE和美联社达成协议。

“与图像一样，信息来源的透明度可以帮助选民更好地评估信息，并自行决定他们可以信任什么，”该公司在文章中表示。