谷歌搜索诈骗对AI工具来说是一个不祥的迹象 - 彭博社

插图：卡罗琳·费格尔为彭博商业周刊绘制在一个最近的星期六晚上，一位厌倧的科技高管决定尝试一下他一直听说的人工智能应用。这位高管，我们称之为马修，开始的方式和大多数人在互联网上寻找东西的方式一样：他打开笔记本电脑，输入了人工智能公司Midjourney的名字，然后在 Google上点击了排名第一的结果，经过几次点击后，他下载并安装了这个应用。

或者他以为他这样做了：实际上他点击的是谷歌不知情地出售给冒充Midjourney的骗子的广告。马修请求匿名，因为他担心访问过他电脑的人可能仍然拥有他的个人数据，他无意中安装了一种“信息窃取者”，一种通过搜索受害者的计算机寻找用户名和密码，然后将其传输给黑客的恶意软件。这个名为Aurora的恶意软件已经访问了他的加密钱包、社交媒体账户以及其他什么都不知道。黑客将马修的 Coinbase钱包中的数十万美元加密货币转移到了一个不属于他的银行账户。“这是你的整个生活，”马修说。“你感到如此裸露、恐惧和脆弱。”

马修责怪自己没有更加小心，但他也责怪谷歌允许一个明显的骗局登上其搜索结果页面的顶部。这一失败被设计选择放大，创造了一种感觉，即谷歌搜索结果链接是完全客观和可信赖的，同时使人难以分辨哪些是因为有人付费而出现在那里的。（谷歌将广告标记为“赞助”，但很容易忽略这个标签。）

“谷歌长期以来一直将这些欺诈行为的成本转嫁给社会”

马修的经历引发了关于该公司在搜索市场上的主导地位所带来的成本的长期问题，以及其明显无法遏制欺诈行为的问题。这表明谷歌可能在阻止欺诈和虚假信息方面可能会遇到比预期更困难的情况（有时甚至是事实错误的）聊天机器人搜索引擎。在众所周知的Google Bard上，确定公司提供信息的来源可能会更加困难。

到7月底，马修点击的广告已经消失，但仍然有虚假的Midjourney网站出现在谷歌搜索结果的前几位。“它仍然出现在搜索结果中是不道德的，”他说。“我信任他们，但这是一种虚假的信任。”在一次来自Bloomberg Businessweek的查询后，虚假的Midjourney列表很快就从谷歌上消失了。谷歌拒绝就虚假列表发表评论，但表示它使用人工审核员和软件组合来删除此类内容，这是被禁止的。它还指出，去年已删除了52亿条违反公司政策的广告。“虽然有一些恶意行为者试图规避我们的保护措施，但谷歌的系统在展示高质量信息和打击垃圾邮件和恶意行为方面非常有效，”公司发言人Ned Adriance表示。

它不应该需要一个复杂的反欺诈系统才能发现 Google 展示给马修的广告是恶意的。该广告指向一个声称是 Midjourney 公司的网站，但将公司名称中的字母“o”替换为零，这是一个众所周知的诈骗手法。在马修点击之前，Reddit 上有关于这个问题的帖子警告用户，并且康涅狄格州民主党参议员理查德·布卢门撒尔在2022年的一封信中指责 Google “经常未能解决危险的诈骗、冒充和网络犯罪”。此外，Midjourney 甚至没有可下载的应用程序；你通过聊天应用 Discord 访问它。

布卢门撒尔参议员在5月16日在参议院司法小组委员会关于人工智能的听证会前对记者发表讲话。摄影师：Eric Lee/Bloomberg类似的例子在 Google 的历史中不时出现。例如，数字设计师舒姆利·埃弗斯在7月底发现，骗子们设法欺骗 Google 提供了虚假的电话号码，用于销售 达美航空公司 和其他大型航空公司的假机票。埃弗斯在推特上发文后，Google 纠正了错误，但批评者称该公司长期以来一直知道类似的电话号码诈骗。“这些劫持事件在过去15年中每年都会发生，”Near Media 的联合创始人迈克·布卢门撒尔说，该公司为企业提供建议的数字和搜索营销。“Google 长期以来一直将这些诈骗的成本转嫁给社会。”

骗子已经更换了花店、锁匠和酒店的电话号码，Blumenthal说，他已经记录了自2008年以来的案例 。“我们不容忍这种误导性活动，不断监控和改进我们的平台以打击欺诈，”Adriance说，指的是航空公司的诈骗活动。

Google也受到一种更微妙的操纵。搜索引擎营销人员——有时候借助于 ChatGPT 和类似的服务——在某些类别的结果页面中填满了垃圾、自我推广的网站，这些网站通常没有任何有用的内容。这个问题，正如大西洋 去年描述的那样“Google搜索的公开秘密，导致用户不得不采取技巧来尝试过滤掉虚假的结果。其中最流行的策略之一是在任何搜索中添加 单词“Reddit”，试图让Google专注于这个社交网络，因为这个社交网络被认为基本上没有被营销和垃圾信息淹没。另一种方法是用 TikTok替换Google，如果你在寻找餐馆、食谱或旅行建议，TikTok的结果可能会少得多。最后还有聊天机器人，比如Bard和 微软公司 为其必应搜索引擎开发的聊天机器人，一些预言家说，这些聊天机器人最终可能会取代传统的网络搜索。

Google的Bard AI。摄影师：Gabby Jones/Bloomberg谷歌表示，绝大多数客户对其搜索结果的质量感到满意，这至少部分解释了为什么其在该领域的主导地位在过去的二十年里几乎没有受到挑战。根据 Similarweb的数据，该公司在搜索引擎领域拥有91%的市场份额。

国会可以通过修改《通信廉正法》第230条款来施加更多压力，该条款使网站免受与用户创建的内容相关的法律责任。但这样的行动将受到激烈争议，国会近年来并未展现出处理此类问题的能力。一个更有可能的途径可能是美国司法部和各州检察长提起的诉讼，旨在将谷歌与其多年前购买的两个广告网络分开。谷歌表示，这起诉讼是对“试图在竞争激烈的广告技术行业中挑选赢家和输家”的尝试。

这些政府行动不太可能在短时间内得到解决。与此同时，马修正在警告朋友和亲戚要小心。尽管在FBI的帮助下最终能够找回90%的钱，但他表示，他现在将钱存入传统银行而不是加密货币。但他担心人们仍在上当受骗。他说：“到了这一步，谷歌已经足够先进，如果我搜索像Midjourney这样简单的东西，我期望排在前面的链接是Midjourney的网站。”“他们只是没有解决一些实际问题。”阅读下一篇：如果下一个大型社交媒体应用是……什么？