OpenAI对人类毁灭的价值短路 | 路透社

OpenAI首席运营官布拉德·莱特卡普在新闻发布会上讲话，讨论其在日本东京开设的首个亚洲办公室，时间为2024年4月15日。纽约，9月16日（路透社Breakingviews） - 当投资者权衡OpenAI的估值时，他们可能会考虑谦逊的回形针。关于企业利润最大化者构建一种机器人，其在生产办公用品方面表现出色，以至于消灭人类的警示故事似乎有些牵强。但一个专注的资本家可能会做出承受这种风险的经济理性决定。随着OpenAI朝着一个融资的方向快速前进，这可能使其估值达到1500亿美元，隐含的承诺是，足够巨大的收益使得这种危险变得可以想象正在逼近。这本身突显了增长的障碍。回形针的故事是这样的。一天，ACME办公用品公司的工程师们推出了一台超复杂的人工智能机器，目标只有一个：尽可能多地生产回形针。这种无与伦比的硅基智慧将这一任务推向极限，将地球上的每一个分子都转化为回形针，并迅速结束了所有生命。

渴望利润的OpenAI投资者，如微软(MSFT.O)，可能被认为像ACME一样，只重视短期收益，从而招致他们自己构建回形针最大化器的风险。OpenAI的首席执行官山姆·阿尔特曼表示，他意识到这种风险。他公司的结构旨在限制不良激励，限制可供投资者获得的利润。这种保护现在值得一个星号：利润上限被设定于2019年，为初始投资者带来100倍的回报。OpenAI最初预计会随着时间的推移降低这一回报。相反，该公司的最新融资现在依赖于改变这一结构，包括取消上限，路透社报道。这是一个令人瞩目的概念。如果OpenAI的价值为1500亿美元——比其最后的基准高出74%，根据彭博社的说法——那么100倍的上限仅在150万亿美元的估值时才会生效，这超过了Alphabet的市场价值(GOOGL.O)、亚马逊(AMZN.O)、苹果(AAPL.O)、微软和英伟达(NVDA.O)的总和。尽管听起来很疯狂，但在扭曲的人工智能世界中，这个数学计算实际上可能成立。假设Paperclip Maximizer替代每个美国公民的价值，大约3.3亿人。这将意味着每个美国人的价值仅略高于45,000美元。这远低于该国的人均GDP，更不用说农业部在2022年发现其同行机构对人类生命的统计价值为1100万美元。这不是一个完美的对应关系，但这样的数字表明，整体AI市场的价值可能会达到数千万亿。问题是，任何如此明显危险的事物都会引发监管。竞争监管机构已经在审查OpenAI；白宫正在与行业领导者举行会议。真正的灭绝级风险将会引发安全国家的强力介入。而且，无论如何，对于投资者来说，所有的炒作都有一个更糟糕的结果：人工智能可能毫无意义。在五月，谷歌备受期待的将人工智能加入搜索的举措最终礼貌地 建议 用户在他们的比萨上放胶水。OpenAI可能并不比普通的回形针更危险。考虑到这种可能性，使得估值变得更加平淡无奇。关注 @JMAGuilford 在X上背景新闻

OpenAI，开发驱动聊天机器人ChatGPT的人工智能模型的公司，正在洽谈以1500亿美元的估值筹集65亿美元，彭博社在9月11日报道。筹资的条款取决于公司是否改变其公司结构，根据该结构，它已将投资导向一个“限制利润”的子公司，从而限制投资者的收益，路透社在9月13日报道。

想要获取更多这样的见解，请点击 这里 免费试用Breakingviews。

编辑：劳伦·西尔瓦·劳克林和香农·拉姆

Breakingviews路透社Breakingviews是全球领先的议程设定金融洞察来源。作为路透社的金融评论品牌，我们每天在全球范围内剖析重大商业和经济故事。来自纽约、伦敦、香港及其他主要城市的约30名记者组成的全球团队提供实时专家分析。在 https://www.breakingviews.com/trial 注册我们的全服务免费试用，并在Twitter上关注我们 @Breakingviews 以及在 www.breakingviews.com。所有表达的观点均为作者个人意见。