英伟达(NVDA)的H100芯片正在推动人工智能繁荣它是什么?- 彭博社
Ian King
Nvidia H100摄影师:Marlena Sloss/BloombergNvidia Corp. HGX H100人工智能图形处理单元
摄影师:I-Hwa Cheng/Bloomberg当一个新的小工具让科技世界兴奋不已时,通常是像智能手机或游戏机这样的消费产品。今年,科技观察者们却在关注一个大多数人甚至都不会看到的晦涩的计算机组件。H100处理器已经推动了一代新的人工智能工具的诞生,承诺改变整个行业,使其开发者Nvidia Corp.超过Microsoft Corp.成为世界上最有价值的公司。它向投资者展示了围绕生成式人工智能的热潮正在转化为实际收入,至少对于Nvidia及其最重要的供应商来说是如此。对H100的需求如此之大,以至于一些客户不得不等待长达六个月才能收到。
1. Nvidia的H100芯片是什么?
H100的名称向计算机科学先驱Grace Hopper致敬,它是PC中通常存在的图形处理单元的更强大版本,帮助视频玩家获得最逼真的视觉体验。它包括将Nvidia芯片集群转变为能够处理大量数据并以高速进行计算的单元的技术。这使其非常适合进行训练支撑生成式人工智能的神经网络的高耗能任务。这家公司成立于1993年,几乎20年前就开始投资,当时它押注并行工作能力有朝一日会使其芯片在游戏之外的应用中有价值。
2. 为什么H100如此特殊?
生成式AI平台通过摄取大量现有材料来学习完成诸如翻译文本、总结报告和合成图像等任务。它们看到的越多,就越擅长识别人类语音或撰写求职信等事情。它们通过反复尝试来发展,进行数十亿次尝试以达到熟练,并在这个过程中消耗大量计算能力。英伟达表示,H100在训练所谓的大型语言模型(LLMs)方面比芯片的前身A100快四倍,回复用户提示的速度快30倍*。*自2023年推出H100以来,英伟达已经宣布了更快的版本 — H200和Blackwell B100和B200。对于竞相训练LLMs以执行新任务的公司来说,不断增长的性能优势至关重要。许多英伟达的芯片被视为发展人工智能的关键,以至于美国政府已经限制向中国销售H200和几款性能较差的型号。
3. 英伟达如何成为人工智能领域的领导者?
这家总部位于加利福尼亚圣克拉拉的公司是全球图形芯片领域的领导者,这些芯片是计算机上生成屏幕图像的部分。其中最强大的芯片由数千个处理核心构建,可以执行多个同时的计算线程,模拟复杂的3D渲染,如阴影和反射。英伟达的工程师在21世纪初意识到他们可以重新调整这些图形加速器用于其他应用,通过将任务分解成较小的块,然后同时处理它们。AI研究人员发现他们的工作最终可以通过使用这种类型的芯片变得实用。
4. Nvidia有真正的竞争对手吗?
Nvidia现在控制着大约92%的数据中心GPU市场,根据市场研究公司IDC的数据。主要的云计算提供商,如亚马逊公司的AWS,Alphabet公司的Google Cloud和微软的Azure正在尝试开发自己的芯片,与Nvidia的竞争对手先进微设备公司和英特尔公司。到目前为止,这些努力在AI加速器市场上并没有取得太大进展,而Nvidia不断增长的主导地位已经引起了行业监管机构的关注。成为一个问题。
5. Nvidia如何保持领先地位?
Nvidia已经以其他公司尚未能够匹敌的速度更新了其产品,包括支持硬件的软件。该公司还设计了各种集群系统,帮助其客户批量购买H100并快速部署。像英特尔的至强处理器这样的芯片能够进行更复杂的数据处理,但它们的核心较少,处理通常用于训练AI软件的大量信息速度较慢。
6. AMD和英特尔在AI芯片方面与Nvidia相比如何?
作为第二大计算机图形芯片制造商,AMD去年推出了其Instinct系列的一个版本,旨在占据Nvidia产品主导的市场。在六月初的台湾Computex展会上,AMD首席执行官Lisa Su宣布其MI300 AI处理器的更新版本将于第四季度上市,并概述了2025年和2026年将推出更多产品,显示了公司对这一业务领域的承诺。英特尔现在正在设计专为AI工作负载而设计的芯片,但承认目前数据中心图形芯片的需求增长速度快于传统上是其优势的处理器单元。Nvidia的优势不仅在于其硬件的性能。该公司发明了一种称为CUDA的语言,用于其图形芯片,使它们可以为支持AI程序的工作类型进行编程。
黄仁勋摄影师:Annabelle Chih/Bloomberg### 7. Nvidia计划发布什么?
最受期待的发布是Blackwell,Nvidia表示预计今年将从新产品系列中获得“很多”收入。与此同时,对H系列硬件的需求持续增长。首席执行官黄仁勋一直充当技术大使,并试图吸引政府以及私营企业尽早购买,否则就会被那些拥抱人工智能的人抛在后面。被抛在后面。Nvidia还知道,一旦客户选择其技术用于生成式人工智能项目,就会更容易地向他们销售升级,而不像竞争对手那样希望吸引用户。
参考书目
- 更多关于Nvidia竞争对手AMD如何反击的信息。
- 用我们的人工智能术语词汇表填补您的知识空白
- 英国的艾伦·图灵研究所正在考虑人工智能的伦理和安全性。
- 彭博商业周刊探究了黄仁勋对人工智能的重大赌注背后的故事。
超过18个月的生成式人工智能狂潮,一些最大的科技公司正在证明人工智能可以成为真正的收入驱动器。但这也是一个巨大的金钱坑。
微软公司和谷歌母公司Alphabet Inc.报告称,他们的最新季度业绩显示云服务收入激增,因为企业客户在人工智能服务上的支出增加。而元宇宙公司虽然在技术商业化方面落后,但表示其人工智能努力有助于增强用户参与度和广告定位。