Nvidia迅速崛起，成为市值第三大公司，这让很多人将其与思科进行比较。思科在互联网泡沫时期销售路由器取得了成功，短暂地成为了世界上最有价值的上市公司，但AWS人工智能产品副总裁MattWood对这种比较提出了质疑。

Wood表示，Nvidia的创新能力和为客户带来的“巨大收益”是思科无法比拟的。思科的崛起是短暂的，近年来该公司的业务已经停滞不前。

虽然包括DatabricksCEOAliGhodsi在内的一些行业人士表示，他们预计NvidiaAI芯片的供应限制将在明年得到缓解，从而导致价格下降，但伍德表示他也不确定这一点。

Wood在与外媒Information对谈时表示：“我预计需求将保持相当高的水平。”AWS和其他云服务提供商将Nvidia驱动的服务器出租给他们的客户，并使用它们来开发自己的AI服务。

以下是这次对谈的具体内容：

我们正处于一个有趣的时期，在过去的几个月里，Nvidia的先进GPU几乎不可能获得，但一些公司表示，获取它们变得更容易了。你看到了什么？

当我们与客户交谈时，他们肯定能够获得所需的容量，以便能够完成他们想要完成的工作。我们增加了允许客户提前预订GPU和其他加速芯片的功能，就像他们预订酒店一样。

这与公司在云中通常租赁服务器的方式有很大不同。你们为什么这样做？

我们发现，很多客户都试图获得大量的GPU或加速芯片，以便进行模型训练或任何其他此类工作负载。但所有这些工作负载，包括训练，它们都是非常迭代的。你会用一些数据进行一些培训，你会查看这些响应，你会对这些响应进行检查，你会找到新的数据并进行调整，等等。

在你完成所有这些工作的同时，你的GPU集群可能有数千个GPU，它们只是坐在那里没有被使用。因此，我们提供了一种方式，客户可以说，“嘿，我需要1000个GPU，我要提前预订。我们将需要它从这个日期到这个日期。”就像酒店系统一样。他们得到了结果，然后将他们的容量交还给AWS，以便我们可以提供给其他人。

未来六个月会出现GPU供过于求的情况吗？

我不会具体说明，但过去曾出现过供不应求的时期，然后出现了供过于求的时期。是否会在这里发生还有待观察，但我个人对此表示怀疑，因为需求仍然非常高。

GPU价格会发生什么变化？

我不知道。我认为我们提供的定价选项将保持广泛。我认为最重要的是，选择的价值并没有被很多人谈论，但是在技术曲线仍然非常非常早期或者有很多变化发生的情况下，选择的价值是非常重要的。

客户是否愿意尝试你的新AI芯片而不是NvidiaGPU？

我会一般地反对认为我们正在做的定制芯片工作是新的这种观点。我们自2013年以来一直在从事定制芯片工作。

我们也在研发第二代定制机器学习芯片。芯片并不容易，它们需要很长时间才能正确研发，需要大量的迭代来改进，尤其是在早期，这些迭代真的会带来显著的改进。其他公司在他们的主题演讲中展示原型，而我们已经在生产中使用我们的第二代定制加速芯片进行训练，我们称之为Trainium，以及用于推理的芯片，这是在生产中运行这些语言模型，我们称之为Inferentia。现在有客户在生产中使用这些芯片。

似乎Nvidia的挑战者还没有达到他们想要的水平。你同意吗？

Nvidia不一定要输才能让这些其他芯片获胜。有足够的用例和足够的实用性和足够的机会让所有这些不同的芯片找到自己的位置。无论是Inferentia、无论是Trainium、无论是Intel的Habana、无论是Nvidia，都会有这些芯片的用例。

Trainium具有训练大型语言模型的最佳性价比。但如果你只想要原始功率，如果这对你来说最重要，那就去做吧。这就是Nvidia芯片存在的原因。

我们应该如何看待亚马逊内部使用Trainium和Inferentia？你是在使用它们来训练自己的AI模型吗？

亚马逊和AWS与我们的所有其他客户一样，都看到了这种可选性的价值。有时我们会想要使用英伟达芯片。有时我们会想要使用下一代英伟达芯片，即将在AWS上提供的GraceHopper芯片。有时这些是最适合我们需求的。其他时候，对于其他用例，我们将使用Trainium，其他时候我们将使用Inferentia。

你认为英伟达类似于1990年代的思科吗？

他们是我们非常有创造力、长期的合作伙伴。我们与一家极具创造力的公司建立了非常非常长期的关系，这家公司在AI、机器人技术以及模型的核心架构方面取得了巨大的收益。

那么将这个类比应用于思科是否有疑问？

对我来说，这并不适用。

你在客户花钱进行生成式AI方面看到了什么？

我认为运动的水平、兴奋程度和速度是非常了不起的，但它肯定是在一个范围内。我已经与一些大型科技公司进行了交谈，他们不愿透露姓名，他们实际上对我说，“嗯，你知道，这整件事发展得太快了。我们要把头埋在沙子里，过几年再担心。”我已经与一些大型AWS客户进行了交谈，他们实际上已经全力以赴地进行生成式AI，并在周末重新分配了数千名开发人员，专注于生成式人AI。大多数客户都处于这个范围的中间。他们一直非常谨慎，他们正在尽可能快地行动。他们认为他们落后于竞争对手，这很少是真的，但他们真的看到了机会。我认为，就指出巨大的回报和巨大的成功而言，现在还为时过早。

哪些类型的公司比其他公司行动更慢？

比平均速度慢一点的是那些非常注重成本的公司。他们通常会问他们的团队，“你会对利润率做些什么？那么你将在成本节约方面做些什么？你将在增量收入方面做些什么？”他们甚至在接近大型语言模型之前就要求他们的团队给他们一个数字。这可能会稍微放慢事情的速度，但你可以说这对于零售等行业的人来说是正确的做法，这些行业的交易量很大，但利润率很低。

哪些类型的公司行动比其他公司更快？

比平均速度更快的是受监管的行业，尤其是金融服务业，他们正在非常积极地投资。他们之所以能够快速行动，部分原因是监管合规对一些客户来说可能感觉有点不利，但这给了他们使用AI的优势。数据质量和隐私、安全性、数据治理以及所有这些东西对于生成式AI来说都非常重要。已经进行了此类投资的组织——保险或金融服务、医疗保健、生命科学——对生成式AI进行增量投资的相对较少。

没有多少像Perplexity和Klarna这样的公司表示，他们已经发现生成式AI的强大用例可以提供巨大的投资回报。

我不这么认为。拜耳、宝马、博世、德甲、西门子、大众、扎兰多。有一些客户正在进行非常有意义的投资。

PS：本号也开启了订阅专栏，内容涵盖一线投资人以及海外独角兽公司CXO的最新洞察与对谈，最近3期包括：

Reference：

https://www.theinformation.com/articles/aws-exec-demand-for-nvidia-chips-will-stay-high?rc=z9mejq

Newin行业交流群

创业手册

出海活动

Builders招募

未经允许不得转载：头条资讯网_今日热点_娱乐才是你关心的时事 » AWS AI 高管表示，英伟达不是思科，其芯片需求将维持高位