星期日 , 7月 21 2024
首页 / 新知快讯 / 大公司 / 真的有公司能在推理环节替代英伟达吗?

真的有公司能在推理环节替代英伟达吗?

在中文互联网上,英伟达每天都在被颠覆。

绝大部分自媒体和短视频达人都讨厌英伟达,包括周鸿祎在内。他们千方百计地指出,某种替代品(不管是不是国产)的性能指标已经超过英伟达A100或H100,后者即将沦为资本市场历史上最大的泡沫云云。尤其是在B站、小红书这样的平台,“英伟达将迅速被替代”可以被视为一致观点,反对这个观点的人将遭到群嘲。

其实,海外互联网同样如此。昨天还有AI行业的朋友给我分享了一份自称“性能大幅超过英伟达”的美国芯片厂商的自我介绍(是当笑话看的)。几个月前,芯片创业公司Groq发布了自称性能大幅超越英伟达的推理芯片,引发了一定的市场关注度。

不同之处在于,海外网友稍微讲一点常识,知道英伟达在训练领域的壁垒实在太高,所以他们主要从推理环节入手:可以针对大模型推理开发某种高度特化的“推理专用卡”,在性能或性价比上超越英伟达,而且已经有人做到了。

这些观点经常被翻译为中文,不过翻译者经常有意地把其中的海外芯片创业公司的名字偷换成A股上市公司(或某家非上市公司),从而达到不可告人的目的。

遗憾的是,至少在现在,以及可见的未来,英伟达在推理方面的壁垒仍然十分牢固。或许它在推理方面的壁垒不如训练方面那么高,但只要竞争对手攻不破,就没什么区别。对于绝大部分大模型开发商以及云计算厂商而言,AI算力建设只能以英伟达为核心(买不到的情况除外),不论是训练还是推理算力。在展开分析这个问题前,让我们先简明回顾一下训练和推理的区别:

训练,就是指创造和升级AI模型(包括但不限于大语言模型)的过程。训练环节涉及海量的数据,耗时极长,对算力的并发性需求极高,往往要一次动用几千张到上万张规模的显卡集群。专门为训练做过优化的显卡俗称“大卡”,其最典型的例子是英伟达A100、H100和B100。

推理,就是利用现有大模型解决用户需求的过程。我们每向ChatGPT提一次问题,就启动了一次推理流程。单次推理处理的数据规模往往较小,因此对算力硬件的要求不如训练那么高。英伟达专门为推理做过优化的显卡俗称“中卡”,例如A20、L40;一些高端消费级显卡(俗称“小卡”),例如RTX3和4系列,也可以用于推理。

英伟达的竞争对手,从AMD到英特尔,从Groq到华为,每天都在异口同声地陈述同一个观点:推理的门槛没有硬件那么高,英伟达赖以生存的CUDA软件生态以及显卡互联技术在推理端的作用有限,所以在推理端替代英伟达完全可行。

事实又是如何?关键要看企业客户,包括OpenAI这样的大模型开发商以及亚马逊、微软这样的云计算平台商怎么看——毕竟是它们的技术团队和采购人员做出了显卡采购的决定,而不是社交媒体网友。如果我们仔细分析一下主要科技企业今年以来的显卡采购决策,就会惊讶地发现,事实与英伟达的竞争对手所鼓吹的完全相反:

AMD和英特尔的“AI加速卡”(其实就是推理卡)卖得都不怎么样。其中,AMD的旗舰产品Instinct MI300的单季度销售额不足10亿美元,2024年全年的目标也仅仅是卖出40亿美元;英特尔的旗舰产品Gaudi 3就更惨了,2024年全年的销售目标不足10亿美元。

把这两家的AI硬件销售额加起来,恐怕都只有英伟达“中卡”销量的一个零头。

在2024年一季度财报发布会上,苏妈承认AMD的推理卡目前不存在供给瓶颈,客户可以随时提货;隔壁的英伟达几乎所有产品线则都处于紧缺状态。换句话说,大部分客户宁可等上一两个季度,也宁可买英伟达,而不是AMD的产品。

与此同时,在硅谷出现了一个新的趋势:尽可能多地采购“大卡”,把推理和训练一起交给“大卡”去做。例如,OpenAI使用较新的H200承担GPT-4o的推理任务;苹果通过鸿海采购了数万张H100,估计主要将用于推理工作;Meta计划在2024年之内新增35万张H100,其中很大一部分将用于推理;亚马逊采购的首批3万多张GB200“超级芯片”,显然将同时用于训练和推理。

这充分说明,所谓“英伟达在推理方面的护城河不深”的说法是何等荒谬。如果上述说法是真的,那么除非大厂钱多烧得慌,否则完全没有必要采购单价极高、供应非常紧张的英伟达“大卡”去承担推理任务。当然,这些大厂也会采购一点点AMD或英特尔的产品作为补充,每次都会引发后两者的欢呼雀跃,恨不得让全世界都知道。

为什么硅谷大厂要花更多的钱去采购专为训练优化的“大卡”承担推理任务?这既是出于技术考虑,也是出于综合成本考虑。简而言之:

“大卡”的显存更大、显存带宽更高,适合运行参数规模巨大的大模型。目前主流大模型的参数规模均已突破万亿,而消费者使用的一般是“蒸馏”过的、几十亿到几百亿参数的精简版模型。“中卡”“小卡”足以运行这些精简版模型,但大型企业客户可能需要运行万亿规模参数的超级模型,那就非用“大卡”不可了。

“大卡”的爆发性输出能力更高、延迟较低,适合执行高度时效性的推理任务,例如自动驾驶、国防军工、金融交易等场景。最近流行的“超长文本推理”,对显存的要求较高,“大卡”处理起来也更得心应手。

在AI算力中心统一使用“大卡”,有助于降低硬件复杂度,实现较高的算力弹性和通用性。像OpenAI这样的公司,一年之中有几个月处于训练期,在此期间可以把自家“大卡”全部用于训练以保证速度,租用外部算力满足推理需求;训练间歇期则可以少租外部算力,让自家“大卡”转而从事推理。

“大卡”,尤其是B100/B200这种新款产品,最先应用了英伟达的最新技术,从而有利于后续升级和再利用。哪怕几年之后技术突飞猛进,旧款“大卡”退下来还可以做别的工作,而旧款“中卡”“小卡”可能就没有价值了。

上述四条原因,前两条是技术上的,后两条则是成本和管理上的。就像我的一位从事AI技术工作多年的朋友所说:“其实是经济性让大家投票选择了英伟达,这就是市场的力量。”由于上面是在英伟达自家的不同产品线之间做类比,我甚至都没有提到CUDA软件生态——过去十八年,全球上百万开发者为CUDA积累了太多的开发工具和代码,AMD的ROCm根本无法与之匹敌,英特尔就更是不值一提了。

现在假设有一种推理卡,不知道为什么竟能实现远高于英伟达的性能(可能是上帝显灵),而且竟能克服缺乏CUDA生态的麻烦(这次上帝得多受累一点),并且纸面价格显著低于英伟达(这一点极难做到),它也不一定能打败英伟达。

客户首先要考虑通用性:专门为大语言模型推理“特化”的芯片,大概率无法拿来执行任何其他任务,从而带来了更高的机会成本。英伟达是“通用计算GPU”概念的提出者,“通用”概念就意味着灵活性和弹性。远的不说,最近几年我们就能看到许多鲜活的案例:

2021-2022年,为了进一步训练内容推荐算法,以符合欧盟消费者隐私要求,以及支持新推出的Reels短视频功能,Meta(原名Facebook)采购了大量英伟达“大卡”。当然,其中一部分也是为“元宇宙”研发准备的。Meta还成为了2022年发布的H100显卡早期最重要的客户之一。ChatGPT横空出世之后,Meta立即将手头的算力资源投入生成式AI研发,迅速成为全球开源大模型领域的第一平台。扎克伯格本人亦承认,生成式AI浪潮来的时机很巧,Meta非常幸运——其实他更应该感谢英伟达显卡的通用性和普适性。

2019年前后,中国的“云游戏”产业处于井喷阶段,资本市场对其有很高预期。包括阿里、腾讯和电信运营商在内的云计算大厂,纷纷采购了大批英伟达RTX显卡(初期主要是Turing架构,后来亦有Ampere架构)组建刀片服务器。

虽然云游戏在国内没火起来,但是高端RTX显卡具备张量核心(Tensor Core),从而拥有一定的推理能力。在美国芯片法案的阴影之下,国内厂商采购推理卡越来越困难,当年积累的“云游戏卡”扮演了雪中送炭的角色。尽管它们的推理效率肯定比不上L40等“中卡”,但有总比没有好。

(附带说一句,为什么英伟达的消费级显卡也装备了Tensor Core?因为它对于光线追踪技术的实现扮演着不可或缺的角色,而光线追踪能够大幅提升游戏画面的感染力。显卡处理游戏内部光影效果的方式,与处理大模型数据的方式,在硬件和数学层面是互通的。人类如果没有强大的游戏产业,就很难建设强大的人工智能产业。)

我们不知道生成式AI产业的下一步走向是什么:Transformer架构(现在所有大语言模型的基础)诞生至今才七年多,第一个百亿参数的大模型诞生至今才不到五年。就像许多学者指出的一样,生成式AI有可能并不是实现通用人工智能(AGI)的必由之路。

但是无论如何,有一点是确定的:未来的世界需要大量算力,尤其是并行的、以多核GPU为基础的算力。当生成式AI浪潮突然降临之时,许多科技大厂都把自家的英伟达显卡从自动驾驶、推荐算法训练、图形渲染等任务迅速转移到了大模型相关任务。这进一步加深了它们对英伟达的信任和依赖。

此时此刻,全球科技巨头用于扩张算力的资本开支,普遍达到了每年几百亿美元的水平。坊间甚至传闻微软打算在一年之内耗资1000亿美元建设新的数据中心。花了这么多的钱,它们肯定不希望自己买到的算力仅能用于非常狭窄的领域,不管其纸面性能好坏、价格高低。所以那些高度特化的推理卡,注定只能在巨头的算力军备竞赛当中扮演次要角色。AMD能扮演的角色可以更重要一点,但离英伟达这个主角还是差得很远。

就在本文撰写的过程中,我的另一位从事AI行业多年的朋友告诉我:“我们最近开始采购另一家公司的显示芯片了。它的硬件规格是合格的,但是软件适配是大问题,需要踩很多的坑。英伟达的CUDA开发团队应该比硬件设计团队的规模要大得多,它的发布会上几乎全是软件生态工具,例如GPU虚拟化、一键部署。缺少了英伟达的软件生态,我们就要自己雇人去实现这些能力。生态就是成本。没有生态就要产生额外的开发成本。

当然,鉴于国内现在越来越难买到英伟达的数据中心级显卡,厂商只能硬着头皮承担成本。在有选择的情况下,它们几乎不会这样做。

至于五年、十年乃至二十年后呢?那就是另一个问题了。通用计算GPU这个概念诞生至今也只有十八年,NVLink技术也只有十年历史。长期来看,一切都是可以改变的,但是一切改变只能来自勤奋耕耘和咬定青山不放松的精神。

请记住,2013年,当黄仁勋操着半生不熟的普通话,在北京国家会议中心的舞台上说“请给我一个机会介绍英伟达”的时候,他已经到处推销自己的通用计算理念长达七年了。而他还要再等待整整九年,才能看到一切开花结果。当时嘲笑他的人,和现在认为可以轻易替代他的人,很可能是同一批人。

关于 声波

声波
发现不同的声音

检查

目标“第一城”,广州出手了

竞逐万亿级新赛道,广州这次表现 …

发表评论

邮箱地址不会被公开。 必填项已用*标注