黄仁勋：供应商对AI芯片预期低迷，但英伟达仍无惧竞争
英伟达首席执行官黄仁勋告诉投资者，尽管竞争对手不断蚕食英伟达的市场份额，而且英伟达的一家主要供应商对人工智能芯片的销售做出了低迷预测，但英伟达仍将是人工智能训练芯片的黄金标准。
从OpenAI到埃隆·马斯克的特斯拉，每个人都依赖Nvidia半导体来运行他们的大型语言或计算机视觉模型。黄仁勋在周三的公司年度股东大会上表示，今年晚些时候Nvidia的Blackwell系统将推出，这将巩固这一领先地位。
Blackwell于3月份发布，是继其旗舰产品Hopper系列H100芯片之后的下一代人工智能训练处理器——Hopper系列H100芯片是科技行业最珍贵的财富之一，每个芯片的价格高达数万美元。
黄仁勋表示：“Blackwell架构平台很可能成为我们历史上，乃至整个计算机历史上最成功的产品。”
英伟达本月一度超越微软和苹果，成为全球市值最高的公司，这一惊人涨势推动了今年标准普尔500指数的大部分涨幅。黄仁勋的公司市值一度超过3万亿美元，超过整个经济体和股市，但由于投资者锁定利润，其市值出现了创纪录的下跌。
然而，只要英伟达芯片继续成为人工智能训练的基准，就没有理由相信长期前景会黯淡，而且这里的基本面仍然看起来强劲。
Nvidia的主要优势之一是其强大的AI生态系统，即CUDA（计算统一设备架构的缩写）。就像普通消费者不愿意从AppleiOS设备切换到使用GoogleAndroid的三星手机一样，一大批开发人员多年来一直在使用CUDA，他们对此感到非常满意，以至于没有理由考虑使用其他软件平台。与硬件一样，CUDA实际上已成为自己的标准。
黄仁勋周三补充道：“Nvidia平台可通过各大云提供商和计算机制造商广泛使用，为开发人员和客户创造了庞大且具有吸引力的使用者基础，这使得我们的平台对客户更有价值。”
美光对下一季度营收的预期不足
人工智能行业最近确实遭受了打击，因为内存芯片供应商美光科技（为Nvidia等公司提供高带宽内存(HBM)芯片）预测第四财季营收将仅达到市场预期的76亿美元左右。
美光科技股价暴跌7%，远远落后于科技股占比较大的纳斯达克综合指数的微幅上涨。
过去，美光及其韩国竞争对手三星和SK海力士都经历过存储芯片市场常见的周期性兴衰。与图形处理器等逻辑芯片相比，存储芯片长期以来被视为一种商品业务。
但鉴于对人工智能训练所需芯片的需求，投资者的热情也随之高涨。美光的股价在过去12个月内上涨了一倍多，这意味着投资者已经消化了管理层的大部分增长预期。
DeepwaterAssetManagement的科技投资者GeneMunster表示：“该指引基本符合预期，而在人工智能硬件领域，如果指引符合预期，那就算是有点失望了。动量投资者只是没有看到对这一情况更加乐观的增量理由。”
分析师密切关注对高带宽内存的需求，将其作为人工智能行业的领先指标，因为它对于解决当今人工智能训练面临的最大经济制约因素——扩展问题至关重要。
HBM芯片解决AI训练中的扩展问题
成本并非随着模型的复杂度（其参数数量可达数十亿）而增长，而是呈指数增长。这会导致效率收益随着时间的推移而递减。
即使收入以稳定的速度增长，随着模型的不断进步，亏损也有可能每年激增至数十亿美元甚至数百亿美元。这可能会让任何没有像微软这样的财力雄厚的投资者的公司不堪重负，因为微软有能力确保OpenAI仍能“支付账单”，正如首席执行官SamAltman最近所说。
收益递减的一个关键原因是决定AI训练性能的两个因素之间的差距越来越大。第一个是逻辑芯片的原始计算能力（以每秒计算的FLOPS来衡量），第二个是快速输入数据所需的内存带宽（通常以每秒数百万次传输或MT/s来表示）。
由于它们协同工作，因此只扩展其中一个只会导致浪费和成本低效。这就是为什么FLOPS利用率（即实际可以发挥多少计算能力）是判断AI模型成本效率的关键指标。
明年年底前将全部售完
正如美光所指出的，数据传输速率无法跟上计算能力的提升。由此产生的瓶颈，通常被称为“内存墙”，是当今扩展AI训练模型时固有效率低下的主要原因。
这也解释了为什么美国政府在决定禁止哪些特定的Nvidia芯片出口到中国以削弱北京的人工智能发展计划时，重点关注内存带宽。
美光周三表示，其HBM业务已“售罄”，一直持续到下一年度末，比其财年晚了一个季度，韩国竞争对手SK海力士也发表了类似言论。
美光周三表示：“我们预计24财年HBM的收入将达到数亿美元，25财年HBM的收入将达到数十亿美元。”
参考链接
https://fortune.com/2024/06/28/nvidia-jensen-huang-micron-ai-training-semiconductor-chips-high-bandwidth-memory/
【来源：半导体行业观察】