黄仁勋:AI数据中心可扩展至百万芯片,性能年翻倍,能耗年减2-3倍
在未来十年,计算性能每年将翻倍或翻三倍,而能源需求每年将减少2-3倍,我称之为超摩尔定律曲线。本周,英伟达CEO黄仁勋接受了《NoPriors》节目主持人的采访,就英伟达的十年赌注、x.AI超级集群的快速发展、NVLink技术创新等AI相关话题进行了一场深度对话。黄仁勋表示,没有任何物理定律可以阻止将AI数据中心扩展到一百...
...正在推动新工业革命,英伟达每年设计 6～7 款芯片,相同能耗成本...
每年英伟达都会设计六七种新芯片,并改进系统架构,如引入NVLink交换机、3D封装等技术,从而在相同的能耗和成本下实现两到三倍的性能提升,这种策略在很大程度上加速了AI计算的普及。黄仁勋还提到,在塑造市场和引导行业发展时,“教学”比“广告”更重要。英伟达通过教育市场、展示技术应用来获得更多用户和合作伙伴...
重磅!中国版“英伟达”,要来A股了!
据今年3月英伟达公布的Blackwell芯片,名为GB200,已经开始采用台积电先进的4纳米工艺制程,相较于之前英伟达的H100芯片,可以为大语言模型推理负载提供30倍的性能提升,并将成本和能耗降低25倍。Blackwell的发布,被指意味着近8年来,AI算力增长了一千倍。相较之下,据第一财经报道,在GPU集群上,摩尔线程正在追赶世界先进...
【完整视频】黄仁勋对话软银孙正义:打造AI代理和物理AI,强调企业...
因此,提升性能与降低成本和能耗密切相关。随着全球继续接受并拥抱人工智能,这也是我们的使命,我们有责任尽可能快地提高性能、扩大人工智能的应用范围、提高其有效性、降低其成本和功耗。这也是我们采取一年周期进行更新的原因。但是,AI并不仅仅是一个芯片问题。这些AI系统非常庞大,我们称之为Blackwell系统。Blackw...
英伟达推出AI芯片Blackwell GPU,成本和能耗降低25倍
例如，与相同数量的H100TensorCoreGPU相比，它能够为LLM推理工作负载提供30倍的性能，同时还能将成本和能耗降低25倍。许多企业都计划采用Blackwell，其中包括亚马逊云科技、戴尔科技、谷歌、Meta、微软、OpenAI、Oracle、特斯拉和xAI。OpenAI公司CEO山姆·奥特曼（SamAltman）对媒体说：“Blackwell...
英伟达黄仁勋发布GB200,比H100推理能力提高30倍,能耗降低25倍,将...
此外,GB200NVL72还包括NVIDIABlueField??-3数据处理单元,可在超大规模人工智能云中实现云网络加速、可组合存储、零信任安全和GPU计算弹性(www.e993.com)2024年11月22日。与相同数量的英伟达H100TensorCoreGPU相比,GB200NVL72在LLM推理工作负载方面的性能最多可提升30倍,成本和能耗最多可降低25倍。
重磅!英伟达宣布推出最强AI芯片,成本和能耗较前代改善25倍
Blackwell平台能够在万亿参数级的大型语言模型(LLM)上构建和运行实时生成式AI,而成本和能耗比前身低25倍。另据媒体报道,英伟达CEO黄仁勋在GTC宣布,将在其企业软件订阅中增加一款名为NIM的新产品。NIM可以更容易地使用旧的英伟达GPU进行推理,并允许公司继续使用他们已经拥有的数亿个英伟达GPU。该产品将使新人工智能模型...
英伟达推出B200芯片 性能提升30倍/成本和能耗较上代降低25倍
易车讯当地时间3月18日,英伟达创始人兼CEO黄仁勋在GTC大会发表演讲,表示Blackwell架构B200芯片登场,第一款Blackwell芯片名为GB200,将于2024年晚些时候上市。GB200超级芯片可以为大语言模型(LLM)推理负载提供30倍的性能提升,成本和能耗较上代降低25倍。据官方介绍,B200拥有2080亿晶体管,采用台积电4nm制程。前一代GPU...
黄仁勋:英伟达GPU芯片8年算力增长1000倍,能耗降低了350倍!
黄仁勋表示,英伟达在8年时间里,计算能力、浮点运算以及人工智能浮点运算能力增长了1000倍。这样的增长速度,几乎超越了摩尔定律在最佳时期的增长。此外,相比八年前的Pascal芯片,Blackwell芯片用于训练GPT-4模型(2万亿参数和8万亿Token)训练的能耗下降了350倍。
...计算成本降低让AI得以出现,明年英伟达将推出Blackwell Ultra芯片
黄仁勋现场谈及英伟达的新进展，他展示了最新的Blackwell芯片，并表示，英伟达将在2025年推出BlackwellUltraAI芯片，下一代AI平台命名为Rubin。黄仁勋还回顾了英伟达如何通过GPU并行运算推动计算成本下降，并促使AI演进。黄仁勋表示，计算机行业在中央处理器（CPU）上运行的引擎，其性能扩展速度已大大降低，但所需的计算量...