NVIDIA Blackwell芯片刷新AI性能记录,在MLPerf测试中惊艳
2024年8月29日 - 太平洋电脑网
在多GPU测试服务器中,NVIDIAH100和H200在Mixtral8x7B测试中分别提供了高达59,022和52,416个令牌/秒的输出。AMD的InstinctMI300X在此特定工作负载中并未提交成绩。NVIDIA对软件的精细调校取得了显著成果,每个MLPerf版本中都实现了重大提升,这种优势直接传递给了使用HopperGPU的服务器客户。人工智能和数据中心领域...
详情