全球首批实现800Gb/s吞吐量!英伟达推出全新网络交换机X800系列

全球首批实现800Gb/s吞吐量!英伟达推出全新网络交换机X800系列快科技3月19日消息,在今天的GTC开发者大会上,英伟达还发布了专为大规模AI量身订制的全新网络交换机X800系列。据介绍,X800系列包括适用于InfiniBand的Quantum-X800和适用于标准以太网的Spectrum-X800两大平台,均是全球首批实现高达800Gb/s端到端吞吐量...

智算中心提速,布线不可忽视

IB技术来自于Mellanox,是一种专为高性能计算(HPC)和数据中心环境设计的高速通信协议,以其低延迟和高吞吐量而闻名,后来Mellanox被英伟达收购了,IB技术几乎成为了英伟达生态专属。相比无损网络IB,ROCE属于后起之秀,它实际上是一种借助以太网来支持远程直接内存访问(RDMA)的机制。由于从诞生的机理来讲,以太网就不是一...

数据流动的艺术:构建AI时代的高速通信网络 | C位观察

为了提高AI芯片有效计算时间占比、避免网络延迟和带宽限制拖累AI训练效率,对新型的AI数据中心通信网络提出超大规模组网、超高带宽、超低时延及抖动、超高稳定性和网络自动化部署等大量新的需求,并促使网络架构更新升级,从典型网络架构(树型)转向多核心、少收敛形态(胖树型、脊叶型)。图9:AI数据中心相较传统数据中心,...

北大团队打造数据流架构,实现2.8倍以上吞吐提升,解决视觉...

其中,ZCU102允许与之前的研究成果进行直接比较,而VCK190支持整个网络的全面部署。在测量吞吐量时他们使用PYNQ框架进行测量,测量功耗时他们则使用赛灵思公司的BEAM工具进行评估。通过模拟上述设计方案,他们生成了一个时序图。然后,在加速器中按顺序加载输入张量块。当首张图像的加载完成时,下一张图像开始加载,...

以太彩光赋能宿舍网络,光电分离重塑安全运维

学生在宿舍上网看高清直播课、进行线上实训等,都对宿舍网络的带宽提出了更高的要求。加之人工智能技术在教育领域的应用越来越广泛,GPT等应用也被更多学生在学习和科研中使用。这些都需要大量的数据处理和快速的响应时间,对网络的带宽和吞吐量都提出了更高的要求。

车路云一体化建设:三旺通信TSN方案构建智能交通神经网络

1.带宽资源需求大等问题由于线路较长,位置也相对分散,沿线需要接入众多监控视频等终端,吞吐量急剧增加,带宽资源需求大,传输不稳定,易发生丢包、时延等问题;且一些场景实时性需求大,数据的传输速度和共享性都需要大带宽网络来保证传输稳定(www.e993.com)2024年11月5日。2.全场景覆盖要求精准感知...

探索InfiniBand网络、HDR和IB在超算中应用的意义

InfiniBand(IB)是由InfiniBand贸易协会(IBTA)建立的先进计算机网络通信标准。它在高性能计算(HPC)中的广泛采用归功于它能够为网络传输提供卓越的吞吐量、带宽和低延迟。InfiniBand是计算系统内部和外部的关键数据连接。无论是通过直接链路还是通过网络交换机进行互连,InfiniBand都有助于实现服务器到存储和存储到存储数据传...

四节点百GB吞吐量!超融合迈入全闪时代

顺序写的测试则体现了分布式全闪对网络带宽的要求。由于vSAN8ESA的数据副本是跨节点写入的,因此,写操作的吞吐量将受限于网络端口。目前我们配置的是25GbE网络,总体的写入吞吐量也相应的被限制在了3GB/s左右的水平。RAID1策略由于过多的副本容量消耗,还导致其吞吐量明显低于RAID5策略下的同等虚拟机配置。

Groq推“最快”AI推理芯片 号称比英伟达GPU快10倍

原脸书AI科学家、阿里原技术副总裁贾扬清分析称,GroqLPU的内存容量非常小(230MB)。简单计算得出,运行700亿参数模型时,需要305张Groq卡,相当于使用8张英伟达H100。从目前的价格来看,这意味着在同等吞吐量下,GroqLPU的硬件成本约是H100的40倍,能耗成本约是其10倍。

英伟达H200突然发布:容量翻倍,带宽狂飙

与Hopper基准相比,内存容量增加了1.76倍,内存带宽比Hopper基准增加了1.43倍——所有这些都在相同的700瓦功率范围内。作为对比,AMD的AntaresMI300X将提供5.2TB/秒的带宽和192GB的HBM3容量,并且很可能提供更高的峰值浮点功率,但也可能只是更有效的浮点功率。