中国电信上海、北京两个万卡集群已经投产
2024-08-08 14:43:48 - 每日经济新闻
每经记者杨卉 每经编辑张海妮
8月8日,《每日经济新闻》记者从中国电信处获悉,中国电信在智算领域重点推进两项工作:一是建成大规模智算集群,目前上海、北京两个万卡集群已经投产;二是用智算网络和算力调度平台实现全国算力资源的互联互通,按需调用,公司自研的“息壤”算力调度平台已实现全国21EFlops的算力调度。
根据中国电信科技委主任邵广禄在高性能计算与人工智能协同创新国际论坛上的说法,未来,面向AI大模型训练的智算集群需要从IDC(传统数据中心)向AIDC(AI驱动的数据中心)升级,围绕模型算力利用率MFU、线性加速比、稳定性、时延、丢包率、GPU利用率指标,持续开展智算集群的设计、建设、运营、优化等工作,提高大模型训练的效率效能。邵广禄指出,中国电信已经从电信运营商升级到电信+云计算的运营商。AI时代,中国电信还将升级为智算服务商和大模型服务商,提供算力服务和模型服务。
此外,邵广禄还指出,算力的网络化成为发展方向,建议推动算力生态的开源开放,为异构算力互通提供基础的开发环境,以统一标准对接各类异构硬件,方便大模型在异构算力间自由切换,同时推进共建共享。