摩尔线程创始人张建中:从今年开始,万卡将成为智算中心最低标配

2024-07-04 11:04:35 - 新浪科技

摩尔线程创始人张建中:从今年开始,万卡将成为智算中心最低标配

新浪科技讯7月4日上午消息,2024世界人工智能大会(WAIC2024)期间,摩尔线程宣布AI旗舰产品夸娥(KUAE)智算集群解决方案实现升级,从当前的千卡级别扩展至万卡规模。此外,摩尔线程联合中国移动通信集团青海有限公司、中国联通青海公司、北京德道信科集团等公司就三个万卡集群项目进行了战略签约,将共同构建国产GPU集群。

摩尔线程创始人兼CEO张建中表示:“当前,我们正处在生成式人工智能的黄金时代,技术交织催动智能涌现,GPU成为加速新技术浪潮来临的创新引擎。”在他看来,“多元趋势下,AI模型训练的主战场,万卡已是标配。”

“假设你做一个5000亿参数的模型,有15TB的数据,如果我们只有1000P的算力,你会发现三年都训练不完,如果说一个模型三年都训练不完,你是肯定无法参加大模型的比赛了,也就是说1000P根本不够用,如果说我们把时间锁到一两周,或者最迟一个月,1万P是最低保障,所以万卡集群是最低配置,我称之为标配。”张建中表示。在他看来,“万卡以上的智算中心才有价值,从今年开始,所有的智算中心肯定是,万卡是最低标配。”

据悉,夸娥是摩尔线程智算中心全栈解决方案,包括以夸娥计算集群为核心的基础设施、夸娥集群管理平台(KUAEPlatform)以及夸娥大模型服务平台(KUAEModelStudio),旨在以一体化交付的方式解决大规模GPU算力的建设和运营管理问题。

此次升级,摩尔线程夸娥智算集群此次升级实现了从千卡至万卡集群的无缝扩展,能够满足大模型时代对于算力“规模够大+计算通用+生态兼容”的核心需求,旨在打造能够承载万卡规模、具备万P级浮点运算能力的国产通用加速计算平台,专为万亿参数级别的复杂大模型训练而设计。(文猛)

今日热搜