Cerebras 推出全新晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

2024-03-14 09:46:54 - 网易新闻

IT之家3月14日消息,晶圆级芯片创新企业Cerebras推出了其第三代芯片WSE-3,宣称以相同功耗相较上代产品WSE-2性能翻倍。

IT之家整理WSE-3参数如下:

Cerebras 推出全新晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

Cerebras宣称基于WSE-3的CS-3系统凭借其至高1.2PB的内存容量,可训练比GPT-4和Gemini大10倍的下一代前沿模型。其可在单个逻辑内存空间中容纳24000T参数规模的模型,大大简化了开发人员的工作。

CS-3适合超大规模AI需求,紧凑的四系统集群可以在一天内微调70B模型,而在使用最大规模的2048个CS-3系统集群时,可以在一天内完成Llama70B模型的训练。

Cerebras表示CS-3系统具有卓越的易用性,大模型训练中所需代码相较GPU减少97%,仅需565行代码就可达成GPT-3大小模型的标准实现。

阿联酋G42财团已表示将打造基于CerebrasCS-3的CondorGalaxy3超算,包含64个系统,可提供8exaFLOP的AI算力。

今日热搜