【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

2024-06-06 22:45:51 - 市场资讯

【核心内容总结】

在台北举行的COMPUTEX大会上,SuperMicro(美超微)公司创始人兼CEOCharlesLiang做了主题演讲。

CharlesLiang首先强调了人工智能(AI)如何改变世界,包括自动驾驶、自助结账、医疗进步等先进技术,同时他指出SuperMicro公司近年来随着AI的发展经历了前所未有的业务增长。

SuperMicro致力于设计和提供最优化、高效的数据中心解决方案。在此次演讲中,Charles宣布了SuperMicro绿色计算的倡议,旨在提供具有重大附加价值的绿色计算解决方案。其中最核心的技术是DLC技术。与传统的空气冷却相比,DLC使用液体温度提供更优的冷却效果,成本更低,环境影响更小。并且他提到SuperMicro的目标是使DLC迅速成为主流解决方案,因为与传统空气冷却相比,DLC具有更短的交货时间、更低的成本、更高的可靠性和潜在的高性能。SuperMicro希望在12个月内将全球数据中心开发中DLC的使用率提高到15%,未来几年达到30%。目前,SuperMicro已经能够每月运送1000个基于DLC的机架,并与Nvidia等合作伙伴一起,为AI领导者提供服务。

Charles在演讲中还讨论了AI的未来发展,邀请了Nvidia创始人兼CEOJensen分享了他对AI的看法。两人首先对SuperMicro的产品进行了分析,向观众展示了DLC新技术对于AI行业的改变以及AI行业节能减排做出的贡献。最后Jensen分享了其对于AI行业的未来发展看法。

随后,Charles邀请公司的其他成员对产品做了更详细的介绍,具体观点如下:

成员1:

能源节约:强调了SuperMicro的DLC解决方案在中等规模的大型语言模型(LLM)数据中心中的优势,包括实现33%的能源节省。

快速部署:提到SuperMicro实现了两周内快速部署的承诺,并宣布将这一承诺扩展到大规模的液体冷却机架解决方案。

成员2:

行业领先:分享SuperMicro在AI解决方案领域的领导地位,包括已经发货超过五十万个NvidiaGPU,其计算能力超过了世界上前20台超级计算机的总和。

产品多样性:展示SuperMicro的多功能32GPU机架,它可以支持不同的GPU配置,并可以部署在空气冷却或液体冷却环境中。

软件解决方案:SuperMicro的SuperCloudComposer软件,最新版本能够让用户通过单一界面监控整个数据中心,包括GPU和液体冷却塔。

成员3:

环境效益:提到SuperMicro的温水冷却技术不仅改善了热管理,还与传统冷却系统相比减少了环境影响。

能源重定向:通过减少冷却需求,可以将原本用于冷却的能源重新定向到计算上,从而提高性能并提供显著的能源节省。

成员4:

边缘计算:介绍了SuperMicro在边缘计算方面的专注,包括为零售、虚拟化服务、自助结账和防盗窃安全功能等提供支持的紧凑型系统。

【详细会议纪要】

谢谢,谢谢。大家好。感谢给我这个机会。我是梁瀚昭,超微的创始人兼首席执行官,非常感谢各位今天的到来。为什么今天的世界如此奇妙?因为AI改变我们的世界如此之多,让它变得如此方便,如此花哨,如此准确,如此快速。从自动驾驶到商店自助结账,再到医疗保健的进步,再到chatgpt。

现在,我们正在进入一个人工智能快速增长和大规模应用人工智能的新世界。而这将是我们接下来一个小时的讨论。让我们看看我们能做些什么来改善我们的业务、生活和环境。正如你所知,近年来,超微在人工智能方面经历了前所未有业务增长。我们现在才开始看到早期的迹象,或者说生成性人工智能训练和发明给我们的世界带来的巨大好处。我想,你们中的一些人知道,我们是第一家将优化的GPU平台推向市场的公司,并于2014年推出。

从那时起,我们已经成为人工智能系统的主要供应商之一,为世界上许多或最大的人工智能工厂提供优化的解决方案。为更好的AI提供动力,我们正在改变我们的生活,让生活变得更美好,让思想变得更快乐。快乐的心态很重要,快乐的心是我们做正确事所需要的动力源泉。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

说到正确的事情,今天我在这里为IT行业带来了一份大礼。这是一份非常棒的礼物,全世界的数据中心都会庆祝这是他们的生日。我来这里是为了证明绿色计算可以是免费的,而且有很大的好处。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

是的,免费并有高额的回报。你们很多人可能想知道,这是真的吗?我的回答是,有一大笔高额回报,几千万美元甚至更多。在讨论技术细节之前。我很高兴也很自豪地宣布我与绿色地球基金会的首次撒哈拉沙漠个人任务的一些新消息,这是我与超微相同的目标。这是我回报我们唯一的地球母亲的方式。今年早些时候,我们已经开始在撒哈拉沙漠推广12种最具抗性的树种,作为灰绿色墙的一部分,目标是今年种植1000万棵树,一年后种植5000万棵树。该基金会在这12种抗性树种的微繁殖方面也取得了良好进展。我代表我们的基金会,欢迎更多的人加入这个有意义的行动,让我们的地球母亲更健康。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

因此,几十年来,SuperMicro一直将计算DNA融入我们提供的每一个解决方案的设计中。我们一直是设计和提供最佳高效建筑的领导者,为当今的服务器存储基础设施而自豪。现在,这些最新的高性能芯片提供了更好的性能,但成本相同,TDP上升。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

我们与合作伙伴一起,致力于构建更可持续的数据中心基础设施。它们解决了当今世界对更多计算和存储的不断增长的需求,比如说,特别是在生成性人工智能训练。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

现在的任务很简单。我们能否提高数据中心效率,降低总拥有成本,或者提供更高的性能?目前最新人工智能发展的新数据中心基础设施可以通过传统的空气冷却方法来应对挑战,但尤其是它们昂贵且对环境造成污染。我的新概念,DLC,已经有30多年了。与通过空调进行空气冷却需要大量电力来运行不同,DLC冷却可以利用液体温度。有一种液体温度能够以低得多的成本和较小的环境影响为服务器提供最佳冷却。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

我们的目标是让DLC迅速成为任何数据中心和人工智能工厂的主流解决方案,专注于提高效率和降低运营支出。下面是超微型DLC液冷解决方案可以做到的。假设一个使用GPT-4的中型LLM数据中心,大约需要8000个H100GPUs或1000个HGX系统。初始资本成本和优化DLC环境和集群可以为您节省高达3%的成本。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

这是回报,免费的回报。节省6000万美元现在可能是一件大事。我们可以减少大量的二氧化碳排放,让我们的星球更加绿色和健康。这样做让我每天都有快乐的心情。如果你愿意,你也可以这样做,并请这样做。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

此外,DLC计算将降低电力需求。如前所述,典型的NRR和数据中心如果采用空气冷却,大约需要15兆瓦的电力。使用DLC冷却总量,您只需要10兆瓦就可以为整个数据中心供电。对于电力容量有限的城市和国家,这将为新型数据中心打开一扇门。

过去,大多数客户对DLC不感兴趣。你知道DLC有很长的准备时间。大约4个月到12个月,甚至在最近几年。DLC要贵得多,这是你们知道的。并且DLC不可靠且难以维护。事实上,在过去的三十年里,DLC的市场份额从0%增长到1%以上。这就是为什么SuperMicro在这里与您一起,希望为这个行业带来变革。在过去的三年里,我们和我们的合作伙伴,尤其是Nvidia,一起日日夜夜地工作。最后,我们现在已经提高了所有DLC液冷机架的产量。我们有这个技能和能力。我们承诺在两到四周内交付DLC液体冷却机架或数据中心技能解决方案。这不是传统的DLC,你需要等待四到十二个月。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

第二。正如我们之前证明的那样,我们可以以比风冷解决方案更低的成本构建DLC解决方案。第三,我们的DLC解决方案更加可靠,具有潜在的高性能。在大多数情况下,维护成本等于甚至低于风冷数据中心。第四,我们的目标是全球数据中心开发的15%份额。我们将在未来12个月内使用我们的DLC解决方案继续进步。我们更希望在接下来的几年内达到30%份额。那是幻想吗?从0%到1%花了我们30年。现在一两年内从1%到15%、30%。有质有量有多稳。让我们与有能力有智慧的人交朋友。DLC是你可以选择的好朋友。让我们一起走向成功。

有这么多的好消息分享。所以,因为大家都很兴奋,所以让我再多分享一点。现在,我们刚刚确定DLC液体冷却解决方案是空调更有效的替代方案,但毫不奇怪,它们需要更复杂地集成到数据中心基础架构中,因为典型的空气冷却数据中心机架最大为20或30kw。超微型DLC解决方案现在可以达到每机架80到100kw。这允许新的数据中心开发创建更强大的人工智能系统,以支持我们最新的人工智能应用。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

目前,我们能够每月运送1000个基于工业的DLC解决方案的机架,现在我们的美国工厂每天运送多达50个DLC机架,以服务于AI领导者的一些订单。我们的一个重要合作伙伴X目前正在部署世界上最大、性能最高的AILLM集群。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

虽然DLC上个月的市场份额还不到总市场份额的百分之一,但现在不同了。因为我们几周就开始发货。虽然DLC还是不到百分之一吧?但我们的目标是在接下来的一两年内让该行业的DLC采用率达到30%。从百分之一到百分之三十需要一两年的时间。它的成本等于或低于兼容的空调解决方案。它从总体拥有成本节约中获得了巨大的好处。它减少了二氧化碳的排放。它将保护数十亿棵树免于被砍伐。我喜欢这样。在过去的一年里,我们就这种新的DLC技术召开了一万多次工程会议,特别感谢我们辛勤工作的工程师和伟大的合作伙伴。DLC今天终于现代化生产了,我太激动了。DLC液冷可以是免费的,且能获得巨大回报,DLC也是绿色计算的好伙伴。出于对AI的热爱,我们全力投入DLC液冷。人工智能如此强大,正在改变我们的生活。我确信我们很多人对此仍有许多疑问。AI会控制我们吗?一个更强大的人工智能领导者要来了?有多少强大的平台即将问世?或者人工智能的未来是什么样的?我知道,但我只知道一点。幸运的是,我们非常幸运地再次邀请到人工智能天才,我们共同的朋友。让我们欢迎英伟达创始人兼首席执行官Jensen与我们分享他的愿景。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

【对话部分】

Charles:Jensen,谢谢你。

Jensen:大家好。现在要干什么?

Charles:人工智能正在改变这个世界,每天有数百万人因为你而改变。所以,今天有什么新鲜事?

Jensen:我不得不承认,刚才我开车去听你的主题演讲时睡着了。

所以现在我有点昏昏沉沉。所以如果我说了没有意义的话,请让我先道歉。让我想想,Charles,我们已经走了很长一段路了。这是一个非常重要的时刻,因为我们将迎来一个新的代理计算时代。有两件事正在同时发生。首先是加速计算。加速计算时代已经到来。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

绿色计算。我们家是绿色电脑,你刚刚在讲绿色计算,我以为你是在讲我。我想当你说绿色计算时,你指的是节能计算,对吗?英伟达,这是节能计算。绿色计算和绿色计算。

好吧。所以加速计算的时代已经到来了,因为很长一段时间以来,数据处理量一直呈指数增长。然而,多年来,CPU的扩展速度一直在放缓。因此,我们现在在数据中心浪费了大量的能源和成本。因此,当我们加快数据中心的速度时,节省的成本令人难以置信,因为我们已经浪费了太长时间的资源。因此,现在我们可以释放这些浪费资源,将这些能源用于新的用途。

第一,加速每个应用程序,加速每个数据中心。这些神奇的服务器,对吧?这么多新产品。你有220种新产品。难以置信。各位,他已经告诉你们了吗?

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

我是来宣布超微产品的。这是第一件事。第二件事是,由于加速计算带来的能源效率、性能效率和成本效率如此之高,一种新的计算方式已经出现,它被称为生成式人工智能,这是一件不可思议的事情。人们说生成式AI推理,它们相关,但不完全一样。推理,识别猫,狗,语音推理,生成,文本生成,图像生成,视频生成。这就是我们所说的生成式人工智能。生成式人工智能的压力不是压力,而是向生成式人工智能的过渡将影响世界上每一个数据中心。我们有1万亿数据,价值1万亿美元的数据中心,而到2030年,再过6年,这个世界可能已经建立了3万亿美元的数据中心。我们必须用这些神奇的系统使它们现代化。是的,这就是需求如此之大的原因,因为所有这些数据中心都必须现代化。查尔斯和超微团队已经准备好接受您的订单了。我是你最好的销售人员。

Charles:Jensen,谢谢你。

Jensen:我靠佣金赚钱。

Charles:没有佣金。我们会从你那里买更多芯片。

Jensen:不要买更多芯片了。

Charles:Jensen,SuperMicro现在正在批量生产DLC液冷,以降低功耗。

Jensen:大家没有看到那么漂亮的东西吗?我有很多美国同事。他们不懂我的中文。我有很多中国同事,他们不懂我的中文。还可以?每一天慢慢学。

Charles:我们现在每月出货1000个机架。

Jensen:1000?乘以ASP。你将会成为一个巨大的公司。

Charles:谢谢你。所以我需要更多的芯片。

Jensen:你们都算过了吗?几百万乘以几千乘以52。

Charles:但你收我200万美元,每架超过200万美元。

Jensen:我们可以在电视上这么做吗?我们目前正在电视上播出吗?

Charles:我猜是的。

Jensen:嗯,这是不是有点?哦好,我了解了。

Charles:所以,我们预计出货1000左右,每月。

Jensen:太不可思议了。这是60万个零件,这可能超过60万个零件。多少磅?我不知道。

Charles:我搬不动

Jensen:3?我想是3000,3000多磅。这真是不可思议。好漂亮哦

Charles:是的,今年是希望要出货一万多台。

Jensen:你知道吗,Charles,这才是真正令人惊奇的事情。人们认为我们在构建GPU。要知道,GP是芯片。这里有72个芯片,还有60万个其他部分。72个芯片,大概重1磅。这是3000,2999镑重。因此,这些机架中包含的技术数量确实非常惊人。这是一个技术奇迹,世界上有史以来最复杂、最先进的计算机。

Charles:是啊,没错。

Jensen:绝对难以置信。以及运行它所需要的软件。

Charles:真是难以置信。

Jensen:是啊,难以置信。对不对?因此,我认为人们现在开始意识到,当我们说GPU服务器时,当然设备的“大脑”就是GPU,是的,但系统比这复杂得多。超微做了惊人的工程。谢谢你。

Charles:我们试图今年将DLC的市场份额从1%提高到15%。节省了大量电力。为你的GPU团队。

Jensen:能效提高了很多。数据中心的成本更低。这就是为什么人们没有意识到这种液冷系统消除了数据中心的大量成本。是的,这样你就可以利用这些浪费的资源,捕获这些资源,并将其应用到计算机中。在未来,计算吞吐量就是收入,因为它是token生成。token生成的单位是“美元/每百万token”,就像描述能源时的“美元/每千瓦时”。

我们现在发明了一种新商品。这对你们所有人来说都是一个非常重要的想法。这是一种新商品。它有价值。你越快创造它,生产量就越大,利用率就越高,你的收入就越高。这是千真万确的,而且是可以直接测量的。这就是为什么这里是工厂,而不是数据中心。这就是为什么这是一个工厂,而不是一个文件服务器。这不是检索文件,也不是用来发邮件的。这直接为工厂创造了收入。这就是为什么我们称之为人工智能工厂。

Charles:而且如此强大,只要300万美元。

Jensen:嗯对,虽然只要300万美元,但谁知道你每年能创造多少收入,对吧?

Charles:哦,大概3亿?10亿?

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

Jensen:大型语言模型生成、token生成的回报将会非常好。然而,这是因为token嵌入了智能。这种智能可以用于许多不同的行业。所以未来非常重要。该行动了。是啊,该开始了。吞吐量、利用率都很重要。可靠性意味着收入,吞吐量意味着收入,启动意味着收入。是的,这就是我们将整个系统集成到一个台架中如此重要的原因。是的,让所有的软件工作,连接到所有的网络,这样,我们建立我们自己的数据中心,我们建立我们自己的超级计算机,这样我们知道当你安装它,当你在你的工厂安装SuperMicro时,启动时间将非常快,你的利用率将非常高,你的吞吐量将非常高,因为你的收入取决于它。工厂产量是由所有这些因素来衡量的。非常复杂。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

非常漂亮。Charles说,这是,这里的一切都是英伟达。为那里的所有美国公民。

全绿色计算。

Charles:所有绿色计算。

Jensen:全绿色电脑。太棒了。好棒,good。

Charles:还有这个,你的P200。太漂亮了。你的芯片。好棒。这将是他们需要的速度的多少倍啊。

Jensen:因此,我们为Blackwell提供了风冷、液冷、x86、Grace、NVLink8、NVLink2、NVlink36、NVlink72等多种不同的配置。是的,所以根据您的利用类型、使用案例类型和数据中心类型,Charles可以立即为您提供服务,对吗?

Charles:马上,只需要你的芯片。一只手拿着芯片,另一只手我们运送给客户。

Jensen:哇,谢天谢地我们只需要两只手。太不可思议了。所有这些都是软件兼容的。这真的很好。太神奇了。这里的所有东西都是兼容的软件。

Charles:100%.

Jensen:众所周知,软件是高性能计算中最复杂的部分。

Charles:是啊,谢谢你提供的这些好东西。是的,他们都准备好为我们的顾客服务了。

Jensen:我们公司有三个非常重要的软件堆栈,所有东西都是基于它们构建的。第一,当然是非常有名的cuda。第二是所有的网络,因为网络不仅仅是网络。

今天的网络是一种计算结构。今天的网络是一种计算结构,不仅仅是为了互相发送电子邮件。每秒400G,每秒800G。当然,下一代将是1600。但重要的是,我们在分布式计算网络上运行的所有软件都是基于两个软件堆栈之上的。它使我们能够非常有效地在网络上分配工作负载,因为网络不是为高性能计算机设计的。

这是什么东西?

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

Charles:你才知道,你知道对这里面最清楚啊。

Jensen:这是一个令人难以置信的系统。事实上,这些芯片都是用世界上最快的高速互连技术连接在一起的。非常快,非常节能。因此,我们可以将这个强大的CPU连接到双BlackwellGPU上。

这非常重要,因为在训练阶段,Grace的内存系统可用于检查点重启。检查点和重启对于高利用率和高正常运行时间非常重要。因此检查点重启可以存储在系统存储器中。那个系统内存能量很低,功率很低,Blackwell和Grace的关联度很高。

第二,在推理时间,你知道,在上下文训练中有一个概念叫做提示上下文,提示,提示记忆,上下文记忆就在这里。这是记忆,思维记忆,人工智能的工作记忆。因此,这种内存需要非常高的性能,非常低的能耗。因此,在训练期间,我们很好地使用了GraceCPU。是的,在推理过程中,我们很好地使用了GraceCPU。互连速度非常快,功耗非常低。原因和好处是,我们在一个系统中压缩了如此多的内容。如果我们在互连上节省20瓦,50瓦,乘以整个机架,我们就可以将这些能量用于计算。因此,能效意味着更高性能的液体。没错,绿色计算。

Charles:再一个问题。现在有一个普遍的问题,就是说你把人工智能弄得这么强大,人工智能会不会控制我们?AI会控制我们吗?

Jensen:当然不会。我们,我们必须,当然,目前最重要的事情是我们必须让人工智能很好地工作。现在,人工智能当然工作得非常好,在许多应用中,人工智能已经足够好,好得足以变得有用。它已经达到了足够好的高度,非常有用。然而,我们想做得非常好。我们希望它非常实用,从微调护栏到技能学习,应有尽有。我们还有许多不同的地方需要改进。所以我们知道人工智能还有很长的路要走。这是第一位的工作是推进技术。与此同时,我们必须提高安全技术。如你所知,我们所有人乘坐的飞机都有自动驾驶仪。自动驾驶仪是自动技术,为了保证飞机的安全,必须发明大量的技术来保证飞机的安全。还有监控飞机的实践,空中交通管制,其他飞机监控飞机,飞行员互相监控,许多不同的方法来保持人工智能,保持自动驾驶仪的安全。未来,我们将对人工智能做同样的事情。会有人工智能监视人工智能。有些人会看人工智能。有守卫,右边的护栏保护着AI。所以我们需要创造很多不同的安全技术,安全技术。

第三,当然,我们需要良好的安全政策、良好的实践以及良好的安全政策。谈论它是非常重要的,这样我们可以互相提醒,我们必须做好科学、工程、商业实践、政策实践和工业实践,所有这些都必须向前发展。

Charles:太完美了。那么结论是什么?买的越多,省的越多。

Jensen:买的越多,省的越多,买的越多,越安全。

Charles:谢谢你,Jensen。谢谢。

Jensen:谢谢大家。谢谢,祝你演出顺利。

Charles:谢谢。现在,我们已经讨论了系统级别的深度冷却,以及机架级别的液体冷却的主要驱动因素。我想邀请我们招聘团队的高级项目经理Nathan,Johnson和CW来告诉我们更多的信息。Nathan,你能和观众分享一下我们的全模式DLC台架解决方案的主要优势吗?

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

Nathan:当然,Charles。我今天非常兴奋,因为我们刚刚谈到了它。中型LLM数据中心拥有的8000个H100GPUs或1000个我们的HGX系统,切换到SuperMicroDLC液冷将是免费的。刚刚提到过,对吧?并且还有回报。因此,当我们谈论计算和气冷部署时,我们超微使之变得简单。生成性人工智能工作负载的功率需求是巨大的。在所有新的节能技术之后,数据中心仍然在耗尽电力,我们知道要确保建立一个新的数据中心可能需要几年时间。所以这里有什么好处,对吗?通过从传统的风冷配置切换到直接液冷配置,我们的客户节省了33%的电力,这是一个巨大的数字。Charles,我们去年提到过这个,对吗?我们提到过,我们去年讨论过这个问题。今天我想向观众介绍一下最新情况。我还有一件事要分享。我很自豪地告诉大家,我们已经实现了两周快速货架交付的承诺。这种前所未有的速度和部署确保了数据中心能够快速扩展并满足不断增长的需求。

Charles:DLC超微型,而不是4个月或者12个月,现在他承诺,两周。

Nathan:我们一起承诺的。现在,我非常兴奋地与大家分享一些更好的消息,现在我们将同样的两周承诺扩展到大规模交付的液冷机架解决方案。我们现在每天已经运送超过50个液冷机架。我们正在这样做,我们不只是涉足液体冷却,我们在机架级解决方案中主导液体冷却。谢谢。

Charles:谢谢你Nathan。Johnson,你想分享什么?有什么好消息?

Johnson:谢谢你。我很高兴分享这个消息,向大家展示超微如何在2024年引领人工智能解决方案的格局。首先,迄今为止,超微已经出货超过50万个NvidiaGPUs。现在我们实际上已经计算过了。这一新的计算量超过了当今世界前20台超级计算机的计算量之和。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

现在请允许我展示一些我们的尖端产品,它们已经在这里被美化了。所以我要从这个开始。这实际上是为了多功能性而构建的,一个32GPU机架。

现在它可以像我们在这里配置的那样支持NvidiaH200,或者您可以选择AMDMI300X甚至IntelGaudi。我们让你可以选择。此外,我们可以在您的数据中心风冷环境中部署这种技术,或者如果您已经准备好享受液体冷却环境带来的好处,这也可以做到。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

我要给你看的是什么?256GPU集群风冷部署如下所示。借助我们最新、最迷人、最帅气的超级机架,允许我们实现一半计算机架的部署,为您提供一个全新的水平来扩展您的人工智能数据中心,支持您一直到新的部署规模。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

现在我们还没完。补充我们整个解决方案的将是我们的液体冷却塔,以及我们的超级CloudComposer软件。我们的最新版本将允许您在一个面板中查看和监控整个数据中心,从芯片和每个带传感器的GPU,一直到我们的液体冷却塔,都在一个窗格中。从这是超微型,我们正在推进未来技术的人工智能解决方案在这里。

Charles:家庭系统,机架,DLC,水塔管理,所有从一站式购物和交货时间可以是2至4周。请,CW。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

CW:谢谢你,Charles。与传统贸易商相比,我们不仅改善了热管理,还减少了对环境的影响。通过减少处理需求,我们将能源从冷却转向计算,从而提高性能并显著节约能源。

我们的DLC解决方案可有效利用高达45摄氏度的热功率来散发机架产生的高达90%的热量。这优化了热管理,通过减少对处理的需求,能够增强硬加权性能和计算吞吐量。同样,我们将能源从冷却转向计算,提高了性能并提供高达40%的显著节能。与空气冷却相比,超微DLC机架解决方案的计算密度提高了一倍。该解决方案支持最高的TTP、GPU和机架密度,同时提供热量再利用以实现可持续发展,符合绿色数据中心计划和ESG目标。

Charles:你现在工作很努力,已经三年了。非常感谢,谢谢你们。看起来,选择DLC,能收获很多且不会有任何损失。我们的DLC整体解决方案包括系统、台架、PMP、水毛巾、数据中心监控、管理工具。

一个成熟的整体解决方案。SuperMicro还提供维护服务,使客户更容易快速找到DLC中心。数据中心客户越早选择DLC绿色计算,就越能节省成本。使用DLC进行绿色计算确实可以获得巨大的回报。谢谢大家。

之前那么多公司都讨厌去液冷。认为时间太长,太贵,不靠谱,维护麻烦等等。现在Nvidia服务帮了我们大忙。我们能够从各个角度帮助你。所以两到四个星期,我们可以用上DLC。因此,随着最近在美国、台湾和全国工厂的扩张,我们将使自己成为一个非常大的服务商并拥有较高的机架生产能力,为全球数据中心部署提供服务。我们在马来西亚的新园区将进一步提升我们已经很大的产能,并支持更多新的业务机会。目前,我们每月能够设计和交付多达5000个机架。每月只有5000。Jensen说可以多一点。

最后,整体解决方案提供商也必须给我们的客户一些爱。我们将讨论我们最新的边缘人工智能和技术解决方案。我们欢迎Mody在这里与我们分享。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

Mody:谢谢。20多年来,超微一直专注于边缘计算。我们利用我们的构建模块解决方案来扩展我们的设计知识,从数据中心到紧凑型边缘外形,包括2UMartino系统,还用于电信虚拟化rain,并在远程零售应用中使用系统支持数据中心、GPU和AI。我们新出口的HyperyCompact系统通过将多达三个double与GPU集成来支持人工智能推理。这种优化的配置已被用于加速虚拟化服务零售中的人工智能,新鲜和喜欢自助结账,以及防盗安全功能,超微电信和户外边缘系统,我被阻止了将更多边缘人工智能带到更多地方的大好机会。我们的户外edge系统具有IP65等级,可防止水和灰尘在零下47摄氏度到47摄氏度的白色温度下运行。这在具有多个企业级GPU的高核心数CPU上运行。现在让我们一起加速AI推理。谢谢你。谢谢你。

Charles:这一小时似乎太短了,因为我们还有很多事情要分享。让我总结一下我们今天所经历的。30年来,DLC从0%到上个月,还是不到1%。现在,靠着我们的工程团队和合作伙伴,DLC技术已经到来。所以我们希望我们能在一年内将DLC的市场份额从不到1%增长到15%,希望两年内达到30%。那应该是对的。液体冷却相比于传统空气冷却,例如,一个数据中心可以节省高达6000万美元,并且减少二氧化碳排放,为我们的星球多保护几十亿棵树。SuperMicro现在每月出货1000架,很快就能到2000架了。顾客需要现在订购,因为有许多订单。DLC的绿色计算可以是免费的。这其中最大的收获是你快乐的心态,知道你正在拯救我们唯一的地球母亲。让我们一起走向绿色。

谢谢大家!感激各位。

【天风电子】Supermicro Computex 2024:应用液冷数据中心,更环保的AI未来

潘暕天风证券电子行业首席分析师。复旦大学微电子与固体电子学硕士,复旦大学微电子学本科,国际经济与贸易第二专业,曾就职于安信证券任分析师,对电子行业有全面深刻见解,挖掘了众多高成长企业,与产业深入合作帮助企业发展,善于推荐科技创新大周期的投资机会。2019、2020年新财富最佳分析师分别获得第四名、第二名,2021年新财富入围,2015-2016年新财富第一团队成员,2017年新财富第二团队成员。2015-2016年水晶球第一团队成员,2017、2019年水晶球分别获得第二名、第五名。2015-2016年金牛奖第一团队成员,2017、2020、2021年金牛奖分别获得第二名、第四名、第二名。2018年Wind金牌分析师第一名,2020-2021年Wind金牌分析师第二名。2019-2021年金麒麟最佳分析师分别获得第三名、第四名、第六名。2020年上海证券报最佳分析师第三名,2021年21世纪金牌分析师第五名,Choice2021年度电子行业最佳分析师第三名。温玉章分析师。计算机及工业工程专业背景,12年以上苹果产品(iPod&iPhone)研发和新产品导入工作经验,对电子,计算机,互联网产业链的发展趋势有较深的认知和理解。骆奕扬分析师。南京大学物理系本科,香港科技大学集成电路设计硕士。3年电子行业研究经验,覆盖半导体制造、半导体装备材料及部分半导体设计。程如莹分析师。北京大学计算机专业硕士,覆盖半导体IC设计、MCU/SOC/IGBT/模拟芯片行业&公司覆盖报告。许俊峰分析师。伯明翰大学工商管理学硕士,覆盖安防、LED、汽车连接器及智能座舱等。俞文静分析师。香港中文大学金融理学硕士,覆盖消费电子及PCB产业链。李泓依助理研究员。美国埃默里大学会计学及金融学学士、会计学硕士,覆盖半导体封装测试及部分材料装备,已撰写包含汽车芯片、第三代半导体、虚拟显示等多篇行业深度报告。吴雨助理研究员。利物浦大学金融计算学士,昆士兰大学商务硕士,覆盖部分被动元器件、面板及半导体材料等领域。冯浩凡助理研究员。新南威尔士大学信息系统学士,金融学硕士,覆盖部分汽车电子领域。包恒星助理研究员。南京大学材料物理本科、材料物理与化学硕士,覆盖消费电子领域。

高静怡 助理研究员。中央财经大学会计硕士,覆盖半导体领域。

今日热搜