英伟达推出最经济实惠的生成式AI超级计算机

2024-12-18 10:51:37 - 市场资讯

金十数据

英伟达推出最经济实惠的生成式AI超级计算机

英伟达推出全新紧凑型生成式AI超级计算机,凭借软件升级在更低价格下提供更强性能。

英伟达(NVDA.O)推出全新紧凑型生成式AI超级计算机——JetsonOrinNanoSuper开发者套件,凭借软件升级以更低价格提供更强的性能。

这款新产品体积小巧,大小仅与手掌相当,适用于从商业AI开发者到爱好者和学生的广泛人群,提升了生成式AI的能力和性能。而且,价格仅为249美元(约合1800元),较之前的499美元大幅下降。

这款开发者套件在生成式AI推理性能上提升了1.7倍,性能提升了70%,达到了67INT8TOPS,同时内存带宽提升了50%,达到了102GB/s,相较于其前身大幅提升。

无论是创建基于检索增强生成的LLM聊天机器人、构建视觉AI代理,还是部署基于AI的机器人,JetsonOrinNanoSuper都是理想的解决方案。

对于已经拥有JetsonOrinNano开发者套件的用户,新款JetsonOrinNanoSuper的可用软件更新也将提升生成式AI的性能。

JetsonOrinNanoSuper非常适合那些有兴趣在生成式AI、机器人技术或计算机视觉领域发展技能的人。随着AI领域从特定任务模型转向基础模型,它也提供了一个易于使用的平台,将创意变为现实。

另外,JetsonOrinNanoSuper增强的性能为所有流行的生成式AI模型和基于变换器的计算机视觉提供了提升。

该开发者套件包括一个8GB内存的JetsonOrinNano系统模块(SoM)和一个参考载板,提供了一个理想的平台用于边缘AI应用原型开发。

该SoM采用英伟达安培架构的GPU,配备张量核心和6核ArmCPU,支持多个并行AI应用管道和高性能推理。它最多支持四个摄像头,提供比之前版本更高的分辨率和帧率。

生成式AI正在快速发展。英伟达JetsonAI实验室为来自开源社区的前沿模型提供即时支持,并提供易于使用的教程。开发者还可以获得来自广泛Jetson社区的支持,并从其他开发者创建的项目中获得灵感。

Jetson平台运行包括英伟达Isaac(用于机器人技术)、英伟达Metropolis(用于视觉AI)和英伟达Holoscan(用于传感器处理)等英伟达AI软件。开发时间可以通过英伟达OmniverseReplicator(用于合成数据生成)和英伟达TAO工具包(用于微调来自NGC目录的预训练AI模型)来缩短。

Jetson生态系统的合作伙伴提供额外的AI和系统软件、开发工具和定制软件开发服务。它们还可以提供摄像头和其他传感器,以及载板和产品解决方案的设计服务。

为了提高1.7倍的生成式AI性能,JetsonOrinNano和OrinNX系列的系统模块也将推出软件更新。现有的JetsonOrinNano开发者套件用户可以立即升级JetPackSDK,以解锁提升后的性能。

责任编辑:于健SF069

今日热搜