【发布】遥遥领先的B200 英伟达让你看不到车尾灯;全球AI PC出货量...
不止如此,尽管CUDA已成为英伟达的强护城河,但随着ChatGPT的出现大幅度加速了生成式AI的开发和应用进程,英伟达软件再下一程,推出了NIM。作为一组经过优化的云原生微服务,旨在缩短上市时间并简化在云端、数据中心和GPU加速工作站上部署生成式AI模型。无疑,这或算是CUDA霸权的延伸。进一步来看,英伟达企业级软件家族的极大...
技经观察丨全球人工智能基础设施发展步入快车道
例如,今年3月,开源平台ClearML发布调研报告《2024年AI基础设施规模现状:揭示未来前景、关键见解和商业基准》显示,96%的受访公司计划扩大其人工智能计算能力和投资;40%的受访公司表示,无论公司规模大小,都计划使用编排和调度技术来最大化他们现有的计算基础设施。从数据中心建设角度看,数据中心是算力的最终载体与强大支...
【华鑫电子通信|行业周报】国产GPU独角兽摩尔线程启动IPO,ADI收购...
资料显示,摩尔线程以全功能GPU为核心,是国内极少数既覆盖图形渲染、又支持AI高性能计算的国产GPU公司,产品覆盖从云到端,为各行各业的数智化转型提供全栈计算支持,客户包括头部运营商、大型国有银行、大模型创业公司等。作为国内极少数可从功能上对标NVIDIAGPU的企业,摩尔线程全功能GPU芯片采用自研先进MUSA架构,集成AI...
旷视破局大模型:一个“中心”和两个“基本点”
实际上,大模型是一个结合算力、数据、算法、模型训练的综合体,企业使用AI的场景通常是基于行业和场景的数据加上业务流程,这是AI真正进入企业的核心,没有捷径。因此,企业沉淀的高质量数据越多,大模型的“养料”就越丰富,AIReady的状态就越充分。如果大模型没有深入理解业务实际,技术就可能无法得到有效应用。要优...
手机还装不下AI的梦想
而在AI时代,什么样的产品能够成为万物互联的中心点、手机的地位会不会下降,答案谁都说不准,也正是因为说不准,才有了AI设备的万千尝试。参考文献:[1]《消费电子出海,从贴牌到品牌,性价比破局,AI边端未来可期》国金证券[2]《从互补走向竞争:智能手机的“中国制造”之路》恒大研究院...
广发电子 | HBM何以成为AI芯片核心升级点?全面理解AI存储路线图
四、GDDR+HBM路线图:面向GPU,HBM高带宽优势成为AI大模型训练推理关键(一)HBM成为AIHPC首选存储方案,GDDR性价比具备优势GDDR是专为图形处理应用设计的高速内存技术,搭配GPU用于图形处理、数据中心加速和AI等需要高带宽数据处理的场景(www.e993.com)2024年11月27日。HBM相比GDDR具有更高的传输带宽、更高的存储密度、更低的功耗以及更小的尺寸。近...
旷视破局大模型:一个“中心”和两个“基本点”|甲子光年
1.AI商业化的真正痛点到底是什么?商业化为什么一直是AI的痛点?一个重要的原因是,很多AI技术公司更关注技术的发展,忽略了对客户业务与需求的理解。在当前的AINative浪潮中,不少大模型公司在尝试将产品商业化时,常常面临两个“不知道”的困境:既不清楚市场需求,也不明白如何满足这些需求。
聊聊AI硬件:取代iPhone的,一定不会是“AI手机”
AI硬件大概率也是不会强依赖显示的:GUI(图形界面)因为效率比不上直接执行代码,注定会死掉;算力提升和效率工程(flow/pipelineengineering)是比摩尔定律更恐怖的存在;AI硬件的正确范式一旦被明确,三年渗透率超过50%;在AI硬件作为计算中心的时代,经典互联网的程序员和产品经理都面临职业危机,产品经理先死;...
8点1氪|米哈游等遭工信部点名;字节跳动CEO梁汝波回应调整绩效??...
新加坡电信1月31日宣布推出新的数据中心品牌Nxera,以开发人工智能数据中心。根据声明,新加坡电信数码基础设施公司(DigitalInfraCo)与英伟达签署合作备忘录,将共同支持新加坡国家人工智能战略2.0。该公司CEO张学才表示,新加坡电信将成为英伟达的区域云服务合作伙伴,通过“图形处理器即服务(GPUasaservice)”使人工智能在企...
【华鑫电子通信|行业周报】苹果公布季报,AI浪潮助推HBM景气度持续...
主要由于两个方面,一方面是手机硬件缺乏创新,发达经济体以及中国5G周期结束后,消费者换机周期拉长;另一方面中国疫情之后经济复苏不及预期,消费者需求疲软。无线耳机方面,国内海关出口数据显示,2023年以来呈现复苏趋势,全年自2023年2月以来无线耳机月度出口量同比增幅持续为正,且自2023年9月以来同比增幅持续...