英特尔 Gaudi 3 AI 芯片预估售价 15650 美元,仅英伟达 H100 的一半
英特尔Gaudi3AI芯片预估售价15650美元,仅英伟达H100的一半IT之家6月7日消息,英特尔在2024台北国际电脑展上,透露Gaudi3AI芯片售价为15650美元(IT之家备注:当前约11.3万元人民币),基本上是英伟达H100芯片的一半。TiriasResearch的吉姆??麦格雷戈(JimMcGregor)发布推文,配备8...
全栈型智能产品开发商Essential AI收4亿融资,谷歌AMD等共同出资
SignumAI获得一笔种子轮投资,RTPGlobal、AngelsDeckGlobalVentures共同出资SignumAI是一家人工智能数据服务商,提供了一个利用人工智能自动化B2B客户洞察研究的平台。该平台跟踪目标行业、公司和个人的关键变化,包括职位空缺和社交媒体活动,并总结这些庞大的数据,以提供可操作的见解。谛声科技谛声科技获得1亿...
PPTV创始人姚欣AI再创业,“分布式推理”终于有人做了
根据TIRIASresearch的研究,随着AI的快速发展,未来算力需求的构成将发生重大变化,95%的算力需求来自推理,训练算力仅占5%。推理将逐渐成为AI计算的核心。姚欣看准了AI时代算力结构转型的机遇,将重心放在推理侧。推理计算的核心在于实时处理用户请求,低延迟和高效率是它的生命线。而分布式技术,恰恰是实现这一需求的...
AI成为“耗电大户”,除了新能源,还需要芯片创新
为了支持当前聊天级别的生成式AI,Tirias最新报告预测,美国数据中心的能源消耗将从现在的1.4太瓦时(TWh)增加到2028年的67太瓦时。高盛估计,如果将传统AI加入生成式AI的能耗计算,预计在同一时间段内数据中心能耗的增长会翻倍,结果是AI消耗大约占据数据中心总能耗的19%,约占全美电网总发电量的4...
你见过晶圆大小的芯片嘛?这家AI独角兽推新品对标英伟达H100
不过,TiriasResearch创始人JimMcGregor则较为现实地指出,尽管这家初创公司增长迅速,并且有能力提高其平台的可扩展性,但与占主导地位的人工智能供应商英伟达相比,它仍然是一家规模较小的公司。他还指出,Cerebras专注于人工智能的一个方面,那就是训练,不过训练只是大型语言模型市场的一个利基市场。而英伟达提供了许多...
没想到,AI成了核能最佳助攻
咨询机构TiriasResearch曾预测,到了2028年,数据中心功耗将接近4250兆瓦,比2023年增加212倍,数据中心基础设施加上运营成本总额或超760亿美元(www.e993.com)2024年11月19日。换句话说,AI带来的种种创新,都是以处理性能和功耗的高昂成本为代价,每一次AI训练的背后,都会消耗大量能源。来源:HelionEnergyAI的发展可能是无限的,但最终会被算力...
服务器能耗暴涨三倍!AI最后拼的不是算力,是电力?
据咨询机构TiriasResearch建模预测,到2028年数据中心功耗将接近4250兆瓦,比2023年增加212倍,数据中心基础设施加上运营成本总额或超760亿美元。这堪称“生成式AI颠覆数据中心”,其增长对新兴服务(例如搜索、内容创建和结合生成式AI的业务自动化)的商业模式和盈利能力都提出了挑战,成本更是亚马逊AWS年运营成本的两倍...
算力是AI世界发展的基础,而算力的瓶颈归根到底还是电力,随着争夺...
据咨询机构TiriasResearch建模预测,到2028年数据中心功耗将接近4250兆瓦,比2023年增加212倍,数据中心基础设施加上运营成本总额或超760亿美元。这堪称“生成式AI颠覆数据中心”,其增长对新兴服务(例如搜索、内容创建和结合生成式AI的业务自动化)的商业模式和盈利能力都提出了挑战,成本更是亚马逊AWS年运营成本的两倍多...
Nvidia CEO黄仁勋:AI革命是计算机行业的重生,带来巨大机遇
“[Graphcore]已经构建了一个处理器来处理当今存在的AI,因为它会随着时间的推移而发展,”该公司的联合创始人兼首席执行官NigelToon说。他承认与英伟达这样的巨头竞争是一项挑战。虽然Graphcore也有软件可以让其技术易于使用,但当世界已经构建了在NvidiaGPU上运行的AI产品时,很难协调转换。
微软致力AI芯片研发 翻译30亿字仅需十分之一秒
微软从英特尔的子公司Altera购买芯片,并通过软件对它们加以调整,以适应自身的需求,对那种芯片而言,这种能力是独一无二的。去年,微软在一次展示实力的过程中,使用了数千个这样的芯片,将所有英文维基百科翻译成西班牙语,其中包括500万篇文章、30亿字,用时仅不到十分之一秒。