AMD的GPU跑AI模型终于Yes了?PK英伟达H100不带怕的
当然,答案通常都偏向于英伟达,尤其是在AI算力方面,正如前些天李沐在上海交大演讲时谈到的那样:「算力这块,你可以用别的芯片,但是这些芯片用来做推理还OK,做训练的话还要等几年的样子,英伟达还是处在一个垄断的地位。」但基于实证的对比研究却往往又会给出不一样的答案,比如在同一个演讲中,李沐还提...
不到21元就能使用英伟达H100一小时:SF Compute推出算力租赁服务
用户可以根据自己的需求租用不同数量的英伟达H100GPU,价格低至每小时不到21元人民币。该公司最近完成了1200万美元的种子轮融资,由OpenAI首席执行官SamAltman的弟弟JackAltman主理的AltCapital领投,使SFCompute的估值达到了7000万美元。资金将用于建立交易平台,并计划在未来一年内将其工程人员规模增加一倍。
...马斯克自曝AI巨兽Dojo,自研超算挑战英伟达,约等于8千块H100
半个月前,网友称2024年年底,特斯拉拥有AI训练算力,等价于9万块H100的性能。马斯克对此做了一些补充:我们在AI训练系统中不仅使用英伟达的GPU,还使用自己的AI计算机——TeslaHW4AI(更名为AI4),比例大约为1:2。这意味着相当于有大约9万个H100,加上大约4万个AI4计算机。他还提到,到今年年底,Dojo1将拥有...
不到21元就能使用英伟达H100一小时 算力租赁革新AI创业生态
不到21元就能使用英伟达H100一小时。在AI训练过程中,除了硬件要求,还需应对大规模数据存储和高能耗问题,成本不菲。SFCompute打破常规,提供从小时到周、天的灵活租赁方案,无需长期合约束缚,用户可根据实际需求即时调整GPU使用数量,极大降低了计算资源的使用门槛。对于那些有高性能计算需求但又不愿承担长期财务负担的用...
不到21元就能使用英伟达H100一小时!硅谷公司SF Compute发力“共享...
不到21元就能使用英伟达H100一小时!硅谷公司SFCompute发力“共享AI算力”自去年以来,人工智能的热潮席卷全球,但时至今日,该领域的一个核心挑战仍是价格高昂的算力。相对于大型企业,对初创公司来说,能否获得处理AI所需的巨大算力负荷的芯片成了决定成败的关键。
买不起英伟达「特供」,中国创业者偏爱4090
到了今年上半年,又传出企业观望、华为等国产厂商竞争,英伟达H20在华销售疲软的消息(www.e993.com)2024年9月7日。5月,传出H20下调价格的消息,原因指向两点,一点是H100不缺货并开始降价,H20随之下调,另一点是华为昇腾910B与之竞争,且初始售价后者更有优势。下半年,H20在中国的销售似乎迎来转机。前不久,芯片行业咨询公司SemiAnalysis预测,H20芯片...
英伟达摊上大事儿了
作为英伟达最大客户之一,微软内部定下了到2024年底囤积180万块AI芯片的目标,计划在明年1月向OpenAI提供采用Blackwell芯片的服务器。金融服务公司DADavidson的分析师估计,去年微软在英伟达芯片上花费了45亿美元(325.6亿元人民币),并计划在2024年将拥有的GPU数量增加两倍。同样摩拳...
...回应问界商标转让;xAI训练Grok-3大模型用了10万块英伟达H100芯片
2、马斯克:xAI训练Grok-3大模型用了10万块英伟达H100芯片。马斯克宣布其人工智能初创公司xAI的大语言模型Grok-2将于8月推出。虽然还没亮相,但马斯克已经开始为其Grok-3造势。他透露xAI的Grok-3用了10万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。
...哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100...
去年21岁哈佛辍学华裔小哥的神级创业故事,进化到了新的阶段。这一次,号称专为LLM推理加速打造的Sohu芯片,已经成超越Groq,成为最强AI芯片。如今的Sohu,在跑Llama70B时每秒可生成高达500000个token的输出。换句话说就是:1张Sohu≈20张H100≈10张B200。
首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老...
和英伟达H100的成本对比而英伟达只需使用一到两块H100芯片,就能根据需要处理的数据量大小,轻松适配同一模型。Groq制造芯片所需的晶圆成本相对较低,可能不超过每晶圆6000美元。相比之下,英伟达的H100芯片采用TSMC定制的5nm工艺生产,每晶圆成本约为16000美元。