黄仁勋新访谈:OpenAI是最具影响力公司之一,马斯克19天创造奇迹
所以,当你考虑到正在建造的定制化ASIC,可能是Meta的推理加速器,或者亚马逊的Trainium,还有谷歌的TPUs,考虑到现今的供应短缺,这些情况是否改变了这种动态?黄仁勋:我们正试图做不同的事情。正如你所知,NVIDIA正尝试为这个新的世界——机器学习世界、生成式AI世界、智能体世界——构建一个计算...
AI市场颠覆性加速器:TPU Trillium
AI市场颠覆性加速器:TPUTrillium5月15日,谷歌在GoogleI/O2024开发者大会上推出了第六代TPUTrillium,专为生成式人工智能模型设计。谷歌称其为性能最强、能效最高的TPU芯片,比目前最强的TPUv5e计算性能提升4.7倍。张量处理单元(TPU)是谷歌为神经网络机器学习开发的AI加速器专用集成电路(ASIC),使用了谷歌自己...
中国籍Google工程师在美被捕 被指涉嫌窃取AI商业机密
在融数联智官网的公开信息中,丁林葳/CTO,毕业于美国南加州大学曾任Google主任工程师/异构计算研发负责人。领导GPU和TPU等加速器的系统设计和开发,以及Pathways和Jax的系统框架的开发。其团队开发了所有云服务的加速器系统,以及基于超级计算机来研发LLM大规模语言模型。天眼查信息显示,至算科技成立于2023年10月17日,...
Google让浏览器、Android手机、iPhone都可执行大型语言模型
为了让大型语言模型可以在移动设备上运行,Google对MediaPipe、TensorFlowLite、XNNPack进行大量的优化,官方提到,这些优化功能主要落在CPU与GPU上。而在特定的高端手机中,AndroidAICore还可运用专门的硬件神经网络加速器,来加速大型语言模型的运算。Google主要使用预填速度(PrefillSpeed)和解码速度(DecodeSpeed),...
谷歌出海创业加速器展示日 这些出海创企创意值得一看
谷歌出海创业加速器负责人张达介绍,在过去三年间,谷歌出海创业加速器已经累计为29家中国初创企业提供出海方向的建议和辅导。入营企业代表可以在三个月的时间里,与来自包括Google技术专家、出海企业家、顶尖投资人等在内的56位专业导师进行了深度交流和学习,解决包括实战经验、行业洞察、热门出海市场策略等挑战,获得了多...
早报|超越GPT-4,Google发布大模型Gemini/苹果明年初或将推出多款...
周三,黄仁勋在新加坡接受采访时表示,华为、英特尔和不断壮大的半导体初创公司对英伟达在人工智能加速器市场的主导地位构成了严峻挑战(www.e993.com)2024年10月26日。「我们在中国内外都有很多竞争对手」,黄仁勋说,「我们大多数竞争对手并不关心我们在哪里,无论我们走到哪里,他们都想与我们竞争」。
黄仁勋新访谈:OpenAI是这个时代最具影响力公司之一,马斯克19天...
所以,当你考虑到正在建造的定制化ASIC,可能是Meta的推理加速器,或者亚马逊的Trainium,还有谷歌的TPUs,考虑到现今的供应短缺,这些情况是否改变了这种动态?黄仁勋:我们正试图做不同的事情。正如你所知,NVIDIA正尝试为这个新的世界——机器学习世界、生成式AI世界、智能体世界——构建一个计算平台。
合合信息:用AI敲开全球市场的大门
合合信息:用AI敲开全球市场的大门主力资金加仓名单实时更新,APP内免费看>>2023年至今,以大模型为代表的AI技术屡掀市场波澜,今年的世界人工智能大会获得了空前的关注度,一批AI应用成果收到社会各界的关注。其中,合合信息带来的“AI古籍修复”项目、大模型“加速器”项目凭借其在文化保护、大模型发展中的创新成就,...
对话谷歌团队:中国厂商如何用AI技术拿下全球市场用户?
目前,这家公司还是我们加速器项目中的一员。这些都是开发者充分利用Google服务的优秀案例,给我留下了很深的印象。值得一提的是,还有许多优秀的初创企业通过我们的AIFirst项目取得成功。特别是在中国,让我最兴奋的是那些专注于全球市场的创业公司,他们将中国领先的创新理念,例如电商直播、大语言模型的创新方法带...
周周升级月月上新的AI芯片都是啥?5分钟搞明白AI芯片
NPU(神经网络处理器)属于ASIC(专用集成电路)类型的AI芯片,主要优势在于专门为AI推理场景量身定制,在算力密度、能效比和低延迟推理性能方面都有天然优势。英特尔NPU、苹果NeuralEngine、高通HexagonAIEngine等都针对移动/物联网等终端设备场景进行了优化,与云端的大规模AI加速器(如GoogleTPU、AWSTrainium)定位不同...