广义相对性原理的定义以及该如何理解

其一为物理方程中应当只含动力学量和时空背景量(如度规);其二为物理方程均为张量方程。这两种说法的出发点都是一致的,也就是应当以张量的形式来书写方程,因为张量是不依赖参考系的,是比较靠谱的。这里涉及到克氏符的争论,克氏符可以根据度规计算:????????=12??????(??????...

从骁龙8至尊版,我看到了AI手机的未来 | 智在终端

已经为行业定义了NPU的高通,如今正从CPU开始,为行业重新定义AI时代的移动计算。

基于图神经网络的大语言模型检索增强生成框架研究

W_q表示可学习参数张量h_????????表示第L层末端的问题种子嵌入实验1B提出引入跳跃连接机制来改进指令表示的更新方案。这一改进借鉴了GNN领域的经典思想:跳跃连接常用于缓解深层网络中的节点表示"过度平滑"问题,其核心思想是保留早期层的表示信息,因为这些信息可能包含在后续层处理中丢失的重要特征。将这一...

Groq:软件定义硬件的张量流式处理器架构

本文是Groq首席架构师DennisAbts在2022HotChips大会上做的分享,详细介绍了张量流处理器TSP架构背景、软件定义硬件方法(将芯片控制、数据流、网络调度等均交给软件操作,减少硬件开销)及确定性执行、TSP微架构设计、网络拓扑-路由-流控设计等。LPU整体设计原则、芯片及确定性处理、端到端解决方案等介绍可参考前两文。

2024年诺奖解读:统计物理、人工智能与复杂科学

还有基于扩散的生成式模型,它们与物理学中的扩散过程相关。甚至在量子物理领域,人们提出了基于量子力学的模型,比如像张量网络,王磊老师在这方面有开创性的工作。特别是在深度模型领域,我们的主要任务是对世界进行建模,但遗憾的是,世界是随机的,因此我们必须对概率密度和概率分布进行建模。

使用PaliGemma2构建多模态目标检测系统:从架构设计到性能优化的...

目标检测技术作为计算机视觉领域的核心组件,在自动驾驶系统、智能监控、零售分析以及增强现实等应用中发挥着关键作用(www.e993.com)2024年12月19日。本文将详细介绍PaliGemma2模型的微调流程,该模型通过整合SigLIP-So400m视觉编码器与Gemma2系列的高级语言模型,专门针对目标检测任务进行了优化设计。

机器人计算发展现状及展望

类比通用图形处理器(GPGPU)、神经网络处理器(NPU)、张量处理器(TPU)之于人工智能算法,机器人的专用架构尚未被明确定义和提出,绝大多数机器人仍在使用通用硬件,导致大量算力被用于提供感知、定位、控制等机器人基础计算上,无法支持高智能化的应用软件。机器人编程语言...

2016~2030年,通用人工智能时代的到来

但此间也有个问题,即英伟达并未在算力扩张的情况下保持功率不变,这与我们理解的“摩尔定律”是不相符的:这好比摩尔定律定义的是一块CPU每18个月速度翻倍,而英伟达实现过程更像是把多块芯片做到一起(因为GPU核心可以很多)而宣称是一块芯片。从这个角度说,“黄氏定律”不宜称之为一个定律,只能代表英伟达追求...

AI爆发叠加国产以太网交换芯片ASIC突破

大模型训练一般会将数据并行、流水线并行、张量并行等多种并行模式混合使用,以充分利用集群的算力。然而所有的并行模式都会涉及“AllReduce”集合通信。多个“AllReduce”需要完成每一个点对点通信,因此集合通信存在“木桶效应”,完成时间由其中最慢的一段通信时间决定。任何一条链路的负载出现不均匀的情况,都会...

华为公司申请用于使用liquid类型动态成形张量的系统、方法和介质...

专利摘要显示，描述了用于验证软件的系统、方法和处理器可读介质。编程语言使用liquid类型系统，以支持源代码定义具有在运行时动态定义的维度和/或形状的张量变量。所述源代码中调用的张量变量的维度和形状，以及这样的张量变量的组成元素的数据类型，可以由静态类型定义，所述静态类型可以在编译时验证。本文源自：金融界...