高通股份有限公司取得学习表示神经网络中的权重张量的奇异值分解...

金融界2024年11月13日消息,国家知识产权局信息显示,高通股份有限公司取得一项名为“学习表示神经网络中的权重张量的奇异值分解矩阵的截断秩”的专利,授权公告号CN112005250B,申请日期为2019年4月。本文源自:金融界作者:情报员

神经网络到张量网络的“变身”

我们首先考虑两层的神经网络RBM图1(a),它可以通过三步“变身”为二维张量网络结构图1(d):首先,将变量用复制张量代替,变量之间通过玻尔兹曼矩阵连接来将模型转化为一般的张量网络形式图1(b);然后,利用复制张量等价的MPS结构,从一般张量网络结构转化为三维结构图1(c);最后,通过将三维结构由上至下的压缩得到...

...上海交通大学、合肥国家实验室:使用Clifford线路增强密度矩阵...

本项研究为密度矩阵重整化群算法提供了一种新的视角和工具,使其能够更有效地处理复杂系统,从而拓展了密度矩阵重整化群算法的研究领域和应用前景。提出二维量子多体问题的有效工具:本研究提出了一种基于矩阵乘积态(MPS)的新张量网络结构:全缀加矩阵乘积态(FAMPS)。这种结构对于二维量子系统可以提供类面积率的纠缠熵,...

Nature Methods 前沿:空间转移张量方法解析细胞状态转变

b.通过平均细胞在不同吸引子中的所属关系,定义转移张量和诱导的RNA速度。c–f.STT的工作流程。c.输入的U和S计数矩阵。d,e.转移张量的动力学参数估计(d)与动力学分解和粗粒化(e)之间的迭代方案。f.STT的输出。g.使用STT分析空间转录组学数据,其中基于空间细胞坐标的空间相似性核与张量诱导和基因表达...

张量分解法揭示使患者群体分层的多细胞转录变异协调模式

研究人员介绍了一种称为单细胞可解释张量分解(scITD)的计算方法,通过考虑多种细胞类型的联合表达变化,来识别个体间变异的共同轴。scITD将每种细胞类型的表达矩阵组合成高阶矩阵,并使用Tucker张量分解对结果进行因子分解。将scITD应用于115名狼疮患者和83名2019冠状病毒病患者的单细胞RNA测序数据,研究人员确定了与疾病...

我国研制出世界首个碳纳米管张量处理器芯片:高性能、高能效

IT之家7月22日消息,北京大学电子学院碳基电子学研究中心彭练矛-张志勇团队,在下一代芯片技术领域取得重大突破,成功研发出世界首个基于碳纳米管的张量处理器芯片(TPU)(www.e993.com)2024年12月18日。该芯片由3000个碳纳米管场效应晶体管组成,能够高效执行卷积运算和矩阵乘法。该芯片采用了新型器件工艺和脉动阵列架构,可实现并行的2位整...

Groq:软件定义硬件的张量流式处理器架构

本文是Groq首席架构师DennisAbts在2022HotChips大会上做的分享,详细介绍了张量流处理器TSP架构背景、软件定义硬件方法(将芯片控制、数据流、网络调度等均交给软件操作,减少硬件开销)及确定性执行、TSP微架构设计、网络拓扑-路由-流控设计等。LPU整体设计原则、芯片及确定性处理、端到端解决方案等介绍可参考前两文。

开源神器!向量、张量、全文搜索一网打尽,打造最强 RAG!

开源AI原生数据库Infinity0.2release正式发布,提供了2种新数据类型:稀疏向量SparseVector和张量Tensor,在此前的全文搜索和向量搜索之外,Infinity提供了更多的召回手段,如下图所示,用户可以采用任意N路召回(N≥2)进行混合搜索,这是目前功能最强大的RAG专用数据库。

GPU 张量核心(Tensor Core)技术解读

TensorCore是专为混合精度训练设计的核心，其第一代通过乘加融合计算，实现4x4FP16矩阵相乘并高效整合至4x4FP16或FP32矩阵，显著提升计算效率。混合精度计算得名于其特性：输入矩阵虽为低精度FP16，但输出仍为FP32，精度损失极小。此技术极大加速计算，几乎不影响模型最终效果。更先进的微架构已将其扩展到更低...

外尔半金属薄膜的介电张量及色散性质研究

外尔半金属(WSM)是一种以外尔费米子为准粒子的新型拓扑材料，具有优异的物理和光学特性。在光与WSM相互作用的过程中，材料的介电函数起到十分关键的作用。从修正的电位移矢量和电场强度关系出发，通过介电函数张量比较了不同费米能级情况下WSM介电常数的变化。在此基础上，引入4×4的磁光矩阵来求解...