高通股份有限公司取得学习表示神经网络中的权重张量的奇异值分解...

金融界2024年11月13日消息,国家知识产权局信息显示,高通股份有限公司取得一项名为“学习表示神经网络中的权重张量的奇异值分解矩阵的截断秩”的专利,授权公告号CN112005250B,申请日期为2019年4月。本文源自:金融界作者:情报员

神经网络到张量网络的“变身”

我们首先考虑两层的神经网络RBM图1(a),它可以通过三步“变身”为二维张量网络结构图1(d):首先,将变量用复制张量代替,变量之间通过玻尔兹曼矩阵连接来将模型转化为一般的张量网络形式图1(b);然后,利用复制张量等价的MPS结构,从一般张量网络结构转化为三维结构图1(c);最后,通过将三维结构由上至下的压缩得到...

...上海交通大学、合肥国家实验室:使用Clifford线路增强密度矩阵...

张量网络结构的创新和算法优化:本项研究提出了全缀加矩阵乘积态(FAMPS)结构,这是一种新的张量网络结构,它通过引入解纠缠张量(disentangler)来优化MPS,从而提高算法的性能。此外,FAMPS结构保持了密度矩阵重整化群的低算法复杂度,能够显著减少计算资源的需求,这对于处理大规模量子系统尤为重要。主要研究人员秦明普,上...

中国建设基础设施有限公司申请基于BIM与参数化数据库集成的预制梁...

专利摘要显示,本发明公开了基于BIM与参数化数据库集成的预制梁场布局优化系统,涉及计算机辅助设计技术领域,所述系统包括:BIM数据获取及处理单元,用于从BIM参数化数据库中提取预制梁的几何特征张量、材料特征张量和截面特征张量,构建预制梁的多尺度特征张量;模型构建单元,用于基于多尺度张量和场地参数,建立场地多物理场耦合...

Nature Methods 前沿:空间转移张量方法解析细胞状态转变

b.通过平均细胞在不同吸引子中的所属关系,定义转移张量和诱导的RNA速度。c–f.STT的工作流程。c.输入的U和S计数矩阵。d,e.转移张量的动力学参数估计(d)与动力学分解和粗粒化(e)之间的迭代方案。f.STT的输出。g.使用STT分析空间转录组学数据,其中基于空间细胞坐标的空间相似性核与张量诱导和基因表达...

我国研制出世界首个碳纳米管张量处理器芯片:高性能、高能效

IT之家7月22日消息,北京大学电子学院碳基电子学研究中心彭练矛-张志勇团队,在下一代芯片技术领域取得重大突破,成功研发出世界首个基于碳纳米管的张量处理器芯片(TPU)(www.e993.com)2024年12月19日。该芯片由3000个碳纳米管场效应晶体管组成,能够高效执行卷积运算和矩阵乘法。该芯片采用了新型器件工艺和脉动阵列架构,可实现并行的2位整...

张量分解法揭示使患者群体分层的多细胞转录变异协调模式

研究人员介绍了一种称为单细胞可解释张量分解(scITD)的计算方法,通过考虑多种细胞类型的联合表达变化,来识别个体间变异的共同轴。scITD将每种细胞类型的表达矩阵组合成高阶矩阵,并使用Tucker张量分解对结果进行因子分解。将scITD应用于115名狼疮患者和83名2019冠状病毒病患者的单细胞RNA测序数据,研究人员确定了与疾病...

Groq:软件定义硬件的张量流式处理器架构

本文是Groq首席架构师DennisAbts在2022HotChips大会上做的分享,详细介绍了张量流处理器TSP架构背景、软件定义硬件方法(将芯片控制、数据流、网络调度等均交给软件操作,减少硬件开销)及确定性执行、TSP微架构设计、网络拓扑-路由-流控设计等。LPU整体设计原则、芯片及确定性处理、端到端解决方案等介绍可参考前两文。

GPU 张量核心(Tensor Core)技术解读

TensorCore是专为混合精度训练设计的核心，其第一代通过乘加融合计算，实现4x4FP16矩阵相乘并高效整合至4x4FP16或FP32矩阵，显著提升计算效率。混合精度计算得名于其特性：输入矩阵虽为低精度FP16，但输出仍为FP32，精度损失极小。此技术极大加速计算，几乎不影响模型最终效果。更先进的微架构已将其扩展到更低...

开源神器!向量、张量、全文搜索一网打尽,打造最强 RAG!

开源AI原生数据库Infinity0.2release正式发布,提供了2种新数据类型:稀疏向量SparseVector和张量Tensor,在此前的全文搜索和向量搜索之外,Infinity提供了更多的召回手段,如下图所示,用户可以采用任意N路召回(N≥2)进行混合搜索,这是目前功能最强大的RAG专用数据库。