水和算法有何相似?用物理学来理解大语言模型

你采用一个从高维数据(如具有数百万像素的图像)中学习的神经网络,然后在某些简化的设置下分析网络需要多少个训练样本才能学习到一定精度的函数。你会得到一个我们所说的阶段转变,即系统最佳性能的突然变化。这些条件会告诉你学习的难易程度,以及寻找更好的算法是否有意义。Q:这种方法是否帮助你了解了这些复杂系统的...

魏东:人工智能算法安全犯罪观及其规范刑法学展开

人工智能算法自主性和智能性是智能机器人的本质属性和关键功能,算法自主性越强大,则算法智能性越强大,反之亦然;以算法自主性和智能性为标准,方有弱人工智能与(超)强人工智能之分。有学者从算法与人的智力相比较的角度提出算法概念,认为“从属于人工智能这个大概念的算法,仍然是对于人的模拟,即人在智力方面比人工...

科研助攻|“药筛+AI”:AI 算法如何加速药物发现?|MCE

1.AI算法可以筛选庞大的生物数据库，以前所未有的速度和高精度识别潜在的药物靶点。2.通过分析从基因组到临床的所有数据，AI工具可以精确定位在疾病进展中起关键作用的分子和生物途经，为研究人员提供关于潜在治疗干预措施的宝贵见解。3.同时基于AI筛选技术对大型的化合物库数据进行快速的筛选，以识别最有可能与...

科学家揭示深度神经网络的线性性质,助力催生更优的模型融合算法

科学家揭示深度神经网络的线性性质,助力催生更优的模型融合算法,算法,插值,预训练,大语言模型,深度神经网络

不同数据集有不同的Scaling law?而你可用一个压缩算法来预测它

我们可以控制PCFG的句法性质,以自然方式调节文本数据集的复杂度。具体来说,PCFG创建函数可接收的参数包括:端点的数量、非端点的数据、生成规则右侧的最大长度、任何非端点允许的生成规则的最大数量(如果这个值为1,则给定的非端点将始终得到同样的右侧)。直观而言,以上每个值的增长都会导致句法复杂度增大。

AI顶会ICML收了一篇论文:没算法没实验

万能逼近性质为了表述本文的新型万能逼近定理,需要给出如下记号:有限词汇表核心是将V称为词汇表,V中的映射称为“词”,V中一个序列的复合称为“句子”,所有“句子”的集合记为HV(www.e993.com)2024年11月9日。记号中的实心点表示的是函数复合,计算时先复合最左边的函数。与常规的复合函数记号相比,有下面的关系:...

如何理解数学中的对数概念?对数在科学计算中有什么应用?

二、对数的性质1.loga(MN)=logaM+logaN(M>0,N>0)2.loga(M/N)=logaM-logaN(M>0,N>0)3.logaMn=nlogaM(M>0)三、对数在科学计算中的应用1.在物理学中,例如在研究声音的强度、地震的震级等方面,常常使用对数来度量。声音的强度通常用分贝(dB)来表示,它是基于声音功率...

诺贝尔物理学奖为何颁给机器学习?Physics for AI 综述介绍

统计物理的研究对象是由大量粒子(或大量自由度)构成的宏观系统,目的是研究这些系统与热现象有关的宏观性质。不过与热力学的研究方法不同的是,热力学是从若干经验定律出发,通过数学上的逻辑演绎方法,最终导出系统的宏观性质;而统计物理则是从单个粒子的力学运动规律出发,加上统计的假设,最终来获得系统的宏观性质。统计...

大脑如何为世界建模?从无监督学习到预测加工|《预测算法》

以此观之,持续不断的感知过程是大脑利用其存储的知识,以一种循序渐进、逐步细化的方式,对由当前感知刺激引发的多层神经反应模式进行预测。这反过来也强调了期望结构(不论它们是有意识的还是无意识的)能够在多大程度上决定我们的所见、所闻和所感。《预测算法:具身智能如何应对不确定性》...

目录|《法治实务》集刊2024年第2卷

作为算法应用与行政治理结合的典型,算法备案能够实现算法创新与安全的有效兼容,并创新企业合法模式及推动行政问责的转型。然而,生成式人工智能下算法备案仍然面临法律属性存疑、算法备案范围混乱、算法备案信息公开不足等困境。基于此,当前应明确行政告知式算法备案的属性证成,并立足分级分类视角,理清算法备案范围与内容;...