深度长文:解读麦克斯韦妖,信息也是物理实体?(建议收藏)
随着时间的推移,到了1961年,物理学家兰道尔提出了兰道尔原理:计算机在删除信息的过程中会对环境释放出极少的热量,必然有电能转换成了热能被释放到环境中,这也是我们的电脑不断发热的原因,该热量的数值与环境温度成正比,删除信息的过程电能转变成热能是不可逆的热力学过程,因此计算机通过计算而散发热量的过程也是不可逆...
1次训练用电2.4亿度,AI 为什么那么耗电?
处理信息需要消耗能量1961年,在IBM公司工作的物理学家拉尔夫·兰道尔(RolfLandauer)发表了一篇论文,提出了后来被称为“兰道尔原理”(Landauer'sPrinciple)的理论。这一理论认为,计算机中存储的信息发生不可逆的变化时,会向周围环境散发一点点热量,其散发的热量和计算机当时所处的温度有关——温度越高,散发...
一次训练就消耗2.4亿度电!AI 正在耗干全球电力?
1961年,在IBM公司工作的物理学家拉尔夫·兰道尔(RolfLandauer)发表了一篇论文,提出了后来被称为“兰道尔原理”(Landauer'sPrinciple)的理论。这一理论认为,计算机中存储的信息发生不可逆的变化时,会向周围环境散发一点点热量,其散发的热量和计算机当时所处的温度有关——温度越高,散发的热量越多。兰道尔原理...
潮人新知|一次训练耗电2400万度,AI发展正在消耗大量能源!
一个被证实的原理——处理信息需要消耗能量1961年,在IBM公司工作的物理学家拉尔夫·兰道尔提出了后来被称为“兰道尔原理”的理论。这一理论认为,计算机中存储的信息在发生不可逆的变化时,会向周围环境散发一点点热量,其散发的热量和计算机当时所处的温度有关——温度越高,散发的热量越多。兰道尔原理连接起了“信息...
理解计算的物理成本:计算热力学的突破
该领域的一块基石是1961年制定的兰道尔原理。它假设擦除1位信息需要至少耗散kTln(2)的能量,其中k是玻尔兹曼常数,T是绝对温度。该原理强调了与计算相关的固有能量成本。但是,它假设了一个非常具体的场景:可逆计算,其中信息擦除可以完美撤销。实际上,大多数计算本质上是不可逆的。数据擦除是一条单行道,涉及的过...
AI 正在“吸干”全球电力?算力与电力的抉择|ai|能耗|晶体管|...
兰道尔原理认为,即使是最简单的计算过程,也必然会产生热力学消耗现有的经典计算机几乎都是不可逆计算机,信息处理的操作逻辑上不可逆的,也就意味着信息不断消失也会导致物理世界中熵的增加,从而消耗能量(www.e993.com)2024年9月14日。兰道尔认为,熵的减少只能用能量来交换。根据他的计算,即使是最简单的计算过程,比如删除一个字节,也必然会产生一...
量子计算天生“可逆”吗?|量子计算群英会
兰道尔原理罗夫·兰道尔(RolfLandauer,1927-1999)是一名德国犹太移民,二战时从希特勒德国流亡到美国,毕业于纽约史岱文森高中。是物理学家、计算机科学家和工程师,专攻热力学和凝聚态物理。兰道尔从哈佛大学毕业后进入IBM工作。“量子”和“计算”这两个领域之间的根本而又微妙的关联,正是兰道尔在IBM工作期间的1961年...
人机关系不是物理关系也不是数理关系
兰道尔原理是物理学的一个重要原理,它指出任何物理系统在稳定状态下的总能量必须保持不变。基于这个原理,我们可以审视人脑和计算机在能源效率方面的差异。人脑是一种生物神经系统,能够通过神经元之间的相互作用和突触连接来执行各种认知和行为任务。相比较计算机,人脑的神经元并不是完全数字化的,而是通过离散的电荷传递来...
四个原理解读大模型,能耗与智能要如何平衡?
这正是大模型的发展引发的对未来计算资源分配和能耗的担忧,兰道尔原则(Landauer'sPrinciple)指出,信息处理过程中的比特翻转需要消耗最小能量,这暗示了计算能力增长的物理极限。这也是张晓东给出的原理4:能耗与智能,LandauerPrinciple。张晓东表示,从0变成1是需要能量的,他预计摩尔定律还能走到2100年以后,半导体行业...
量子计算生天“可逆”吗?|量子计算群英会(三)
兰道尔原理罗夫·兰道尔(RolfLandauer,1927—1999)是一名德国犹太移民,二战时从希特勒德国流亡到美国,毕业于纽约史岱文森高中。是物理学家、计算机科学家和工程师,专攻热力学和凝聚态物理。兰道尔从哈佛大学毕业后进入IBM工作。“量子”和“计算”这两个领域之间的根本而又微妙的关联,正是兰道尔在IBM工作期间的1961年...