涌现的计算方法:从计算力学到层级涌现
我们的方法专注于探讨时间序列数据中给定尺度的“闭合”(closure)可能意味着什么。我们确定了“闭合性”的三个层面:信息闭合:仅从宏观数据就可以构建最优预测,因果闭合:对宏观有影响的每一次干预都可以在宏观层面进行,计算闭合:通过粗粒化微观的计算可以识别出宏观的特征计算。关键的理论贡献是形式化这些概念,并...
红杉资本对生成式AI的预判
o1论文中最重要的见解是,镇上有一项新的缩放法。预训练LLMs遵循一个众所周知的扩展定律:您在预训练模型上花费的计算和数据越多,它的性能就越好。o1论文为扩展计算开辟了一个全新的平面:您为模型提供的推理时间(或“测试时间”)计算越多,它的推理就越好。一种模式统治他们所有人?随着OpenAI、Anthropic...
中国农历有多厉害?专家:世界上没有任何历法同时计算太阳和月亮
专家:世界上没有任何历法同时计算太阳和月亮古语有云:"一寸光阴一寸金,寸金难买寸光阴。"时间对每个人来说都弥足珍贵。而中国人发明的农历,不仅仅是一种精准计时的工具,更蕴藏着博大精深的中华文明。农历究竟有什么魔力,让它能在数千年的岁月长河中熠熠生辉?一、中国农历为何能同时考虑太阳和月亮的运行规律...
...AI不是接下来一两年找到PMF,而是接下来十到二十年如何改变世界
AI一个重要策略叫「ensemble」(使用集成方法,用多个不同的模型或方法,将它们的预测或结果结合起来,获得更优性能),本质在做一样的事情,当你有diverse的观点你可以碰撞出很多新东西。合作有很大受益。腾讯新闻《潜望》:你是先有一个idea,拿去问他们是否感兴趣吗?杨植麟:差不多是这个过程。腾讯新闻《潜望...
三八妇女节 | 走进女规划师们的学术世界,感受女性智慧与力量
阅读时间:34分钟妇女节Women'sDay国际劳动妇女节(InternationalWorkingWomen'sDay,简写IWD),又被称为“国际妇女节”、“三八节”和“三八妇女节”,是在每年的3月8日为庆祝妇女在经济、政治和社会等领域作出的重要贡献和取得的巨大成就而设立的节日。
数学爱好者田成功 发现数性周期律并计算出2^ 222222222-X大数因子...
我用的就是普通的家用电脑,关键是创新方法(www.e993.com)2024年11月29日。如果用试除法进行,普通的家用服务器电脑一个数5分钟,10万个数要50万分钟,需要348天,大约1年;10万个数大约10万年。10万台电脑同时计算,也要1年的时间。现在只需要一天多。世界上已知的最大素数是2^82589933-1,这个素数有24862048位,电脑中文档大小是11.1M,A4纸...
中国"历"有多厉害?王蒙:世界上没有任何历法同时计算太阳和月亮
世界历法一共有三大类型:阴历、阳历以及阴阳合历。简单概括一下,阴历看的是月亮周期运动,阳历看的是太阳周年视运动,而阴阳合历则是两者都要看。因此它远远要比前两者复杂,这也是为什么王蒙会说,世界上没有任何历法同时计算太阳和月亮,而我国是个例外。
杨立昆教授关于通用人工智能世界模型JEPA观点及争议
我们学习的最佳方法依赖于估计和利用损失的梯度,而这只能在可微分架构中实现,且与基于逻辑的符号推理难以调和。3.机器如何学会以层次化的方式表示感知和动作计划,涉及多级抽象和不同的时间尺度?人类和许多动物能够构想出多层次的抽象,通过将复杂动作分解为低层级动作序列,实现长期预测和长期规划。
谷歌前CEO引爆科技圈的“大实话”演讲全文,13000字
我对上下文窗口能达到如此之长感到惊讶。这主要由于它的计算和处理难度很高。短期记忆的有趣之处在于,当你输入信息,比如你问一个问题,"读了20本书,你输入这些书的文本作为查询,然后你说,'告诉我它们说了什么。'"它会忘记中间的部分,这与人类大脑的工作方式相似。对吗?这就是我们现在的状况。
月之暗面杨植麟复盘大模型创业这一年:向延绵而未知的雪山前进
现在的开发方式会演变成,你是要做一个巨大的系统,需要新的算法,扎实的工程,甚至很多产品和商业化。好比21世纪初,你不可能在实验室研究信息检索,要放在现实世界,有一个巨大的系统,有一个有用户的产品,像Google。所以,科研或教育系统会转变职能,变成培养人才为主。