人形机器??的奇点时刻,还有多久到来?
孙若愚:许多能力确实是遗传的,存在预训练(pretrained)和训练(trained)两个阶段。经过几千年的进化,我们在出生前就经历了一个漫长的预训练过程,大量的数据被整合学习,然后植入我们的基因中。有一本书名为《白板》,它专门讨论了这个问题,也探讨了乔姆斯基的观点,他们认为人出生时并非一张白纸。关于情感的问题,我隐约...
乔姆斯基的4本好书
《笛卡尔语言学:理性主义思想史上的一章》是乔姆斯基论述其语言哲学思想的一部重要著作。全书主要由以下部分组成:语言使用的创造性;深层结构和表层结构;语言学中的描写和解释;语言的习得和使用。在这部著作中,乔姆斯基把当代语言理论的根源追溯到17世纪。例如,有关“表层结构”和“底层结构”的设想其前身可以在法国“保...
诺奖AI之父Hinton:我确实有些孤独,但并不是完全孤立无援
在那种假设下,Lighthill完全正确,这种符号化的方法,尽管理论上你可以用我们拥有的计算速度做任何事情,但没有希望做到像感知测量这样的事情。主持人:报告是什么时候发表的,你当时是在本科阶段还是研究生阶段?你是在宣布这一决定的时候的研究生吗?GeoffreyE.Hinton:确实,我的导师是三位在爱丁堡大学创立人工智能学院...
教师节,聊聊不同心理学研究方向的代表人物(顺便玄学求分!)
他提出的潜意识理论、梦的解析、人格结构理论等,对现代心理学影响深远。让·皮亚杰领域:发展心理学经历:瑞士心理学家,提出了著名的认知发展理论,研究了儿童认知发展的不同阶段,对教育心理学产生了重要影响。阿尔伯特·班杜拉领域:社会学习理论经历:加拿大心理学家,提出了“观察学习”和“自我效能感”等...
CoT能推理能力无上限?田渊栋下场反对:两层MLP还能模拟全世界呢
此外,这发生在检索阶段,而非在训练阶段,也就是说模型还是不能实时学习,无法随着输入更多数据不断改进...还有网友指出,虽然论文中通过「模拟门电路运算」等实验从理论上进行了证明,但这样的模拟方式可能不能完全反映出大模型在真实环境中的行为。比如对量子模拟、医学诊断等领域可能就没什么说服力。更令人担忧的...
建构文化人工智能的可能路径
研究表明,这种涌现逻辑的信息处理系统通过感知经验建立知识,在不同的发展阶段其内部结构会自我组织,并使内部表征和感官知觉之间出现内部对话;系统的所有经验都与指导学习机制和影响结果行为的情感反应有关,智能体的想法是概念的构建序列,概念表征环境感知的组合,思想则表征了它们之间的关系(www.e993.com)2024年10月25日。
身为你自己是一种怎样的感觉?有关心智的研究史
但在1959年,麻省理工学院的语言学家诺姆·乔姆斯基(NoamChomsky)在一篇综述中毫不留情地批驳了斯金纳的观点。乔姆斯基指出,儿童说的许多句子其实都不会得到奖励(“我讨厌你,妈妈!”——举个例子),而且正常的语言发展过程包括一个阶段,在这个阶段儿童会说出一些语法不准确的句子,像“theboyhittedtheball”,他们...
所罗门诺夫:大语言模型的先知
乔姆斯基的先天内生文法(innategrammar)其实就是所罗门诺夫的先验概率分布,只不过乔姆斯基采取了理性主义的立场,而所罗门诺夫无疑是经验主义的。事实上,如果认可丘奇-图灵论题,理性主义和经验主义的区别只是修辞的,而不是本质的。在所罗门诺夫的先验概率分布下,程序的置信度随着其长度指数递减。这就是奥卡姆剃刀,即越短...
专访85岁冯志伟教授:一个北大中文系学生的机器翻译之梦
当时在中文系授课的老师很多都是中国的著名语言学家,其中包括中国现代语言学奠基人之一王力、“汉语拼音之父”周有光、汉语语法学家朱德熙、理论语言学家岑麒祥等,冯志伟在本科阶段听他们的课,学习语言学的基础知识。同时,因为记得乔姆斯基的那篇让他启蒙的论文,他一直希望用数学模型解决语言学问题,这一时期他也自学了...
乔姆斯基的成名理论“普遍语法”最近连遭质疑
乔姆斯基则表示,他对沃尔夫知之甚少,两人此前甚至从未有过接触。“从现代研究意义来说,普遍语法是语言学理论(比如视觉系统理论),不是某个特例(就像我的视觉系统和你们的几乎没有差别)。即使发现了一些部落,他们的眼白是黑色的,也不会引起那些研究视觉系统理论科学家的兴趣。”乔姆斯基补充道:“坦白说,我对许多人会...