贝叶斯学派与频率学派,统计学领域的两大学派:究竟谁正确?
以及以德菲内蒂为代表的主观贝叶斯派.这里将概率的古典定义和统计定义都归到频率派里,因为两者都是用两个数的比值(频率)来定义概率的.贝叶斯派其实还包含经验贝叶斯派等,这里姑且不论.有一个基本的问题:如果将概率论视为数学或者科学理论,那么究竟哪一种观点才是正确的呢?
奥卡姆剃刀与贝叶斯范式
统计学与机器学习方面的研究者需要这些预测性理论,而他们发现,如果没有奥卡姆剃刀的话,就会经常陷入所谓的“过度拟合”(overfitting)陷阱之中束手无策,我们也可以把它翻译成“过度诠释”。要理解过度拟合带来的不良后果以及奥卡姆剃刀(有可能)扮演的“救世主”角色,我们先讲一点闲话,看看一个处于过度拟合统治之下的领域:...
经典综述:自由能原理——统一的大脑理论
该综述从自由能原理视角审视了生物和物理科学中一些重要的大脑理论,包括贝叶斯大脑、预测编码和信息最大化原则、层次推理和注意力理论、神经达尔文主义、信息论和最优控制理论等,表明几种全局性大脑理论可能在自由能框架内得到统一。集智俱乐部「」读书会此前邀请到KarlFriston做关于自由能原理的报告,主题为“”,...
Mark Riedl 人工智能故事生成导论
叙事理解的心理学研究指出了因果关系在人类读者建立故事事件之间关系时的重要性(Trabasso1982)。在叙事中,两个事件之间的因果关系是一种标识,即,时间上的后一个事件部分是由时间上的前一个事件的存在促成的(叙事的因果性(narrativecausality)与统计学或贝叶斯推理中的不同,在统计学中,随机变量之间的因果性意味着...
AI产品经理必知的100个专业术语|算法|向量|拟合|贝叶斯|大模型|...
九、概念与理论81、信息熵(InformationEntropy)信息熵是度量不确定性或信息含量的单位,常用于信息论和统计学中。82、贝叶斯定理(Bayes'Theorem)贝叶斯定理描述了条件概率的关系,是贝叶斯统计的基础。83、信息增益(InformationGain)信息增益是用于特征选择的度量标准,表示特征对分类的贡献程度。
张天蓉:基本比率谬误(base rate fallacy)-概率问题与贝叶斯定理...
贝叶斯定理是18世纪的产物,200来年用得好好的,不想在20世纪70年代遇到了挑战,该挑战来自于卡尼曼和特维尔斯基(Tversky)提出的“基础概率谬误”(Base-RateFallacy)(www.e993.com)2024年10月17日。丹尼尔·卡尼曼(DanielKahneman,1934年-)是以色列裔美国心理学家,2002年诺贝尔经济学奖得主。基础概率谬误并不是否定贝叶斯定理,而是探讨一个使人困惑的...
“恐惑谷效应”,真的存在吗?
此外,美国未来学家吉米斯·卡西奥(JamaisCascio)提出了存在“第二恐惑谷”(thesecondUncannyValley)的可能,即当高仿真人形机器人的类人程度在达到普通健全人的水平之后走向超人类或后人类时,或许会再次引发好感度的下滑。鉴于此,学界至今未将恐惑谷假设升级为恐惑谷理论。经过诸多研究的缝缝补补,恐惑谷成了...
谁说直觉与深思不相容?基于自由能的新思路
例如,当动物面对环境变化时,它们可能会本能地做出反应,如寻找避难所或寻找食物,这些行为可能是天生的也可能是后天学来的。同样,人们在做决策时,有时会不假思索地依赖直觉(心理学家卡尼曼称之为“系统一”),而有时则需要深思熟虑(“系统二”)。而到了机器学习中,一些算法是“无模型”(modelfree)的,即它们不依...
【收藏】全网最详细的AI大事记!
1949年,唐纳德·赫布(DonaldO.Hebb)在自己的著作《TheOrganizationofBehavior;aNeuropsychologicalTheory(行为的组织:一种神经心理学理论)》中,描述了突触可塑性的基本原理,对学习和记忆提供了生理学层面的新理解。赫布也凭此被誉为“神经心理学与神经网络之父”。
神经科学泰斗Karl Friston来了,探索自由能原理,解读智能的第一性...
自由能原理提供了一个统一的规范性理论,用于理解和模拟复杂系统的自组织、自适应行为,特别是在生物系统和大脑功能方面。这一原理不仅解释了感知、行为和学习的统一过程,还对复杂系统建模、认知过程和意识的理解,以及生物和人工智能系统的设计原则产生了深远影响,跨越了生物学、神经科学、心理学和人工智能等多个领域,为...