北大陈宝权教授:从图形计算到世界模型

在大模型训练的过程中,一个关键观察是数据量与模型损失(loss)降低之间的关系。尽管常有人以线性关系简化描述,但实际上,这种关系更接近对数(Log)关系,这暗示了模型对数据需求的指数级增长特性。事实是,随着模型训练深入,对数据量的要求急剧增加,以至于数据资源在迅速耗尽。这一现象在涉及更高维度(如三维及以上)的...

【招银研究|资本市场专题】A股战术资产配置策略:五指标定量择时模型

模型包含三个基本面指标(中长贷增速、M1增速或M1-PPI增速、美元指数),以及两个技术面指标(市净率5年分位数、量价变化)。模型设定两种增配/买入情形:第一,多个基本面指标发出看多信号,且技术面不看空;第二,基本面指标虽未好转,但技术面已发出看多信号。其它情形,则均减配/卖出。模型的历史回测显示,自2001年12...

认知地图的规范计算模型实现

此外,所提出的相量模型与尖峰神经网络[65]之间存在有趣的联系,这可能产生具有尖峰神经元的规范模型,可能在大规模上可在神经形态硬件上实现,从而可以进一步进行定量预测。

OpenAI风波背后神秘项目Q-star浮出水面 谁打开了大模型的潘多拉...

当模型规模小的时候,无法识别子任务是哪一种,所以模型的表现跟随机选择答案差不多;当模型增长到中等规模的时候,主要执行的是干扰任务,所以对真正的任务效果有负面影响;当进一步增加模型规模,大模型开始识别出干扰任务,并忽略掉它们,执行真正的任务,最终结果的准确率上升。两种被证明具备“涌现”的典型能力:上下文学...

基于波动率目标的信用债券指数增强策略

我们介绍三种不同的波动率模型:1.历史波动率模型该模型以收益率的标准差作为风险资产的权重,这种方法的优点是计算简单。2.指数加权平均模型(EWMA)EWMA模型在时序上以指数衰减进行加权,数学形式为:参数λ控制了权重的半衰期。3.GARCH模型基于波动率聚类现象的观察,Engle(1982)提出了ARCH模型。在此基础上Bol...

【视频】LSTM模型原理及其进行股票收盘价的时间序列预测讲解|附...

在验证阶段,我们将利用训练好的模型对验证集进行预测,并通过适当的评估指标来衡量模型的性能,从而验证模型在实际应用中的效果(www.e993.com)2024年11月25日。模型训练结果使用其他模型进行对比多种训练模型的训练均方差和验证均方差模型训练结果与RNN简单循环神经网络模型相比,LSTM具有能捕捉长期数据特征的优点,但是对于超长期的数据,仍旧无法进...

马斯克“掀桌子”,AI大模型+自动驾驶会诞生什么?

“端到端”是指,一端指输入端,一端指输出端,输入数据的包括摄像头的感知数据、车身的数据等等,中间通过Transformer架构的AI大模型推演之后,最终直接输出到电门、刹车、方向盘。而通过Transformer架构的AI大模型,是在2022年底,特斯拉Autopilot部门的一位工程师向马斯克提出的建议,要借鉴ChatGPT,让神经网络通过学习人类驾...

从三组定律,看指数级增长的故事 | 思考汇

如果范围扩大到半导体、太阳能电池板以及DNA测序这种层面,每一个都要比铅笔复杂得多,再把指数级改进引入其中的话,就可以揭示出指数技术曲线这个人造奇迹。这里我就越俎代庖,讲讲它们的故事。(1)摩尔定律:半导体就像没人知道如何制作一支铅笔一样,也没人完全了解半导体背后的复杂性。

灵均投资深夜致歉:下一步将改进交易模型,严控交易节奏

下一步，公司将深刻吸取教训，更加认真学习相关法律法规和交易规则，切实增强合规意识，并通过改进交易模型，严格把控交易进度、交易约束、控制交易节奏，确保在交易全过程做到平滑交易、均衡交易，切实维护正常市场交易秩序，全力保障投资者合法权益。灵均投资网站截图据此前报道，2月20日，沪深交易所分别发布公告，对宁波...

11种经典时间序列预测方法:理论、Python实现与应用

简单指数平滑(SES)Holt-Winters指数平滑(HWES)本文利用Python的Statsmodels库实现这些方法。Statsmodels提供了强大而灵活的工具,用于统计建模和计量经济学分析。1、自回归(AR)模型自回归(AR)模型是时间序列分析中的基础模型之一。它假设序列中的每个观测值都可以表示为其前p个观测值的线性组合加上一个随机误差项。