中金:XGBoost因子筛选与合成的指数增强应用

√正则化:在模型中引入L1或L2正则化,减少过拟合风险。√集成方法:如随机森林,XGBoost等,可以在一定程度上缓解高相关性带来的问题。综上我们认为在股价预测中,高度相关的因子既可能导致拟合不足,也可能导致过拟合。关键是要根据具体情况采取适当的处理方法,平衡模型的复杂度和预测能力。在后续的模型构建中我们...

《储能科学与技术》推荐|张浩 等:基于机器学习方法的锂电池剩余...

ML作为非线性建模方面表现出色的数据驱动方法,为锂离子电池RUL预测提供了不同于物理模型方法的有力的工具。如图1所示,在众多ML算法中,循环神经网络(recurrentneuralnetworks,RNN),包括基本RNN、回声状态网络(echostatusnetwork,ESN)、长短期记忆网络(longshort-termmemory,LSTM)和门控循环单元(gatedrecirculation...

RAPTOR:多模型融合+层次结构 = 检索性能提升20%,结果还更稳健

将多个检索算法集成到单个系统中时,可以考虑多种策略:分数融合:使用线性组合或加权平均等方法组合各种模型的分数,使整体性能得到增强。排名融合:基于不同系统的位置合并排名列表,允许更细致的结果。动态重新排序:在初始检索之后,可以使用考虑所有单个模型输出的元模型对结果进行重新排序。联邦搜索系统在联邦搜索环境...

人被异化的投影,正在被机器人消除|甲子光年

3.算法之囿:技术路线还未收敛要理解控制算法的难点,首先就要了解控制论发展的历史。几十年来,控制理论经历了以频率法和根轨迹法为主要方法的经典控制理论阶段、以线性代数理论和状态空间分析法为基础的现代控制理论阶段,如今来到了人工智能、系统论、信息论、自动控制、运筹学等多学科综合高度集成的智能控制理论阶段...

全网最全 OpenAI o1 万字综述:创新、原理和团队

作为首个通过大规模强化学习算法训练的模型,o1能够在回答之前深入思考问题。o1不再需要由用户输入复杂的COT提示词,而是通过强化学习的方式,将思维链内化之后进行持续训练。通过思维链式的问题拆解,模型可以不断验证、纠错,尝试新的方法,这一过程显著提升了模型的推理能力。

【深度学习】6种卷积神经网络压缩方法

为解决这个问题,Courbariaux等人提出二值连接(binaryconnect)算法,该算法采取单精度与二值结合的方式来训练二值神经网络,这是第一次给出了关于如何对网络进行二值化和如何训练二值化神经网络的方法(www.e993.com)2024年11月4日。过程如下:1.权重weight初始化为浮点。2.前向传播ForwardPass:...

大模型技术在企业应用中的实践与优化 | 新程序员

推荐方法:全量微调(FullFine-tuning)。注意事项:需要谨慎调整学习率,以避免过拟合。可以采用学习率衰减策略,或使用AdamW等优化器。3.特定任务优化适用场景:文本分类、关系抽取、命名实体识别等特定NLP任务。推荐方法:全量微调或任务特定的微调方法。

华泰金工深度研究:双目标遗传规划应用于行业轮动

由于行业轮动场景具有截面小样本的特点,大家普遍担心AI模型潜在的过拟合风险,于是使用选股因子合成行业轮动因子似乎顺理成章。但是,这种做法得到的行业轮动因子是否有效似乎“听天由命”,而且由于要先得到选股因子,工程计算量通常不低。那么,是否有办法直接基于各行业指数的量价数据来挖掘行业轮动因子呢?容易想到的方式包...

4万字解读有关『端到端自动驾驶』的概念混淆、谎言及“路线之争...

本小节的内容,在我们之前的报告中已经出现过,所列举的例子,在各媒体的文章中也出现过不少,但为了文章结构的连续性,在这里还是做个简单的提炼。对相关内容已经比较熟悉的读者可直接跳过。模块化的端到端模型并没有完全抛弃传统的自动驾驶技术栈,它仍然包含可见的感知和规控算法模块,但改变了子模块连接的方式——传...