浙大湖州研究院×浙大数学学院联合推出受控加速优化算法PIDAO

研究团队基于Lyapunov稳定性理论,为PIDAO在凸优化问题和非凸优化问题中提供明确的超参数选取范围,增强了PIDAO在实际应用中的可操作性,这为其在复杂优化问题中的表现奠定了坚实基础。更关键的是,研究团队发现了PIDAO优化器的抵消效应。此效应赋能PIDAO在导航错综复杂的损失函数地形时,能够更有效地调和梯度下降过程中的...

姚期智院士大模型新研究:思维图DoT,用数学理论确保AI逻辑一致性

这种方法简化了部署,消除了对多LLM协作或外部控制机制的需求,同时与标准LLM训练范式保持一致,便于集成到现有工作流程中。作者还为DoT框架提供了严格的数学基础,利用对推理过程进行了形式化描述。在这个框架中,命题被建模为拓扑中终端对象的子对象,逻辑关系和推理步骤表示为态射,批评和改进过程分别对应到子对象分类器的...

立足华夏做科研 走向世界创一流 ——记北京航空航天大学夏勇教授

他鼓励学生超越书本、敢于质疑,针对两本书均认为“时变步长的投影次梯度法只有次优遍历收敛速度”的论断,他与学生一起巧妙证明了该方法实则拥有最优遍历收敛速度,这一发现不仅颠覆了欧美经典教材中的传统认知,更为凸优化领域注入了新的视角。春风柔化雨,润物细无声。正是夏勇的悉心培养下,这些年来,夏勇的学生表...

梯度下降算法:数学原理与深度解析

梯度下降算法作为机器学习领域的核心优化算法之一,其背后蕴含着丰富的数学知识。从导数与偏导数到向量与矩阵运算,从泰勒级数展开到凸优化与非凸优化,再到正则化与过拟合的处理,这些数学知识共同构成了梯度下降算法的理论基础和实践指南。随着机器学习领域的不断发展,梯度下降算法也在不断地改进和优化。未来,我们可以期...

CS领域杨笛一、杜少雷、金驰等7位华人学者获奖,2024斯隆奖出炉|...

他的研究兴趣包括机器学习理论、统计学、优化和博弈论,金驰所从事的研究主要是为现代机器学习开发原理和理论上合理的方法。他过去的研究主要集中在非凸优化和强化学习(RL)领域。在GoogleScholar网站上,他的论文引用数量已经达到9672次。YakunSophiaShao,UC伯克利...

中国自动化学会控制理论专业委员会(TCCT)第九届协同控制与多智能...

在青年学者报告环节,东北大学杨涛教授、北京理工大学辛斌教授、西湖大学赵世钰特聘研究员、北京理工大学俞成浦教授、同济大学宋越研究员分别作了题为《分布式非凸优化研究进展》《陆用多智能体系统协同决策与控制》《基于均值漂移的多机器人队形无私探索策略》《动态系统的稀疏+低秩辨识》《电力网络科学:电力系统稳定性分析...

2022年人工智能理论与算法学术研讨会举行

本次会议探讨了人工智能理论与算法研究领域的国内外最新研究方向和研究成果,内容涵盖半参模型、多孔弹性、多物理场耦合模型、非凸优化、人脸识别、深层半监督非负矩阵分解模型、被动雷达和医学图像分割等问题。与会专家学者就报告中涉及的相关问题展开了广泛的研讨和深入的交流。专家们表示今后将继续以固定频率召开类似的研...

东南大学第十二届先进控制理论与应用“至善前沿论坛”在四牌楼...

本次论坛,受邀专家分别就非线性控制理论与方法、分布式优化理论方法与应用等主题进行了精彩报告和深入交流,线下线上共50余人参会。“至善前沿论坛”会场6日下午,东南大学自动化学院副院长、江苏省自动化学会秘书长李世华教授致开幕辞,并对参与论坛的各位专家学者表达了感谢。

顶科协奖得主详解凸优化跨学科挑战,称大学要为学生提供不同可能性

他说,在当时的环境下,凸优化理论的所有算法都针对特定的问题区间,但困难在于,一些复杂性问题并不完全属于同一个问题区间,如果用一个统一算法去解决特定问题,就没有办法解决其他等级的问题,而当时的牛顿法(一种在实数域和复数域上近似求解方程的方法)也是只针对特定的问题区间。

深度解锁凸优化破译AI未来密钥

目前如火如荼的AI领域里,大部分机器学习和深度学习解决的问题,如回归、分类等都是凸优化问题。在数学优化问题中,如果该问题被证明是一个凸优化问题,那么这个问题就存在最优解决点,就可以用机器学习去“解题”。优化理论是过去几十年对数学以外的领域产生最重大影响的学科,已在控制系统、经济学、信号处理、机器学习...