一篇10个月前的论文,揭秘字节视频生成模型PixelDance的变化
扩散模型显著推动了文本到图像生成的进展,它们展示出比GANs更强的鲁棒性,并且与基于Transformer的方法相比,所需参数更少。潜在扩散模型(LatentDiffusionModels)被提出用于在压缩的低维潜在空间中训练扩散模型,以减少计算负担。对于视频生成,先前的研究通常在预训练的文本到图像扩散模型的2DUNet上添加时间卷...
开源:现代Hopfield模型的大容量一致记忆
??对于噪声鲁棒性,U-Hop在图3中也显示出对所有基线的强大性能。4.2.监督学习任务图像分类。对于分类任务,我们将我们的方法与Hopfield(Ramsauer等,2020)和SparseHopfield(Hu等,2023)进行了比较。我们测试了两种设置:??U-Hop+密集现代Hopfield模型(Ramsauer等,2020),以及??U-H...
助力解决图基础模型可信任危机,科学家设计新型大模型微调方法,可...
针对泛化性,他将因果推理引入泛化机制,捕捉开放环境里多变分布中稳定不变的因果性,提升图基础模型的泛化鲁棒性。针对可解释性,他探索知识驱动的“事前-事中-事后”全周期解释框架,突破纯数据驱动下的黑盒瓶颈。针对价值对齐,他在考虑图数据-语言大模型存在的模态差异和人机价值差异的基础上,设计了面向模态对齐和...
AI模型训练“新方案”:让AI像人脑一样“小而强”
研究团队还进行了鲁棒性测试,以补充验证HH和s-LIF2HH网络的可比性。结果表明,HH和s-LIF2HH网络具有相似的噪声鲁棒性,而鲁棒性源自HH神经元的动态复杂性和s-LIF2HH的复杂拓扑,而不仅仅是神经元数量。这表明,模型内部复杂性与外部复杂性之间具有等效性,并且它们在深度学习任务中比具有简单动力学增...
顶级AI投资人发起中国大模型群聊:十大趋势、具身智能、AI超级应用
在操作模型中,力反馈机制十分重要,不仅是在图像维度之外增加了一个交互维度,同时也可以减少对世界模型毫秒级别决策的依赖。穹彻智能展示的削黄瓜、叠衣服等技能都说明了操作模型具有鲁棒性后可以大大拓展潜在的应用空间。银河通用前段时间发布了首代具有泛化性的具身大模型机器人。北京大学助理教授、北大-银河通用联合实...
...大语言模型的伪造语音检测专利,以使检测方法同时具有强鲁棒性...
上述方法不仅将声学信息和音素信息进行融合,同时结合大语言模型强大的泛化性与模式识别能力,以使检测方法同时具有强鲁棒性和对于伪造语音类型的强泛化性(www.e993.com)2024年10月18日。
腾讯公司取得对话理解模型专利,有利于提高鲁棒性分析结果的准确性
金融界2024年2月1日消息,据国家知识产权局公告,腾讯科技(深圳)有限公司取得一项名为“对话理解模型的鲁棒性分析方法、装置和计算机设备“,授权公告号CN116579350B,申请日期为2023年7月。专利摘要显示,本申请涉及一种对话理解模型的鲁棒性分析方法、装置、计算机设备、存储介质和计算机程序产品。该方法包括:以包括多个...
...智能体的控制方法专利,使得到的游戏策略模型具有更好的鲁棒性...
在训练游戏策略模型时,除使智能体适应游戏环境之外,还参考玩家历史游戏数据,在玩家参考策略的指导下,使控制智能体的游戏策略模型可以学习多种控制策略,使得到的游戏策略模型具有更好的鲁棒性和适应能力,可以在游戏中输出更符合游戏环境需要且效果更好的控制策略控制智能体。
UIUC 李博:如何探索大模型背后的安全隐忧?|ICML2024直击
李博:对抗性训练的方法很多,尤其在大模型上做人工智能价值对齐(AIAlignment),包括一站式开发平台(LAF)、可信赖的模型微调指令、学习私密或有害信息等,这些在大模型鲁棒性方面都能提高性能。反而相对于对抗性训练的帮助很小,我个人认为在图像方面,对抗训练的方向非常明确。但是在大模型上,对抗性训练受很多方面的影...
XCon2024议题||大模型安全攻防探索与实践
1.对抗攻击防御:包括增强模型的鲁棒性、检测和缓解对抗攻击的方法。2.隐私保护技术:隐私保护技术(如差分隐私、联邦学习等)将得到更多关注和应用。这些技术将帮助在不泄露个人数据的情况下训练和使用大模型。3.模型解释性和透明性:提高模型的解释性和透明性将是一个重要的发展方向。