应对量子威胁,美国发布首套对抗量子计算攻击的算法
应对量子威胁,美国发布首套对抗量子计算攻击的算法美国国家标准与技术研究院(NIST)发布新闻稿,宣布了首套专门用于防范量子计算机攻击的算法。全世界的互联网流量、金融系统以及公共和私人通信基础设施都依赖于算法,这些算法可以防止未经授权的用户读取仅供少数人使用的私人信息。现有算法都是针对传统计算机而设计,无法应对...
今日arXiv最热大模型论文:北京大学最新综述:视觉大模型中的漏洞与...
黑盒攻击极具挑战性,因为攻击者完全无法访问模型的架构或参数,但这更贴近现实攻击场景。针对这一难题,Zhang等人[1]提出了一项基准测试,评估LVLMs对抗视觉指令攻击的鲁棒性,采用了与LVLM模型和输出概率分布均无关的决策导向优化攻击方法,成功地对14个开源及2个闭源的LVLMs进行了评估。越狱攻击越狱攻击通过输入操作...
【综述专栏】大型视觉语言模型攻击综述:资源、进展与未来趋势!
具体来说,我们首先介绍了针对LVLMs攻击的背景,包括攻击的初步知识、攻击的挑战和攻击资源。然后,我们系统地回顾了LVLM攻击方法的发展,如操纵模型输出的对抗攻击,利用模型漏洞进行未授权操作的越狱攻击,设计提示类型和模式的提示注入攻击,以及影响模型训练的数据投毒攻击。最后,我们讨论了未来有前景的研究方向。我们相...
攻防对抗视角下的网络安全主动防御体系研究
防御者通过引入攻防对抗理念,制定包含战术、技术与过程(Tactics,TechniquesandProcedures,TTPs)要点的防御方法,按需编制防御算法(如攻防博弈算法、安全免疫算法等),搭建具备云服务与大数据分析等技术特征[7]的防御框架,最终建立基于攻防对抗思维的网络主动防御模型,能以命令下达或系统联动等方式有效驱动各项防御行动...
基于深度强化学习的对抗攻击和防御在动态视频中的应用
目前深度强化学习中的对抗攻击和防御的研究大多集中在静态图像的分类任务方面,而在动态视频方面的应用研究还存在许多空白。对此,首先在Atari游戏,即动态视频中实现深度Q网络(DeepQNetwork,DQN)智能体模型;其次使用快速梯度符号方法(FastGradientSignMethod,FGSM)白盒攻击与黑盒攻击、投影梯度下降(...
美国AI专家最新研究:大模型“后门攻击”
以前,在机器学习模型的输入中添加微小扰动可以使算法失效,加入的扰动就是攻击样本(www.e993.com)2024年10月26日。对抗性研究虽然攻击手段的提升上升到新的层面。随着对抗性研究的进展,对大模型的后门攻击可能变得更为复杂,因为防御措施的提高可能导致攻击者采用更巧妙的方法来规避防御。
亚信安全2023年年度董事会经营评述
亚信安全2023年年度董事会经营评述内容如下:一、经营情况讨论与分析(一)总体业绩情况报告期内,受外部环境不确定性、行业下游客户需求趋缓等因素的影响,公司实现营业收入160,808.84万元,较上年同期下降6.56%。综合毛利率
Sora:大型视觉模型的背景、技术、局限性和机遇综述 【官方论文】
在这种背景下,Sora代表了一个重大突破,类似于ChatGPT在NLP领域的影响。Sora是第一个能够根据人类指令生成长达一分钟的视频的模型,标志着对生成式AI研究和开发产生深远影响的里程碑。为了便于轻松访问最新的视觉生成模型进展,最新的作品已被汇编并提供在附录和我们的GitHub中。
...竟然改改物品纹理就成功了!北航新研究:时空融合对抗攻击算法
北航新研究:时空融合对抗攻击算法简单修改环境物体的纹理颜色,就能让机器人(12.840,0.68,5.59%)执行攻击者设计的错误行为!来自北航、悉尼大学、伯克利和伦敦大学的一项最新研究成果显示:通过对抗攻击修改3D物体的外表纹理属性,就可以使得智能机器人在动态场景中,执行任何攻击者预先设计好的错误行为或错误地回答问题。
模型攻击:鲁棒性联邦学习研究的最新进展
随着联邦学习的推广应用,越来越多的研究人员聚焦于解决联邦学习框架中的模型攻击问题。我们从近两年公开的研究成果中选取了四篇文章进行详细分析,重点关注模型攻击类的鲁棒联邦学习(RobustFederatedLearning)。现代机器学习算法在实际应用场景中可能会受到各种对抗性攻击,包括数据和模型更新过程中中毒(DataandModel...