应对量子威胁,美国发布首套对抗量子计算攻击的算法
应对量子威胁,美国发布首套对抗量子计算攻击的算法IT之家8月14日消息,美国国家标准与技术研究院(NIST)发布新闻稿,宣布了首套专门用于防范量子计算机攻击的算法。图源:IBM全世界的互联网流量、金融系统以及公共和私人通信基础设施都依赖于算法,这些算法可以防止未经授权的用户读取仅供少数人使用的私人信息。现有...
攻防对抗视角下的网络安全主动防御体系研究
TTPs)要点的防御方法,按需编制防御算法(如攻防博弈算法、安全免疫算法等),搭建具备云服务与大数据分析等技术特征[7]的防御框架,最终建立基于攻防对抗思维的网络主动防御模型,能以命令下达或系统联动等方式有效驱动各项防御行动。
美国NIST发布有关“对抗性机器学习领域威胁和防御”报告
2024年1月,美国国家标准与技术研究院(NIST)发布了一份关于人工智能(AI)安全性的报告《对抗性机器学习-攻击和缓解的分类和术语》,重点关注如何防范对抗性机器学习(AdversarialMachineLearning,AML)中的攻击。报告重点关注两大类人工智能系统(预测式和生成式)在训练阶段和部署阶段面临的主要攻击类型,并构建了一个AML...
...竟然改改物品纹理就成功了!北航新研究:时空融合对抗攻击算法
如下图所示,时空融合对抗攻击算法可以在未知参数的“黑盒”不可导渲染器下取得很好的攻击效果。可视化效果通过下图可以看出,时空融合的对抗攻击算法所生成的对抗噪音具有非常好的视觉效果,可以达到人眼不可分辨(黄色方框表示对抗攻击的物体)。对抗攻击的作用除了攻击智能机器人使其执行错误的操作和行为,本文提出的时...
谷歌等提出超越Adam的二阶梯度优化;Hinton参与偏转对抗攻击新研究
本周的重要论文有谷歌大脑与普林斯顿大学等机构提出的超越Adam的二阶梯度优化以及DeepMind研究者提出的直接建模网格的新模型PolyGen。目录:CausalML:PythonPackageforCausalMachineLearningReplacingMobileCameraISPwithaSingleDeepLearningModel...
杨强:应对对抗攻击、结合AutoML,是联邦学习接下来的研究重点 |...
五、联邦学习接下来的重点研究方向接下来,我们会做什么事?第一方向,是如何应对对抗攻击(www.e993.com)2024年10月26日。假设在联合建模的过程中有坏人参与,或者说这个人并不那么坏,但是他很好奇,时不时要探测合作方数据隐私,这种情况怎么防止?我们要看机器学习的过程中有哪些可攻击点。
模型攻击:鲁棒性联邦学习研究的最新进展
随着联邦学习的推广应用,越来越多的研究人员聚焦于解决联邦学习框架中的模型攻击问题。我们从近两年公开的研究成果中选取了四篇文章进行详细分析,重点关注模型攻击类的鲁棒联邦学习(RobustFederatedLearning)。现代机器学习算法在实际应用场景中可能会受到各种对抗性攻击,包括数据和模型更新过程中中毒(DataandModel...
《美国情报机构网络攻击的历史回顾》报告发布
2015年3月和4月,安天先后发布两篇报告,分析“方程式组织”主要攻击平台的组成结构、关联关系、回传信息、指令分支、C2地址、插件功能,并解析了关键插件“硬盘重编程”模块的攻击技术原理,以及多个组件的本地配置和网络通讯加密算法和密钥;2022年2月,中国网络安全厂商奇安信发布报告称,通过“影子经纪人”与斯诺登泄露的...
火山语音提出“无中生有式”对抗语音攻击创新方案
火山语音团队在AudioMnist、CommonVoice以及LibriSpeech三个数据集上分别对算法进行了验证。实验结果(如下表所示)显示:相比之前的语音对抗攻击算法,新范式在攻击成功率(Successrate)上表现出显著优势,已经达到过去方法的两倍左右。同时团队还分析了此种办法带来优势的原因,图b为传统方法在一段干净语音(图a)上加载噪...
CVPR2021 | 任何网络都能山寨!新型黑盒对抗攻击模拟未知网络进行...
新型黑盒对抗攻击模拟未知网络进行攻击机器之心专栏作者:马晨目前,研究者们提出了越来越多的黑盒攻击算法,其中基于「模拟」的攻击成为了一种新的攻击形式。来自清华的研究者解决了模型窃取攻击中长久以来存在的一个问题:训练代理模型的时候需要查询目标模型。训练了一个「万能的模拟器」,可以模拟任何未知模型的...