《学习时报》刊发本源量子抗量子攻击实践专家署名文章
鉴于在美国国家标准与技术研究院征集PQC算法过程中,部分先前备受看好的算法遭遇了挫折,信息安全从业者应高度关注抗量子密码算法的安全性评估,以及哪些算法能够经受住时间的考验。特别是在量子计算或量超融合计算模型下,抗量子密码算法的安全性究竟如何,以及它们受量子计算威胁的程度有多深,已成为行业科研与技术人员亟...
应对量子威胁,美国发布首套对抗量子计算攻击的算法
IT之家8月14日消息,美国国家标准与技术研究院(NIST)发布新闻稿,宣布了首套专门用于防范量子计算机攻击的算法。图源:IBM全世界的互联网流量、金融系统以及公共和私人通信基础设施都依赖于算法,这些算法可以防止未经授权的用户读取仅供少数人使用的私人信息。现有算法都是针对传统计算机而设计,无法应对即将到来的...
今日arXiv最热大模型论文:北京大学最新综述:视觉大模型中的漏洞与...
下表详细分类了当前针对LVLMs的对抗攻击方法,展示了在攻击设置、攻击模态(视觉或文本)、攻击类型(有目标或无目标)、受害模型及其目标方面的区别。1.白盒攻击白盒攻击利用对模型架构、参数和梯度的完全访问。通常使用基于梯度的工具,如PGD、APGD和CW,在图像和文本输入中生成和优化噪声,从而研究受攻击LVLMs的鲁棒性...
网安智库|两场局部冲突中黑客群落行为与动因研究
未来,人工智能黑客行为体将能够依靠智能算法自主学习来寻找网络系统代码漏洞并发起精确攻击,将作为一股新势力进入网络空间攻防主战场。1.3从特征看黑客发展黑客群体随着信息化、网络安全技术的进步而不断发展和演化,总体上具备以下特征:(1)主体趋向平民化。互联网用户群体素质水平的整体上升使得实施网络攻击的技术门槛...
低成本算法,大幅提升视觉分类鲁棒性,悉尼大学华人团队发布全新...
新智元导读EdgeNet可以处理从干净的自然图像或嘈杂的对抗性图像中提取的边缘,产生鲁棒的特征,具有轻量级、即插即用等特点,能够无缝集成到现有的预训练深度网络中,训练成本低。在深度神经网络时代,深度神经网络(DNNs)在视觉分类任务中展现出了卓越的准确性。然而,它们对额外噪声,即对抗性攻击,表现出了脆弱性。先前...
美国AI专家最新研究:大模型“后门攻击”
以前,在机器学习模型的输入中添加微小扰动可以使算法失效,加入的扰动就是攻击样本(www.e993.com)2024年10月26日。对抗性研究虽然攻击手段的提升上升到新的层面。随着对抗性研究的进展,对大模型的后门攻击可能变得更为复杂,因为防御措施的提高可能导致攻击者采用更巧妙的方法来规避防御。
【S&S热点文章】同济大学尹慧琳团队:抵御对抗攻击的半监督学习...
提高模型鲁棒性BBAug方法:在协同训练的过程中,本研究应用了无监督的数据增强策略BBAug,以提高模型在白盒和黑盒对抗攻击下的鲁棒性。KITTI数据集上的鲁棒性基准:本研究对不同的检测模型进行了对抗攻击,包括Dpatch、ContextualPatch和图像噪声腐蚀。实证研究评估了所提出方法在KITTI数据集上的相应鲁棒性。
基于深度强化学习的对抗攻击和防御在动态视频中的应用
由于Atari游戏简单的游戏规则和动态的游戏画面,因此本文选择Atari游戏作为实验平台,在Atari游戏中设计实验实现深度强化学习模型中的对抗攻击与对抗防御,在动态视频方面对对抗攻击与防御方法进行综合性探讨研究。1DQN算法深度Q网络(DeepQ-Network,DQN)属于基于值函数的算法,它的基本思想是用一个...
黑客已经盯上了大模型!面对AI带来的安全风险,需要“用AI对抗AI”
还有一波急功近利的黑客,利用AI的算法在视频中做人脸的深度伪造,产生了新一波网络诈骗犯罪的涌现。”亚信安全高级副总裁陈奋在接受《科创板日报》采访时表示。同时,攻击者的攻击目标从传统的资产盯上了AI算力基础设施和大模型。“年初美国一个数千台服务器的算力集群被攻破,黑客拿去挖比特币。AI算力基础设施就是...
从安全大模型到大模型安全,安全行业玩起了以“模”治“模”|钛...
通过偏见矫正策略,对训练过程中不同频率、不同级别的偏见数据和算法,赋予不同权重,减少或消除大模型的偏见。另外,可以通过加密存储、差分隐私、同态加密、安全多方计算、联邦学习、模型水印等,对训练模型的参数和算法进行保护,防止模型逆向攻击。研究界也有学者提出,要让大模型相互博弈,进行对抗攻击测试。具体来讲,就...