应对量子威胁,美国发布首套对抗量子计算攻击的算法
CRYSTALS-Kyber:专注于通用加密的标准,NIST将其命名为“基于模块晶格的密钥封装机制标准”(Module-Lattice-BasedKey-EncapsulationMechanismStandard),简称ML-KEM。CRYSTALS-Dilithium:数字签名算法,基于模块晶格的数字签名算法(ML-DSA)Sphincs+:数字签名算法,基于无状态散列的数字签名算法(SLH-DSA)其中ML-DSA...
2024“智衡屋”AI挑战赛开启!|算法|田赛|竞速赛|ai挑战赛_网易订阅
01赛道设置赛道一:攻城略地-对抗攻击赛本赛道旨在遴选高质量、通用性的对抗攻击算法,选手在原图基础上,加入微小扰动,从而导致算法靶标模型失效无法正确检测到目标。赛道二:寻踪觅迹-目标识别分级赛本赛道旨在遴选复杂捷变环境下高鲁棒性的多目标检测识别算法,参赛团队基于信息量丰富的遥感图像作为训练集,开...
黑客已经有数十种攻击大模型的手段,如何用AI对抗AI?
针对AI基础设施的攻击原理和传统的攻击类似,会用到一些算力算法的漏洞。“防护的难度没有出现指数级增加,只是需要我们在防护规则上能够适配这一场景,能够识别出威胁。”陈奋对雷峰网表示,“有些检测算法用传统的模型,有些算法需要安全大模型,所以我们采用混合调度架构更加灵活。”面向AI基础设施安全,亚信安全也推出...
那些钻算法空子的人
这并非对抗科技的进步,算法推荐是一个伟大的发明,它让信息与人可以更高效地匹配,也让流量更加平等,不用再被编辑所把持,小红书和抖音的算法也被许多用户称道,但至少对于我来说,很多时候,算法推荐的内容并没有让我更开心,有时候甚至更累了——它过于精准地掌握人类大脑的运行规律,而上瘾这件事,本身就容易让人疲惫。
低成本算法,大幅提升视觉分类鲁棒性,悉尼大学华人团队发布全新...
第一类是抵御对抗攻击的鲁棒性,包括白盒攻击与黑盒攻击;第二类是抵御一些常见的扰动的鲁棒性,包括ImageNet-A中的自然对抗样本(NaturalAdversarialExamples),ImageNet-R中的分布外数据(Out-of-DistributionData)和ImageNet-C中的常见数据扭曲(CommonCorruptions)。
AI时代数据投毒攻击的防范策略与应对措施
AI驱动的系统使用算法和模型来处理和合成数据、学习数据中的模式和依赖关系,并做出类似于人类推理的决策(www.e993.com)2024年10月26日。伴随着AI带来的巨大机遇,也伴随着一系列风险和潜在的危害,这些都可能损害AI的可信度。一种值得注意的对抗性攻击技术是数据投毒,它涉及操纵AI训练数据集以引入可能使对手受益的偏见。
AI换脸拟声威胁金融防线 机构“深伪”对抗全面升级
奇富科技首席算法科学家费浩峻向记者表示,在辨识度上,深伪技术能够生成非常逼真的人脸图像和视频,使得伪造内容难以被肉眼识别,增加了攻击的隐蔽性;而利用对抗样本技术,针对特定的检测模型生成能够绕过检测的伪造内容。此外,模式上的升级,除了视频和图像,深度伪造技术还可以结合声音、文本等其他模态,实现更全面的欺骗;通常...
数据投喂泄露隐私,算法生成虚假信息,大模型时代怎么防范安全风险?
算法方面,算法模型生成特性及安全漏洞会引发“幻觉”或虚假信息、模型遭受攻击等风险。报告还提到两大更深层次的风险:生成式人工智能重构人机关系可能带来科技伦理失范;强大的任务处理能力,容易导致人的思维依赖;生成式人工智能凸显发展的不均衡引发人类社会发展差距进一步拉大。
金融行业 | 筑牢人工智能发展的安全基础——《人工智能安全治理...
在模型算法安全风险方面,具体涵盖可解释性差的风险、偏见与歧视风险、鲁棒性(Robust,即稳健性)弱风险、被窃取篡改的风险、输出不可靠的风险、对抗攻击的风险。值得注意的有三点:一是可解释性差风险、偏见与歧视风险的存在已被公众广泛认识。前者由算法决策流程的复杂性导致,缺乏严格的逻辑推导使得算法结果难以确切归因...
基于深度强化学习的对抗攻击和防御在动态视频中的应用
FGSM白盒攻击时,扰动量为0.0004时模型被干扰效果仅相当于PGD迭代3次、截断为0.2、扰动量为0.0002的效果。可见PGD攻击是个强大的对抗攻击算法。表6PGD攻击不同扰动量对模型攻击时游戏得分2.3单像素攻击单像素攻击(OnePixelAttack)是一种典型的黑盒攻击方法,只需获取输入...