尤瓦尔·赫拉利|人类如果要对抗人工智能,最弱的一环大概就是独裁者
巴西如果打算购买一套遗传算法,提供给国内的医疗保健体系使用,比起向新西兰购买,它会有强烈的动机选择准确度高得多的中国算法。如果这套中国算法又能用巴西超过2亿人的数据继续精益求精,品质就会越来越好,得到更多国家的青睐。很快地,全球大部分的疾病信息都会流向中国,进而让这套遗传算法完全没有对手。想把所...
应对量子威胁,美国发布首套对抗量子计算攻击的算法
全世界的互联网流量、金融系统以及公共和私人通信基础设施都依赖于算法,这些算法可以防止未经授权的用户读取仅供少数人使用的私人信息。现有算法都是针对传统计算机而设计,无法应对即将到来的量子时代,不少安全研究专家担忧量子计算机可以使用格罗弗算法(Grover's)和秀尔算法(Shor's)等量子算法,突破现有的安全防护。为此...
黑客已经有数十种攻击大模型的手段,如何用AI对抗AI?
针对AI基础设施的攻击原理和传统的攻击类似,会用到一些算力算法的漏洞。“防护的难度没有出现指数级增加,只是需要我们在防护规则上能够适配这一场景,能够识别出威胁。”陈奋对雷峰网表示,“有些检测算法用传统的模型,有些算法需要安全大模型,所以我们采用混合调度架构更加灵活。”面向AI基础设施安全,亚信安全也推出...
黑客已经有40多种攻击大模型的手段,如何用AI对抗AI?
针对AI基础设施的攻击原理和传统的攻击类似,会用到一些算力算法的漏洞。“防护的难度没有出现指数级增加,只是需要我们在防护规则上能够适配这一场景,能够识别出威胁。”陈奋对雷峰网表示,“有些检测算法用传统的模型,有些算法需要安全大模型,所以我们采用混合调度架构更加灵活。”面向AI基础设施安全,亚信安全也推出了...
黑客已经盯上了大模型!面对AI带来的安全风险,需要“用AI对抗AI...
亚信安全的高级副总裁陈奋指出,以往黑客制造攻击病毒需耗时数月,如今借助大型模型工具,这一过程缩短至几分钟,显著提升了攻击效率。这些模型对编程语言的高度理解能力,使它们能快速识别并利用软件漏洞。此外,一些黑客利用AI算法进行深度伪造视频,促进了新型网络诈骗的兴起。
OpenAI安全系统负责人长文梳理:大模型的对抗攻击与防御
对抗攻击的类型有多种不同方法可以帮助攻击者找到能诱使LLM输出不安全内容的对抗输入(www.e993.com)2024年10月26日。这里给出五种方法。token操作给定一段包含一个token序列的文本输入,我们可以使用简单的token操作(比如替换成同义词)来诱使模型给出错误预测。基于token操作的攻击属于黑盒攻击。在Python框架中,Morrisetal....
低成本算法,大幅提升视觉分类鲁棒性,悉尼大学华人团队发布全新...
第一类是抵御对抗攻击的鲁棒性,包括白盒攻击与黑盒攻击;第二类是抵御一些常见的扰动的鲁棒性,包括ImageNet-A中的自然对抗样本(NaturalAdversarialExamples),ImageNet-R中的分布外数据(Out-of-DistributionData)和ImageNet-C中的常见数据扭曲(CommonCorruptions)。
对话齐向东:AI带来的安全问题,只能用AI来解决
进行改造和升级,比如,利用AI大模型制作恶意软件、生成用于规避杀毒软件检测的代码等等,网络攻击能力将出现跃升;在针对AI算法攻击方面,机器视觉攻击、数据源污染等攻击频发,攻击者通过对抗样本、数据投毒、模型窃取等多种方式对AI算法进行攻击,使其产生错误的判断,同时由于算法黑箱和算法漏洞的存在,这些攻击往往难以...
人类用光“欺骗”AI,结果竟然……
图4:利用投影仪(左)和物体自然影子(右)的光学对抗样本攻击如今智能手机的照相功能越来越先进,拍摄出照片和视频越来越清晰,哪怕一款低配置的手机拍照质量也基本可以让人满意,但数码照相设备和人眼各自所忠实记录的真实世界,其实是有差别的。不仅AI软件系统本身是有漏洞的,作为AI视觉输入的相机和摄像头同样有漏...
CrowdStrike绝非弱鸡,它在美国反华背景下成长壮大!这次出事对我们...
通常来看,软件应用都可以去各个机构申请软件证书,以形成可信认证链,验证软件模块与发布侧的一致性,对抗攻击者对产品的篡改。但如果出现大量的攻击者申请证书或入侵软件开发者系统,窃取签名证书,签发恶意代码的情况,这些恶意程序可以作为有签名的驱动和内核模块来加载。针对此,微软形成了一套自身的证书签发管理机制。强制...