新一代人工智能的安全风险与治理研究
首先介绍了新一代人工智能面临的法律风险、数据安全风险、算法模型攻击风险、意识形态风险4个方面的安全风险,其次调研并比较了我国、美国及欧盟关于新一代人工智能的治理现状,最后从建立健全政策法规体系、加强道德伦理规范建设、构建风险评估与应急处置机制、加强国际合作4个方面为我国新一代人工智能的治理提出对策建议。
应对量子威胁,美国发布首套对抗量子计算攻击的算法
应对量子威胁,美国发布首套对抗量子计算攻击的算法IT之家8月14日消息,美国国家标准与技术研究院(NIST)发布新闻稿,宣布了首套专门用于防范量子计算机攻击的算法。图源:IBM全世界的互联网流量、金融系统以及公共和私人通信基础设施都依赖于算法,这些算法可以防止未经授权的用户读取仅供少数人使用的私人信息。现...
美国AI专家最新研究:大模型“后门攻击”
以前,在机器学习模型的输入中添加微小扰动可以使算法失效,加入的扰动就是攻击样本。对抗性研究虽然攻击手段的提升上升到新的层面。随着对抗性研究的进展,对大模型的后门攻击可能变得更为复杂,因为防御措施的提高可能导致攻击者采用更巧妙的方法来规避防御。
今日arXiv最热大模型论文:北京大学最新综述:视觉大模型中的漏洞与...
黑盒攻击极具挑战性,因为攻击者完全无法访问模型的架构或参数,但这更贴近现实攻击场景。针对这一难题,Zhang等人[1]提出了一项基准测试,评估LVLMs对抗视觉指令攻击的鲁棒性,采用了与LVLM模型和输出概率分布均无关的决策导向优化攻击方法,成功地对14个开源及2个闭源的LVLMs进行了评估。越狱攻击越狱攻击通过输入操作...
基于深度强化学习的对抗攻击和防御在动态视频中的应用
如采用多模态融合、多任务学习等,以提高模型的鲁棒性和准确性。总的来说,深度强化学习在动态视频中的应用已经成为一个重要的研究方向。通过研究对抗攻击和防御技术,我们可以提高模型的鲁棒性和准确性,从而更好地应对恶意攻击和扰动数据对模型的影响。同时,我们也需要不断探索新的技术和方法,
黄波团队在破解T细胞和T细胞白血病免受穿孔素攻击机制上取得进展
这项研究不仅提供了对T细胞如何在免疫突触处避免自我裂解的新见解,也为开发针对T细胞白血病的治疗策略提供了新的方向(www.e993.com)2024年10月26日。通过靶向YAP或FLNA,可能能够同时攻击白血病细胞并增强CTLs的杀伤效能,为癌症治疗带来双重利好。中国医学科学院基础医学研究所黄波教授和北京大学人民医院的张晓辉教授为论文共同通讯作者,博士后周雅博和博...
Sora:大型视觉模型的背景、技术、局限性和机遇综述 【官方论文】
在这种背景下,Sora代表了一个重大突破,类似于ChatGPT在NLP领域的影响。Sora是第一个能够根据人类指令生成长达一分钟的视频的模型,标志着对生成式AI研究和开发产生深远影响的里程碑。为了便于轻松访问最新的视觉生成模型进展,最新的作品已被汇编并提供在附录和我们的GitHub中。
...竟然改改物品纹理就成功了!北航新研究:时空融合对抗攻击算法
北航新研究:时空融合对抗攻击算法简单修改环境物体的纹理颜色,就能让机器人(12.840,0.68,5.59%)执行攻击者设计的错误行为!来自北航、悉尼大学、伯克利和伦敦大学的一项最新研究成果显示:通过对抗攻击修改3D物体的外表纹理属性,就可以使得智能机器人在动态场景中,执行任何攻击者预先设计好的错误行为或错误地回答问题。
美国NIST 对抗量子加密算法曝漏洞,可侧信道攻击提取密钥
近日,安全研究人员透露了所谓的CRYSTALS-Kyber特定实现中的安全漏洞,CRYSTALS-Kyber是美国政府去年选择的对抗量子加密算法之一。根据中国网络安全行业门户极牛网(GeekNB)的梳理,该漏洞利用涉及对ARMCortex-M4CPU中CRYSTALS-Kyber的五阶掩码实现的侧信道攻击。
谷歌等提出超越Adam的二阶梯度优化;Hinton参与偏转对抗攻击新研究
本周的重要论文有谷歌大脑与普林斯顿大学等机构提出的超越Adam的二阶梯度优化以及DeepMind研究者提出的直接建模网格的新模型PolyGen。目录:CausalML:PythonPackageforCausalMachineLearningReplacingMobileCameraISPwithaSingleDeepLearningModel...