又有一国网络安全高官警告:AI正被犯罪分子利用
财联社7月21日讯(编辑黄君芝)加拿大高级网络安全官员日前表示,黑客和宣传者正在利用人工智能(AI)制作恶意软件、起草令人信服的网络钓鱼邮件,并在网上传播虚假信息。这一初步证据表明,席卷硅谷的技术革命也被网络犯罪分子所利用。
在最新的一次采访中,加拿大网络安全中心负责人SamiKhoury表示,他的机构已经看到人工智能被用于“网络钓鱼电子邮件,或者以更集中的方式制作电子邮件,恶意代码(以及)错误信息和虚假信息。”
Khoury没有提供细节或证据,但他断言网络犯罪分子已经在使用人工智能,这为人们对这项流行技术的担忧又敲响了一次警钟。
近几个月来,几个网络监督组织发布了报告,对人工智能尤其是被称为大型语言模型(LLMs)的语言处理程序的假设风险提出了警告。大型语言模型利用大量文本来制作听起来令人信服的对话、文件等。
今年3月,欧洲刑警组织(Europol)发布了一份报告,称OpenAI的ChatGPT等模型使得“即使只掌握基本的英语,也能以高度逼真的方式模拟一个组织或个人”成为可能。同月,英国国家网络安全中心(NationalCyberSecurityCentre)警告称,存在一种风险,即犯罪分子“可能会利用LLMs来帮助进行超出他们现有能力的网络攻击”。
网络安全研究人员已经展示了各种潜在的恶意用例,一些人现在表示,他们已经开始看到疑似人工智能生成的内容。上周,一名前黑客表示,他发现了一个受过恶意材料培训的LLMs,并要求它起草一份令人信服的消息,以诱骗某人进行现金转账。
LLMs写道,“我知道这可能是临时通知。但这笔付款非常重要,需要在未来24小时内完成。”
Khoury说,虽然使用人工智能来起草恶意代码仍处于早期阶段,“仍有一段路要走,因为编写一个好的漏洞需要很多”。但人们担心的是,人工智能模型发展得如此之快,以至于在它们被彻底释放之前,很难掌握它们的恶意潜力。
“谁知道接下来会发生什么,”他补充说。