郭昌盛:人工智能升级以后,对安全防护水平要求越来越高
“2023中国AIGC产业发展论坛”于9月4日在北京召开。北京江民新科技术有限公司董事长郭昌盛出席并演讲。
以下为演讲实录:
各位专家各位同仁大家下午好,今天有幸跟大家分享一下关于大数据人工智能这方面的话题。
比较有幸在今年3月份的时候参加北邮校长的一些探讨和交流,总的一句话,人工智能的成功标志中华文明伟大崛起的成功,因为他在准备今年国家人工智能国家榜的报告。
江民在这些年里一直在跟安全打交道,也是通常担任防护的角色。早期从软件的研发生产其实都用了人工智能的一些技术。
刚刚很多的专家都说到应用场景,我就不具体说。人工智能的应用在我们生活和工作中有很大的变化,特别是在替代业务和工种上有很深的感触。像我们自己在接移动电话或打移动电话的时候经常会遇到人工智能的回复,这是非常电信的场景。未来安全行业也会面临人工智能的替代,包括最近大家在说的开发一个软件,可能把这些诉求放到ChatGPT里面去,可能就会生成我们想要的程序或应用。所以在AIGC里面未来很多的工种确实会被人工智能逐步替代。
在风险和机遇上面,我们看得比较多的,像这个图,其实都是用AI人工智能的一些技术,产生了很多的风险包括一些舆情传播,包括我们安全的挑战,都是人工智能升级以后,对安全防护水平要求越来越高。
从攻防的视角去看AIGC,我们原来写一个木马或者一个攻击代码可能一个团队一个月的时间可以写一个攻击代码出来,但是现在用AI技术,可以生成一个框架,可以在很短时间内生成各行都是病毒,我只想攻击某个国家某个语种,它对攻防的挑战也是越来越高的。第二门槛会越来越低,像刚才说的一张脸一个图可以伪装成我们的攻击武器。包括数据泄露,大数据人工智能里面说的最多的是样本或数据源,样本和数据源也存在很大的泄露风险。从防御者的角度来说,利用人工智能大数据可以提高我们的安全威胁检测和阻断。从自身的角度就是智能化的能力。
在AI上我们最常用的是恶意代码的监测和组织,利用AI可以构建行业模型或者场景模型,大家都在讲通用大模型,其实落实到真正的应用上,更多用在我们说的行业模型上,这个也是通用大模型大家用了以后会感觉到越来越有偏差,大家一直在强调要用行业模型或工业模型。江民在工业模型基础上利用一些算法,在行业模型上特别是场景模型上进行构建。
第二应用效率上有很大的提升。像安全领域,大家比较常见的是要截取或获取互联网的流量,包括自身的私有流量,在这个流量上面也可以通过AI模型生成监测手段。
第四是威胁情报和漏洞分析,在互联网领域我们的资产或网络资产在人工智能上可以做快速检索,可以在18个小时内感知全球的新增运营和服务,也是应用了算法获取一些诈骗数据包括一些诈骗网站。从产品体验上,刚才已经说了可以增加体验,轻巧快捷。
这是我们模型训练的一个过程,传统的文件和AI引擎最大的区别是模型变得越来越小,同时样本会大量聚焦样本,通过一些算法形成自己检测的小模型,提高用户体验。同时AI模型最大的优势在哪儿,就是发现和发掘一些位置威胁的攻击,这个也是行业里大家讲得比较多的APP攻击,这个也是行业大模型最大的优势;在这里面江民有大量的样本数据,大概每天从全球拿过来的样本超过200G样本,大概在2周-1个月之内形成自己的AI检测模型,应用到自己的产品中来。这是我们在流量设计上的一些能力应用。
整个流程来说,大量的模型最后要做到除噪降噪,提高精准性和准确率。这个是多元数据从端汇聚到平台里做检测。这是在安全政策里或者利用人工智能从事中事前事后做多维度的安全事件的阻滞,构建了一个完整的安全闭环的阻滞。最后所有的工作是为了提高事件处置的便捷性,提高事件的处置精准性,最后让我们的企业让我们的政府单位降本增效。
今天我讲的内容大概是这样,谢谢大家。
责任编辑:梁斌SF055