ISC.AI聚焦“安全大模型”,周鸿祎:未来五年国内安全人员缺口达150万
正如周鸿祎所言:“安全行业上AI不跟人抢饭碗,安全行业的饭碗没人端,未来五年国内安全人员缺口高达150万。”
文|王雅迪
ID| BMR2004
7月31日,ISC.AI2024第十二届互联网安全大会开幕,聚焦AI带来的安全新机遇。与以往不同的是,今年ISC大会升级成为ISC.AI,格外强调“安全大模型”。国家互联网信息办公室副主任王京涛,全国工商联党组成员、副主席汪鸿雁,十三届全国政协社会和法制委员会副主任、中国友谊促进会理事长、公安部原副部长、国家网信办原副主任陈智敏,中国工程院院士、ISC名誉主席邬贺铨等嘉宾齐聚本届大会,并发表了相关演讲。
三六零(以下称“360”)集团创始人周鸿祎表示,用AI重塑安全的本质是让安全做到“自动驾驶”,360首推安全大模型,对购买360标准产品的用户免费提供大模型标准能力,实现大模型普惠和安全行业新质生产力变革。
01
“以人为本”发展人工智能
要进一步将网络安全所需的人才、科技、产业、资本贯通起来,形成互相促进、互为支撑的良性生态。
截至目前,中国生成式人工智能已经完成审查备案、上线,并为公众提供服务的大模型达到了180多个,注册用户已经突破了5.46亿。
北京市经济和信息化局党组成员、副局长顾瑾栩分享了一组数据,截至目前,北京市汇聚人工智能相关企业约2200家,占全国四成。2023年人工智能产业核心产值突破2500亿元,北京市数字安全企业收入达到996亿元,整体市场占有率达到全国第一。
据了解,北京作为全国人工智能领域人才密度最高、创新基础最好、关键环节最全、产业规模最大和竞争力最强的地区。目前全市已备案上线大模型82款,占全国比重超四成,数量全国第一。
陈智敏提出,要坚持以人为本的发展理念,这是人工智能发展的根本立场和根本方向。发展人工智能要坚持以人民为中心,尊重人民主体地位和首创精神,以保障社会安全、尊重人类权益,使人工智能发展更多更公平地惠及全体人民,绝不能损害群众的身体健康和生命财产安全,绝不能侵害广大消费者的合法权益,绝不能形成数据、算法和算力的垄断。
第十三届全国人民代表大会社会建设委员会副主任委员、世界互联网大会秘书长、国家网信办原副主任任贤良指出,坚持以人为本的同时,要增进信任。网络空间是人类共同的新家园,未来发展应该由各国人民共同掌握,我们倡导遵守网络空间国际规则,秉持多边主义,在联合国框架下推进网络空间的治理进程,维护网络空间的安全、稳定与繁荣。推进解决网络防护,打击网络犯罪,反对将网络问题政治化,推动反映各国意愿、尊重各方利益的网络安全国际治理规则。
“以人为本”发展人工智能,维护网络空间安全离不开人才的培养,这既是一项基础性工作,也是构建教育、技术、产业融合发展的重要一环。
正如周鸿祎所言:“安全行业上AI不跟人抢饭碗,安全行业的饭碗没人端,未来五年国内安全人员缺口高达150万。”
王京涛指出,要进一步将网络安全所需的人才、科技、产业、资本贯通起来,形成互相促进、互为支撑的良性生态。要把人才培养作为基础性工作,深入实施一流网络安全学院建设示范项目,加快打造自主创新的人才体系。要通过网络安全学院学生的创新资助计划等平台,创新以企业为主体、应用为导向、产学研用深度融合的校企合作模式。
工业和信息化部网络安全管理局局长隋静则表示,2023年中国网络安全产业规模约2200亿元,上市企业达28家,产业综合实力显著增强。要继续强化组织强网,工业数据安全、网络安全赛事行动培育10万名技术人才。坚持创新驱动,加快培育新支柱新赛道,着力推动基础性、通用性、前瞻性技术,推动人工智能赋能网络安全技术创新发展。
02
寻求创新安全模式
随着数据成为关键的生产要素,数字安全企业应构建体系化的安全运营服务框架,为各行业提供安全能力,帮助构建和维护安全防护体系。
人工智能等前沿数字技术正在重新定义内容的生产与消费模式,大模型在企业运营中应用越来越广泛。与此同时,数字安全领域也在不断进步,需要不断探索新的防护策略,来应对日益复杂的数字环境。
邬贺铨院士围绕数字安全的新模式提出几点建议:一是协作开发行业大模型。基础大模型是企业实现数字化转型不可或缺的一环,需要应对多项挑战,包括强大的算力、充足的数据、高水平的研材、新应用的算法和场景闭环的生态。然而,基础大模型缺少特定行业的专业知识,因此需要大模型提供方与垂直行业合作。
二是大模型的创新。大模型的兴起对云计算产生了深刻影响,在平台及服务SaaS领域促进了AIPaaS的发展,支持了专业大模型的快速构建和部署,在MaaS方面提供了模型的定制,推动了云端的应用。对于软件和服务SaaS而言,大模型创新解决了定制化和成本服务质量的问题,提高了使用价值。如果将大模型拆分成模块,利用IaaS+PaaS+SaaS的模型将有利于中小型企业更容易地应用大模型。
三是创新新质数字安全防护措施。随着数据成为关键的生产要素,数字安全企业应构建体系化的安全运营服务框架,为各行业提供安全能力,帮助构建和维护安全防护体系。完善数字安全的生态系统,覆盖从工业企业到用户的各方面,实现情报共享,提供安全的防护能力。
作为国内兼具AI技术和安全能力双重优势的厂商,360基于深厚的全栈大模型底层技术、大规模的安全知识库、高级安全专家团队和多领域全覆盖强实战的安全场景能力,打造了国内首个安全大模型“360安全大模型”,测评显示,其安全垂直能力已超过GPT-4。
03
周鸿祎的方法论和“免费”奇招
安全大模型要与安全业务深度融合,模型不是产品,而是能力,能力要结合“场景”,产品化才能发挥价值。
周鸿祎指出,安全大模型要与安全业务深度融合,模型不是产品,而是能力,能力要结合“场景”,产品化才能发挥价值。“为了训练360安全大模型,我们投入了20年安全数据知识积累、10年AI技术沉淀、80名AI算法专家、100名安全专家、利用5000卡算力资源,花费了200多天进行训练调优。可以说,360安全大模型集360公司多年沉淀和全部功力于一身,就像一位在山中闭关修炼多年的‘高手’。”
对此,他将360安全大模型方法论总结为五点:一是找到“明星场景”。安全大模型的6个明星场景为攻击检测大模型、知识管理大模型、运营处置大模型、数据保护大模型、追踪溯源大模型和代码安全大模型。
二是知识管理。知识密度和知识质量是实现智能化升级的关键,当模型涌现,并不是模型越大越好,对知识的要求非常高,但是很多公司知识散落在企业内部非常碎片化,有很多知识在数据里要进行二次加工,有些知识在员工大脑里,如何把这些知识捕获下来非常重要。
三是专家协同。要实现一个功能需要有一套技术架构,让多个大模型协同工作,传统的MoE架构只能实现简单的任务路由分发,专家模型之间不能协同,难以胜任复杂任务。360用大脑多功能分区的原理,首创了CoE架构,即专家协同,使多个专家模型形成一个整体。
四是构建智能体。大模型和人脑非常类似,但是至今比不上人脑的原因在于人脑有快思考和慢思考两种方式。大模型常见的是快思考,如2+2等于几可以脱口而出,但面临复杂的问题,比如写一篇论文、做分析,需要慢思考,需要调动规划和反思、逻辑推理能力。大模型目前只有快思考,没有慢思考的能力,用Agent(智能体)框架打造慢思考的系统。
五是融合工作流。企业大模型不是顾问,不能靠做一个聊天机器人解决问题。因此,需要通过工作流软件和用户原来的IT系统融合贯通,把大模型看成工作节点,与原来企业组织人员的不同业务用工作流连在一起。目前从国际上看,工作流软件的重要性也越来越重要。
360安全大模型在这套方法论的指导下问世,若以类似自动驾驶的L1-L5级别目标进行阶段划分,目前360安全大模型已具备L4级“自动驾驶”能力,相当于汽车的“高级自动驾驶阶段”。
周鸿祎强调360安全大模型的两个亮点,一是无需联网,过去360安全大脑在封闭网络下不能用,需要跟云端的大数据威胁情报全面打通。此次通过对全网安全数据和知识进行提炼、压缩和蒸馏,360安全大模型实现对全网安全知识的深度理解。未来,在大模型赋能下,本地安全大脑“无需联网”,在封闭网络中也能获得全网数据和知识的赋能。
二是安全免费,360要把大模型拉下神坛,要把免费贯彻到底,不仅为个人用户提供免费服务、为中小企业提供免费服务,而且要对购买360标准产品的用户免费提供大模型标准能力,对已经购买360产品的用户免费升级安全大模型。
周鸿祎表示:“我们不希望大模型成为少数厂商掌握在手里奇货可居的赚钱利器,如果每个企业用得起专业的大模型,我们强烈地支持开源,这对中国所有企业生产力的提升都会有帮助。”