应对大模型数据安全风险要“以模制模”
2024-08-29 06:31:02 - 贵阳日报官方微博
转自：贵州日报
8月28日下午，2024中国国际大数据产业博览会“数据安全”交流活动在贵阳国际生态会议中心举行。360数字安全集团总裁胡振泉在出席“人工智能时代数据安全风险和应对策略”主题对话时表示，在应对大模型数据安全风险过程中，要让人工智能去解决人工智能安全的问题，实现“以模制模”。
2023年出现的“百模大战”中，解决了大模型“从无到有”的问题。2024年是大模型应用场景之年，随着大模型在各行各业的广泛应用，其在提升效能的同时，也带来了数据安全和隐私保护的担忧。
为了应对大模型带来的一系列数据安全挑战，胡振泉提出，首先，需要对大模型训练数据的全生命周期进行严格的监控和管理，对数据语料进行更严格的智能治理；其次，通过“以模制模”的方法，即利用人工智能技术来解决人工智能带来的数据安全问题，具体而言，要构建专用的、规模较小的专业大模型，对大模型的输入输出内容进行双向安全监测。
胡振泉表示，模型不是产品，模型只是能力，大模型只有结合场景才能真正地发挥作用，使用大模型的关键问题是找到“明星场景”，然后根据场景设计功能，根据功能需求对大模型进行专项训练。以360安全大模型为例，360基于攻击检测、运营处置、追踪溯源、知识管理、数据保护、代码安全这六个场景训练了六个专有的专家子模型，共同构建成360安全大模型，每个子模型只做一件事，最终在安全能力上实现了对GPT-4的全面超越。
对于未来的大模型数据安全趋势，胡振泉建议企业应根据自身业务情况，采取“小切口、大纵深”的策略，精准定位业务场景，逐步提升数字化水平，以小步快跑的方式实现企业的全面AI化。