360为什么要做大模型？周鸿祎：安全是底线，也是核心竞争力！不要一开始就把系统控制权交给大模型
2023-08-11 11:47:49 - 新浪财经
8月11日，AI大模型资本产业论坛暨第九届新浪财经上市公司年会在北京举行。吴晓求、田轩、周鸿祎、冯俊兰、武超则、余兴喜、胡锡进、赵伟、盛丰衍、于海宁等专家学者、企业掌舵者、金牌分析师、明星基金经理齐聚。深入探究人工智能赋能与发展、活跃资本市场、后市投资机会等热门议题。
360为什么要做大模型？360集团创始人周鸿祎表示，360是全球领先、中国第一的数字安全公司，积累了全球规模最大的安全大数据，拥有世界领先的发现国家级攻击的能力。在人工智能的安全问题上，360已经累计发现了主流AI框架漏洞超过200个，影响全球40亿终端。大模型出现后，我们发现主流厂商基本都存在“提示注入攻击”等新型安全问题，因此，我们一直主张只有躬身入局，自己做大模型，才能更好地研究大模型安全，为产业赋能。
360构建的大模型遵循安全、向善、可信、可控四个原则。其中，“安全”指的是网络安全、数据安全、算法安全，也是360核心要解决的方向；“向善”主要是指内容安全，不要让AIGC成为诈骗者的工具；“可信”是要切实解决大模型“幻觉”所造成的知识模糊和胡编乱造的问题，谁能解决幻觉问题，相当于摘下了“皇冠上的明珠”；最后是“可控”原则，我的观点是不要一开始就把系统控制权交给大模型，要确保人在决策回路，并且不能出现不可撤销的后果。
总之，安全是大模型发展的底线，也是未来大模型的核心竞争力。360作为全球领先的数字安全公司，将一如既往地关注人工智能的安全问题，为产业赋能。
