聚焦2024数博会丨华为网络安全与隐私保护官杨晓宁：筑牢人工智能监管安全防线
“以往关于人工智能的监管可能滞后于人工智能的发展，但是在生成式人工智能开始起飞的时候，各个国家都快速介入，也体现出人工智能作为新质生产力对未来社会发展带来的巨大影响力。”华为网络安全与隐私保护官杨晓宁说，欧盟在过去十年里前后颁布了120部与数字化相关的法律，30多部都是和安全相关的，今年也明确颁布了人工智能的法案，来强调对人工智能的有效管理。
8月29日，在2024中国国际大数据产业博览会“智能经济创新发展”交流活动上，杨晓宁分享了华为在人工智能监管方面的积极探索。
华为网络安全与隐私保护官杨晓宁
从产业界的视角，人工智能作为一个通用的技术，也存在着自身威胁，尤其像提示词注入的问题、模型萃取的问题、数据投毒的问题等，都是人工智能以数据为中心、以强大的算力算法为核心所带来的一些自身威胁。从产业应用的视角，人工智能在产业应用和服务方面也存在着滥用的隐患。同时，人工智能的算法偏见、不透明性也会带来的一些社会性问题。
“人工智能的发展离不开高质量的数据，所以一定要做好前端整个数据治理、数据清理，包括像知识产权、数据质量的问题、数据清洗的问题、数据溯源的问题等系列问题，同时，也有模型安全的护栏、内容合规的护栏、应用的护栏、底层算力底座的安全护栏、运营运维的护栏。整体通过六道护栏，保证人工智能在产业具体实践落地的过程中能够安全地做事。”杨晓宁说。
据杨晓宁介绍，华为基于算力、算法和数据的基础，打造了分层AI大模型的架构。在基础大模型之上开发了完备的工具链。比如通过华为云向合作伙伴提供相应的工具链，在这个基础上进一步把人工大模型应用到行业场景中，在此基础上有30多个行业大模型、5个基础大模型。华为围绕整个盘古大模型，围绕不同的产业做了大量的尝试。今年预计有160多款AI产品可以应用到450个以上的场景中去。
“期望通过我们产业化的实践，能够达到安全可信、可靠的目标，最终实现在人工智能产业落地过程中，实现一个健康、有序、可持续发展的一个环境。”杨晓宁说。
贵州日报天眼新闻记者
江婷婷朱登芳刘杨
编辑鲍贝贝
二审李姗
三审岳振