在哈工大，他想实现AI安全“大梦想”
在年级260多名学生里，他平均学分绩排名第一，斩获国家奖学金，2次获学业一等奖学金，在计算机视觉领域三大顶会之一2024年欧洲计算机视觉国际会议（ECCV2024）作为共同第一作者发表论文，获评哈工大“十佳学习卓越之星”……对于深圳校区计算机科学与技术学院2021级本科生余泓垚来说，目前取得的成绩都是他矢志攀登科学高峰征途中，实现的一个个“小目标”。在他的心里，还深藏着一个“大梦想”，那就是为AI技术加上更加牢固的“安全锁”。
“一场演示”赋予他兴趣
在余泓垚的学习生涯中，曾两次与计算机结缘。初二那年，余泓垚研究了网页代码的相关知识，正是这“一行代码”让他对计算机产生了浓厚的兴趣，他主动上网搜索了解到哈工大计算机学科发展的诸多成就，研制出我国第一台结构式模拟计算机和第一台能说话、会下棋的计算机……余泓垚被哈工大深深“种草”。高考那年，他以671分的成绩如愿被哈工大深圳校区计算机科学与技术专业录取。
大一时，当不少同学还在学习C语言和数据结构等知识时，余泓垚已经开始接触AI、探索函数式编程等“进阶级”知识。“在课堂上保持100%的专注，尽量把大部分知识消化掉，这样课后就能有更多时间去探索自身兴趣所在。”余泓垚的“超车秘诀”就在于明确学习目标，提升学习效率。
在哈工大，余泓垚有很多走进企业和科研机构参观实践的机会。就在走进鹏城实验室的一次实践活动中，余泓垚看到了令他印象深刻的“一场演示”——发电厂、无人驾驶汽车遭受网络攻击带来了严重的“模拟后果”，让他大受震撼。“我们如何应对AI时代的安全挑战？”这个问题带给他浓厚的兴趣，也让“AI安全”在他的心中生根发芽。
“一个团队”赋予他希望
在电影《头号玩家》中，人们一遍遍尝试克服“绿洲”里的难关，逃出AI构建的“虚拟世界”，这让余泓垚“灵光一现”。有了好的想法，他也开始积极寻找自己的“伯乐”，余泓垚了解到深圳校区陈斌副教授的研究方向正是AI安全，他鼓起勇气向陈老师“毛遂自荐”，没想到陈老师欣然接受了自己。
“哈工大的老师们总是非常鼓励并且大力支持本科生参与项目实践，这让我很受鼓舞。”于是余泓垚正式加入陈斌老师团队，开始了AI技术安全方面的研究，与团队的小伙伴们展开了基于中间层搜索的模型反演攻击研究，通过访问推理阶段的人脸分类模型，重建训练该模型的隐私人脸图片，相关研究成果以论文形式发表在计算机视觉领域三大顶会之一的ECCV2024。这篇论文的最后一句话写到——我们希望本文能引起人们对发布预训练模型隐私泄露风险的关注，促进对模型反演攻击威胁的防范。“炙手可热的人脸识别技术其实存在着隐私泄露的风险，我们希望通过自己的努力为这项技术‘加密’。”余泓垚希望能够在日常生活中保障人们个人隐私安全。
此后，他又和小伙伴们搭建了一个开源平台，将原本各有“路数”的15种攻击算法与5种防御算法集成到一起，为模型反演攻击与防御的研究提供系统化标准化平台。“这对推动AI安全领域的系统化发展很有助推作用。”余泓垚自豪地说。
“一个梦想”赋予他动力
让AI技术更安全，有了这个“大梦想”，余泓垚的大学生活充满动力。在“龙芯杯”全国大学生系统能力竞赛中，他和小伙伴们“debug”到深夜，却还是无法通过测试。“在追寻梦想的道路上还会有很多困难，这点不算什么。”余泓垚总是这样激励着自己，最终获得了该项比赛的全国三等奖。
在“高教社杯”全国大学生数学建模竞赛、美国大学生数学建模竞赛等比赛中，余泓垚也有所斩获。“一纸证书不是目的，学以致用、探索前行才是方向。”余泓垚坚定地说，“在哈工大，我深深地感受到了探索未知和挑战自我的魅力，这里是一个赋予我成长勇气的地方。”
谢梁晖袁斯茹阚思邈哈尔滨日报记者纪天伟
原标题：在哈工大，他想实现AI安全“大梦想”