蚂蚁集团首席技术官何征宇:大模型真正的突破是帮助行业生产力提升|AI领先者心声2024
《科创板日报》1月4日讯(记者黄心怡)ChatGPT的横空出世,带来2023年全球大模型热潮。在2024年新年之际,财联社、《科创板日报》联合上海市人工智能行业协会,邀请人工智能领军者与行业精英推出“2024·AI领先者心声”系列报道,回顾过去的一年,展望新的一年AI大模型发展的机遇与挑战。
蚂蚁集团首席技术官何征宇向《科创板日报》表示:
大模型真正历史性的突破是帮助行业生产力提升,而且有可能让人类社会生产力剧增。我们做大模型技术的最终目标还是会面向产业,也包括金融产业、医疗产业等专业服务场景,帮助他们去做产业升级。
人类之所以能够发展到今天,并非因为一两个人的智慧,如何像人类社会一样集百家之长,取得突破进展?我认为需要协作。大模型之间如何能够更好地协作,不是说简单地从语料层面,或者从API层面去打通,而是大模型之间能够有一个协同演进的机制。
何征宇“2024·AI领先者心声”全文如下:
大模型的出现是一个历史的必然,它源自于人类对于自身的好奇,也建立在人类发展过程中若干次伟大创造的基础之上。
我认为,今天大模型迸发的智能涌现现象就好像是一群原始人看到了火种。我们看到了GPT,大家都觉得成本很高,不经济不环保,ROI不高。若干年后我们回头看,可能觉得今天的GPT,甚至现在所有的大模型的训练方法,不过是“钻木取火”带来的一点小火花而已。但是这个火花很重要。知识的压缩可能是无止境的,而且事实上现在大家在更小的模型规模上也观测到了智能涌现的现象。我们也应该在算法优化、工程实现上持续探索,相信还有更好的产生智能的知识压缩方法等待我们去发现。
大模型真正历史性的突破是帮助行业生产力提升,而且有可能让人类社会生产力剧增。我们做大模型技术的最终目标还是会面向产业,也包括金融产业、医疗产业等专业服务场景,帮助他们去做产业升级。
新生事物的发展都会经历从开始到更有秩序的过程,其中制度的建设非常重要。《生成式人工智能服务管理暂行办法》就是非常重要的制度保障。相信未来,生成式AI在标准、制度等等一些动作上会更加密集,这是对当下规范生成式AI发展的手段,也有助于行业生态的健康繁荣。
目前人工智能不光面临数据安全的挑战,虽然AI表现得好像什么都能干,但是会发现他一本正经地胡说八道。人一本正经胡说八道的时候,自己是知道的。但是AI胡说八道的时候,它自己是不知道的。蚂蚁也一直在研究AI的安全可信。大模型有非常多的风险,它的挑战也是巨大的。包括:
第一、认知一致性对齐。因为AI的价值观可能跟人类的价值观从来就不可能对齐,目前看只靠大模型技术本身是不太可能实现这个目标的,除非有搜索增强或者知识图谱,甚至更多技术的帮助。
第二、决策白盒化。如果真的把大模型用到决策系统中,一定要白盒化。例如,当你在做一笔支付的时候,如果被拒付了,会打电话给客服了解为什么会拒付?如果只能告诉你这是大模型决策的,相信一定会被投诉。所以大模型要真正用在决策场景,一定要有白盒化的能力。
第三、交流协同演进。市面上有各种通用大模型,但事实上各有特点。人类之所以能够发展到今天,并非因为一两个人的智慧,如何像人类社会一样集百家之长,取得突破进展?我认为需要协作。大模型之间如何能够更好地协作,不是说简单地从语料层面,或者从API层面去打通,而是大模型之间能够有一个协同演进的机制。