大模型技术金融应用中三大挑战显现，如何破？
2024-07-02 19:05:15 - 北京商报
北京商报讯（记者 刘四红）近年来，以大模型为代表的AI技术进入发展快车道，成为当下最受大众瞩目的热点话题。7月2日，在微众媒体学院系列活动上，微众银行首席人工智能官杨强在分享时表示，大模型的应用落地涉及数据管理、算法优化、系统设计和成本控制等多方面的综合挑战，需要持续的技术创新和策略调整，以推动AI技术更加成熟、高效地服务于社会各个领域。
会上，业内专家同样认为，大模型技术在发展应用中显现三大挑战：一是从算力角度，大模型的训练过程中需要庞大的硬件算力资源支撑，大模型参数规模呈持续扩张趋势，对算力提出了更高要求；二是从算法角度，大模型生成内容可能存在安全风险，同时广泛存在隐形偏见的可能性；三是从数据角度，近年来各项法律法规对私域数据的使用有“数据可用不可见”的要求，在医疗、金融等行业都存在海量自治的高质量数据，但受限于隐私无法共享利用。
对此，杨强进一步指出，“AI Agent（人工智能业务助理）是大模型面向应用端发展的下一阶段，其基于大模型的通用能力，并结合相关领域知识适应不同场景需求。”
据了解，在业务实践中，微众银行自研的生成式AI技术能够有效解决大模型幻觉（大模型在生成内容时产生错误或误导性结果）等技术难点，已深度应用于客服、营销、质检、反欺诈、科技金融等核心业务场景，覆盖金融服务“前－中－后台”各个环节。例如在客户服务环节，微众银行通过客服Agent辅助坐席，让多轮对话更流畅自然；在营销环节，通过生成式大模型快速生成“千人千面”的海量营销素材，并通过联邦学习等技术更精准地找到需要金融服务的个人和小微企业群体；在风控环节，微众银行将人脸识别、声纹识别等AI技术应用在开户、授信、放款等金融服务多个环节，有效甄别欺诈行为，提升银行风控能力。