追问2023:AI时代,如何保护好消费者权益?
转自:中国消费者报
中国消费者报报道(记者司宇萌)以0.1秒的速度识别交易风险,同时启动语音电话、图文互动等多种方式对用户进行自动化劝阻和风险提示……《中国消费者报》记者盘点发现,类似这样让AI智能机器人与消费套路或风险“死磕”的方式,已经成为很多供给主体从不同维度履行消费者权益保护责任的“标配”。
2023年,大模型智能涌现,给企业的消保工作带来了新的挑战。同时,从单点实践向多元应用、从公众通用场景向特定行业领域不断深入的人工智能,能否成为产品与流程变革的新工具、新手段,担当起数字时代维护数据安全、有效保护隐私、遏制消费诈骗等消费者权益保护的重任,对此,舆论的观察与检视始终未曾停止。
观察:解决消保痛点堵点智能化消保成行业趋势
当前,不少不法分子利用数字化与新技术,强化侵害消费者的能力,互联网诈骗、个人数据安全、虚假营销等问题,成为消费者权益保护的痛点和堵点问题。
如何守住消费者合法权益的“基本盘”?调查发现,依托AI等科技手段,通过智能风控系统判定和干预用户交易过程中存在的风险,已成为业内经营主体普遍采取的手段。
1月22日,蚂蚁集团官网发布的《2023年消费者权益保护年报》显示,发挥安全科技能力,秒级识别交易风险,覆盖反骗反赌、资金安全、数据安全、内容安全等10大场景。2023年,蚂蚁集团协助公安机关保护了23亿资金、43万人次,助力返还700余万元。
据蚂蚁集团大安全技术团队介绍,与通常只能被动回应客户问题的客服机器人相比,被赋予更多消费者权益保护角色的机器人普遍更善于主动搜索和出击。比如,在“杀猪盘”诈骗案中,嫌疑人通常会伪装成“甜蜜恋人”,但通过“智能化消保官”的学习和识别,这种把戏很快就能被拆穿。一次转账如果被精准确认不是女生给男友的大红包,而是杀猪盘的诈骗案交易,“智能化消保官”就会迅速启动包括AI反诈叫醒服务在内的各种干预手段,通过主动致电、智能问卷等方式预警劝阻潜在被骗用户,直至风险被有效化解。
近年来,默认自动关注公众号和小程序、默认自动续费、页面规则不清晰、营销虚假宣传等问题给消费者带来了许多困扰。针对这些问题,蚂蚁集团自主研发智能巡检系统“消保盾”,依照内控规则,对产品页面进行全天候不间断问题巡检、预警、评估,及时发现问题并跟进处理,实现业务场景的事前、事中、事后全流程消保风险管控,更大程度上预防和及时发现可能侵害消费者权益的相关风险。2023年,“消保盾”覆盖了更多的业务场景,更高效全面地保护了消费者权益。
解码:应对消保形势变化企业用技术对抗技术
数字经济飞速发展,AI新技术、新场景、新商业模式层出不穷,在为消费者提供便利的同时,也给消费者权益保护工作带来了一定挑战。那么,企业该如何应对这一挑战?调查发现,许多企业通过技术创新来应对和解决新技术带来的挑战。
当前大模型智能涌现,同时也带来了许多问题,发展安全可信的人工智能成为行业共识。中国科学院院士何积丰认为,可信的人工智能要致力于保障数据安全可信、系统行为可追责、算法模型可解释、网络环境可信、法律伦理可信等方面。
为建设负责任的AI,2023年蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”,实现了用生成式能力检测生成式模型。检测标准覆盖内容安全、数据安全、伦理安全等3大类数百种风险,可对大模型生成式内容完成包含个人隐私、意识形态、违法犯罪、偏见与歧视等数百个维度的风险对抗检测,并生成检测报告,帮助大模型更加有针对性地持续优化。
新技术的发展也给消费者隐私保护带来了很大挑战。有别于其他风险,隐私风险的治理对象是数据,其呈现出使用高频率、可复制、易扩散、处理链条长、应用场景广泛等特点,仅靠专家经验做事前风险评审、事后风险处置的传统模式无法全面、准确、有效地发现和处理问题。数据的固有特征,决定了必须要用技术的方式解决风险问题,才能对风险看清、看全、看住,才能向用户提供便捷和易获取的隐私保护服务。
为解决上述问题,《蚂蚁集团2023年消费者权益保护年报》显示,其建立了技术驱动的i-ABC隐私工程体系,从事前、事后、尽责3个方面提供支撑。事前管控“看住、可调节”,确保上线的产品都经过了隐私影响评估后才对用户开放;事后监测“看清、可监测”,具备隐私数据全生命周期风险洞察能力,做到隐私风险心中有数;尽责证明“看全、可自证”,个人信息数据在企业业务流程中的流动记录完整可还原,透明可控。
小程序智能巡检是i-ABC隐私工程体系中的一环。据悉,目前支付宝上商家和机构小程序数量近400万个。面对数量庞大的小程序,支付宝上线运行小程序智能巡检,通过机器智能巡检小程序信息授权情况,并对发现的问题进行评估和治理。依照已经配置好的规则,智能巡检可以实现自动治理,包括减少曝光、隐藏下架的处罚等方面,不需要人工操作。
当前,智能化方式管控隐私风险已成为行业趋势。为了做好产品在投入使用前的个人信息保护合规“质检”,腾讯自主研发了包括灵犀隐私平台在内的大量技术检测工具和检测平台,为产品做好合规检测。
数字平台的快速发展,已经让业态变得越来越多元化和复杂化,而企业通过技术创新研发的智能工具的助力与更频繁的人机互动,显然有助于消费者权益保护的质效提升,这已经是被行业内外普遍认可的趋势。
浙江大学经济学院副教授、博士生导师章华则建议,未来,企业应该围绕ESG目标,持续提升应对消保形势变化的科技能力,不断增强企业的社会责任感和消费者的获得感,推动消保工作与时俱进。
展望:消保需要协力共建企业开放技术能力
在业内人士看来,消保形势不断变化,消费者权益保护是一个长期的、系统的工程,还需要与行业内的其他企业和机构开放合作、协同共建。
近年来,不少企业和机构通过联合其他机构开展形式多样的消保活动,共同保护好消费者权益。
全社会消保水平的提高离不开行业整体技术的进步。以助力“全链条反诈、全行业阻诈、全社会防诈”为目标,蚂蚁集团探索建立科技反诈开放技术平台,面向全行业提供“蚂蚁智能反诈系统”的核心技术能力及产品,首批已开放18件反诈关键专利和专利申请、5套反诈技术产品和解决方案。首批开放的专利和技术,包含了“叫醒热线”“延时到账”“电诈风险识别”“受害人预警和保护”等科技反诈核心能力,生态伙伴可以“开箱即用”,实现低成本、规模化反诈应用。
此外,“蚁鉴2.0”面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性3项检测工具,可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。
蚂蚁集团在《2023年消费者权益保护年报》中表示,2023年其面向行业开放技术能力,希望推动相关技术取得更大发展。未来,会持续加大科研投入,攻坚前沿和底层数字科技,共促科技的共享与发展。
如何让新技术、新工具深度融合消费者权益保护的更多业务场景,实现人机快速联动,高效化解风险,包括蚂蚁、腾讯等在内的数字平台们已经做出了探索和实践。未来,数字平台商家愈发活跃灵动的经营能力,也持续提醒着企业不能放慢脚下的每一步。