特斯拉马斯克等千人联名呼吁暂停研究的技术,有新动向!
转自:上观新闻
近日,国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》(以下简称《办法》),并表示自今年8月15日起正式施行。至此,类似ChatGPT这样的生成式人工智能服务在我国的研发和应用有了规矩。
为人工智能立法,是业界一直以来的呼声。
今年3月,特斯拉创始人埃隆·马斯克、《人类简史》作者尤瓦尔·赫拉利、图灵奖得主约书亚·本吉奥等上千名人工智能专家、行业高管和相关学者曾联名发表公开信,呼吁暂停“巨型AI实验”。所谓“巨型AI实验”,包括类似ChatGPT这样的生成式人工智能模型。不过,他们并不是呼吁放弃探索人工智能,而是希望通过暂停研究为监管留出时间,避免不法分子利用已有的成果违法犯罪,因为“只有当我们能够确信,AI体系的有利因素都是积极的,且风险都可控,一个强大的AI体系才能成熟”。
从全球范围看,《办法》是针对生成式人工智能的首部专门立法,为中国发展生成式人工智能服务设定了底线,及时且必要。
利用人工智能写“新闻”?必须打标识!
根据《办法》,“生成式人工智能技术”是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。
不难发现,随着生成式人工智能技术的快速发展,已有不法分子、部分“无知无畏”或“不明真相”的网民利用新服务和新技术,炮制播虚假信息。互联网上也出现了不少人工智能编写的谣言,产生不良影响。
例如,杭州有网民利用ChatGPT模仿新闻格式,编写了“杭州取消车牌限行规定”的消息,结果被误传;广东深圳某自媒体公司同样利用人工智能软件,编造了“甘肃一火车撞上修路工人,致9人死亡”等谣言。目前,相关当事人已被依法查处。
如今,根据最新发布的《办法》,利用生成式人工智能技术造假的行为从源头有了约束。综观《办法》,有数条规定明确对造假造谣行为说“不”,并要求利用人工智能编写的内容应当具备标识。
首先,《办法》规定有些内容不得“生成”,包括“不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容”。
其次,在应用生成式人工智能服务时,要尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
再次,人工智能生成的内容应当便于他人识别。根据《办法》,“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识”。
从此前被查处的造假造谣案例看,部分当事人使用生成式人工智能服务编造了假消息,但假消息并没有标识,结果被别有用心及不明真相的网民共同传播,产生了不良后果。若生成式人工智能服务提供者能严格遵照《办法》、对生成的内容进行标识,那么被误导的现象有望减少。
还有,《办法》明确了生成式人工智能服务提供者的责任:“发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告;发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告”。
可见,服务提供者既要防止新技术生成有害内容,也要审核生成的内容,不能以提供技术服务的理由而对生成内容放任不管。
最后,违反《办法》将承担对应的责任。其中,拒不改正或者情节严重的服务提供者,可能会被责令暂停提供相关服务;若构成违反治安管理行为的,依法面临治安管理处罚;构成犯罪的,会被依法追究刑事责任。
国家网信办有关负责人就《办法》相关问题答记者问时表示,《办法》既明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系;也要求提供者采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。
鼓励发展新技术,也可以用AI管理AI
《办法》公布后,业界普遍认为很有必要。
中国信息通信研究院政策与经济研究所所长辛勇飞表示,《办法》是在区块链、汽车数据、算法推荐、深度合成等立法之后,我国对新兴领域立法的又一次探索。《办法》充分协调了发展与安全之间的关系,一方面提出了生成式人工智能发展的鼓励措施,另一方面明确了生成式人工智能的法律底线,构建了生成式人工智能精细化治理体系,有利于推动生成式人工智能健康有序发展。
对外经济贸易大学数字经济与法律创新研究中心主任许可认为,作为全球范围内针对生成式人工智能的首部专门立法,《办法》以鼓励创新发展为基调,以个人合法权益、公共利益、国家安全为底线,在原则理念和规制范围上统筹发展与安全,不仅是监管生成式人工智能的中国探索,也为全球人工智能治理开辟了新的道路。
还有业界人士提出,《办法》鼓励生成式人工智能技术在各行业、各领域的创新应用,支持构建应用生态体系,在这个生态体系中,也包含用人工智能管理人工智能。“比如,针对生成式人工智能服务中的图像内容,中国信通院牵头启动了《文档图像篡改检测标准》制定工作,目标之一就是通过人工智能技术,规范由生成式人工智能所产生的图片等内容。”标准联合编制方之一、合合信息智能创新事业部总经理唐琪说。
在图像领域,“生成式造假”现象已经引发关注:在金融行业,不法分子可能会利用人工智能合成技术盗刷线上资金;在图片市场,部分图片供给方使用软件自动生成海报等图片,隐瞒来源并售卖给第三方,第三方在不知情的情况下进行商用,导致侵权……“通过设立检测标准,有望用人工智能对抗违法行为。”唐琪说。
他介绍,合合信息很早就开始利用人工智能技术进行图片鉴别,发现该领域有很大的应用空间。例如,P图是常见的图像篡改手段之一,不少篡改结果无法通过人眼识别。但人工智能能够分辨像素级的“细粒度”视觉差异,从而使技术辨伪成为现实——人工智能可捕捉到图像在篡改过程中留下的细微痕迹,并以热力图的形式展示图像区域篡改地点。目前,相关研发成果已经在银行、保险等领域落地应用。
针对生成式人工智能技术产生的大量图片,同样无法依靠人眼,而是可以利用人工智能。“唐琪简单解释了相关原理:“基于人工智能技术研发对应的识别模型,当输入需要辨别的图片后,模型可通过多个空间注意力头(attentionhead)来关注空间特征,并使用纹理增强模块,放大浅层特征中的细微伪影。最终经过复杂的计算,判断相关图片到底是原创的还是生成的,包括是否为嫁接。”
他认为,经济社会发展不可能拒绝人工智能技术,但需要建立可信的人工智能体系,需要更多企业和专业机构的参与。一方面,各界都要遵守法律法规,合法开发利用人工智能;另一方面,也要以技术战胜技术,“AI向善还是向恶而行?不法分子和守护者们每天都上演着无数次隐形的争斗。哪一方的技术实力更强劲,将成为决定‘道高一尺’还是‘魔高一丈’的关键。”
栏目主编:任翀文字编辑:任翀