Meta高管:目前的人工智能“相当愚蠢” 不足以对人类构成明显威胁
财联社
美国科技巨头Meta的全球事务总裁尼克·克莱格表示,目前的人工智能(AI)模型“相当愚蠢”,而且远远没达到足以对人类构成任何形式的“明显威胁”。
克莱格是英国前副首相,于2018年加入脸书母公司Meta,后来被提拔为该公司全球事务总裁,负责Meta与政府的互动、产品的对外宣传等所有政策事务。
在周三接受媒体采访时,克莱格声称,关于人工智能潜在危险的炒作已经超过了其技术的发展。
在谈到Meta发布的开源人工智能模型Llama2时,克莱格表示,我认为很多的警告与当前不存在的模型有关,即所谓的超级智能、超级强大的人工智能模型,它能够自我思考和自我复制。
克莱格补充说,人工智能发展出自主性和代理权的愿景,目前来看是很不现实的。至少我们的开源模型远远达不到这一点,事实上,在很多方面它们都相当愚蠢。
Meta首席执行官马克·扎克伯格最近宣布,名为Llama2的Meta人工智能模型将免费提供给在微软Azure云计算平台上开发软件的开发者使用。
Meta将把Llama2作为开源软件发布;“开源”软件通常可供公众广泛使用、修改和共享。
Llama2的发布料将加剧私人、商用模型的竞争,此类模型包括由OpenAI开发的GPT-4系统。OpenAI是推出热门聊天机器人ChatGPT的初创公司。
对于安全性方面的担忧,克莱格回应称,Meta有350名员工在数月内对其模型进行压力测试,以检查是否存在任何潜在问题,Llama2比其他任何开源大型语言模型都更安全。
但人工智能语言模型也确实存在一些问题,如传播虚假和错误信息,以及泄露机密数据等,也引起了人们对某些行业就业可能受到影响的担忧。
前谷歌科学家杰弗里·辛顿此前指出,人工智能不仅会导致大量工作岗位消失,而且会导致人们没办法知道到底什么才是真实的。如果人工智能变得比人类聪明得多,就会对人类进行操控。
计算机科学专家WendyHall认为,Meta的人工智能开源模型问题非常严重,这有点像给人们提供制造核武器的模板。
不过,克莱格反驳称,群体的智慧将使人工智能模型更安全,这比让它们留在大型科技公司的手中更可取。