特色专题 | 从美智库报告看人工智能大语言模型网络安全问题及对策

一是创建阶段(即“生成侧”),网络安全问题主要来源于AI技术本身的“黑箱”效应,会引发“原生”网络安全问题。二是使用阶段(即“使用侧”),网络安全问题主要来源于模型本身脆弱性及输出不稳定性,会引发“伴生”网络安全问题。三是产业化阶段(即“行业侧”),网络安全问题主要来源于第三方用途不可控方面,会引发...

哈佛大学演讲:转型AI没有标准答案,企业和个人如何避免掉队?

第二,AI是无处不在的。让我感到兴奋的是,我一直在尝试通过模拟和体验来大规模教育人们,而且顺便说一句,我这次演讲中的每一张图片都是由AI生成的,这点可能没有那么显眼。但有趣的是,这是第一个普遍可用的工具。以前,如果我去哈佛大学,他们有比其他地方更酷的工具,因为那里有很多资金。如果我去一个农村学...

AI陪伴:谁在赛博世界里吹起了粉色泡泡?

Character.AI网页截图,来源于网络Character.AI是一款基于自研LLM(大模型)的AI角色聊天互动应用,面向个人消费者的娱乐和情感陪伴需求,支持用户与由AI驱动的虚拟角色进行互动,平台提供动漫、游戏人物、历史名人等各种虚拟角色的深入对话,如爱因斯坦、ElonMusk和超级马里奥等。Character.AI马斯克聊天机器人,华泰研究用户也...

AI乐观派|那些技术乌托邦、超人类和加速主义者们

他还指出,真正的不平等来源于那些阻碍AI应用的经济部门,而不是AI本身。第五,AI会被坏人利用吗?安德森承认任何技术都可能被滥用,但他强调我们已有法律来惩治犯罪行为。他建议执法部门也应该利用AI来打击犯罪,并将AI应用于网络防御、生物防御和国家安全等领域。总的来说,安德森反驳了关于AI可能杀死人类、毁坏社会、...

AIGC与著作权:北互AI文生图及广互AIGC平台著作权案业界评析

法官说法北京互联网法院法官朱阁:本案中,涉案图片系原告利用AI生成,根据著作权法关于作品的构成要件进行判断,因涉案图片体现出原告的独创性智力投入,被认定为作品,相关著作权归属于原告。同时本案判决强调,利用人工智能生成的内容,是否构成作品,需要个案判断,不能一概而论。近年来,学界关于AI生成内容可版权性的讨论一...

大语言模型会推理吗?

在训练数据不足的问题上靠和样本的统计相似性猜测答案,正确性难以保证(www.e993.com)2024年11月26日。由于这些问题都是神经网络模型的“本性”所决定的,因此无法用技术手段彻底解决。比如近期流行的“思维链”体现了填补中间步骤的努力,但这种“链”中的“环节”仍大多数是可以进一步分解的推理过程,而非基本的推理步骤,而且其正确性...

谷歌CEO:并不是每次搜索都有AI答案

来源|TheVerge(YouTube)头图来源|视觉中国“我对AI搜索保持乐观,因为人类的好奇心是无限的,在搜索这方面,谷歌比其他任何公司都能更深刻地理解这一点。”谷歌CEO说道。5月,谷歌I/O大会上,首席执行官桑达尔·皮查伊宣布向美国用户推出AIOverviews服务,这意味着人工智能进入搜索领域,人们将可通过提问、聊天的方...

ChatGPT的生成原理

不同于传统问答系统中答案来源于现成的网络或者数据库,ChatGPT的回答是随着提问的进行自动生成的。这一点有点像文字接龙游戏,ChatGPT会基于前面的话不断地生成下一个合适的词汇,直到觉得不必继续生成为止。比如我们问ChatGPT:“苹果是一种水果吗”,ChatGPT会基于这句话进行文字接龙,大概流程如下:...

为什么谷歌AI Overviews会给出离谱答案?或因采取统计计算来生成答案

谷歌发言人表示,在许多情况下,当AIOverviews返回错误答案时,是因为网络上没有太多高质量的信息可供显示,或者是因为用户查询的东西与讽刺网站或搞笑帖子最匹配。这位发言人表示,AIOverviews在绝大多数情况下都提供了高质量的信息,许多错误案例都是针对不常见的查询。

AIGC检测:AI与学术不端的红线在哪里?

起因是上半年几所高校不约而同地推出新政,在毕业论文查重环节增加AIGC检测以鉴别论文中人工智能代写内容,并进行相应的整改和惩处。此前,在熙攘喧闹的网络世界,学术圈一直保持以一种“另类”的姿态居于“象牙塔”中,安静而低调。图片来源:新浪微博据悉,今年“打响AIGC检测第一枪”的是于1月发布通知的华北电力...