戴琼海院士:规避技术安全隐忧 促进人工智能持续发展

国务院参事、中国工程院院士、中国人工智能学会理事长戴琼海在接受人民网记者采访时表示,人工智能技术在开放通用场景中仍存在一些安全风险。规避技术安全隐忧,才能促进人工智能持续发展。“人工智能技术发展至今仍有多重安全风险值得注意,例如黑箱数据训练安全风险,黑箱依靠数据训练来支撑大模型对未来的推算,如果有人偷换数据...

石宝威|生成式人工智能刑事规制的困境与出路

首先,人工智能所作的决定并非是根据自我的历史资料,而是根据研发人员所输入的编码与程序,以逻辑的形式展现的外在表现,纯粹的形式逻辑最大的特点在于可预测性,即便人工智能当下并没有作出任何决定,人们可以从逻辑出发预测人工智能作决定的轨迹,据此判断人工智能决定的走向。因此,人工智能仅仅是人工智能,它无法根据历史资料...

美国人工智能研究院研发组织和运营模式研究

包括深度学习理论薄弱、“黑箱”问题和数据依赖等,如机器学习基础研究、值得信赖的人工智能等主题;二是面向特定领域如农业、教育的应用研究,这些领域由于人工智能应用需求明确、领域知识积累深厚以及建模计算简单可行,因此成为当前人工智能大规模应用的突破方向;三是重点支持基于大数据的数据智能的研发路径,如人工智能用于重大...

人工智能时代的算法黑箱与信任重建

正是考虑到人工智能带来的种种社会信任挑战,以算法规制为核心的人工智能治理首先应着眼于以人为本构建可信赖人工智能生态体系,并基于技术秉性和道德法律框架重建人机信任关系和人际信任关系。关键词算法黑箱人机信任人际信任计算政治中图分类号TP301.6文献标识码ADOI10.16619/jki.rmltxsqy...

人工智能是个黑箱,但Anthropic 找到了观察这个黑箱的方法

该公司的研究人员已经确定哪些人工神经元组合表征的是墨西哥卷饼、编程代码中的分号，或者是致命生物武器等。此类工作对人工智能安全可能会产生巨大影响：如果能找出大语言模型内部潜伏的危险的话，大概就能更好地阻止危险发生。Anthropic的“机制可解释性”（mechanisticinterpretability）团队共有18名人类学研究人员，我...

人工智能给神经类药物研发带来新突破 大脑活动“看得见”

“由于神经元存活对环境要求极为苛刻,生存条件稍有变化,很快就会死亡(www.e993.com)2024年11月10日。所以,神经元细胞的体外培养和观测技术难度很大。”团队科研人员谭超解释,公司开发出一套基于类脑组织芯片辅助人工智能解析的研究与开发平台,可用于神经系统药物的高内涵筛选,拥有完全的自主知识产权。

隐私泄露算法黑箱等侵犯人权,学者呼吁加强人工智能伦理治理

12月4日，北京理工大学科技人权研究中心主任韩秀桃在“纪念《世界人权宣言》发表75周年”研讨会上表示，以生成式人工智能等为代表的新技术形态在为人类生产、生活带来便捷的同时，个人隐私泄露、数据安全性、算法黑箱、深度伪造、信息茧房、大数据杀熟以及数字鸿沟、“数据投毒”等等科技伦理风险也随之出现并逐渐加大，成为...

1.0版《框架》公开,人工智能安全治理有了指引

9月9日，全国网络安全标准化技术委员会制定的《人工智能安全治理框架》1.0版（以下简称《框架》），对外公开发布。《框架》将人工智能安全风险按内生安全和应用安全分类，并给出相应的技术应对措施。围绕“鼓励创新，对人工智能研发及应用采取包容态度”“快速动态精准调整治理措施”“明确主体安全责任”“共享最佳实践...

加强人工智能发展的伦理风险研判和防范

三是建立人工智能伦理治理规范和审查监管制度。明确人工智能伦理要求,制定并完善人工智能伦理治理规范、标准和指南,引导科技人员合理开展人工智能活动。设立人工智能伦理审查委员会,完善人工智能伦理审查、风险处置、违规处理机制,健全对人工智能研发、应用活动的伦理监管审查机制,对违反伦理要求的团队和个人应予以问责。

港媒:打破黑箱,中国科学家解决美国空军AI项目的“艰巨挑战”

近日,据香港知名国际媒体《南华早报》消息称,来自西北工业大学的中国科学家在西安成功开发了一种新型的人工智能(AI)军事系统,该系统能够在空战中向人类解释其决策过程,解决了长期困扰中美两国军队的“黑箱”问题。这一技术突破不仅提升了中国在AI国防技术PK中的地位,还预示着未来空战的新面貌。