中国科大运用可解释机器学习破解催化结构敏感性难题

第三,为保障数据驱动模型的可解释性、准确性和通用性等,考虑到多源数据可能含有的非自洽性,以及不同分子之间的差异难以显式描述等情景,该工作采用了多任务学习符号回归策略进行机器学习建模。机器学习结果最终给出的分子活化能最佳模型如下:其中Ne为金属催化剂的价电子数,a为相应的晶格常数,ΔE为反应热,c1,c2和...

追问weekly | 过去一周,脑科学领域有哪些新发现?

来自约翰·霍普金斯大学医学院的神经科学家团队,领导者为IngieHong和RichardHuganir,发现钙离子通透的AMPA受体(CP-AMPAreceptor)在抑制性神经元(PV神经元)中的作用,能够显著抑制这些神经元对特定外部刺激的选择性反应。研究人员通过基因工程技术,设计了一种新的腺相关病毒载体,将小鼠大脑中的钙离子通透的AMPA受体替...

“AI”科普丨人工智能(XAI)可解释性的研究进展!

图1可解释性AI作为一种用于解释、影响和洞察的数据挖掘方法概述表1DNN行为描述符的一些示例、其数据来源和潜在用途图2从数据挖掘视角对可解释人工智能(XAI)研究的分类:深度模型解释、训练样本的影响和领域知识的洞察。2解释:深度模型的特征属性与推理过程深度模型解释涉及使用特征归因来评估每个输入对模型输...

XAI有什么用?探索LLM时代利用可解释性的10种策略

因此,研究团队提供了一个案例分析来强调IF在LLM上的适用性,具体的代码可以在开源Github仓库中找到。CaseStudy-3:基于EK-FAC近似实现LLM影响函数解释在本案例中,研究团队采用Grosse等人(2023)提出的EK-FAC近似理论来实现influencefunction,验证其对于LLM的适用性,又选取SciFact数据集...

探索智能纪元:大模型的起源、现状与未来

03未来大模型发展将更加注重可解释性与可信度,以提高模型在各个领域中的应用效果。04为此,研究者正在探索新的方法和技术,如稀疏专家模型、多模态融合等,以提升大模型的性能和效率。以上内容由腾讯混元大模型生成,仅供参考在人工智能(artificialintelligence,AI)的宏伟画卷上,大模型如同绚烂的星辰,照亮了技术的未...

AI黑盒研究的突破性进展:Anthropic详解大模型的「思维」特征

一个显著的例子是「保密」特征(www.e993.com)2024年11月13日。研究者观察到,这个特征在描述人或角色保守秘密时会激活。激活这些特征会导致Claude向用户隐瞒信息,否则它不会。研究者还观察到,他们能够根据神经元在其激活模式中出现的情况测量特征之间的距离,从而寻找接近彼此的特征。例如在GoldenGateBridge特征附近,研究者发现了阿尔卡特拉斯...

可解释性终极追问,什么才是第一性解释?20篇CCF-A+ICLR论文给你答案

在等效交互可解释性理论体系下,我们的团队在之前的研究中已经成功发表了20篇CCF-A类和机器学习顶级会议ICLR论文,我们已经从理论和实验上充分解答了上述问题。二、本文研究概述沿着上述理论框架,在这篇知乎文章中,我们希望精确解释出神经网络训练过程中泛化性的变化规律,具体地涉及两篇论文。

我们对未来负有何种责任?面向未来的代际正义 | 研究

SimonCaney华威大学政治与国际研究系文献来源:Caney,S.(2018).JusticeandFutureGenerations.AnnualReviewofPoliticalScience,21(1),475-93.本文作者SimonCaney一、定义代际正义“未来世代”(futuregeneration)一词有三种解释:尚未出生的人;尚未成为公民的人(包括儿童);比某一年龄组更...

中国大模型发展指数(第1期)

典型案例:KAN网络提出了一种创新的神经网络架构,在理论基础、结构设计、参数效率和可解释性方面具有优势。智谱清言是一款新一代基座大模型,具备多模态能力。在高级自然语言处理能力、多语言交流、深度文本分析、智能写作、信息搜索、个性化服务、文档理解等众多方面得到应用。东方财富妙想金融大模型凭借其自研技术、金融...

专访张军:在原创性上不必焦虑,要看到我们的进步

张军:国企里也有大量技术开发比较成功的案例,但总体上,根据中国的实际情况,经济学家做大量的实证研究后发现,从国际国内专利数量及专利被引用的次数上看,民营企业远远高于国有企业。但国有企业和民营企业,有时不能放在同一坐标中去对比,因为国有企业往往担当了国家的使命和战略,并不完全追求回报或盈利最大化,这两类...