预测蛋白质序列的新AI模型问世
CARBonAra建立在该团队开发的蛋白质结构转换器框架的基础上。它使用了几何转换器,是一种深度学习模型,可以处理点之间的空间关系(如原子坐标),以学习和预测复杂的结构。该模型突出特点是“上下文”感知能力,这在提高序列恢复率方面尤为明显。当CARBonAra包含分子“上下文”,如蛋白质与其他蛋白质、核酸、脂质或离子的界面...
AI+Science新视野:用物理信息引导AlphaFold 2预测蛋白质动力学
Wolynes教授(本文的合作者之一)及其同事在20世纪80年代提出的蛋白质能量面理论,为预测蛋白质结构与动力学提供了基本的物理学原理:蛋白质折叠可以被看作是在漏斗状的能量面内下降至能量最低点的过程,而这个最低点对应蛋白质最稳定的天然结构。Wolynes等人还提出了蛋白质折叠中的阻挫最小原理(principleofm...
人工智能大模型发展的新形势及其省思
[3]各种科学大模型、专业大模型则专注于具体科学任务,使得专业性工作提质增效,比如蛋白质结构大模型使得蛋白质结构预测效率得到极大提升。最近OpenAI推出的GPT-4o更是将机器的自然交互水平推向了新高度,机器已经能在多人对话场景中实时理解人类的语音、姿态、情绪、意图,具备了一定的认知人类社会的能力。单单就GPT-4o...
AI for Engineering:大模型实现多款高难度蛋白质产品产业化落地
在近代生物学,蛋白质工程领域都是遵循“序列-结构-功能”的路线做蛋白质设计,但按照“第一性原理”,功能和结构信息都应该包含在序列信息之中,我们能否直接通过氨基酸序列来设计蛋白质功能?洪亮教授团队决定用大语言模型来尝试解决这个问题:01首先,收集Uniprot数据库中公开的2.8亿条蛋白质氨基酸序列与结构信息,并通过...
清华大学药学院学者开发基于蛋白质语言模型的结构与功能预测方法
DeepP450通过蛋白质语言模型ESM-2和可表征分子结构特征的预训练模型Uni-Mol分别提取不同CYPs和分子的高维特征,利用交叉注意力和自注意力层进行特征融合并反向微调ESM-2和Uni-Mol,通过集成模型的方式实现了人体关键CYPs潜在底物的精准预测。该模型在测试集上的预测准确率高达92%,9种CYPs的底物/非底物预测AUROC值在0.89...
4000万蛋白结构训练,西湖大学开发基于结构词表的蛋白质通用大模型...
西湖大学的研究人员利用Foldseek来处理蛋白质结构,将其编码成一维的离散token,并与传统的氨基酸进行结合,形成了结构感知词表(Structure-awareVocabulary),以此将结构信息嵌入到模型输入中,增强模型的表征能力(www.e993.com)2024年9月7日。在预训练上,论文使用了目前最多的蛋白质结构(identity过滤后4000万),在64张A100上训练了3个月,最终开源了...
模拟5亿年的进化信息,首个同时推理蛋白质序列、结构和功能的生物...
EvolutionaryScale团队中提出了一种创新方法,即利用名为ESM3的多模态生成语言模型,可以模拟这一宏大的进化过程。视频:ESM3概述。(来源:公司官网)ESM3不仅能够理解和生成蛋白质序列,还能综合考虑蛋白质的结构与功能,成为一个强大的进化模拟工具。该模型设计有独特的几何注意力机制,能高效处理蛋白质的三维结构...
单模型斩获“蛋白质突变预测”榜一,西湖大学提出基于结构词表方法
新智元导读Saprot在proteingym蛋白质突变预测任务公开基准榜(由牛津大学计算机与哈佛医学院设立)排名第一。相比,其他排名靠前的算法都是混合模型,专门针对突变任务设计,而Saprot不仅是单模型,而且是通用模型。蛋白质结构相比于序列往往被认为更加具有信息量,因为其直接决定了蛋白质的功能。
又一突破性成果!人工智能大模型预测蛋白质结构速度再次提高数百倍!
2023年10月9日,国际顶级学术期刊《自然》旗下子刊《机器智能》发表了百度飞桨螺旋桨联合百图生科研发的文心生物计算大模型的一项成果,提出了全球首个开源、提供在线服务、无需MSA输入的蛋白结构预测大模型HelixFold-Single。这是百度在生物计算领域的又一突破性成果,打破了AlphaFold2等主流模型依赖MSA检索的速度瓶颈,创...
模拟5亿年自然进化史,全新蛋白质大模型ESM3诞生!前Meta老将力作Le...
处理文本的语言模型一般以token作为基本单位,但多模态的蛋白质模型更加复杂,需要将序列、三维结构和功能都转换为离散的字母进行表示。为了更好地扩展训练规模、释放模型的「涌现」生成潜力,ESM3使用的词汇在同一语言模型中能够很好地连接序列、结构和功能,进行联合推理。