李根国:从全球最快的到最需要的……展望下一代AI算力

现在所谓的E级机,也就是目前最快的超级计算机,它的算力是10的18次方,称作"E级",那么从E级到10的25次方还差7个数量级,所以计算量就是靠大规模的机器长时间的计算来实现。例如GPT-4运行的是2万张A100GPU卡,在上面训练了90天。所以说关键是算力。大模型对算力的需求增长非常快。马斯克推特发布有关最快AI算力...

他开创了AI蛋白质结构领域,现在要做比诺奖更大的事

但我的RaptorX算法在不需要用膜蛋白数据去训练的情况下,还可以把膜蛋白的结构预测得相当好。这就意味着RaptorX算法不是依靠简单地记住训练数据,不是单纯依赖相似的序列而推导出相似的结构。而是它抓取全局信息后真正学到了一些底层的规律,于是有了比较好的预测能力。”那一刻,许锦波知道,这方法成了。许锦波在芝加...

诺奖解读 |马剑鹏:AI已绕不开,不能再不懂,宜从娃娃抓起

2021年,复旦大学复杂体系多尺度研究院院长马剑鹏团队合作发表基于主链的蛋白质侧链预测算法(OPUS-Rota4算法),针对谷歌团队AlphaFold的软肋,大大提升了蛋白质侧链结构测试精度。据介绍,上述预测算法“目前已经迭代至OPUS-Rota6,精度比AlphaFold2/3都高”。复旦大学复杂体系多尺度研究院院长马剑鹏教授。对于2024年诺贝...

诺贝尔化学奖也花落AI领域!刚刚,AlphaFold开发者等人获奖 | 深度...

2021年7月15日,当DeepMind公司在《自然》杂志上发表论文,公开了“AlphaFold2”的源代码,并且详细描述了它的设计框架和训练方法时,Baker的团队也于《科学》杂志上介绍了其开发的RoseTTAFold算法。RoseTTAFold的神经网络能够同时考虑蛋白序列的模式、蛋白中不同氨基酸之间的相互作用,以及蛋白质可能出现的3D结构。在这个系...

一文搞懂七种基本的GC垃圾回收算法

评价GC算法的性能时,我们采用以下4个标准。??吞吐量??最大暂停时间??堆使用效率??访问的局部性吞吐量GC的吞吐量是:运行用户代码时间/(运行用户代码时间+垃圾收集时间)。如图2.5所示,在程序运行的整个过程中,应用程序的时间是X、Y、Z,应用程序的总时间是X+Y+Z。GC一共启动了...

深度学习揭秘系列之一:基于量价与基本面结合的深度学习选股策略

代价(cost)/损失(loss)函数是一个非负实数函数,用来量化模型预测和真实标签之间的差异(www.e993.com)2024年11月22日。训练算法通常使用梯度下降法实现损失函数最小化。令L(y,f(x;θ))为损失函数,其中θ包含可学习的矩阵W与偏置向量b,对包含N个样本的训练集D=,平均损失为经验风险最小化准则即找到使得平均代价...

预算3.51亿元!北京航空航天大学近期大批仪器采购意向

尺寸:46x44x21厘米。包含器官:肝、胆囊、胆道、脾脏、胃、肠道;E.V.A.橡胶制成,支持多次穿刺;模型包括阴道、子宫粘连、肌瘤及两种可定制的卵巢肿瘤、膀胱、输尿管、肠、肝伴胆囊和胆道、脾脏、胰腺、胃、大网膜粘连解剖和盲阑尾;3、力触觉交互模拟设备,包含紧凑型力反馈工作区,6自由度位置传感器...

告天下学子书【上】:线性代数的中国起源,外星人是蛮夷

x+2y+3z=262x+3y+z=343x+2y+z=39之后,通过刘徽创造的互乘相消法(消元法),通过筹式阵列的运算,逐步消元,大体过程如下:最后,可得的方程组:36z=995y×36=24×36-99180y=765

FlashAttention算法详解介绍

e^x项是用来修改矩阵P~_i_j&O_i的,方法是消去前一次迭代中的m,用最新的估计(m_new_i)来更新它,该估计包含到目前为止逐行最大值。以下是我的逐步分析(实际上只需要5分钟,希望能有所帮助!)重点是这些外面的e项和P/O矩阵里面的e项消掉了,所以总是得到最新的m_new_1估计!

中科院计算所孙晓明:实现多项式量级加速,量子搜索算法的优势与挑战

当然这需要事先把这个算法变成一个量子算法，然后才可以产生这样一个加速。比如说我们把它应用到刚才说的NP完全问题或SAT问题上，如果随机地选一个解，成功的概率是1/2^n。所以，如果只是简单粗暴地使用一下Grover算法，就可以做到根号2的n次方，也就1.414^n。但是还可以再加一些算法设计的技巧...