李根国:从全球最快的到最需要的……展望下一代AI算力

现在所谓的E级机,也就是目前最快的超级计算机,它的算力是10的18次方,称作"E级",那么从E级到10的25次方还差7个数量级,所以计算量就是靠大规模的机器长时间的计算来实现。例如GPT-4运行的是2万张A100GPU卡,在上面训练了90天。所以说关键是算力。大模型对算力的需求增长非常快。马斯克推特发布有关最快AI算力...

智能的精髓在于避免单纯的计算

机器学习作为一种实现谋算的有效工具,通过从大量数据中学习模式和规律,帮助智能系统做出决策。在训练阶段,模型通过分析历史数据,识别出影响结果的关键因素,从而在新数据到来时,能够快速进行预测和决策。在机器学习中,优化算法是实现谋算的重要手段。通过不断调整模型参数,优化算法能够找到最优解。例如,梯度下降法通过计算...

爱范儿

当谈及英伟达在当今AI世界的竞争壁垒和定位时,黄仁勋对自身优势十分自信清醒,同时也有着不小的野心:英伟达最擅长的是算法,我们的使命是为新世界构建一个无处不在的计算平台。当然,有别于争夺市场份额,这颗野心只关乎「开拓」。在时长近一个半小时的访谈中,黄仁勋眼光犀利地剖析了机器学习如何重塑计算世界,AI...

解锁计算新世界!万能计算器使用秘籍大公开!

万能计算器之所以被称为“万能”,很大程度上是因为它们支持科学计算和多种高级功能。进入科学计算模式,你将解锁三角函数(sin、cos、tan及其反函数)、指数与对数(ln、log及任意底数对数)、统计功能(平均数、中位数、众数等)、单位换算(长度、重量、体积、温度、速度等)以及编程与自定义函数等强大工具。实战演练:比...

世界级千禧难题“纳维–斯托克斯方程”:数学史上最复杂的公式!

航天飞机于1982年开始运营,虽然预算限制使其无法实现快速返回、可重复载人的最初目标,但它与俄罗斯的“联盟号”宇宙飞船一起成为低轨道航天飞行的主力之一。“亚特兰蒂斯号”航天飞机已经完成了航天飞机计划的最后一次飞行,但已有新的运载工具(主要由私营公司制造)被纳入计划。欧洲、印度、中国和日本都有自己的太空计划...

3D科学计算:革新传统科学计算的高效计算结构

相较于普通计算机,高性能计算集群的运算速度能够达到令人难以想象的程度(www.e993.com)2024年11月12日。目前全球超级计算机TOP500的榜首是浮点运算速度峰值达到每秒100亿亿次的的超级计算机“前沿”,这一速度相当于大约10亿台当前主流笔记本电脑同时工作的处理能力总和。这样恐怖性能的高性能计算机,想必已经完全足够支撑科学计算对于计算机的性能要求了吧...

「深圳特区报」眨眼间 可完成上百年才能处理的问题

其次，计算速度上，量子计算机在某些问题上具有更快的计算速度，例如现在人类使用的最高端的密码系统，比如银行、保险、政府机构等，都是用极大质数来加密——利用传统计算机求解极大质数的因数非常困难，需要几十、甚至上百年时间，但是用量子计算机，破解这样的密码只需一眨眼的工夫。此外，由于量子计算机的计算原理和速度...

国产RISC-V狂奔:端侧能跑大模型,AI计算成重头戏

张建锋宣布，达摩院面向AI加速、低功耗、安全等全面升级迭代玄铁产品线。面向端侧AI加速计算的玄铁C907首次实现矩阵运算扩展，下一代高性能旗舰处理器C930也将于今年推出。玄铁CPU家族朝着低功耗、AI加速、安全、车规四条主线演进。算能直接放大招——基于RISC-V扩展指令打造大模型加速器SG2380，内置128GBDRAM和200...

挑战Transformer的Mamba是什么来头?作者博士论文理清SSM进化路径

例如,RNN对于序列数据来说是一个天然的有状态模型,每个时间步只需要恒定的计算/存储,但训练速度慢,而且存在优化困难(如梯度消失问题),这限制了它们处理长序列的能力。CNN专注于局部上下文,编码shiftequivariance等特性,并具有快速、可并行训练的特点,但其序列推理成本较高,且上下文长度受到固有限制。

六种困境:GPT、科技、人类的生产、知识与未来(合集)

越来越多人开始用GPT等人工智能工具收集信息、分析问题,撰写基础的文本、提纲、脚本、制图等。可以预计,以当前科技发展迭代的速度,这些新工具会以比预想快得多的速度应用、普及。而就ChatGPT/GPT-4的使用和影响,作者已经从社会、历史角度写过几篇文章。现在许多人也从更多的角度关心这些应用的社会影响:从白领的工作...