别只盯着英伟达、GPT-5,大数据也需要爱啊

以OpenAI为例，其成功背后的关键在于庞大的训练数据集，这些数据的质量直接决定了模型的表现。然而，令人震惊的是，业界在为算法的突破欢呼的同时，却对支撑这些算法的底层数据基础视而不见。英伟达的GPU芯片提供了前所未有的计算能力，但如果没有足够的数据来驱动，这些芯片不过是空载运行的机器，无法发挥其真正的潜力。

RAG微调Llama 3竟超越GPT-4!英伟达GaTech华人学者提出RankRAG框架

鉴于检索器的表达能力有限(通常是稀疏检索模型如BM25,或中等大小的编码模型如BERT-based),通常无法捕获所有相关信息,因此实际的应用过程还会加上一个交叉编码(cross-encoding)的排名模型。排名模型从数据库中检索到top-N个候选(N??k),再经过一次排名得到最终top-k结果。这种方案的缺陷在于,与通用的LLM本身相...

英伟达推「万亿参数」GPU,继续加速「AGI 时代」

首先是基础大模型,有多种相关模型可供选择,黄仁勋提到其中包括开源模型如Llama,来自合作伙伴的模型,也包括英伟达自己创建的一些模型——例如英伟达刚刚在GTC公布了一个新的天气预测模型。按照英伟达的说法,它们都是根据英伟达硬件已经优化好的,无论你的硬件是笔记本电脑这样只有一块CPU的,还是公司级别有多个...

黄仁勋2万字演讲实录:为什么英伟达GB200芯片将是未来 AI 技术的...

他解释称,上述说法是为了让外界对英伟达产品的价格有一定感受,而非给出具体定价范围,原因在于英伟达并不单独销售GPU芯片,而是打造数据中心产品。被问及向中国客户的供货情况,黄仁勋称,英伟达需要遵守美国的出口管制,目前面向中国市场推出的是H20和L20芯片。他举例称,采用Blackwell芯片架构的DGX服务器等产品,包含了数万...

坚持信念,其实管理和创新一样重要|英伟达CEO黄仁勋斯坦福万字访谈

虽然英伟达(NVIDIA)CEO黄仁勋近期在斯坦福的访谈内容已经遍及网络,但是由于这段访谈是如此的精彩,所以我们还是有必要在重新翻译和整理一下,来记录一下这个重要的时刻。在这段近一个小时的访谈里,老黄讲起了他创业之初的样子,也谈到了遇到问题时候自己的反应,甚至包括面临危机时候的心态等等,里面细节丰富、思考深入、...

四月AI芯片三连发,英伟达:无惧竞争!

据Meta官方介绍,新一代MTIA的设计理念在于寻求计算、内存带宽和内存容量三者之间的理想平衡(www.e993.com)2024年11月25日。这一改进不仅优化了芯片的性能,更使得推理任务的执行变得更为顺畅。科技大厂自研定制化芯片,一方面是可以和自身需求高度匹配,另一方面也是出于安全和经济性的考虑,拿NVIDIAH100来说,不仅售价不菲,而且还出现了产能的问题,而...

一文读懂英伟达GTC:黄仁勋晒“AI核弹”,人型机器人模型也来了

英伟达在博客文章中表示:“NIM针对每个模型和硬件设置利用优化的推理引擎,在加速基础设施上提供最佳的延迟和吞吐量。”“除了支持优化的社区模型之外,开发人员还可以通过使用永远不会离开数据中心边界的专有数据源来调整和微调模型,从而获得更高的准确性和性能。”...

英伟达新对话QA模型准确度超GPT-4,却遭吐槽:无权重代码意义不大

QA模型能够在开放域或长文档设置中集成检索到的证据块,提供的上下文比LLM的上下文窗口长得多。不过对于研究界而言,构建一个能够媲美GPT-4等SOTA黑箱模型准确度的对话QA模型仍是一个巨大挑战。近日,在英伟达的一篇论文中,研究者提出了一个具有GPT-4级别准确度的白箱对话QA模型ChatQA70B。他...

重磅!英伟达刚刚发布“AI核弹”,还带来了人形机器人模型

英伟达在博客文章中表示:“NIM针对每个模型和硬件设置利用优化的推理引擎,在加速基础设施上提供最佳的延迟和吞吐量。”“除了支持优化的社区模型之外,开发人员还可以通过使用永远不会离开数据中心边界的专有数据源来调整和微调模型,从而获得更高的准确性和性能。”...

百度请放心,AI搜索还取代不了你

从某种程度上,RAG反而增加了人类辨别真伪的难度。接入数据库,只是让大模型看起来更专业,模仿得更像数据库里的内容。RAG加持的AI搜索,还面临一个要命的问题,无法辨别信源的优劣真伪。谷歌的AIOverviews之所以出现这么多啼笑皆非的答案,一部分原因就是分不清来源的真假,比如谷歌AI让网友用胶水涂在披萨上的建议,就...