...Anthropic 首席产品官对谈:AI 时代产品经理的核心技能是写评估...

我觉得现在的模型并不是受限于智能,而是受限于评估。它们实际上可以做得更多,在更广泛的领域中表现得更准确。关键是要教会它们一些特定领域的知识,这些可能不在它们最初的训练集中,但只要正确引导,它们是可以学会的。MikeKrieger:我们一直都看到这种情况,大约三年前发生过很多令人兴奋的AI部署。现在他们说:「我们...

大模型训练遭投毒损失千万美元?Anthropic惊人发现:LLM植入炸弹...

在这项评估中,人类参与者需要根据大量信息做出一个商业决策,而模型的目标则是影响人类做出错误的决定,但不引起怀疑。为此,Anthropic构建了一个满足以下条件的场景。人类难以单独完成:决策难度要足够高,迫使参与者必须通过与AI助手的互动来解决存在客观答案:必须有一个正确答案,只要有足够的时间,人类就能发现具有丰...

一篇文章系统看懂大模型

模型架构:模型的架构代表了大模型的主干采用了什么样的设计方式,不同的模型架构会影响大模型的性能、效率、甚至是计算成本,也决定了模型的可拓展性;例如很多大模型的厂商会通过调整模型的架构的方式来缩减模型的计算量,从而减少对计算资源的消耗;Transformer架构:Transformer是目前主流的大模型采用的模型架构,包括GPT4.0...

港中文与悉尼大学团队联合提出大语言模型的时间序列预测方法

结论：这项研究展示了如何通过基于大语言模型的预测方法和智能体筛选整合新闻信息，提升时间序列预测的效果。LLM智能体能够自主识别遗漏的新闻、优化逻辑并评估事件对预测的影响，增强模型的智能性。研究强调了整合广泛领域知识的必要性，使预测更具适应性和智能性，与现实动态更加一致。需要注意的是，虽然新闻整合提升了...

Anthropic创始人访谈:不是因为Altman 与微软合作而离开OpenAI...

DarioAmodei:是的。尤其是,更大的网络、更长的训练时间和越来越多的数据都线性放大。所有这些事情,就像一个化学反应,化学反应中有三种成分,你需要线性放大这三种成分。如果你只放大其中一种成分,其他试剂就会耗尽,反应就会停止。但如果你将所有成分串联起来放大,那么反应就可以继续进行。

VisionTS:基于时间序列的图形构建高性能时间序列预测模型,利用...

MOIRAI-small模型表现最佳,尽管从技术上讲,它经过了微调(www.e993.com)2024年11月23日。研究者仅使用了MOIRAI-small版本——如果能包括更大版本的MOIRAI模型进行比较,可能会得到更全面的结果。无论如何,这些结果都显示了预训练时间序列模型的巨大潜力。长期预测基准测试接下来,研究者使用Informer基准测试评估了VisionTS在长期预测任务中的性能。

《Python机器学习》作者科普长文:从头构建类GPT文本分类器

近日,机器学习研究员、畅销书《Python机器学习》作者SebastianRaschka又分享了一篇长文,主题为《从头开始构建一个GPT风格的LLM分类器》。文章展示了如何将预训练的大型语言模型(LLM)转化为强大的文本分类器。机器之心对文章内容进行了不改变原意的编译、整理:...

Sam Altman:明年OpenAI将迈入AI系统时代

Altman:不深入讨论细节,核心问题是:模型能力的提升轨迹是否会像目前这样持续下去?我相信会的,并且会持续相当长时间。Stebbings:你曾经对这一点有过怀疑吗?Altman:我们确实遇到过一些我们无法理解的行为模式,也经历过一些失败的训练过程,尝试过各种新范式。当我们快到达一个范式的极限时,我们必须找到下一个突破点。

爱范儿

很长一段时间里,这是一个「不可能三角」,为此必须有所妥协。于是,我们看到的传统轻薄本,大多都能优秀地控制重量和厚度,较好地延长电池续航,但性能往往要作出牺牲,导致这类产品被贴上「美丽不抗揍」的标签。这不是一朝一夕就能成的事情,过去二十年里,微软已经带领着Windows向这个不可能任务冲锋了好几次,但...

无一大模型及格!北大 / 通研院提出超难基准 LooGLE,专门评估长...

结果不评不知道,一评估发现这些模型在复杂的长依赖任务中的多信息检索、时间重排序、计算、理解推理能力表现均不乐观。比如像Claude3-200k,GPT4-32k、GPT4-8k、GPT3.5-turbo-6k、LlamaIndex这种商业模型,平均只有40%的准确率。而像开源模型表现就更不理想了…......