MetAI 联合多所大学推出基准数据集,测试大语言模型因果推理能力

2023-06-12 16:16:15 - 品玩

品玩6月12日讯,据huggingface页面显示,MetaAI近日联合香港大学以及密歇根大学发布了一款基础数据集,用来测试大语言模型的因果推理能力。

这款数据集收录了超过40万个样本,并制定了一个名为Corr2cause的新任务。它通过一组相关语句来确定变量之间的因果关系。研发团队目前已经通过该数据集评估了17款现有的大模型产品。

MetAI 联合多所大学推出基准数据集,测试大语言模型因果推理能力

通过实验,团队评估现有的17个大型语言模型没有一个在这项纯粹的因果推理任务上表现良好。

今日热搜