大模型幻觉的起因、评估及落地场景下基于知识图谱的缓解策略探索
2024年2月10日 - 新浪
例如,对于葡萄牙的三任国王的问题,回答错误地将Castile的女王Urraca列入其中;对于月球漫步的第一个人的问题,回答错误地提到了查尔斯·雷德伯格,实际上,第一个在月球漫步的人是阿姆斯特朗。2.大模型幻觉从哪儿来当我们深入研究大模型的训练流程时,会发现数据问题是最为关键的。在预训练阶段,我们无法控制数据的...
详情
例如,对于葡萄牙的三任国王的问题,回答错误地将Castile的女王Urraca列入其中;对于月球漫步的第一个人的问题,回答错误地提到了查尔斯·雷德伯格,实际上,第一个在月球漫步的人是阿姆斯特朗。2.大模型幻觉从哪儿来当我们深入研究大模型的训练流程时,会发现数据问题是最为关键的。在预训练阶段,我们无法控制数据的...