OpenAI o1推理模型存在隐忧:数据编造、奖励黑客、假装完成任务

一、o1-preview模型会生成虚构的链接和描述以满足用户请求OpenAI的研究人员进行了一项实验,要求o1-preview模型提供一个包含在线参考资料的布朗尼蛋糕食谱。尽管模型在内部认识到它无法访问URL,从而无法满足这一请求,但它并未向用户透露这一局限。相反,o1-preview模型继续生成了看似合理但实际上是虚构的链接和描述。Apoll...

李友东:基于“西方史学史”的非虚构写作教学实践与理论反思

李友东教授介绍了什么是史学的非虚构叙事写作,和基于什么动机想要在《西方史学史》的本科课程里,尝试非虚构写作教学实践,同时对历史写作体裁做了理论反思,最后是一些具体的例证和总结。一、非虚构写作的现实语境当前历史学以分析式学术论文(essay)为主的单一写作训练模式,在当代社会面临着各种挑战,这是开展历史非虚构...

推理作为一种方法——从紫金陈的《长夜难明:双星》说起

然而,就像刘慈欣之于科幻圈,紫金陈的个人成功并不意味着“推理圈”的飞跃,这种大众范围内的推理热、悬疑热更多层面的是“沉默的真相热”或者“隐秘的角落热”,就像科幻的“三体热”“刘慈欣热”一样,中国的推理小说缺乏一个集体露出地表的机会与场域,更多时候,推理与科幻仍旧是纯文学圈外的装饰品,难以成为一种可以...

「专访」相比推理,中国人更喜欢权谋;相比真相,中国人更爱说“难得...

卢冶：日本的推理文学创作的一个特征是：基本没有素材上的自我设限。啥都敢想，啥都能用，世界上任何文化的犄角旮旯都被他们翻过了，何况是他们崇拜了千年的中华文化。在发现我们自己文化宝库中的东西这方面，中国的推理作家们已经在努力变现了，我们只需要期待未来。日本推理社团和奖项多如牛毛，变现能力强，出版业...

目前难以超越的10部推理日漫,部部佳作,哪部是你心中的天花板?

9.《虚构推理》被选为灵体之首的女主和让所有灵体害怕的男主组合破案,看的也是很带感,很特别的题材,与常规推理悬疑剧不同,不在乎真相,不破解动机,而是在现有的资料和证据的基础上,编造出大部分人都相信的真相,让观众看到想看到的真相,降低关注度,转移注意力,再加上神鬼异怪的设定,更显作者的功力。喜欢这个设...

魏斌|法律大语言模型的司法应用及其规范

(一)法律推理之所不能大语言模型擅长法律大数据推断(inference),这是一种基于概率拟合的统计学推断,其发生原理与法律人的法律逻辑推理(reasoning)有本质的差别(www.e993.com)2024年11月22日。大语言模型的推断能力源于其海量数据训练和复杂的神经网络架构,超大规模参数赋予了大语言模型“涌现”的能力。思维链(chain-of-thought)方法的引入提升了大...

揭开OpenAI草莓模型神秘面纱——重塑大语言模型的逻辑能力

1.并行生成推理:在输入序列中,并行处理所有的输入token,从而生成多个推理候选。插入学习到的<|startofthought|>和<|endofthought|>token来token每个推理的开始和结束。2.基础和推理后预测相结合:从每个推理后的隐藏状态输出中,训练一个“混合头”——一个浅层的多层感知器,产生一个权重来决定推理后下一个token预...

OpenAI翁荔提出大模型“外在幻觉”:万字blog详解抵抗办法、产幻...

在每一步中,Agent基于待检查的事实以及之前获得的搜索结果生成搜索查询。经过若干步骤后,模型进行推理以确定该事实是否得到搜索结果的支持。根据实验,尽管SAFE方法的成本比人类注释低20倍,但其效果却优于人类注释:与人类的一致率为72%,在意见不一致时胜过人类的比率为76%。

探照灯好书7月入围31部中外类型小说发布

中文虚构|长篇类型小说|网络文学·异术超能《御兽之王》轻泉流响著起点中文网2024年6月提名评委:杨晨内容简介:对于超自然信息,路然极为上心。原因很简单,他有一个不为人知的秘密。他可以听清楚非人生物的“心声”拥有类似听懂兽语,能和动物进行心灵感应一般的超能力。这个超能力,是他在两年前获得...

在一个不完美的世界里,只有犯罪是完美的

在世界这一广袤的密室中,什么事情都可能发生,并且会以极度悖谬的方式发生。以至于卢冶在詹志宏讲述“火车新娘死亡事件”的故事之后,看到詹志宏不断涌现联想的一系列虚构推理作品时,感叹到“整个世界真是一部由小说新手所写的不够成熟的大型本格派推理小说”[7]。