难倒大模型的《西游记》问题,“个人AI计算机”或是一种解决方案
文章转载来源:智能边界
来源:量子位
原文标题:《西游记》把大模型给难倒了
问:《西游记》里,总共提到过孙悟空这只猴多少次?
咱问了问ChatGPT,ChatGPT连连摇头,说《西游记》篇幅太长,它统计不出来。
不死心,又把这个问题问向了Claude。
Claude频频摆手,说因为不具备完整阅读和分析长篇文学作品的能力,无法统计。
事实上,不仅仅是ChatGPT和Claude答不上来,市面上的大模型几乎都无法(准确)回答这个问题。
除了《西游记》作为章回体小说,本身篇幅太长外,“孙悟空”还在书里有各种各样的代词指代,比如大圣、孙行者、美猴王、心猿、甚至是你/我/他……
于是,大模型们在这道题面前只能束手就擒。
然而,对于任何一名人类传统程序员来说,这压根不算一个难题,只要用编程、逻辑推理去解决,确定的答案很容易摆在眼前。
但如果非要把解决方式切回“大模型”模式,幻觉和精度,就是最直接的问题。
一家国内的AI创业公司给出了它们的答案:选择做个人AI计算机,用它补齐大模型和AI应用间缺失的那一环。
尝试统一神经网路和高级编程语言
这家公司名为KMind,创始人吴翰清,他更为业内人士所熟知的身份是阿里云的道哥/小黑,是前阿里云首席安全科学家、P10级研究员。
去年5月离职阿里后,他和阿里前同事陈冬白携手创业,又邀请来西湖大学AutoLab(自主智能实验室)负责人于开丞担任首席科学家,KMind的核心团队就这么搭建起来了。
在去年7月,KMind曾推出过一款面向C端用户的AIGC效率工具。
7月份推出,不到3个月时间,这款AIGC效率工具已经拥有了10万用户。
但困境伴随而生:用户流失率非常高。
吴翰清最终思考出的结论是,没有人喜欢一个满嘴谎话、不懂装懂的人,尤其是那些从未接触过AI、不知AI为何物的用户,第一次用上AIGC效率工具,往往会把对方当成一个在和自己交流的真实的人。
这样就会导致用户一旦发现AI不靠谱,就会气到当场弃用。
“目前LLM在解决幻觉问题上主要还是靠对齐,但这类技术治标不治本。要想彻底解决这个问题,我认为还得从LLM之外寻求答案。”
当然,“幻觉”仅仅是大模型存在的最大问题之一,另一个问题,也是大模型无法准确回答西游记里有多少孙悟空的另一个原因,是书中指代孙悟空的名词、代词太多,大模型目前的推理能力还无法进行精准判断。
“对于所有的程序员来说,逻辑推理都不是一个问题,1+1必然等于2。”正如吴翰清所说,“但是对于所有做神经网络的人来说,如何让神经网络自动生成1+1=2这个答案并不容易。”
基于这一点,KMind团队的思考逐渐清晰:
不如试试,统一神经网络和高级编程语言。
神经网络主要提供泛化能力,高级编程语言则提供逻辑推理能力和精准控制能力,两者连接起来,双管齐下,就能解决大部分问题。
提出“个人AI计算机”
沿着这个思路提出一种具体的解决办法,就是KMind所提出的造一个拥有新型计算机操作系统kOS的“个人AI计算机”。
先简单了解一下,什么是个人AI计算机。
一起来看个人AI计算机长啥样:
在这个架构中,依次有输入输出、记忆器、控制器、运算器和存储器。
其中,控制器相当于整个系统的“大脑”,是真正理解用户意图、并对复杂任务进行拆解,以及调度不同执行单元来完成用户任务的部分。
在这个部分里,为了模拟人的思考过程,又存在评估器和决策器。
与此同时,控制器还会不断和外界进行交互,通过多轮对话等方式,需要用户不断提供新的信息,形成反馈,然后整个系统不断进行迭代、循环。
而个人AI计算机作为kOS的实现目标而存在,被称为计算机,是因为它符合冯·诺伊曼架构,从设计之初,就符合信息论、控制论和系统论的结合。
这里多提两句,数据脱水和浸泡也是KMind提出的新概念。
继续用《西游记》来举例子。数据脱水,就是把整本书先进行数据挖掘,生成结构化数据——这个过程本身就调用了多次计算,且计算可能来自于小模型,也可能来自于大模型。
产生结构化数据后,就可以根据用户的逻辑或需求,在任意尺度上对其进行精确控制,随意替换掉需要部分的“零件”。
脱水后的结构化数据去除掉了冗余信息,最终以一个跟信息熵相关的指标,来衡量AI操作数据的精确程度。
修改后的结构化数据会被评估“是否对原有数据造成了破坏”,如被破坏,则在AI精度上继续迭代修改。最后将数据还原,或生成为用户可读的数据形态。
能解决什么问题?
对精确部分进行修改,就像AI绘画过程中,利用ControlNet插件精确控制手部区域进行修改,直到满意,再也不用整体推翻重新再来了。
如此这般,大模型的幻觉和精度问题,至少能在现在得到缓解。
这也是个人AI计算机为自己赋予的使命之一。
“之一”意味着它的作用并不全在此。
个人AI计算机被视为一个全新概念,是因为它的目标是把个人计算机“小型化、普惠化,让每个人都用得起”。
这与现在的个人计算机迥乎不同:在此之前,互联网把一个个个人计算机连接在一起,全球的数字化信息由此可以在互联网里高速流动。
但信息汇集,产生了超级节点,数据也渐渐被互联网巨头垄断。
在KMind团队看来,这十分不合理,用户贡献了数据,但数据垄断后的收益都是互联网寡头的;数据垄断还会进一步带来互联网的割裂,不仅降低用户体验,还违背了互联网互联、自由的属性。
因此,个人AI计算机一方面想解决大模型不能解决之痛,另一方面,还希望能解决由于信息聚集在Google这样的超级节点导致的数据垄断、互联网割裂等问题。
开启这个目标的第一步,KMind就表示自己的商业模式不会是通过广告业务实现。
同时,团队也明确表示不会拿用户的数据训练自己的模型,也不会将属于每个用户的数据综合后形成一个通识AI。
在团队规划中,KMind的商业模式是这样的:
KMind提供算力,程序员用户提供算法,用户提供数据,且数据永远归用户拥有。
吴翰清强调,这是一个良性的生态结构,他同时也强调,个人AI计算机里的推荐和检索算法都会被开源,并由一个开源社区来维护。
“如果有一天半个宇宙居然想要把这些闭源掉,那我也号召所有半个宇宙的居民来推翻它,因为从那一天可能就是它作恶的开始,它又开始从尝试不垄断数据走向了数据垄断。”
OneMoreThing
现在,KMind已推出了由kOS驱动的个人智能助理“星伴”。
每个用户和星伴将是伴生关系,按照用户的意图,星伴会为自动为用户工作,或陪用户聊天。
和其他可调用AI不同,星伴是可编程的,具备成长性,它所经历的个性化知识、经验、记忆、性格会被保存在一个叫“星魂”的地方,最终形成属于每个人的数字资产。
一旦经过允许,你可以调用其他人星伴里的知识,最终形成一个庞大的AI社区。
也因为星伴的存在,人的在线时间不再受制于睡眠和休息,AI会帮你时刻在线,只要提供了数据,AI就能开放式的回答所有问题,永不停歇的服务、沟通、协同。
想想有点激动,感觉有了星伴,本打工人的摸鱼时间一定能更多了吧……