法本信息申请一种大语言模型中可信度的可视化方法及系统专利，该方法可以使用户更加直观了解大语言模型回答的真实性
2024-06-14 10:05:20 - 金融界网站
转自：金融界
本文源自:金融界
金融界2024年6月14日消息，天眼查知识产权信息显示，深圳市法本信息技术股份有限公司申请一项名为“一种大语言模型中可信度的可视化方法及系统“，公开号CN202410261205.9，申请日期为2024年3月。
专利摘要显示，本发明提供的大语言模型中可信度的可视化方法及系统，方法包括获取大语言模型中隐藏层的层数；利用分词器获得每个词向量在隐藏层中的位置；构建向量矩阵；其中向量矩阵中每个元素表示任一隐藏层内任一位置中词向量的可信度；获取可信数据集中训练集的可信特征，分别根据可信特征在向量矩阵中匹配对应的词向量，并在向量矩阵中更新匹配到的词向量的可信度；当接收到大语言模型的回答信息时，利用所述向量矩阵获取所述回答信息中每个词向量的可信度，对获取的可信度进行可视化。该方法避免了可信度受人类主观因素的影响，评估结果更加科学客观，还可以对大语言模型回答的可信度进行可视化，使得用户更加直观了解大语言模型回答的真实性。