本申请公开了一种知识图谱增强提示词生成方法、装置、设备及介质,涉及大语言模型技术领域,该方法包括将从知识图谱中检索出来的知识构造成思维导图的形式,通过提示大语言模型将知识在不同的组织形式间进行一轮或者两轮转换的多种方式,最后生成思维导图形式的多条候选知识提示词,并对这些候选提示词进行评分,选出每条训练数据对应的最优提示词组成伪提示数据集,用该伪提示数据集微调一个大语言模型作为知识提示优化器,微调后的知识提示优化器可根据输入和相关知识生成适应大语言模型的知识提示词,充分激发大语言模型的推理能力。
背景技术
大语言模型已被广泛应用于各垂直领域的问答任务上。但是,由于大语言模型缺乏事实知识,会产生幻觉,即生成错误的或者不真实的回答。基于知识图谱增强的提示技术是指在提示词中加入从外部知识图谱中检索出来的与输入相关的知识信息,让大语言模型基于结合外部知识的提示词生成输出,从而减轻幻觉。提示词的构造模式和优化技术多种多样,而大语言模型对提示词是十分敏感的,提示词结构和内容的细微修改会显著地影响大语言模型生成的结果。因此,如何有效地组织从知识图谱中检索出来的知识,生成知识图谱增强提示词,最大程度地激发大语言模型完成垂直领域问答的能力是目前需要解决的技术问题。
现有的提示词中知识部分的组织方法包括将知识转换成无序的三元组序列形式、知识路径形式以及自然语言文本形式。然而现有的提示词中知识部分的组织方法只能呈现较为单一的推理过程,在激发大语言模型推理能力上具有局限性。
实现思路