一种融入先验关系知识的关系抽取方法、装置及设备
2025-02-28 08:09
No.1344944680969969664
技术概要
PDF全文
本技术公开了一种融入先验关系知识的关系抽取方法、装置及设备,属于关系抽取技术领域。本发明设计了基于注意力机制的表示融合模型来帮助提取关系。首先将先验关系标签编码的向量作为关系信息,用较少的关系信息替换关系嵌入矩阵。为了获得具有丰富语义信息的向量进行关系提取,使用注意力机制选择性地融合句子和关系标签之间的重要语义特征。有效地利用了关系标签来丰富关系信息并提高句子和关系之间的语义交互。本发明设计的融合层在促进这一过程和提高简单结构关系提取的整体性能方面起着至关重要的作用,从而获得更准确的预测效果。
背景技术
知识是人类在实践中客观认识世界的结晶。在信息时代,知识图谱是知识工程的重要分支,它以符号形式结构化的描述了物理世界中的概念及其相互的关系。如何获取结构化信息构建知识图谱,成为了一个重大的挑战,信息抽取作为一种可以自动抽取结构化信息的技术,逐渐引起广泛关注。 在自然语言处理领域,关系抽取是信息抽取的基本任务之一,其目的是为了正确识别文本中实体与实体之间的关系。关系抽取的意义就是为知识图谱构建、信息检索和问答系统等下游任务提供支撑。关系抽取发展至今,主要存在三种关系抽取方法:全监督关系抽取、半监督关系抽取以及远程监督关系抽取。基于半监督关系抽取方法和基于远程监督的关系抽取方法聚焦在存在大量噪声的弱标记样本上;基于全监督的关系抽取方法又分为两类:基于管道的方法和联合抽取方法。联合抽取方法对实体和关系同时进行抽取。基于管道的方法将命名实体识别和关系抽取看作是两个独立的任务,即先搭建模型进行实体识别,然后在实体识别的基础上进行关系抽取,与联合抽取模型相比,基于管道的方法可以作为一个即插即用的插件,与多种优秀的命名实体识别方法所适配。 随着基于Transformers架构的预训练语言模型的发展,得益于大规模训练语料库,预训练语言模型在表征文本上表现出了卓越的性能,覆盖了多种自然语言处理任务。特别是在关系抽取领域中,利用预训练语言模型对目标文本进行编码在基于深度学习的方法中得到了广泛的应用。现有的基于深度学习的方法则将关系抽取任务分为特征信息提取、实体识别以及关系分类三个主要步骤,以Casrel和TPlinker系列为代表的算法通过预训练模型自动地进行特征提取和分类,这种端到端的方式可以充分利用大规模数据集进行训练,从而学习到更具有泛化能力的特征表示。 近几年主流的关系抽取模型在处理复杂关系下抽取任务时具有显著的进步,例如中国专利CN116975284A提出了一种基于先验知识的实体关系抽取方法、装置及存储介质,通过使用先验知识与预训练模型融合构建能关系过滤的实体关系抽取模型,加快了实体关系抽取的训练速度和推理速度,显著提升了模型的准确率。然而除了研究新模型来解决关系重叠问题外,获取更合适的表示向量进行联合实体和关系提取也同样重要。关系信息在提高关系提取模型的性能方面起着非常重要的作用。目前的研究大多使用关系嵌入矩阵来表示关系信息,而忽略了数据集中包含的先验关系信息:关系标签。此外,大多数研究没有充分探索关系信息的潜力或利用复杂的模型结构来利用关系信息。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
李琳  杜一彬  石温皓  陈磊  李志豪  伍泓骁  廖述幸
技术所属: 重庆邮电大学
相关技术
一种服务开发方法、装置、设备及存储介质 一种服务开发方法、装置、设备及存储介质
一种高精度双层优化方法的神经网络搜索架构构建方法 一种高精度双层优化方法的神经网络搜索架构构建方法
跨总线域的设备对宿主机空间DMA访问方法及相关设备 跨总线域的设备对宿主机空间DMA访问方法及相关设备
一种客户信息定期维护方法及系统 一种客户信息定期维护方法及系统
代码发布方法、装置、计算机设备和可读存储介质 代码发布方法、装置、计算机设备和可读存储介质
一种基于统一管理平台的子应用数据获取方法及装置 一种基于统一管理平台的子应用数据获取方法及装置
利用深度学习的BIM模型错误自动检测系统 利用深度学习的BIM模型错误自动检测系统
一种基于智能反射面的室内T型走廊场景路径损耗的分析方法 一种基于智能反射面的室内T型走廊场景路径损耗的分析方法
模型评估任务处理方法及装置 模型评估任务处理方法及装置
基于大数据的异常信号智能识别方法 基于大数据的异常信号智能识别方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利