RNN驱动的语言模型训练技术及设备
2025-02-11 15:06
No.1338888843239366656
技术概要
PDF全文
本技术涉及一种RNN驱动的语言模型训练技术及设备,该技术将长句子训练数据分割为至少两个时间序列部分,并为每个部分计算Nce损失值;进而根据Nce损失值更新模型参数,以优化语言模型性能。
背景技术
基于RNN(Recurrent Neural Network,循环神经网络)的语言模型实际上是一种预测模型,预测空间为字典空间,得到的结果为预测空间中各个事件的后验概率。目前,考虑到计算效率的问题,在训练基于RNN的语言模型时,通常使用Nce(Noise-ContrastiveEstimation,噪声对比估计)函数。在训练模型时,将所有正样本分为n批,每一批(即batch)中包括若干条数据,针对每一批,准备一组负样本;负样本是从预设的词库中抽取出来的。利用每个batch正样本与对应的负样本,计算Nce损失;计算出Nce损失后,使用BPTT(Backpropagation Through Time,随时间反向传播)算法更新模型的参数。 发明人发现RNN使用的是随时间方向传播,即沿着时间序列一步一步向反向传播梯度,这很容易造成梯度消失。梯度消失会导致模型训练时候的梯度无法影响到参数调节,从而导致收敛不足,造成训练好的语言模型的预测结果有偏差。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
陈孝良冯大航叶森
技术所属: 北京声智科技有限公司.
相关技术
一种服务开发方法、装置、设备及存储介质 一种服务开发方法、装置、设备及存储介质
一种高精度双层优化方法的神经网络搜索架构构建方法 一种高精度双层优化方法的神经网络搜索架构构建方法
跨总线域的设备对宿主机空间DMA访问方法及相关设备 跨总线域的设备对宿主机空间DMA访问方法及相关设备
一种客户信息定期维护方法及系统 一种客户信息定期维护方法及系统
代码发布方法、装置、计算机设备和可读存储介质 代码发布方法、装置、计算机设备和可读存储介质
一种基于统一管理平台的子应用数据获取方法及装置 一种基于统一管理平台的子应用数据获取方法及装置
利用深度学习的BIM模型错误自动检测系统 利用深度学习的BIM模型错误自动检测系统
一种基于智能反射面的室内T型走廊场景路径损耗的分析方法 一种基于智能反射面的室内T型走廊场景路径损耗的分析方法
模型评估任务处理方法及装置 模型评估任务处理方法及装置
基于大数据的异常信号智能识别方法 基于大数据的异常信号智能识别方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利