图论驱动的Transformer ASR模型性能评估技术
2025-01-20 11:27
No.1330862466867142656
技术概要
PDF全文
本技术介绍了一种应用于人工智能与语音识别领域的Transformer自动语音识别(ASR)模型性能评估方法,该方法基于图论理论。首先,获取Transformer ASR模型及其对应的音频数据;接着,将音频数据输入模型,通过前向传播得到各注意力头的权重矩阵,并提取模型输出的文本。通过对权重矩阵求平均值,得到人工神经活动,并利用皮尔逊相关系数计算相关性,构建功能连接矩阵。进一步,计算该矩阵的图论参数,并评估输出文本的单词错误率。最后,结合图论参数和错误率,对模型性能进行综合分析,为Transformer ASR模型的性能评估提供科学依据。
背景技术
Transformer是一种深度学习模型架构,由瓦斯瓦尼等人在2017年提出,最初用于自然语言处理(NLP)任务,尤其是机器翻译。由于其卓越的性能和高度可扩展的设计,Transformer迅速成为许多自然语言处理任务的主流模型架构,并被广泛应用于语音识别领域,然而对于模型内部多头注意力机制(Multi-head Attention)中的注意力头之间的相互作用,尤其是它们如何影响模型性能,仍然缺乏深入的理解。现有研究主要集中于通过改进模型的结构提升自动语音识别(ASR)模型的性能,而对模型内部注意力头之间关系以及对模型性能影响的系统性研究较少。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
张欣  陈芸  张雨桐  张艺颖  钟天阳  谢松云  谢辛舟
技术所属: 西北工业大学
相关技术
一种游戏事件提示方法 一种游戏事件提示方法
语音生成方法、装置、设备、存储介质及产品 语音生成方法、装置、设备、存储介质及产品
深度学习辅助的枪声检测与定位方法 深度学习辅助的枪声检测与定位方法
一种基于多层神经网络的多声音事件检测方法 一种基于多层神经网络的多声音事件检测方法
一种基于模态自适应学习的多模态课堂情感识别方法及系统 一种基于模态自适应学习的多模态课堂情感识别方法及系统
一种基于BERT预训练语言模型的语音指令识别方法 一种基于BERT预训练语言模型的语音指令识别方法
复杂海洋环境下仿嘀嗒声水声仿生通信信号识别方法及系统 复杂海洋环境下仿嘀嗒声水声仿生通信信号识别方法及系统
基于梯度类激活映射的水下目标噪声源分类模型可解释性方法 基于梯度类激活映射的水下目标噪声源分类模型可解释性方法
语音交互方法、服务器及计算机可读存储介质 语音交互方法、服务器及计算机可读存储介质
一种语音识别模型的语料扩充方法、装置、电子设备及计算机可读存储介质 一种语音识别模型的语料扩充方法、装置、电子设备及计算机可读存储介质
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利