优化大型语言模型微调技术及电子设备
2025-02-11 14:25
No.1338878615458422784
技术概要
PDF全文
本技术涉及计算机技术领域,提出了一种优化大型语言模型微调的技术及相应的电子设备。该技术包括在第i个微调阶段,对大型语言模型的参数空间进行采样以获取模型参数向量,并基于该向量进行优化处理,以提升模型性能和适应性。
背景技术
大语言模型(large language model,LLM),指使用大量文本数据训练的深度学习模型,可以生成自然语言文本或理解语言文本的含义。在预训练的大语言模型的基础上,对模型参数进行微小调整,以适应特定任务的需求。在大语言模型的预训练过程,通常使用大规模的无标注文本数据集进行训练,学习语言的内在结构和规律;而微调过程则使用有标注的特定任务的数据集,使大语言模型在特定任务上达到更优的性能。 基于特定任务对大语言模型的微调过程,会涉及到隐私或敏感的训练数据,攻击者可能通过模型反演攻击或梯度推理攻击,推测出微调时使用的训练数据。为了防止数据泄露,并不侵犯数据隐私,目前使用差分隐私技术在梯度中注入噪声,对LLM/进行微调训练。然而,随着LLM的规模不断增大,微调LLM的过程产生巨大的资源消耗和时间开销,过量的噪声注入降低模型性能。
实现思路
阅读余下40%
技术概要为部分技术内容,查看PDF获取完整资料
该技术已申请专利,如用于商业用途,请联系技术所有人!
技术研发人员:
王旸  刘至昊  秦湛  任奎
技术所属: 杭州高新区(滨江)区块链与数据安全研究院  浙江大学
相关技术
一种服务开发方法、装置、设备及存储介质 一种服务开发方法、装置、设备及存储介质
一种高精度双层优化方法的神经网络搜索架构构建方法 一种高精度双层优化方法的神经网络搜索架构构建方法
跨总线域的设备对宿主机空间DMA访问方法及相关设备 跨总线域的设备对宿主机空间DMA访问方法及相关设备
一种客户信息定期维护方法及系统 一种客户信息定期维护方法及系统
代码发布方法、装置、计算机设备和可读存储介质 代码发布方法、装置、计算机设备和可读存储介质
一种基于统一管理平台的子应用数据获取方法及装置 一种基于统一管理平台的子应用数据获取方法及装置
利用深度学习的BIM模型错误自动检测系统 利用深度学习的BIM模型错误自动检测系统
一种基于智能反射面的室内T型走廊场景路径损耗的分析方法 一种基于智能反射面的室内T型走廊场景路径损耗的分析方法
模型评估任务处理方法及装置 模型评估任务处理方法及装置
基于大数据的异常信号智能识别方法 基于大数据的异常信号智能识别方法
技术分类
电信、广播电视和卫星传输服务 电信、广播电视和卫星传输服务
互联网软件服务 互联网软件服务
集成电路设计 集成电路设计
信息集成数字服务 信息集成数字服务
电气机械制造 电气机械制造
计算机、通信、电子设备制造 计算机、通信、电子设备制造
医药制造、生物基材料 医药制造、生物基材料
石油煤矿化学用品加工 石油煤矿化学用品加工
化学原料制品加工 化学原料制品加工
非金属矿物加工 非金属矿物加工
金属制品加工 金属制品加工
专用设备制造 专用设备制造
通用设备制造 通用设备制造
通用零部件制造 通用零部件制造
汽车制造业 汽车制造业
铁路、船舶、航天设备制造 铁路、船舶、航天设备制造
电力、热力生产和供应 电力、热力生产和供应
燃气生产和供应 燃气生产和供应
水生产和供应 水生产和供应
房屋建筑、土木工程 房屋建筑、土木工程
交通运输、仓储和邮政 交通运输、仓储和邮政
农、林、牧、渔业 农、林、牧、渔业
采矿业 采矿业
农副、食品加工 农副、食品加工
烟草、酒水加工 烟草、酒水加工
纺织皮具居家制品 纺织皮具居家制品
文教体娱加工 文教体娱加工
苏ICP备18062519号-5 © 2018-2025 【123技术园】 版权所有,并保留所有权利