返回搜索
档案
面向垂直领域数据挖掘的大模型机密微调方法及系统
发明专利未知
9权利要求 · 4 独立
§ Ⅰ
卷宗概要
IPC 分类
G06N 3/096 (2023.01)G06N 3/0455 (2023.01)G06F 21/60 (2013.01)G06F 17/16 (2006.01)
本申请涉及面向垂直领域数据挖掘的大模型机密微调方法及系统。所述方法包括:获取大模型中待微调的权重矩阵的低秩分解参数和同态加密全局参数集;计算得到输出侧矩阵和输入侧矩阵的密文乘法噪声放大系数;基于密文乘法噪声放大系数分别为输出侧矩阵和输入侧矩阵分配噪声预算值;基于各自噪声预算值分别对输出侧矩阵和输入侧矩阵进行同态加密,得到对应的密文矩阵数据;对两个密文矩阵数据进行密文域乘法运算,得到增量矩阵密文数据以完成大模型参数微调。采用本方法能够在保证微调效果的前提下实现全链路机密性保护,有效防止模型参数和训练数据在计算过程中的泄露。
登录后阅读全文
已显示权利要求 1。免费注册即可阅读全部 9 项权利要求、说明书全文、全部附图、翻译和法律状态。
- 全部权利要求
- 技术领域
- 背景技术
- 发明内容
- 附图说明
- 具体实施方式