検索に戻る
案件記録

一种面向位翻转攻击的深度神经网络动态防御方法

発明有効
2閲覧数
23請求項 · 19 独立
§ Ⅰ

案件概要

発明者

肖杰; 应浩; 郭佳俊; 时天其; 阮扬程; 俞馨月; 杨哲照

IPC分類

G06N 3/045 (2023.01)G06N 3/0475 (2023.01)G06N 3/094 (2023.01)G06N 5/04 (2023.01)G06N 3/082 (2023.01)

一种面向位翻转攻击的深度神经网络动态防御方法,包括以下步骤:步骤1、对一个给定的深度神经网络的权重参数集合,依据一套多维度功能重要性评估准则,将其划分为一个负责维持模型基础表征结构的锚定层、一个负责塑造决策边界的类敏感层以及一个提供功能冗余与泛化能力的储备层;步骤2、在深度神经网络的离线训练阶段,对锚定层、类敏感层与储备层实施差异化的鲁棒性赋能处理;步骤3、在深度神经网络的在线推理阶段,部署一个由完整性保护和动态拓扑重构协同工作的差异化在线防御机制;步骤4、对模型最终分类层的输出净化处理,以修正潜在的、由攻击引入的异常决策贡献。本发明在保证高安全性的同时,能够通过动态优化降低推理开销。

外部リソース