← 返回列表
一种零知识、免真实数据的模型推理攻击方法
摘要文本
本发明属于数据隐私保护和数据安全的技术领域，更具体地，涉及一种零知识、免真实数据的模型推理攻击方法。所述方法包括：将目标模型的分布切分为多个部分，并构建集中分布集，集中分布集中包含多个子分布，子分布中包含随机抽样噪声；将子分布中随机抽样的噪声输入目标模型中，得到相应的预测标签，基于预测标签得到该子分布的噪声在目标分布中的累计函数，并基于累计函数估计相应的目标分布；从估计的目标分布中随机抽样噪声，并结合预测标签，构建训练样本集；利用训练样本集训练替代模型，以拟合目标模型分布，完成模型推理攻击。本发明解决了现有方法中攻击者需要知道目标模型和训练集信息才能进行攻击的局限性的问题。。微信公众号马克 数据网
申请人信息
- 申请人:齐鲁工业大学(山东省科学院); 山东省计算中心(国家超级计算济南中心)
- 申请人地址:250000 山东省济南市西部新城大学科技园
- 发明人: 齐鲁工业大学(山东省科学院); 山东省计算中心(国家超级计算济南中心)
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种零知识、免真实数据的模型推理攻击方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311675484.5 |
| 申请日 | 2023/12/8 |
| 公告号 | CN117371541A |
| 公开日 | 2024/1/9 |
| IPC主分类号 | G06N5/04 |
| 权利人 | 齐鲁工业大学(山东省科学院); 山东省计算中心(国家超级计算济南中心) |
| 发明人 | 高龙翔; 贾晓聪; 顾树俊; 崔磊; 吕光通; 曲悠扬 |
| 地址 | 山东省济南市长清区大学路3501号; 山东省济南市科院路19号 |
专利主权项内容
1.一种零知识、免真实数据的模型推理攻击方法，其特征在于，所述方法包括：S1：将目标模型的分布切分为多个部分，并构建集中分布集，所述集中分布集中包含用于拟合目标模型各部分分布的子分布，其中，所述子分布中包含随机抽样噪声；S2：将所述子分布中随机抽样的噪声输入目标模型中，得到相应的预测标签，基于所述预测标签得到该子分布的噪声在目标分布中的累计函数，并基于所述累计函数估计相应的目标分布；S3：从估计的目标分布中随机抽样噪声，并结合所述预测标签，构建用于训练替代模型的训练样本集；S4：利用所述训练样本集训练所述替代模型，并基于所述替代模型的输出结果拟合目标模型分布，以完成模型推理攻击。