.png){kind=icon}
返回
Query-based model extraction attack: A survey
.png){kind=icon}
PRE
AI
DOI：10.1016/j.patcog.2026.114523.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
模型即服务（MaaS）是一种基于云计算的服务模式，使用户能够通过互联网访问机器学习（ML）模型的功能。随着大型语言模型（LLMs）的快速发展，该范式已显著促进模型在实际场景中的部署与应用。然而，该服务模式在提供便利的同时，可能使模型易受基于查询的模型提取攻击（QBMEAs）。QBMEAs通过向目标模型提交策略性设计的输入查询，并利用其输入-输出对提取核心元素（即精确攻击）或重构功能相似的代理模型（即近似攻击）。尽管QBMEAs领域已取得显著进展，但现有研究缺乏对攻击者能力的明确定义，且对不同攻击方法的分析不足。为深化对当前QBMEAs的理解并为防御研究提供明确参考，我们首先构建了一个新颖的三维威胁模型（攻击目标、攻击知识与查询类型）以定义攻击者的能力。其次，我们提出了一种基于提取目标的精确攻击分类体系，分析了现有方法的适用性与局限性。随后，我们通过四阶段工作流程系统组织近似攻击，介绍最新方法的同时分析各阶段的优化策略。最后，我们讨论了针对QBMEAs的现有防御方法，为未来攻击与防御研究提供参考。本文揭示了当前攻击在有效性与效率方面的特征，分析了现有工作的局限性，并指出了未来研究方向，有助于防御方法开发者更深入地理解QBMEAs。
Keyword:
Model extraction attack
AI security
Model privacy
