GhostBackdoor: A Resistant Backdoor Attack

doi:10.1109/JIOT.2026.3680800

GhostBackdoor: A Resistant Backdoor Attack

2026-04-03

0

PRE

AI

DOI：10.1109/JIOT.2026.3680800

原文链接

原文求助

摘要

En 中文

人工智能（AI）系统的鲁棒性、安全性和安全性已成为日益增长的担忧，特别是在深度学习（DL）模型越来越多地部署在关键应用中时。在新兴威胁中，后门攻击通过在表现良好的模型中嵌入隐藏的恶意行为而构成严重风险。尽管检测技术的最新进展已改进了计算机视觉系统的防御能力，但我们的研究发现，即使是简单但精心设计的污染策略也能成功规避这些防御。在本文中，我们介绍了GhostBackdoor，一种使用自定义损失函数和目标数据增强训练的新型后门模型。所提出的损失函数对齐干净输入和污染输入之间的神经元激活，有效掩盖激活异常，而增强则强制实施严格的位置和模式特定触发器，这些触发器仅在特定条件下激活后门。训练后，该模型的行为与干净模型无法区分，除非接触到具有特定模式和设计位置的指定触发器。我们评估了GhostBackdoor对一系列领先的防御机制，其中大多数未能检测到植入的后门。我们的结果表明，DL模型的广阔假设空间可以被利用来隐藏恶意激活，强调了在AI驱动系统中需要更强大的安全策略，包括在物联网（IoT）应用中使用的系统。

Keyword:

Adversarial robustness

backdoor attacks

deep learning (DL)

Internet of Things (IoT)

model security

secure artificial intelligence (AI) systems

GhostBackdoor: A Resistant Backdoor Attack

摘要

期刊

机构

引用论文