Text Reconstruction Attack via Internal Realignment in Split Learning for Consumer Devices

Wei Zhou

doi:10.1109/tce.2026.3736094

Text Reconstruction Attack via Internal Realignment in Split Learning for Consumer Devices

2026-09-22

0

PRE

AI

Mohammad Sayad Haghighi

DOI：10.1109/tce.2026.3736094

原文链接

原文求助

摘要

En 中文

自然语言处理（NLP）被广泛嵌入到消费级应用中，如智能手表、辅助翻译系统和其他智能服务。这些应用通常会处理敏感的用户数据，引发严重的隐私担忧。分割学习（SL）已被提出以减轻数据暴露问题。然而，在分割学习环境下，NLP应用对文本重建攻击的鲁棒性仍缺乏研究。本文研究了在消费电子产品中部署分割学习的NLP应用所面临的文本重建攻击。我们首先从计算机视觉领域借鉴重建方法，并证明现有的NLP模型对这些攻击具有较强的抵抗力。随后，我们提出了一种专门针对NLP的新型内部对齐攻击（IRA），该攻击结合了在公开数据上训练的反向解码器与迭代对齐机制，以准确从被盗嵌入中重建文本。在多个数据集（Microsoft机器阅读理解、Amazon评论、Quora和Natural Questions）和嵌入模型（BGE、GTR、MPNet和E5）上的实验证明了该方法的有效性。我们的攻击显著优于基线方法，BLEU分数提升了27.64到97.91。我们还讨论了防御IRA的潜在策略并分析了其局限性。

Keyword:

Split learning

Text reconstruction attacks

Consumer Device

Privacy

Security

Text Reconstruction Attack via Internal Realignment in Split Learning for Consumer Devices

摘要

期刊

机构

引用论文