返回
Large-scale text-to-SQL generation with adversarial defense
DOI:10.1016/j.ins.2025.122942.png)
摘要
En 中文
大规模文本到SQL模型易受自然语言查询(NLQ)和数据库模式中的扰动影响。现有研究大多关注输入序列的对抗攻击,而忽视了防御。本文认为,防御技术更为关键,因为它们能应对多样化的攻击。基于此,我们提出,大规模文本到SQL中的对抗防御比传统鲁棒性更具挑战性。我们还引入了两项指标来统计评估防御性能。我们提出了一种从信息论角度出发的认证鲁棒方法框架,以解决新问题。一个新颖组件是正则化器(MIR),它使用主动随机掩码提取局部特征并最大化其与全局特征的互信息,确保理论鲁棒性。另一个新组件是基于Transformer的模式链接(TSL)算法,它增强了对抗设置下的问题模式对齐。为支持其监督训练,我们提出了Spider-SL,一个从Spider派生的新细粒度对齐数据集。我们在涵盖20种扰动攻击的五个基准上评估了我们的方法。据我们所知,结果表明,我们的模型仅使用3B参数,就实现了最先进的鲁棒性和学习性能。本研究为文本到SQL的鲁棒性提出了新的研究方向。我们的代码可在:https://github.com/iliaohai/infosql。
Keyword:
Large-scale text-to-SQL
Robust adversarial defense
Mutual information
Schema linking
Semantic parsing
期刊
IF:
6.8
论文数:
553
被引数:
6.2W

