.png){kind=icon}
返回
Auditing unauthorized training data from AI generated content using information isotopes
.png){kind=icon}
OA
AI
DOI：10.1038/s41467-026-68862-x.png)
.png){kind=icon}
.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
人工智能系统的快速增长得益于大规模人类数据，这加剧了对模型训练过程中未经授权使用知识产权和敏感隐私内容的担忧。审计此类滥用行为尤其具有挑战性，因为主流AI服务以黑盒形式运行，仅暴露生成输出而隐藏其训练和推理过程。受化学同位素追踪的启发，本研究引入了“信息同位素”的概念，用于追踪不透明AI系统中的训练数据。我们提出了一种信息同位素追踪框架，该框架能选择性标记目标数据元素并检测其在模型输出中的传播，在黑盒访问条件下提供数据利用的确切证据。在六个数据集上的十三种AI模型的实验表明，我们的方法使用约4,000个单词的证据，可将训练数据与非训练数据区分开，准确率高达99%，且具有强统计显著性（p < 0.01）。已发布开源工具以支持实际数据权利保护。本文中，作者介绍了信息同位素，这是一种用于追踪黑盒AI系统中未经授权训练数据的创新框架，为审计数据来源和保护数据权利提供了实用工具。
Keyword:
Computer science
Ethics
Intellectual-property rights
Science
Humanities and Social Sciences
multidisciplinary
AI总结
对已上传原文的论文进行重点信息的提取，主要内容包括：简要概述、研究摘要、背景介绍、关键亮点、图文解析、展望与总结。
期刊
IF:
15.7
论文数:
9.4W
被引数:
91.2W
机构
引用论文
Adapted large language models can outperform medical experts in clinical text summarization适应的大型语言模型在临床文本摘要方面可以胜过医学专家.png)
NATURE MEDICINE
OAAI
NATURE MEDICINEIF50
OAAI分享收藏Why ‘open’ AI systems are actually closed, and why this matters为什么“开放”的AI系统实际上是被封闭的，以及为什么这一点很重要NatureOAAI
NatureIF0
OAAI分享收藏分享收藏
查看更多内容