.png){kind=icon}
返回
.png){kind=icon}
.png){kind=icon}
摘要
En 中文
相较于处理大型语言模型（LLM）的影响，更多努力正投入到提升其能力上。当前LLM能够生成看似与人类专家撰写文本无法区分的高质量文本。尽管这些突破具有巨大潜力，但也为教育、科学及众多其他领域中的LLM安全与伦理使用带来了新挑战。因此，现有的大多数LLM文本检测方法要么计算成本高昂，要么需要访问LLM的内部计算过程，这两点都阻碍了其公共可及性。基于此动机，本文提出了一种新颖的度量学习范式，用于检测LLM生成的文本，该范式能够在计算成本、可及性和性能之间取得平衡。具体而言，检测过程基于学习给定文本与LLM生成的等效示例之间的相似度函数，该函数对LLM-LLM文本对输出高值，对LLM-人类文本对输出低值。在架构方面，检测框架包含一个用于文本嵌入任务的预训练语言模型和一个新设计的深度度量模型。度量组件可以通过训练三元组或同一上下文实例对，来增大人类文本与LLM文本之间的距离，同时减小LLM文本之间的距离。接下来，我们开发了五个数据集，总计包含超过95,000个上下文和响应三元组，其中一人为人类生成，另两为GPT-3.5 TURBO或GPT-4 TURBO生成，用于基准测试。实验研究表明，在多个实验设置下，我们的最佳架构在测试语料库上的F1分数保持在0.87至0.95之间。该度量框架的训练和推理时间显著少于RoBERTa、LLaMA 3、Mistral v0.3和Ghostbuster，同时性能仍能保持基准最佳水平的90%至150%。
Keyword:
LLM text detection
contrastive learning
triplet learning
metric learning
期刊
IF:
9.1
论文数:
1.2K
被引数:
4.7K
机构
暂无机构信息
引用论文
.png){kind=icon}
Matrix Effects in the Detection of Pb and Ba in Soils Using Laser-Induced Breakdown Spectroscopy使用激光诱导击穿光谱检测土壤中Pb和Ba的基质效应.png)
PREAI
.png){kind=icon}
分享.png){kind=icon}
收藏Bioreductive deposition of palladium (0) nanoparticles onShewanella oneidensiswith catalytic activity towards reductive dechlorination of polychlorinated biphenyls钯 (0) 纳米颗粒在 Shewanella oneidensis 上的生物还原沉积，对多氯联苯的还原脱氯具有催化活性
PREAI
分享收藏
查看更多内容