.png){kind=icon}
返回
Heterogeneous Information-Driven Contrastive Optimization for Abstractive Summarization
.png){kind=icon}
PRE
AI
DOI：10.1007/s10796-026-10704-8.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
摘要生成任务旨在生成一个简洁且准确的摘要，有效捕捉输入文档的关键信息。近年来，大型语言模型（LLMs）已作为开发领域特定摘要系统的基座模型出现。尽管这些模型有效，但也倾向于继承LLMs产生的幻觉。此外，摘要系统中训练目标与推理协议之间的根本性不一致问题尚未得到有效解决。为解决这两个问题，我们引入了异构信息驱动的对比优化方法用于摘要生成（HICON）。所提出的方法将经典的张量积表示（Tensor-Product Representation）整合到摘要生成中，使模型能够捕捉源文档的句法信息。通过整合句法信息与语义特征，摘要模型能够对文档进行细粒度理解，从而生成更忠实于原文的摘要。针对不一致性问题，HICON选择生成的摘要作为训练样本，并整合对比学习损失与生成损失，以弥合训练与推理之间的差距。实验结果表明，我们的方法在CNN/Daily Mail数据集上达到了新的最优性能，R-1得分为49.22。进一步分析显示，HICON生成的摘要与源文档的相关性更高，流畅性更强，且错误更少。
Keyword:
Abstractive summarization
Hallucination
Semantics-syntax guidance
Contrastive learning
期刊
IF:
8.3
论文数:
2.0K
被引数:
6.5K
机构
引用论文
Don’t Give Me the Details, Just the Summary! Topic-Aware Convolutional Neural Networks for Extreme Summarization不要给我细节，只是总结!面向极端摘要的主题感知卷积神经网络
OAAI
OAAI分享收藏Adapted large language models can outperform medical experts in clinical text summarization适应的大型语言模型在临床文本摘要方面可以胜过医学专家.png)
NATURE MEDICINEOAAI
NATURE MEDICINEIF50
OAAI分享收藏
查看更多内容