.png){kind=icon}
返回
Generative Fuzzy System for Sequence-to-Sequence Learning via Rule-Based Inference
.png){kind=icon}
PRE
AI
DOI：10.1109/TNNLS.2025.3615650.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
生成模型（GMs），特别是大型语言模型（LLMs），因其能够通过学习训练数据的统计属性生成新数据，并创建与原始数据相似的数据，已在机器学习和人工智能领域引起了广泛关注。这一能力为各领域提供了广泛的应用。然而，GMs的复杂结构和大量模型参数使得输入-输出过程不透明，并增加了对输出的理解和控制的难度。此外，纯粹的数据驱动学习机制限制了GMs获取更广泛知识的能力。仍有巨大潜力可提升GMs的鲁棒性和泛化能力。在本工作中，我们利用模糊系统这一经典建模方法，结合数据驱动和知识驱动机制以用于生成任务。我们提出了一种新型生成模糊系统框架，命名为GenFS，该框架整合了GMs的深度学习能力以及模糊系统的基于术语的可解释性和双驱动机制。具体而言，我们提出了一种基于GenFS的端到端序列生成模型，称为FuzzyS2S。我们在12个数据集上进行了系列测试研究，涵盖三种不同的生成任务类别：机器翻译、代码生成和摘要生成。结果表明，FuzzyS2S在准确性和流畅性方面优于Transformer。此外，在部分应用场景中，其性能优于当前最优模型T5和CodeT5。
Keyword:
Fuzzy system
generative model (GM)
sequence-to-sequence
tokenizer
transformer
期刊
IF:
8.9
论文数:
7.6K
被引数:
7.2W
机构
引用论文
.png){kind=icon}
分享收藏分享收藏
查看更多内容