arrow
返回

U-Shaped Error Correction Code Transformers

delete2025-06-01
delete0
PRE
AI
D
Dang-Trac Nguyen
S
Sunghwan Kim
DOI:10.1109/TCCN.2024.3482349delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
在本工作中,我们结合权重共享,引入了两种U型纠错码变换器(U-ECCT)的变体,以提高中等长度线性码的纠错码变换器(ECCT)的解码性能。所提出的模型受到著名的U-Net架构的启发,利用基于基于伴随式可靠性的解码原则的残差信息,以实现更快的错误估计。为进一步提高U-ECCT的通用解码性能,我们提出了变分U-ECCT(VU-ECCT),其中学习快捷连接的过程被视为一个生成问题,形成一个与现有U-ECCT模型交织存在的变分自编码器(VAE)。这种设计允许提取U型架构不同层级之间的互信息,从而增强低码率码的大伴随式序列的性能。此外,为进一步减小模型尺寸,提出了一种新的权重共享策略,称为镜像共享,以压缩模型尺寸并补充所提出的U型架构的机制。在实验中,已经证明我们提出的模型比基线传统算法和其他基于学习的模型实现了显著更好的性能。
Keyword:
Transformer
error correction code transformer (ECCT)
mirror-sharing
variational autoencoder (VAE)
U-Net

期刊

I
IEEE Transactions on Cognitive Communications and Networking
IF:
7
论文数:
1.6K
被引数:
5.5K

机构

U
University of Ulsan
学者数:
1.8W
论文数: 1.7W
被引数: 1.4W
K
Kyonggi University
学者数:
1.5K
论文数: 2.1K
被引数: 2.6K
引用论文

引用论文

Neural Belief Propagation Auto-Encoder for Linear Block Code Design
err2022-11-01
err3
errOAAI
errLarue, Guillaume; Dufrene, Louis-Adrien; Lampin, Quentin; Ghauch, Hadi; Othman, Ghaya Rekaya-Ben
err分享
err收藏
Innovative Variational AutoEncoder for an End-to-End Communication System
err2023-01-01
err6
errOAAI
errAlawad, Mohamad A.; Hamdan, Mutasem Q.; Hamdi, Khairi A.
err分享
err收藏
err分享
err收藏
Feedback Turbo Autoencoder
err2020-05-01
err0
PREAI
errYihan Jiang; Hyeji Kim; Himanshu Asnani; Sewoong Oh; Sreeram Kannan; Pramod Viswanath
err分享
err收藏
学者 查看更多内容