返回
U-Shaped Error Correction Code Transformers
DOI:10.1109/TCCN.2024.3482349.png)
摘要
En 中文
在本工作中,我们结合权重共享,引入了两种U型纠错码变换器(U-ECCT)的变体,以提高中等长度线性码的纠错码变换器(ECCT)的解码性能。所提出的模型受到著名的U-Net架构的启发,利用基于基于伴随式可靠性的解码原则的残差信息,以实现更快的错误估计。为进一步提高U-ECCT的通用解码性能,我们提出了变分U-ECCT(VU-ECCT),其中学习快捷连接的过程被视为一个生成问题,形成一个与现有U-ECCT模型交织存在的变分自编码器(VAE)。这种设计允许提取U型架构不同层级之间的互信息,从而增强低码率码的大伴随式序列的性能。此外,为进一步减小模型尺寸,提出了一种新的权重共享策略,称为镜像共享,以压缩模型尺寸并补充所提出的U型架构的机制。在实验中,已经证明我们提出的模型比基线传统算法和其他基于学习的模型实现了显著更好的性能。
Keyword:
Transformer
error correction code transformer (ECCT)
mirror-sharing
variational autoencoder (VAE)
U-Net
期刊
I
IF:
7
论文数:
1.6K
被引数:
5.5K
机构
引用论文
A Transformer-Based Contrastive Semi-Supervised Learning Framework for Automatic Modulation Recognition基于Transformer的对比半监督学习自动调制识别框架
Reduced complexity iterative decoding of low-density parity check codes based on belief propagation基于置信传播的低密度奇偶校验码迭代译码复杂度降低
Transformer-Empowered 6G Intelligent Networks: From Massive MIMO Processing to Semantic Communication变压器赋能的6g智能网络: 从大规模MIMO处理到语义通信

