arrow
返回

Multiple-Masks Error Correction Code Transformer for Short Block Codes

delete2025-07-01
delete0
PRE
AI
S
Seong‐Joon Park
H
Hee-Youl Kwak
S
Sang‐Hyo Kim
S
Sunghwan Kim
Y
Yongjune Kim
J
Jong‐Seon No
DOI:10.1109/JSAC.2025.3559154delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
随着深度学习应用的不断拓展,神经解码器已成为关键的研究焦点,特别是旨在提升传统解码算法的解码性能。具体而言,利用Transformer架构的错误纠正码Transformer(ECCT)在基于神经网络的解码器中达到了最先进的性能。我们提出了三项技术贡献,以显著提升ECCT的性能。首先,我们提出了一种新颖的ECCT Transformer架构,称为多掩码ECCT(MM ECCT)。我们采用具有不同掩码矩阵的多个掩码自注意力块进行并行处理,以学习码字比特之间的多样化关系。其次,我们发现基于系统奇偶校验矩阵(PCMs)构建掩码矩阵可以使注意力图变得稀疏,这不仅增强了解码性能,还降低了计算复杂度。最后,我们提出使用从系统PCM的循环排列中推导出的互补掩码矩阵。这些互补掩码矩阵专门设计用于增强循环码的解码。我们的广泛仿真结果表明,具有精心设计的掩码矩阵的所提出的MM ECCT架构在神经网络解码器中大幅优于原始ECCT,实现了最先进的解码性能。源代码可在https://github.com/iil-postech/mm-ecct获取。
Keyword:
Channel coding
error correcting code
error correction code transformer
mask matrix
transformer

期刊

IEEE Journal on Selected Areas in Communications 封面图
IEEE Journal on Selected Areas in Communications
IF:
17.2
论文数:
6.4K
被引数:
3.1W

机构

S
Seoul National University
学者数:
4.9K
论文数: 2.0K
被引数: 6.6W
S
Sungkyunkwan University
学者数:
2.8K
论文数: 1.1K
被引数: 2
U
University of Ulsan
学者数:
1.8W
论文数: 1.7W
被引数: 1.4W
K
Kyonggi University
学者数:
1.5K
论文数: 2.1K
被引数: 2.6K
学者 查看更多机构
引用论文

引用论文

err分享
err收藏
Multiple-Bases Belief-Propagation Decoding of High-Density Cyclic Codes
err2010-01-01
err34
errOAAI
errHehn, Thorsten; Huber, Johannes B.; Milenkovic, Olgica; Laendner, Stefan
err分享
err收藏
Neural Min-Sum Decoding for Generalized LDPC Codes
err2022-12-01
err2
PREAI
errKwak, Hee-Youl; Kim, Jae-Won; Kim, Yongjune; Kim, Sang-Hyo; No, Jong-Seon
err分享
err收藏
Deep Learning Methods for Improved Decoding of Linear Codes线性码改进译码的深度学习方法
err2018-02-01
err373
errOAAI
errNachmani, Eliya; Marciano, Elad; Lugosch, Loren; Gross, Warren J.; Burshtein, David; Be'ery, Yair
err分享
err收藏
Deep Learning Based Communication Over the Air基于深度学习的空中通信
err2018-02-01
err534
errOAAI
errDoerner, Sebastian; Cammerer, Sebastian; Hoydis, Jakob; ten Brink, Stephan
err分享
err收藏
Pruning Neural Belief Propagation Decoders
err2020-06-01
err0
errOAAI
errAndreas Buchberger; Christian Hager; Henry D. Pfister; Laurent Schmalen; Alexandre Graell Amat
err分享
err收藏
Multiple-Bases Belief-Propagation for Decoding of Short Block Codes
err2007-06-01
err0
PREAI
errThorsten Hehn; Johannes B. Huber; Stefan Laendner; Olgica Milenkovic
err分享
err收藏
学者 查看更多内容