返回
Mixed-precision fully-connected tensor network decomposition
DOI:10.1016/j.aml.2026.110068.png)
摘要
En 中文
全连接张量网络(FCTN)分解因其能够捕捉任意两个因子之间的交互作用而获得了广泛关注,这带来了强大的表示能力。然而,FCTN分解的高计算复杂度阻碍了其广泛应用。为解决此问题,我们提出了一种新颖的混合精度梯度下降FCTN分解算法(FCTN-MPGD)以加速FCTN分解。具体而言,我们首先采用低精度梯度下降(GD)以低成本获得一个良好的初始点,然后利用高精度GD实现快速收敛。所提方法不仅显著减少了计算时间,还保持了高精度。理论上,我们还提供了严格分析以证明所提FCTN-MPGD的收敛性质。在合成张量数据集和真实世界张量数据集上的大量实验验证了我们的FCTN-MPGD比高精度FCTN分解方法实现了显著更高的效率。
Keyword:
Mixed-precision computation
Tensor network decomposition
Gradient descent
期刊
IF:
2.8
论文数:
579
被引数:
1.1W
机构
引用论文
暂无论文信息

