Layer Separation Deep Learning Model with Auxiliary Variables for Partial Differential Equations

doi:10.1016/j.jcp.2025.114414

Layer Separation Deep Learning Model with Auxiliary Variables for Partial Differential Equations

2025-10-01

0

PRE

AI

刘亚茹 (Yaru Liu)

Y

Yiqi Gu

DOI：10.1016/j.jcp.2025.114414

原文链接

原文求助

摘要

En 中文

本文提出了一种新的优化框架——层分离（LySep）模型，用于改进基于深度学习的方法求解偏微分方程。由于深度学习中损失函数的高度非凸特性，现有优化算法通常收敛到次优局部极小值，或遭受梯度爆炸或消失问题，导致性能不佳。为解决这些问题，我们引入辅助变量以分离深度神经网络各层。具体而言，每层的输出及其导数由辅助变量表示，从而将深层架构有效分解为一系列浅层架构。建立了包含辅助变量的新损失函数，其中仅耦合相邻两层的变量。开发了基于交替方向的相应算法，允许以封闭形式最优更新多个变量。此外，我们提供了理论分析，证明了LySep模型与原始深度模型的一致性。高维数值结果验证了我们的理论，并展示了LySep在最小化损失和减少解误差方面的优势。

Layer Separation Deep Learning Model with Auxiliary Variables for Partial Differential Equations

摘要

期刊

机构

引用论文