arrow
返回

Optimization of model parameters and hyperparameters in deep learning models for spatial interaction prediction

delete2025-03-01
delete0
PRE
AI
L
Lin Liu
X
Xiaojing Cao *
H
Hengsheng Wang
J
J. Xiang
DOI:10.1016/j.eswa.2024.126160delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
深度学习(DL)的发展为空间交互预测提供了新的方法。然而,DL模型训练面临梯度消失/爆炸和陷入局部最优的挑战。参数调优对于提升模型性能至关重要。目前,空间交互预测的研究很少关注神经网络模型的参数调优。本研究从模型参数和超参数分别优化了两种构建的空间交互预测模型,分别是基于BP神经网络的空间交互预测模型(BP-SIP)和基于时空图卷积网络的空间交互预测模型(STGCN-SIP)。我们提出了一种名为混沌差分进化灰狼算法(CDG)的优化算法,以改进差分进化灰狼优化(DEGWO)算法。对于BP-SIP模型,本研究利用CDG优化初始权重和阈值;对于STGCN-SIP模型,研究分别采用贝叶斯优化(BO)和自适应遗传算法(AGA)寻找最优超参数组合,并比较其结果。基于腾讯迁移数据的实验表明,所提出的方法有效提高了模型的准确性。CDG算法使BP-SIP模型的MSE和RMSE分别降低了22.6%和20%,R²提高了12.0%;BO和AGA分别使STGCN-SIP模型的MSE降低了26.2%和24.2%,R²提高了20.6%和15.0%。结果表明元启发式参数优化是必要且充分的。
Keyword:
Deep learning model
Parameter optimization
Differential Evolution Grey Wolf Optimization
Bayesian Optimization
Adaptive Genetic Algorithm

期刊

Expert Systems with Applications 封面图
Expert Systems with Applications
IF:
7.5
论文数:
3.0W
被引数:
10.2W

机构

S
Shandong University of Science and Technology
学者数:
5.4K
论文数: 1.9K
被引数: 1.5W
引用论文

引用论文

err分享
err收藏
Exploring Transformer and Graph Convolutional Networks for Human Mobility Modeling
errSENSORS
IF3.5
err2023-05-16
err6
errOAAI
errCorrias, Riccardo; Gjoreski, Martin; Langheinrich, Marc
err分享
err收藏
err分享
err收藏
err分享
err收藏
Slime Mould Algorithm-Based Tuning of Cost-Effective Fuzzy Controllers for Servo Systems
err2021-01-01
err0
errOAAI
errRadu-Emil Precup; Radu-Codrut David; Raul-Cristian Roman; Emil M. Petriu; Alexandra-Iulia Szedlak-Stinean
err分享
err收藏
学者 查看更多内容