arrow
返回

Data reduction for big data application in IOT

delete2025-12-01
delete0
PRE
AI
S
Selvaraj, Isaac Britto *
V
Vadivelu, Balaprakash
R
Robert Paulraj, Charles Silvester Joe
DOI:10.1007/s12597-025-01071-0delete
delete原文链接
delete原文求助
delete分享
delete收藏
摘要

摘要

En 中文
物联网(IoT)的快速发展催生了大规模、异构和高维数据的产生,这些数据在有效存储、传输和处理方面带来了显著挑战。传统数据处理工具在处理此类大数据时并不总能有效工作,从而导致计算成本上升和系统响应性降低。本文通过引入结合主成分分析(PCA)与t-分布随机近邻嵌入(t-SNE)的混合降维模型,解决了高维物联网(IoT)大数据环境下的数据管理问题。该结构利用PCA的线性特征提取能力和t-SNE的非线性流形学习,以实现更好的数据压缩并推断必要的数据结构信息,从而实现物联网系统更具可扩展性和可靠性的分析。所提出的框架采用Python编写,并在Kaggle Cats vs. Dogs图像数据集上进行了测试,该数据集是高维物联网数据的典型示例。通过预处理、多级降维和基于支持向量机(SVM)的分类来评估实证研究的性能。实验表明,混合PCA-t-SNE模型相较于传统PCA在数据降维效率上实现了5%的相对提升,通过下采样将原始特征空间从145,800维压缩至450维,且在不同降维级别(Rank-1至Rank-32)下分类准确率无明显变化。上述结果证实,引入的混合模型在减少冗余、最大化计算效率及保持分析准确性方面具有效用。该研究为物联网数据分析提供了一个可重构和可扩展的基础,有望在智能传感、边缘计算和实时决策系统中占据主导地位。
Keyword:
IoT
Big data
PCA
t-SNE
Python
Data reduction

期刊

O
Opsearch
IF:
1.8
论文数:
182
被引数:
1.0K

机构

H
hindusthan college of arts & science
学者数:
60
论文数: 53
被引数: 0
引用论文

引用论文

err分享
err收藏
Innovations in Genomics and Big Data Analytics for Personalized Medicine and Health Care: A Review个性化医疗和医疗保健的基因组学和大数据分析创新: 综述
err2022-04-22
err0
errOAAI
errMubashir Hassan; Faryal Mehwish Awan; Anam Naz; Enrique J. deAndrés-Galiana; Oscar Alvarez; Ana Cernea; Lucas Fernández-Brillet; Juan Luis Fernández-Martínez; Andrzej Kloczkowski
err分享
err收藏
A Survey on IoT Big Data: Current Status, 13 V's Challenges, and Future Directions
err2020-12-06
err50
PREAI
errBansal, Maggi; Chana, Inderveer; Clarke, Siobhan
err分享
err收藏
Applicability of Big Data Techniques to Smart Cities Deployments
err2017-04-01
err93
errOAAI
errVictoria Moreno, M.; Terroso-Saenz, Fernando; Gonzalez-Vidal, Aurora; Valdes-Vela, Mercedes; Skarmeta, Antonio F.; Zamora, Miguel A.; Chang, Victor
err分享
err收藏
Recommendation Based on Large-Scale Many-Objective Optimization for the Intelligent Internet of Things System
err2022-08-15
err75
PREAI
errCao, Bin; Zhang, Yatian; Zhao, Jianwei; Liu, Xin; Skonieczny, Lukasz; Lv, Zhihan
err分享
err收藏
Big data and IoT-based applications in smart environments: A systematic review
err2021-02-01
err171
errOAAI
errHajjaji, Yosra; Boulila, Wadii; Farah, Imed Riadh; Romdhani, Imed; Hussain, Amir
err分享
err收藏
Big Data Analytics in Industrial IoT Using a Concentric Computing Model
err2018-02-01
err94
PREAI
errRehman, Muhammad Habib ur; Ahmed, Ejaz; Yaqoob, Ibrar; Hashem, Ibrahim Abaker Targio; Imran, Muhammad; Ahmad, Shafiq
err分享
err收藏
学者 查看更多内容