返回
Data reduction for big data application in IOT
DOI:10.1007/s12597-025-01071-0.png)
摘要
En 中文
物联网(IoT)的快速发展催生了大规模、异构和高维数据的产生,这些数据在有效存储、传输和处理方面带来了显著挑战。传统数据处理工具在处理此类大数据时并不总能有效工作,从而导致计算成本上升和系统响应性降低。本文通过引入结合主成分分析(PCA)与t-分布随机近邻嵌入(t-SNE)的混合降维模型,解决了高维物联网(IoT)大数据环境下的数据管理问题。该结构利用PCA的线性特征提取能力和t-SNE的非线性流形学习,以实现更好的数据压缩并推断必要的数据结构信息,从而实现物联网系统更具可扩展性和可靠性的分析。所提出的框架采用Python编写,并在Kaggle Cats vs. Dogs图像数据集上进行了测试,该数据集是高维物联网数据的典型示例。通过预处理、多级降维和基于支持向量机(SVM)的分类来评估实证研究的性能。实验表明,混合PCA-t-SNE模型相较于传统PCA在数据降维效率上实现了5%的相对提升,通过下采样将原始特征空间从145,800维压缩至450维,且在不同降维级别(Rank-1至Rank-32)下分类准确率无明显变化。上述结果证实,引入的混合模型在减少冗余、最大化计算效率及保持分析准确性方面具有效用。该研究为物联网数据分析提供了一个可重构和可扩展的基础,有望在智能传感、边缘计算和实时决策系统中占据主导地位。
Keyword:
IoT
Big data
PCA
t-SNE
Python
Data reduction
期刊
O
IF:
1.8
论文数:
182
被引数:
1.0K
机构
引用论文
The Role of IoT and Big Data in Modern Technological Arena: A Comprehensive Study物联网和大数据在现代技术领域中的角色:一项全面研究
Towards Disaster Resilient Smart Cities: Can Internet of Things and Big Data Analytics Be the Game Changers?走向抗灾智慧城市: 物联网和大数据分析能改变游戏规则吗?
IEEE ACCESS
IF3.6
Evaluation of distributed stream processing frameworks for IoT applications in Smart Cities面向智慧城市物联网应用的分布式流处理框架评估
JOURNAL OF BIG DATA
IF6.4
Innovations in Genomics and Big Data Analytics for Personalized Medicine and Health Care: A Review个性化医疗和医疗保健的基因组学和大数据分析创新: 综述
Big data and IoT-based applications in smart environments: A systematic review
COMPUTER SCIENCE REVIEW
IF12.7

