物联网数据挖掘论文

2022-04-17

摘要:在现代信息技术中物联网是非常重要的一部分,物联网的出现推动了人类社会的发展进程。随着物联网的大规模应用,物联网数据挖掘技术的优势也逐渐凸显,但是任何事物的发展过程都是曲折的,物联网数据挖掘也面临着更为严峻的挑战,对云平台下物联网数据挖掘的探究,有助于其技术优化与升级。以下是小编精心整理的《物联网数据挖掘论文(精选3篇)》,欢迎大家借鉴与参考,希望对大家有所帮助!

物联网数据挖掘论文 篇1:

基于云计算的物联网数据挖掘模式分析

【摘 要】随着科学技术的不断发展,信息通信行业也进行了快速的发展,其中基于云计算的物联网发展越来越受到人们的重视。下面本文就对基于云计算的物联网数据挖掘模式进行分析,以能够为其发展提供一定的参考资料。

【关键词】云计算;物联网;数据挖掘模式

随着现代化科技的快速发展,信息的通信以进入大容量快传输的阶段,基于云计算的物联网也开始备受科技人士的关注。物联网就是一个物与物相连的网络,简单的说是互联网从人向物的一种延伸。物联网中产生的大量数据是和时间与空间相关联的,有着动态、异构和分布的特性,这些对于物联网的数据挖掘工作来说是很困难的,因此下面我们就给大家介绍:基于云计算的物联网数据挖掘模式,这将对其数据的挖掘工作带来很大的便利[1]。

一、基于云计算的物联网特性

社会的发展必将挑战科技的最大进步,近几年物联网产业就在高科技的带动下迅猛发展。物联网其实就是一个分布广泛而且巨大的物与物相连的网络,可以用来监控我们现实世界中的各种对象,许许多多的应用终端也被接入物联网中,包括交通设施和建筑物还有湖泊等等。但是随着各种各样的异构终端设备的接入,我们的物联网采集的数据量也就会越来越大,其数据类型和数据格式也会越来越复杂,运用传统的数据挖掘方法已经无法直接应用于物联网之中了,因此为了解决以上这些问题,我们提出了一种关于物联网数据挖掘的基于云计算的系统。

其实在现实网络中,在物联网中的数据有着高度的动态性和异构性,物联网的数据还和时间与空间有密切的联系,而这些恰恰会给物联网的数据挖掘带来了很大的困扰,要知道物联网数据的挖掘很耗费时间和内存,且还效率低下。于是,云计算的物联网数据挖掘模式就被提出来了[2]。基于云计算的物联网数据挖掘方法,就是在用云计算来作为支持的技术平台上,再构建可以面向物联网的分布式时空数据库,再在这个数据库的基础上搭建可以面向拥有海量数据物联网系统的数据挖掘模型。基于云计算的数据挖掘就是通过分析,表明该数据挖掘模型可以很有效的实现物联网中的数据挖掘任务。

在物联网的数据量大而且高度动态性与异构性,还有数据类型复杂和复杂时空特性等特点的基础上,都将会为以后数据挖掘带来新的挑战,有了基于云计算的物联网技术,这些问题就可以破刃而解了[3]。

二、基于云计算的数据挖掘模型

基于云计算的数据挖掘的平台就是能够提供动态资源池和虚拟化跟高可用性的计算平台。云计算的数据挖掘平台可被用来开发高性能的应用程序,可以利用云计算来进行数据挖掘。

物联网中在基于云计算的数据挖掘系统设计的过程力,先由软件的分层设计思想,将基于云计算的数据挖掘系统的层次自顶向下划分为:用户层、任务层和算法层。在这个平台当中,软件的底层可以透明的为它的上层提供服务,上层就可以通过其层间的开放接口来调用下层的服务,这样就使得层与层之间的功能相对的做到独立,这样设计是易于对数据挖掘系统的二次开发,还在设计算法层的过程中设计了多层插件的框架结构,这样增加了算法的实现和维护的灵活性[4]。基于云计算的物联网数据挖掘既要满足物联网数据的复杂类型还要满足物联网数据的高动态性,故此,这样设计的基于云计算的物联网数据挖掘模式最合适。

图1 物联网(IOT)多层数据挖掘模型

三、基于云计算的物联网数据挖掘模式分析

物联网的數据挖掘模式要依据物联网环境而定,由于物联网数据的复杂性和物物关联等特性不同,这些都将导致物联网的建模方式会和传统方式有很大得差异。基于云计算的物联网数据挖掘模式就是先分析物联网的数据特性,然后再提出适合的解决方案跟正确的思路,再总结出合适的数学模型。物联网的数据的特点如下:关联性、信息量大(海量)、质量差、时空性还有非结构性,这和传统的数据挖掘领域完全不同。

图2 和时空相关的物联网

物联网数据的时空性,原始数据通常就是从一个四维空间中的时空网络里收集出来的,其抽象示意图如上所示,其中的每个点就可以代表物联网中的一个个体,每一条边就可以代表物联网的物物相联关系。

在物联网的应用中,物联网的数据会发生成批成片的丢失和错误,对于这种物联网的数据出错与丢失的可能是随机的也可能是系统的,基于云计算的物联网数据挖掘模式应考虑到数据的丢失和错误的问题,我们给出的解决方案应该能够容忍数据的错误和丢失。在基于物联网的数据挖掘应用建模时,我们还应当充分考虑如何表达物理的个体之间的关系,物理个体如果是间接的关系我们就可以通过拉普拉斯变换模型或SVD模型推导出来。其中直接的关系很重要,物联网数据挖掘模式本身应该有能力来充分表达出直接关系,这将会方便推理出间接关系[5]。

基于超图的物联网数据模型。超图中一个边可以和任意多的点联结,使用超边可以来表示在物联网中的错综复杂的关联关系。点集合X={v1,v2,v3,v4,v5,v6,v7}超边集合E={e1,e2,e3,e4}={{v1,v2,v3},{v2,v3}。

基于马尔可夫链的模型。就是在马尔可夫链模型下,想要预测将来要发生的事情的几率,只需要根据当前的知识或信息,过去的知识或信息对于预测将来是无关的。在物联网的数据应用中很多都属于这一类问题。

稳定的可外推非参数模型。在物联网数据的应用中,物理建模需要先了解事物间的关系,再建立数学模型老描述数量上的关系,但是物联网的数据丢失或出错、数据复杂度高的问题,使用传统的物理建模方法会有很大局限性。

四、隐马尔科夫链的数据挖掘模式构建

图3 诊断系统的结构图

基于云计算的物联网数据挖掘中,隐马尔可夫模型(HMM)就是马尔可夫链的一种,是一个双重随机过程,有一定状态数的隐马尔可夫链和显示随机函数集,它的状态能通过观测向量序列观察到,其每一个观测向量都是由一个具有相应概率密度分布的状态序列产生的。一个完整的隐马尔可夫模型(HMM)包括先隐藏状态集,再状态转移概率分布,然后观察量集合和观察量概率分布,最后初始状态概率分布。

物联网的数据在马尔可夫链模型下,想要预测将来可以通过当前的知识或信息来获取。对于物联网中的数据在理想的情况下,当设备的所有动力学特征跟测量过程中都可以建立准确的模型描述,那么我们就可以根据系统的状态估计和残差信号的统计分析,采用各种方案实现故障分类。对于大型的复杂系统,系统面对的大部分分类观察量都会有随机的因素,因此很难找到这样一个可靠的系统模型,可以使用隐马尔可夫链模型检测。隐马尔可夫模型是一种基于当前信息和知识的预测,它的结果对物联网来说有很重要的统计学意义,是一种实现数据挖掘的重要模式。

五、结论

物联网的数据挖掘模式大大改观了计算机中信息传输的方式,物联网具有有改变世界的潜能。由上可知,随着物联网技术的发展,基于云计算的物联网数据挖掘模式,可以解决物联网在数据挖掘方面的问题,不仅可以解决数据存储中节点失效,还降低了数据传输的时间,大大的提高了挖掘的效率,使物联网系统能够真正的面向商业运用,为企业的商业决策服务。

参考文献:

[1]蒋智毅.基于管理学基础理论的云计算应用[J].中国管理信息化,2011(21):216-217.

[2]张海江,赵建民,朱信忠,等.基于云计算的物联网数据挖掘[J].微型电脑应用,2012(6):842-843.

[3]金龙.云计算环境中的数据挖掘存储管理设计[J].软件工程师,2012(12):183-184.

[4]李志宇.物联网技术研究进展[J].计算机测量与控制,2012(06):349-350.

[5]陈磊,王鹏,董静宜,等.基于云计算架构的分布式数据挖掘研究[J].成都信息工程学院学报,2010(6):268-269.

作者简介:张旺军(1981—),男,现供职于福建泰克通信有限公司,研究方向:移动通信系统。

作者:张旺军

物联网数据挖掘论文 篇2:

基于云计算平台的物联网数据挖掘探析

摘  要:在现代信息技术中物联网是非常重要的一部分,物联网的出现推动了人类社会的发展进程。随着物联网的大规模应用,物联网数据挖掘技术的优势也逐渐凸显,但是任何事物的发展过程都是曲折的,物联网数据挖掘也面临着更为严峻的挑战,对云平台下物联网数据挖掘的探究,有助于其技术优化与升级。

关键词:云计算;物联网;数据挖掘;Hadoop

0  引  言

对物联网技术的研究是信息化时代不断发展的结果,物联网技术在人类生产与生活中的影响逐渐增大,基于云计算平台的物联网数据挖掘也成为了研究热点。云计算的出现,为物联网数据挖掘的发展提供了广阔的空间,也促进了社会各个生产领域的信息化建设,其强大的IT技术支撑能力与数据挖掘分析能力,为人们提供了巨大便利。

1  物联网与云计算概述

1.1  什么是物联网

物联网属于新生代网络,用万亿节点表示对象,在不同传感器设备、网络服务器、超级计算机集群中进行数据的传递、汇总、应用。此新型科技,既包含计算机技术、通信技术,又展示了网络的发展方向。物联网中可通过对物理对象的利用,形成无缝信息网络,促进业务流程的有序运行。利用网络服务可加强“智能对象”之间的联系,在安全保障下,解决用户不同需求。

物联网的整体特征可概括为三大点:

(1)充分利用现有技术感知信息,利用电子标签了解基本信息;

(2)为信息的传递提供可靠性,如:同时包括有线网络信息输出与无限网络信息传输,比较常见的是利用传感器网络、其他通信等获取、传递,并确保信息传递的可靠性;

(3)在云计算的模式下进行数据智能处理,通过模糊识别等技术对海量异构数据进行高效处理,提升信息整合的有效性,保证数据运用效率,实现智能化控制物体。

1.2  什么是云计算

1.2.1  云计算概念

互联网计算的不断应用与发展,逐渐形成了一种新型的计算公式,即为云计算。云计算具有强大的功能,结合互联网自治等性能,加强了用户管理能力,并且可以按照制定需要进行计算。

云计算技术以分布式作为计算平台,在大量数据中挖掘数据背后蕴藏的价值,大大提升数据挖掘的有效性。采用分布式数据处理方法,可从分布式存储、并行计算两方面双管齐下,有效的解决数据存储、计算、容错等内容要求,进而保证数据具有安全性、高性能等特点。在此基础上,由谷歌提出的分布式文件系统理论并在行业中逐渐发展起来,此系统称之为GFS,可深层次解决数据搜索、存储、分析等问题要求。而行业中,由Google研发的开源系统逐渐发展成为了Hadoop分布式文件系统(HDFS)、Kosmos文件系统(KFS)等,组建成为丰富的分布式数据存储系统体系。

通过分布式并行计算系统框架完成挖掘数据背后价值的任务,现阶段常见的分布式并行计算框架可实现封装技术细节,进而保证用户在进行数据提取时,仅需关注任务的逻辑要求,不需考虑过多技术细节,进而提升了数据的研发效率,有效控制并降低了系统维护所需成本。常见的分布式并行计算框架包括MapReduce并行計算框架、Pregel迭代处理计算框架等,行业市场流行的开源云计算平台主要包括:Hadoop平台、Enomalism云计算平台、abiCloud等。

1.2.2  Hadoop概述

Apache软件基金会开发研制出的Hadoop,主要是由分布式系统构成的基础性框架,现阶段应用为其他运算法的研发平台,如:通过有效的技术研发,为云计算提供了良好支持,用户通过此软件提高了应用效率,同时该软件的应用也大大保证了分布式程序的开发,实现了应用价值。Hadoop平台以集群方式,利用开源优势向使用者提供强大的信息存储、数据运算功能。由此可见,分布式Hadoop可为IT产业提供Linux系统,并促进其发展。HDFS和MapReduce是Hadoop系统的应用核心,在良好的计算与储存环境下,能够提高数据应用能力。

HDFS容错性高、伸缩性强,可满足用户将Hadoop部署在不同硬件系统中的要求,进而形成分布式文件系統,不断提高文件的质量。在MapReduce编程模型下,一些系统底层的用户实现了应用程序的不断研究与开发,通过进一步实践,相关的数据信息能够同MapReduce实现整合,从而提升数据分析的高效性、数据处理的准确性。Hadoop进一步搭建了分布式计算云平台,提高了技术应用效率,可以为用户挖掘计算机资源提供方便,为处理海量数据提供集群计算功能、存储功能。

2  数据挖掘技术研究

2.1  什么是数据挖掘技术

相对来说,数据挖掘存在一定的局限性,其发展、形成时间较短,自上个世纪90年代发展以来,逐渐扩展了应用范围,其不仅有利于信息处理,同时对生产生活等各个方面都有重要意义。现阶段,挖掘数据的相关技术不仅属于科学研究领域,同时属于多元化的技术交叉领域,因此在各行各业中都有充分利用数据挖掘技术,不断对此技术进行完善与发展的情况。综合实际情况,部分学者总结,现代化的信息挖掘、数据挖掘含义包括:

(1)在真实的基础上不断丰富数据,实现大量的海量的数据资源库;

(2)利用对数据的挖掘、汇聚信息、分析价值,为更多行业提供服务,满足不同行业的数据需求,为生活提供便利;

(3)更容易被人们理解、接受、运用,可为决策提供依据,可通过对数据的分析判断,提升决策的科学准确性。

2.2  数据挖掘技术的特征

在物联网挖掘数据价值的过程中,主要技术手段呈现出规模化、分布化的特点,可有效的利用有限的资源节点,保障数据运用的安全性。因此,物联网依据数据的分布性将数据存储于不同位置中,每处数据具有属于自己的独特归类。同时物联网数据大量且冗杂,往往需要其自身带有大量传感器节点,进而提升处理重要节点信息的时效性。

2.3  物联网数据挖掘面临的挑战

物联网有一定的自身运行特点,需要结合其运行模式、运营规律等应用优势,在任何新技术发展的过程中都存在一定的挑战,物联网也不例外,其面对的主要挑战包括:

(1)物联网缺乏有序的数据存储章法,杂乱无章,主要是以中央管理为主,缺乏对分布式数据的探知能力;

(2)数据存储规模较大,及时处理信息存在节点,以中央处理模式为核心,需要高质量的、高性能的计算机硬件设备,现有基础设备不完善,难以保证数据信息挖掘的有效性;

(3)随着不断增加的数据利用率,数据节点需求增加,可满足需求的节点日渐减少,需要与供给之间的矛盾增加,需要引入新技术弥补完善此类问题,需要采用新技术不断解决数据使用的实际问题;

(4)存在较多的不稳定影响因素,数据安全性、网络稳定性、信息保密性等都影响物联网的运行,需要在发展过程中逐一解决。

由此可见,挖掘物联网的实际价值,发挥物联网的数据应用效益,需要建立良好完善的数据应用平台,通过提供安全可靠的运行环境,发挥物联网的使用价值。

3  基于云计算的数据挖掘关键技术

3.1  云计算数据挖掘技术

在时代的发展过程中,数据的价值不断凸显,挖掘数据的价值并将其充分利用,成为获取行业竞争优势的重要途径,在此基础上,云技术迅速崛起,成为全新的数据挖掘方式,为获取数据资源的价值提供了更便捷的途径。利用云计算模式可通过搜集、存储、运算数据等,挖掘数据背后的深层价值。

3.1.1  数据汇集调度技术

利用云计算平台可实现对不同类型数据的汇聚调度,此技术可称之为数据汇聚调度技术,利用此技术实现不同格式间数据的交流与连接,实现同步连接多种数据。利用此数据技术以解决不同数据的规约问题为主要任务,在设计问题解决方案时需要保证可支持不同系统数据生成格式,包括联机事务处理系统形式数据、联机分析处理系统形式数据、各种日志数据、爬虫数据等,进而实现充分有效的分析挖掘数据。

3.1.2  服务调度和服务管理技术

为了保证云计算平台可为不同业务系统服务,平台需要具备服务调度、管理功能。服务调度功能主要指,在分析服务等级、资源匹配等基础上实现对优先级服务的调度,有效解决服务间的隔离、互斥问题等,进而保证云服务具有一定的安全运行空间。服务管理功能主要是指通过将服务注册、服务暴露等功能统一化,大大提升本地服务能力的可暴露性,保证充分挖掘第三方接入数据的价值,进而促进平台挖掘数据的服务能力。

3.1.3  挖掘算法并行化技术

在云计算平台中以挖掘算法并行化为有效的基础能力技术,其包括选择可行性算法、并行性算法、并行策略等技术。主要的数据挖掘算法包括决策树算法、关联规则算法、K-平均值算法等,云计算平台通过并行化算法实现对数据的充分挖掘与利用。

3.2  云计算物联网数据挖掘应用

运用云计算为服务平台的主要运行网络平台包括物联网数据平台,此平台以热点Hadoop为基础,通过有效的平台搭建实现其应用。从实际的运行模块看,要包括物联网感知层,要有实际的传输层、数据层,同时也要有完善的数据挖掘服务层。其关键技术如下。

3.2.1  物联网感知层

物联网感知层大量的采集节点不止在目标区域内,利用不同节点,通过使用摄像头、数据传感器等设备有效的完成物联网所需数据的采集工作,再与互联网感知层进行通信,结合无线传感网络促使提高工作效率。同时要进行网络汇聚节点数据,汇总数据后进行存储,进而将相关信息向云平台数据库传送。

3.2.2  传输层

传输层要通过不同形式的数据感知网络形态,向数据网络传输可靠数据,进而保证数据的高速性、无缝性、灵活性,保证云计算数据中心高质量的感知不同数据,强化不同系统中数据连接的全面性、互通性。同时利用此层级系统,可实现对数据传输设备间的监测,进而强化网络监测设备间数据传输的高速性。

作者:张艳慧

物联网数据挖掘论文 篇3:

基于云计算平台的物联网数据挖掘研究

摘要;当前信息社会环境下,信息产业成为国民经济发展的基础条件,其中物联网是全新信息技术的重要构成部分,是实现智能化的核心技术。物联网中的数据挖掘是物联网技术中较为重要的一个环节,其价值体现在为物联网应用数据大量增长下提供强力补充。当前基于海量数据的增加,物联网数据挖掘正面临着一定的挑战,而云计算的出现为其提供了一个全新的发展方向。该文以云计算、物联阿、数据挖掘技术特征与相互联系为基础,分析基于云计算平台的物联网数据挖掘。

关键词:云计算平台;物联网;数据挖掘

物联网是当前智能化社会发展的一个重要显示,近几年随着科研事业的快速进展下,物联网以及从一个概念存在逐渐融入到现实生活中。物联网的出现实现了人们生活与工作的智能化,极大的改变的了生活与工作方式,提升了办事效率。而物联网的实现依靠中的技术的支持,其中数据挖掘技术便是其中一个重要支撑条件,数据挖掘实现了海量信息的获取与挖掘,而这种信息能够支撑物联网在实际操作中的智能化实现。文中在云计算平台的基础上分析物聯阿数据挖掘的相关研究,其中包括物联网数据挖掘所面临的挑战、在云计算平台中物联网数据挖掘的相关技术以及实际应用。

1云计算与物联网理论基础

1)云计算理论

云计算是一种依赖于互联网技术,经由互联网服务为用户提供依据需求而明确服务的计算方式。而云计算命名的由来是由于整个服务资源的选自源互联网内的数据,且互联网多会应用云状图案对资源进行显示,因此被称之为与计算。云计算基于其应用技术的先进性具备了以下几大特征:第一,规模大。云计算中的云所显示的便是差大的规模,当前就谷歌云计算来看已经拥有了100多万台服务器,而其他较大型的搜索引擎也具备了数十万台服务器。第二,虚拟化。云计算能够支持用户在任意位置或任意终端进行服务器的登录,所有操作在云空间进行运行,由此也便形成了虚拟性特征。第三,可靠性。云計算应用数据多副本绒促以及计算节点同构可互换等措施来确保服务的可靠性。第四,通用性。云计算不会针对特定的应用,在云支持下能够创造出海量的应用。第五,可延伸性。云计算的超大规模能够支持其进行动态的伸缩,由此满足各类应用与用户规模的增长需求。

2)物联网理论

物联网属于全新信息技术的主要构成部分,同时也是信息化时代发展的重要阶段。物联网实际上所指的是经由多种技术的应用实现物与物之间的连接,而这种连接形成了一个局域网络,实现远程与集中操控。物联网雏形的出现可追溯到1990年,后期随着各项理论与技术的不断研发下,在近几年已经能够实现在现实生活中,且被广泛的应用。其实际意义在于,经由各项技术将多种物品与互联网进行连接,实现信息交换与通信,由此实现了物品的智能化,用户可经由远程终端进行操控,便捷了人们的生活,同时也提升了各物品应用的安全性。与互联网对比物联网具备了以下几大特征;一方面表现在物联网应用到多种感知技术;第二方面表现在物联网属于建立在互联网基础上的泛在网络;第三方面表现在物联网的核心价值是提供不限定任何场合与时间的应用场景与用户的自由互换。

3)物联网的建设

物联网在应用过程中需要多个行业的参与,且需要政府方面所提供的支持,物联网具备多种优势,可广泛地应用在社会各个领域中,但是在实际应用过程中技术建设始终是一大难题。就常规上来讲,物联网的建设需要经由以下几个步骤:第一,对需要建设物联网的物体属性进行识别,包括静态与动态的属性,其中静态属性可直接进行存储,而动态属性则需要应用传感器进行探测;第二,对识别完成后的物体属性进行读取,将读取信息转换为网络识别数据;第三,将物体的信息经由网络传输至信息处理中心,由处理中心实现物体与互联网之间的通信。

2数据挖掘技术界定与特征分析

2.1数据挖掘技术概念

数据挖掘技术出现在二十世纪后期,虽然其出现时间不长,但是对社会中各领域的发展形成了巨大的影响,也引起自有优势得到了广泛的应用。数据挖掘从广泛意义上来讲所指的是从大量数据中经由可靠的算法搜索隐藏其中信息的整个过程。数据挖掘与计算机科学存在着紧密的联系,利用计算机技术经由统计、分析、情报检索、机器学习等多种手段实现其实际价值。当前数据挖掘在应用到不同领域后,也被赋予了不同的概念。但就其应用价值可从三个方面进行概述,第一个方面为提供海量可靠信息;第二个方面为经由数据挖掘所获取的信息对人们具有较高的应用价值;第三个方面为所获取的信息能够被人们理解与分析,并以此为根据做出决策。

2.2数据挖掘技术特征

数据挖掘技术具备了分布广、规模大、节点资源有限、安全性复杂等特征。其中分布广主要是数据挖掘是物联网技术中的一个构成部分,而物联网本身就具备的分布广泛的特点,由此数据挖掘基于需要将数据存储在不同的地方,也便具备了分布广的特点;规模大方面主要是物联网中具有海量数据的传输与应用,而数据挖掘作为数据分析与处理环节自然具备了规模大特点;节点资源有限方面是给予物联网较为庞大的数据链,需要设置多个传感器节点,因此需要有能够了速解决处理数据的中央节点,而节点资源并非无限,中央节点通常不需要所有的数据,但需要数据参数,由此对需求数据进行输出。

3物联网数据挖掘面临的挑战

基于物联网技术自身所具备的特征,在数据挖掘中也具备了一定的优势,但是新技术在数据挖掘中应用较多,物联网技术在数据挖掘中也面临着一定的挑战,具体表现为以下几个方面。第一,物联网数据具有一定的规则,但是由于其规则过多也相对较为繁杂,经由中央模式对分布式数据进行挖掘的方式效果并不理想。第二,物联网数据规模较大,需要及时给予可靠的处理,而当前处理模式对硬件要求较高,若硬件不能够符合要求则可能无法实现。第三,数据需求的节点不断增加,需求与供给之间存在着一定的矛盾。第四,给予物联网数据存在着诸多外在影响因素,包括数据传输安全性、数据传输的隐私性、法律约束等因素。将所有数据集中存储在相同的数据仓库中这一渠道显然不具备可靠性。

作者:汤勇峰

上一篇:学案法历史教学论文下一篇:游戏与幼儿教育论文