大数据技术在物联网中的应用

如果说互联网连接的是人,那么物联网连接的就是物,是各种智能设备和传感器。相对人的数量来说,智能设备的数量要多得多,人不会时刻都在上网,而智能设备则时刻都在联网传输数据,所以物联网更需要大数据技术。

物联网里大数据技术的应用,一方面是大数据的存储和计算,另一方面就是边缘计算管理。我们先看下物联网大数据平台的架构。

 

物联网 数据存储 架构图 物联网数据处理流程_物联网 数据存储 架构图

 

 

 

1.智能网关通过消息队列将数据上传到物联网大数据平台,Storm等流式计算引擎从消息队列获取数据,对数据的处理分三个方面。

  数据进行清理转换后写入到大数据存储系统。

  调用规则和机器学习模型,对上传数据进行计算,如果触发了某种执行规则,就将控制信息通过设备管理服务器下发给智能网关,并进一步控制终端智能设备。

  将实时统计信息和应用程序监听的数据发送给应用程序设备,供使用者查看管理。

2.Spark等离线计算引擎定时对写入存储系统的数据进行批量计算处理,进行全量统计分析和机器学习,并更新机器学习模型。

3.应用程序也可以通过设备管理服务器直接发送控制指令给智能网关,控制终端智能设备。

这样就构成一个典型的物联网“端-云-端”架构,其中两个端分别是传感器与智能设备端,以及应用程序设备端,而云则是大数据云计算平台。

 

终端传感器: 实时采集数据,利用移动数据网络将数据上传给智能网关,智能网关进行初步的数据处理,根据规则和机器学习模型进行计算,再将计算结果通过移动数据网络下发给可控制的终端智能设备。

智能网关: 由于传感器可能部署在很多相距较远的地方,而且数量庞大,所以不可能将传感器数据直接接入云端服务器,而且也不是所有的传感器数据都需要实时上传云端。所以,需要有一个在传感器现场的前置服务器进行现场管理。智能网关就是距离现场传感器最近的一个计算机。

由于智能网关布置在物联网的作业现场,和传感器距离很近,处于整个云计算的边缘,所以在智能网关上的计算也叫边缘计算。