现在的位置:主页 > 综合新闻 >

大数据分为哪些领域?大数据采集有哪些层?

来源:大数据 【在线投稿】 栏目:综合新闻 时间:2022-07-25

【作者】:网站采编
【关键词】:
【摘要】:1 )大数据智能感知层。大数据智能感知层主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统,实现对结构化、半结构化、非结构化的海量数据

1)大数据智能感知层。大数据智能感知层主要包括数据传感体系、网络通信体系、传感适配体系、智能识别体系及软硬件资源接入系统,实现对结构化、半结构化、非结构化的海量数据的智能化识别、定位、跟踪、接入、传输、信号转换、监控、初步处理和管理等。目前,应着重攻克针对大数据源的智能识别、感知、适配、传输、接入等技术。

随着射频识别采集器、雷达检测器、GPS导航等新科技的运用,交通信息的采集更加便捷,为交通调度和智慧交通控制系统提供了更加准确、及时、实时的信息数据。有交通信息采集装置构成交通信息采集系统,由于采集的信息包括视频信息、位置信息、车辆速度信息、车辆流通量信息等多种模式,因此信息的收集、融合和处理是智慧交通最为基础也是最为重要的组成部分。

数据采集是指通过RFID射频数据、传感器数据、社交网络交互数据及移动互联网数据等方式获得的各种类型的结构化、半结构化(或称之为弱结构化)及非结构化的海量数据,是大数据知识服务模型的根本。重点要突破分布式高速高可靠数据采集、高速数据全映像等大数据收集技术,突破高速数据解析、转换与装载等大数据整合技术;设计质量评估模型,开发数据质量技术。

大数据技术就是从各种类型的数据中快速获得有价值信息的技术,大数据领域已经涌现出了大量新的技术,它们成为大数据采集、存储、处理和展现的有力武器。大数据的关键技术一般包括:大数据采集、大数据预处理、大数据存储及管理、大数据分析及挖掘、大数据展现和应用(大数据检索、大数据可视化、大数据应用、大数据安全等)

在大数据的采集过程中,其主要特点和挑战是并发数高,因为同时有可能会有成千上万的用户来进行访问和操作,并发的访问量在峰值时达到上百万,所以需要在采集端部署大量数据库才能支撑,并且如何在这些数据库之间进行负载均衡和分片是需要深入的思考和设计。

大数据采集是指利用多个数据库来接收发自客户端(Web、App或者传感器形式等)的数据,并且用户可以通过这些数据库来进行简单的查询和处理工作。ETL工具负责将分布的、异构数据源中的数据(关系数据、平面数据文件等)抽取到临时中间层后进行清洗、转换、集成,最后加载到数据仓库或数据集市中,成为联机分析处理、数据挖掘的基础。大数据采集分为:

2)基础支撑层。基础支撑层提供大数据服务平台所需的虚拟服务器,结构化、半结构化及非结构化数据的数据库及物联网络资源等基础支撑环境。目前,应重点攻克分布式虚拟存储技术,大数据获取、存储、组织、分析和决策操作的可视化接口技术,大数据的网络传输与压缩技术,大数据隐私保护技术等。

大数据可分成大数据技术、大数据工程、大数据科学和大数据应用等领域,目前人们谈论最多的是大数据技术和大数据应用。大数据工程和科学问题尚未被重视,大数据工程指大数据的规划建设运营管理的系统工程;大数据科学关注大数据网络发展和运营过程中发现和验证大数据的规律及其与自然和社会活动之间的关系。大数据分析相比于传统的数据仓库应用,具有数据量大、查询分析复杂等特点。

文章来源:《大数据》 网址: http://www.dsjzz.cn/zonghexinwen/2022/0725/3474.html

上一篇:上半年哪些商品网络零售升温快?商务大数据告
下一篇:富国中证大数据产业ETF净值下跌1.03% 请保持关注

大数据投稿 | 大数据编辑部| 大数据版面费 | 大数据论文发表 | 大数据最新目录
Copyright © 2018 《大数据》杂志社 版权所有
投稿电话: 投稿邮箱: