联系我们 face+ 关于 服务 案例
首页 案例 服务 关于 face+

什么是大数据和大数据平台,大数据平台架构包括哪些

Time: 2021-06-07

随着互联网技术的不断发展,人们对于数以亿万计的网络信息变得不再熟练掌控,而这个时候推出大数据这种新的处理模式,有效改变了海量流量带来的问题。而大数据平台的出现就是为了计算大数据带来的庞大的数据量。今天就让faceui为大家介绍大数据平台。

  什么是大数据和大数据平台

  大数据指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

  大数据的4大特征:

  1、数据量大,TB->PB。

  2、数据类型繁多,结构化、非结构化文本、日志、视频、图片、地理位置等。

大数据平台

大数据平台(图片来自网络)


  3、商业价值高,但是这种价值需要在海量数据之上,通过数据分析与机器学习更快速的挖掘出来。

  4、处理时效性高,海量数据的处理需求不再局限在离线计算当中。

  大数据平台是为了计算,现今社会所产生的越来越大的数据量。以存储、运算、展现作为目的的平台。是允许开发者们或是将写好的程序放在“云”里运行,或是使用“云”里提供的服务,或二者皆是。

  类似目前很多舆情监测软件大数据分析系统,大数据平台是一个集数据接入、数据处理、数据存储、查询检索、分析挖掘、应用接口等为一体的平台。

  大数据平台架构包括哪些

  大数据平台架构跟传统数据仓库有一个不同,就是同一层次,为了满足不同的场景,会采用更多的技术组件,体现百花齐放的特点,这是一个难点,一般会采用“五横一纵”的架构,即数据采集层、数据处理层、数据分析层、数据访问层及应用层代表的“五横”和数据管理层代表的“一纵”。

大数据平台

大数据平台(图片来自网络)


  1、数据采集层:既包括传统的ETL离线采集、也有实时采集、互联网爬虫解析等等。

  2、数据处理层:根据数据处理场景要求不同,可以划分为HADOOP、MPP、流处理等等。

  3、数据分析层:主要包含了分析引擎,比如数据挖掘、机器学习、 深度学习等。

  4、数据访问层:主要是实现读写分离,将偏向应用的查询等能力与计算能力剥离,包括实时查询、多维查询、常规查询等应用场景。

  5、数据应用层:根据企业的特点不同划分不同类别的应用,比如针对运营商,对内有精准营销、客服投诉、基站分析等,对外有基于位置的客流、基于标签的广告应用等等。

  数据管理层:这是一纵,主要是实现数据的管理和运维,它横跨多层,实现统一管理。

  以上就是faceui为大家介绍的关于大数据平台的相关内容。大数据平台的出现,将庞大浩瀚的数据有效进行排列组合,最终变得清晰有序,让大家的操作和运用过程变得更加科学化。


合作咨询

上海(总部)

上海市浦东新区郭守敬路498号22号楼
021-61057328
service@faceui.com

办公地址地图

北京

北京市东城区后永康17号A座
010-64015620
service@faceui.com

办公地址地图

成都

四川省成都市锦江区东大街牛王庙段100号
028-62790929
service@faceui.com

办公地址地图
首页 | 案例 | 服务 | 关于 | face+ | 智见

Copyright © 2009-2022 FaceUI design. All rights reserved


沪ICP备13044459号-5

上海办公地点地图
北京办公地点地图
深圳办公地点地图
在微信中搜索faceui
或保存二维码在微信中打开