随着大数据越来越被重视，数据采集的挑战变的尤为突出。今天为大家介绍几款数据采集平台：

Apache Flume Fluentd Logstash Chukwa Scribe Splunk Forwarder

大数据平台与数据采集

任何完整的大数据平台，一般包括以下的几个过程：

数据采集–>数据存储–>数据处理–>数据展现(可视化，报表和监控)

其中，数据采集是所有数据系统必不可少的，随着大数据越来越被重视，数据采集的挑战也变的尤为突出。这其中包括：

我们今天就来看看当前可用的六款数据采集的产品，重点关注它们是如何做到高可靠，高性能和高扩展。

1、Apache Flume

Flume 是Apache旗下的一款开源、高可靠、高扩展、容易管理、支持客户扩展的数据采集系统。 Flume使用JRuby来构建，所以依赖Java运行环境。

Flume最初是由Cloudera的工程师设计用于合并日志数据的系统，后来逐渐发展用于处理流数据事件。

Flume设计成一个分布式的管道架构，可以看作在数据源和目的地之间有一个Agent的网络，支持数据路由。

每一个agent都由Source，Channel和Sink组成。

Source

Source负责接收输入数据，并将数据写入管道。Flume的Source支持HTTP，JMS，RPC，NetCat，Exec，Spooling Directory。其中Spooling支持监视一个目录或者文件，解析其中新生成的事件。

Channel

Channel 存储，缓存从source到Sink的中间数据。可使用不同的配置来做Channel，例如内存，文件，JDBC等。使用内存性能高但不持久，有可能丢数据。使用文件更可靠，但性能不如内存。

Sink

Sink负责从管道中读出数据并发给下一个Agent或者最终的目的地。Sink支持的不同目的地种类包括：HDFS，HBASE，Solr，ElasticSearch，File，Logger或者其它的Flume Agent。

Flume在source和sink端都使用了transaction机制保证在数据传输中没有数据丢失。

Source上的数据可以复制到不同的通道上。每一个Channel也可以连接不同数量的Sink。这样连接不同配置的Agent就可以组成一个复杂的数据收集网络。通过对agent的配置，可以组成一个路由复杂的数据传输网络。

配置如上图所示的agent结构，Flume支持设置sink的Failover和Load Balance，这样就可以保证即使有一个agent失效的情况下，整个系统仍能正常收集数据。

Flume中传输的内容定义为事件(Event)，事件由Headers(包含元数据，Meta Data)和Payload组成。

Flume提供SDK，可以支持用户定制开发：

Flume客户端负责在事件产生的源头把事件发送给Flume的Agent。客户端通常和产生数据源的应用在同一个进程空间。常见的Flume 客户端有Avro，log4J，syslog和HTTP Post。另外ExecSource支持指定一个本地进程的输出作为Flume的输入。当然很有可能，以上的这些客户端都不能满足需求，用户可以定制的客户端，和已有的FLume的Source进行通信，或者定制实现一种新的Source类型。

同时，用户可以使用Flume的SDK定制Source和Sink。似乎不支持定制的Channel。

2、Fluentd

Fluentd是另一个开源的数据收集框架。Fluentd使用C/Ruby开发，使用JSON文件来统一日志数据。它的可插拔架构，支持各种不同种类和格式的数据源和数据输出。最后它也同时提供了高可靠和很好的扩展性。Treasure Data, Inc 对该产品提供支持和维护。

Fluentd的部署和Flume非常相似：

Fluentd的架构设计和Flume如出一辙：

Fluentd的Input/Buffer/Output非常类似于Flume的Source/Channel/Sink。

Input

Input负责接收数据或者主动抓取数据。支持syslog，http，file tail等。

Buffer

Buffer负责数据获取的性能和可靠性，也有文件或内存等不同类型的Buffer可以配置。

Output

Output负责输出数据到目的地例如文件，AWS S3或者其它的Fluentd。

Fluentd的配置非常方便，如下图：

Fluentd的技术栈如下图：

FLuentd和其插件都是由Ruby开发，MessgaePack提供了JSON的序列化和异步的并行通信RPC机制。

Cool.io是基于libev的事件驱动框架。

FLuentd的扩展性非常好，客户可以自己定制(Ruby)Input/Buffer/Output。

Fluentd从各方面看都很像Flume，区别是使用Ruby开发，Footprint会小一些，但是也带来了跨平台的问题，并不能支持Windows平台。另外采用JSON统一数据/日志格式是它的另一个特点。相对去Flumed，配置也相对简单一些。

3、Logstash

Logstash是著名的开源数据栈ELK (ElasticSearch, Logstash, Kibana)中的那个L。

Logstash用JRuby开发，所有运行时依赖JVM。

Logstash的部署架构如下图，当然这只是一种部署的选项。

一个典型的Logstash的配置如下，包括了Input，filter的Output的设置。

几乎在大部分的情况下ELK作为一个栈是被同时使用的。所有当你的数据系统使用ElasticSearch的情况下，logstash是首选。

4、Chukwa

官网：https://chukwa.apache.org/

Apache Chukwa是apache旗下另一个开源的数据收集平台，它远没有其他几个有名。Chukwa基于Hadoop的HDFS和Map Reduce来构建(显而易见，他用Java来实现)，提供扩展性和可靠性。Chukwa同时提供对数据的展示，分析和监视。很奇怪的是它的上一次 github的更新事7年前。可见该项目应该已经不活跃了。

Chukwa的部署架构如下：

Chukwa的主要单元有：Agent，Collector，DataSink，ArchiveBuilder，Demux等等，看上去相当复杂。由于该项目已经不活跃，我们就不细看了。

5、Scribe

代码托管：https://github/facebookarchive/scribe

Scribe是Facebook开发的数据(日志)收集系统。已经多年不维护，同样的，就不多说了。

6、Splunk Forwarder

以上的所有系统都是开源的。在商业化的大数据平台产品中，Splunk提供完整的数据采金，数据存储，数据分析和处理，以及数据展现的能力。

Splunk是一个分布式的机器数据平台，主要有三个角色：

Search Head负责数据的搜索和处理，提供搜索时的信息抽取。

Indexer负责数据的存储和索引 Forwarder，负责数据的收集，清洗，变形，并发送给Indexer

Splunk内置了对Syslog，TCP/UDP，Spooling的支持，同时，用户可以通过开发 Input和Modular Input的方式来获取特定的数据。在Splunk提供的软件仓库里有很多成熟的数据采集应用，例如AWS，数据库(DBConnect)等等，可以方便的从云或者是数据库中获取数据进入Splunk的数据平台做分析。

这里要注意的是，Search Head和Indexer都支持Cluster的配置，也就是高可用，高扩展的，但是Splunk现在还没有针对Farwarder的Cluster的功能。也就是说如果有一台Farwarder的机器出了故障，数据收集也会随之中断，并不能把正在运行的数据采集任务Failover到其它的 Farwarder上。

总结

我们简单讨论了几种流行的数据收集平台，它们大都提供高可靠和高扩展的数据收集。大多平台都抽象出了输入，输出和中间的缓冲的架构。利用分布式的网络连接，大多数平台都能实现一定程度的扩展性和高可靠性。

其中Flume，Fluentd是两个被使用较多的产品。如果你用ElasticSearch，Logstash也许是首选，因为ELK栈提供了很好的集成。Chukwa和Scribe由于项目的不活跃，不推荐使用。

Splunk作为一个优秀的商业产品，它的数据采集还存在一定的限制，相信Splunk很快会开发出更好的数据收集的解决方案。

小程序应用开发

主营范围：小程序开发/网站建设/微官网/APP开发/域名注册/微信推广/SEO优化/微分销

受各大互联网公司的变化，各公司旗下的APP市场也受到季节效应。

话不多说，先给处各类排名榜单。

社交类APP：

微信、QQ、新浪继续蝉联前三名，QQ空间份同比上个季度呈下滑趋势。

短视频类APP：

多重内容、活动助力 短视频长期迎爆发,尤其2017年下半年的各类直播知识竞答冲顶大会，把抖音，西瓜视频、火山小视频下载量、活跃度倍数上升，前三名依次是西瓜、火山、快手，抖音从2017年的第7名上升至第4名。

直播类APP：

映客直播相比2017年跌出前10名。

新闻类APP：

今日头条稳居榜首，智能推送适合自己的新闻，加上各大自媒体平台的奖励和收益分成，鼓励更多自媒体人士提供优质，专业的资讯，在短期内会形成一个百花齐放百家争鸣的局面。趣头条算是2017年的一匹资讯新闻的黑马，加之得到腾讯的注资，后续发力有所期待。

视频类APP：

相对其他各大类，视频类APP较2017年保持平稳，当然哔哩哔哩的上市，带来了更多的关注。

音乐类APP：

虽然网易云音乐在版权问题上，2017的名次有所下降，但相信网易不会坐以待毙，期待有更好的表现。

音频类APP：

音频类APP各大公司保持稳定局面，并未出现黑马和市场份额的剧烈变化。

阅读类APP：

连尚读书、熊猫看书排名呈上升趋势。

漫画类APP：

共享单车类APP：

随着摩拜单车和股权变动，及哈罗单车的改进，共享单车的三足鼎立局面在逐渐形成，但是后续其他是否有黑马出现也未可知。

网约车类APP：

汽车买卖平台类APP：

汽车资讯类APP：

懂车帝已经超越汽车之家位列榜首

地图类APP：

高德地图、百度地图、腾讯地图稳居前三名。

购物类APP：

新零售类APP：

综合类APP：

外卖类APP：

在线旅游类APP：

理财、借贷和保险类APP：

移动支付类APP：

证券交易类APP：

银行类类APP：

K12类APP：

外语类APP：

早教类APP：

体育类APP：

运动健身类APP：

医药健康类APP：

母婴类APP：

摄影类APP：

备注：

排名依据：周活跃渗透率。

周活跃用户渗透率=app的周活跃用户数/中国市场总周活跃用户数。周人均打开次数：用户平均每周打开app的次数。

嗨哥科技/小程序开发

小程序开发 / 网站建设 / 微官网

APP开发 / 域名注册 / 微信推广

SEO优化 / 微分销

扫一扫添加我为好友

泉州嗨哥网络科技有限公司是一家专注于为中小型企业提供企业网站建设、百度推广、微信推广、微信小程序开发注册、微信公众号托管、APP开发、微信营销、一元购平台搭建、三级分销的综合型产品。

嗨哥专注于创意设计实现商业价值最大化，为所有谋求长远发展的企业提升品牌品质。拥有经验丰富技术团队，

专业的资深设计师。凝聚了一批行业内最优秀的年轻人，富有创造力和奉献精神。

我们一直以来坚持“客户的要求是我们的标准”，“客户的满意是我们的追求”为主导理念，秉承“创新、卓越、激情、学习、客户至上”的态度，来满足广大客户的需求，不断探索和发现，为客户提供更先进的技术，更优质的产品，更好的服务。助力企业发展，携手共赢。

嗨哥网络--专注于品牌建设及互动设计！

嗨哥使命

致力打造高端化行业领军品牌，中国领先的企业信息化服务商！

嗨哥宗旨

以质量求生存，以客户需求为导向，以科技为基础，向管理要效益！

嗨哥价值观

履责、敬业、专业、专注

成功必须专业，专业源自务实。

嗨哥经营理念

追求品质

质量赢信誉，信誉得效益！市场是检验质量的唯一标准！

服务第一

通过自身完善的原创开发团队及整合优秀产品资源，为广大客户提供高品质的服务，推动企业互联网建设行业的发展。

超越自我

勇于挑战，超越自我，一个人才能不断的得到进步和提升；一个公司才能有更大的创新和发展，在行业中立于不败之地。

策略创意优势

我司深信卓越的创意作品，永远是一个成功代理商前进巨轮的中轴过去是，现在是，未来亦如是。根据您的公司性质、要求，我们会为您准确独特设计网站样式。通过我们不懈的努力，和专业的精神，配合客户需求，做到了最佳的服务，从而获得各客户的好评，相信我们 ，只要给我们一次机会，告诉我你们的想法，我们会给你一个惊喜 ！

立足国际高度，力求以本土的价格为您提供4A标准的服务！

我们对品质的追求从未停止过，与此同时，我们也始终不停的探索新的方法在保证品质的同时为客户节省开支降低成本。我们一心要成为的是能帮客户解决问题共同发展互惠互利并肩作战的好兄弟和值得信赖的商业伙伴，而不是成为把客户当作羔羊而随便宰割的屠夫！

管家式服务

我们为企业提供一站式全程服务，从网站设计到制作落地再到宣传推广我们均能提供可靠高效的整体式全程服务。让您在省心的同时能够真正的使品牌策略得到始终如一的贯彻与执行！我们还有专门的售后服务人员进行后期维护。

清晰可见的流程

科学合理的工作流程会大大提高工作效率，并让客户了解项目的进展情况与下一步的工作进程，从而合理安排工作计划保证工作进度！

团结稳定经验丰富的策划、创意、设计团队

我们拥有经验丰富、创造力非凡、朝气蓬勃、且团结稳定的行业精英团队。我们的项目开展之初会成立项目专案组为您进行一对一的服务，不会随意调换为您服务的设计人员，从而杜绝了有些网络公司的设计三天两头换人以至于您的项目从头到尾可能被当作皮球一样被人踢来踢去，最后不知到了谁的手里而且每次修改的风格也是五花八门，质量参差不齐，就更不用说什么有高水准可言了！

态度服务一流

我们本着对客户负责对自己负责的态度做事，把客户对我们的信任看做是至高无上的荣耀，我们会用百分之两百 的热情与责任心去完成客户交与的工作！同时我们提供专业可靠的服务，从对市场的把控、对企业的跟踪回访到策略创意的贯彻执行等各方面，我们都力求做到为客户解决实际问题让客户可以完全放心。

金融大数据平台的搭建和应用是两个部分，对于金融大数据平台来说，这两个部分都很重要。

所以以下的部分我们从大数据平台和银行可以分析哪些指标这两个角度来阐述。

一、大数据平台

大数据平台的整体架构可以由以下几个部分组成：

从底层逐步往上，如图所示表示这么几个环节：

一、业务应用：其实指的是数据采集，你通过什么样的方式收集到数据。互联网收集数据相对简单，通过网页、App就可以收集到数据，比如很多银行现在都有自己的App。

更深层次的还能收集到用户的行为数据，可以切分出来很多维度，做很细的分析。但是对于涉及到线下的行业，数据采集就需要借助各类的业务系统去完成。

二、数据集成：指的其实是ETL，指的是用户从数据源抽取出所需的数据，经过数据清洗,最终按照预先定义好的数据仓库模型，将数据加载到数据仓库中去。而这里的Kettle只是ETL的其中一种。

三、数据存储：指的就是数据仓库的建设了，简单来说可以分为业务数据层（DW）、指标层、维度层、汇总层（DWA）。

四、数据共享层：表示在数据仓库与业务系统间提供数据共享服务。Web Service和Web API ，代表的是一种数据间的连接方式，还有一些其他连接方式，可以按照自己的情况来确定。

五、数据分析层：分析函数就相对比较容易理解了，就是各种数学函数，比如K均值分析、聚类、RMF模型等等。

列存储让磁盘中的各个Page仅存储单列的值，并非整行的值。这样压缩算法会更加高效。进一步说，这样能够减少磁盘的I/O、提升缓存利用率，因此，磁盘存储会被更加高效的利用。

而分布式计算能够把一个需要非常大的算力才能解决的问题分成很多小部分，接着把这些部分给到许多计算机同时处理，然后把这些计算结果综合起来，得到最终的结果。

综合这两种技术，就能够大幅度提高分析环节的效率。Yonghong MPP可以说是目前在这两方面做的最出色的了。

六、数据展现：结果以什么样的形式呈现，其实就是数据可视化。这里建议用敏捷BI，和传统BI不同的是，它能通过简单的拖拽就生成报表，学习成本较低。国内的敏捷BI中，个人用户推荐Tableau，像银行这类的企业级需求推荐Yonghong BI 。

七、数据访问：这个就比较简单了，看你是通过什么样的方式去查看这些数据，图中示例的是因为B/S架构，最终的可视化结果是通过浏览器访问的。

二、银行数据分析体系如何搭建？

搭建一个数据平台可能是项目制的工作，在一段时间内会完成，但是搭建数据分析体系这件事却任重而道远。但是如果有人能在做产品的同时，将金融行业同类的数据应用经验也分享给你，帮助你去搭建数据分析体系，那就是真正的“良药”了。

下面分享一个YonghongTech帮助某大型银行数据服务平台建设的案例。

以客户在银行办理业务的行为路径，可以有这样几个主题，不同主题有对应的场景及其指标。

1.一个客户

客户主题：客户属性（客户编号、客户类别）、指标（资产总额、持有产品、交易笔数、交易金额、RFM）、签约（渠道签约、业务签约）组成宽表

2.做了一笔交易

交易主题：交易金融属性、业务类别、支付通道组成宽表。

3.使用哪个账户

账户主题：账户属性（所属客户、开户日期、所属分行、产品、利率、成本）组成宽表

4.通过什么渠道

渠道主题：渠道属性、维度、限额组成宽表

5.涉及哪类业务&产品

产品主题：产品属性、维度、指标组成宽表

三、案例

鉴于篇幅问题，此处可以参考这篇文章：

华夏银行：大数据技术服务业务需求，实现销售高速增长

http://.baidu/builder/preview/s?id=1600613969915764917

综述

日志和监控开发人员工作中必不可少的两只眼睛，日志是为了快速定位排查故障，监控是为了发现潜在问题并能及时告警，是故障诊断和分析的重要辅助利器，同样监控系统对大数据平台重要性不言而喻。在发生事故之前就能预警，最大限度降低系统故障率，是监控的终极目标和价值体现。本文旨在帮助大家了解监控系统，并能快速搭建公司的监控平台。

监控体系

监控粒度、监控指标完整性、监控实时性是评价监控系统的三要素。从分层体系可以把监控系统分为三个层次：

业务层：业务系统本质目的是为了达成业务目标，因此监控业务系统是否正常最有效的方式是从数据上监控业务目标是否达成。对业务运营数据进行监控，可及时发现程序bug或业务逻辑设计缺陷，比如注册失败率、登录失败率、付款失败率等。业务系统的多样性决定了应由各个业务系统实现监控指标开发。应用层：对应用的整体运行状况进行了解、把控，如果将应用当成黑盒子，开发、运维就无从知晓应用当前状态，不能及时发现潜在故障。应用监控不应局限于业务系统，还包括各种中间件、计算引擎，如Spark、Jstorm、redis、zookeeper、kafka等。常用监控数据：JVM堆内存、GC、CPU使用率、线程数、TPS、吞吐量等。一般通过抽象出的统一指标收集组件，收集应用级指标，比如不管是支付系统还是交易系统，都要监控jvm内存使用。系统层：实时掌握服务器工作状态，留意性能、内存消耗、容量和整体系统健康状态，保证服务器稳定运行。监控指标：内存、磁盘、CPU、网络流量、系统进程等系统级性能指标架构设计

工欲善其事必先利其器，根据对现有监控产品的调研，以及我们对监控的分层介绍、所需解决的问题，可以发现监控系统从收集到分析的流程架构：采集－存储－展示－告警：

Telegraf：插件化的指标收集和指标报告服务，能定制化开发并轻松添加所需插件。已经内置了很多常用服务的插件，这也是我们选择telegraf的原因之一，不用再重复造轮子

InfluxDB：高性能的布式时间序列指标数据库。监控指标收集是非常频繁的，否则就失去了实时性，高频收集的结果就是大数据量，也要对时间序列进行分析，InfluxDB就能满足这种应用场景

Grafana：时间序列分析和监控的开放平台，支持多种数据源(InfluxDB、OpenTSDB时间序列数据库)、丰富的展现形式、支持email/dingding报警

Telegraf

go语言编写的插件化指标收集agent，编译成一个没有外部依赖的二进制文件，安装部署很便捷，直接下载、解压就行，默认配置文件在$TELEGRAF_HOME/etc/telegraf/telegraf.conf目录下。telegraf插件分为两大类：input、output。

input：收集inputs配置的所有指标，已内置的input插件：elasticsearch、redis、jolokia等。也可直接收集运行agent server的各种指标，比如内存、cpu、磁盘、磁盘IO、进程、swap等。input配置都很简明易用，一般只需配置服务IP地址就可以，如redis指标收集配置：

如果没有内置收集插件，有两种实现方案：

开发input插件，但这需要有GO语言基础借助于httpjson input插件，该插件请求http url，返回json格式。url配置为自定义指标收集服务，在指标收集服务内实现指标收集功能，然后指标封装成json返回或指标数据直接在服务内入库。我们监控Kettle Carte、spark、jstorm等用的这种实现思路。output：将收集到的度量数据序列化存储，Telegraf指标由四个部分组成：度量、标签、字段、时间戳。支持以下存储结构：InfluxDB、Graphite、JSON，比如度量输出到InfluxDB的配置：

urls：InfluxDB端口

database：存储的数据库

retention_policy：数据保留策略

调度频率：所有指标收集频率是一样的，在配置文件agent项下配置：

服务启动：

--config：配置文件

--config-directory：配置文件目录，如果有多个配置文件时使用

InfluxDB

InfluxDB是为时间序列构建的高性能数据存储，提供类SQL的查询语言、特定分析时间序列的功能。通过设置数据保留策略，自动从系统中删除过期数据，释放存储空间。社区版只支持单台服务器，会有单点故障风险，商业版版支持高可用，对我们来说，单机InfluxDB已经能满足需求。选择InfluxDB的原因：

InflluxDB是用GO写的，编译后是一个完全无依赖的二进制文件，安装部署非常便捷，解压缩包即可高性能时间序列专有数据库，对时间序列的存储和查询都做了优化类SQL查询语言，降低使用门槛数据保留策略可以有效的自动清理过期数据 InfluxDB的数据是以shard groups形式存储，指定时间间隔的数据存储到一个shard groups里，这个时间间隔称为shardGroupDuration。

服务启动：

influx进入shell命令行:

常用命令：

show databases：查看所有数据库

use db_name：进入数据库

show measurements：显示数据库下所有度量

select *from cpu limit 10：查询一个度量的数据

Telegraf默认是将收集的数据持久化到telegraf这个数据库下，每个input对应一个度量表，比如zookeeper的指标数据就在zookeeper这个度量下：

查询数据保留策略：

duration：数据保留时间，0表示无限制，InfluxDB默认30分钟检查一次保留策略。ALTER RETENTION语句修改保留7天数据。

replicaN：每个度量在集群里的副本数，副本保证数据高可用性，社区版(单节点)不支持副本数设置

Java Client：

Java Client对http api进行了封装，底层用Retrofit框架进行http请求，是线程安全的，只需在一个应用中创建一个InfluxDB Client对象。

client的写操作支持batch，其实现原理：1、创建后台单线程定时调度任务，线程每隔一定时间发送请求：

2、每次writer时，把请求放到BlockingQueue队列里，如果队列大于batch数，就启动线程发送请求：

Client Api使用例子: 1、创建数据库连接：

InfluxDB influxDB= InfluxDBFactory.connect(url, user, password);

url：InfluxDB的地址和端口，比如 http://localhost:8086

user/password：InfluxDB的用户名/密码

2、设置访问的数据库：

influxDB.setDatabase(database);

3、数据写入：

Point.Builder builder = Point.measurement(measurement);

builder.tag(tags);

builder.fields(fields);

influxDB.write(builder.build());

Grafana

Grafana是一个指标查询、可视化、监控的开源应用，有着非常漂亮的图表和布局展示，功能齐全的度量仪表盘和图形编辑器，支持Graphite、zabbix、InfluxDB、Prometheus和OpenTSDB作为数据源。

Grafana主要特性：

灵活丰富的图形化组件，包括热力图、直方图、地图等在同一dashboard内可以混合多种展示组件开源社区有大量的插件可供选择，包括数据源插件、图形插件、通知插件可以在同一个视图里使用多个不同数据源简单使用介绍：

安装：下载&解压二进制包配置：配置文件：$GRAFANA_HOME$/conf配置端口号、Email、登录用户start:命令：/opt/grafana/bin/grafana-server start访问:http://ip:port连接数据源、图表开发、报警设置可参看官方文档本文为原创，欢迎分享到朋友圈。

地理信息数据管理现状

大数据为地理信息行业带来了全新机遇，伴随大数据技术的发展，获取地理信息的各种新技术也在不断涌现。传统的地理信息采集是专业任务，强调几何精确性，测绘遥感是主要的采集手段。而大数据地理信息采集手段更为丰富和自由，传感器网络、个体出行过程、网络行为、消费记录等均可能成为大数据地理信息采集手段。这些地理数据具有体量大、来源广、多样化、多时项、多尺度、高维度、高复杂性和非结构化特点。

目前，各行业用户拥有的地理数据普遍存在着数据分散、重复布局、更新维护困难等情况，严重影响到数据资源的共享、开发、利用。用户迫切需要一款数据管理平台，帮助自己实现海量数据资源的统一管理与维护。

‘安徽·天地图’政务版平台数据管理经验

安徽基础测绘信息中心应用捷泰天域睿图数据库管理系统建立了一套“高效、灵活、实用”的数据资源管理平台，完成了安徽省天地图“母库”库体建设，实现了全省基础矢量数据、影像数据、地名地址数据、三维数据、街景数据、瓦片数据等各类数据资源的高效管理和可视化应用，提高了中心数据资源管理水平与成果应用效能。

系统平台建立了灵活、可配置的数据查询体系，实现了数据查询、统计、提取的一体化；建立了融合数据与母库数据同步机制，形成母库与融合数据的良性互补，减少了重复建设；采用众筹思维模式，建立了需求牵引的快速同步更新机制，通过迭代方式快速更新产品库热点区域数据，然后与母库同步更新，从而完善、提高母库数据质量。

专业数据管理平台——睿图数据库管理系统

捷泰天域为了解决当前海量数据管理难题，推出睿图数据库管理系统，是以空间对象为主体的地理信息综合管理系统，以数据模型为核心，采用插件式开发框架，实现对基础地理信息数据、专题数据、影像数据、文档资料等各类数据的统一组织和有效管理。支持数据模型定制，可以根据实际情况跟随业务进行调整；支持开发定制，满足各种类型地理信息数据库的快速搭建和定制扩展。

用户仅需使用极低的成本，即可获得地理信息数据资源的统一存储和高效管理。捷泰天域数据库管理系统帮助用户实现数据资源的统一管理、更新、维护、分发、共享，使数据更好的为业务应用和数据挖掘提供支撑。

产品的核心价值包括以下几个方面：

数据资源一体化管理

为用户提供从数据质检、数据建库、数据更新到数据查询、数据展示、数据分发、数据共享全流程的一体化管理，减少用户进行数据管理、查找、更新、维护工作量。

灵活的数据建模能力

产品采用数据模型组织管理数据资源，用户可根据需要建立相应的数据模型。模型具备可扩展性，满足未来用户数据管理内容扩展的需要。

高效检索，快速、精确定位

用户无需担忧如何从海量的数据中快速获得到想要的那份数据，首先，产品采用ElasticSearch智能高效检索技术，提升海量数据的检索效率；其次，产品提供多种检索方式，包括空间检索、元数据检索、空间与元数据组合检索等，帮助用户快速、精确的找到需要的数据。

要素级更新能力

产品具备要素级更新能力，支持要素级更新数据的历史管理。帮助用户实现要素级的历史回溯。

提供二次开发接口

产品具备定制开发能力，用户可以通过库管产品提供的二次开发接口，结合自己的业务需求进行二次开发扩展。

目前睿图数据库管理系统产品已面向政府、企事业单位和各行业各层面用户提供了专业的数据管理解决方案，并且产品已服务于时空信息云平台大数据管理、天地图母库管理、大数据中心建设等多个应用领域。

产品概述

对政府公共服务而言，大数据之“大”，不仅仅在于其容量之大、类型之多，更为重要的意义在于用数据创造更大的公共价值，提升政府网上服务能力，形成政民融合、互动的“互联网+政务服务”新格局。

如何利用大数据技术和理念为公众提供更为精准化、个性化的服务，成为构建方便快捷、公平普惠、优质高效的政务服务体系的重要内容和必然要求。这需要从“供给端”和“需求端”两个方面做好政务服务大数据应用工作。一方面，要运用大数据手段推动政府监管模式转型，强化事中事后监管；另一方面，要利用大数据精准感知用户需求和服务体验，即通过对“一张网”中的群众行为数据、电子证照库、数据共享交换平台数据库等数据资源进行整合，充分利用大数据技术对跨领域、跨渠道的多元数据展开分析挖掘，全面掌握用户访问行为特征和规律，深入了解用户的服务需求，从而根据用户需求和体验来优化服务资源配置，丰富服务内容，改进服务方式，为用户提供个性化、精准化的服务，变“被动服务”为“主动服务”，不断提升政务服务水平和群众满意度。

功能框架

1.一个大数据平台

基于人社大数据中心平台基础上建设人社大数据服务平台，形成人社大数据服务平台（DaaS平台），实现统一基础数据库建设、统一块数据加工、统一服务定制及发布、统一服务目录及图谱和统一服务能力管理，为各类人社应用系统的建设奠定数据基础。

2.两个应用服务平台

两个应用服务平台分别是人工智能咨询服务平台和智能分析平台。

（1）人工智能咨询服务平台

实现自动化、智能化、人性化、个性化的机器人自助服务，为居民和企业在政务业务办理时提供自助的智能化政务服务，包括提供政务信息查询、业务导办、业务预受理、自动分发、政策宣传、相关问题引导等功能。

（2）智能分析平台

依托人社大数据，通过主题分析模型算法，进行各类主题分析。比如，分析群众行为习惯和办事需求，探索个性化、主动化、精准化、智能化服务，提供多样化、创新性的便民服务，变被动服务为主动服务；根据数据历史发展及成长情况做出相应的趋势预测分析和风险分析，及时感知政策实施和运行中的问题，促进政策完善，提升人社整体的宏观决策支持。

产品特点

1、通过对群众行为的大数据精准感知用户需求

2、通过大数据进行业务创新

3、利用人工智能+大数据技术，全天候提供智能化的人社咨询服务

成功案例

珠海市人力资源和社会保障局

当下，互联网技术与可再生能源革命正在开启新一轮工业革命的大幕，人类已经站在新时代的门槛上。

随着物联网（IOT）技术的飞速发展，对传统企业，能否抓住这一历史机遇，依靠技术进步，改善和产业素质与提高生产效率，对企业进行智能化、工业化相结合的改进升级，从传统的厂发展为高技术企业。借助互联网+物联网等技术， 坚持“创新驱动、质量为先、绿色发展、结构优化、人才为本”的基本方针，实现“中国制造2025”伟大目标。

在工业领域中，以产品数据为核心，极大延展了传统工业数据范围，同时还包括工业大数据相关技术和应用。其主要来源可分为以下三类：第一类是生产经营相关业务数据。第二类是设备过程数据。第三类是外部数据。

上述三种数据中，最难获取的是第二类数据，是产业升级中实现过程自动化、机械制造自动化、管理自动化的关键数据来源依据。

工业大数据平台由后台服务器、WEB服务器、手机APP、数据库、后台监控软件、前端展示框架、现场采集控制主机、工业微电脑控制器、物联网模块、无线网关、4G传输设备、传感模块等组成。

本文根据链家赵国贤老师在DataFun Talk数据架构系列活动“海量数据下数据引擎的选择及应用”中所分享的《大数据平台架构从0到1之后》编辑整理而成，在未改变原意的基础上稍做修改。

大数据平台构建方法大同小异，但是平台构建以后也面临很多挑战，在面临这些挑战我们如何去克服、修复它，让平台更好满足用户需求，这就是本次主题的重点。下面是本次分享的内容章节，首先讲一下架构1.0与2.0，两者分别是怎么样的，从1.0到2.0遇到了哪些问题；第二部分讲一下数据平台，都有哪些数据平台，这些数据平台都解决什么问题；第三个介绍下当前比较重要的项目“olap引擎的选型与效果”以及遇到的一些问题；第四个简单讲一下在透明压缩方面的研究。

架构1.0阶段，底层是Hadoop，用来存储数据和分析数据。需要把log数据和事务数据传输到Hadoop平台上，我们使用的是kafka和sqoop进行数据传输。然后在Hadoop平台基础上，通过一个开源的Hive和oozie做一个调度，开发者写Hql来完成业务需求，然后将数据mysql集群或redis集群，上层承接的是一个报表系统。这个需求基本跑了一年，也解决了一些问题。但存在的问题有：（1）架构简单，不易解耦，结合太紧密出现问题需要从底层一直查到上面；（2）平台架构是需求驱动，面临一个需求后需要两周时间来解决问题，有时开发出来运营已经不需要；（3）将大数据工程师做成一个取数工程师，大量时间在获取怎样数据；（4）故障频发，比如Hql跑失败了或者网络延迟没成功，oozie是通过xml配置发布任务，我们解决需要从数据仓库最底层跑到数据仓库最高层，还要重刷msl，花费时间。

面对这些问题我们做了一次架构调整，数据平台分为三层，第一层就是集群层（Cluster），主要是一些开源产品，Hadoop实现分布式存储，资源调度Yarn，计算引擎MapReduce、spark、Presto等，在这些基础上构建数据仓库Hive。还有一些分布式实时数据库HBase还有oozie、sqoop等，这些作用就是做数据存储、计算和调度，另外还有一个数据安全。第二层就是工具链，这一层是一个自研发调度平台，架构1.0用的oozie。基本满足需求有调度分发，监控报警，还有智能调度、依赖触发，后续会详细介绍。出问题后会有一个依赖关系可视化，数据出问题可以很快定位与修复。然后就是Meta（元数据管理平台），数据仓库目前有3万多张表，通过元数据管理平台实现数据仓库数据可视化。还有一个AdHoc，将数据仓库中的表暴露出去，通过平台需求方就可以自主查找自己需要的数据，我只需要优化查询引擎、记录维护、权限控制、限速和分流。最上层将整个大数据的数据抽象为API，分为三个，面向大数据内部的API，面向公司业务API，通用API。大数据内部API可以满足数据平台一些需求，如可视化平台、数据管理平台等，里面有专有API来管理这些API。面向公司业务API，我们是为业务服务的，通过我们的技术让业务产生更多产出，将用户需要的数据API化，通过API获取数据就行。通用API，数据仓库内部的报表都产生一些API，业务需求方根据自己的需求自动组装就OK了。架构2.0基本解决了我们架构1.0解决的问题。

第二部分就简单介绍下平台，第一个是存储层-集群层，解决运维工作，我们基于开源做了一个presto。实习人员经过一两周能适应这个工作，释放了运维的压力，数据量目前有18PB,每天的任务有9万+，平均3-4任务/分钟；第二个就是元数据管理平台，这种表抽象为各个层，分析数据、基础细节数据等抽象，提供一个类似百度的搜索框，通过搜索获得所需数据，这样业务人员能够非常方便的使用我们的数据。它能实现数据地图（数据长怎样，关联关系是怎么样都可以显示出来），数据仓库可视化，管理运维数据，数据资产非常好的管理和运维，将数据开发的工作便捷化、简易化。

第三个数据平台调度系统，数据仓库中的各个层需要流转，数据出现问题后如何去恢复数据。数据调度系统主要的工作有：（1）数据流转调度，可以非常简易的配置出数据的流转调度。（2）依赖触发，充分利用资源，能够让调度任务非常紧凑，能够尽可能快的产出我们的数据。（3）对接多个数据源，需要将多种多样的数据源集成到数据仓库中，如何将sql server数据、Oracle数据等数据导入到数据仓库中，系统能够对接多种数据源，因此我们财务人员、运营人员、业务人员都可以自主将数据接入到数据仓库，然后分析和调度。（4）依赖关系可视化。比如我们有100个任务是关联的，最底层std层有50个任务，中间层有20个任务，如果中间ODS层出问题了，会影响上层依赖层任务，通过可视化就能很方便定位。

除了前面三个平台，还需要一个平台来展示我们的数据，才能向我们的用户显示数据的价值。我们的指标平台支持上卷下钻、多维分析、自助配置报表，统一公司的各个指标。说一下统一公司的各个指标，比如链家场景，比如说一个业绩（一周卖出十套房子，需要提佣），16年我们发现有多个口径，因此通过指标系统将指标统一化，指标都从这里出，可以去做自己的可视化。还有各种财务人员、区长或店长也可以自主从指标平台上配置自己的数据，做自己的desktop，指标系统的后端使用后续讲Kylin的一个多维分析引擎支撑的。

指标平台架构，一个应用的可视化平台肯定需要底层能力的支撑，这次主题也是数据引擎，链家使用的是一个叫kylin的开源数据引擎，可以把数据仓库中的数据通过集群调度写入到HBase中做一个预计算。这样就可以支持指标系统千亿级数据亚秒级的查询，不支持明细查询因为做过预计算。还引入了百度开源的palo，经过优化，通过这样一个架构就满足上层的地动仪、指标平台和权限系统。运营、市场、老板都在用这个指标平台，能够实现多维分析、sql查询接口、超大规模数据集、释放数据的能力以及数据可视化。

我们是需求驱动，每天都会遇到很多需求，数据开发人员就是取出需要的数据。利用adhoc平台将数据从数据仓库中取出，基于这个我们做了一个智能搜索引擎，架构在adhoc上的搜索引擎有很多，比如presto、hive、spark等。用户也不知道该选择那种引擎，他的需求就是尽可能取出自己所需的数据，因此开发智能选择引擎、权限控制，并且能够支撑各种接口、自助查询，这样就基本解决了数据开发的工作。我们自研发了一个queryengine，在底层有presto、sparksql、hive等，queryengine特点就是能够发挥各自引擎的特性，如presto查询快，但是sql支撑能力不强，sparksql同样，在某些特殊sql查询不如hive快，hive就是稳但是慢。queryengine就是智能选择各种引擎，用户把sql提交过来，queryengine判断哪个引擎适合你。如何做的简单介绍下，对sql进行解析成使用的函数、使用的表、需要返回的字段结构，根据各个引擎的能力判断哪个合适。目前还在开发功能就是计费，因为资源是有限的。queryengine支持mysql协议，因为有些用户需要BI能力，需要对返回的数据进行聚合，我们不能开各种各样的BI能力，我们只需满足mysql协议将数据暴露出去，用户只需用其他BI就能使用。

通过架构1.0到架构2.0衍生出很多平台，大架构已经有了，但是遇到的一些问题如何解决。这里分享两个案例，一个是olap引擎的选型与效果，第二个就是为什么要做透明压缩，是如何做的。Rolap引擎基本是基于关系型数据库，基于关系模型实时进行聚合运算，主要通过传统数据库或spqrk sql和presto，spqrk sql和presto是根据数据实时计算；Molap是基于一个预定义模型，预先进行聚合计算，存储汇总结果。先计算好一个立方体，基于立方体做上传下钻，实现由Kylin/Druid，Druid主要是实时接入（Kylin没有），实时将kafka数据用Spark sql做一次计算然后将数据上传上去，可以支持秒级查询；还有一个比较流行的是叫olap，混合多引擎，不同场景路由到不同引擎。

Rolap查询时首先将数据扫描出来，然后进行聚合，通过聚合结果将多个节点数据整合到一个节点上然后返回。优势是支持任何sql查询，因为数据是硬算，使用明细数据，没有数据冗余，一致性非常好，缺点是大数据量或复杂数据量返回慢，因为你是基于明细数据，一条一条数据计算无论如何优化还是会出现瓶颈，并发性很差。

Molap中间会有一个中心立方体cube，在数据仓库通过预计算将数据存储到cube中，通过预聚合存储支持少量计算汇总，为什么少量计算，因为数据都已经预计算好了。优点就是支持超大数据集，快速返回并发高，缺点是不支持明细，需要预先定义维度和指标，适用场景就是能预知查询模式，并发有要求的场景，固化场景可以使用molap。

对于技术选型，当时面临的需求，基本上开源组件有很多，为什么选择kylin，因为支持较高的并发，面对百亿级数据能够支持亚秒级查询，以离线为主，具有一定的灵活性，最好有sql接口，而这些需求刚好kylin能满足。Apache Kylin是一个开源的分布式分析引擎，提供Hadoop之上的SQL查询接口及多维分析能力，以支持超大规模数据，最初由e Bay Inc. 开发并贡献至开源社区。它能在亚秒内查询巨大的Hive表。其解决方案就是预先定义维度和指标，预计算cube，存储到hbase中，查询时解析sql路由到hbase中获取结果。

现在讲一下链家olap架构，HBase集群，数据仓库计算和预处理在这块，还有一个为了满足kylin需求而做的HBase集群。Kylin需要做预计算，因此有个build集群，将数据写入到基于kylin的Hadoop集群中，然后利用nginx做一个负载均衡，还有一个query集群，然后就是面向线上的一个查询，还有一个kylin中间件，解决查询、cube任务执行、数据管理、统计。指标平台大部分是查询kylin，但是kylin不能满足明细查询，这个就通过queryengine智能匹配，通过spark集群或presto集群，还有alluxio做压缩，然后将明细查询结果返回指标平台，最终返回其他业务的产品。在横向还做了一个权限管理、监控预警、元数据管理、调度系统，来实现整体平台支撑。

接下来讲一下链家kylin能力拓展，基本大同小异，遇到的问题主要有：分布式构建，cube增长很快，build集群无法承载，因此做了分布式优化能够满足500cube在规定时间跑完；优化构建时字典下载策略，kylin构建时需要将所有元数据字典全部下载下来，因此从Hadoop将元数据字典下载都得好几分钟，每次build都去下载元数据字典会很耗时，优化后只需要下载一次就可以；优化全局字典锁，build时需要锁住整个build集群，完成后锁才释放，源码发现并不需要全局锁只需要锁住所需要的字段就可以，优化将锁设置到字段级别上；Kylin 的query查询机器使用G1垃圾回收器。我们自研发了一个中间件基本可以容纳一个无限容量的队列，针对特定cube的预先调度，以及权限的管控、实现任务的并发控制。架构有外面的调度系统，有一个kylin中间件，所有的查询和build都经过kylin中间件。还做了一个任务队列、统计、优先级调度、监控报警、cube平分、以及可视化配置和展示。

架构从0到1.0遇到了另一个问题-集群，存储链家所有数据，数据量大、数据增长快（0-1PB两年时间，1PB-16PB不到一年时间，面临成本问题）、冷数据预期，针对这些问题提出透明压缩项目。就是分层存储（Hadoop特性），根据不同数据分不同级别存储，比如把一部分数据存储在ssd，把另一部分数据存储到磁盘之上。Hot策略将数据全部存储到磁盘之上，warm策略就是一部分数据存储在磁盘上，一部分存储archive（比较廉价，转数小）。第二个就是ZFS文件系统，它具有存储池、 自我修复功能、压缩与可变块大小、 写时拷贝/校验和/快照、 ARC（自适应内存缓存）与L2ARC（SSD做二级缓存）。

透明压缩设计实现思路是：（1）界定要做数据冷处理隔离的主要内容。需要将一部分数据存储到ZFS文件系统做一个透明压缩来满足减少成本的需求，这样需要把冷数据界定出来；（2）生成特定的通过获取特定的冷数据列表，并标记其冷数据率；然后，定期从冷数据表中取出为完成冷数据迁移的行，进行移动。通过HDFS目录把界定出来的冷数据移动到ZFS压缩之上，把不需要的移除到Ext4上。这样一部分数据存储在ZFS上，一部分存储在EXT4上。

透明压缩优化工作有：第一个Hadoop冷热数据分离优化。涉及有异构存储策略选择、HDFS冷热数据移动优化；第二个就是ZFS文件系统优化。ZFS支持很多压缩算法，经过测试发现Gz压缩效率最好，下图是各种算法效率对比。随着压缩数据越来越大，CPU占用越来越高。海量数据集群不光是存储还有计算。Datanode对压缩数据的加载时间，直接关系到访问此部分数据时的效率，从表可知,ZFS的gz压缩在datanode加载数据上对LZ4有部分优势。较为接近EXT4。综合考虑压缩率，读取，写入速度，datanode加载速度等，选定gz作为ZFS文件系统的压缩算法。

透明压缩前数据增长是非常快的，接近30%的增长速率，逻辑数据有3PB，3备份后总空间：9.3PB实际总空间：7PB，就目前简单预估节省成本有300万。压缩后虽然实际数据再增长，但真实数据是缓慢下降的。

透明压缩未来展望，透明压缩是对cpu是有损耗的，我们希望将透明压缩计算提取出来，通过QAT卡进行压缩，希望�...

企业大数据数据源接入越来越多、数据量越来越大、平台越来越复杂，保存了很多企业敏感数据，甚至客户隐私信息。随着数据商业价值的增加，针对数据的攻击、窃取、滥用、泄露等活动的持续泛滥，企业面临着严峻的安全风险。

安全风险及事件存在以下特点：一、风险成因复杂交织，既有外部攻击，也有内部泄露，既有技术漏洞，也有管理缺陷；既有新技术新模式触发的新风险，也有传统安全问题的持续触发；二、威胁范围全域覆盖，大数据安全威胁渗透在数据生产、交互和消费等大数据产业链的各个环节，包括数据源的提供者、大数据加工平台的提供者以及大数据分析服务的提供者等各类主体；三、事件影响重大深远，数据泄露影响面广，对用户隐私造成极大损害。从企业角度，建议运营者规范数据开发利用规则明确数据权属关系，重点加强个人数据和重点数据的安全管理，针对采集、存储、传输、处理、交换和销毁等各个环节开展全生命周期的保护，从制度流程、人员能力、组织建设和技术工具等方面加强数据安全能力建设。

安全防护体系的建设需要遵循“三分技术七分管理”的安全防护理念，从技术层面上考虑物理设施的安全，终端安全、网络安全和云平台安全等方面。平台安全管理要强化数据权限控制、数据脱敏和隐私保护和数据可信赖管理。横向涵盖数据流向各环节、纵向平台架构分层进行防护，规划和设计从网络、平台、数据、管理等方面全方位考虑安全防护，构建安全防御体系。

整体架构上横向主要是在数据采集入口增加安全网关、防火墙防护；建立数据安全隔离区，集中进行数据对内外交互、数据出口侧增加数据防泄漏设备，在交互过程对数据进行授权、隐私保护、水印、加密传递等处理。纵向从大数据平台硬件资源层加强漏洞检测版本补丁更新、Hadoop组件进行安全基线扫描。数据层面：管理上对数据进行敏感等级分类、安全保护机、操作规范制定，根据规则对现有数据进行脱敏处理；应用租户，可通过4A等安全平台进行授权及合规操作等。

网络安全：

一、内外网物理隔离：大数据平台部署在企业内网，与外网物理隔离杜绝安全隐患。对网络通讯进行监控，如果发现任何来自于网络内部或外部的黑客入侵或可疑的访问行为，可做到及时的报警与阻断，通过网络平面隔离的方式来保证网络安全。

二、数据采集安全防护：对内对外系统数据采集网络入口部署防火墙、安全网关，建立数据隔离区，完成大数据平台内外部系统数据交互，保障安全。

三、数据共享安全防护；多租户隔离，实施多租户访问隔离，数据安全等级划分以及基于标签的强制访问控制，提供数据访问授权模型，提供全局数据视图和私有数据视图，提供数据视图的访问控制。通过数据隔离区，实现大数据平台数据对企业内外部数据共享，在网络出口处部署数据防泄漏设备，实现敏感数据保护。

四、数据传输安全防护：用户隐私数据脱敏，提供数据脱敏和个人信息去标识化功能，提供满足国际密码算法的用户数据加密服务。各类用户可通过数据共享发布平台访问大数据平台，提交访问数据请求，访问代理层收到用户访问请求后，根据用户权限分析所要访问的数据，与脱敏及访问策略映射库进行比对，对需要脱敏的数据进行脱敏然后加密传输展示给用户。

五、流量异常监控：搭建数据流量异常监控平台，能够实时监控平台出现的各种网络问题。对网络中所有传输的数据进行检测、分析、诊断，排除网络事故，规避安全风险，有效的提高网络性能。

六、数据容灾：为集群内部数据提供实时的异地数据备份容灾功能，数据库对外提供跨数据中心的容灾机制。

平台安全：

一、硬件安全：主机安全漏洞扫描，系统版本补丁更新，防病毒处理等。加强主机口令、操作管理，减少非法登录。定期备份系统和文件数据，能够快速修复主机的系统问题。建设大数据系统的网关/防火墙，外部攻击首先需要冲破代理的保护才能进一步攻击大数据平台，增加恶意用户的攻击难度。

二、组件安全：组件安全针对大数据的主流平台HDFS、HIVE、HBASE、Storm、Spark等进行安全基线扫描，分别提出身份、认证、授权、审计等配置方面检查方法，并形成可操作的手册和可执行脚本，并整合入SMP系统管理；增加对大数据平台漏洞信息的管理及处理。

三、存储安全：存储安全包括数据的加密存储、访问控制、数据的封装、数据的备份与恢复以及残余数据的销毁。敏感数据脱敏保存，禁止明文存储。加强数据文件的校验，保持分布式文件的一致性。根据安全要求，授权访问数据。定期备份数据，一旦发生数据丢失或损坏，可以利用备份来恢复数据，从而保证在故障发生后数据不丢失。

四、应用安全：用户认证，多租户纳入4A平台集中管理，接入4A平台管控的大数据平台必须开启Kerberos认证配置，以集中管控大数据平台的多租户信息。金库访问：当多租户没有明文数据的查询权限，经审批可以通过金库模块获得明文数据的查看权限。

数据安全：对数据进行敏感等级分类、安全保护机及操作规范制定。根据敏感数据规则定义对平台存储敏感数据识别、打标及打标数据的分类分级访问控制；根据数据敏感规则，扫描引擎、扫描数据库敏感数据，生成敏感数据及访问策略映射库。

管理保障：建立大数据安全管理保障制度和规范，安全策略管控方面做到集中管理、集中修订、集中更新安全规则，从而实现统一的安全策略实施，安全管理员能够在中央控制端进行全系统的监控；安全保障要求方面按照规范要求进行数据访问、应用操作。相关制度包括对外合作安全管理(外部业务合作和外部代维代建)、内部安全管理、数据分类分级管理、应急响应机制、资产设施保护和认证授权管理等。

大数据安全防护体系的建设，需要对大数据安全防护体系内部的各个模块进行详细的研究，通过多种手段保障企业级大数据平台的安全，最终构建大数据安全管控平台，实现敏感数据隐私保护，降低企业运营风险；规范大数据平台操作流程，保证开源系统的安全，做到大数据平台系统“事前可管、事中可控、事后可查”。

“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都孩子起步阶段小步前行。

大数据根基于互联网，数据仓库、数据挖掘、云计算等互联网技术的发展为大数据应用奠定基础。对于任何一个大数据的从业者或初接触者，或者都会有个共同的感触：大数据很有用！但大数据是什么呢？

今天就给大家讲解一下：

对于大数据的定义，我们来引用3个比较差用的大数据定义：

1）Gartner：需要信息处理模式才能具有更强的决策力，洞察发现力和流程优化能力的海量、高增长率很多样化的信息资产。

2）IDC：海量的数据规模（Volunme）、快速的数据流转和数据体系（Velocity）、多样的数据类型（Variety）、巨大的数据价值（Value）。

3）Wiki：或称巨量数据、海量数据、大资料，指所涉及的数据量规模巨大到无法通过人工，在合理时间内达到截取、管理、处理、并整理成为人类所能解读的信息。

其他关于大数据的定义也大抵类型，我们可以用几个关键词对大数据做一个界定。

首先，“大规模”，这种规模可以从两个维度来衡量，一是时间序列累积大量的数据，二是在深度上更加细化的数据。

其次，“多样化”，可以是不同的数据格式，如文字、图片、视频等，可以是不同的数据类别，如入口数据，经济数据等，还可以有不同的数据来源，如互联网、传感器等。

最后，“动态化”，数据是不停变化的，可以随着时间快速增加大量数据，也可以是在空间上不断移动变化的数据。

这三 个关键词对大数据从形象上做了界定。

但是还需要一个关键能力，就是“处理速度快”。如果这么大规模、多样化又动态变化的数据有了，但需要很长的时间去处理分析，那不叫大数据。从另一个角度，要实现这些数据快速处理，靠人工肯定是没办法实现的，因此，需要借助于机器实现。

最终，我们借助机器，通过对这些数据进行快速的处理分析，获取想要的信息或者应用的整套体系，才能称为大数据。

我们可以用下面的图示给大数据定义：

这下，就知道什么是大数据了吧