大数据是什么？大数据处理分析的工具有哪些？不管是即将学习大数据的人亦或是转型向学大数据的人都想要了解的。

1，什么是大数据

简言之，从各种各样类型的数据中，快速获得有价值信息的能力，就是大数据技术。

2，大数据最核心的价值

大数据最核心的价值就是在于对于海量数据进行存储和分析。相比起现有的其他技术而言，大数据的“廉价、迅速、优化”这三方面的综合成本是最优的。

3，大数据处理分析的六大最好工具

一、 Apache Hadoop

Hadoop 是一个能够对大量数据进行分布式处理的软件框架。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。

Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点：

⒈高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

⒉高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。

⒊高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因此处理速度非常快。

⒋高容错性。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配。

Hadoop带有用 Java 语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如 C++。

二、HPCC

HPCC，High Performance Computing and Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项目：高性能计算与 通信”的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国 实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆 比特网络技术，扩展研究和教育机构及网络连接能力。

该项目主要由五部分组成：

1、高性能计算机系统(HPCS)，内容包括今后几代计算机系统的研究、系统设计工具、先进的典型系统及原有系统的评价等;

2、先进软件技术与算法(ASTA)，内容有巨大挑战问题的软件支撑、新算法设计、软件分支与工具、计算计算及高性能计算研究中心等;

3、国家科研与教育网格(NREN)，内容有中接站及10亿位级传输的研究与开发;

4、基本研究与人类资源(BRHR)，内容有基础研究、培训、教育及课程教材，被设计通过奖励调查者-开始的，长期 的调查在可升级的高性能计算中来增加创新意识流，通过提高教育和高性能的计算训练和通信来加大熟练的和训练有素的人员的联营，和来提供必需的基础架构来支 持这些调查和研究活动;

5、信息基础结构技术和应用(IITA )，目的在于保证美国在先进信息技术开发方面的领先地位。

三、Storm

Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。 Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、Admaster等等。

Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC(远过程调用协议，一种通过网络从远程计算机程序上请求服务)、 ETL(Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载)等等。Storm的处理速度惊人：经测 试，每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错，很容易设置和操作。

四、Apache Drill

为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel.

据Hadoop厂商MapR Technologies公司产品经理Tomer Shiran介绍，“Drill”已经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。

该项目将会创建出开源版本的谷歌Dremel Hadoop工具(谷歌使用该工具来为Hadoop数据分析工具的互联网应用提速)。而“Drill”将有助于Hadoop用户实现更快查询海量数据集的目的。

“Drill”项目其实也是从谷歌的Dremel项目中获得灵感：该项目帮助谷歌实现海量数据集的分析处理，包括分析抓取Web文档、跟踪安装在Android Market上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。

通过开发“Drill”Apache开源项目，组织机构将有望建立Drill所属的API接口和灵活强大的体系架构，从而帮助支持广泛的数据源、数据格式和查询语言。

五、RapidMiner

RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。

功能和特点

免费提供数据挖掘技术和库

100%用Java代码(可运行在操作系统)

数据挖掘过程简单，强大和直观

内部XML保证了标准化的格式来表示交换数据挖掘过程

可以用简单脚本语言自动进行大规模进程

多层次的数据视图，确保有效和透明的数据

图形用户界面的互动原型

命令行(批处理模式)自动大规模应用

Java API(应用编程接口)

简单的插件和推广机制

强大的可视化引擎，许多尖端的高维数据的可视化建模

400多个数据挖掘运营商支持

耶鲁大学已成功地应用在许多不同的应用领域，包括文本挖掘，多媒体挖掘，功能设计，数据流挖掘，集成开发的方法和分布式数据挖掘。

六、 Pentaho BI

Pentaho BI 平台不同于传统的BI 产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。

Pentaho BI 平台，Pentaho Open BI 套件的核心架构和基础，是以流程为中心的，因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI 平台上执行的商业智能流程。流程可以很容易的被定制，也可以添加新的流程。BI 平台包含组件和报表，用以分析这些流程的性能。目前，Pentaho的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过 J2EE、WebService、SOAP、HTTP、Java、JavaScript、Portals等技术集成到Pentaho平台中来。 Pentaho的发行，主要以Pentaho SDK的形式进行。

Pentaho SDK共包含五个部分：Pentaho平台、Pentaho示例数据库、可独立运行的Pentaho平台、Pentaho解决方案示例和一个预先配制好的 Pentaho网络服务器。其中Pentaho平台是Pentaho平台最主要的部分，囊括了Pentaho平台源代码的主体;Pentaho数据库为 Pentaho平台的正常运行提供的数据服务，包括配置信息、Solution相关的信息等等，对于Pentaho平台来说它不是必须的，通过配置是可以用其它数据库服务取代的;可独立运行的Pentaho平台是Pentaho平台的独立运行模式的示例，它演示了如何使Pentaho平台在没有应用服务器支持的情况下独立运行;Pentaho解决方案示例是一个Eclipse工程，用来演示如何为Pentaho平台开发相关的商业智能解决方案。

Pentaho BI 平台构建于服务器，引擎和组件的基础之上。这些提供了系统的J2EE 服务器，安全，portal，工作流，规则引擎，图表，协作，内容管理，数据集成，分析和建模功能。这些组件的大部分是基于标准的，可使用其他产品替换之。

4. 大数据特点

第一，数据体量巨大。从TB级别，跃升到PB级别。

第二，数据类型繁多，如前文提到的网络日志、视频、图片、地理位置信息，等等。

第三，价值密度低。以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。

第四，处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器，无一不是数据来源或者承载的方式。

如果对于大数据还有更多的疑问，可以持续关注作者，也可以留言或者私信问题。

人的一生，匆匆而过，从呱呱坠地到去世，经历过幼儿，少年，青年，壮年，老年。那在这一生中又有那么多时间在睡觉，吃饭，喝水，走路，看书等。人的一生是怎么样的呢？我们用数据分析一下。

各种生命活动时间累计起来是惊人而有趣的，不妨统计一下，以使自己在物资配备与精力投入上有所侧重。因生活习惯、地域、气候、工作性质、遗传基因等方面原因，人的寿命有长有短。有高达八九十岁的长寿者，有六七十岁就辞世的人。这里取一个平均值——70岁，看看你自己70年里生命活动时间是怎样分配的。

人一生站立的时间最长，在不知不觉中站了30年。可要准备几双好鞋子哟!

睡卧的时间居第二位——23年，为此，不要忽视你的床榻、休息环境与条件。

准备一把舒适的椅子吧，坐着的时间居第三位，人一生要坐17年。

看来鞋子至关重要，因为走路还要消耗你生命中的16年。

尽管劳动是生活的必需，可人用于工作的时间总共才10～12年。

人补充能量的时间竟是工作时间的一半——一生中要在饭桌上度过6年。

等车的滋味难受吗?人一生花在等车上的时间要用3～6年，这要由家到工作单位的远近而定。以等一次车10分钟计算，人一生要在站点上度过170个昼夜。

长嘴就要说话，人一生用于交谈的时间需要2年。

看电视已是当代生活的一部分。且不说那些整天泡在电视机前的人，仅以《新闻联播》开始时间计算，至正常的就寝时止，人一生就要在电视机前度过2128天(昼夜)，约6年多。

其余的内容我们以天计数，一天当然是24小时。

图片来自网络

人一生要笑——623天。　做饭——560天。　感冒——500天。　　调情——504天。　　学习——440天。而且，这440昼夜是指学校以外的学习。　接受中小学义务教育——405天。　　节日活动、家庭聚会、学友联谊——375天。　　书信往来、填写各类表格——305天。　书报阅览——250天。　打电话——180天。　女性一生用于穿戴打扮的时间约531天;男性大为逊色——177天。　刮胡子是男人的“专利”，一生要为它付出140天的时间。　　在洗澡的时间分配上亦是男女有别：男人一辈子用在洗澡上的时间是117天;女人则多得多——531天。　　正常的性生活对于夫妻来说时间应是均等的，它要占据一生中的110天。这当然也是净时积累。而且，既不包括梦遗，也不算“第三者插足”之能事。　　梳头——108天。　　刷牙——92天。　流泪——50天。　时不时会有人轻叩你的房门，他们或许是物业管理人员来收小区管理费;或许是查电表的;或许是收水费的;或许是收缴煤气费的;若你开个小买卖，也许是来收税的……总之在你的一生中，你的房门不间断地被敲响了3～6天。

记得上学的时候有一句名言。我们不能改变时间的长度，但可以左右时间的宽度。愿你的人生充满幸福，短短人生，一定要珍惜！

你明白为什么要分析数据么？

说实话，这个问题我自己思考过无数遍，也和很多同事聊过，目前我最认同的还是前老板一句总结：数据是用来反馈经营现实，并帮助管理者指导经营的。

话说出来很简单，但要时刻用这个标准来衡量我们做的数据分析是否有意义却是一个不容易的事儿。很多情况是调取了一堆数据，做各种环比、同比，各种横向、纵向比较，各种占比等等，每个指标你还都能准确找出他们代表的经营现实么？

如果你发现你只能分析出最简单、最基本的数据变化原因的话，那我觉得你应该去实际业务中去看一看、聊一聊、做一做了，数据分析工作绝不是仅在电脑前就能完成的！

当你真的了解业务后，你会发现你具备一种很重要的能力：你可以很轻松的判断一个数据是否可靠！是的，你没听错，即使这个数据在别人看来是多么正常，即使这个数据是SQL跑出来的，你可以1秒钟就告诉领导，这个数据并不准确，我们还是重新核实一下吧！

用数据分析业务，用业务衡量数据！

BY BoraBora

在互联网公司有一种职位叫数据分析师，想必好多程序员朋友也是知道的，有时他们也会偶尔与程序员交流，主要是表结构方面的沟通，他们主要用到的技术是sql，也需要对公司的业务比较了解，数据库的表结构比较了解，他们平时的主要工作是：结合业务的情况，对数据库的数据进行提取，分析，出相应的结论与报告，方便运营人员了解情况，做出相应的营销策略与措施，他们也算是一个技术工种，但也有部分这方面的技术人员会感觉到比较枯燥！

最近就有一名数据分析师网友发出了这样的感慨，这名数据分析师认为天天写sql，天天查数据，感觉这是一个数据分析师的悲哀，自己非常迷茫，不知道以后出路在哪里？针对他的这种情况，让我们先来看看其他网友们都是什么看法吧！

美团员工：那你想干啥呢

上世是朵花：楼主网友主要是苦于工作的枯燥，感觉总是做重复工作。

网友二：安安静静的写sql不好吗？非得每周让你产出分析结论，然后指导业务工作你就开心了。。。

上世是朵花：不同工种都有好与不好，每个工种都会看到其他工种的好，自己工种的不好，真去体会一段时间就会发现没有自己想象的那么好！

网友三：我数据分析转运营了，结果除了照常写sql还要写ppt

上世是朵花：是的，运营人员要写ppt，与数据分析来比，技术难度降低了，但是另外的一种难！

网友四：建模和算法

上世是朵花：没错，这名网友提了一条路子，做算法的也经常用sql，可以结合自己的目前工作情况，适当向这方面靠拢，也许以后还有转算法工作的机会！

网友五：我是开发也天天查数据，心累

上世是朵花：理解，程序员嘛，查数据是正常事情！与数据分析想比，程序员除了写代码，做的事情也很杂的！

网友六：咱俩干的一样阿，但数据分析师，这名，我们叫应用运维。但我感觉运维都不是

上世是朵花：每个公司的职称不一样，这很正常，虽然干的活是一样，我还见过有的公司的运维要写python抓取脚本呢。

网友七：数据分析也分很多，具体工种差异大，薪资待遇也差很多

上世是朵花：没错，数据分析往深处研究也是很有价值的，有时一条有价值的策略能上公司的盈利情况成倍的增长。

网友八：我好想回到天天写SQL，现在最幸福的就是可以安安静静写sql

上世是朵花：看，有的人不喜欢，而有的人则向往，还是好好珍惜手头的事情，深挖其中的价值，让他变得有兴趣起来。

其实，楼主这样的感慨无非是觉得数据分析这样的工作没有技术含量，天天做着重复的工作，没有什么前途可言，这是一个比较错误的看法，因为他并没有看到这个行业的价值所在，在楼主的印象里，这个行业就是写sql代码，认为这是工作的核心，恰恰相反，写sql，提取数据只是一种手段，而不是目的，“数据分析”四个字拆开来看，整个工作是基于“数据”来进行，通过各种各样的sql对数据进行提取，这只是很小一部分工作，而真正的工作在于“分析”，这才是这个行业的核心，从对数据的分析能得出相应的策略，有时一条有价值的策略能给公司带来上亿的盈利，这才是这个工作的关键所在，如果这名楼主能看到这一点，就会认为自己的工作是很有价值的，而不会再觉得枯燥，从而工作起来就更有成就感了！

以上所有图片均来之互联网 大家好，我是“上世是朵花”。如果你有什么好的看法或者观点可以在评论区展现你的才华，互动交流，如果想进一步了解我，那就关注我吧！

今天准备聊一聊数据分析师，这个高大尚的职业，先用一个网上看到的段子来开头，先聊一下什么是数据分析师。

一个哥们，有次聚会时说自己买了很多条IPhone数据线，家里每个房间插一条，走到哪儿都能随时充电。。。。。在场的姑娘都当成是段子笑笑就过去了，只有个细心的姑娘悄悄问他买了多少条，他说42条。现在她和他在北京三环内总共42个房间的数套豪宅愉快地生活，下个月结婚。

程序员看数据分析师

从这个段子里是不是可以看出来，数据分析威力巨大，而且数据分析师最擅长的就是数据分析，他们的工作就是用数据来证明观点，从而指导公司发展或业务方向之类的问题。我平常的工作会和很多分析师打交道。我了解到的分析师这个群体大多是在投行、一线咨询公司这样提供专业服务的乙方公司工作。曾听人这么说过，这些公司大概是世界上智力密度最高的地方。

不同行业和公司之间都有鄙视的食物链，像我们这种本身就自带清高属性的程序员，和他们之间的鄙视关系我就不多说了（我老板居然是个分析师）。有一类分析师，经常被我们鄙视，他们经常说自己做事是有方法论的，当遇到一个问题，要先怎么分析，然后怎么拆解，再找什么数据来论证，最后下结论写成PPT。当我刚刚接触数据分析这一行的时候，我经常问自己一个问题：“这帮分析师可以做‘公司医生’，帮公司解决各种问题，制定战略，那他们为什么自己不去当老板，自己干呢？”

强大的数据分析师为什么不自己创业

不过到现在，我渐渐可以回答这个问题了。打个比方，这就好像军师为什么不去做皇帝。这个比喻可能不是那么的恰当，我只是想表达一下，去创业自己开公司需要多方面的能力，和咨询投行的思维和工作方式、工作内容都有很大的差异。假设你找到了一个产品做不好的原因或者说你知道了应该要怎么样才能做好一个产品，这也并不表示你亲自去执行的时候就一定可以成功。

再举个例行，如果有个咨询公司的分析师帮助一个卖啤酒的公司分析受众用户，制定方案提升品牌效果，最终实现了业绩的大幅提升，那么这个分析师之后就可以自己去卖啤酒赚钱了吗？这显然不行吧，零售行业还有自己的渠道，自己的销售体系，这些都是很复杂的，但这些确是创业必不可少的。

说了这么多分析师不好，再说以后我就没法混了，接下来我要说一下他们的优势了。

数据分析师特点

我先说他们的特点，大多数拥有高学历，海归的优秀背景，特别出色的逻辑思维能力（当然我认为程序员的逻辑能力是最强的，哈哈）以及异常善于表达。大多数程序员的表达能力都比较弱，用10分当满分，可能大部份程序员都会不及格，但是对于分析师来说，可能需要9.5分起步了，就是这么夸张。

分析师们还有一个特质，对数字异常敏感。之前听说我们上面有个老板，每个月都会看我们提交的月报，用来分析产品的数据趋势，只要有一个数字，在两次报告中不一样，不管这中间间隔了一个月还是几个月，她马上就能发现数字不一样。这种能力也是不得不服。

我还发现，分析师大多都有很强的个性，在讨论中都有自己鲜明的观点，这可能和他们的工作有关，工作中就一直在论证不同观点的正确与否。所以我平常决对不会和分析师在某件事上去争辩，因为我相信，就算去争，也不会有结果。

欢迎关注我，公共号也有，狂奔的豆沙包

我觉得无论什么工作兴趣最重要，要做数据分析师最基本的就是不讨厌数字，如果你跟他讲那个指标是通过怎么样的乘除加减得到的，他会觉得不耐烦，那么显然他不适合做数据分析;如果对数据较敏感，能够一眼发现异常值，数据分布情况，当然是最好的。

再则就是逻辑性，可以让他试试爱因斯坦的那道经典的逻辑题，看看能否解出来，需要多久;逻辑思维对数据分析尤其重要，不然会被各种指标的定义规则、与业务的联系纠结死，逻辑思维好的人写SQL等数据处理脚本也会更加高效。

接着是业务理解能力，最简单的就是让他定义下网站的目标是什么，哪些指标可以作为KPI，用户从进入网站到达成网站目标的整个过程是怎么实现转化的，能否画出业务流程图。(宏观层面，不要深入细节)

如果偏技术则需要懂一些数据库结构和SQL，如果偏展现需要考验下对图表的掌控能力，什么时候用什么图表合适，甚至如何配色。

最后就是细心、耐心和交流能力，做数据分析有时会很纠结，细心和耐心是必需的，好的交流能力可以让数据分析师更好地阐述清楚各类问题。

这些都是比较基础的东西，也是短期难以培养起来的技能。至于另外业务相关的一些知识，可以通过培训获取，问一个未接触过你的网站业务的人一些业务知识其实有些不公平，其实如果具备上面几点，一旦熟悉网站和业务之后，一定会成为优秀的数据分析师。

——谷芬芬

专业内的要求基本就是对数据的意识和一些技能的掌握。下面具体说说从一些非专业内要求的方面出发，有哪些方面能表现这个人更适合数据分析。

首先是看到数据有兴奋感的人。有兴奋感说明你有兴趣，那说明很会有意愿把数据分析好。

其次是愿意学习的人。你分析的内容永远不会一尘不变，即使你分析的主题是相对固定，但业务是变化的，你需要不断的学习业务，同不同人沟通，吸收别人的观点。所以分析师一定要报着学习的态度。

然后是逻辑思维较强的人。数据分析师想要把你的分析好，一定要有结论思维。

还有就是较强的表达与沟通能力。因为数据分析最终价值的实现，一般来说不会是分析师亲自去制定或者实施。所以你一定很有条理、逻辑清晰向别人表达，让业务方认识到你分析结果的价值，从而影响业务方去愿意使用你从数据中得到的观点。

——欧阳帅

觉得还是应该先看清楚自己的未来的方向吧~

我有不少朋友 非数学/计算机/统计学 专业毕业的朋友走的是这个方向，数据相关，非技术路线，更偏向于市场方向，对技术的要求只是Excel、PPT，最多要求SPSS，很少要求会写SQL。这条路线看起来比较高大上，可以走外企路线。

数据分析师方向，很多读数学、统计学、计算机的童鞋会选这个方向，终极目标都是成为数据中心的负责人。中间有2个分叉，一条是从数据分析师到数据产品经理，这个路线最近很流行，主要是结合了数据分析和产品经理的能力。一条是高大上一点的数据挖掘方向，这条路线要求比较高，但薪资也高。当然能走数据挖掘路线是很多数据分析师的梦想，但算法和代码实现能力不是谁都能掌握的。.

根据你自己想走的路，加上自己的技能点。

——张锦华

想了解更多相关内容，记得持续关注我们哦。

如果你觉得有点意思，请有秩序的评论、转发、收藏。

大数据行业发展如火如荼，国家政策利好，互联网大佬纷纷在大数据行业布局，我们想让自己的职业生涯在一个朝阳行业发展，肯定又要学习相关技术，让自己与时俱进，但是难就难在大数据是一个新兴事物，目前我国大学的专业里面还鲜少有这个专业，国家刚批的大数据专业，全国目前35个高校，但是从17年开始招生，2021年才有第一批毕业生进入职场，在四年期间，是大数据行业发展的飞速时期，没有行业发展是等着人才进入的，而是需要要虚位以待、蓄势待发，所以在没有高等教育准备好的大数据教育，如何高效的学习大数据，如何快速的与行业发展想契合，那么需要我们成为第一个吃螃蟹的人，作为一个随着大数据行业成长的职业人，首先要知道大数据是个啥？

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

那来帮大家分析下：如何高效的学习大数据。

经常有初学者会问，自己想往大数据方向发展，该学哪些技术，学习路线是什么样的，觉得大数据很火，就业很好，薪资很高……首先，如果你确定了想往这个方面发展，先考虑自己的过去从业经历、专业、兴趣是什么。计算机专业——操作系统、硬件、网络、服务器？软件专业——软件开发、编程、写代码？还是数学、统计学专业——对数据和数字特别感兴趣？

那么你能找师傅带吗？

但凡有这种想法的人，或多或少都会存有侥幸之心，或者叫做“天真，单纯”。希望不花一分钱，就能更快速的学到更优质，更实用的技能。

关于这一点，我只想反问一句你：“如果你是大师，你凭什么愿意带我？”

其实这就是想告诉你大数据的三个发展方向，平台搭建/优化/运维/监控、大数据开发/设计/架构、数据分析/挖掘。

先说一下大数据的4V特征：

数据量大，TB->PB

数据类型繁多，结构化、非结构化文本、日志、视频、图片、地理位置等；

商业价值高，但是这种价值需要在海量数据之上，通过数据分析与机器学习更快速的挖掘出来；

处理时效性高，海量数据的处理需求不再局限在离线计算当中。

现如今，正式为了应对大数据的这几个特点，开源的大数据框架越来越多，越来越强，先列举一些常见的：

文件存储：Hadoop HDFS、Tachyon、KFS

离线计算：Hadoop MapReduce、Spark

流式、实时计算：Storm、Spark Streaming、S4、Heron

K-V、NOSQL数据库：HBase、Redis、MongoDB

资源管理：YARN、Mesos

日志收集：Flume、Scribe、Logstash、Kibana

消息系统：Kafka、StormMQ、ZeroMQ、RabbitMQ

查询分析：Hive、Impala、Pig、Presto、Phoenix、SparkSQL、Drill、Flink、Kylin、Druid

分布式协调服务：Zookeeper

集群管理与监控：Ambari、Ganglia、Nagios、Cloudera Manager

数据挖掘、机器学习：Mahout、Spark MLLib

数据同步：Sqoop

任务调度：Oozie

······

第一步：初识Hadoop

1.1 学会百度与Google

不论遇到什么问题，先试试搜索并自己解决。

Google首选，翻不过去的，就用百度吧。

1.2 参考资料首选官方文档

特别是对于入门来说，官方文档永远是首选文档。

相信搞这块的大多是文化人，英文凑合就行，实在看不下去的，请参考第一步。

1.3 先让Hadoop跑起来

Hadoop可以算是大数据存储和计算的开山鼻祖，现在大多开源的大数据框架都依赖Hadoop或者与它能很好的兼容。

关于Hadoop,你至少需要搞清楚以下是什么：

· Hadoop 1.0、Hadoop 2.0

· MapReduce、HDFS

· NameNode、DataNode

· JobTracker、TaskTracker

· Yarn、ResourceManager、NodeManager

自己搭建Hadoop，请使用第一步和第二步，能让它跑起来就行。

建议先使用安装包命令行安装，不要使用管理工具安装。

另外：Hadoop1.0知道它就行了，现在都用Hadoop 2.0.

1.4 尝试使用Hadoop

· HDFS目录操作命令；

· 上传、下载文件命令；

· 提交运行MapReduce示例程序；

· 打开Hadoop WEB界面，查看Job运行状态，查看Job运行日志。

· 知道Hadoop的系统日志在哪里。

1.5了解它们的原理

MapReduce：如何分而治之；

HDFS：数据到底在哪里，什么是副本；

Yarn到底是什么，它能干什么；

NameNode到底在干些什么；

ResourceManager到底在干些什么；

1.6 自己写一个MapReduce程序

仿照WordCount例子，自己写一个（照抄也行）WordCount程序，

打包并提交到Hadoop运行。

不会Java的话，Shell、Python都可以，有个东西叫Hadoop Streaming。

如果能认真完成了以上几步，恭喜你，你的一只脚已经进来了。

第二步：更高效的WordCount

2.1 学点SQL吧

如果不懂数据库的童鞋先学习使用SQL句。

2.2 SQL版WordCount

在1.6中，你写（或者抄）的WordCount一共有几行代码？

如果用SQL的话：

SELECT word,COUNT(1) FROM wordcount GROUP BY word;

这便是SQL的魅力，编程需要几十行，甚至上百行代码，SQL一句就搞定；使用SQL处理分析Hadoop上的数据，方便、高效、易上手、更是趋势。不论是离线计算还是实时计算，越来越多的大数据处理框架都在积极提供SQL接口。

2.3 安装配置Hive

Hive算是数据仓库工具，安装不难，网上有很多教程，配置完成后，可以正常进入Hive命令行。

2.4 试试使用Hive

尝试在Hive中创建wordcount表，并运行2.2中的SQL语句。在Hadoop WEB界面中找到刚才运行的SQL任务。看SQL查询结果是否和1.4中MapReduce中的结果一致。

明明写的是SQL，为什么Hadoop WEB界面中看到的是MapReduce任务？

2.5 学会Hive的基本命令

创建、删除表；加载数据到表；下载Hive表的数据；并学习更多关于Hive的语法和命令。

0和Hadoop2.0的区别

MapReduce的原理（还是那个经典的题目，一个10G大小的文件，给定1G大小的内存，如何使用Java程序统计出现次数最多的10个单词及次数）；

HDFS读写数据的流程；向HDFS中PUT数据；从HDFS中下载数据；

自己会写简单的MapReduce程序，运行出现问题，知道在哪里查看日志；

会写简单的SELECT、WHERE、GROUP BY等SQL语句；

Hive SQL转换成MapReduce的大致流程；

Hive中常见的语句：创建表、删除表、往表中加载数据、分区、将表中数据下载到本地；

从上面的学习，你已经了解到，HDFS是Hadoop提供的分布式存储框架，它可以用来存储海量数据，MapReduce是Hadoop提供的分布式计算框架，它可以用来统计和分析HDFS上的海量数据，而Hive则是SQL On Hadoop，Hive提供了SQL接口，开发人员只需要编写简单易上手的SQL语句，Hive负责把SQL翻译成MapReduce，提交运行。

第三步：把别处的数据搞到Hadoop上

此处也可以叫做数据采集，把各个数据源的数据采集到Hadoop上。

3.1 HDFS PUT命令

put命令在实际环境中也比较常用，通常配合shell、python等脚本语言来使用。建议需熟练掌握。

3.2 HDFS API

HDFS提供了写数据的API，自己用编程语言将数据写入HDFS，put命令本身也是使用API。

实际环境中一般自己较少编写程序使用API来写数据到HDFS，通常都是使用其他框架封装好的方法。比如：Hive中的INSERT语句，Spark中的saveAsTextfile等。

可以尝试了解原理，试着写几个Demo。

3.3 Sqoop

Sqoop是一个主要用于Hadoop/Hive与传统关系型数据库Oracle/MySQL/SQLServer等之间进行数据交换的开源框架。

就像Hive把SQL翻译成MapReduce一样，Sqoop把你指定的参数翻译成MapReduce，提交到Hadoop运行，完成Hadoop与其他数据库之间的数据交换。

自己下载和配置Sqoop（建议先使用Sqoop1，Sqoop2比较复杂）。

了解Sqoop常用的配置参数和方法。

使用Sqoop完成从MySQL同步数据到HDFS；

使用Sqoop完成从MySQL同步数据到Hive表；

PS：如果后续选型确定使用Sqoop作为数据交换工具，那么建议熟练掌握，否则，了解和会用Demo即可。

3.4 Flume

Flume是一个分布式的海量日志采集和传输框架，因为“采集和传输框架”，所以它并不适合关系型数据库的数据采集和传输。Flume可以实时的从网络协议、消息系统、文件系统采集日志，并传输到HDFS上。因此，如果你的业务有这些数据源的数据，并且需要实时的采集，那么就应该考虑使用Flume。

下载和配置Flume。使用Flume监控一个不断追加数据的文件，并将数据传输到HDFS；

PS：Flume的配置和使用较为复杂，如果你没有足够的兴趣和耐心，可以先跳过Flume。

3.5 阿里开源的DataX

之所以介绍这个，是因为以前某公司客户目前使用的Hadoop与关系型数据库数据交换的工具，就是之前基于DataX开发的，个人感觉非常好用。现在DataX已经是3.0版本，支持很多数据源。你也可以在其之上做二次开发。

PS：有兴趣的可以研究和使用一下，对比一下它与Sqoop。

至此，你的“大数据平台”应该是这样的：

第四步：把Hadoop上的数据搞到别处去

前面介绍了如何把数据源的数据采集到Hadoop上，数据到Hadoop上之后，便可以使用Hive和MapReduce进行分析了。那么接下来的问题是，分析完的结果如何从Hadoop上同步到其他系统和应用中去呢？

其实此处的方法和第三步基本一致的。

4.1 HDFS GET命令

把HDFS上的文件GET到本地。需要熟练掌握。

4.2 HDFS API

原理同3.2。

4.3 Sqoop

原理同3.3。

使用Sqoop完成将HDFS上的文件同步到MySQL；

使用Sqoop完成将Hive表中的数据同步到MySQL；

4.4 DataX

原理同3.4

此时，“你的大数据平台”应该是这样的：

走完第三步和第四步的流程，那么你应该已经具备以下技能和知识点：

· 知道如何把已有的数据采集到HDFS上，包括离线采集和实时采集；

· 知道sqoop（或者还有DataX）是HDFS和其他数据源之间的数据交换工具；

· 知道flume可以用作实时的日志采集；

至此，对于大数据平台，应该已经掌握如何搭建Hadoop集群，把数据采集到Hadoop上，使用Hive和MapReduce来分析数据，把分析结果同步到其他数据源。

接下来的问题就是，Hive使用的越来越多，你会发现很多不愉快的地方，特别是速度慢，

大多情况下，明明我的数据量很小，它都要申请资源，启动MapReduce来执行。

第五步：快一点吧，我的SQL

其实大家都已经发现Hive后台使用MapReduce作为执行引擎，实在是有点慢。因此SQL On Hadoop的框架越来越多，按我的了解，最常用的按照流行度依次为SparkSQL、Impala和Presto.这三种框架基于半内存或者全内存，提供了SQL接口来快速查询分析Hadoop上的数据。

目前我们的方案使用的是SparkSQL，至于为什么用SparkSQL，原因大概如下：

· 使用Spark还做了其他事情，不想引入过多的框架；

· Impala对内存的需求太大，没有过多资源部署；

5.1 关于Spark和SparkSQL

什么是Spark，什么是SparkSQL。

Spark有的核心概念及名词解释。

SparkSQL和Spark是什么关系，SparkSQL和Hive是什么关系。

5.2 如何部署和运行SparkSQL

Spark有哪些部署模式？

如何在Yarn上运行SparkSQL？

使用SparkSQL查询Hive中的表。

PS:Spark不是一门短时间内就能掌握的技术，因此建议在了解了Spark之后，可以先从SparkSQL入手，循序渐进。

第六步：一夫多妻制

其实我想说的是数据的一次采集、多次消费。

在实际业务场景下，特别是对于一些监控日志，想即时的从日志中了解一些指标（关于实时计算，后面步节会有介绍），这时候，从HDFS上分析就太慢了，尽管是通过Flume采集的，但Flume也不能间隔很短就往HDFS上滚动文件，这样会导致小文件特别多。

为了满足数据的一次采集、多次消费的需求，这里要说的便是Kafka。

6.1 关于Kafka

Kafka是一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模的网站中的所有动作流数据。这种动作（网页浏览，搜索和其他用户的行动）是在现代网络上的许多社会功能的一个关键因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。

6.2 如何部署和使用Kafka

使用单机部署Kafka，并成功运行自带的生产者和消费者例子。

使用Java程序自己编写并运行生产者和消费者程序。

Flume和Kafka的集成，使用Flume监控日志，并将日志数据实时发送至Kafka。

至此，“大数据平台”应该扩充成这样：

这时，使用Flume采集的数据，不是直接到HDFS上，而是先到Kafka，Kafka中的数据可以由多个消费者同时消费，其中一个消费者，就是将数据同步到HDFS。

总结：

为什么Spark比MapReduce快。

使用SparkSQL代替Hive，更快的运行SQL。

使用Kafka完成数据的一次收集，多次消费架构。

自己可以写程序完成Kafka的生产者和消费者。

前面的学习已经掌握了大数据平台中的数据采集、数据存储和计算、数据交换等大部分技能，而这其中的每一步，都需要一个任务（程序）来完成，各个任务�...

　　大数据这个词已经被炒的满天飞，还有的人说它是泡沫，现在什么东西即使没用大数据技术也要加个大数据概念，要不都觉得落伍了，当然这是迎合宣传的手段，不过搞虚假宣传还是不太好的。那真正使用大数据技术的地方且比较有代表性的产品有那些：

　　·云存储：中国比较好的有百度云，国外比较好的有AWS等。正是因为有这些产品的出现，数据在云端的概念才终于变成现实了，大家都不用踹着U盘到处跑了。

　　·内容推荐：最具代表性的有今日头条，它正是运用了大数据技术来找到你喜欢的内容并且推荐给你。自从这个产品出现以后已经有很多人抛弃以前的新闻阅读方式。它让网易新闻、新浪新闻、腾讯新闻等产品上了不少火。现在大家都开始纷纷的学习它。

　　·物品推荐：电影网站、音乐网站、电商网站这些网站都会把根据你的浏览行为进行分析，根据你的兴趣推荐给你相应的物品，比如爱奇艺、QQ音乐、京东等。

　　·广告计算：应用比较好的有百度、谷歌、淘宝、腾讯，他们要根据广告主的价格和广告的效果计算广告的排序，好在流量中达到最好的变现效果，这时数据的处理速度与数据的量级直接影响了他们的收入。

　　·金融：银行正使用大数据分析用户的消费行为、购买能力以及还款能力，用来降低提供给用户的贷款风险，减少环帐率。

　　·信用：支付宝的芝麻信用加入了更多的维度，比如你的人际关系、学历、车等等元素来评估你的信用值，给信用值高的人提供更好的服务，比如信用度高住酒店就不用交押金。

　　·数据分析：这个具有代表性的产品不多，但确是大数据应用非常主要的场景，一般都是公司内部定制性的，所以一般不公开，但确实各种公司都在用，比如网站的流量分析、相关产品的用户特性分析、微博的语义分析。可以根据这些分析为自己的业务或者产品发展方向提供决策依据。

　　·智慧城市：这个现在比较有代表性的功能就是可以根据人流控制路灯的亮度，可以达到省电的效果。通过车流控制红绿灯的变化，减少道路拥堵。

　　正是有了大数据处理技术的应用才使以上这些方面有了更好的发展，如果没有大数据处理技术的出现那可能就会因为数据太多处理不过来或者根本就无法处理。那自然就会导致一些业务的发展落后或者根本无法进行的。当然未来大数据的应用场景将会越来越多，比如物联网、人工智能等等。前景十分看好。

　　如果以上这些你都不了解那我就再举个更俗的例子，就是”你一撅屁股我就知道你要拉什么屎“。这是因为你对某个人或物接触时间长了，知道了对方足够多的信息，促进了你对事物的认知，从而就能更了解这个事物并预测到它下一步动作。大数据处理技术也就是这么个过程，它的过程可以分为收集，处理，分析识别、预测这四个步骤。其实就是模拟人类对事物认知这个过程并把这个过程程序化、海量化。

　　还觉得大数据是泡沫的您还这么想吗？可别再继续无知下去了。

一般情况下，我们所说的分析是指，使用大量数据、统计和定量分析、解释和预测以及基于事实的管理来推动决策过程与实现价值增生。

根据分析的方法和目的，分析可以被划分为描述性分析（descri-ptive analytics）、预测性分析（predictive analytics）和规范性分析（prescriptive analytics）。描述性分析包括数据收集、整理、制表、制图以及描述正要研究的食物的特征，这类分析以往被称为“报告”。描述性分析可能非常有用，但它不能解释某种结果出现的原因或者未来可能会发生的事情。

预测性分析不仅可以对数据特征和变量（可以假定取消范围的因素）之间的关系进行描述，还可以基于过去的数据预测未来。预测性分析首先会确定变量值之间的关联，然后基于这种已知的关联预测另一种现象出现的可能性，比如在看到某个广告后，一位消费者可能会去买产品的可能性。虽然预测性分析中的预测是基于变量之间的关系做出来的，但这不代表预测性分析中都需要明确因果关系。事实上，准确的预测并不一定与需要基于因果关系。

规范性分析是更高层次的分析，如实验设计和优化等。就像医生会在出处方建议患者采取什么行动一样，实验设计试图通过做实验给出某些事情发生的原因。为了能够在因果关系研究中信心饱满地做出推断，研究人员必须妥善处理一个或多个独立的变量，并有效控制其他的变量。如果处于试验环境下的测试组的表现大大优于照相，决策制定者就应该立即推广这种实验环境。

优化是规范性分析采用的一种方法，指试图识别出一个特定变量和另一个变量之间理想的关系水平。例如，我们可以能会对识别最有可能让产品实现高收益的价格感兴趣。同样地，优化这种方法能够识别出使了零售企业最大限制避免缺货情况的库存水平。

根据分析采用的方法以及收集和分析的数据类型，我们可以将分析分为定性分析（qualitative analysis）和定量分析（quantitative analysis）。定性分析的目的是深入了解某种现象的根本原因和诱因。非结构化数据通常是从少数非代表性案例中收集而来，并进行了非统计性分析。定量分析是分析的最初阶段，他通常是探索性分析的有效工具，定量分析是指通过统计、数学或者计算的方式对现象进行系统的实证研究。通常情况下，结构化数据是从大量典型案例中收集而来，并进行统计分析。

为了服务于研究者的不同研究目的，存在以下几种类型的分析：

*统计学：收集、整理、分析、说明和呈现数据的学科；

*预测：根据已有数据，预测一下一些感兴趣的变量在未来某个特定的时间点的情况；

*数据挖掘：通常使用算法和统计技术，自动或半自动地提取大量数据中未知的有趣模式；

*文字挖掘：用类似数据挖掘的方式从文本中得模式和趋势的过程；

*优化：在同时满足约束条件的情况下，按照某些标准利用数学方法来寻找最优的解决方案；

*实验设计：给各组随机分配被试。然后使用测试组和对照组来推导出特定结果中存在的因果关系。

虽然此处给出了一些列常用的分析方法，但在使用过程中会不可避免地出现相当大的重叠。例如，回归分析（regression analysis）是预测分析中最常用的方法，与此同时，他也是统计学、预测和数据挖掘中常用的方法。此外，时间序列分析（time seties analysis）是用于分析数据随时间变化的一种具体统计方法、在统计学和预测中经常被用到。

1.什么是数据分析？

数据分析的目的是把隐藏在一些看似杂乱无章的数据背后的信息提炼出来，总结出所研究对象的内在规律。在实际工作中，数据分析能够帮助管理者进行判断和决策，以便采取适当策略与行动。比如：企业的高管希望通过市场分析和研究，把握当前产品的市场动向，从而制定合理的产品研发和销售计划，这就必须依赖数据分析才能够完成。

简单的说，就是对数据进行分析，比较专业的说法是，数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，未提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。以求最大化地开发数据的功能，发挥数据的作用。

数据分析包含“数据”和“分析”两个方面一方面包括加工和整理数据，另一方面也包括分析数据，从中提取有价值的信息并形成对业务有帮助的结论。

数据分析的成果通常以分析报告的形式呈现。对于数据分析报告，分析就是论点，数据就是论据，两者缺一不可。

2.数据分析类别

其中，探索性数据分析侧重于在数据中发现新的特征，而验证性数据分析则侧重于验证已有假设的真伪证明。

数据分析的划分：描述性数据分析、探索性数据分析、验证性数据分析。

1）描述性数据分析：属于初级数据分析，常见的分析方法有对比分析法、平均分析法、交叉分析法。

2）探索性数据分析：侧重于再数据之中发现新的特征

3）验证性数据分析：侧重于验证已有假设的真伪证明

其中探索性数据分析和验证性数据分析属于高级数据分析，常见的分析方法有相关分析、因子分析、回归分析等等。

3.数据分析的作用

数据分析在日常企业运营中主要有三大作用：

1.现状分析

简单的说就是告诉你过去发生了什么。

具体表现在：

第一，告诉你企业现阶段的整体运营情况，通过各个经营指标的完成情况来衡量企业的运营状态，以说明企业整体运营是更好了还是坏了，好的程度是如何，坏的程度又到哪里。

第二，告诉你企业各项业务的构成，让你了解企业各项业务的发展及变动情况，对企业经营状况有更深入的了解。

现状分析一般通过日常通报来完成，如日报、周报、月报等形式。

2.原因分析

简单的说就是告诉你某一现状为什么发生。经过第一阶段的现状分析，我们对企业的运营情况有了一个基本的了解，但是不知道运营情况具体好在哪里，差在哪里，是什么原因引起的。这时候我们就需要开展原因分析，以进一步确定业务变动的具体原因。

原因分析一般通过专题分析来完成，根据企业运营情况选择针对某一现状进行原因分析。

3.预测分析

简单来说就是告诉你将来会发生什么。

在了解企业运营现状后，有时候还需要对企业未来发展趋势做出预测，为企业制定经营目标以及提供有效的策略参考与决策依据，以确保企业的可持续健康发展。

预测分析一般通过专题分析来完成，通常在制定企业季度、年度等计划时进行，其开展的频率没有现状分析及原因分析高。

什么时候开展什么样的数据分析，需要根据自身的需求及目的来确定。

分享 IT 技术和行业经验，请关注-技术学派。