大数据需要学习什么?很多人问过我这个问题。总是没有一个合适的契机去好好总结这些内容，大数据是近五年兴起的行业，发展迅速，很多技术经过这些年的迭代也变得比较成熟了，同时新的东西也不断涌现，想要保持自己竞争力的唯一办法就是不断学习。

干货走起，闲话不多说，以下就是小编整理的大数据学习思路附上学习路线图

第一阶段：linux系统

本阶段为大数据学习入门基础课程，帮大家进入大数据领取打好Linux基础，以便更好的学习Hadoop、habse、NoSQL、saprk、storm等众多技术要点。

另：目前企业中无疑例外是使用Linux来搭建或部署项目的

第二阶段：大型网站高并发处理

本阶段的学习是为了让大家能够了解大数据的源头，数据从而而来，继而更好的了解大数据。通过学习处理大型网站高并发问题反向的更加深入的学习Linux，同事站在了更高的角度去触探架构

第三阶段：Hadoop学习

1、Hadoop分布式文件系统：HDFS

详细解剖HDFS，了解其工作原理，打好学习大数据的基础

2、Hadoop分布式计算框架：MapReduce

MapReduce可以说是任何一家大数据公司都会用到的计算框架，也是每个大数据工程师应该熟练掌握的

3、Hadoop离线体系：Hive

hive是使用SQL尽心计算的Hadoop框架，工作中经常会使用，也是面授的重点

4、Hadoop离线计算体系：HBASE

HBASE的重要性不言而喻，即便是工作多年的大数据工程师也是需要去重点学习HBASE性能优化的

第四阶段：zookeeper开发

zookeeper在分布式集群中的地位越来越突出，对分布式应用的开发也提供了极大的便利，学习zookeeper的时候，我们主要学习zookeeper的深入，客户端开发、日常运维、web界面监控等等。学好此部分的内容对后面技术的学习也是至关重要的。大数据学习扣扣组六零六七二一七九八

第五阶段：elasticsearch分布式搜索

第六阶段：CDH集群管理

第七阶段：storm实时数据处理

本阶段覆盖storm内部机制和原理，掌握从数据采集到实时极端到数据存储再到前台展示，一人讲所有的工作全部完成，知识覆盖面广

第八阶段：Redis缓存数据库

对Redis做个全部的学习，包括其特点、散列集合类型、字符串类型等等，最后到优化，做个详细的学习

第九阶段：spark核心部分

本阶段内容覆盖了spark生态系统的概述及其编程模型，深入内核的研究，Spark on Yarn,Spark Streaming流式计算原理与实践，Spark SQL,Spark的多语言编程以及SparkR的原理和运行。

在了解了以上知识点后，云计算机器学习的部分也是至关重要的。通常在云计算这部分内容，我们会对Docker、虚拟化KVM、云平台OpenStack做个了解和学习，防止在以后的工作中会遇到

好了，大数据的学习体系就简单的为大家分享到这里。

现在世界是个被互联网包围的世界，云计算关键性技术已有大步的突破，这个时代需要处理的数据量相当庞大，未来的三年内云计算将会解决所有数据中心的流量问题。提到云计算大部分人会迅速和大数据和人工智能联系起来，三者本身来说就是相辅相成不可分割的关系。

那么想往云计算/大数据方向发展，请问学习路线是什么？对此有网友表示称，SQL + 一门数据库。SQL说简单很简单，说不简单当优化的时候你就懂了。这个好练习，多多练手，无论你干大数据工程师，机器学习工程师，数据分析师其中的哪个都会用到。大学中既然开了Oracle数据库就好好学习，学会了之后以后市面上的其他数据库也都会慢慢的融会贯通了，这个是触类旁通的。

大数据和云计算基础 - 这门课的课表讲的是什么我不是很清楚。如果是Hadoop之类的要猛学，如果是spark那就疯狂地学。学习的方法就是了解概念+反复操作。我不知道你们的老师是不是能给你们提供资源练习，如果条件允许可以自己可以从慢慢搭框架开始，然后跟着老师走。国内最火的貌似是阿里云？如果有免费档的可以自己申请试试，然后看看市面上大家用什么，慢慢作为课外补充的资料。理解原理+加强练习+知道什么时候用什么。

Windows系统 - 虽然我曾经开发过Windows有着很深的感情，也深知这是一个非常优秀的操作系统。可是从你的角度来说，我并不是很支持学习这门课，如果是选修可以不选，毕竟用上的概率不大。从我在微软和一沓硅谷的高科技公司来看，未来的趋势还是在Linux上。

第一阶段linux+搜索+hadoop体系

Linux基础→shell编程→高并发架构→lucene,solr搜索→hadoop体系→HDFS→mapreduce→hbase→zookeeper→hive→flume→sqoop→项目实战一

第二阶段机器学习

R语言→mahout→项目实战二

第三阶段storm流式计算

kafka→storm→redis→项目实战三

第四阶段spark内存计算

scala编程→spark core→spark sql→spark streaming→spark mllib→spark graphx→项目实战四→python机器学习→spark python编程→项目实战五→项目实战六

第五阶段云计算平台

docker→kvm→openstack云计算→就业指导

第一阶段：linux+搜索+hadoop体系Linux大纲这章是基础课程，帮大家进入大数据领域打好Linux基础，以便更好地学习Hadoop，hbase,NoSQL，Spark，Storm，docker,kvm,openstack等众多课程。因为企业中无一例外的是使用Linux来搭建或部署项目。1) Linux的介绍，Linux的安装：VMware Workstation虚拟软件安装过程、CentOS虚拟机安装过程

2) 了解机架服务器，采用真实机架服务器部署linux

3) Linux的常用命令：常用命令的介绍、常用命令的使用和练习

4) Linux系统进程管理基本原理及相关管理工具如ps、pkill、top、htop等的使用；

5) Linux启动流程，运行级别详解，chkconfig详解

6) VI、VIM编辑器：VI、VIM编辑器的介绍、VI、VIM扥使用和常用快捷键

7) Linux用户和组账户管理：用户的管理、组管理

8) Linux磁盘管理，lvm逻辑卷，nfs详解

9) Linux系统文件权限管理：文件权限介绍、文件权限的操作

10) Linux的RPM软件包管理：RPM包的介绍、RPM安装、卸载等操作

11) yum命令，yum源搭建

12) Linux网络：Linux网络的介绍、Linux网络的配置和维护

13) Shell编程：Shell的介绍、Shell脚本的编写

14) Linux上常见软件的安装：安装JDK、安装Tomcat、安装mysql,web项目部署大型网站

高并发处理通过本章的学习大家将会了解大数据的源头，数据从何而来，继而更好的了解大数据。并且通过学习何果处理大型网站高并发问题反向更深入的学习了Linux，同时站在了更高的角度去触探了架构。1) 第四层负载均衡

a) Lvs负载均衡

i. 负载算法，NAT模式，直接路由模式（DR），隧道模式（TUN）

b) F5负载均衡器介绍

2) 第七层负载均衡

a) Nginx b) Apache

3) Tomcat、jvm优化提高并发量

4) 缓存优化

a) Java缓存框架

i. Oscache，ehcache

b) 缓存数据库

i. Redis，Memcached

5) Lvs+nginx+tomcat+redis|memcache构建二层负载均衡千万并发处理

6) Haproxy

7) Fastdfs小文件独立存储管理

8) Redis缓存系统

a) Redis基本使用 b) Redis sentinel高可用 c) Redis好友推荐算法Lucene课程在大数据里面文本数据的搜索是很重要的一块，特别是里面的分词技术，是后面机器学习里面文本挖掘的基石，我们需要深入学习java领域里面的搜索核心技术lucene，同时也可以了解到百度 google这样的搜索系统是怎么架构实现的。1) Lucene介绍

2) Lucene 倒排索引原理

>

3) 建索引 IndexWriter

4) 搜索 IndexSearcher

5) Query

6) Sort和 过滤 （filter）

7) 索引优化和高亮Solr课程接着前面lucene技术搜索，如果把lucene技术比如为发动机，那solr就是一两成型的汽车了。学习完solr可以帮助你在企业里面快速的架构搜索系统。首先Solr是基于Lucene做的，Lucene是一套信息检索工具包，但并不包含搜索引擎系统，它包含了索引结构、读写索引工具、相关性工具、排序等功能，因此在使用Lucene时你仍需要关注搜索引擎系统，例如数据获取、解析、分词等方面的东西。而Solr的目标是打造一款企业级的搜索引擎系统，因此它更接近于我们认识到的搜索引擎系统，它是一个搜索引擎服务，通过各种API可以让你的应用使用搜索服务，而不需要将搜索逻辑耦合在应用中。而且Solr可以根据配置文件定义数据解析的方式，更像是一个搜索框架，它也支持主从、热换库等操作。还添加了飘红、facet等搜索引擎常见功能的支持。1) 什么是solr

2) 为什么工程中要使用solr

3) Solr的原理

4) 如何在tomcat中运行solr

5) 如何利用solr进行索引与搜索

6) solr的各种查询

7) solr的Filter

8) solr的排序

9) solr的高亮

10) solr的某个域统计

11) solr的范围统计

12) solrcloud集群搭建

Hadoop

离线计算大纲一、初识hadoop 听过大数据，必听过hadoop，此部分带领大家了解hadoop的用途，在大数据中的用途，以及快速搭建一个hadoop的实验环境，在本过程中不仅将用到前面的Linux知识，而且会对hadoop的架构有深入的理解，并为你以后架构大数据项目打下坚实基础。1) Hadoop生态环境介绍

2) Hadoop云计算中的位置和关系

3) 国内外Hadoop应用案例介绍

4) Hadoop 概念、版本、历史

5) Hadoop 核心组成介绍及hdfs、mapreduce 体系结构

6) Hadoop 的集群结构

7) Hadoop 伪分布的详细安装步骤

8) 通过命令行和浏览器观察hadoop

二、 HDFS体系结构和shell以及java操作详细剖析HDFS，从知晓原理到开发网盘的项目让大家打好学习大数据的基础，大数据之于分布式，分布式学习从学习分布式文件系统（HDFS）开始。1) HDFS底层工作原理

2) HDFS datanode,namenode详解

3) Hdfs shell

4) Hdfs java api

三、 详细讲解MapreduceMapreduce可以说是任何一家大数据公司都会用到的计算框架，也是每个大数据工程师应该熟练掌握的，此处的学习除了老师详细的讲解理论外，会通过大量的案例让大家彻底掌握。1) Mapreduce四个阶段介绍

2) Writable

3) InputSplit和OutputSplit

4) Maptask

5) Shuffle：Sort，Partitioner，Group,Combiner

6) Reducer

四、 Mapreduce案例案例1) 二次排序

2) 倒排序索引

3) 最优路径

4) 电信数据挖掘之-----移动轨迹预测分析（中国棱镜计划）

5) 社交好友推荐算法

6) 互联网精准广告推送 算法

7) 阿里巴巴天池大数据竞赛 《天猫推荐算法》案例

8) Mapreduce实战pagerank算法

五、 Hadoop2.x集群搭建前面带领大家开发了大量的MapReduce程序，此部分将带来大家让开发的程序运行在分布式集群中，并且运行在健壮高可用的集群中。1) Hadoop2.x集群结构体系介绍

2) Hadoop2.x集群搭建

3) NameNode的高可用性（HA）

4) HDFS Federation

5) ResourceManager 的高可用性（HA）

6) Hadoop集群常见问题和解决方法

7) Hadoop集群管理分布式数据库

Hbase大数据中使用Hbase的案例多的举不胜举，也可凸显大家学习的必要性。即使工作多年的大数据工程师Hbase的优化也是需要好好学习的重点。1) HBase定义

2) HBase与RDBMS的对比

3) 数据模型

4) 系统架构

5) HBase上的MapReduce

6) 表的设计

7) 集群的搭建过程讲解

8) 集群的监控

9) 集群的管理

10) HBase Shell以及演示

11) Hbase 树形表设计

12) Hbase 一对多 和 多对多 表设计

13) Hbase 微博 案例

14) Hbase 订单案例

15) Hbase表级优化

16) Hbase 写数据优化

17) Hbase 读数据优化

数据仓库HiveHive是使用sql进行计算的hadoop框架，工作中最常用到的部分，也是面试的重点，此部分大家将从方方面面来学习Hive的应用，任何细节都将给大家涉及到。1) 数据仓库基础知识

2) Hive定义

3) Hive体系结构简介

4) Hive集群

5) 客户端简介

6) HiveQL定义

7) HiveQL与SQL的比较

8) 数据类型

9) 外部表和分区表

10) ddl与CLI客户端演示

11) dml与CLI客户端演示

12) select与CLI客户端演示

13) Operators 和 functions与CLI客户端演示

14) Hive server2 与jdbc

15) 用户自定义函数（UDF 和 UDAF）的开发与演示

16) Hive 优化

数据迁移工具Sqoopsqoop适用于关系型数据库和HDFS分布式数据系统之间进行数据转换，在企业中，是构建数据仓库的一大工具。1) 介绍 和 配置Sqoop

2) Sqoop shell使用

3) Sqoop-import

a) DBMS-hdfs b) DBMS-hive c) DBMS-hbase

4) Sqoop-exportFlume分布式

日志框架Flume最早是Cloudera提供的日志收集系统，目前是Apache下的一个孵化项目，Flume支持在日志系统中定制各类数据发送方，用于收集数据。大家学习完此节后不但可以掌握Flume的使用，而且可以进行对于Flume的开发。1) flume简介-基础知识

2) flume安装与测试

3) flume部署方式

4) flume source相关配置及测试

5) flume sink相关配置及测试

6) flume selector 相关配置与案例分析

7) flume Sink Processors相关配置和案例分析

8) flume Interceptors相关配置和案例分析

9) flume AVRO Client开发

10) flume 和kafka 的整合

Zookeeper

开发Zookeeper在分布式集群（Hadoop生态圈）中的地位越来越突出，对分布式应用的开发也提供了极大便利，这也是这里我们带领大家深入学习 Zookeeper的原因。本课程主要内容包括Zookeeper深入、客户端开发（Java编程，案例开发）、日常运维、Web界面监控。大家这里学好Zookeeper，对后面学习其他技术至关重要。1) Zookeeper java api开发

2) Zookeeper rmi高可用分布式集群开发

3) Zookeeper redis高可用监控实现

4) Netty 异步io通信框架

5) Zookeeper实现netty分布式架构的高可用项目实战某大型电商日志分析和订单管理在实战中学习，技术点非常多，怎么样实际运用这些点是我们在自学过程中体验不到的。电商日志分析包括：pv、uv，跳出率，二跳率、广告转化率、搜索引擎优化等，订单模块有：产品推荐，商家排名，历史订单查询，订单报表统计等。项目技术架构体系：

a) Web项目和云计算项目的整合

b) Flume通过avro实时收集web项目中的日志

c) 数据的ETL

d) Hive 批量 sql执行

e) Hive 自定义函数

f) Hive和hbase整合。

g) Hbase 数据支持 sql查询分析

h) Mapreduce数据挖掘

i) Hbase dao处理

j) Sqoop 在项目中的使用。

k) Mapreduce 定时调用和监控

第二阶段：机器学习R语言

机器学习R本身是一款十分优秀的数据分析和数据可视化软件，同时作为第一代机器学习的工具，其中包括大量用于机器学习的添加包。此部分带领大家学习R语言更是带领大家进入机器学习的领域，机器学习算法为主线的同时，通过案例学习将会让大家对内容脉络掌握的更加清晰。1) R语言介绍，基本函数，数据类型

2) 线性回归

3) 朴素贝叶斯聚类

4) 决策树分类

5) k均值聚类 a) 离群点检测

6) 关联规则探索

7) 神经网络Mahout

机器学习Mahout提供一些可扩展的机器学习领域经典算法的实现，很多公司会使用Mahout方便快捷地创建智能应用程序。Mahout包含许多实现，包括聚类、分类、推荐过滤、频繁子项挖掘。Mahout通过使用 Apache Hadoop，可以有效地扩展到云中。被业界奉为第二代机器学习工具。此部分过后大家不仅会学习到mahout的组件而且会有项目让大家真正把它应用到工作中。1) 介绍为什么使用它,它的前景

a) 简单介绍Mahout b) 简单介绍机器学习 c) 实例演示Mahout单机推荐程序

2) 配置安装（hadoop2.x版本的）编译安装步骤说明

a) 命令行中测试运行协同过滤概念

3) 推荐

a) 讲解基于用户的协同过滤 b) 讲解基于物品的协同过滤

4) 分类

a) 分类概念 b) 分类的应用及Mahout分类优势 c) 分类和聚类、推荐的区别 d) 分类工作原理

e) 分类中概念术语 f) 分类项目工作流 g) 如何定义预测变量 h) 线性分类器的介绍，及贝叶斯分类器

i) 决策树分类器的介绍，及随机森林分类器 j) 如何使用贝叶斯分类器和随机森林分类器的代码展示

5) 聚类

a) 聚类概念 b) 聚类步骤流程 c) 聚类中的距离测度 d) 讲解K-means聚类 e) K-means聚类算法展示

f) 聚类其他算法 g) 介绍TF-IDF h) 归一化 i) 微博聚类案例项目实战微博营销数据挖掘项目使用数据来自微博平台，项目目标通过机器学习所学知识挖掘目标客户群体，找到代言人进行微博营销广告投放。项目技术架构体系：

a) 分布式平台 Hadoop，MapReduce

b) 数据采集 Flume

c) 数据清洗 ETL

d) 数据库 Hbase，Redis

e) 机器学习 Mahout

第三阶段：storm流式计算redis缓存

系统课程大纲1) redis特点、与其他数据库的比较

2) 如何安装redis

3) 如何使用命令行客户端

4) redis的字符串类型

5) redis的散列类型

6) redis的列表类型

7) redis的集合类型

8) 如何使用java访问redis【a.python访问redis,scala访问redis】

9) redis的事务(transaction)

10) redis的管道(pipeline)

11) redis持久化(AOF+RDB)

12) redis优化

13) redis的主从复制

14) redis的sentinel高可用

15) twemproxy,codis实战

16) redis3.x集群安装配置

Kafka课程Kafka是当下流行的队列，可以说是从数据采集到大数据计算承上启下的重要环节，大家在此部分将会详细学习它的架构，kafka在大家大数据的项目中几乎都会涉及到。1) kafka是什么

2) kafka体系结构

3) kafka配置详解

4) kafka的安装

5) kafka的存储策略

6) kafka分区特点

7) kafka的发布与订阅

8) zookeeper协调管理

9) java编程操作kafka

10) scala编程操作kafka

11) flume 和kafka 的整合

12) Kafka 和storm 的整合

Storm

实时数据处理本部分学习过后，大家将全面掌握Storm内部机制和原理，通过大量项目实战，让大家拥有完整项目开发�...

大数据如今在国家的大力支持下，越来越火热，吸引了大批人员学习，而对于刚学大数据的各位程序员来说最难的就是怎么样入门和找寻资料了，在这里大家有需要

可以加大数据、hadoop、Python学习资料分享群 596471005 不管你是小白还是大牛，小编我都挺欢迎，今天的源码已经上传到群文件，不定期分享干货，包括我自己整理的一份最新的适合2018年学习的大数据开发和零基础入门教程，欢迎初学和进阶中的小伙伴。也可以关注我，私信。

大数据（big data），指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法（抽样调查）这样捷径，而采用所有数据进行分析处理。大数据的5V特点（IBM提出）：Volume（大量）、Velocity（高速）、Variety（多样）、Value（低价值密度）、Veracity（真实性）。

大数据技术的战略意义不在于掌握庞大的数据信息，而在于对这些含有意义的数据进行专业化处理。换而言之，如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘。但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。

大数据数字瀑布

移动互联网的迅速崛起让数据变得更为多样、丰富。它的移动性，它的碎片化，它的私密性和随时性都刚好弥补了用户离开桌面电脑之后的数据，从而与原有的互联网数据一起很好滴勾勒出一个网民一天的生活，日常生活的数据化。现如今大数据已经上升到国家战略层面，企业对于大数据的关注和重视程度也在不断提升。2018年降至，今天千锋小编就给大家分享一下2018年最新大数据学习路线图，希望能对广大大数据爱好者有所帮助。

第一阶段 Java语言基础：

Java开发介绍、熟悉Eclipse开发工具、Java语言基础、Java流程控制、Java字符串、Java数组与类和对象、数字处理类与核心技术、I/O与反射、多线程、Swing程序与集合类

第二阶段 HTML、CSS与JavaScript：

PC端网站布局、HTML5+CSS3基础、WebApp页面布局、原生JavaScript交互功能开发、Ajax异步交互、jQuery应用

第三阶段 JavaWeb和数据库：

数据库、JavaWeb开发核心、JavaWeb开发内幕

第四阶段 Linux&Hadoopt体系：

Linux体系、Hadoop离线计算大纲、分布式数据库Hbase、数据仓库Hive、数据迁移工具Sqoop、Flume分布式日志框架

第五阶段 实战（一线公司真实项目）：

数据获取、数据处理、数据分析、数据展现、数据应用

第六阶段 Spark生态体系：

Python编程语言、Scala编程语言、Spark大数据处理、Spark—Streaming大数据处理、Spark—Mlib机器学习、Spark—GraphX 图计算、实战一：基于Spark的推荐系统（某一线公司真实项目）、实战二：新浪网（sina）

第七阶段 Storm生态体系：

storm技术架构体系、Storm原理与基础、消息队列kafka、Redis工具、zookeeper详解、实战一：日志告警系统项目、实战二：猜你喜欢推荐系统实战

第八阶段 大数据分析 —AI（人工智能）：

Data Analyze工作环境准备&数据分析基础、数据可视化、Python机器学习1、Python机器学习2、图像识别&神经网络、自然语言处理&社交网络处理、实战项目：户外设备识别分析

当今世界，科技进步日新月异，互联网、云计算、大数据等现代信息技术深刻改变着人类的思维、生产、生活、学习方式，深刻展示了世界发展的前景。作为中国政府重点扶持的新兴产业，大数据与云计算的未来发展趋势和前景已经极其广阔，未来的互联网就是大数据和云计算的天下，不管你是否认同，大数据时代已经来临，并将深刻地改变着我们的工作和生活。

大数据开发培训好不好？面对大数据时代的到来，很多人都在时刻准备着抓住机遇，创造奇迹。对于大数据开发技术怎么样，还是要从互联网这个大环境下分析。

相信斯诺登的事情大家还没有完全遗忘：当年，一位名为爱德华·斯诺登的前美国中央情报局(CIA)雇员在香港露面，并向媒体披露了一些机密文件，致使包括“棱镜”项目在内的美国政府多个秘密情报监视项目暴露在公众视线当中。据了解，“棱镜”项目涉及美国情报机构在互联网上对包括中国在内的多个国家10类主要信息进行监听，其中有电邮信息、即时消息、视频、照片、存储数据、社交网络资料等细节。一时间，舆论对于“棱镜”项目的存在给予了诸多的声讨。但很多人忽视了一个关键的问题，正是有了“大数据”的存在，才让“棱镜”项目得以实施。

其实，大数据存在的初衷，是希望经由获得大量的用户行为数据，进行精准的分析，可以更加高效地为用户服务。但大数据也是一把双刃剑：一方面，大数据的客观性让不少决策者能够更加理性地作出正确的决定。如腾讯电脑管家利用“大数据”来为网络安全服务的概念，推出的“全景网络安全防御系统”依托腾讯电脑管家安全云库的“大数据”，经由腾讯即时通讯软件QQ的7亿用户，以及搜索引擎SOSO、微信以及微博等这些上网入口来捕捉钓鱼网站的行踪。

另一方面，大数据在为各行各业提供更加精准更加客观的数据分析的同时，所搜集的用户数据也成为了一个具有价值的“整体”，无论是用户隐私还是数据本身的利用，都成为了具有争议的“灰色地带”。据资料显示，华尔街一位股票炒家利用电脑程序分析当时全球3.4亿微博账户的留言，以此来判断民众情绪。如果多数人表现出兴奋，那就买入股票，如果大家的焦虑情绪上升，那就抛售。这个方法帮助这名股票炒家获得了7%的季度收益率，但是对于提供数据的众多微博用户而言，却成为了被个人利用的对象但毫无受益。如何高效的利用大数据优势，避免大数据负面的影响，也一度成为专家和大众的焦点话题。

大数据工程师有多种解释，一种是用大数据的，就是data scientist这种，一种是开发大数据平台的，就是平台开发工程师，比如写hadoop，hive的某个组件的工程师。如果是走应用这个路线，需要的技能包括：sql，java，mapreduce job的编写，一些比较简单的脚本编写，再加上一些数据分析领域的东西，比如统计，机器学习等等。如果是走底层开发这个路线的，需要的技能基本上是比较硬的开发技能，很多都需要了解语言的高级特性，软件开发模式呀，抽象呀，操作系统怎么用，编译啊，测试呀。这种开发学习曲线比较陡峭一点。

【ps:以下纯属个人观点和看法，有什么不对的，还请多多指教。】

1：之前发过一个Java攻城狮的学习路线图【ps:挺详细的~~~】：http://cnblogs/biehongli/p/5754555.html

恰恰是这个Java攻城狮学习路线图使我在学习编程的路上看到了希望，使迷茫的我找到了方向。现在还为此在努力......

2：而今天呢，结合一些培训机构的学习路线图，今天发一个大数据云计算的学习路线图，也许有的人心中会有些疑问说这货是骗浏览量，点击量的吧，可是原因不是这样的哦！【ps:有的人会想，之前发了Java学习路线，今天又发大数据云计算学习路线，这货瞎搞什么，下面我说说一些原由】。

2.1：第一呢，首先声明呢，楼主现在依旧是在校生，今天之所以发这个学习路线图，算是给自己制定一个技术职业生涯规划吧。

2.2：第二呢，因为lz的专业是云计算，昨天老师给我们讲hadoop集群的搭建，lz竟然搭建起来了，当然班里不学习的不算了，学习的搭建起来的也不多，虽然是一个很简单的hadoop集群搭建吧。为什么说这个，还要从lz发的Java攻城狮学习路线图说起，发这个图大概一年了吧，lz虽然专业是云计算，但是由于大学老师讲的也很浅，加上电脑硬件和需要服务器等等一些原由，lz没有学习云计算开发,而lz一直学习的是Java开发【自我感觉学的还不错，虽然还没找到工作吧，因为校招还没开始呢。】，但是今天怎么会花一上午的时间搞了这个很low的学习路线图呢。

2.3：第三呢，紧接上面，为了搞这个真low的学习路线图，因为lz踏踏实实学习java这一年【ps:之前学的乱七八糟的】内心有些小感慨吧，现在IT这个行业，形形色色，各种培训机构如雨后春笋，但凡有点经验的，都想办培训机构，我这里不是反对培训机构哈，因为培训机构太多了，这里就不说培训机构的好坏的，有的是真心实意做教育的，有的是出来搂钱的，被培训出来没找到工作还被银行追着要贷款的也是屡见不鲜,我想中国的培训结构一个一个查都查不过来，因为培训机构说实话挺挣钱的，跑题了，说正题，培训机构真么多，他们培训机构也想活下去，是不是，就想到各种办法招人，这样一来就很容易达到供满于求的状况了，lz仔细想想，这年头学Java的真是TNN多啊，像Java，php,HTML5，python,ui,甚至有的培训大数据，云计算，真的是太多太多了，甚至外行转行来学习编程，而又仔细想想，学的最多的也就是这种大家都能学的，但是现在都说是大数据云计算时代，真正学精通的还真不多，lz也是我们学校第一届招收的云计算专业，虽然lz当了小白鼠，但是lz不后悔啊！虽然当初选专业的时候胡选的，也算是瞎猫碰到死耗子啊，lz觉得值就行~.~。

2.4：所以呢，lz现在虽然还在学Java开发，但是lz心里有念头在上班挣钱之后买性能高本本学习大学没有学习的这些知识啊，【ps:我们的机房i7处理器，8G内存都被学生搞的卡了。学习云计算大数据真的需要投入啊，而且我们都是搭建在学校的服务器上的，课下基本没法好好学习啊，当然在lz眼里也挺复杂的，都是命令，但是很装逼啊，都是命令行，啪啪啪的敲起来】，所以先发个图震震惊，就像之前发的Java学习，lz没事还翻翻看看那些没学呢。总之吧，lz个人觉得有个学习路线真的蛮重要的，有目标有规划，并为此努力，想想都刺激。

路是自己选的，就算再难也要走下去。夸张点说：路是自己选的，就算跪着也要走下去；

当下的互联网领域，云计算、大数据、人工智能成为最热词汇。互联网da咖阿里云“为了无法估算的价值”将中国的计算触角伸向海外，百度首次向外界展示“百度大脑”的科技成果。移动互联网利用人口红利带来的增长已经逐渐见顶，互联网正在进入“下一幕”智能时代，科多大数据带大家来看看，云计算、大数据、人工智能将怎么使全社会迎来变革性的发展。

无论是计算机行业，还是汽车领域，技术形态的成熟是一个必然的要素。如果某个所谓的时代在技术上、硬件上没有达到产业的要求，数据库和平台都是非完整和非稳定的，时代的产业基础也就十分薄弱。从产业的政策角度分析，当技术累积到一定层次，产业政策的出台是必然的。为了激活云计算的发展，国务院在2015年就出台了《关于促进云计算创新发展培育信息产业新业态的意见》、《云计算白皮书2016》等，这些政策的出现并非偶然，在其背后有很多云计算服务商多年默默的技术耕耘。

技术和政策的形态达到一定的地步，真正的产业化和市场化是否也已经达到？

等待入局者必须考虑几个重要因素：

一、目的是什么(为了降低成本、提高效率，还是在渠道上更接近用户);

二、企业是否愿意使用(产品同质化严重，如何体现差异化);

三、是否有助于提高社会福利(消费者福利、管理效率)。

如果这些问题得到肯定的答案，云计算与时代的发展需求相契合，真正的时代大门就会开启。

大数据本身除了要有数据、采集、汇聚一定量的数据之外，更重要的是数据的处理、挖掘、分析、可视化、应用这样一整套的过程。

关于大数据的话题，基本围绕三个问题展开：

一是数据从哪里来；

二是数据如何进行分析；

三是数据如何进行商品化。

任何大数据都是以应用为主的，在未来，通过多维度、多复合的大数据的精准挖掘，最终提供出优质的商务解决方案才是最关键的。

数据的三个来源分别是政府、企业行业和个人消费。

政府数据做了授权，但由于法律和其他方面的不健全，政府数据被滥用。消费者数据来源于电信、金融或类似BAT大企业，流量入口处的数据将被自动抓取，数据提供商可以提供所有维度的数据，但每一个都是局部。数据优化商在大数据产业链里要想长久发展，必须精通大数据的模型、算法以及数据特征，同时对行业及生态要有明显的敏感性。而算法提供商如果仅仅依赖单纯算法，未来将成为成长软肋。应用提供商最贴近客户、最熟悉客户需求，同时做的是最后的数据整合，在产业链上可能发展空间更大。

中国具有高达7.22亿的大规模网民群体，目前国内仅有3万个机柜，对比美国的3亿群体2.4万个机柜可以看出，中国的数据市场规模还远未达到平衡点，未来将保持高速增长的态势。另一个方面，由于企业客户运营模式的改革，企业的云化增加了对大数据及专业数据中心的需求。

未来云计算产业和大数据产业将呈现规模化发展趋势，市场红利可观，创新、服务、合作、技术将推动互联网科技企业走得更高、更远。大数据时代已经到来，想要快速掌握这门高薪前景的技术该如何学习呢？

Linux基础和分布式集群技术

学完此阶段可掌握的核心能力：熟练使用Linux，熟练安装Linux上的软件，了解熟悉负载均衡、高可靠等集群相关概念，搭建互联网高并发、高可靠的服务架构；学完此阶段可解决的现实问题：搭建负载均衡、高可靠的服务器集群，可以增大网站的并发访问量，保证服务不间断地对外服务；学完此阶段可拥有的市场价值：具备初级程序员必要具备的Linux服务器运维能力。

学习大数据处理需要的语言：

javaMR语言这种语言产生很早了，大家也或多或少的接触过，但是在大数据中使用已经有的原型进行构建庞大系统，是一种基本的选择。

Scala语言以java为基础的语言，和java很像，对任何想要进行大规模的机械学习或是建立高阶的算法，Scala是逐渐兴起的工具，善于呈现且拥有建立可靠系统的能力。

Hadoop在以java为基础的大数据处理当中，Hadoop为作一批数据处理，发展以java为基础的架构关键。相对于其他处理工具而言，Hadoop慢许多，但是无比的准确可被后端数据库分析广泛使用。

Kafka andStorm它是一个特别快速的查询信息系统，但是因为太快了在实施操作时会犯错，有时候会漏掉东西。

Pythom语言Python拥有R语言处理复杂数据的能力及更务实的语言特质，更简单和直观，在近几年的成长很快。在数据处理范畴内，通常在规模与复杂之间要有个选择，Python无疑当选。

学习一门课程，掌握好的学习方法至关重要，大数据云计算发展趋势非常好，现在学习好这门技术，未来的就业和选择会更多。

大数据已经被炒的很热了，但通过我多年从事数据相关工作的经验，这个行业目前已经逐渐成熟了，每天我们在互联网都要存留大量的信息，但如何收集、整理这海量的信息，并产生价值，已经是各行各业都在探索的重要课题，且不说在海量数据中挖掘用户需求，预测未来的市场导向，就连政府的政务数据也要云计算、大数据。但是目前大数据工程师的人才缺口非常大，现在投身大数据领域绝对是绝佳的时机。但但从技术角度来看，有一定难度，大数据需要很多种基础理论知识与编程框架、分布式服务器等来支撑，这也是使得一个大数据工程师的人才要比做应用开发、做业务系统编程的人才缺的多。所以我们通过多年的经验，来设置大数据工程师学习路线，希望能让童鞋们更容易的踏上这条路！

如果有编程背景这是最好的了，会节省很多学习时间，更容易理解。因为大数据环境比较复杂，并不像学习编程软件一样，机器安装一下，跟老师敲几行代码就可以了，但大数据可就要麻烦多了，至少要准备好虚拟化的集群环境，然后又要安装部署各种计算框架，所以需要有耐心，有一定解决问题的能力，坚持不懈，才有可能学好大数据。我推荐的学习步骤是:打好基础，理解为主。多动手实践，一定自己搭建出编程环境。后面再不断的学习spark、python、storm、云计算等相关课程，慢慢自己的头脑中会形成一套知识体系，对大数据的理解也会越来越透彻！

首先是基础入门，大数据包含的知识面非常广泛涉及很多技术，我根据自己多年工作经验与自己收集整理的课程做的设置。基础进阶，重点是从Java语言学起，然后是对Linux的学习，统计学的学习。大数据包含几个部分一是数据的采集与处理，二是大数据的应用，第一部分依靠分布式、云计算与一些处理特殊情况，数据处理的技术框架组成，这里重点是hadoop分布式框架，spark框架。分别解决大数据存储问题。同时对于关系数据库对大量数据的处理也需要学习，毕竟很多大型商业系统的业务数据还是由传统的关系数据库进行管理的。最后，再linux与java上我也加入了深入学习的课程。供同学提高编程能力与水平。这套课程比较适合伴随职业生涯慢慢学。不适合填鸭式学习。不能当电视剧看，没意义。

大数据的Java基础 14课

大数据的linux基础 21课

大数据的统计学基础 15课

Hadoop数据分析平台 17课

Hadoop2.X大数据平台 14课

Scala语言入门 5课

大数据平台Spark入门与精通 10课

Maven教程 15课

Linux文本编辑器VIM 6课

Git权威指南 8课

大数据平台Storm入门到精通 15课

大数据C、C++基础 14课

Linux运维 56课

MYSQL高级性能优化与架构 16课

Oracle11g海量数据架构设计 13课

javaEE+Hadoop大数据

中级进阶这部分重点在于大数据的数据处理的技术应用，storm对于大数据的实时数据分析，像微博实时榜单这种应用，需要storm。etl工具可以从多种数据源，大数据、关系库、文本等多种数据源抽取数据并统一加载。同时学习数据仓库架构与研发流程的课程，学习数据仓库的技术，对数据的整理与应用提出了一套方法论，通过OLAP的维度模型来处理各种数据应用需求，BI与数据接口等。同时学习mahout是做数据挖掘应用的深度学习的框架。还有Nosql的数据库,Redis与Mongodb技术，用于第三方数据抓取的编程语言Python,与分布式内存处理技术的spark框架与scala语言。并且设置的一些实战课程。未来课程内容也会不断更新

Python网络程序开发 12课

Storm大数据开发 8课

Storm应用实战18课

Hadoop应用开发实战案例 15课

数据仓库全流程开发详解 15课

ETL开发之Kettle 15课

NoSQL与NewSQL数据库引航 19课

MySQL数据库运维 15课

大数据之Scala语言 5课

Redis技术详解 26课

Mongodb技术详解 18课

Oracle职业直通车 26课

Mahout数据挖掘 28课

Docker大讲坛指引未来的云计算 10课

Spark纯实战大讲坛 5课

高级实战这个阶段的重点是深入学习、源码解析与实战，源码解析是希望能更深入的理解开源框架对解决实际问题的编程模型，同时很多大公司在对这些开源框架的应用上并不是直接拿来使用，因为标准版本可能无法解决这种大公司的一些特殊业务需求，都是对源代码进行二次开发，升级改造，重写等来满足自己的业务需要，所以大牛是要有改编能力的。百度就是这样干的，最好的例子就是咱们发货用的云盘，就是。同时数据挖掘、机器学习也是非常重要的大数据应用，阿尔法狗就是利用这个技术打败李世石的。openstack企业私有云是很多大企业内部都要用到的云服务技术，企业的内部应用目前也都是奔着SAAS，软件及服务的方式来实现，所以企业内部的大数据技术也是非常必要的。

Hadoop源码解析与开发实战 43课

大数据HBase源码解析与开发实战 26课

大数据Hive源码解析与开发实战 24课

大数据Hadoop数据挖掘实战

Zookeeper入门到精通 8课

Flume应用开发实战 12课

Mahout入门与项目实战 20课

大数据之机器学习 11课

大数据之Linux内核探秘 13课

深入浅出Hive企业级架构优化 7课

Storm的集群搭建实战 8课

OpenStack企业私有云实战培训课程 12课

Nutch相关框架 20课

基于大数据的推荐系统设计 9课

大数据挖掘下的机器学习 11课

云计算好学么？其实，小马过河的故事大家都读过，这云计算好不好学，还得看自身。有人说了，你这不是废话么？还真不是。其实我们不妨看看云计算到底是个什么东西。如今，云计算频繁出现在我们的视野，他是一种经由网络统一组织和灵活应用各种信息，通信，技术资源，来实现大规模计算的信息处理方式。

云是网络、互联网的一种比喻说法。过去在往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。狭义云计算指IT基础设施的交付和使用模式，指经由网络以按需、易扩展的方式获得所需资源；广义云计算指服务的交付和使用模式，指经由网络以按需、易扩展的方式获得所需服务。这种服务可以是IT和软件、互联网相关，也可是其他服务。它意味着计算能力也可作为一种商品经由互联网进行流通。

经由使计算分布在大量的分布式计算机上，而非本地计算机或远程服务器中，企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上，根据需求访问计算机和存储系统。好比是从古老的单台发电机模式转向了电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通，就像煤气、水电一样，取用方便，费用低廉。不同在于，它是经由互联网进行传输的。辨析云计算常与网格计算、效用计算、自主计算相混淆。

还是没有明白？没关系，打个比方，如果我们想在办公室或者公司的网站上运行一些企业应用，传统的方式是去租用一些服务器，存储设备，在上面部署操作系统，最后在上面部署应用，这种方式就是好像吃烧烤的时候，自己准备烤炉，木炭，酱料串好食材，动手烧烤，这样比较费力。

实际上，我们在吃烧烤时，一般经由以下途径，第一种方法是串好串串去野营地租用烧烤炉子自己烤，这就像IAAS服务一样，直接使用商家提供的基础设施。第二种方法是到自助烧烤店里面，商家为你准备好烤炉和烤串，只需要你动手自己烤，这就好像PAAS服务一样，利用商家的平台。第三种方法是坐在餐馆点菜，这就好像SAAS服务一样，直接使用云服务商提供全套服务。这就是常见的云计算模式。