大数据分析教程

以下是一位在数据分析领域打滚了N年后，写下的一些体会，一定能给新人一些借鉴的地方。（总结的不错，大家可以借鉴学习哦）

一、数据分析师有哪些要求？

　　1、理论要求及对数字的敏感性，包括统计知识、市场研究、模型原理等。

　　2、工具使用，包括挖掘工具、数据库、常用办公软件（excel、PPT、word、脑图）等。

　　3、业务理解能力和对商业的敏感性。对商业及产品要有深刻的理解，因为数据分析的出发点就是要解决商业的问题，只有理解了商业问题，才能转换成数据分析的问题，从而满足部门的要求。

　　4、汇报和图表展现能力。这是临门一脚，做得再好的分析模型，如果不能很好地展示给领导和客户，成效就大打折扣，也会影响到数据分析师的职业晋升。

二、请把数据分析作为一种能力来培养

　　从广义来说，现在大多数的工作都需要用到分析能力，特别是数据化运营理念深入的今天，像BAT这样的公司强调全员参与数据化运营，所以，把它作为一种能力培训，将会让你终生受益。

三、从数据分析的四个步骤来看清数据分析师需具备的能力和知识：

　　数据分析的四个步骤（这有别于数据挖掘流程：商业理解、数据理解、数据准备、模型搭建、模型评估、模型部署），是从更宏观地展示数据分析的过程：获取数据、处理数据、分析数据、呈现数据。

　　（一） 获取数据

　　获取数据的前提是对商业问题的理解，把商业问题转化成数据问题，要通过现象发现本质，确定从哪些纬度来分析问题，界定问题后，进行数据的采集。此环节，需要数据分析师具备结构化的思维和对商业问题的理解能力。

　　推荐书籍：《金字塔原理》、麦肯锡三部曲：《麦肯锡意识》、《麦肯锡工具》、《麦肯锡方法》

　　工具：思维导图、mindmanager软件

　　（二） 处理数据

　　一个数据分析项目，通常数据处理时间占70%以上，使用先进的工具有利于提升效率，所以尽量学习最新最有效的处理工具，以下介绍的是最传统的，但却很有效率的工具：

　　Excel：日常在做通报、报告和抽样分析中经常用到，其图表功能很强大，处理10万级别的数据很轻松。

　　UltraEdit：文本工具，比TXT工具好用，打开和运行速度都比较快。

　　ACCESS：桌面数据库，主要是用于日常的抽样分析（做全量统计分析，消耗资源和时间较多，通常分析师会随机抽取部分数据进行分析），使用SQL语言，处理100万级别的数据还是很快捷。

　　Orcle、SQL sever：处理千万级别的数据需要用到这两类数据库。

　　当然，在自己能力和时间允许的情况下，学习新流行的分布式数据库及提升自身的编程能力，对未来的职业发展也有很大帮助。

　　分析软件主要推荐：

　　SPSS系列：老牌的统计分析软件，SPSS Statistics（偏统计功能、市场研究）、SPSS Modeler（偏数据挖掘），不用编程，易学。

　　SAS：老牌经典挖掘软件，需要编程。

　　R：开源软件，新流行，对非结构化数据处理效率上更高，需编程。

　　随着文本挖掘技术进一步发展，对非结构化数据的分析需求也越来越大，需要进一步关注文本挖掘工具的使用。

　　（三） 分析数据

　　分析数据，需要用到各类的模型，包括关联规则、聚类、分类、预测模型等，其中一个最重要的思想是对比，任何的数据需要在参照系下进行对比，结论才有意义。

　　推荐的书籍：

　　1、《数据挖掘与数据化运营实战，思路、方法、技巧与应用》，卢辉着，机械出版社。这本书是近年国内写得最好的，务必把它当作圣经一样来读。

　　2、《谁说菜鸟不会数据分析（入门篇）》和《谁说菜鸟不会数据分析（工具篇）》，张文霖等编着。属于入门级的书，适合初学者。

　　3、《统计学》第五版，贾俊平等编着，中国人民大学出版社。比较好的一本统计学的书。

　　4、《数据挖掘导论》完整版，[美]Pang-Ning Tan等着，范明等翻译，人民邮电出版社。

　　5、《数据挖掘概念与技术》，Jiawei Han等着，范明等翻译，机械工业出版社。这本书相对难一些。

　　6、《市场研究定量分析方法与应用》，简明等编着，中国人民大学出版社。

　　7、《问卷统计分析实务—SPSS操作与应用》，吴明隆着，重庆大学出版社。在市场调查领域比较出名的一本书，对问卷调查数据分析讲解比较详细。

（四） 呈现数据

　　该部分需要把数据结果进行有效的呈现和演讲汇报，需要用到金字塔原理、图表及PPT、word的呈现，培养良好的演讲能力。

　　推荐书籍：

　　1、《说服力让你的PPT会说话》，张志等编着，人民邮电出版社。

　　2、《别告诉我你懂ppt》加强版，李治着，北京大学出版社。

　　3、《用图表说话》，基恩。泽拉兹尼着，马晓路等翻译，清华大学出版社。

　　（五） 其他的知识结构

　　数据分析师除了具备数学知识外，还要具备市场研究、营销管理、心理学、行为学、产品运营、互联网、大数据等方面的知识，需要构建完整广泛的知识体系，才能支撑解决日常遇到的不同类型的商业问题。

　　推荐书籍：

　　1、《消费者行为学》第10版，希夫曼等人着，江林等翻译，中国人民大学出版社，现在应该更新到更高的版本。

　　2、《怪诞行为学》升级版，艾瑞里着，赵德亮等翻译，中信出版社

　　3、《营销管理》，科特勒等着，梅清豪翻译，格致出版社和上海人民出版社联合出版

　　4、《互联网思维—独孤九剑》，赵大伟主编，机械出版社

　　5、《大数据时代—生活、工作与思维的大变革》，舍恩伯格等着，周涛等翻译，浙江人民出版社

四、关于数据分析师的职业发展：

　　1、数据分析师通常分两类，分工不同，但各有优势。

　　一类是在专门的挖掘团队里面从事数据挖掘和分析工作的。如果你能在这类专业团队学习成长，那是幸运的，但进入这类团队的门槛较高，需要扎实的数据挖掘知识、挖掘工具应用经验和编程能力。该类分析师更偏向技术线条，未来的职业通道可能走专家的技术路线。

　　另一类是下沉到各业务团队或者运营部门的数据分析师，成为业务团队的一员。他们工作是支撑业务运营，包括日常业务的异常监控、客户和市场研究、参与产品开发、建立数据模型提升运营效率等。该类型分析师偏向产品和运营，可以转向做运营和产品。

　　2、数据分析师的理想行业在互联网，但条条大道通罗马，走合适你的路线。

　　从行业的角度来看：

　　1）互联网行业是数据分析应用最广的行业，其中的电商企业，更是目前最火的，而且企业也更重视数据分析的价值，是数据分析师理想的成长平台。

　　2）其次是咨询公司（比如专门的数据挖掘公司Teradata、尼尔森等市场研究公司），他们需要数据分析人才，而且相对来说，数据分析师在咨询公司成长的速度更快，专业也会更全面。

　　3）再次是金融行业，比如银行和证券等行业，该行业对数据分析的依赖需求，越来越大。

　　4）最后是电信行业（中国移动、联通和电信），它们拥有海量的数据，在严峻的竞争下，也越来越重视数据分析，但进入这些公司的门槛比较高。

五、什么人适合学习数据分析？

　　这个问题的答案跟“什么人适合学功夫”一样，毫无疑问，功夫是适合任何人学习的（排除心术不正的人），因为能够强身健体。而功夫的成效，要看习武者的修炼深浅。常常有人争论，是咏春拳厉害，还是散打厉害，其实是颠倒了因果，应该看哪个人练习得比较好，流派之间没有高低，只有人修炼的厚薄。

　　实际上，问题的潜台词是“什么人学习数据分析，会更容易取得成功（比如职业成功）”，这个要视乎你的兴趣、付出和机遇。但要做到出类拔萃，除了上面三点，还需要一点天赋，这里的机遇是指你遇到的职业发展平台、商业环境、导师和同事。

　　借用管理大师德鲁克的话“管理是可以习得的”，管理并非是天生的，而数据分析能力，也可以后天提升。或许做到优秀，只需要你更加的努力+兴趣，而这个努力的过程，也包括你寻找机遇的部分。

六、关于如何学习：

　　学习方法千万种，关键是找到适合自己的，最好能够结合你的工作遇到的问题来学习。

　　1、搜集书籍、案例库和视频，先弄懂理论，然后学会软件操作，自己制作属于自己的教程。

　　比如，你学习聚类分析模型。1）搜集相关的聚类分析模型的书籍、案例和教学视频，了解聚类分析的原理，主要有哪几种算法（划分、层次、密度、网格）、模型适用的范围和前提、如何评估模型的精确度等。

　　2）自己学会用软件来实现。

　　3）总结整理成一份PPT和制作操作视频，成为自己的学习教程，不断完善。

　　4）学习到一定程度后，可以在博客、微信等渠道分享，授人与渔，而自己也会有所收获。

　　2、关注名人、名博、网站，多渠道学习。

　　1）关注专业的数据分析、咨询公司网站和论坛，特别强调，统计软件公司的网站如SPSS的官网有很多案例库，值得关注。

　　SPSS的案例库，可在官网上搜索各类案例：http://ibm/developerwork … 8zhangzy/index.html

　　另外，你最好建一个自己的网址导航目录，提升你的学习效率

　　2）关注名人名博，最好能加他们的微博、微信和微信公众号，看牛人的博客和微信等内容，还是能得到很多引导，这个你懂的。

　　3）加入一些有共同爱好的QQ群，互相学习交流。通常群里有人会提出一些真实的运营问题，然后大家用不同的方法去解决，对思路很有启发。

　　4）碎片化学习，最大化你的时间价值。为了把零散的时间利用起来，通常我会把一些资料上载到网盘，在零碎的时间里通过手机进行视频、文档学习等。目前使用百度云盘和360网盘。百度云盘应用比较广，通常在网络上搜索“关键词+百度云”后，搜到结果可以直接保存在云盘上，搜索保存速度极大提升。360网盘则空间比较大，可以到达40T，同时有保险箱加密功能，安全性高一些。

　　手机上安装一些APP，随时随地学习。

七、最后的建议

　　请再次问问自己，是否真的喜欢数据分析，能否忍受处理数据时的寂寞？如果是，那就开始学习，给你几条建议。

　　1、把数据分析作为一种能力培养，让自己在现在的团队中展现出良好的数据分析能力，为你以后内部转岗做好准备。如果内部转岗不成，你可以考虑跳槽到我之前分析的行业中，但我强烈建议你还是需要把系统开发的编程能力学习好，并且对商业智能系统（BI和CRM）有一定了解，这也许是应聘数据分析的优势。如果没有数据分析经验去应聘，相对会难一些，用人单位会考你统计和数据挖掘模型方面的知识，以及工具使用情况。

　　2、在公司里找一些有共同爱好的同事一起学习数据分析，平时多请教数据分析做得好的同事，它山之石，可以攻玉。

　　3、扎实学好一、两门数据挖掘软件，基于你有编程的基础，建议你可以学SAS或者R，同时辅助学习SPSS Modeler。如果没编程基础或者希望短期能够取得成效，那也可以先学习SPSS。SAS+SPSS，基本能够满足很大部分企业的需求，三者都会，那更好。

　　4、要了解公司是如何运营，产品是如何开发的，如何做客户研究锁定客户需求，如何做产品营销，这些需要不断工作积累和广泛的阅读。

　　5、开始学习时，先读几本有趣的数据分析类的书，然后系统学习一下统计知识（建议教材用《统计学》第五版，贾俊平等编着），接着网上快速搜集软件操作视频和案例，然后逐个分析模型进行学习和总结归纳，学习最好能够结合实际工作中的问题进行。

　　6、学习到一定程度时，参加一些数据分析师的职业认证，进一步梳理知识结构，同时认识一些志同道合的朋友和老师，也是对你有很大帮助。

　　希望你能够成为你想成为的人！

End.

来源：36大数据

没有任何牛逼的事情是能够速成的，越是像数据分析这种收益周期长的技能，越是这样。

但这并不代表，我们不能用一些有意思的方式，把学习的过程变得高效而有趣。这篇文章是要给所有正在学习数据分析，甚至还没入门的同学一个高效的学习路径，让更多人可以平滑地、高效地成为专业数据分析师。

学习一门技术之前，你应该知道，你想要达成的目标是什么样的，也就是说，你想通过这门技术来解决哪些问题。有了这个目标，你就可以知道要达成这样的目标，它的知识体系是怎么样的。只有明确的目标导向，学习最有用的那部分知识，才能避免无效信息降低学习效率。

如果你要成为数据分析师，那么你可以去招聘网站看看，对应的职位的需求是什么，一般来说你就会对知识体系有初步的了解。企业对技能需求可总结如下：

SQL数据库的基本操作，会基本的数据管理

会用Excel/SQL做基本的数据提取、分析和展示

会用脚本语言进行数据分析，Python or R

有获取外部数据的能力加分，如爬虫或熟悉公开数据集

会基本的数据可视化技能，能撰写数据报告

熟悉常用的数据挖掘算法：回归分析、决策树、分类、聚类方法

其次是数据分析的流程，一般可以按“数据获取-数据存储与提取-数据预处理-数据建模与分析-数据可视化”这样的步骤来实施一个数据分析项目。按照这个流程，每个部分需要掌握的细分知识点如下：

高效的学习路径是什么？就是数据分析的这个流程。按这样的顺序循序渐进，你会知道每个部分需要完成的目标是什么，需要学习哪些知识点，哪些知识是暂时不必要的。

每学习一个部分，你就能够有一些实际的成果输出，有正向的反馈，你才会愿意花更多的时间投入进去。以解决问题为目标，效率自然不会低。

按照上面的流程，我们总结学习路径如下：

python基础知识

python爬虫

SQL语言

python科学计算包：pandas、numpy、scikit-learn

统计学基础

回归分析方法

数据挖掘基本算法：分类、聚类

模型优化：特征提取

数据可视化：seaborn、matplotlib

接下来我们分别从每一个部分讲讲具体应该学什么、怎么学。

- -

数据获取：公开数据、Python爬虫

如果接触的只是企业数据库里的数据，不需要要获取外部数据的，这个部分可以忽略。但还是建议每一个数据分析师，都兼备外部数据获取的能力。

外部数据的获取方式主要有以下两种。

第一种是获取外部的公开数据集，一些科研机构、企业、政府会开放一些数据，你需要到特定的网站去下载这些数据。这些数据集通常比较完善、质量相对较高。给大家推荐一些常用的可以获取数据集的网站：

UCI：加州大学欧文分校开放的经典数据集，被很多数据挖掘实验室采用。

http://archive.ics.uci.edu/ml/datasets.html

国家数据：数据来源于中国国家统计局，包含了我国经济民生等多个方面的数据。

http://data.stats.gov/

CEIC：超过128个国家的经济数据，能精确查找GDP、进出口零售，销售等深度数据。

http://ceicdata/zh-hans

中国统计信息网：国家统计局官方网站，汇集了国民经济和社会发展统计信息。

http://tjcn.org/

优易数据：由国家信息中心发起，国内领先的数据交易平台，很多免费数据。

http://youedata/

数据堂：同为数据交易平台，包含语音识别、医疗健康、交通地理、电子商务、社交网络、图像识别等方面的数据。

http://datatang/

另一种获取外部数据费的方式就是爬虫。

比如你可以通过爬虫获取招聘网站某一职位的招聘信息，爬取租房网站上某城市的租房信息，爬取豆瓣评分评分最高的电影列表，获取知乎点赞排行、网易云音乐评论排行列表。基于互联网爬取的数据，你可以对某个行业、某种人群进行分析。

在爬虫之前你需要先了解一些 Python 的基础知识：元素（列表、字典、元组等）、变量、循环、函数………

推荐：Python-菜鸟教程

http://runoob/python3/python3-tutorial.html

以及，还需要了解如何用 Python 库（urllib、BeautifulSoup、requests、scrapy）实现网页爬虫。如果是初学，建议从 urllib 和 BeautifulSoup 开始。（PS：后续的数据分析也需要 Python 的知识，以后遇到的问题也可以在这个教程查看）

网上的爬虫教程不要太多，爬虫上手推荐豆瓣的网页爬取，一方面是网页结构比较简单，二是豆瓣对爬虫相对比较友好。

掌握基础的爬虫之后，你还需要一些高级技巧，比如正则表达式、模拟用户登录、使用代理、设置爬取频率、使用cookie信息等等，来应对不同网站的反爬虫限制。

除此之外，常用的的电商网站、问答网站、二手交易网站、婚恋网站、招聘网站的数据，都是很好的练手方式。这些网站可以获得很有分析意义的数据，最关键的是，有很多成熟的代码，可以参考。

- -

数据存取：SQL语言

你可能有一个疑惑，为什么没有讲到Excel。在应对万以内的数据的时候，Excel对于一般的分析没有问题，一旦数据量大，就会力不从心，数据库就能够很好地解决这个问题。而且大多数的企业，都会以SQL的形式来存储数据，如果你是一个分析师，也至少要懂得SQL的操作，能够查询、提取公司的数据。

SQL作为最经典的数据库工具，为海量数据的存储与管理提供可能，并且使数据的提取的效率大大提升。你需要掌握以下技能：

提取特定情况下的数据：企业数据库里的数据一定是大而繁复的，你需要提取你需要的那一部分。比如你可以根据你的需要提取2017年所有的销售数据、提取今年销量最大的50件商品的数据、提取上海、广东地区用户的消费数据……，SQL可以通过简单的命令帮你完成这些工作。

数据库的增、删、查、改：这些是数据库最基本的操作，但只要用简单的命令就能够实现，所以你只需要记住命令就好。

数据的分组聚合、如何建立多个表之间的联系：这个部分是SQL的进阶操作，多个表之间的关联，在你处理多维度、多个数据集的时候非常有用，这也让你可以去处理更复杂的数据。

SQL这个部分相对来说比较简单，可以去这个教程：

MySQL-菜鸟教程

http://runoob/mysql/mysql-tutorial.html

当然，还是建议你找几个数据集来实际操作一下，哪怕是最基础的查询、提取等。你可以去调用一些公司的数据来进行实际的演练，如果没有合适的，这里推荐UCI的经典数据集：

鸢尾花数据集

http://archive.ics.uci.edu/ml/machine-learning-databases/iris/

- -

数据预处理：Python（pandas）

很多时候我们拿到的数据是不干净的，数据的重复、缺失、异常值等等，这时候就需要进行数据的清洗，把这些影响分析的数据处理好，才能获得更加精确地分析结果。

比如销售数据，有一些渠道的销售是没有及时录入的，有一些数据是记录重复的。比如用户行为数据，有很多无效的操作对分析没有意义，就需要进行删除。

那么我们需要用相应的方法去处理，比如残缺数据，我们是直接去掉这条数据，还是用临近的值去补全，这些都是需要考虑的问题。

对于数据预处理，学会 pandas （Python包）的用法，应对一般的数据清洗就完全没问题了。需要掌握的知识点如下：

选择：数据访问（标签、特定值、布尔索引等）

缺失值处理：对缺失数据行进行删除或填充

重复值处理：重复值的判断与删除

空格和异常值处理：清除不必要的空格和极端、异常数据

相关操作：描述性统计、Apply、直方图等

合并：符合各种逻辑关系的合并操作

分组：数据划分、分别执行函数、数据重组

Reshaping：快速生成数据透视表

网上有很多 pandas 的教程，主要是一些函数的应用，也都非常简单，如果遇到问题，可以参看 pandas 操作的官方文档。

pandas 官方文档

http://pandas.pydata.org/pandas-docs/stable/tutorials.html

推荐书：《利用Python进行数据分析 》

- -

概率论及统计学知识

数据整体分布是怎样的？什么是总体和样本？中位数、众数、均值、方差等基本的统计量如何应用？如果有时间维度的话随着时间的变化是怎样的？如何在不同的场景中做假设检验？数据分析方法大多源于统计学的概念，所以统计学的知识也是必不可少的。需要掌握的知识点如下：

基本统计量：均值、中位数、众数、百分位数、极值等

其他描述性统计量：偏度、方差、标准差、显著性等

其他统计知识：总体和样本、参数和统计量、ErrorBar

概率分布与假设检验：各种分布、假设检验流程

其他概率论知识：条件概率、贝叶斯等

有了统计学的基本知识，你就可以用这些统计量做基本的分析了。通过可视化的方式来描述数据的指标，其实可以得出很多结论了：比如排名前100的是哪些，平均水平是怎样的，近几年的变化趋势如何……

你可以使用 Seaborn、matplotlib 等（python包）做一些可视化的分析，通过各种可视化统计图，并得出具有指导意义的结果。了解假设检验之后，可以对样本指标与假设的总体指标之间是否存在差别作出判断，以验证结果是否在可接受的范围。

推荐书：《深入浅出统计学》

- -

Python 数据分析

如果你有一些了解的话，就知道目前市面上其实有很多 Python 数据分析的书籍，但每一本都很厚，学习阻力非常大。但其实真正最有用的那部分信息，只是这些书里很少的一部分。比如用 Python 实现不同案例的假设检验，其实你就可以对数据进行很好的验证。

比如掌握回归分析的方法，通过线性回归和逻辑回归，其实你就可以对大多数的数据进行回归分析，并得出相对精确地结论。这部分需要掌握的知识点如下：

回归分析：线性回归、逻辑回归

基本的分类算法：决策树、随机森林……

基本的聚类算法：k-means……

特征工程基础：如何用特征选择优化模型

调参方法：如何调节参数优化模型

Python 数据分析包：scipy、numpy、scikit-learn等

在数据分析的这个阶段，重点了解回归分析的方法，大多数的问题可以得以解决，利用描述性的统计分析和回归分析，你完全可以得到一个不错的分析结论。

当然，随着你实践量的增多，可能会遇到一些复杂的问题，你就可能需要去了解一些更高级的算法：分类、聚类。

然后你会知道面对不同类型的问题的时候更适合用哪种算法模型，对于模型的优化，你需要去学习如何通过特征提取、参数调节来提升预测的精度。这就有点数据挖掘和机器学习的味道了，其实一个好的数据分析师，应该算是一个初级的数据挖掘工程师了。

你可以通过 Python 中的 scikit-learn 来实现数据分析、数据挖掘建模和分析的全过程。

推荐：scikit-learn官方文档

http://scikit-learn.org/dev/_downloads/scikit-learn-docs.pdf

- -

系统实战与数据思维

到这个时候，你就已经具备了数据分析的基本能力了。但是还要根据不同的案例、不同的业务场景进行实战，练习解决实际问题的能力。如何进行实战呢？

上面提到的公开数据集，可以找一些自己感兴趣的方向的数据，尝试从不同的角度来分析，看看能够得到哪些有价值的结论。

另一个角度是，你可以从生活、工作中去发现一些可用于分析的问题，比如上面说到的电商、招聘、社交等平台等方向都有着很多可以挖掘的问题。

开始的时候，你可能考虑的问题不是很周全，但随着你经验的积累，慢慢就会找到分析的方向，有哪些一般分析的维度，比如top榜单、平均水平、区域分布、年龄分布、相关性分析、未来趋势预测等等。随着经验的增加，你会有一些自己对于数据的感觉，这就是我们通常说的数据思维了。

MaxCompute（原ODPS）是一项大数据计算服务，它能提供快速、完全托管的PB级数据仓库解决方案，使您可以经济并高效的分析处理海量数据。

“未来，数据将会像土地、石油和资本一样，成为经济运行中的根本性资源。”

— 《大数据时代》美国.维克托·舍恩伯格

“大数据蕴藏大机会。”—IBM

“我们正在迎来大数据时代。” —马云

“我们不知道世界怎么变，我们能做的就是自己扑到这股浪潮中去。” —平安马明哲

大数据1.0时代,社会大数据成就了Google，yahoo，百度

大数据2.0时代,消费大数据造就了亚马逊，Ebay ，阿里巴巴，腾讯

大数据3.0时代，你如何掌握应用，创造新的商业机会？

大数据零基础实战教程给你的就是 把握时代脉博，掌握大数据时代前沿；使学员能在较短的时间内理解大数据分析的真实价值，使学员能有一个快速提升成为兼有理论和实战的大数据分析师，从而更好地适应当前互联网经济背景下对大数据分析师需求的旺盛的就业形势。从入门知识学起的课程体系设计和面向大数据分析师的培训理念，引导学员一步步深入学习，适合零基础学员从零学起。

那你还等什么？赶紧学起来吧！