数据分析行业前景

第一部分：数据分析框架

为了分析问题的聚焦，我们具体拿互联网电商来举例子说明，至于其他的比如互联网金融、教育、社交等等，可以依此借鉴。

（1）从互联网实体角度分析。我们可以从以下7个角度构建互联网数据分析体系。

买家：基本特征分析、交易行为分析、流量行为分析、售后满意分析等

卖家：基本特征分析、经营效果分析、流量曝光分析、售后满意分析、产品分析等

产品：基本特征分析、交易行为分析、流量曝光分析、售后满意分析等

行业：基本特征分析、经营分析、曝光分析、售后分析、产品分析、买卖家分析等

设备：移动端分析、PC端分析、访问对象分析、cookie分析、session分析等

日志：访问对象URL分析、cookie分析、session分析等

事件：登录、流量、点击、曝光、下单、交易、支付、物流、评价、纠纷、仲裁等分析

这个实体分析方法，可以称得上是万能的数据分析框架，适用于所有的互联网企业。我曾工作过的阿里巴巴、腾讯、随手记等企业，我个人都是按照这个套路去构建互联网的分析体系。

（2）从用户的关键路径进行分析。

关键路径分析方法是一个行之有效的常用分析方法，也是做数据化运营的常用工具。关键路径分析让我们聚焦于核心环节，排除杂音，定位出业务的核心问题，快速的加以解决。在应用关键路径分析时候，我们往往先把可能的结果、以及最关心的结果梳理出来，以结果为导向追溯行为的根本，当然，也可以从行为的初始出发，梳理出所有可能的行为路径，找出关键行为，导向我们最终设计好的结果中去。下面我们举例子说明下：

在电商网站中，我们假设我们运营目标是让用户购买网站上的商品（在这里，我要插说几句，我们的目标有时候不只是购买，在精细化运营中，往往会根据用户的生命周期，确定关键路径的目标，比如对于一个进入期的新买家，我们通常会发一些购物攻略加以指导，针对流失期的买家，关键路径的结果我们可能导向申领我们的优惠劵之类，等等。关于这一部分数据化精细化运营方面，在大数据应用系列的数据化运营小讲，我们会详细加以分享，敬请关注）。刚才谈到，我们假设我们运营目标是让用户购买网站上的商品，那么我们可以把关键路径，也即，用户的购买路径梳理出来：

a.用户登录/注册》搜索关键词》查看商品详情》加入购物车》点击下单》确认付款》确认收货

b.用户搜索关键词》类目和店铺》卖家交流》点击下单》确认付款》确认收货

通过这种关键路径，我们还常常进行漏斗分析，从而进行流量的转化分析，找出影响到达最终结果的关键环节。

（3）从KPI拆解角度分析。

KPI拆解分析方法也是比较常见的互联网分析方法。核心思想是先定一个总体目标，比如今年营收12亿，那么可以把这个指标拆解到各个业务线去，业务线再进行拆分，比如分解为12个月，每个月需要达成营收额，接着，就是达成该营收额，根据流量的转化情况，估算出需要多少的流量，目前平台已有多少流量，需要外拓引流多少流量才能达成目标，这就可以层层的拆解指标，最终或落地到产品团队或部分到运营团队去承担KPI任务。

第二部分：数据分析常用分析方法

常用的数据分析方法有：PEST分析方法、5W2H分析法、4P营销分析法、逻辑树分析法、指标拆分法、对比分析法、漏斗分析法、用户行为分析法、用户生命周期分析法、金字塔分析法等等，下面我们逐个的简单说明下

（1）PEST分析方法

这个方法主要应用于行业研究中。从政治（Political）、经济（Economic）、社会（Social）、技术（Technical），简称PEST角度对一个行业进行比较分析。下面我们举一个例子：我们小讲开始就谈到数据分析行业前景，那么我们在此利用PEST分析下大数据行业前景如何？

（2）5W2H分析法

这个方法主要应用于用户行为研究和专项问题分析，从时间、地点、人物、事情、原因、方式、价格等7个方面对一个问题进行刻画研究。请看如下案例二：

（3）4P营销理论

这个方法主要应用于公司整体经营状况分析，是比较经典的营销分析方法。该方法从产品、价格、渠道、促销等四方面对企业经营状况进行全面分析。请看如下案例三：

（4）逻辑树分析法

这个方法也称作问题树分析方法，主要应用于针对业务存在的问题进行专题分析，是数据分析方法中非常常见的一种分析方法。请看案例四：

（5）指标拆分法

这个方法也是经常适用的方法，特别是为了达成业务目标，我们往往都会先定一个总的目标，然后再初步的拆解指标。下面我们讲讲案例五：

（6）对比分析法

对比分析法是非常常用的基础分析方法，虽然方法特别简单，但几乎所有的分析报告中，都会采取对比分析方法。比如去年同期相比、上个月环比、目标和实际达成相比、各个部门和业务线相比、行业内竞品比较、营销效果对比，等等。这里需要注意的是我们不管是横向比较还是纵向比较，比较的双方一定要有可比性，并且在同一个维度、粒度上去比较，要不是毫无意义的。

（7）漏斗分析法

漏斗分析方法经常应用于产品的转化分析。举个电商的例子：用户登录网站1千万，浏览商品详情页200万，加入购物车80万，下单支付50万，支付成功40万。每一步都是转化率的问题。针对关键路径进行漏斗分析能够帮助我们快速的定位到问题所在。从而能够及时做出决策。

（8）用户行为理论

也称用户的活动周期理论。该分析方法，往往用于对用户的基础研究中。用户行为过程分为认知、熟悉、试用、使用和忠诚5个步骤。

（9）用户生命周期理论

该分析方法，也往往用于用户基础研究中，在互联网领域应用广泛。用户的生命周期分为进入期、成长期、成熟期、衰退期、流失期。每一个阶段用户的行为特征是不一样的，其价值是不一样的，需要精细化的运营。不可急功近利。

（10）金字塔理论

金字塔这个分析方法正好和漏斗分析方法相反，它是基数大，上层小。最初是英国历史学家、政治学家诺斯科特·帕金森(C.Northcote Parkinson)在《帕金森定律》(Parkinson's Law)一书中，论述在行政管理中，行政机构会像金字塔一样不断增多，行政人员不断膨胀，每个人都很忙，但组织效率越来越低下。这条定律又被称为“金字塔上升”现象。后来，人们将这一理论延伸应用，不再只限于本意。大凡是基数大，上层小，符合金字塔特征的研究分析都可以套用到该理论中。所以，金字塔这幅图也常常见于各分析报告中。比如，分析用户群体特征（马斯洛需求层次模型、用户价值模型等等）

综上所述种种数据分析方法，如果在一份分析报告中，能够把这些分析方法都灵活反复体现和应用，那么，这个分析报告一定会比较丰满的。

第三部分：数据分析的流程

数据分析的流程主要分为六步骤，遵循这种方法，一个完整的数据分析项目就出来了。

（1）明确分析目的：我们接到一个分析任务，首先要弄清楚我们分析的对象是什么，要达成怎样的目的，不能陷于为了分析而分析。然后，要熟悉行业和业务，透彻的理解分析的目的，构建起分析的角度和体系。

（2）进行数据准备：我们有哪些数据，通过什么途径可以获取到需要的数据，往往涉及到内部数据和外部数据，内部数据常常是我们的业务库或者基础数据团队建立起来的数据仓库系统，外部数据方面，现在各行各业都有大数据交易源，还有大量的公开市场数据。

（3）进行数据加工处理：主要通过数据清洗工作，对重复值进行去重处理、对异常值错误值进行修正或剔除、对缺失值进行填充修正或删除。如果软件环境为支持大数据量情况下，还需要对数据进行抽样处理。经过这些预处理后，最重要的就是进行数据的计算统计、合并转换，让数据符合目标分析过程。

（4）进行数据分析挖掘：绝大部分的分析目标达成都可以刚才介绍的分析方法外加常见统计分析等达到。主要的分析：整体和组成分析、走势趋势分析、均值方差分析、排序TOP分析、同比环比纵横比较分析、频度频率分析、相关关系分析、数量和比例的双坐标分析、逻辑结构分析、金字塔分析、漏斗图分析、矩阵图分析、指标拆解分析、PEST分析、5W2H分析法、4P营销分析等等。还有一部分分析需要到更高级的数据分析方法才能得到结论。

（5）进行数据结果图表展现：数据分析的目的就是要解决问题的，往往数据分析师不是需求的发起人，那么这就需要数据分析师把分析的数据和结论展现给需求方。最佳的方式就是通过图表，有理有据形象的重点突出且专业的表达出来。根据第（4）步骤的分析，我们可以选取恰当的图标。比如常用的有：折线图、柱形图、条形图、饼图、冒泡图、散点图、矩阵图、雷达图、双坐标图、瀑布图、帕累托图、金字塔图、漏斗图等等。

正如我之前的一篇文章 《图说可视化，报表也能做得如此酷炫！》，讲到帆软报表制作数据可视化的几个关键点。

（6）写出分析报告：数据分析最终的结论全部体现在分析报告中，一个分析师水平如何，只要看他写过的一份分析报告就可以完全清楚了。综合灵活应用这么多的分析方法和各种各样的展示图表，分析报告一定会显得非常丰满。下面一个问题我们再详细和大家讨论数据分析报告的相关事情。

互联大数据时代，大数据的特点是数据量大、数据种类多、要求事实性强、数据蕴藏价值大。但是众多的信息和咨询纷繁复杂，我们需要搜索，处理，分析，归纳，总结其规律。

大数据对推动社会经济有重要影响，如果没有高性能的分析工具，大数据的价值就得不到释放。对大数据的应用也要保持清醒的认识，对于互联网大数据作用与价值重点在于引导和启发，客观认识和发挥大数据作用。

但是，我们也有我们的观点，大数据之中，我们要看到的是“大”，这个大是时间的积淀和累聚，只有足够大才能让分析有依据，才能更接近于真实。是否有新的技术对其突破，我们也不敢保证，因为，现在的时代是技术加速度的年代。

大数据分析需要的是一个人的想象力和雄辩的逻辑分析力，纯理性不能构建有效的场景，纯感性会让架构的场景虚无缥缈。

大数据还面临一个最贴近现实的难题，那就是人的行为会受太多不可控因素的影响，比如：情绪，天气，食物等，正是这些不可控，才限制大数据只能更接近真实而非真实的窘境。

刚毕业不建议一下子接触数据分析的工作，可以从互联网的其他岗位开始，数据分析可以作为一个好的使用工具！

2018年大数据专业就业前景

大数据人才稀缺

据数联寻英发布《大数据人才报告》显示,目前全国的大数据人才仅46万,未来3-5年内大数据人才的缺口将高达150万。

据职业社交平台LinkedIn发布的《2016年中国互联网最热职位人才报告》显示，研发工程师、产品经理、人力资源、市场营销、运营和数据分析是当下中国互联网行业需求最旺盛的六类人才职位。其中研发工程师需求量最大，而数据分析人才最为稀缺。领英报告表明，数据分析人才的供给指数最低，仅为0.05，属于高度稀缺。数据分析人才跳槽速度也最快，平均跳槽速度为19.8个月。

根据中国商业联合会数据分析专业委员会统计，未来中国基础性数据分析人才缺口将达到1400万，而在BAT企业招聘的职位里，60%以上都在招大数据人才。

大数据专业就业三大方向

大数据主要的三大就业方向：大数据系统研发类人才、大数据应用开发类人才和大数据分析类人才。

在此三大方向中，各自的基础岗位一般为大数据系统研发工程师、大数据应用开发工程师和数据分析师。

大数据专业人才就业薪资

1基础人才：数据分析师

北京数据分析平均工资： 10630/月，取自 15526 份样本，较 2016 年，增长 9.4%。

数据分析师岗位职责

业务类别:技术

业务方向:数据分析

工作职责:

1. 根据公司产品和业务需求，利用数据挖掘等工具对多种数据源进行诊断分析，建设征信分析模型并优化，为公司征信运营决策、产品设计等方面提供数据支持；

2. 负责项目的需求调研、数据分析、商业分析和数据挖掘模型等，通过对运行数据进行分析挖掘背后隐含的规律及对未来的预测；

3. 参与数据挖掘模型的构建、维护、部署和评估；

4. 整理编写商业数据分析报告，及时发现和分析其中变化和问题，为业务发展提供决策支持；

5. 独立完成项目需求管理、方案设计、实施管理和项目成果质量的把控；

6. 参与编写项目相关文档。

教育背景:

学历：本科其它：

经验要求:工作经验：3-5年

任职要求:

1. 统计学、数学或计算机、数理统计或数据挖掘专业方向相关专业本科或以上学历；有扎实的数据统计和数据挖掘专业知识；

2. 熟练使用数理统计、数据分析、数据挖掘工具软件（SAS、R、Python等的一种或多种），能熟练使用SQL读取数据；

3. 使用过 逻辑回归、神经网络、决策树、聚类 等的一种或多种建模方法；

4. 3年以上数据分析工作经验，征信从业背景人员优先；

5. 具有金融行业项目经验的相关经验者优先考虑；

6. 主动性强，有较强的责任心，积极向上的工作态度，有团队协作精神。

能力素养:

良好的分析、归纳和总结能力，善于分析、解决实际问题； 主动性强，有较强的责任心，积极向上的工作态度，有团队协作精神。

2大数据开发工程师

北京大数据开发平均工资： 30230/月。

大数据开发工程师/专家 岗位指责（引自 滴滴出行）：

职位描述：

1、构建分布式大数据服务平台，参与和构建公司包括海量数据存储、离线/实时计算、实时查询，大数据系统运维等系统；

2、服务各种业务需求，服务日益增长的业务和数据量；

3、深入源码内核改进优化开源项目，解决各种hadoop、spark、hbase疑难问题，参与到开源社区建设和代码贡献；

岗位要求：

1、计算机或相关专业本科以上学历（3年以上工作经验）；

2、精通C++/Java/Scala程序开发(至少一种)，熟悉Linux/Unix开发环境；

3、熟悉常用开源分布式系统，精通Hadoop/Hive/Spark/Storm/Flink/HBase之一源代码；

4、有大规模分布式系统开发、维护经验，有故障处理能力，源码级开发能力；

5、具有良好的沟通协作能力，具有较强的分享精神；

6、对Kudu、Kylin、Impala、ElasticSearch，github等系统有深入使用和底层研究者加分；

3Hadoop开发工程师

北京hadoop平均工资： 20130/月，取自 1734 份样本。

Hadoop开发工程师岗位职责（引自新浪网）：

职位描述：

1.参与优化改进新浪集团数据平台基础服务，参与日传输量超过百TB的数据传输体系优化，日处理量超过PB级别的数据处理平台改进，多维实时查询分析系统的构建优化；

2.分布式机器学习算法在数据平台的构建与优化（包括常见的LR、GBDT、FM、LDA、Word2Vec及DNN等）；

3.深入源码改进各种开源大数据项目（包括Hadoop、Spark、Kafka、HBase等）。

任职要求：

1.计算机或相关专业本科以上学历；

2.熟悉Linux环境下开发，熟练掌握C++/Java/Scala等一种以上编程语言；

3.熟悉Hadoop生态系统相关项目，精通以下项目之一的源码（Hadoop/Spark/Kafka/HBase/Flume/ElasticSearch/Druid/Kylin）；

4.具备良好的学习能力、分析能力和解决问题的能力。

4数据挖掘工程师

北京数据挖掘平均工资： 21740/月，取自 3449 份样本，较 2016 年，增长 20.3%；

数据挖掘工程师招聘要求（引自蚂蚁金服集团技术部）：

工作职责：

1、在分布式系统上进行数据计算、挖掘、和实现算法；

2、数据仓库模型设计和建立；

3、数据梳理流程的实现和维护；

4、物流场景下的地址文本、空间属性研究和分析。

任职资格：

1、本科以上学历，有扎实的统计学，数据挖掘，机器学习，自然语言识别理论基础，一种或几种以上的实际使用经验。

2、熟悉聚类、分类、回归等机器学习算法和实现，对常见的核心算法和数据挖掘方法有透彻的理解和实际经验。

3、深入理解Map-Reduce模型，对Hadoop、Hive、Spark、Storm等大规模数据存储于运算平台有实践经验。

4、有扎实的计算机理论基础，至少熟悉一种编程语言，Java优先。

5、有三年以上互联网公司或者海量数据处理工作经验，大数据挖掘、分析、建模经验

5算法工程师

北京算法工程师平均工资： 22640/月，取自 10176 份样本。

算法工程师 招聘要求（引自美团点评数据平台部）：

职位描述：

互联网公司背景优先

A、广告算法

岗位职责：

1.负责点击率预估等主要广告算法的技术选型；

2.负责核心算法的开发；

3.负责广告大数据处理流程的建设及相关工具的研发；

4.负责广告技术研究项目的推进与管理；

职位需求：

1.计算机或相关专业本科以上学历，3年以上相关工作经验;

2.熟练掌握一门开发语言；

3.有机器学习、数据挖掘相关知识；

4.在广告、搜索、推荐等相关领域之一有技术研究工作经验；

5.有较强的沟通协调能力；

B、推荐算法

职位描述：

1. 参与各个产品线的个性化推荐系统的研发；

2. 分析用户行为数据，并设计合理的推荐算法模型及策略，并优化推荐排序；

3. 通过对用户行为数据的挖掘，对用户进行建模，精准刻画用户各种属性；

职位要求：

1. 全日制本科及以上学历，计算机相关专业；

2. 熟练掌握各类个性化推荐算法，并有开发个性化推荐系统的实际项目经验；熟练掌握各类回归及排序算法，能够利用相关算法进行推荐排序的优化；

3. 熟练掌握分类、聚类、回归、降维等经典机器学习算法和技术，能够根据实际问题选择合适的模型和算法并进行相应的开发；

4. 有较强的工程架构和开发能力，能够实现支撑千万级用户和TB级用户行为数据的推荐系统或算法；

5. 掌握python、matlab等脚本语言，熟悉各类数据挖掘工具（如weka、Mahout），能够快速建立模型并进行验证；

C、算法工程师

岗位职责:

1、开发和优化用户行为数据挖掘，文本分类和语义理解，社交网络分析，网页搜索，推荐系统等领域的特定算法

2、能够很快学习和利用state-of-the-art的算法解决实际产品问题，提升产品用户体验

任职资格:

1、有一定的研究、实验的能力，优秀的分析问题和解决问题的能力

2、理解自然语言处理、机器学习、网页搜索，推荐系统，用户数据分析和建模的基本概念和常用方法，有相关领域的实际项目研发或者实习经历者优先。

3、熟悉C++, Java或Python，熟悉Linux或类Unix系统开发,有较强的编程能力。 能独立实现线上算法模块者优先。

4、对大数据处理平台和工具有一定经验者优先, 包括： Hadoop, Hive, Pig, Spark 等

最后一个问题，哪些公司需求大数据人才？

答：所有的公司。大到世界500强，BAT这样的公司，小到创业公司，他们都需求数据人才。

马云爸爸说“我们已从IT时代进入了DT时代，未来我们的汽车、电灯泡、电视机、电冰箱等将全部装上操作系统，并进行数据集成，数据将会让机器更“聪明”。DT时代，数据将成为主要的能源，离开了数据，任何组织的创新都基本上是空壳。”

数据，未来的一切。

数据分析，作为一个新的行业领域，正在全球迅速发展，它开辟了人类获取知识的新途径。

目前数据库技术、软件工具、各种硬件设备飞速发展，在这些软硬件技术与设备的支持下，信息技术的应用已在各行各业全面展开，尤其是对通信、互联网、金融等行业的发展做出了巨大贡献，并且经过长期的应用，积累了大量丰富的数据。但大部分企业对其存储信息的利用率极低。庞大的历史数据是否有价值？有何价值？是否可以综合利用分析？是否能够为领导决策提供参考依据？

回答是肯定的，数据分析这一项工作越来越受到决策层的重视，借助数据分析的各种工具，从海量的历史数据中提取、挖掘对业务发展有价值的、潜在的知识，找出趋势，为决策层的决策提供有力的依据，对产品或服务的发展方向起到积极作用，有力推动企业的科学化、信息化管理。

从20世纪90年代起，欧美国家开始大量培养数据分析师，直到现在，对数据分析师的需求仍然长盛不衰，而且还有扩张之势。根据美国劳工部预测，到2018年，数据分析师的需求量将增长20%，就算你不是数据分析师，但数据分析技能也是未来必不可少的工作技能之一。

数据分析师如此抢手的原因何在呢？

一个简单的原因就是社会越发达，人们对数据的依赖就越多，无论是政府决策，还是公司运营，科学研究还是媒体宣传，都需要数据支持。那么，对数据有如此大的依赖，就必然导致对数据分析的大量需求。因此，将数据转化为知识、结论和规律，就是数据分析的作用和价值。

数据究竟会庞大到什么地步呢？

据国际知名咨询公司估计，到2020年，全球每年产生的数据量将达到3500万亿GB，打个比方，就是用普通的DVD一张一张的摞起来，可以从地球摞到月球两次。

全球每年产生的数据量

面对这样庞大的数据，对数据分析师的要求就不仅仅是单纯做分析了，更重要的是与相关业务部门进行合作，将数据真正应用到业务中，根据实际的业务发展情况，识别哪些数据可用，哪些不适用，而不是孤立的在“真空环境”下进行分析。这就要求数据分析师不仅具备洞察数据的能力，还要对相关业务的背景有深入的了解，明白客户或业务部门的需求，从而将数据信息化、可视化，最后转化为生产力，帮助企业获得利润，这就是整个数据“供应链”，当然数据分析师也要理解这个“供应链”。

（读书笔记：狄松）