数据分析概述

1.什么是数据分析？

数据分析的目的是把隐藏在一些看似杂乱无章的数据背后的信息提炼出来，总结出所研究对象的内在规律。在实际工作中，数据分析能够帮助管理者进行判断和决策，以便采取适当策略与行动。比如：企业的高管希望通过市场分析和研究，把握当前产品的市场动向，从而制定合理的产品研发和销售计划，这就必须依赖数据分析才能够完成。

简单的说，就是对数据进行分析，比较专业的说法是，数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，未提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。以求最大化地开发数据的功能，发挥数据的作用。

数据分析包含“数据”和“分析”两个方面一方面包括加工和整理数据，另一方面也包括分析数据，从中提取有价值的信息并形成对业务有帮助的结论。

数据分析的成果通常以分析报告的形式呈现。对于数据分析报告，分析就是论点，数据就是论据，两者缺一不可。

2.数据分析类别

其中，探索性数据分析侧重于在数据中发现新的特征，而验证性数据分析则侧重于验证已有假设的真伪证明。

数据分析的划分：描述性数据分析、探索性数据分析、验证性数据分析。

1）描述性数据分析：属于初级数据分析，常见的分析方法有对比分析法、平均分析法、交叉分析法。

2）探索性数据分析：侧重于再数据之中发现新的特征

3）验证性数据分析：侧重于验证已有假设的真伪证明

其中探索性数据分析和验证性数据分析属于高级数据分析，常见的分析方法有相关分析、因子分析、回归分析等等。

3.数据分析的作用

数据分析在日常企业运营中主要有三大作用：

1.现状分析

简单的说就是告诉你过去发生了什么。

具体表现在：

第一，告诉你企业现阶段的整体运营情况，通过各个经营指标的完成情况来衡量企业的运营状态，以说明企业整体运营是更好了还是坏了，好的程度是如何，坏的程度又到哪里。

第二，告诉你企业各项业务的构成，让你了解企业各项业务的发展及变动情况，对企业经营状况有更深入的了解。

现状分析一般通过日常通报来完成，如日报、周报、月报等形式。

2.原因分析

简单的说就是告诉你某一现状为什么发生。经过第一阶段的现状分析，我们对企业的运营情况有了一个基本的了解，但是不知道运营情况具体好在哪里，差在哪里，是什么原因引起的。这时候我们就需要开展原因分析，以进一步确定业务变动的具体原因。

原因分析一般通过专题分析来完成，根据企业运营情况选择针对某一现状进行原因分析。

3.预测分析

简单来说就是告诉你将来会发生什么。

在了解企业运营现状后，有时候还需要对企业未来发展趋势做出预测，为企业制定经营目标以及提供有效的策略参考与决策依据，以确保企业的可持续健康发展。

预测分析一般通过专题分析来完成，通常在制定企业季度、年度等计划时进行，其开展的频率没有现状分析及原因分析高。

什么时候开展什么样的数据分析，需要根据自身的需求及目的来确定。

分享 IT 技术和行业经验，请关注-技术学派。

统计分析师经常会被问到这样一个问题：“我的研究到底需要多少个受试者？”，或者换个说法：“对于我的研究，现有x个可用的受试者，这样的研究值得做吗？”，这类问题都可以通过功效分析来解决，它在实验设计中占有重要地位。

功效分析可以帮助在给定置信度的情况下，判断检测到给定效应值时所需的样本量。反过来，它也可以帮助我们再给定置信度水平情况下，计算在某样本量内能检测到给定效应值的概率。如果概率低得难以接受，修改或者放弃这个实验将是一个明智的选择。

之后的几篇文章中，将会逐步学习如何对多种统计检验进行功效分析，包括比例检验、t检验、卡方检验、方差分析、相关性分析，以及线性模型分析。由于功效分析针对的是假设检验，我们首先要简单回顾一些假设检验的基础知识；

相关阅读：《

用R语言做数据分析——假设检验基本概论

》

在研究过程中，研究者通常关注四个量：样本大小、显著性水平、功效和效应值：

样本大小指的是实验设计中每种条件/组中观测的数目；

显著性水平由第一类错误的的概率来定义，也可以把它看作是发现效应不发生的概率；

功效通过第一类错误减去第二类错误的概率来定义，我们可以把它看作是真实效应发生的概率；

效应值指的是在备择或研究假设下效应的量。效应值的表达式依赖于假设检验中使用的统计方法。

虽然研究者可以直接控制样本大小和显著性水平，但是对于功效和效应值的影响却是间接的。例如，放宽显著性水平（换句话说，使得拒绝原假设更容易时），检验的功效便会增加。类似的，样本量增加，功效也会增加。

通常来说，研究目标是维持一个可接受的显著性水平，尽量使用较少的样本，然后最大化统计检验的功效。也就是说，最大化发现真实效应的概率，并最小化发现错误效应的概率，同时把研究成本控制在合理的范围内。

四个量（样本大小、显著性水平、功效和效应值）紧密相关。给定其中任意三个量，便可推算第四个量。

之后的文章将重点利用这一点进行各种各样的功效分析。

一、何为数据分析？

简单来说，就是对数据进行分析，较为专业的说法是，数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，将它们加以汇总和理解并消化，以求最大化地开发数据的功能，发挥数据的作用。

数据分析是为了提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。这里的数据也称观测值，是通过实验、测量、观察、调查等方式获取的结果，常常以数量的形式展现出来。

数据分析的目的是把隐藏在一大批看似杂乱无章的数据背后的信息集中和提炼出来，总结出所研究对象的内在规律。在实际工作中，数据分析能够帮助管理者进行判断和决策，以便采取适当策略与行动。例如：企业的高层希望通过市场分析和研究，把握当前产品的市场动向，从而制定合理的产品研发和销售计划，这就必须依赖数据分析才能完成。

在统计学领域，有些学者将数据分析划分为描述性数据分析、探索性数据分析以及验证性数据分析。

数据分析类别

其中，探索性数据分析侧重于在数据中发现新的特征，而验证性数据分析则侧重于验证已有假设的真伪证明。

从另一个角度看，描述性数据分析属于初级数据分析，常见的分析方法有对比分析法、平均分析法、交叉分析法等。而探索性数据分析以及验证性数据分析属于高级数据分析，常见的分析方法有相关分析、因子分析、回归分析等。我们日常学习和工作中涉及到的数据分析主要是描述性数据分析，也就是大家常用的初级数据分析。

二、数据分析的作用

1、现状分析

简单来说就是告诉你过去发生了什么。

具体体现在：

第一，告诉你企业现阶段的整体运营情况，通过各个经营指标的完成情况来衡量企业的运营状态，以说明企业整体运营是好了还是坏了，好的程度如何，坏的程度又到哪里。

第二，告诉你企业各项业务的构成，让你了解企业各项业务的发展及变动情况，对企业运营状况有更深入的了解。

现状分析一般通过日常通报来完成，如日报、周报、月报等形式。

2、原因分析

简单来说就是告诉你某一现状为什么发生。经过第一阶段的现状分析，我们对企业的运营情况有了一个基本的了解，但是不知道运营情况具体好在哪里，差在哪里，是什么原因引起的。这时候我们就需要开展原因分析，以进一步确定业务变动的具体原因。

例如2012奶奶2月运营收入环比下降5%，是什么原因导致的呢？是各项业务收入都出现下降，还是个别业务收入下降引起的？是各个地区业务收入都出现下降，还是个别地区业务收入下降引起的？这就需要我们开展原因分析，进一步确定收入下降的具体原因，对运营策略做出调整与优化。

原因分析一般通过专题分析来完成，根据企业运营情况选择针对某一现状进行原因分析。

3、预测分析

简单来说就是告诉你将来会发生什么。

在了解企业运营现状后，有时候还需要对企业未来发展趋势做出预测，为制定企业运营目标及策略提供有效的参考与决策依据，以保证企业的可持续健康发展。

预测分析一般通过专题分析来完成，通常在制定企业季度、年度等计划时进行，其开展的频率没有现状分析及原因分析高。

数据分析的三大作用

（读书笔记：狄松）

在大数据分析架构里，一般是spark、storm作为计算框架，计算后的结果存到redis。要对redis的数据结构有清晰认识，理解各自优缺点、实用场景，redis价值才能最大化。今天我们来谈谈Redis

Redis概述

lRedis是一个开源，先进的key-value存储，并用于构建高性能，可扩展的应用程序的完美解决方案。

lRedis从它的许多竞争继承来的三个主要特点：

lRedis数据库完全在内存中，使用磁盘仅用于持久性。

l相比许多键值数据存储，Redis拥有一套较为丰富的数据类型。String，List,set,map,sortSet

lRedis可以将数据复制到任意数量的从服务器。

Redis 优势

异常快速：Redis的速度非常快，每秒能执行约11万集合，每秒约81000+条记录。

支持丰富的数据类型：Redis支持字符串、列表、集合、有序集合散列数据类型，这使得它非常容易解决各种各样的问题。

操作都是原子性：所有Redis操作是原子的，这保证了如果两个客户端同时访问的Redis服务器将获得更新后的值。----计数器

多功能实用工具：Redis是一个多实用的工具，可以在多个用例如缓存，消息，队列使用(Redis原生支持发布/订阅)，任何短暂的数据，应用程序，如Web应用程序会话，网页命中计数等。

Redis安装部署

Redis编译、安装

解压文件，并创建软件连接

tar -zxvf redis-3.0.5.tar.gz -C /export/servers/ln –s redis-3.0.5/ redis

编译redis源码

cd /export/servers/redismake（先安装gcc）

将编译后的可执行文件安装到/user/local/redis

make PREFIX=/usr/local/redis install

启动Redis

启动方式一：Redis前台默认启动

进入redis安装目录，并启动Redis服务

cd /usr/local/redis/bin/./redis-server

启动方式二：Redis使用配置文件启动

拷贝源码中的redis.conf文件到redis的安装目录

cp /export/servers/redis/redis.conf /usr/local/redis/

修改redis.conf的属性

daemonize no è daemonize yes

启动redis服务

cd /usr/local/redisbin/redis-server ./redis.conf

日志文件及持久化文件配置

修改生成默认日志文件位置

logfile "/usr/local/redis/logs/redis.log"

配置持久化文件存放位置

dir /usr/local/redis/data/redisData

Redis客户端使用

redis.clientsjedis2.8.0

Redis持久化

有两种持久化方案：RDB和AOF

1）RDB方式按照一定的时间间隔对数据集创建基于时间点的快照。

2）AOF方式记录Server收到的写操作到日志文件，在Server重启时通过回放这些写操作来重建数据集。该方式类似于MySQL中基于语句格式的binlog。当日志变大时Redis可在后台重写日志。

AOF持久化配置

1）修改redis.config配置文件，找到appendonly。默认是appendonly no。改成appendonly yes

2）再找到appendfsync 。默认是 appendfsync everysec

appendfsync always

#每次收到写命令就立即强制写入磁盘，最慢的，但是保证完全的持久化，不推荐使用

appendfsync everysec

#每秒钟强制写入磁盘一次，在性能和持久化方面做了很好的折中，推荐

appendfsync no

#完全依赖os，性能最好,持久化没保证

RDB持久化配置

默认情况下，Redis保存数据集快照到磁盘，名为dump.rdb的二进制文件。可以设置让Redis在N秒内至少有M次数据集改动时保存数据集，或者你也可以手动调用SAVE或者BGSAVE命令。

例如，这个配置会让Redis在每个60秒内至少有1000次键改动时自动转储数据集到磁盘

save 60 1000

Redis数据结构

关注佳源信息，关注更多资讯。

在对数据分析岗位进行整理与研究时，通过对于这些岗位的企业性质、从事数据分析岗位职责、岗位要求及薪资待遇进行研究。我们对于未来的数据分析这个职业充满了希望，但是也对于这个职业二极分化充满了担忧。

一、数据分析职业概述

越来越多的企业将选择拥有项目数据分析师资质的专业人士为他们的项目做出科学、合理的分析，以便正确决策项目；越来越多的风险投资机构把项目数据分析师所出具的项目数据分析报告作为其判断项目是否可行及是否值得投资的重要依据；越来越多的企业把项目数据分析师课程作为其中高管理层及决策层培训计划的重要内容；越来越多的有志之士把项目数据分析师培训内容作为其职业生涯发展中必备的知识体系，数据分析这个职业应运而生，毫不夸张的说，数据分析师带给企业的不仅仅是一个个数据报告，更是一桶桶黄金，一片片亟待探索的蓝海。

二、数据分析职业现状分析

这个职位目前呈现是二八原则，好的数据分析师的收入是非常高，差不多平均水平在13k左右，但是处境不好的数据分析人员只能拿到跟内勤同等收入的水平。比如数据分析招聘中，185号岗位，这是一家公司需要大量招聘初级的数据分析师进行长期的培养广告公司；高级数据分析师在全国的范围内来说还是很少一个群体，主要承担对于某个数据分析项目进行建模与分析及算法研究等，这批人员一般的薪资待遇在16K以上，大多数在互联网与金融行业等利润率比较高的行业，数据分析招聘中，199号岗位，该岗位是杭州大型电商公司为其呼叫中心招聘数据分析师，待遇在P7左右，也就20-22K/月，还有盛大招聘数据分析师岗位也其实有很有代表性；最高端是一些互联网数据分析部门的管理层与数据科学家，一般是大型公司对于某个项目进行数据挖掘研究，全国也只有微软与阿里及一些从事数据挖掘公司里有这些数据科学家，一般的待遇差不多在50万以上年薪，这个大家可以关注一些互联网公司的招聘信息。

三、数据分析师的能力标准

格局是决定一个数据分析师的能力标准，一个好的数据分析师应该从行业的层面来分析公司现在所处的位置以及整个行业的分析，而且通过内外的数据得出富有逻辑性的结论，然后从这些结论中提供公司战略层面思考的策略，当然我也明白现在我们很多的分析师朋友都在沉浸在业务或者项目分析中，但是我认为格局观是决定一个数据分析师的能力标准。

数据分析师要做到基于内部与外部的数据结合通过严密的完整商业思考及严密逻辑推理，得出针对业务好坏的结论，并得出业务改进的策略。

什么内部与外部的数据的结合，我们即要看内部的数据还要结合行业的数据，而商业思考是做数据分析师通用的技能，那么结论是基本产出物，策略是分析师高级产出物。

四、数据分析师的三类素质

第一类是基本素质，第二类是通用技能，第三类是专业技能。

基本素质包括：1、聪明与好奇心；2、愿意学习并愿意能沉下心来付出；3、耐心与专注。

通用技能是核心思考能与展现自己的能力，第一点，结构化的思考能力与逻辑推理能力即智商不能差，如果是这样你看到的越多就做的越好，怎么来判断呢？第二点，良好商业感觉与商业判断能力；第三点，要有宏观思考能力，你要看到的格局要到；第四点，要有良好沟通能力。

专业能力从专业上要有基本统计学知识，从能力上要包括扎实数据分析能力与数据处理能力包括SAS\R\SPSS及tableau、FineBI等可视化表达的能力。那么高级数据分析师，我们应该更看中基本素质与通用能力，如果专业操作类分析师那么我们需要基本素质与专业技能。

五、企业要求及需备的知识点

大多数的互联网行业特别是电商行业对于数据分析师这块还是比较看重，主要的原因其主要的资产除了产品、人员就是长期积累的数据而这些海量的数据已经不能用人工经验来还原业务，这就需要数据分析师对于数据进行归纳与还原商业规则与逻辑，一般主要涉及商业分析、用户分析、产品分析、运唯支撑等这几块；从各家公司招聘信息来看，要求几乎雷同，同时也说明这个职业的互通性很强，说白了就是换个行业都可以在职场上存活下来；一般需要以下几个要求：

1、数据分析经验；

2、商业数据敏感度；

3、基本工具（SAS、SPSS、SQL、EXECEL等）；

4、建模；

5、知识点（统计学、会编程）；

六、如何获得数据分析知识点？

1、数据分析经验，大家可以每天浏览我们西线学院官网的文章，我们每天都会发布一些最新的分析实战文章；

2、基本工具类，我们西线学院帮助学员从零基础学会数据分析工具编程，丰富的知识扩展，实用性强,不掺杂无用讲解,只为给学员最极致的教学体验!

1.什么是数据分析？

数据分析的目的是把隐藏在一些看似杂乱无章的数据背后的信息提炼出来，总结出所研究对象的内在规律。在实际工作中，数据分析能够帮助管理者进行判断和决策，以便采取适当策略与行动。比如：企业的高管希望通过市场分析和研究，把握当前产品的市场动向，从而制定合理的产品研发和销售计划，这就必须依赖数据分析才能够完成。

简单的说，就是对数据进行分析，比较专业的说法是，数据分析是指用适当的统计分析方法对收集来的大量数据进行分析，未提取有用信息和形成结论而对数据加以详细研究和概括总结的过程。以求最大化地开发数据的功能，发挥数据的作用。

数据分析包含“数据”和“分析”两个方面一方面包括加工和整理数据，另一方面也包括分析数据，从中提取有价值的信息并形成对业务有帮助的结论。

数据分析的成果通常以分析报告的形式呈现。对于数据分析报告，分析就是论点，数据就是论据，两者缺一不可。

2.数据分析类别

其中，探索性数据分析侧重于在数据中发现新的特征，而验证性数据分析则侧重于验证已有假设的真伪证明。

数据分析的划分：描述性数据分析、探索性数据分析、验证性数据分析。

1）描述性数据分析：属于初级数据分析，常见的分析方法有对比分析法、平均分析法、交叉分析法。

2）探索性数据分析：侧重于再数据之中发现新的特征

3）验证性数据分析：侧重于验证已有假设的真伪证明

其中探索性数据分析和验证性数据分析属于高级数据分析，常见的分析方法有相关分析、因子分析、回归分析等等。

3.数据分析的作用

数据分析在日常企业运营中主要有三大作用：

1.现状分析

简单的说就是告诉你过去发生了什么。

具体表现在：

第一，告诉你企业现阶段的整体运营情况，通过各个经营指标的完成情况来衡量企业的运营状态，以说明企业整体运营是更好了还是坏了，好的程度是如何，坏的程度又到哪里。

第二，告诉你企业各项业务的构成，让你了解企业各项业务的发展及变动情况，对企业经营状况有更深入的了解。

现状分析一般通过日常通报来完成，如日报、周报、月报等形式。

2.原因分析

简单的说就是告诉你某一现状为什么发生。经过第一阶段的现状分析，我们对企业的运营情况有了一个基本的了解，但是不知道运营情况具体好在哪里，差在哪里，是什么原因引起的。这时候我们就需要开展原因分析，以进一步确定业务变动的具体原因。

原因分析一般通过专题分析来完成，根据企业运营情况选择针对某一现状进行原因分析。

3.预测分析

简单来说就是告诉你将来会发生什么。

在了解企业运营现状后，有时候还需要对企业未来发展趋势做出预测，为企业制定经营目标以及提供有效的策略参考与决策依据，以确保企业的可持续健康发展。

预测分析一般通过专题分析来完成，通常在制定企业季度、年度等计划时进行，其开展的频率没有现状分析及原因分析高。

什么时候开展什么样的数据分析，需要根据自身的需求及目的来确定。

分享IT技术和行业经验，请关注-技术学派。