- ?
数据分析入门:如何训练数据分析思维?
达浪
展开
作者:吴彬彬
我们在生活中,会经常听说两种推理模式,一种是归纳 一种是演绎,这两种思维模式能够帮助数据分析师完成原始的业务逻辑积累,在此基础上快速定位业务问题,提升分析效率,但是对于刚入门的数据分析师,在项目经验不足的前提下,如何快速完成项目的分析报告? 这里引进一种外展推理的思维模式,方便入门分析师的完成日常的工作。
那什么是外展推理模式呢?
在麦肯锡思维模式中它将人的推理过程涉及的实体分为三个部分:规则,情况以及结果。
规则: 通常是对这个世界的看法;情况:就是这个世界存在的已知事实;结果:将规则用于情况,预期要发生的事儿。
这三个任何一个实体都可以作为推理的起点,然而起点不同意味着,推理的方法也有所差异。
以规则为起点的推理方法可以称之为演绎推理。
举个例子,如果平时不努力,考试成绩将不及格(规则);现实中a平时不努力(情况);所以a考试不及格(结果)。
以情况为起点的推理方法就是归纳推理。
a平时不努力(情况);a考试不及格(结果);所以a考试不及格的原因可能是平时不努力。
以结果为起点的推理方法就是外展型思维方法。
a考试不及格(结果),考试不及格通常是由于平时不努力(规则),检查是否平时不努力(情况)。
从日常工作中,我们可以发现,外展推理的思维模式十分切合日常数据分析师的多维分析定位原因的工作模式,是数据分析师尤其是入门数据分析师最应该具备的一种思维逻辑,那如何进行外展推理呢?外展推理用大白话来说就是强迫自己思考产生问题的各种可能原因,之后的重点就是收集资料,以证明是这些原因或不是这些原因。在工作过程中MECE结构化分解是主要手段,按日常的工作可以简化如下三个流程:
将所思考的问题的相关因素全部罗列出来。对所有相关的因素进行层级和相关性比较,分离不同层级的因素,合并同一层级中相同的因素,确保各因素的独立性。按照正确的逻辑关系,把各因素进行排列组合。
如下图:我们可以将问题进行分解,分解的原则为
各部分之间相互独立 (Mutually Exclusive)所有部分完全穷尽 (Collectively Exhaustive)
在此基础上按层级进行数据分析定位,找到最细的原因。
在工作中,我们主要会用到的分解方法有这两种,
按业务职能结构划分,比如渠道,运营,功能等相关模块,将相关指标映射到主要模块,通过简单快速的沟通,能快速的定位问题原因,但是缺点是分析结果不够直接,依赖外部资源信息搜集。按因果结构划分(指标分解)营收=日活*付费率*arpu等指标因果关系进行划分,通过定位指标波动,定位最细指标,辅助维度下转,能够清楚的问题原因,该方式是较为稳妥的方式,是日常工作中的主要方式,但是缺点是需要构建相对完整的指标逻辑体系。
如上两种分解方法针对不同的项目要求进行组合应用,但是外部资源搜集及完整的指标逻辑体系训练是入门数据分析师到资深分析师最难跨越的两道门槛,在经过阶段训练后,逐步利用归纳和演绎的思维,提升业务熟悉程度,完成业务的初始积累后,后续的分析过程中就可以逐步减少拓展推理的层级及组合,逐步提升问题原因定位的效率。
网易有数:企业级大数据可视化分析平台。面向业务人员的自助式敏捷分析平台,采用PPT模式的报告制作,更加易学易用,具备强大的探索分析功能,真正帮助用户洞察数据发现价值。可免费试用。
- ?
不懂计算机,不懂统计学,作为零基础的人,怎么自学数据分析?
何靖
展开
没有计算机基础,没有编程基础的人,该怎么学习数据分析,第一步要做到什么,然后应该做什么?怎么一步一步自学?先打哪些基础?很多人都在了解数据分析的时候,都会这么说。数据分析一定要统计学,编程基础吗?
数据分析如何开始?
我最早做数据分析是从网站统计开始的,从CNZZ到Google Analytics都有用过。我们能够这些地方知道什么呢?网站流量,用户情况,行为统计等等。以GoogleAnalytics为例,以下是我一个网站的流量图:
从这个图里面,我们可以看出什么呢?用户数有多少,每个用户访问几个网页,每个用户停留多长时间,跳出率有多高等等。
如果你是第一次看到这种图,那你肯定是一头雾水,WTF?什么是跳出率?什么是平均会话时长?
这也是开始学习的过程,接触到陌生概念,就去了解,不要因为一个概念不懂就停止学习。
经过一段时间的了解,我们学会了各个名词是什么意思,例如我们发现跳出率太高了,那么就证明网站存在某些问题,导致了用户很容易流失。那么我们就进一步, 查看用户的行为数据,例如热点图,点击图等等,分析是什么地方导致了这个问题。
PS:图上这个跳出率算是很低了,还不错。
这个图是流量获取概览图,我们可以通过这个图来了解流量是从哪来的,这也能帮助我们做流量的优化甚至引流的工作。
不要嫌网站统计显得low,基础数据分析都是从这个开始的。
接下来可以着手去搞一些自己感兴趣的数据,当然,这可能需要学习爬虫知识,一些数据库的知识。
你可以爬歌词,看大家在唱什么,也可以把公司的订单倒入,看订单有什么规律,还可以把女朋友的微博全部拿出来,看她到底对什么感兴趣。
这些,其实都是数据分析的应用,从简单的,基础的,自己感兴趣的开始。
- ?
互联网运营那些事:运营必备的几个基础数据分析方法
秦青易
展开
上文,老曾谈过了数据分析对于运营而言的重要性。接下来老曾给大家讲解下,如何去做数据分析,以及几个数据分析的基本方法,希望大家能从中受益。
其实一旦步入职场,真正能够让你去学习的时间很少。而且进入社会人心也变得浮躁,就算有心学习也学不进去。这种情况既是机遇又是挑战,别人不学习的时候你能够学习,你就会慢慢的超过对方。接下来就跟老曾好好的去学习下吧!
互联网运营那些事提起数据分析,很多人都会想到一大堆的数据表格,或者是一些根本看不懂的高级数学建模,看起来似乎非常难。其实数据分析是我们每个人都具备的能力,并不想看起来那么困难。最简单的比如我们购物的时候货比三家,有的人还会考虑性价比。我们出去旅游的时候制定交通路线等等,这些行为都用到了数据分析。
这些小决策,都是一些简单的数据分析。而对于运营而言,我们就需要建立一系列科学、系统、符合商业逻辑的数据分析知识体系。
数据分析老曾简单把数据分析的过程分为以下几个阶段:
1、明确数据的目标
假设这个时候你已经对业务非常熟悉,这个时候你就需要明确数据分析的目标,提前想好要关联的业务场景是什么。然后你就会知道需要收集哪些数据,主要研究哪方面的数据。
2、制定数据挖掘和分析计划
数据收集和整理可不是一个轻松的活计,首先数据来源就是个大问题,尤其是在没有便捷的数据统计分析工具的情况下。而制定分析计划可让让你面对一大堆数据的时候不至于犯晕,可以思路清晰的去做分析。
制定数据挖掘和分析计划3、根据数据结果,提炼出商务洞察
这一步很难用文字来描述,因为涉及到的东西太多,而描述起来却只能用一句话或者大篇幅的文字。你可能发现别人只是扫了一眼数据就有了结果,而看不懂的人确实丈二摸不着头脑。
4、根据洞察结果,做出商务决策
根据数据反馈的结果,调整计划。主要还是要根据实际情况进行判断和决策。
说了这么多还是没有提及什么数据分析方法,实际上建议大家自己去购买相关书籍,他们讲的比我专业。而我能给大家提供的,不过是一些经验之谈。篇幅有限,今天就先讲到这里了。
- ?
零基础学习Python数据分析机器学习系列教程
城笳
展开
Pandas中最重要的两种数据结构是Series和DataFrame,上篇文章我们对Series进行了简单的介绍,本篇文章将带大家了解Dataframe。通常我们分析和处理的数据是表格型的,即m行n列的结构,每一列(column)表示不同的数据属性,每一行(row)表示不同的数据对象。在Pandas中Series用来表示数据列,而DataFrame用来表示整个数据表格,也就是说可以把DataFrame看做多个Series的组合。
DataFrame对象的创建
传入列表
创建DataFrame最简单的方法是传入一个列表,可以同时传入索引和列名。列表可以是一维的,也可以是多维的,如果不指定索引或列名,两者会被命名为默认值(0,1,2...)。下图的例子中,向DataFrame方法中传入了3个参数,第1个参数是二维列表,第2个参数是列名,第3个参数是索引,3个参数都是以列表的形式传入,其中列名和索引“columns=”和“index=”不能省略,否则会报AssertionError错误。
图1 传入列表创建DataFrame对象传入数组
DataFrame方法中也可以传入ndarray数组,传入数组的方式与传入列表几乎一样,不需过多介绍。
图2 传入数组创建DataFrame对象传入字典
当传入字典时只需要传入索引,不需要传入列名,因为字典中的键key会自动被指定为列名。
图3 传入字典创建DataFrame对象当传入嵌套字典时,索引也不需要传入,外层字典的key会自动变为列名,内层字典的key则自动变成索引。
图4 传入嵌套字典创建DataFrame对象导入外部文件
当然Pandas还可以直接打开csv文件创建DataFrame对象,Pandas中调用read_csv方法就可以返回一个DataFrame对象,注意如果csv文件不在当前文件夹,则应该填写完整路径。food_info.csv包含的数据量较大(8618行,26列),DataFrame对象数据的访问将在下节介绍。
DataFrame对象的访问
DataFrame对象的访问方式跟之前讲过的ndarray和series没有明显的不同,可以通过index和columns属性分别得到索引和列名,还可以使用[列名]访问指定列,使用.loc[ ]索引或切片访问指定行。访问方式比较简单,这里不再赘述,需要提醒读者注意的是:food_info[‘columns’]或food_info.loc[索引]只能获取一列或一行,返回Series对象,而food_info.loc[a : b]或food_info[a : b]使用切片获取多行时,返回DataFrame对象,即使数据只有一行。这充分说明了Series与DataFrame的关系:前者是一维数组结构,而后者是表格型的数据结构。
图6 DataFrame对象的访问 - ?
关于大数据分析的六个基本方面
席白薇
展开
大数据时代的到来,越来越多的人选择学习大数据,那关于大数据分析的六大基本方面是哪些,一起来了解一下
可视化分析
不管是对数据分析专家还是普通用户
数据可视化是数据分析工具最基本的要求
可视化可以直观的展示数据
让数据自己说话,让观众听到结果
数据挖掘算法
可视化是给人看的,数据挖掘就是给机器看的
集群、分割、孤立点分析还有其他的算法
让我们深入数据内部,挖掘价值
这些算法不仅要处理大数据的量
也要处理大数据的速度
预测性分析能力
数据挖掘可以让分析员更好的理解数据
而预测性分析可以让分析员根据可视化分析和数据挖掘的结果
做出一些预测性的判断
语义引擎
我们知道由于非结构化数据的多样性带来了数据分析的新的挑战,我们需要一系列的工具去解析,提取,分析数据。语义引擎需要被设计成能够从"文档"中智能提取信息
数据质量和数据管理
数据质量和数据管理是一些管理方面的最佳实践
通过标准化的流程和工具对数据进行处理
可以保证一个预先定义好的高质量的分析结果
数据存储,数据仓库
数据仓库是为了便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。在商业智能系统的设计中,数据仓库的构建是关键,是商业智能系统的基础,承担对业务系统数据整合的任务,为商业智能系统提供数据抽取、转换和加载(ETL),并按主题对数据进行查询和访问,为联机数据分析和数据挖掘提供数据平台
成都加米谷大数据科技有限公司
个人培训 丨 企业内训
成都市高新区天府二街蜀都中心1栋705
- ?
互联网数据分析入门:流量分析
炫烨
展开
当今时代信息化产业飞速发展,各类底层大数据平台百花齐放,亿级数据、秒级响应已经不再是当年的遥不可及的神话。然而对于企业来说,数据计算快仅仅是满足企业进行业务数据分析的硬件基础,如何发掘这些海量的数据产生应用价值,走好数据分析这最后一公里,引导企业进行战略决策却是至关重要的一步。
本文以互联网行业为数据业务分析背景,希望能跟大家交流一些数据分析方面的心得和体验。
——本文使用数据分析工具为FineBI 商业智能工具
数据分析的本质其实是做数据对比分析,没有数据对比,单一的指标统计往往难以发挥数据价值。像我们常见的数据对比分析方法有同比、环比、占比等一系列分析指标,那是不是所有的数据业务场景都可以直接进行套用分析呢?比如我们统计企业2018年1月29日的同比流量,是不是可以直接对比2017年1月29日?表面上看好像2017年1月29日确实就是2018年1月29日时间层面上的同比日期,但是我们仔细对比查看这两个日期会发现2018年1月29日是周一,2017年1月29日确是周日。对于很多行业的企业来说,非工作日和工作日的数据往往是有很大差异的,这个时候单纯从日期层面来进行对比其实是没有什么意义的,选择对比同是周一的2017年1月30日的流量数据进行同比计算可能会更加有价值。
目前互联网行业做搜索引擎的有Google、百度,做综合门户的雅虎、新浪,做即时通讯的主要是腾讯,电子商务方面的主要是阿里、京东、亚马逊等。不论是以上的哪家互联网企业,往往都需要有一套引流、转化、消费、留存方面的运营策略,平台的流量数据分析往往都是非常重要的。
互联网流量数据分析方面,总结主要有如下四种数据常用分析方法:
1.对比分析流量规律,针对时段进行企业服务以及推广活动调整;
2.对比分析结构占比,指导进行定向群体营销推广
3.对比分析异常情况,及时追责并且进行调整;
4.对比追踪活动流量变化,总结活动效果经验以便后续有针对性调整。
如上图所示,我们通过FineBI工具制作出以上的流量数据分析模板,接下来尝试着对数据做一些对比分析。
一、用户浏览量周分布
对于互联网企业来说,流量数据往往都会呈工作周相关。对此,我们可以先宏观地统计出周一到周日中的总的平台流量柱状图数据对比情况。首先我们可以仔细观察工作日和非工作日的数据,发现周末的平台流量较工作日流量要高,这在互联网行业来说都是一个比较普遍的现象。
用户流量的周分布规律之后,我们就大致有一个推广方向,周末休息时间用户群体较大,相较于工作日可以投入更多的和丰富有吸引力推广活动来进行新用户引流和老用户活跃。
接着我们可以进行下一步思考,那工作日和周末我们的活动推广时间如何制定?有的同学们可能会觉得全天活动都可以,不需要关注具体的活动时间。但是对于互联网行业来说,每个时间段的推广费用都是较为昂贵的,我们完全可以分析出工作日和周末的用户流量趋势,进行有针对性的时间段投入推广,通过更小的成本获取到更多的用户流入。
首先是工作日的时间段流量统计分布,我们通过BI工具分时间段作图得到如下所示的流量分布图。可以看出,工作日的流量主要集成在每日的9点(上班时间)、13点(午餐时间)、20点(晚间娱乐休息时间),那么在得到这样的一些用户流量规律之后,便可以在这些用户活跃高峰期时间段有针对性对白领群体多做一些相关商品推广活动,以实现最小时间成本和推广费用最大化用户引流效果。
再来看周末的各时间段流量分布走势,和工作日所不同的是,周末的流量早高峰期延后到了10点,这可能和各位小伙伴们周日作息较晚有关(同学们周末都是几点起床呢),除此之外,晚上的流量高峰退潮期也有延后。针对与周末用户流量分布的特性,互联网企业在周末时可以将活动开始时间和活动结束时间都适当进行延后,这个时候不能再套用工作日制定好的活动时间计划了,因为符合用户群体作息规律的推广促销活动才能达到更好的效果。
二、推广渠道流量分布
对于互联网行业的推广渠道分布主要分为三级渠道:线上渠道、线下渠道、新媒体营销等等。对比分析每个渠道对企业所带来的价值占比差异,以指导制定有针对性营销策略。
如上图所示,由于推广渠道是分多层级的,我们通过BI工具的多层饼图进行数据的分析统计再合适不过了。分析下图的数据我们可以看出,首先是一级渠道的主要战斗力来自于新媒体营销,当今的微信、今日头条等社交媒介社区时代受众广泛,用户群体非常庞大,是公司需要投入主要成本进行推广的。其次线上渠道的效果也不容忽视,对于互联网企业来说,做好百度、Google等SEO搜索引擎关键词推广也是很重要的一部分工作。相较于线上渠道和新媒体营销,线下渠道说所需要的经费和时间、人力成本较大,受众又相对较小,所以此类活动往往针对核心粉丝进行运营即可。
三、各月份指标对比走势
在分析各月份指标对比走势数据之前,先简单介绍下互联网营销常用的几个指标概念:
1.浏览量(pv)
2.访问次数(visits)
3.访客数(uv)
以上三个基础指标常用来衡量流量数据的多少。另外平均访问深度(总浏览量/访问次数)、平均停留时间(总停留时间/总浏览量)、跳失率(跳出次数/访问次数),这三个指标通常可用于衡量流量指标的优劣性。
我们仔细分析上图中的平台流量指标,可以发现10月份是2017全年的流量高峰期,应该跟企业在国庆黄金假期所做的促销引流活动有关。浏览量、跳失次数、访问次数分别为4941、1290、2182,对比计算可得到跳失率为59.12%,明显低于其他时间段的跳失率,说明10月份的活动效果还不错,其经验对以后的营销推广可以起到参考作用。
最后是访问深度用户群体分布分析(跳失率=跳出次数/访问次数),我们通过BI工具将企业的VIP用户、老用户、新用户分别进行分时间段的用户群体访问深度分析统计。总体来说可以发现平台的VIP用户访问深度较老用户以及新用户稍微高些,但是不是太明显,说明平台运营的VIP这部分群体的活跃度还有待提升。同时,平台老用户访问深度和新用户更是相差无几,公司对于用户这方面的活跃运营明显需要加油了,建议将平台的部分忠诚度较高的老用户以VIP用户组建起来,共建平台生态圈,增加整体的用户活跃度。同时可以向老用户以及VIP用户实施一些优惠政策,如定向商品折扣、根据用户画像进行喜好商品特惠推送等。
本次的数据分析经验心得分享暂时先写到这里,后续将继续给大家分享关于互联网数据运营方法的转化、消费、留存等方面的一些经验,欢迎大家一起共同交流探讨互联网运营之道。
- ?
通过基础数据进行数据分析的实例
荣轩
展开
国产〇〇柒
前几天朋友给了一组行业同行表现数据,让帮忙分析一下自己的店铺问题所在和表现如何。今天我通过这个小示例来跟大家简单分享一下一些基础的分析方法。
(开始之前先跟小伙伴们说明一下,本案例是一个简单的基于一组数据而进行的分析,并通过这个给大家一个相对比较概括的方法介绍,实际分析操作中会遇到更复杂的情况,而且实际分析中的挖掘深度要比本案例要深)
下边是朋友提供的一组数据:
图片:基础数据表01.png
为了保护隐私避免侵权,公司名称这里就以字母替代
通过上图我们可以看到这是几组非常简单的数据,这些数据我们都可以在自己的店铺采集到,但是我们也可以看到这组数据有一个问题,多数数据缺乏一个时间参数,从表格中我们只能看到最后两项有一个准确的时间界定,其他项数据均没有这个界定。不过这里我们采用对比模糊分析的方法,不用考虑数据是否精确,只需要进行对比即可,所以缺乏时间参数问题也不太大。接下来我们通过以下几个步骤进行分析。
一,做筛选
首先我们要对这些数据进行筛选,只留可对比的数据组,剔除无用的数据。方法很简单,这里我们通过公司名称进行检测,进行主营产品类目检查(这里我是以朋友公司产品类目对基础的),通过分析发现C、G、M三个公司的产品与其他不符,这里我们就直接剔除这三家的数据不做参考。
整理后的数据如图:
图片:整理后的数据02.png
(再更复杂的分析中,剔除噪音数据并非这么简单,这里是用这个简单的方式说明一下这个操作步骤,大家在操作中要根据自己实际情况进行数据甄别,甄别的过程是非常复杂和繁琐的,如果这一步出错,做出的分析结果的准确性就很难得到保障)
二,做归类
无用的数据剔除之后,接下来我们就是要对现有的数据进行归类处理。
通过图表数据的阅读,我们可以把里面的数据简单的归为三类:交易数据、回复率、行为数据。交易数据这里主要就是包含前三项,一达通和信保;回复率就是询盘回复率的表现数据;行为数据这里主要是指人的行为,访客和季度、月询盘数。归类后如图:
图片:归类后的数据03.png
这三类数据是有区别的,交易数据和回复率我们可以统一称之为“操作数据”或“加权数据”,因为这些数据的控制权基本掌握在我们手里,我们在这部分数据的积累上有较大的主动权。行为数据可以称之为“结果数据”,这部分数据的直接控制权来自于客户行为,我们无法直接去干预,我们只能通过提升“操作数据”的方法去影响这个“结果数据”。我们之前的操作都是为了这个“结果数据”有较好的表现。
数据归类之后,我们开始分析
三,做分析
由于上面拿到的三类数据有两类属于“操作数据”,这两类对“结果数据”只能产生部分影响,这里我们就不关注这两项数据了(在全局分析中,这些局部数据都可以作为一个参数加入到分析的行列)。这里我们只关注结果数据。这里的结果数据中虽然有三组数据,由于其中一项数据缺少时间参数,所以我们可以把三项数据当作两项去分析,季度和月询盘量可以当作一个有效参数,这个时候我们就把数据优化成两类:访客和询盘。当看到这两个数据的时候我们很简单的就会联想到由他们而衍生出来的一个数据:“转化率”,这个数据能够比较真实的反馈平台效果。接下来我们计算出每一组的“转化率”数据如图(按照月度参数计算):
图片:转化率04.png
从上图可以看出“转化率”排名如下:
H > K > P > A = F > B > D = E > I = O > J > L >N
当然,转化率高并不代表代表一个店铺的表现就是第一名,这个数据只能判断该店铺引流的精准程度(当然如果需要更深入的分析精准度是需要深入到询盘质量和成交转化中去的,这里不做过多介绍)。我们可以观察一下N店铺的转化率,0.43%的数据与其他店铺相比较差距较大,该店铺的访客流量占据第一位,但是反馈数据在该表中与其他几家并列最后一名,该店铺就需要认真的分析访客来源和未转化的原因(这里就牵扯到了其他数据的数据分析,这里不多介绍)。
当然,从数据组中我们一共可以看到这些数据条件,也可以计算出一个数据进行比较。但是这并不太说明什么太多的问题。接下来我们用加入条件的方法来进一步深入分析。这里我加入的数据是店铺的产品”上架产品数量“这个参数。加入数据到图标(实际操作中我们可以加入更多的可参考数据进行数据分析),如图:
图片:加入产品数量条件05.png
从表格中可以看出产品数量过万的有A B J N ,产品数量5000以上的有D I K L O P,产品数量低于5000的有E F H。从阿里规则上来说,店铺产品数量过多,店铺过于臃肿并不太好,但是这并不代表不用去发布产品了,其实我们真正要做到的是产品数量适中,做到全覆盖即可。从以上店铺的产品数量数据表现可以看出来,该行业的产品数量需要大于5000以上,如果低于5000,应该做不到全覆盖,可能会浪费很多流量(这里是从数据表大致得出结论,如要深入分析具体多少产品数量合适,还需要从其他方面进行综合分析)。我们也可以看到低于5000的几个店铺的访客量分别为:4000,7000,9000(里面有P4P引流数据,所以该数据仅作参考,不可作为实际数据参考),这个数据量并不算高,特别是H,访客是最少,产品数量也是最少,但是我们可以发现H的转化率是最高的,我们这里假设,H拥有A的产品数量(覆盖面),保持转化率不变,其他条件随覆盖面递增,这个时候我们可以看到H的数据应该是这样的,如图:
图片:修改数据后转化询盘06.png
当然这是一个理想的假设状态,覆盖,访客,转化这些数据都是的动态的,越是大的数据体量对转化率的控制难度越大,但是不可否认的是,如果产品覆盖能够达到一定程度的话,对访客和询盘转化肯定是有益处的,示例中虽然达不到492条的完美状态,但是询盘数量增加2倍应该还是有保障的。从这些数据的表现我们也可以看到覆盖的重要性(其实覆盖是一个很复杂的事情,并不是咱们想象的那种把产品和关键词上传上去就完事儿的事情,有时间可以跟大家深入交流关于覆盖的问题)。其实这些数据中还有很多可以对比解读的地方,我们今天先这里,以覆盖落幕。
- ?
零基础数据分析必知的数据分析流程
许凡
展开
一个数据分析的项目,你的数据对象是谁?商业目的是什么?要解决什么业务问题?数据分析师对这些都要了然于心。基于商业的理解,整理分析框架和分析思路。例如,减少新客户的流失、优化活动效果、提高客户响应率等等。不同的项目对数据的要求,使用的分析手段也是不一样的。
数据分析的目的就是把隐藏在一些看似杂乱无章的数据背后的信息提炼出来,总结出所研究对象的内在规律。在实际工作中,数据分析能够帮助管理者进行判断和决策,以便采取适当策略与行动。
简而言之就是有目的的收集数据、分析数据,使之成为信息的过程。
数据分析过程
1.探索性数据分析
初步获取的数据是非常乱的。通过图表的形式对数据进行整合,找到数据之间存在的关系。
2.模型选定分析
通过探索性数据分析,归纳出一类甚至是多类数据模型,通过对模型再次整合,进一步分析出一定的模型。
3.推断分析
通常使用数理统计方法对所定模型或估计的可靠程度和精确程度作出推断。
数据分析流程
1.识别信息需求
识别信息需求是确保数据分析过程有效性的首要条件,可以为收集数据、分析数据提供清晰的目标。
2.数据采集
数据采集的意义是真正的了解数据的原始面貌,包括数据产生的时间、条件、格式、内容、长度、限制条件等。
这可以帮助数据分析师更加有针对性的控制数据生产和采集过程,避免由于违反数据采集规则导致的数据问题;同时对数据采集逻辑的认识增加了数据分析师对数据的理解程度,尤其是数据中的异常变化。
在数据的采集阶段,数据分析师需要更多的了解数据生产和采集过程中的异常情况,能很大程度上避免“垃圾数据进导致垃圾数据出”的问题。
3.数据存储
在数据存储阶段,数据分析师需要了解数据存储内部的工作机制和流程,最核心的因素是在原始数据基础上经过哪些加工处理,最后得到了怎样的数据。由于数据在存储阶段是不断动态变化和迭代更新的,其及时性、完整性、有效性、一致性、准确性很多时候由于软硬件、内外部环境问题无法保证,这些都会导致后期数据应用问题。
4.数据提取
数据提取就是将数据取出的过程,最核心环节是从哪取、何时取、如何取。
在数据提取阶段,数据分析师必须具备数据提取能力。常用的Select from语句是SQL查询和提取的必备技能,但即使是简单的取数工作也有不同层次。
第一层是从单张数据库中按条件提取数据的能力,where是基本的条件语句;
第二层是掌握跨库表提取数据的能力,不同的join有不同的用法;
第三层是优化SQL语句,通过优化嵌套、筛选的逻辑层次和遍历次数等,减少个人时间浪费和系统资源消耗。
5.数据挖掘
数据挖掘是在面对海量数据时进行数据价值提炼的关键,以下是算法选择的基本原则:
没有最好的算法,只有最适合的算法,算法选择的原则是兼具准确性、可操作性、可理解性、可应用性。
没有一种算法能解决所有问题,但精通一门算法可以解决很多问题。
挖掘算法最难的是算法调优,同一种算法在不同场景下的参数设定相同,实践是获得调优经验的重要途径。
在数据挖掘阶段,数据分析师要掌握数据挖掘相关能力:一是数据挖掘、统计学、数学基本原理和常识;二是熟练使用一门数据挖掘工具,Clementine、SAS或R都是可选项,如果是程序出身也可以选择编程实现;三是需要了解常用的数据挖掘算法以及每种算法的应用场景和优劣差异点。
6.数据分析
数据分析是将收集的数据通过加工、整理和分析、使其转化为信息,通常所用的方法有:
老七种工具分别是:排列图、因果图、分层法、调查表、散步图、直方图、控制图;
新七种工具分别是:关联图、系统图、矩阵图、KJ法、计划评审技术、PDPC法、矩阵数据图;
数据分析相对于数据挖掘更多的是偏向业务应用和解读,当数据挖掘算法得出结论后,如何解释算法在结果、可信度、显著程度等方面对于业务的实际意义,如何将挖掘结果反馈到业务操作过程中便于业务理解和实施是关键。
7.数据可视化
数据分析的业界内有一句非常经典的名言,字不如表,表不如图。别说平常人,就是数据分析师自己看数据也头大。这时就得靠数据可视化的神奇魔力了。除掉数据挖掘这类高级分析,不少的数据分析师平常工作之一就是监控数据观察数据。
8.数据的应用
数据的应用是数据具有使用价值的直接体现,这个过程需要数据分析师具备数据沟通能力、业务推动能力和项目工作能力。
数据沟通能力。深入浅出的数据报告、言简意赅的数据结论更利于业务理解和接受。
业务推动能力。在业务理解数据的基础上,推动业务落地实现数据建议。
项目工作能力。数据项目工作是循序渐进的过程,无论是一个数据分析项目还是数据产品项目,都需要数据分析师具备计划、领导、组织、控制的项目工作能力。
附:数据分析常用方法
1.描述性统计分析
包括样本基本资料的描述,作各变量的次数分配及百分比分析,以了解样本的分布情况。
此外,以平均数和标准差来描述市场导向、竞争优势、组织绩效等各个构面,以了解样本企业的管理人员对这些相关变量的感知,并利用t检验及相关分析对背景变量所造成的影响做检验。
2.Cronbach’a信度系数分析
信度是指测验结果的一致性、稳定性及可靠性,一般多以内部一致性(consistency)来加以表示该测验信度的高低,信度系数愈高即表示该测验的结果愈一致、稳定与可靠。
针对各研究变量的衡量题项进行Cronbach’a信度分析,以了解衡量构面的内部一致性。一般来说,Cronbach’a仅大于0.7为高信度,低于0.35为低信度(Cuieford,1965),0.5为最低可以接受的信度水准(Nunnally,1978)。
3.探索性因素分析(exploratory factor analysis)和验证性因素分析(confirmatory factor analysis)
用以测试各构面衡量题项的聚合效度(convergent validity)与区别效度(discriminant validity),因为仅有信度是不够的,可信度高的测量,可能是完全无效或是某些程度上无效,所以我们必须对效度进行检验。
效度是指工具是否能测出在设计时想测出的结果,收敛效度的检验根据各个项目和所衡量的概念的因素的负荷量来决定,而区别效度的检验是根据检验性因素分析计算理论上相关概念的相关系数,检定相关系数的95%信赖区间是否包含1.0,若不包含1.0,则可确认为具有区别效度(Anderson,1987)。
4.结构方程模型分析(structural equations modeling)
由于结构方程模型结合了因素分析(factor analysis)和路径分析(path analysis),并纳入计量经济学的联立方程式,可同时处理多个因变量,容许自变量和因变量含测量误差,可同时估计因子结构和因子关系,容许更大弹性的测量模型,可估计整个模型的拟合程度(Bollen和Long,1993),因而适用于整体模型的因果关系。
在模型参数的估计上,采用最大似然估计法(Maximum Likelihood,ML);在模型的适合度检验上,以基本的拟合标准(preliminary fit criteria)、整体模型拟合优度(overall model fit)以及模型内在结构拟合优度(fit of internal structure of model)(Bagozzi和Yi,1988)三个方面的各项指标作为判定的标准。
在评价整体模式适配标准方面,本研究采用x2(卡方)/df(自由度)值、拟合优度指数(goodness.of.f:iJt.in.dex,GFI)、平均残差平方根(root—mean.square:residual,RMSR)、近似误差均方根(root-mean—square-error-of-approximation,RMSEA)等指标;模型内在结构拟合优度则参考Bagozzi和Yi(1988)的标准,考察所估计的参数是否都到达显著水平。
为了帮助小伙伴们更好的学习数据分析,技术学派整理了数据分析入门学习的相关视频及学习路线图。
领取方式
关注“技术学派”后,评论转发文章,私信回复:数据分析资料
- ?
大数据分析需要五大基本资源!
水精灵
展开
在网络,移动设备,传感器,社交媒体,交易应用程序,日志文件,大数据等实时数据泛滥的情况下,发现了大量垂直市场应用程序,从诈骗检测到科学研究。无论涉及重大隐私问题或企业困难的挑战如何,仅在2017年,大数据投资就获得超过570亿美元的增长势头。预计未来三年的投资将以约10%的年增长率进行增长。
大数据分析所需的基本资源
大数据咨询已成为软件开发服务提供商的可行选择。无论是营销还是品牌实施的新产品,公司都不会轻易作出决定。当提到任何重大举措时,企业都会寻找他们客户提供的数据,以确保公司正朝着观众遵循的方向发展。
从点击流数据到购物车上的信息,都有大量的材料需要筛选,这就是为什么企业支付高价值的大数据咨询服务才能理解这一切。对于新职业市场的人来说,大数据分析是一个不错的选择。 当然,必须熟悉开始处理数字所需的技能和工具。
大数据分析所需的五个资源如下:
1.完成MATLAB Mastery Bundle
MATLAB或Matrix是一个多范型数字计算空间和编程语言。用外行人的话来说,它是一种工具,它使得编写代码,运行脚本以及执行数据分析和可视化等任务变得轻松易懂,从而解决复杂问题,而这些代码还不那么复杂。
2. Python Power Code BONUS Bundle
市场上有许多重要的编程语言可供选择,数据分析师使用其日常任务和职责中的很多。但是,如果有人要先学习,那就是Python。 Python语言被誉为用户友好型以及直观性。此外,它拥有众多的功能,这使它能够处理数据争夺。 70小时的培训通过展示如何下载,提取,清理,汇总,分析和可视化数据,开始了编程教育。
3.大数据和分析主工具包
数据分析师和高级分析咨询人员使用大量的语言和工具来获取角色,这并不足为奇。这四个模块集合为数据库添加了四个重要的分析工具,即Minitab,SPSS,SAS和R Studio。
4.使用Tableau Desktop 9 Bundle进行数据可视化
通过交互式仪表板分析和呈现数据以完全挖掘信息的主要工具之一是Tableau 9.这个收集将使您了解Tableau。因此,可以开始创建自己的可视化数据。
5.完整介绍R编程包
R的核心是一种统计编程语言,它非常适合挖掘和分析数据。但是,它也具有高级图形和机器学习功能,在数据可视化和集成复杂算法方面提供了一些独特的优势。在五门课程和三本电子书中,收集指导通过要点使用R来充分发挥潜力。
大数据优势
大数据应用程序可让数据科学家,统计人员和其他分析专业人员分析越来越多的结构化数据以及其他形式的数据,而这些数据往往不被传统的商业情报和分析程序所利用。这涵盖了非结构化和半结构化数据的组合,例如互联网点击流数据,网络服务器日志以及来自客户电子邮件的文本,机器数据,社交媒体内容和通过连接的传感器到事物互联网的呼叫细节记录。
在更大的范围内,数据分析技术迎合数据集分析的手段,并最终帮助企业做出充分知情的决策。商业智能查询回答关于业务绩效和操作的基本查询。大数据是一种高级分析,涉及复杂的应用程序元素,如预测模型,统计算法等。
用数据咨询创造新的增长机会
数据分析可以创造大量新的增长机会。此外,它甚至可能会产生一个新的业务类别,例如分析和汇总行业数据的类别。大多数企业将处于大量关于服务和产品,供应商和买家,消费者偏好和意图以及更多信息流的信息中。
各行各业的企业都应该开始大力创造数据功能。除了广泛的数据外,数据的高频率和实时性也是至关重要的。通过数据分析,实践被更广泛地使用。
今天的大数据和分析应用市场真是巨大。世界各地的软件开发服务提供商提供了大量的数据咨询工作。现在,大数据体验意味着更有可能从软件开发组织获得有利可图的工作。市场很大,有一系列的项目,交易,服务和合作关系。咨询服务可能会有所不同,具体取决于组织的特定要求,以及需要利用数据分析和解决方案的功能,这些功能可以简化业务流程。
- ?
十种常用的数据分析方法
漠河
展开
道家强调四个字,叫“道、法、术、器”。
层次区别:
“器”是指物品或工具,在数据分析领域指的就是数据分析的产品或工具,“工欲善其事,必先利其器”;
“术”是指操作技术,是技能的高低、效率的高下,如对分析工具使用的技术(比如用Excel进行数据分析的水平);
“法”是指选择的方法,有句话说“选择比努力重要”;
“道”是指方向,是指导思想,是战略。
在数据分析和产品、运营优化方面,数据分析方法是其核心,属于“法”和“术”的层次。
那么如何做好数据分析呢,今天我们来讲讲互联网运营中的十大数据分析方法。
01 细分分析
细分分析是分析的基础,单一维度下的指标数据的信息价值很低。
细分方法可以分为两类, 一类逐步分析, 比如:来北京市的访客可分为朝阳,海淀等区; 另一类是维度交叉, 如:来自付费SEM的新访客。
细分用于解决所有问题。
比如漏斗转化,实际上就是把转化过程按照步骤进行细分,流量渠道的分析和评估也需要大量用到细分的方法。
02 对比分析
对比分析主要是指将两个相互联系的指标数据进行比较,从数量上展示和说明研究对象的规模大小,水平高低,速度快慢等相对数值, 通过相同维度下的指标对比,可以发现,找出业务在不同阶段的问题。
常见的对比方法包括: 时间对比,空间对比,标准对比。
时间对比有三种: 同比,环比,定基比。
例如: 本周和上周进行对比就是环比;本月第一周和上月第一周对比就是同比;所有数据同今年的第一周对比则为定基比。通过三种方式,可以分析业务增长水平,速度等信息。
03 漏斗分析
转化漏斗分析是业务分析的基本模型, 最常见的是把最终的转化设置为某种目的的实现,最典型的就是完成交易。但也可以是其他任何目的的实现,比如一次使用app的时间超过10分钟。
漏斗帮助我们解决两方面的问题:
在一个过程中是否发生泄漏,如果有泄漏,我们能在漏斗中看到,并且能够通过进一步的分析堵住这个泄漏点。
在一个过程中是否出现了其他不应该出现的过程,造成转化主进程收到损害。
04 同期群分析
同期群(cohort)分析在数据运营领域十分重要,互联网运营特别需要仔细洞察留存情况。 通过对性质完全一样的可对比群体的留存情况的比较,来分析哪些因素影响用户的留存。
同期群分析深受欢迎的重要原因是十分简单,但却十分直观。 同期群只用简单的一个图表,直接描述了用户在一段时间周期(甚至是整个LTV)的留存或流失变化情况。
以前留存分析只要用户有回访即定义为留存,这会导致留存指标虚高。
05 聚类分析
聚类分析具有简单,直观的特征, 网站分析中的聚类主要分为:用户,页面或内容,来源。
用户聚类主要体现为用户分群,用户标签法;页面聚类则主要是相似,相关页面分组法;来源聚类主要包括渠道,关键词等。
例如: 在页面分析中,经常存在带?参数的页面。 比如: 资讯详情页面,商品页面等,都属于同一类页面。简单的分析容易造成跳出率,退出率等指标不准确的问题,通过聚类分析可以获取同类页面的准确数据用于分析场景。
06 AB测试
增长黑客的一个主要思想之一,是不要做一个大而全的东西,而是不断做出能够快速验证的小而精的东西。 快速验证,那如何验证呢?主要方法就是AB测试。
比如: 你发现漏斗转化中中间有漏洞,假设一定是商品价格问题导致了流失,你看到了问题-漏斗,也想出了主意-改变定价。但主意是否正确,要看真实的用户反应,于是采用AB测试,一部分用户还是看到老价格,一部分用户看到新价格,若你的主意真的管用,新价格就应该有更好的转化,若真如此,新价格就应该确定下来,如此反复优化。
07 埋点分析
只有采集了足够的基础数据,才能通过各种分析方法得到需要的分析结果。
通过分析用户行为,并细分为:浏览行为,轻度交互,重度交互,交易行为,对于浏览行为和轻度交互行为的点击按钮等事件,因其使用频繁,数据简单,采用无埋点技术实现自助埋点,即可以提高数据分析的实效性,需要的数据可立即提取,又大量减少技术人员的工作量,需要采集更丰富信息的行为。
如: 重度交互(注册,邀请好友等)和交易事件(加购物车,下订单等)则通过SDK批量埋点的方式来实施。
08 来源分析
流量红利消失,我们对获客来源的重视度极高,如何有效的标注用户来源,至关重要。
传统分析工具,渠道分析仅有单一维度,要深入分析不同渠道不同阶段效果,SEM付费搜索等来源渠道和用户所在地区进行交叉分析,得出不同区域的获客详细信息,维度越细,分析结果也越有价值。
09 用户分析
用户分析是互联网运营的核心, 常用的分析方法包括:活跃分析,留存分析,用户分群,用户画像,用户细查等。
可将用户活跃细分为浏览活跃,互动活跃,交易活跃等,通过活跃行为的细分,掌握关键行为指标;通过用户行为事件序列,用户属性进行分群,观察分群用户的访问,浏览,注册,互动,交易等行为,从而真正把握不同用户类型的特点,提供有针对性的产品和服务。
用户画像基于自动标签系统将用户完整的画像描绘清晰,更有力的支撑运营决策。
10 表单分析
填写表单是每个平台与用户交互的必备环节,优秀的表单设计,对转化率的提升起到重要作用。
用户从进入表单页面之时起,就产生了微漏斗,从进入总人数到最终完成并成功提交表单人数,这个过程之中,有多少人开始填写表单,填写表单时,遇到了什么困难导致无法完成表单,都影响最终的转化效果。
以上是常见的数据分析方法,更多应用方法需要根据业务场景灵活应用。
基础数据分析
-
1、只需3秒快速实现求和
-
2、如何快速填充序号
-
3、如何自动填充序号(公式法)
-
4、数据条的神奇应用
-
5、多文本快速合并
-
6、查找与替换的不同玩法
-
7、快速定位到指定区域
-
8、数据排序、工资条制作
-
9、快速筛选(模糊、精确筛选)
-
10、快速插入空行
-
11、快速删除空行
-
12.快速跳转到天涯海角
-
13、.同时查看两个Excel文件
-
14、用条件格式扮靓报表
-
15、一键插入Excel图表
-
16、批量处理行高、列宽
-
17、利用拆分功能查看数据
-
18、批量录入相同内容
-
19、工作表快速跳转
-
20、批量录入表格模板(精品课程)
-
21、Excel函数与公式的应用、公式循环引用的查找
-
22、IF函数单条件判断同比增长
-
23、用sum函数 格式相同,连续多表数据汇总
-
24、excel快捷键
-
25、VLOOKUP函数——根据销售员匹配销售额
-
26、统计各部门销售总额
-
27、统计指定条件个数
-
28、怎样输入当前日期和时间、星期数
-
29、销售业绩排名
-
30、Sumproduct函数-万能函数(销售额汇总求和)
-
31、根据销售员,地区,商品名称汇总
-
32、批量替换PPT字体
-
33、给销售额数据批量添加万元单位
-
34、一秒快速核对两列数据
-
35、快速定位到指定单元格或区域
-
36、快速制作双行标题工资条
-
37、给你的表格做个瘦身
-
38、快速打开常用的Excel文件
-
39、快速打开多个Excel文件
-
40、利用创建组—快速隐藏/展开多列数据
-
41、快速制作下拉菜单
-
42、复制粘贴表格,如何保留数据源列宽格式一致?
-
43、两列数据位置互换
-
44、1秒钟扮靓报表——如何实现表格隔行换色
-
45、快速删除重复记录——保留唯一值
-
46、快速向下填充、向右填充,文本或公式
-
47、给Excel文件添加密码
-
48、插入带图片的批注
-
49、输入公式后不计算?
-
50、如何设置单元格缩进
-
51、快速解决Excel表格总显示货币格式
-
52、批量添加万元单位
-
53、你会四舍五入么?
-
54、用RAND函数机选彩票
-
55、冻结首行你会么?
-
56、超链接的高级应用
-
57、IFERROR函数-屏蔽错误值
-
58、批量填充颜色
-
59、录入数据
-
60、快速输入工号
-
61、快速行列转置
-
62、自定义缩放界面
-
63、多个单元格同时输入
-
64、如何计算立方米?
-
65、快速制作双行标题工资条
-
66、输入带方框的√和×
-
67、快速将姓名对齐
-
68、快速输入性别
-
69、按单位职务排序
-
70、自动计算合同到期日期
-
71、计算时间间隔
-
72、日期和时间的拆分
-
73、快速处理不规范的日期格式
-
74、快速填充合并单元格
-
75、效率加倍的快捷键
-
76、快速复制表格和对象
-
77、快速创建工作表副本
-
78、快速复制序列号
-
79、快速显示公式
-
80、多个单元格同时输入
-
81、快速调整显示比例
-
82、快速自动填充
-
83、快速填充(Ctrl+E)
-
84、Ctrl与数字键结合
-
85、快速将多列数据整理为1列
-
86、快速将1列数据拆分为多列
-
87、快速定位公式
-
88、快速录入数据
-
89、快速累计求和
-
90、身份证号码显示为0怎么办?
-
91、快速制作斜线表头
-
92、文本竖向显示
-
93、神奇的监视窗口
-
94、不一样的格式刷
-
95、快速美化图表
-
96、快速生成当前日期
-
97、快速找出循环引用
-
98、快速提取信息
-
99、二维表快速转换为一维表
-
100、快速多表合并