- ?
您所理解的数据分析是怎样的呢?是否如同他一般?
空城
展开
昨晚看了《谁说菜鸟不会数据分析》入门篇的第一章。主要介绍了什么是数据分析,以及数据分析的整个流程。下面呢,就给大家说说数据分析的定义,以及数据分析的步骤流程。
该书对于数据分析的定义跟百度百科相差无几。
“数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,提取有用信息和形成结论而对数据加以详细研究和概括总结的过程,最终的目的帮助人们作出判断,以便采取适当行动。”
数据分析数据分析的整个流程主要包括了6个部分(以分析百度竞价近一个月的转化为例)
1、确定分析的目的以及分析思路。目的是分析近一个月百度的竞价效果怎么样。分析思路先看一下近一个月的展现量,点击量,消费额,转化量,转化成本。然后于上个月的数据做一个对比。
2、收集相关的数据。数据收集的来源主要是从百度竞价后台的提取,百度统计的相关数据,以及百度商桥的咨询量的数据。
3、数据的处理。对展现,点击,消费,咨询量,转化成本进行简单的汇总。与上个月的数据进行对比。
4、分析数据。与上个月对比,这个月的咨询量的是增加了还是减少了,转化的成本是降还是升。咨询量增减的原因是什么.转化成本提高或是降低的原因又是什么,得出一个结论。
5、数据的展现。数据的展现,一般来说要么的表格,要么是一些图标如柱状图,饼状图,折线图等等,使用的标准是怎么样让别人能够清晰明了的看懂。
6、形成数据分析报告。最后就是完成一份完整的数据分析报告。
以上就是今天的分享,有点糙,后续会把数据分析的每个步骤详尽地大家说的。这篇文章只是让大家对于数据分析有个大致的了解。
数据分析流程 - ?
干货丨收集最全的数据分析图
楼以筠
展开
来自:数据观 https://shujuguan
DT时代,我们每天都会收获来自各种渠道的海量数据,它们是对我们上一步行动的反馈,但人脑消化数据的能力却是有限的——如何及时洞察数据中的涵义,就需要数据可视化工具的帮助了。然而,图表的类型非常丰富,如何做出正确的选择,达到“一图胜千言”的效果呢?
[数据的五种关系]
首先,我们需要了解,数据通常包含五种相关关系:构成、比较、趋势、分布及联系。
构成
主要关注每个部分所占整体的百分比,如果你想表达的信息包括:“份额”、“百分比”以及“预计将达到百分之多少”,这时候可以用到饼图。
比较
可以展示事物的排列顺序——是差不多,还是一个比另一个更多或更少呢?“大于”、“小于”或者“大致相当”都是比较相对关系中的关键词,这时候会首选条图。
趋势
是最常见的一种时间序列关系,关心数据如何随着时间变化而变化,每周、每月、每年的变化趋势是增长、减少、上下波动或基本不变,这时候使用线图更好地表现指标随时间呈现的趋势。
分布
是关心各数值范围内各包含了多少项目,典型的信息会包含:“集中”、“频率”与“分布”等,这时候使用柱图;同时,还可以根据地理位置数据,通过地图展示不同分布特征。
联系
主要查看两个变量之间是否表达出我们预期所要证明的模式关系,比如预期销售额可能随着折扣幅度的增长而增长,这时候可以用气泡图来展示,用于表达“与……有关”、“随……而增长”、“随……而不同”变量间的关系。
对信息中包含的5种关系,可以简单归纳如下:
构成:占总体的百分比
比较:项目的排名
趋势:如何随着时间变化
分布:项目的频率情况
联系:变量之间的关系
[图表的具体适用场景]
下面,我们具体来看一下图表特点及适用场景:
以下图表均制作于数据观
条图
条图表达比较关系,按照强调的方式可以排列任何顺序,适用于高亮Top3或Top5数据,如在零售行业中统计畅销品的销售情况就是很好的应用。它是最通用的一种图表,应在所有的图集使用中占到25%。
柱图
柱图用高度反映数据差异,用来展示有多少项目(频率)会落入一个具有一定特征的数据段中,比如分析公司人员构成是否存在老龄化现象,可以通过柱图看到25岁以下的员工有多少,25岁到35岁之间员工有多少等这种年龄的分布情况。同时,柱图还可以用来表示含有较少数据值的趋势变化关系。
分析图形有单指标柱图、多指标柱图以及堆叠柱图类型。
(1)、单指标柱图
(2)、多指标柱图
(3)、堆叠柱图
线图
线图可用来反映随时间变化而变化的关系,尤其是在趋势比单个数据点更重要的场合。
在柱图与线图的选择过程中,可以考虑数据的本质。柱图强调的是数量的级别,它更适合于表现在一小段时间里发生的事件,产量的数据很适合这个领域。线图强调的是角度的运动及图像的变换,因此展示数据的发展趋势时最好使用它,存货量就是一个很好的例子。柱图和线图的使用应占到图集看板的50%左右。
线图类型中可以有单线图,还可以在图中进行多指标趋势性比较。
(1)、单线图
(2)、多指标趋势性比较
饼图
构成比例关系时,最好使用饼图,给人一种整体的形象,可以展示每一部分所占全部的百分比,比如产品A预计销售额占到所有产品销售额的最大份额。
为了使饼图尽量发挥作用,在使用中不宜多于6种成分。人的眼睛比较习惯于按顺时针方向进行观察,所以应该讲最重要的部分放在紧靠12点钟的位置,如果没有哪一个部分比其他部分更加重要,那么就应该考虑让它们从大到小的顺序排列。
数据观除了有标准饼图,还提供中空饼图和环形饼图两种类型。
(1)、标准饼图
(2)、中空饼图
(3)、环形饼图
Attention!不适用饼图的情况
饼图是通过面积呈现数据的变化,当各指标所占比例接近时,无法直观的判断面积的大小,此时选择条图来呈现,规律就更加清晰。饼图是应最少使用的图表,在所有的陈述和报告中其使用率应少于5%。
错误的图表类型:
正确的图表类型:
气泡图
气泡图判断两个变量之间是否存在某种关系,可反映五维数据。每个气泡的不同颜色或标签,以及气泡点大小,都可以反映一个维度。一般使用率为10%。
KPI图
最直接显示结果,适用于高亮关注指标值或者差异,可以通过主要指标和次要指标进行体现。信息量避免过多,越直观越好。
面积图
与折线图较为类似,面积图强调变量随时间而变化的程度,也可用于引起人们对总值趋势的注意。用填充了颜色或图案的面积来显示数据,面积片数不宜超过5片。
漏斗图
漏斗图用来表示逐层分析的过程,从一个总值(最顶端),不断除去不关心的部分,最终得到关心的值的过程。
多用于业务流程比较规范、周期长、环节多的流程分析,通过比较各个环节宽窄大小,能够直观地发现和说明问题所在。常见应用场景:电商网站、营销推广、CRM等。
1)电商网站:通过转化率比较能充分展示用户从进入网站到实现购买的最终转化率。2)营销推广:反映搜索营销的各个环节的转化,从展现、点击、访问、咨询,直到生成订单过程中的客户数量及流失。
3)CRM:销售漏斗图用来展示客户各个阶段转化比较。
金字塔图
金字塔图用于展示类似金字塔的层级结构和数据量。例如某个国家的收入分配,金字塔顶部显示高收入类别,逐渐降低到代表低收入的底部。
雷达图
雷达图可以用来表现一个周期数值的变化,也可以用来表现特定对象主要参数的相对关系。
雷达图多用于在财务分析中,用来分析企业负债能力、运营能力、盈利和发展能力等指标。
地图
地图是信息密度最大的数据可视化方式,人们在日常生活中就使用地图,所以能直观理解地图。
数据观基于不同的视觉化原理提供三种地图:区域地图、散点地图和热力地图。
(1)、区域地图
区域地图是按照国家、省市行政区划分,用来展现地理信息,以及与地理位置有关的信息,指标的多少可以用颜色深浅区分。
(2)、散点地图
散点地图基于高德地图实现,通过定位经纬度,用散点来表示所在位置的信息指标。
(3)、热力地图
热力地图以特殊高亮的形式显示访客所在的地理区域的图示,不同颜色反映不同区域密度的分布。
表格
表格可以通过拖拽所关心的指标,如通过一级、二级分类,了解更加明细的数据,起到数据透视表功能。
综合使用
饼图、柱图、条图、线图、气泡图可以组成可视化报告90%图形,其他视觉化展示可以将图表组合起来综合使用。
以上就是为大家提供的图表基本使用原则,适用于日常工作中大多数的图表制作。
最后,希望大家都可以需要根据自己想要表达的信息选择合适的图表,让数据可视化帮助我们的大脑减负,替我们的数据说话。
- ?
Excel|数据分析和展示数据分析结果的标准格式与制表习惯
莫凝珍
展开
1 用于展示数据分析结果的表格
以下是同样的数据、不同的格式所展示出的数据可读性:
很明显,第二份表格更具有可读性,显得一目了然,而不是杂乱无章。
是怎么做到的呢?
1.1 行高设为“18”(字体“11”保持默认);
1.2 数字字体设为Arial;
1.3 项目下的细项进行了缩排(缩进栏宽设为“1”);
1.4 数字列调整为相同宽度,其他列视内容调整宽度。且在上、下、左、右都有空白;
1.5 表格框线:上下粗,其余细或虚,保留横线,去掉竖线,具不显示网格线;
1.6 文字靠左对齐,数字靠右对齐;
1.7 善用背景色凸显重点;
1.8 一列数据尽量不要包括复合的内容,如将“单位”放到单独的列。
2 内容按手动输入、引用、公式区分字体颜色
举例
字体颜色
手动输入的数字
50
黑色
计算公式的数字
=A1+A2
绿色
引用其它工作表的内容
=Sheet3!A1
蓝色
如:
3 用于进行数据分析的事务性数据
具体内容请见《Excel技巧 | 高效的数据分析需要良好的制表习惯》。
- ?
大数据标准化现状与发展思路研究:产业发展视角
申屠莹
展开
摘要
随着信息技术和经济社会的融合发展,数据已成为国家基础性战略资源,大数据对推动创新创业、转型升级,提升国家治理能力的作用日益显著。本文结合大数据研究现状,分析了国内外各标准组织开展的大数据标准化工作的情况和进展,在对比分析基础上剖析了我国大数据标准化研究工作所存在的主要问题。结合上述问题从大数据产业发展的角度,提出了未来我国大数据标准化发展的思路和建议。
关键词:大数据,大数据标准化,大数据产业
1引言
从2012年大数据元年到如今,大数据(Big Data)作为一场遍及学界和业界的技术革命,悄然改变着我们的学习、生活和思维方式。尽管业界对大数据并未给出一个统一的定义,但对于大数据的基本特征已经能取得广泛的共识,Yuri Demchenko等在大数据4V特征的基础上提出了5V的观点,即数据体量巨大(Volume)、数据种类繁多(Variety)、数据时效性强(Velocity)、数据价值密度低(Value)和数据真实性(Veracity)。在大数据及与大数据相关的数据挖掘、机器学习、人工智能等领域,目前已积累了丰富的实践和研究成果。当前,大数据发展不再局限于某一或者某几个学科领域,而是成为跨越计算机科学、数学、统计学、经济学和工程学等众多学科的交叉领域。大数据的5V特征使得对于数量巨大、高维和非结构化的数据进行采集、清洗、分析、呈现、存储等都带来较大的困难,数据规模的质变带来的问题迫切需要相应的技术标准予以指导和规范。业内认为大数据代表着数据作为一种资源在日常经济实践中扮演的重要角色,与其相关的环境包括技术、产业和政策等会交互影响,以数据采集存储、加工分析、数据服务等为主的大数据产业也逐渐成为信息技术产业中一个主要经济增长点。
根据互联网数据中心(IDC)统计和预测,2016全球大数据市场规模年增长率达40%,在2017年将达530亿美元。我国信息产业在“十二五”期间积累的信息资源、技术创新和应用突破等优势为“十三五” 时期我国大数据产业进一步发展奠定了扎实的基础。从数据资源到产业体系,目前我国大数据产业发展已具备良好的基础,但也存在像技术创新不强与产业支撑体系较弱等问题。如何加快大数据标准化研究工作,充分发挥大数据标准化对于大数据产业发展支撑能力,是当前需要解决的重要现实问题。本文在分析国内外大数据标准化研究工作的基础上,对比国内外大数据标准化发展特征,总结出我国目前大数据标准化发展的3个特征,从标准对产业的支撑作用的角度对我国大数据标准化研究工作提出一些建议与展望。
2 大数据标准化研究现状
随着大数据相关技术的发展与应用,国内外众多标准化组织启动了大数据标准的研究和制定工作, ISO、IEC、ITU等国际标准化组织,美国国家标准与技术研究院(NIST)、我国信息技术标准化技术委员会(TC 28)等组织相继建立了标准化工作组并开展相关工作。截至目前,各标准化组织已经出台了一系列大数据标准,取得了明显的进展。但就大数据整体技术体系和发展规模而言,当前大数据标准化研究仍处于起步阶段,与产业发展水平和需求仍不相称。本文就以上各标准化组织关于大数据标准化研究历程和目前取得的一些成果进行一个简单的梳理,旨在厘清当前大数据标准化研究现状。
2.1 国外大数据标准化研究现状
2.1.1 国际标准化组织大数据标准化研究现状
ISO和IEC大数据标准化研究工作主要由其联合技术委员会——JTC1负责,包括ISO/IEC JTC1 WG9工作组和ISO/IEC JTC1 SC32分技术委员会。
ISO/ IEC J TC1 WG9工作组是于2014年11月成立的大数据工作组,主要负责研制包括参考架构和术语在内的基础性大数据标准;对潜在的大数据标准化需求进行识别和认定;保持和大数据相关的JTC1其他工作组之间的联系等。ISO/IEC JTC1 WG9的最近一次会议于2016年10月12日在北京召开,会议讨论了过去两年来WG9工作组一直在研制的大数据标准:ISO/IEC TR20547-1《信息技术-大数据参考架构-第1部分:框架和应用过程》、ISO/IEC TR 20547-2《信息技术-大数据参考架构-第2部分:用例和派生要求》、ISO/IEC TR20547-3《信息技术-大数据参考架构-第3部分:参考架构》、ISO/IEC TR 20547-5《信息技术-大数据参考架构-第5部分:标准路线图》,并决定这4个部分标准的研制进度,其中第2部分将于2017年6月发布。
ISO/IEC JTC1 SC32是数据管理和交换工作分技术委员会,是与大数据最为密切相关的标准化组织。该分技术委员会致力于研究信息技术系统下的数据管理和交换标准,以期协调不同行业之间数据交换。ISO/IEC JTC1 SC32主要研究的大数据标准内容包括:对现有数据标准和新制定的标准框架进行协调;研究用于持久性数据存储、并发式数据访问和交互式数据协议等标准;用于元数据构造和注册及各类信息资源交互方法、语言服务和协议等标准。SC32下包括4个工作组:WG1电子业务、WG2元数据、WG3数据库语言和WG4 SQL多媒体和应用包。
ITU曾在2013年11月发布了有关大数据的技术观察报告,该报告对彼时尚未新兴的有关大数据应用案例进行了剖析,对大数据的基本特征和大数据应用技术进行了深度的解释,并对大数据可能面临的挑战以及ITU-T要开展的标准化工作进行了初步的说明。ITU-T认为大数据面临的最大挑战在于数据保护、隐私和网络安全,以及相关法律法规的制定等问题。ITU-T目前开展的标准化工作包括大数据网络基础设施;网络数据抓取、挖掘和分析标准;开放数据标准等。其大数据标准化工作主要由SG13(第13 研究组)负责展开,下设Q2(第2课题组)、Q17(第17 课题组)和Q18(第18课题组)3个课题组,其中Q2主要研究“物联网大数据的能力需求”,已于2016年6月完成报批;Q17的主要研究课题为“基于云计算的大数据需求和能力”,该课题相关的标准已于2015年8月发布;Q18涉及的研究课题为“大数据即业务的功能架构”,相关的标准研制也于2016年10月报批。3个课题组以Q17牵头开展大数据标准化研究工作并负责向TSAG(电信标准化咨询委员会)汇报。
2.1.2 国外主要国家大数据标准化研究现状
NIST(美国国家标准与技术研究院)针对大数据标准化工作成立了大数据公共工作组(N BD - PWG),其工作宗旨是将业界、学界和政府在有关大数据定义、术语、安全参考体系结构和技术路线图的内容上形成一致性意见。工作组认为大数据技术在当前和未来应用中应满足互操作、可移植性、可用性和扩展性需求等要求。该工作组目前共有5个分组,分别是术语和定义、用例和需求、安全与隐私、参考体系结构和技术路线图,截至2016年底工作组已完成《大数据定义》《大数据分类》《大数据用例和需求》《大数据安全和隐私需求》《大数据参考架构调研白皮书》《大数据参考架构》和《大数据技术路线图》等输出物V2.0版本。
英国政府早在2011年就发布了大数据研究战略决策,其后又成立了世界上首个非盈利性质的开放数据协会(Open Data Institude,ODI),在加快英国大数据开放和释放商业潜力等方面效果显著。但在大数据标准研究方面,BSI(英国标准协会)近两年才逐渐重视大数据标准研究工作,BSI认为目前英国已有超过35000条由BSI制定的标准,但与大数据及信息技术相关的标准则少之又少。在2016年上半年发布的研究报告中,BSI从6个方面对大数据潜在标准进行了归纳和研究,包括大数据指导标准、元数据标准、术语和条件标准、消费者数据管理标准、大数据交流标准以及大数据的制定标准等。
日本曾在2013年由安倍政府颁布“创建最尖端IT国家”战略,认为在2020年前日本信息产业都将以大数据为核心。在大数据标准方面,日本并未有专门机构来研究,日本政府在2013年底首次制定大数据相关标准,对大数据搜集和相关隐私规范进行了界定,后来又有日本大数据科学家资格标准,但就整体而言,日本目前尚未形成大数据标准体系。
2.2 国内大数据标准化研究现状
在大数据浪潮下,我国大数据标准化研究工作在工信部和国标委的支持下也得以快速展开。2014年2月,全国信息技术标准化技术委员会(TC28)成立大数据标准工作组,主要负责研制我国大数据领域的标准体系,对大数据相关技术标准展开研究。国务院在2015年8月发布的《促进大数据发展行动纲要》明确指出要“建立标准规范体系,推进大数据产业标准体系建设,加快建立政府部门、事业单位等公共机构的数据标准和统计标准体系,推进数据采集、政府数据开放、指标口径、分类目录、交换接口、数据质量、数据交易、技术产品、安全保密等关键共性标准的制定和实施。加快建立大数据市场交易标准体系。开展标准验证和应用试点示范,建立标准符合性评估体系,充分发挥标准在培育服务市场、提升服务能力、支撑行业管理等方面的作用。积极参与相关国际标准制定工作”。为了加快大数据相关标准的研制,信标委大数据标准工作组于2015年7月成立7个研究专题组:总体专题组、国际专题组、技术专题组、产品和平台专题组、安全专题组、工业大数据专题组、电子商务大数据专题组,以此来研究大数据领域不同方向的标准化工作。截至2016年底,除去申请立项的大数据标准,工作组在研的国家标准名称和进展见表1。
中国电子技术标准化研究院联合信标委于2014 年7月发布了《大数据标准化白皮书V1.0》,并于2015年12月和2 016年5月发布了《大数据标准化白皮书V2.0》和《大数据标准化白皮书(2016)》版本,对当前大数据的基本概念、特征与作用、发展现状与趋势分析、大数据关键技术、大数据标准化现状、大数据标准体系和我国今后一段时间内大数据工作重点的一些建议进行了详细且全面的阐述,这是我国大数据标准化工作的一个里程碑事件。
作为通信行业的标准化研究组织和管理单位,中国通信标准化协会(CCSA)近年来也相继开展了大数据标准化研究工作,目前CCSA在研的11个大数据标准化项目涉及大数据需求架构、大数据可视化技术、大数据环境下数据质量要求与数据质量评估方法,以及电信互联网大数据开放平台标准化研究等方面。
2.3 国内外大数据标准化研究对比
从上述两节可以看出,随着大数据技术发展逐渐成熟,大数据标准化研究工作已有加速发展之势。就总体而言,尽管国内外研究程度不一,但大数据标准化研究工作仍处于起步阶段,而且这个阶段会随着大数据技术的持续创新而长期存在。大数据标准从本质上而言是一种技术标准,技术标准的一个重要特征是其成功与否很大程度上取决于技术与市场对该领域的双重影响。大数据标准作为一种需求导向型标准,技术与市场的内在驱动是其不断发展与完善的动力,目前大数据标准化研究工作正是因此而不断发展。技术标准在成为市场事实标准的过程中,通常会经过研发阶段、产业化阶段和市场化阶段[6],当前大数据标准仍然处于大数据技术标准研发阶段,且大数据标准化工作与大数据处理技术耦合度较低,数据开放共享程度低,进一步推动大数据标准与技术的融合是未来发展需要面对的一个关键问题。
就国内大数据标准化研究现状而言,目前我国在该领域研究特征表现为在宏观体系架构上已有显著进展,如:信标委提出的大数据标准体系为整个大数据标准化工作指明了方向,但在具体某个大数据技术分支领域的标准上,我国目前的研究尚不充分。从《大数据标准化白皮书(2016版)》中整理出的目前已发布、已报批、已立项、在研以及拟研制的99项大数据相关的国家标准进行分类别统计,统计结果显示目前已立项、拟研制和在研的大数据相关标准有69项,总比例近70%(见表2),分布在大数据标准体系的各个子类别中。可见我国大数据标准化研究工作虽有整体框架,但具体研究工作仍然总体处于研究阶段。而国外标准化组织在进行大数据标准化研究时,更侧重于对具体标准的研制工作,这一点可以从ISO/IEC JTC1 SC32和ITU-T对于不同大数据领域分为不同的工作组和课题组进行标准研究看出。
最后,我国大数据标准对产业的支撑能力相较于欧美国家弱,标准研究与产业应用还有较大差距。ITU-T和NIST都较早就形成了大数据标准化工作机制,在大数据基础标准、技术体系和核心架构上早已研制出一批能够对本国大数据产业有足够支撑力的大数据标准,大数据技术研发实验室、大数据产业创新平台和产业联盟等大数据产业支撑平台也逐渐完善,且大数据标准和产业平台之间存在较强的互动关系。反观我国现状,一方面大数据标准自身相对不成熟,另一方面标准制定和产业发展之间的关联性也较弱,因而总体上大数据标准对产业发展的支撑力不强。我们根据相关产业联盟工作范围和应用中涉及标准的多少来定义标准参与程度,表3列出了我国部分大数据产业联盟标准参与程度信息,可以看出目前国内各大数据产业联盟的标准参与程度总体偏低, 足以证明我国大数据标准对产业的支撑力较弱。
3 产业视角下我国大数据标准发展思路与建议
目前,我国大数据产业正处于高速发展期,不同种类的商业...
- ?
数据分析中的六原则三避免
凌念寒
展开
为什么你的数据分析成果总是难以落地?数据分析的价值总是远远低于预期?
01 遵循数据分析标准流程
数据分析遵循一定的流程,不仅可以保证数据分析每一个阶段的工作内容有章可循,而且还可以让分析最终的结果更加准确,更加有说服力。一般情况下,数据分析分为以下几个步骤:
1)业务理解,确定目标、明确分析需求;
2)数据理解,收集原始数据、描述数据、探索数据、检验数据质量;
3)数据准备,选择数据、清洗数据、构造数据、整合数据、格式化数据;
4)建立模型,选择建模技术、参数调优、生成测试计划、构建模型;
5)评估模型,对模型进行较为全面的评价,评价结果、重审过程;
6)成果部署,分析结果应用。
02 明确数据分析目标
在数据分析前期,要做到充分沟通、理解业务规则、关注业务痛点、了解用户需求、换位思考,明确为什么要做数据分析,要达到一个什么目标。
03 业务与数据结合确定分析主题
以解决业务问题为目标,以数据现状为基础,确定分析主题。前期要做好充分的准备,以业务问题为导向,以业务梳理为重点,进行多轮讨论,分析主题避免过大,针对业务痛点,实现知现状、明原因、可预测、有价值。
04 多种分析方法结合
分析过程中尽量运用多种分析方法,以提高分析的准确性和可靠性。例如,运用定性定量相结合的分析方法对于数据进行分析;融合交互式自助BI、数据挖掘、自然语言处理等多种分析方法;高级分析和可视化分析相结合等。
05 选择合适的分析工具
工欲善其事,必先利其器,数据分析过程中要选择合适的分析工具做分析。SPSS、Rapidminer、R、Python等这几种工具都是业界比较认可的数据分析产品。
它们各有其优势,SPSS 较早进入国内市场,发展已经相对成熟,有大量参考书可供参考,操作上容易上手,简单易学。Rapidminer 易用性和用户体验做得很好,并且内置了很多案例用户可直接替换数据源去使用。R 是开源免费的,具有良好的扩展性和丰富的资源,涵盖了多种行业中数据分析的几乎所有方法,分析数据更灵活。Python,有各种各样功能强大的库,做数据处理很方便。
06 分析结论尽量图表化
经过严谨推导得出的结论,首先要精简明确,3-5条即可。其次要与业务问题结合,给出解决方案或建议方案。第三尽量图表化,要增强其可读性。
数据分析过程中,除了以上六条原则,还要避免以下3种情况:
1)时间安排不合理
在开始分析工作之前,一定要做一个明确的进度计划,时间分配的原则是:数据收集、整理及建模占70%,数据可视化展现及分析报告占25%,其他占5%。
2)数据源选择不合理
一般企业中的数据来源有很多,SAP、TMS、CRM及各部门业务系统,每个渠道的数据各有特点。这时,应该慎重考虑从哪个渠道获取数据更加快捷有效。数据源选择不合理,不仅影响结论的可靠性,而且有返工的风险。
3)沟通不充分
无论是分析人员内部的沟通还是与外部相关人员的沟通,都是至关重要的。与外部人员沟通效不顺畅,可能造成前期需求不清,中间业务逻辑混乱,最终导致数据分析结果差强人意。与内部人员沟通效率低,可能造成分析进度滞后,分析工作开展不畅等诸多问题,直接影响分析效果。
对于数据分析师,分析经验的积累与专业知识的提升同样重要,因为有些问题不是只用专业知识就能解决的,所以在平时的工作中要有意识的去学习业务知识、掌握先进的分析工具,做一个有心人! |内容来源:大数据
百家号-【袁帅数据分析运营】运营者:袁帅,互联网数据分析运营实践者,新社汇联合创始人。会展业信息化、数字化领域专家。认证数据分析师、网络营销师、SEM搜索引擎营销师、SEO工程师、电子商务职业经理人。
- ?
[机器学习] 数据特征 标准化和归一化你了解多少?
爱眉a
展开
一、标准化/归一化定义
归一化和标准化经常被搞混,程度还比较严重,非常干扰大家的理解。为了方便后续的讨论,必须先明确二者的定义。
归一化就是将训练集中某一列数值特征(假设是第i列)的值缩放到0和1之间。方法如下所示:
标准化就是将训练集中某一列数值特征(假设是第i列)的值缩放成均值为0,方差为1的状态。如下所示:
进一步明确二者含义归一化和标准化的相同点都是对某个特征(column)进行缩放(scaling)而不是对某个样本的特征向量(row)进行缩放。对特征向量进行缩放是毫无意义的(暗坑1) 比如三列特征:身高、体重、血压。每一条样本(row)就是三个这样的值,对这个row无论是进行标准化还是归一化都是好笑的,因为你不能将身高、体重和血压混到一起去!在线性代数中,将一个向量除以向量的长度,也被称为标准化,不过这里的标准化是将向量变为长度为1的单位向量,它和我们这里的标准化不是一回事儿,不要搞混哦(暗坑2)。
二、标准化/归一化的好处
2.1 提升模型精度
在机器学习算法的目标函数(例如SVM的RBF内核或线性模型的l1和l2正则化),许多学习算法中目标函数的基础都是假设所有的特征都是零均值并且具有同一阶数上的方差。如果某个特征的方差比其他特征大几个数量级,那么它就会在学习算法中占据主导位置,导致学习器并不能像我们说期望的那样,从其他特征中学习。
举一个简单的例子,在KNN中,我们需要计算待分类点与所有实例点的距离。假设每个实例点(instance)由n个features构成。如果我们选用的距离度量为欧式距离,如果数据预先没有经过归一化,那么那些绝对值大的features在欧式距离计算的时候起了决定性作用。
从经验上说,归一化是让不同维度之间的特征在数值上有一定比较性,可以大大提高分类器的准确性。
2.2 提升收敛速度
对于线性model来说,数据归一化后,最优解的寻优过程明显会变得平缓,更容易正确的收敛到最优解。
比较这两个图,前者是没有经过归一化的,在梯度下降的过程中,走的路径更加的曲折,而第二个图明显路径更加平缓,收敛速度更快。 对于神经网络模型,避免饱和是一个需要考虑的因素,通常参数的选择决定于input数据的大小范围。
三、标准化/归一化的对比分析
首先明确,在机器学习中,标准化是更常用的手段,归一化的应用场景是有限的。我总结原因有两点:
1、标准化更好保持了样本间距。当样本中有异常点时,归一化有可能将正常的样本“挤”到一起去。比如三个样本,某个特征的值为1,2,10000,假设10000这个值是异常值,用归一化的方法后,正常的1,2就会被“挤”到一起去。如果不幸的是1和2的分类标签还是相反的,那么,当我们用梯度下降来做分类模型训练时,模型会需要更长的时间收敛,因为将样本分开需要更大的努力!而标准化在这方面就做得很好,至少它不会将样本“挤到一起”。2、标准化更符合统计学假设对一个数值特征来说,很大可能它是服从正态分布的。标准化其实是基于这个隐含假设,只不过是略施小技,将这个正态分布调整为均值为0,方差为1的标准正态分布而已。
所以,下面的讨论我们先集中分析标准化在机器学习中运用的情况,在文章末尾,简单探讨一下归一化的使用场景。这样更能凸显重点,又能保持内容的完整性,暂时忘记归一化,让我们focus到标准化上吧。
四、逻辑回归必须要进行标准化吗?
我觉得,回答完上面的问题,就可以很好地掌握标准化在机器学习中的运用。
首先,请尝试自己来回答一下(暂停5秒)
无论你回答必须或者不必须,你都是错的!
真正的答案是,这取决于我们的逻辑回归是不是用正则。
如果你不用正则,那么,标准化并不是必须的,如果你用正则,那么标准化是必须的。(暗坑3)为什么呢?因为不用正则时,我们的损失函数只是仅仅在度量预测与真实的差距,加上正则后,我们的损失函数除了要度量上面的差距外,还要度量参数值是否足够小。而参数值的大小程度或者说大小的级别是与特征的数值范围相关的。举例来说,我们用体重预测身高,体重用kg衡量时,训练出的模型是: 身高 = 体重*x x就是我们训练出来的参数。当我们的体重用吨来衡量时,x的值就会扩大为原来的1000倍。在上面两种情况下,都用L1正则的话,显然对模型的训练影响是不同的。
假如不同的特征的数值范围不一样,有的是0到0.1,有的是100到10000,那么,每个特征对应的参数大小级别也会不一样,在L1正则时,我们是简单将参数的绝对值相加,因为它们的大小级别不一样,就会导致L1最后只会对那些级别比较大的参数有作用,那些小的参数都被忽略了。
如果你回答到这里,面试官应该基本满意了,但是他可能会进一步考察你,如果不用正则,那么标准化对逻辑回归有什么好处吗?
答案是有好处,进行标准化后,我们得出的参数值的大小可以反应出不同特征对样本label的贡献度,方便我们进行特征筛选。如果不做标准化,是不能这样来筛选特征的。
答到这里,有些厉害的面试官可能会继续问,做标准化有什么注意事项吗?
最大的注意事项就是先拆分出test集,不要在整个数据集上做标准化,因为那样会将test集的信息引入到训练集中,这是一个非常容易犯的错误!
五、通过例子来说明
我们先从简单的预测房价的线性回归模型开始:有一组关于房价和房子变量的数据集,通过房子的面积,房间数量,房子的层数来预测房价。
占地面积1800尺,房间数量3间,房子层数2层->房价?;为了方便对比,我们分别看一下标准化前和标准化后的模型输出分布是怎么样的。
可以看出,标准化前后变量的系数不同,误差不同,但是R平方,和变量的t值是相同的。
5.1 解释有区别吗?
那标准化前后得到的公式,怎么来解释呢?
当一个外行人在听解释的时候,一定会问,什么呀?所有东西都是0,空气造的房子还能卖9万?!接着你会问,系数不同,那预测出来的房价会相同吗?
5.2 预测值有区别吗?
现在我们来预测一个1590尺,3个卧室,3层的房屋
我们发现预测出来的房价是一样的。这时你一定会想,既然结果都一样,做不做标准化,都一样嘛。说到这里,我们再看一下,建模时寻找最优解的时间吧。
5.3 花费时间有区别吗?
为什么标准化后的建模时间会短呢?这时候就要说起寻找系数最优解-梯度下降法。
标准化前,由于变量的单位相差很大,导致了椭圆型的梯度轮廓。标准化后,把变量变成统一单位,产生了圆形轮廓。由于梯度下降是按切线方向下降,所以导致了系统在椭圆轮廓不停迂回地寻找最优解,而圆形轮廓就能轻松找到了。
还有一种比较极端的情况,有时没做标准化,模型始终找不到最优解,一直不收敛。
5.4 PCA,Kmeans,KNN需要标准化数据吗?
这种情况下,可见标准化的重要性了吧。我们再来看一下,如果将预测房价的变量,用PCA方法来降维,会不会对结果产生影响。
我们看出在标准化前,用一个成分就能解释99%的变量变化,而标准化后一个成分解释了75%的变化。 主要原因就是在没有标准化的情况下,我们给了居住面积过大权重,造成了这个结果。
那还有什么情况下,不做归一化会发生这么大的影响?
Kmeans,KNN一些涉及到距离有关的算法,或者聚类的话,都是需要先做变量标准化的。
举个例子,我们将3个城市分成两类,变量有面积和教育程度占比;三个城市分别是这样的:
城市A,面积挺大,但是整天发生偷盗抢劫,教育程度低;城市B,面积也挺大,治安不错,教育程度高;城市C,面积中等,治安也挺好,教育程度也挺高;
我们如果不做标准化,直接做聚类模型的话,A城市和B城市分在一块儿了,你想想,一个治安挺好的城市和一个整体偷盗抢劫城市分在一起,实在是有点违反常理。
六、总结
Tree-based models doesn’t depend on scalingNon-tree-based models hugely depend on scaling
有时候,我们必须要特征在0到1之间,此时就只能用归一化。有种svm可用来做单分类,里面就需要用到归一化,由于没有深入研究,所以我把链接放上,感兴趣的可以自己看。
当然,也不是所有的模型都需要做归一的,比如模型算法里面有没关于对距离的衡量,没有关于对变量间标准差的衡量。比如decision tree 决策树,他采用算法里面没有涉及到任何和距离等有关的,所以在做决策树模型时,通常是不需要将变量做标准化的。
- ?
数据分析方法(一):对比与对标
Lee
展开
对比是数据分析最基本的方法,通过对比识别数据差异。但是对比有得失。在分析过程中,对比得当可获得精准结论,但对比分析也存在陷阱,比如某产品近期销售数据在下滑,想当然得会得出结论此产品受欢迎度在下降,但是查看销售比(销售数/DAU)却在上升,所以只是因为DAU下降了。
所以如何去有效对比?
1、 横向、纵向多维度对比
对比的前提是两个事物或统一个事物的两个状态,其次必须要有一个对比的指标或标准(这里可称为对比的度量)。对比的两事物一个是主体,另一个是客体。也就是明确对比的三要素:主体、客体和度量。比如小明比小王高5cm,就是一个最简单的对比,这里小明是主体,小王是客体,度量身高,且人们对于身高这个度量存有共识。但如果去大排档吃一碗炒饭50元,可能觉得很贵。那如果是取希尔顿吃一碗炒饭128元可能就不觉得贵,这里我们选择了常识作为比较的基准,客体也没有问题,问题在于我们所谓的“常识”并非所有人的“共识”,如果不是共识,就要非常谨慎地得出结论,否则就容易从自我出发做出判断,影响结论的中肯性。
2、建立标准化的对比客体和度量
就是因为标准可以是认为确定的,所以存在质疑和不确定性。
建立标准化的对比可以是时间标准、空间标准、特定标准、计划标准。
3、 比率的对比
常见的对比是大小的对比、数量的对比,比如销售额的对比,人数的对比,使用不同的对比指标会得到不同的结论,我们把对比标准的选择叫做视角,视角不同,结论不同。比如上述对比小明小王俩同学,身高是视角事宜,除此之外还有年龄、学习成绩、颜值等等。在对比各种变化的原因时,我们也有各种模型,我们所要做的就是找到合适的对比视角。
直接描述事物的变量:长度、数量、高度、宽度等
加工后可得到:增速、效率、效益等指标,这才是数据分析时常用的。
如下图的AB公司销售额对比,虽然A公司销售额总体上涨且高于B公司,但是B公司的增速迅猛,高于A公司,即使后期增速下降了,最后的销售额还是赶超。(数据都是笔者瞎编的,工具用的是FineBI)
3、 指标的逻辑与管理指标
数据分析师有一个关键的职能就是要设计“指标”来对比,设计指标和应用指标有着天壤之别。比如某保健品公司,他们的产品是各类补品及奶粉,他们的业务与市场中人口的出生率、老龄化速度、市场整体购买力、对保健品的消费观念有着直接关系,还与政府对这个市场的管控力度有关。分析这么多之后,有没有一个指标来反映这些综合的因素,它的正反代表着好坏。
考虑到以上因素需要构建一个综合性的指标,这需要各种数据的加权计算。在不考虑市场规模的情况才,可以先构建一个指标指数模型:
Y=aX1 + bX2 + cX3 + dX4+……
Y 可定为市场吸引力指标值
X1 可定为老龄化程度
X2 可定为市场整体购买力
X3 可定为市场对保健品的品牌的看法
X4 可定为政府对这个市场的管控力度
abcd是系数,分别代表影响力程度
当然以上只是简单的罗列,实际情况比如X2还能分解出多个影响指标,甚至整体可以换成乘法模型,指数模型。。。
4、 对标的层次和维度
设定了各项管理指标后,剩下的就是比较工作了。从变化到追踪事物变化的诡计,找到问题的根源,从而找到书屋发展规律,这个过程叫对标。对标可以和自己比,也要和别人和竞品比。
对标的维度有规模指标、速度指标、效率指标、效益指标。
规模指标比如营业额、销售额,电商平台的UV、日活,医院的一天接诊数量,年营业收入额;
速度指标往往代表着活力,也是看未来趋势和潜能的重要指标类,包括各种运营管理指标的速度指标。
效率指标即投入和产出比,如果投入的是时间,月度产值、季度产值;如果投入的是净资产、则净资产周转率;如果投入的是人,人均产值,人均销售额。
- ?
十种常用的数据分析方法
信仰
展开
道家强调四个字,叫“道、法、术、器”。
层次区别:
“器”是指物品或工具,在数据分析领域指的就是数据分析的产品或工具,“工欲善其事,必先利其器”;
“术”是指操作技术,是技能的高低、效率的高下,如对分析工具使用的技术(比如用Excel进行数据分析的水平);
“法”是指选择的方法,有句话说“选择比努力重要”;
“道”是指方向,是指导思想,是战略。
在数据分析和产品、运营优化方面,数据分析方法是其核心,属于“法”和“术”的层次。
那么如何做好数据分析呢,今天我们来讲讲互联网运营中的十大数据分析方法。
01 细分分析
细分分析是分析的基础,单一维度下的指标数据的信息价值很低。
细分方法可以分为两类, 一类逐步分析, 比如:来北京市的访客可分为朝阳,海淀等区; 另一类是维度交叉, 如:来自付费SEM的新访客。
细分用于解决所有问题。
比如漏斗转化,实际上就是把转化过程按照步骤进行细分,流量渠道的分析和评估也需要大量用到细分的方法。
02 对比分析
对比分析主要是指将两个相互联系的指标数据进行比较,从数量上展示和说明研究对象的规模大小,水平高低,速度快慢等相对数值, 通过相同维度下的指标对比,可以发现,找出业务在不同阶段的问题。
常见的对比方法包括: 时间对比,空间对比,标准对比。
时间对比有三种: 同比,环比,定基比。
例如: 本周和上周进行对比就是环比;本月第一周和上月第一周对比就是同比;所有数据同今年的第一周对比则为定基比。通过三种方式,可以分析业务增长水平,速度等信息。
03 漏斗分析
转化漏斗分析是业务分析的基本模型, 最常见的是把最终的转化设置为某种目的的实现,最典型的就是完成交易。但也可以是其他任何目的的实现,比如一次使用app的时间超过10分钟。
漏斗帮助我们解决两方面的问题:
在一个过程中是否发生泄漏,如果有泄漏,我们能在漏斗中看到,并且能够通过进一步的分析堵住这个泄漏点。
在一个过程中是否出现了其他不应该出现的过程,造成转化主进程收到损害。
04 同期群分析
同期群(cohort)分析在数据运营领域十分重要,互联网运营特别需要仔细洞察留存情况。 通过对性质完全一样的可对比群体的留存情况的比较,来分析哪些因素影响用户的留存。
同期群分析深受欢迎的重要原因是十分简单,但却十分直观。 同期群只用简单的一个图表,直接描述了用户在一段时间周期(甚至是整个LTV)的留存或流失变化情况。
以前留存分析只要用户有回访即定义为留存,这会导致留存指标虚高。
05 聚类分析
聚类分析具有简单,直观的特征, 网站分析中的聚类主要分为:用户,页面或内容,来源。
用户聚类主要体现为用户分群,用户标签法;页面聚类则主要是相似,相关页面分组法;来源聚类主要包括渠道,关键词等。
例如: 在页面分析中,经常存在带?参数的页面。 比如: 资讯详情页面,商品页面等,都属于同一类页面。简单的分析容易造成跳出率,退出率等指标不准确的问题,通过聚类分析可以获取同类页面的准确数据用于分析场景。
06 AB测试
增长黑客的一个主要思想之一,是不要做一个大而全的东西,而是不断做出能够快速验证的小而精的东西。 快速验证,那如何验证呢?主要方法就是AB测试。
比如: 你发现漏斗转化中中间有漏洞,假设一定是商品价格问题导致了流失,你看到了问题-漏斗,也想出了主意-改变定价。但主意是否正确,要看真实的用户反应,于是采用AB测试,一部分用户还是看到老价格,一部分用户看到新价格,若你的主意真的管用,新价格就应该有更好的转化,若真如此,新价格就应该确定下来,如此反复优化。
07 埋点分析
只有采集了足够的基础数据,才能通过各种分析方法得到需要的分析结果。
通过分析用户行为,并细分为:浏览行为,轻度交互,重度交互,交易行为,对于浏览行为和轻度交互行为的点击按钮等事件,因其使用频繁,数据简单,采用无埋点技术实现自助埋点,即可以提高数据分析的实效性,需要的数据可立即提取,又大量减少技术人员的工作量,需要采集更丰富信息的行为。
如: 重度交互(注册,邀请好友等)和交易事件(加购物车,下订单等)则通过SDK批量埋点的方式来实施。
08 来源分析
流量红利消失,我们对获客来源的重视度极高,如何有效的标注用户来源,至关重要。
传统分析工具,渠道分析仅有单一维度,要深入分析不同渠道不同阶段效果,SEM付费搜索等来源渠道和用户所在地区进行交叉分析,得出不同区域的获客详细信息,维度越细,分析结果也越有价值。
09 用户分析
用户分析是互联网运营的核心, 常用的分析方法包括:活跃分析,留存分析,用户分群,用户画像,用户细查等。
可将用户活跃细分为浏览活跃,互动活跃,交易活跃等,通过活跃行为的细分,掌握关键行为指标;通过用户行为事件序列,用户属性进行分群,观察分群用户的访问,浏览,注册,互动,交易等行为,从而真正把握不同用户类型的特点,提供有针对性的产品和服务。
用户画像基于自动标签系统将用户完整的画像描绘清晰,更有力的支撑运营决策。
10 表单分析
填写表单是每个平台与用户交互的必备环节,优秀的表单设计,对转化率的提升起到重要作用。
用户从进入表单页面之时起,就产生了微漏斗,从进入总人数到最终完成并成功提交表单人数,这个过程之中,有多少人开始填写表单,填写表单时,遇到了什么困难导致无法完成表单,都影响最终的转化效果。
以上是常见的数据分析方法,更多应用方法需要根据业务场景灵活应用。
- ?
8000字深度总结:运营必懂的33个数据指标与分析方法!
甄平文
展开
2017 年马云在某次年会演讲中提到一件让他惊讶的事情。
在西湖边上他曾看到乞丐在用支付宝收款码进行乞讨,从界面操作上看该乞丐还能熟练应用支付宝提供的「生意通」功能,研究本周的乞讨收入趋势以及单位小时的乞讨金额,从而为自己制定更加高效的的乞讨策略。
图片来源于网络
乞丐都在用数据分析来武装自己了,身为互联网从业者,你还敢落后?为了让你感知到数据分析对工作效率提升价值,我们来看一个真实的运营案例。
你为什么要学习数据分析
运营研究社在 2018 年以前,公众号图文的推送时间是不固定的,在早上、中午、下班时间、深夜都有过推送,所以相应的阅读量的波动也非常大。
在今年年初我提出了一个假设“如果把推送时间固定的话,会不会对图文打开率(阅读量)的提升有促进作用”。
为了检验这一设想,当时我需要解决的第一个问题是:
“运营研究社的公众号黄金推送时间在哪?”
我导出了运营研究社过去 1 年里的图文数据,并拿推送时间、打开率、标题 3 个数据字段来构建散点图。
运营研究社过去半年图文数据
从过去 1 年的推送时间和打开率的散点分布图来看,高打开率的图文主要集中在中午 12 点、13 点两个个时间段,于是我把将这两个时间点定义成运营研究社图文推送的黄金时间。
在实践中也证明了“在固定时间推送内容有利用提升打开率”假设是正确的,从阅读数据上的反馈就是我们的阅读量在 3 个月时间里提升了 200%。
无论是在生活还是工作,数据分析已是一项必备技能。
我在招聘网站上研究了近 100 个运营岗位的职责要求,用户运营、内容运营、产品运营、社群运营、渠道运营,它们几乎都会在靠前的位置写上这样一行文字:
“通过有效的数据分析(点击率,访问,转化率等),研究分析用户的需求制定运营策略”。
为了让你能够掌握最实用的数据分析技能,本篇文章将带你了解数据分析字段与产品指标、熟知数据驱动运营的底层方法。
“竟巧妇难为无米之炊”,为了让小伙伴们赢在起跑线,下面将开始系统讲解数据分析里的底层元素——数据字段。
你的基础数据字段足够全嘛?
2015 年我在百度贴吧在内容运营,当时的我们核心 KPI 是将次日留存率提升至 45%,于是我就想研究用户首次登入的内容消费量与次日留存的关系,以期通过优化内容推荐系统来提升次日留存。
想法很好,现实却很悲剧,我在给技术同学提数据分析需求时,他们很佛性的回了句:
“抱歉,我们没有统计用户的内容消费数据”。
由于缺乏用户的内容消费数据,我当时只能搁置这套数据分析方案了(在补充统计用户消费字段的 1 个月后才最终落地执行)。
跟大家分享这个案例,主要是希望大家能够理解,数据分析的底层关键支撑是基础数据字段,没有基础数据字段你的任何数据分析方案都执行不了,没有基础数据字段,你再老司机也无法用数据驱动运营。
所以,为了能够做好数据分析,你需要尽可能全面的提出你的数据字段需求,具体来说包括如下 2 类基础数据字段:
1)用户信息数据字段
它指的是用户的社会信息数据,比如姓名、性别、出生年月、籍贯、婚姻、学历,手机、邮箱等字段
对于电商和母婴类产品来说,还需要基于「用户行为数据」推导家庭类型、家庭人数、家庭小孩标签、工作岗位、所处行业等高级用户信息数据字段。
2)用户行为数据字段
用户行为数据字段在记录时的格式通常是User id(哪个用户)+Active(哪种操作)+Time(何时产生)。
比如今天上午,我在贴吧客户端首页看了一篇与 China Joy 有关的的贴子,并且还对妹子们的颜值留进行了评轮。那么贴吧官方会将我的看贴行为数据,以如下格式被统计下来。
用户行为数据字段是每一位用户在产品上操作行为的数据记录,不同产品类型需要的需要记录的用户行为是不一样的。
阅读内容、点赞、评论、分享是社区产品的关键用户行为字段,点击产品、添加购物车、下单、付费、评价是电商产品的关键用户行为字段……
相比于用户信息数据而言,用户行为数据是数据分析的重中之重,可以基于用户行为数据的处理加工,分析出每天产品的登入用户总量(DAU)、新用户留存以及评论用户总量等产品数据指标。
促进数据增长指标都有那些?
有两位内容运营的同学,有一天领导问他们最近的产品情况怎么样。
其中一位运营说产品表现很不错,每天都有很多人互动和称赞,另外一位运营回答说产品有问题,用户都不怎么会将内容分享出去。
如果你作为老板,你应该相信谁?
我想这两位同学你应该都不会相信,甚至还会很生气,因为你的员工没有一点点的数据分析意识。
现代管理学之父彼得·德鲁克说过一句很经典的话:
如果你不能衡量它,那么你就不能有效增长它。
为了能够让数据驱动业务增长,我们需要制定业务的衡量标准,用统一的衡量标准来定义和评价业务,这个统一的标准在数据分析中叫做指标。
案例中的两位内容运营如果能够以互动率和点赞率、分享率这 3 个产品数据指标来向领导汇报自己的运营工作的话,或许就能够在领导心中留个好印象了。
了解和使用指标是数据分析思维的第二步,我们需要基于具体的业务需求设定能够驱动产品增长的指标。(Ps:数据指标是由用户基础数据字段处理加工而成)
按照比较受大家认可的 AARRR 产品增长模型,我们可以将指标分为五大类:拉新指标、活跃指标、留存指标、转化指标、传播指标。
5个产品的拉新指标
运营通过渠道投放让“用户”接触到产品,当“用户”觉得产品不错就会去下载它,打开产品发现里边的内容蛮适合自己,“用户”就会注册产品,最终成为产品真正的用户。
以上是绝大部分运营都会经历的拉新过程,如果你想监控整个过程,并且评估拉新的执行效果,那么你就需要设置如下数据指标。
1)浏览量
俗称曝光量,指的是产品的推广信息在朋友圈、搜索引擎、应用商店等渠道渠道中被多少用户看到。与浏览量相对应的是点击量,它们俩的比例在业内有一个专业词汇 CTR(CTR=点击量/浏览量),很多广告平台会用 CTR 来评估广告质量。
2)下载量
指的是 App 的安装次数,是衡量拉新效果的结果指标。不过,App 下载其实是一个中间态,为了让产品从曝光到下载有一个高转化,你需要注意应用大小、介绍文案的打磨。
比如游戏类 App,为了避免怕漫长的下载时间造成玩家流失,会选择让用户下载后以补丁形式完成全部素材的加载。
3)新增用户
下载并不是意味着就是用户,如果某个“用户”只下载了并没有注册,那它就是一个无效的用户。对于用户的界定,每个产品是不一样的,大部分的产品是用户注册了 App,就被定义为用户了,比如知乎、微博、小红书、百度贴吧。
4)获取成本
用户获取必然涉及成本,而这是运营新手最容易忽略的。目前常见的成本的计算方式有 CPM(千次曝光成本)、CPC(单次点击成本)、CPA(单次获客成本)。
5个产品的活跃指标
相比于下载量和用户量而言,在人口红利消失后,大家开始更关注实实在在的东西了——你到底有多少活跃用户。
用户活跃作为运营的核心工作,不论移动端、网页端或者微信端,都有相关指标可以衡量。
1)活跃用户数
DAU 指的是日活跃用户数量,指的是在 24 小时内活跃用户的总量。把时间周期拉长的还有周活跃 WAU 和月活跃 MAU。(MAU 指的是一个月时间周期里去重后的活跃用户总和)
Ps:与活跃用户相对应的还有流失用户、忠实用户、回流用户,其中流失用户是长期不活跃,忠诚用户是长期活跃,回流用户是曾经不活跃或流失,后来又再次打开产品的活跃用户。
2)活跃率
活跃用户数衡量的是产品的市场体量,活跃率看的则是产品的健康。
比如说某款产品的 DAU 是 100 万,可能你觉得还不错,但是我跟你说它的总注册用户是 1 亿,活跃率仅为 1%,你的感受可能就是这款产品很不错了。
3)在线时长
现在数据分析也越来越注重用户行为了,为了深入研究一款 App 的活跃健康度就需要去研究在线时长(它是视频类网站的核心数据指标)。
不同产品类型的访问时长不同,社交肯定长于工具类产品,内容平台肯定长于金融理财,如果你是做内容的产品的,发现大部分用户访问时长只有几十秒,那么最好分析一下原因。
4)启动次数
它体现的是用户的使用频率,用户的日均启动次数越多,说明用户对产品的依赖性越高,活跃度也就越好。
社交产品的人均启动次数会在 3-5 次之间,是通互联网中在启动次数指标中数值最高的。
5)页面浏览量
PV(PageView)是页面浏览量,UV(Unique Visitor)是一定时间内访问网页的人数,用户在网页的一次访问请求可以看作一个 PV,用户看了十个网页,则 PV 为 10。
PV 是互联网早期 Web 站点时代的活跃指标,也可以理解为网页版活跃。
5个产品的留存指标
如果说活跃数和活跃率是产品的市场大小和健康程度的话,那么用户留存衡量产品是否产品能够可持续发展,如果你是早期产品就更应该关注是留存指标了。
1)用户留存率
留存率 = 留存用户 / 当初的总用户量
用户在某段时间使用产品,过了一段时间后,仍旧继续使用的用户,被称为留存用户。
假设产品某天在某渠道新增了用户 1000 个,第二天仍旧登入产品的用户有 350 个,第 7 天仍旧登入产品的有 100 人,那么这个渠道获取来的用户次日留存率有 35%,那么称七日留存率为 10%。
Facebook 有一个著名的 40-20-10 法则,即新用户次日留存率为 40%,七日留存率为 20%,三十日留存率为 10%,有此表现的产品属于数据比较好的。
2)用户流失率
用户流失率和留存率恰好相反,如果某产品新用户的次日留存为 30%,那么反过来说明有 70% 的用户流失了。
流失率在一定程度能预测产品的发展,如果产品某阶段有用户 10 万,月流失率为 20%,简单推测,5 个月后产品将失去所有的用户。
Ps:这里可以引出一个公式,生命周期 = (1 / 流失率)*流失率的时间维度。比如产品的周流失率为 50%,那么平均用户生命周期为 14 天。
15个产品的转化指标
运营而言,拉新和活跃、留存都只是手段,最终衡量你工作业绩的是你手上掌握了多少有价值的用户。
运营就像用户成长路上的指引者,指引者产品里的用户成为能够产生价值的超级用户,即回归商业的本质。
交易类产品转化指标
1)GMV
它是一个虚荣指标,只要用户下单,生成订单号,便可以算在 GMV 里,不管用户是否真的购买了,京东在双十一对外发布的战报是 GMV。
2)成交额
成交金额指的是用户付款的实际流水,是用户购买后的消费金额,天猫在双十一对外发布的战报是成交额。
3)销售收入
它指的是成交金额减去退款后剩余的金额,属于内部机密数据了。
如果把上述的三个指标看作用户支付的动态环节,则能再产生两个新指标。
成交金额与 GMV 的比率,实际能换算成订单支付率,它体现的支付的流畅度;销售收入和成交金额,也涉及到了退款率,它体现的是产品质量。
4)付费用户量
在产品里边产生过交易行为的用户总量,同活跃用户一样,交易用户也可以区分为首单用户(第一次消费),忠诚消费用户(持续购买的用户),流失消费用户(流失后又回来的用户)等。
同时,为了研究用户的付费潜力,你还可以研究下产品的付费用户比例:
付费用户比例 = 付费用户 ÷ 总注册用户
5)ARPU
在单个促销活动中,它指的是每一笔用户订单的收入,总收入/订单数。而在整个产品生命周期中,我们更关注用户平均付费,总收入/用户数。
ARPU 可以再一步细分,当普通用户占比太多,往往还会采用每付费用户平均收入:ARPPU = 总收入÷ 收费用户数
6)复购率
和新增用户一样,获得一个新付费用户的成本已经高于维护熟客的成本。复购率更多用在整体的重复购买次数统计:单位时间内,消费两次以上的用户数占购买总用户数。
比如运营研究社的技能训练营在第一季度有 1789 个付费用户,购买次数在两次以上的有 657 人,那么我们季度复购率是 36%。
社区型产品转化指标
社区型产品的首要目的是将用户聚集在一起,并且引入用户生成内容,它的核心关键在于培养一个能够生成内容的活跃用户社区。
1)内容生成者
参与内容生存的用户æ€...
- ?
一个数据分析指标库到底是如何炼成的?
空心
展开
文| 傅一平原文自:与数据同行
在数据管理领域,我们通常将数据分为:主数据、交易数据、参考数据、元数据和统计分析数据(指标), 指标是BI里面核心的概念,是一个企业数据运营关注的核心数据,一般以KPI和报表的形式体现。
从实践来看,一个企业要进行数据治理,涉及了架构、安全等诸多层面,但最迫切的是提升数据质量,其中指标质量则是重中之重,一般业务上90%以上关于数据的疑问都从指标的质疑开始,只要你从事数据相关工作,就应深有体会。
“这个指标好像跟业务发展实际不符,快去查查”,估计这是报表取数人员听到的最多的一句话了。
笔者就来谈谈如何从根本上去提升指标的数据质量,即实现指标的标准化,作为一个数据管理人员,不管你有多少能力,曾经解决了多少问题,当过多少回救火英雄,都应该从更为长远的角度来思考这个问题。
指标标准化的核心价值在于实现“书同文,车同轨”,即通过针对指标的一系列管理过程,去提升指标准确性、一致性、敏捷性及开放性,在以前的文章《如何才能做好一张报表》中对此有详细的阐述。
DAMA将数据治理放到核心地位,指标的标准化就是个典型的数据治理问题,治标是容易的,治本的代价则太高,但如果要实现进阶,还是要站的高一点,多思考一下,想想是否有更好的方法,就从笔者多年前做过的指标标准化项目开始吧,分为组织保障、报表梳理、指标整合、实现方式、功能架构、可视化引擎及管理流程等七个方面。
1、组织保障
指标库这类数据管理项目,或称BI项目,一般业务部门参与的力度是不大的,这是大多BI项目实施效果不佳的一个深层次原因。
DAMA提到要实施数据治理活动,跨部门的数据治理委员会等是关键的组织,的确是这样,指标跟全公司每个单位都相关,对于其进行规范化改造当然应该获得大家的一致同意。
可惜的是,大多企业没有这个理想条件,也不会有数据治理委员会,在数据还未成为真正的实质性资产前,比如纳入财务部的资产目录,很少有企业会设立这个数据组织,因为效益不明显,因此,哪个企业都不大可能为指标出一个规范并且通令全公司贯彻执行,对于数据管理人员,指标库这个事情也许意义不小,但对于全公司意义则小了,这是现状。
在没有公司层面的组织保障前,数据管理人员或BI部门大多得靠自己,通过自己来推动事情往前走, 这是应有的态度,你不提,公司也没有任何人会提,毕竟你是最大受益者,实施指标库这个事情非常复杂,谁都没有成功的把握,秉持小步快跑,试点探索的原则是不错的。
笔者的这个指标库项目获得了分管领导的强力支持,这是项目能进行的现实组织保障,其实这类管理项目设立之初,很难让业务部门和一线人员马上认识到其价值并充分参与进来,这个沟通管理成本太高了,但无论如何,一个数据治理项目能否成功,公司的支持是第一要务,不仅仅是IT部门的事情,DAMA的很早就在《DAMA数据管理知识体系指南》明确了数据治理的组织要点,以下是DAMA的数据治理组织架构图,非常超前:
当然笔者觉得现实的组织演进也许如下图更合适,但道理是一样的,相关利益方需要对这个事情达成共识:
2、报表梳理
指标的主要表现形式是报表,因此第一要务就是报表梳理,公司的报表浩如烟海,因此这个项目设立之初就限制了范围,主要针对一线市场部经理、终端管理、流量管理三类核心角色,共梳理了相关的39个彩信、48份邮件通报及数据集市上的733张报表。(下图是用excel,下载企业大多用帆软、水晶一类的报表工具)
3、指标整合
各类报表及相关指标表达各不相同,梳理前应该给出一个描述指标的标准框架,包括指标大类、子类、维度、周期、归属、命名规范等等,曾经由于框架漏了一些要素导致返工现象,这个顶层设计一定要做好,以下是示例:
命名规范:业务限定词+业务名称+量值限定词+量值描述(量、收、用)
举例1:两网有效用户到达数
举例2:自建有线宽带出账用户数
下图列出了大致的梳理步骤,主要以省公司报表和彩信KPI为基础确定基准指标,各地市指标剔除个性指标后,合并到省公司的基准指标中,形成本次的最终指标范围。
全省指标共计6841个(未剔重),经过归并整合,得到基础共性指标2306个,如下图所示:
此项工作耗时巨大,以下是成果的示意:
4、实现方式
根据指标性质不同可以分为3类,即基础指标1046个、计算指标652个和通用营销类指标303个。
5、功能架构
为了支撑指标快速,标准化实现,通过增强数据管理平台来实现指标的快速开发、部署和管理,主要包括指标信息维护、指标开发、运维管理、指标质量管理等功能。
比如指标库每月需要新增超过9. 5亿行的数据,存储周期按12+1,即123亿行,以传统关系型数据库的查询能力无法支撑,这里就采用Hbase架构支撑海量指标的快速查询。
6、可视化引擎
为了支撑指标组装报表与配置报表的快速开发,使用数据可视化引擎产品,主要包括指标组装、报表开发、报表展现功能,现在的这类产品很多了,但定制化给予一个创新性项目更大的自由度。
指标组装报表工具是区别传统基于SQL配置报表的灵活度更高的报表配置方式,主要提供基于指标选择组装生成报表。
7、管理流程
指标的建设只是走完了数据治理的第一步,为了确保指标库长期可用,必须要有一套针对的指标管理机制和流程,否则建设的结束就是混乱的开始,理想的做法当然是发布一套公司级别的指标管理规范,但这个时候时机往往并不成熟,比如系统可用性到底如何,因此,我们当时就确立了一个简单原则,一条开发铁律:不重复开发,能用指标实现的不允许单独开发报表,当然这非常考验数据管理的艺术,极大依赖于团队的业务和数据能力,但有主见的数据管理团队一定要懂得如何与业务人员进行博弈,记得你才是全公司数据的管理者,而不仅仅是个开发者。
笔者在关于指标库的实现简要谈完了,但我对于大多企业搞指标库却是持悲观态度的,传统BI部门面对浩海的数据需求时,往往是没有管理原则的,因为公司对你的数据管理授权是不明确的,我们不得不以牺牲长远来满足当前,其实BI每接收一个不规范(比如胡乱的指标命名和定义)的报表需求就要承担由此带来的管理成本,而不仅仅是开发成本,这为后续数据管理的混乱埋下了祸根。
但存在的又是合理的,因为搞个指标库在开始的时候,无论是管理及运维成本都不低,关键是短期来看效益还不明显,这也许是成功案例不多的一个原因。
因此,当我们在抱怨业务指标口径一塌糊涂的时候,要记得是企业没有数据管理的原则导致了这个现象,也是你的不作为导致了这个现象,这跟公司的文化、机制及流程是息息相关的,顶层设计没解决,也许只能将就了,或者,你就要付出百倍的努力去改变或优化这个设计吧,这需要巨大的决心和毅力。
DAMA谈数据治理首当其冲谈组织设置,显然是非常睿智的,奇怪的是在知乎上关于DAMA数据治理的讨论几乎没有,这倒是值得思考的问题。
数据标准分析
-
1、只需3秒快速实现求和
-
2、如何快速填充序号
-
3、如何自动填充序号(公式法)
-
4、数据条的神奇应用
-
5、多文本快速合并
-
6、查找与替换的不同玩法
-
7、快速定位到指定区域
-
8、数据排序、工资条制作
-
9、快速筛选(模糊、精确筛选)
-
10、快速插入空行
-
11、快速删除空行
-
12.快速跳转到天涯海角
-
13、.同时查看两个Excel文件
-
14、用条件格式扮靓报表
-
15、一键插入Excel图表
-
16、批量处理行高、列宽
-
17、利用拆分功能查看数据
-
18、批量录入相同内容
-
19、工作表快速跳转
-
20、批量录入表格模板(精品课程)
-
21、Excel函数与公式的应用、公式循环引用的查找
-
22、IF函数单条件判断同比增长
-
23、用sum函数 格式相同,连续多表数据汇总
-
24、excel快捷键
-
25、VLOOKUP函数——根据销售员匹配销售额
-
26、统计各部门销售总额
-
27、统计指定条件个数
-
28、怎样输入当前日期和时间、星期数
-
29、销售业绩排名
-
30、Sumproduct函数-万能函数(销售额汇总求和)
-
31、根据销售员,地区,商品名称汇总
-
32、批量替换PPT字体
-
33、给销售额数据批量添加万元单位
-
34、一秒快速核对两列数据
-
35、快速定位到指定单元格或区域
-
36、快速制作双行标题工资条
-
37、给你的表格做个瘦身
-
38、快速打开常用的Excel文件
-
39、快速打开多个Excel文件
-
40、利用创建组—快速隐藏/展开多列数据
-
41、快速制作下拉菜单
-
42、复制粘贴表格,如何保留数据源列宽格式一致?
-
43、两列数据位置互换
-
44、1秒钟扮靓报表——如何实现表格隔行换色
-
45、快速删除重复记录——保留唯一值
-
46、快速向下填充、向右填充,文本或公式
-
47、给Excel文件添加密码
-
48、插入带图片的批注
-
49、输入公式后不计算?
-
50、如何设置单元格缩进
-
51、快速解决Excel表格总显示货币格式
-
52、批量添加万元单位
-
53、你会四舍五入么?
-
54、用RAND函数机选彩票
-
55、冻结首行你会么?
-
56、超链接的高级应用
-
57、IFERROR函数-屏蔽错误值
-
58、批量填充颜色
-
59、录入数据
-
60、快速输入工号
-
61、快速行列转置
-
62、自定义缩放界面
-
63、多个单元格同时输入
-
64、如何计算立方米?
-
65、快速制作双行标题工资条
-
66、输入带方框的√和×
-
67、快速将姓名对齐
-
68、快速输入性别
-
69、按单位职务排序
-
70、自动计算合同到期日期
-
71、计算时间间隔
-
72、日期和时间的拆分
-
73、快速处理不规范的日期格式
-
74、快速填充合并单元格
-
75、效率加倍的快捷键
-
76、快速复制表格和对象
-
77、快速创建工作表副本
-
78、快速复制序列号
-
79、快速显示公式
-
80、多个单元格同时输入
-
81、快速调整显示比例
-
82、快速自动填充
-
83、快速填充(Ctrl+E)
-
84、Ctrl与数字键结合
-
85、快速将多列数据整理为1列
-
86、快速将1列数据拆分为多列
-
87、快速定位公式
-
88、快速录入数据
-
89、快速累计求和
-
90、身份证号码显示为0怎么办?
-
91、快速制作斜线表头
-
92、文本竖向显示
-
93、神奇的监视窗口
-
94、不一样的格式刷
-
95、快速美化图表
-
96、快速生成当前日期
-
97、快速找出循环引用
-
98、快速提取信息
-
99、二维表快速转换为一维表
-
100、快速多表合并