大家好，我是零一。这一篇给大家介绍聚类/分类。

我们先讲一讲聚类。

上一篇的探索关系，很多朋友反映说非常有趣，这一篇，聚类分析也是相当有趣的。

聚类分析简称聚类，俗话说物以类聚，人以群分，聚类就是划分子类的过程。算法上面多用k-means和k-medoids，当然，大家可以跳过这些算法的过程，用程序来完成即可。

说简单一点，通过聚类，可以将我们的数据进行分类，并且描述每个类的特征。

聚类应用非常广泛，包括在电商领域的应用也是多不胜数。比如

（1）对客户数据进行聚类分析得到多个客户群组，并且得到各个群组的特征，这可以帮助我们发现客户的共性和差异性；

（2）竞争对手数据进行聚类分析得到多个对手群组和各自的特征，这一样可以让我们找到对手们的共性和差异性；

（3）对行业数据进行聚类分析得到多个行业群组和各自的特征，这个可以来发现不同行业之间的共性和差异性

（4）对销售数据进行聚类分析（比如以其中的地域聚类），可以告诉我们那些地域之间的共性和差异性

不难发现，我举的4个例子都是在发现共性和差异性。对的！我们了解了这些信息，可以指导我们的运营决策，对不同群组制定不同的策略。

下图是对地域数据做的聚类分析，得到的一个谱系图，我们从上往下看，首先是分成两大类

广东，天津，浙江，北京和上海这五个省市为一类，其余的多省为一类。

再往下看又分成了四大类，西藏作为单独一个分类，广东也作为单独的一个分类，天津和浙江为一类，北京和上海为一类。

从上往下，越分越细。红色的边框把多个省市划分成5个分类。一般没必要分得太细，这个数据目测是分成了20个细分的分类，除非是确实是需要细分到很细的时候，才需要看最低层的分类。

当我们知道天津和浙江聚为一类的时候，他们必然存在共性，才会聚在一起。当我们知道天津-浙江类和北京-上海类，作为两个不同的群组聚集，它们之间肯定是存在某种差异。

=======================================

下面，我们用上篇共享的数据，跟大家一起探讨聚类，和寻找他们的共性和差异性。

先处理下缺失值，选择清除数据里面的离群值

中间要选择需要处理的字段，选择好后，进入以下界面，也一样下一步即可

选择删除包含离群点的行（因为这里数据量不少，可以删了）

一般情况下，我们都避免直接修改源数据，需要新建一个变量或者空间或者工作表来存放处理过后的数据。这里选择复制到新的工作表就可以了。

数据处理好后，就可以进行聚类分析了。在数据挖掘套件里面直接选择聚类分析即可。

选择需要的数据进入模型里面

点击参数，然后就会看到下图这个对话框，可以手动输入数字来更改聚类算法，可以看到微软提供的聚类算法有4种，分别是可变的EM，固定的EM，可变的K-means跟固定K-means（EM是最大期望算法，K-means是K平均值算法，可变的是可以伸缩调整的，固定的就是固定不可调整的）

这里我输入4，选择固定的K-means算法

下图是选择测试集的比例，默认是30%。【测试集】是数据挖掘特有的名词，数据挖掘里头将数据集一分为二，大头的部分用来训练建立模型，称之为【训练集】，小的部分就用来测试模型，称之为【测试集】。这是数据挖掘和统计学最大的差异之一。统计学是通过统计方法来验证模型是否可靠，而数据挖掘技术是利用测试集来验证模型的可靠性。一般用于预测模型，聚类分析其实可以不用测试集，可以把数值改为0。但我就不改了。就用随机抽取出来的70%的数据来建立模型。

完成后，就会进入模型浏览界面，我们看到共有划分了7个，这有点儿多，我们可以在选择输入列的时候指定分类的数量，刚才我们是选了自动检测来着。

线粗代表两个分类之间的关系的强度，越粗关系越强。分类的颜色代表密度，颜色越是深蓝代表这个分类的数据个数越多。那非常明显，系统把大部分的数据归入分类1里头了。

下面是分类的剖面图，每个分类对应的指标范围在这里一览无遗。

简单解读一下上面这个分类情况

【分类1】包含2768个数据，最鲜明的是30天成交量偏大，价格偏低的这一个群组，是中低端爆款类

【分类2】只有246个数据，这个群组比较失败，发货分丶服务分丶好评率都偏低，销量偏低，价格偏高一点，典型就是卖货不卖服务类

【分类3】只有187个，集中在广东深圳，DSR很好，评价很好，价格很高，但退款率也很高，应该是高端市场的卖家，标准的价格高，服务好，但不知为何退款率也高，可能是买家收到了，觉得不划算吧，这一类是高端类，但产品或品牌的价值感可能没有做好。

【分类4】只有65个，也是DSR超好，价格中档，产品的价值完美体现，退款率不错，同样集中在广东深圳，是中档性价比类。

【分类5】只有61个，这个群组很惨，集中在浙江金华（估计是义乌），价格超低，DSR超烂，好评率很惨，是低端烂货类

【分类6】和【分类7】规模很小，就不解读了。以上解读仅供参考。一般分个4-5个群组就差不多了，如果数据量确实大，可以考虑分细一些。

每一个分类都可以单独提取出这个分类下的数据的。

下图是分类的一些特征，每个特征的概率情况

下图是分类间的差异性，通过对比可以发现，分类1多是天猫，非分类1的多是C店。

下面我着重看下分类3和分类4的区别，因为分类3败在退款率上面，而分类四就解决了这个问题。

我大致上看出来了，分类3的服务（DSR,退款速度）没有分类4的做得好，但分类4的价格又要比分类3低，并且包邮。那作为消费者，肯定选个价格中肯，服务又好的店家。而且分类4的销量还不低，有少部分是心店，我对心店的印象就是心店的服务一般要比大店的要好。

以上就是对这儿聚类分析结果的简单解读，具体的，亲们实操一下吧。

=============================================

下面说说分类。

聚类和分类，从语义来讲，看似很像，但有一点重要的差异。分类是指定了我们要分析的列（维度），然后通过决策树算法（默认方法是用贝叶斯分类器），来告诉我们，影响这个目标的维度有哪些。下面我们看下过程。

选择要分析的列，我这里选择的是30天销量，看下会影响销量的是什么因子。

下图是结果，告诉我们，收藏很重要！收藏跟销量有很强的关系。同样第一张图是决策树，一样有分组的作用。

决策树一般用来分析影响客户下单或者流失的因子有哪些。有兴趣的朋友可以自己倒腾一下。试下会有哪些意外的收获。

===========================================

下面，告诉大家测试集的使用方法。

选择准确性图表

选择模型，一般用于预测模型，刚才的决策树是属于预测模型，而聚类就不属于，因此聚类的模型不可用于准确性图表。

选择要预测的区间，我选择的是30天成交大于122的情况

我们之前保留的测试集，就在这里出现了，默认会选择测试集来验证准确性。

在上图点了完成后，就会得到这样的一个结果（部分截图），会有一个指标， “分类 30天成交”模型提升144.11%，这个数值越大代表模型的准确性越高。但我一般看下面的ROC图。

蓝色代表没有模型的结果，红色代表理想的结果。而绿色代表我们测试得到的结果。

绿色的线越接近红色的就代表越好，一般情况下，只要不要太接近蓝色的线（或者低于蓝色的线），就好了。如果接近蓝色的线或者在蓝色线下面，那就不如不用模型了，此时这个模型就没什么存在的意义，如果硬要用那就只是为了做模型玩玩而已了。

做好数据分析需要考虑三个问题，数据从哪来，数据到哪去，数据怎么去？今天我们来讲讲数据怎么去的问题，也就是数据分析步骤。

一、定义

“勿忘初心，方得始终”，做数据分析前要想好针对的问题是什么，想通过数据分析解决什么问题，数据分析的结果能帮助你达到什么目的，对现阶段你的产品有何实际的意义。

基于分析目的确定分析范围。比如你想分析用户流失原因，你分析的范围就是流失的用户，你不能去分析新增的用户，再比如电商类产品，你想对高价值用户进行分析，那么什么是高价值用户，那么你可能确定范围：“xx年xx月xx号-xx年xx月xx号，购买次数5次以上，总金额在3000元以上的用户”，这些都是我们在数据分析之前需要确定的，只有范围确定清楚了，分析的数据才具有指导意义。

规划分析的进度和质量。比如说你要做数据的采集，你就需要考虑清楚用什么样的技术手段采集数据，用什么样的方法进行分析，然后这个过程中产生的误差多大范围内是可接受的，或者是自身有了预判，我知道这种数据分析方式会带来什么样的影响，对最后的结论带来多少干扰。

二、测量

测量包含收集获取数据和数据预处理。

收集获取数据。是用问卷的方式定量分析？还是从服务器调取日志进行分析...，这些都是数据的来源

预处理：比如说做调查问卷，对于回收来的问卷我们需要判断哪些数据是有效的，哪些数据是无效的，比如调查问卷共15道题，用户就答了一道题，这个就属于无效问卷，需要剔除出去，这个时候他的数据是不完整的，放进去反而会影响最终的数据结果。同样对数据库的数据也需要预处理，比如说你想统计新增用户，但是来了很多羊毛党用户，这部分用户对你是没有价值的，也需要处理掉。预处理的好坏，直接决定数据分析结果的质量。

三、分析

分析包含对数据的统计描述和针对问题的归纳和总结。

数据的统计描述。统计是对数据的定量分析，描述是对数据的定性分析，就是对你的数据进行定性和定量的客观性描述。

问题的归纳总结。这个是最重要的，也就是拿出我们的结论，数据本身没有价值，数据分析的结果才有价值。

四、改进

改进就是找到问题的解决方案和降低负面影响。

给出解决方案。比如最近产品用户流失比较厉害，你通过调查问卷和用户访谈了解用户流失原因，当得到分析结果以后，你需要给出解决方案。是你的体验没做好，还是竞争对手挖墙脚，亦或是你的商品价格提高了...这些都是原因，找到主要原因，给出专业的解决方案，老板要的是方案，不关心你分析的过程。

降低负面影响。比如电商的购物流程，浏览商品--》加入购物车--》下单--》支付--》完成购买，你通过漏斗模型分析，发现从加入购物车到下单流失很多，你通过数据分析发现流失的原因是设计上的问题，那么就可以重新优化设计方案，降低负面影响。

五、控制

数据分析是一个持续性的过程，所以需要持续的跟踪反馈，比如做数据的日报、周报、月报，它是一个非常持久的工作，而且数据分析的结果发出去以后，不同的人可能会有不同的看法，那么我们产品经理就需要收集不同的观点。

更新迭代。更新迭代是我们产品经理的一份重要的工作内容，不论是功能上的更新迭代，还是数据上的更新迭代。有的人可能说为什么要做数据上的跟踪迭代呢？因为数据具有时效性，我们分析的往往是一个时间段内的数据，数据会随着时间的推移发生变化，根据这些变化，我们需要做一轮新的数据分析。

「目录」

　　1.什么是数据分析；

　　2.数据分析职业介绍；

　　3.数据分析生涯规划；

　　4.数据分析薪酬情况；

　　5.数据分析基本素质；

一、到底什么是数据分析呢？

　　数据分析是基于商业目的，有目的的进行收集、整理、加工和分析数据，提炼有价信息的一个过程。

　　▊其过程概括起来主要包括：明确分析目的与框架、数据收集、数据处理、数据分析、数据展现和撰写报告等6个阶段。

　　1、明确分析目的与框架

　　一个分析项目，你的数据对象是谁？商业目的是什么？要解决什么业务问题？数据分析师对这些都要了然于心。

　　基于商业的理解，整理分析框架和分析思路。例如，减少新客户的流失、优化活动效果、提高客户响应率等等。不同的项目对数据的要求，使用的分析手段也是不一样的。

　　2、数据收集

　　数据收集是按照确定的数据分析和框架内容，有目的的收集、整合相关数据的一个过程，它是数据分析的一个基础。

　　3、数据处理

　　数据处理是指对收集到的数据进行加工、整理，以便开展数据分析，它是数据分析前必不可少的阶段。这个过程是数据分析整个过程中最占据时间的，也在一定程度上取决于数据仓库的搭建和数据质量的保证。

　　数据处理主要包括数据清洗、数据转化等处理方法。

　　4、数据分析

　　数据分析是指通过分析手段、方法和技巧对准备好的数据进行探索、分析，从中发现因果关系、内部联系和业务规律，为商业目提供决策参考。

　　到了这个阶段，要能驾驭数据、开展数据分析，就要涉及到工具和方法的使用。其一要熟悉常规数据分析方法，最基本的要了解例如方差、回归、因子、聚类、分类、时间序列等多元和数据分析方法的原理、使用范围、优缺点和结果的解释；其二是熟悉1+1种数据分析工具，Excel是最常见，一般的数据分析我们可以通过Excel完成，后而要熟悉一个专业的分析软件，如数据分析工具SPSS/SAS/R/Matlab等，便于进行一些专业的统计分析、数据建模等。

　　5、数据展现

　　一般情况下，数据分析的结果都是通过图、表的方式来呈现，俗话说：字不如表，表不如图。。借助数据展现手段，能更直观的让数据分析师表述想要呈现的信息、观点和建议。。

　　常用的图表包括饼图、折线图、柱形图/条形图、散点图、雷达图等、金字塔图、矩阵图、漏斗图、帕雷托图等。

　　6、撰写报告

　　最后阶段，就是撰写数据分析报告，这是对整个数据分析成果的一个呈现。通过分析报告，把数据分析的目的、过程、结果及方案完整呈现出来，以供商业目的提供参考。

　　一份好的数据分析报告，首先需要有一个好的分析框架，并且图文并茂，层次明晰，能够让阅读者一目了然。结构清晰、主次分明可以使阅读者正确理解报告内容；图文并茂，可以令数据更加生动活泼，提高视觉冲击力，有助于阅读者更形象、直观地看清楚问题和结论，从而产生思考。

　　另外，数据分析报告需要有明确的结论、建议和解决方案，不仅仅是找出问题，后者是更重要的，否则称不上好的分析，同时也失去了报告的意义，数据的初衷就是为解决一个商业目的才进行的分析，不能舍本求末。

二、数据分析师职业介绍

　　做数据分析前我们首先要明确分析目的和内容，对于数据分析师而言，他们的进阶需求无外乎是各个企业对数据分析师的职位要求。在前程无忧、中华英才网以及智联招聘上，我们随便搜索下数据分析的岗位信息，都能找到大量类似于下面的一些职位要求信息：

　　▊别看岗位职责，任职要求这么多，说白了主要就三点要求：

　　1）对相关业务的理解；

　　2）掌握一到二种数据分析工具；

　　3）良好的沟通。

　　可能不同的公司因为需求不同，会在要求上有点小小的不同，而这个不同主要集中在数据库上。了解数据分析师的具体需求之前，我们有必要先了解数据分析师的职位体系。

「数据分析师的职位体系」

　　在传统行业中，数据分析更多存在移动、银行、超市等行业，在这些行业中你才会偶尔听到数据分析师这个职位，也许更多是听到数据挖掘工程师、数据建模师。在中国也许只在电信的项目中，才会存在真正的意义上的数据挖掘。

　　▊数据行业从广义上讲可以分为以下几个职位：

　　1、数据分析师

　　更注意是对数据、数据指标的解读，通过对数据的分析，来解决商业问题。主要有以下几个次层次：

　　1）业务监控：诊断当前业务是否正常？是否存在问题？业务发展是否达到预期（KPI）？如果没有达到预期，问主要问题在哪？是什么原因引起的？

　　2）建立分析体系：这些数据分析师已经对业务有一定的理解，对业务也相对比较熟悉，更多帮业务方建立一套分析体系，或者更高级是做成数据产品。例如：营销活动。分析师会告诉业务方，在活动前你应该分析哪些数据，从而制定恰当的营销计划。在营销过程中，你应该看哪些数据，从而及时做出营销活动调整。在营销活动，应该如何进行活动效果评估。

　　3）行业未来发展的趋势分析：这应该是数据分析师最高级别，有的公司叫做战略分析师/商业分析师。这个层次的数据分析师站的更高，在行业、宏观的层面进行业务分析，预测未来行业的发展，竞争对手的业务构成，帮助公司制定战略发展计划，并及时跟踪、分析市场动态，从而及时对战略进行不断优化。

　　 主要技能要求：

　　数据库知识（SQL至少要熟悉）、基本的统计分析知识、EXCEL要相当熟悉，对SPSS或SAS有一定的了解，对于与网站相关的业务还可能要求掌握GA等网站分析工具，当然PPT也是必备的。

　　2、数据挖掘工程师

　　更多是通过对海量数据进行挖掘，寻找数据的存在模式、或者说规律，从而通过数据挖掘来解决具体问题。数据挖掘更多是针对某一个具体的问题，是以解决具体问题为导向的。例如：聚类分析，通过对于会员各种人口统计学、行为数据进行分析，对会员进行分类，对不同的类型的会员建立相应的profiling，从而更好的理解会员，知道公司会员是到底如何？高、中、低低价值的会员构成，既可以后期各种会员的运营提供指导，提高活动效率，可以指导公司的营销，例如广告的投放策略。以及用于公司各种战略的制定。

　　 主要技能要求：

　　1）数据库必须精通。很多时候，你模型的数据预处理，可能完成在数据库里完成，你用到的数据库技巧更高。

　　2）必须要会成熟的数据挖掘工具、数据挖掘算法，例如：SPSS/CELEMENTINE、SAS/EM等，当然如果你会一、二款开源软件，并会写一些程序代码那是最好的，大公司都喜欢用开源的软件，例如：R、WEKA。

　　3、数据建模师

　　这个职位与数据挖掘工程师还是有本质区别的。数据建模师，更多偏向于中、小数据量，而且其使用更多更多是统计学的方法，而数据挖掘中的例如：决策树、神经网络、SVM等在这里是根据不会涉及的。

　　当然二者有一个共同之处都是，针对很具体的问题，都是会解决某个具体问题，例如：营销反应率，你就可能历史的邮箱、短信的反应情况，来建模型进行预测，从而提高邮件反应率，或者减少对用户来说的“垃圾”邮箱，提高用户体验。所以从掌握的技能上讲，这二者就有很大的区别，数据建模师其实很少会提到算法这个词，更多说使用什么模型，有感觉吗？但是从实务界来看，这二个模型越来越没有明确的分工，一般来说都会二个职位的人都会去学习对方的知识，所以这二个职位有合并的趋势，但在未来几年来，我觉得公司要招人的时候应该还是要有区别的。

　　新进入数据行业的同学，可以根据自己的背景背景选择相应的职位，学数据、统计学的朋友更多可以偏向于建模师，而计算机特别是写编程出现和同学，可以走数据挖掘工程师，也许适应性更好，但这不是绝对的。

　　▊数据分析师的职位级别划分：

　　不同公司对数据分析师的职位划分骚有不同，在一些中小型企业，没有成立独立的数据中心前，数据分析的相关职位往往是在譬如市场部、运营部这些部门之下，通常数据分析成员在2-4人不等。对于一些大型企业，有独立的数据部门的企业，其数据分析团队人员则是十到百人不等，其职位头衔有通俗的总监、经理、主管划分，也有助理、资深、专家之类的划分。下面是一张微博上传的比较火的某集团的数据分析师职位级别划分图表，大家可根据自身的情况对号入座。

「下图来自微博阿里的朋友分享」

（单击图片可缩放查看大图）

三、数据分析职业生涯规划

　　▊按照不同分析方法所能给人带来的智能程度，可以把分析能力划分为以下8个等级：

　　上面的8级划分源自SAS网站的Eight levels of analytics，由IDMer编译而成，个人觉得其中的8张图片非常形象生动，网友@数据小宇军用两个图表将它们更好地展示出来了：

　　▊数据分析师的级别：

　　1、数据跟踪员：机械拷贝看到的数据，很少处理数据

　　虽然这个工作的人还不能称作数据分析师，但是往往作这样工作的人还都自称是数据分析师，这样的人，只能通过×××系统看到有限的数据，并且很少去处理数据，甚至不理解数据的由来和含义，只是机械的把自己看到的数据拷贝出来，转发给相应的人。这类人发出来的数据，是否有意义，怎么解读，他自己是不知道的，只能期望收到数据的人了。

　　2、数据查询员/处理员：数据处理没问题，缺乏数据解读能力

　　这些人可以称为分析师了，他们已经对数据有一定的理解了，对于大部分数据，他们也知道数据的定义，并且可以通过监控系统或者原始的数据，处理得到这些数据。统计学的方法，这批人还是很精通的，统计学的工具，他们也是用起来得心应手，你让他们做一下因子分析，聚类肯定是没问题，各类检验也是用的炉火纯青。他们的不足是：1、如果不告诉他们命题，那么他们就不知道该应用什么样的方法去得到结论了。2、对于数据的处理没问题，但是却�...

俺 黑 君够 黑 ，慎关注！

道家强调四个字，叫“道、法、术、器”。

层次区别： “器”是指物品或工具，在数据分析领域指的就是数据分析的产品或工具，“工欲善其事，必先利其器”；

“术”是指操作技术，是技能的高低、效率的高下，如对分析工具使用的技术（比如用Excel进行数据分析的水平）；

“法”是指选择的方法，有句话说“选择比努力重要”；

“道”是指方向，是指导思想，是战略。

在数据分析和产品、运营优化方面，数据分析方法是其核心，属于“法”和“术”的层次。

那么如何做好数据分析呢，今天我们来讲讲互联网运营中的十大数据分析方法。

01 细分分析

细分分析是分析的基础，单一维度下的指标数据的信息价值很低。

细分方法可以分为两类， 一类逐步分析， 比如：来北京市的访客可分为朝阳，海淀等区； 另一类是维度交叉， 如：来自付费SEM的新访客。

细分用于解决所有问题。

比如漏斗转化，实际上就是把转化过程按照步骤进行细分，流量渠道的分析和评估也需要大量用到细分的方法。

02 对比分析

对比分析主要是指将两个相互联系的指标数据进行比较，从数量上展示和说明研究对象的规模大小，水平高低，速度快慢等相对数值， 通过相同维度下的指标对比，可以发现，找出业务在不同阶段的问题。

常见的对比方法包括： 时间对比，空间对比，标准对比。

时间对比有三种： 同比，环比，定基比。

例如： 本周和上周进行对比就是环比；本月第一周和上月第一周对比就是同比；所有数据同今年的第一周对比则为定基比。通过三种方式，可以分析业务增长水平，速度等信息。

03 漏斗分析

转化漏斗分析是业务分析的基本模型， 最常见的是把最终的转化设置为某种目的的实现，最典型的就是完成交易。但也可以是其他任何目的的实现，比如一次使用app的时间超过10分钟。

漏斗帮助我们解决两方面的问题：

在一个过程中是否发生泄漏，如果有泄漏，我们能在漏斗中看到，并且能够通过进一步的分析堵住这个泄漏点。

在一个过程中是否出现了其他不应该出现的过程，造成转化主进程收到损害。

04 同期群分析

同期群（cohort）分析在数据运营领域十分重要，互联网运营特别需要仔细洞察留存情况。 通过对性质完全一样的可对比群体的留存情况的比较，来分析哪些因素影响用户的留存。

同期群分析深受欢迎的重要原因是十分简单，但却十分直观。 同期群只用简单的一个图表，直接描述了用户在一段时间周期（甚至是整个LTV）的留存或流失变化情况。

以前留存分析只要用户有回访即定义为留存，这会导致留存指标虚高。

05 聚类分析

聚类分析具有简单，直观的特征， 网站分析中的聚类主要分为：用户，页面或内容，来源。

用户聚类主要体现为用户分群，用户标签法；页面聚类则主要是相似，相关页面分组法；来源聚类主要包括渠道，关键词等。

例如： 在页面分析中，经常存在带？参数的页面。 比如： 资讯详情页面，商品页面等，都属于同一类页面。简单的分析容易造成跳出率，退出率等指标不准确的问题，通过聚类分析可以获取同类页面的准确数据用于分析场景。

06 AB测试

增长黑客的一个主要思想之一，是不要做一个大而全的东西，而是不断做出能够快速验证的小而精的东西。 快速验证，那如何验证呢？主要方法就是AB测试。

比如： 你发现漏斗转化中中间有漏洞，假设一定是商品价格问题导致了流失，你看到了问题-漏斗，也想出了主意-改变定价。但主意是否正确，要看真实的用户反应，于是采用AB测试，一部分用户还是看到老价格，一部分用户看到新价格，若你的主意真的管用，新价格就应该有更好的转化，若真如此，新价格就应该确定下来，如此反复优化。

07 埋点分析

只有采集了足够的基础数据，才能通过各种分析方法得到需要的分析结果。

通过分析用户行为，并细分为：浏览行为，轻度交互，重度交互，交易行为，对于浏览行为和轻度交互行为的点击按钮等事件，因其使用频繁，数据简单，采用无埋点技术实现自助埋点，即可以提高数据分析的实效性，需要的数据可立即提取，又大量减少技术人员的工作量，需要采集更丰富信息的行为。

如： 重度交互（注册，邀请好友等）和交易事件（加购物车，下订单等）则通过SDK批量埋点的方式来实施。

08 来源分析

流量红利消失，我们对获客来源的重视度极高，如何有效的标注用户来源，至关重要。

传统分析工具，渠道分析仅有单一维度，要深入分析不同渠道不同阶段效果，SEM付费搜索等来源渠道和用户所在地区进行交叉分析，得出不同区域的获客详细信息，维度越细，分析结果也越有价值。

09 用户分析

用户分析是互联网运营的核心， 常用的分析方法包括：活跃分析，留存分析，用户分群，用户画像，用户细查等。

可将用户活跃细分为浏览活跃，互动活跃，交易活跃等，通过活跃行为的细分，掌握关键行为指标；通过用户行为事件序列，用户属性进行分群，观察分群用户的访问，浏览，注册，互动，交易等行为，从而真正把握不同用户类型的特点，提供有针对性的产品和服务。

用户画像基于自动标签系统将用户完整的画像描绘清晰，更有力的支撑运营决策。

10 表单分析

填写表单是每个平台与用户交互的必备环节，优秀的表单设计，对转化率的提升起到重要作用。

用户从进入表单页面之时起，就产生了微漏斗，从进入总人数到最终完成并成功提交表单人数，这个过程之中，有多少人开始填写表单，填写表单时，遇到了什么困难导致无法完成表单，都影响最终的转化效果。

以上是常见的数据分析方法，更多应用方法需要根据业务场景灵活应用。

本文版权归原作者所有。转载文章仅为传播更多信息之目的，如有侵权请与我们联系，我们将及时处理。

大家好，我是零一，今天开始给大家带来基础系列教程

本系列文章适合以下情况的读者：

1丶淘宝店铺运营或者店长，目前还不会做数据分析，渴望提升自己

2丶打算在淘宝开店的朋友，目前尚在混派代学习中

3丶其他对数据分析感兴趣的朋友，尚在入门阶段

本文是第一篇会比较基础，涉及的概念也少，旨在让读者动手了解工具。

我们直奔主题

数据分析的概念必须搞清楚。简单点说，数据分析是将数据进行清洗后，把隐藏在数据背后的信息提炼出来。

另外，值得一说的是，数据分析是获取新知识的新途径。

下面看一下菜鸟跟数据分析师的区别，引自《谁说菜鸟不会数据分析》一书

可以看出来，专业一点的数据玩家的思路会非常清晰，而且会以目的为导向，建议大家参考分析师的思路。

数据分析的过程已经有非常多的前人做出了总结，我还是引用书中的结果

分别是，明确分析目的和内容——数据收集——数据处理——数据分析——数据展现——报告撰写

做任何事情都要有目的，做数据分析也不例外，而且明确目的在数据分析里面上升到了一个非常重要的高度，甚至决定了你后面所做的一切有没有价值。

做数据分析必须运用工具，没有工具几乎无从开展，大家看下一般数据分析有哪些工具

可以看到，底层是数据库，在数据量大的情况下，需要动用到数据库。

报告层是Crystal Reports（动态和可操作的报表，没用过）

分析层是分析的工具，从左到右分别是Excel（Office套装里面的一员，据说可以和SAS媲美的数据工具之一），UCINET(社会网络关系分析，没用过），SAS（最古老最专业的数据分析工具），SPSS（IBM的工具，以简单易用闻名），clementine（已经被IBM收购属于SPSS系列）

最后是表现层，也就是做报告的一系列工具，我只接触过PPT和水晶易表，一般会用PPT就可以了。

接下来讲的数据分析，选择的是大家比较熟悉的Excel，Excel做深入分析的时候比较麻烦也有局限性，但就上手指数来说，Excel是排第一的。数据量在一百万条以内是足够的了。

我选用的版本是Excel 2010

第一步，我们要明确分析的目的和内容。因为是实例，我假设

目的：了解淘宝美容行业的市场情况

内容：1丶行业分析，2丶属性分析（采用折线图和饼图直观反映行业趋势和容量）

第二步，数据收集，一般手动收集，也可以用工具收集。

这里提供工具给大家做练习。提供的是仅支持美容大类的版本，运行环境，excel2010/2013，32位xp/WIN 7，假如没有生e经，那没关系，下面用到的数据源一样会共享给大家，拿着数据源就可以一步一步跟着操作。

数据来源：生e经（必须有开通生e经，并能查看相应行业数据）

数据宽度：21（月）

因为生e经按月展示数据，因此这里的数据宽度，就是月份数。

打开表格，然后，按下列图片次序操作

自己登陆生e经复制生e经的地址进来。登陆好，就把窗口关闭即可。其中c2代表服务器编号是2。

选择正确的服务器编号才能正常抓取。

选择好后，点开始抓取数据

耐心等待（等待时间和抓取的月份丶网速有关系），会在excel中出现结果，那么可以把这些数据复制到我们的另一个工作簿上，也可以导出为csv格式。

导出的文件可以保持在本地，方便下次提取。

第三步：数据处理，简单举例，可以跟着做。

做下简单的处理，这里提取年份使用这个公式：=LEFT(E2,4)，提取月份使用这个公式：=RIGHT(E2,2)，然后填充。如下图所示，鼠标移到单元格的右下角位置，会出现个黑色小方形，鼠标也会变成黑色的十字架，双击即可填充。

接着，我们插入数据透视表，鼠标点一下我们的数据，任意一个单元格都可以，只要在数据范围内，如图，我点在F10单元格。

点数据透视表，会自动匹配整个数据框。我们点确定即可。

点确定后，效果如下图所示

用鼠标，将字段拉到下面的相应位置即可

第四步：数据分析

我们现在就已经完成了数据透视表，通过这个透视表，就可以比较直观的对比各行业间的差异，但是都是数字，不免有些晕，或许用图表来展示会更加直观

点一下数据透视表，然后点插入——折线图，这里选择第一个样式即可（其他样式可以自己尝试）

结果如图所示

发现面膜/面膜粉的走势好像不错。

接着，我想看一下各行业的容量占比，重点看下面膜/面膜粉这个行业占比多少，就以2013年的数据来统计占比。还是插入数据透视表，先设置好字段，然后再选择2013.

接着，插入饼图

结果如图所示

这里看不到占比，而且也不知道哪个行业，这就需要我们设置一下图表。右击图表——添加数据标签

出现标签后，我们再右击一下标签，设置数据系列格式

按下图红框设置即可

然后改下标题，稍微把图表的尺寸拖大一点

这样，就比较直观了，面膜/面膜粉在2013年1-9月份中，销量占了整个美容护肤行业的16%。那么我想再仔细看看面膜/面膜粉行业的销量走势。依然先插入并设计数据透视表。

然后，插入折线图

结果如下图所示

两年的销量走势对比，可以看出2013年比2012年增长了不少。增长需要涉及到环比增长和同比增长两个概念，今天先不讲。我们通过目测就已经看出来，今年比去年火，但是这个结论还不是最终结论，只是简单建立在数据层面的初步结论，还要通过淘宝去验证，搞清楚销量的增长是来自哪里。假设是某几家品牌促销的结果，那么这个数据对于我们而言，意义就不一样了。或许我们自己是这个行业的一个品牌商，则需要把后面的分析重点转移到研究这几家品牌的营销研究上面来，弄清楚对手究竟如何改变了这个市场。

属性分析里面包含了SKU，操作方法跟上面类似，这里就不演示了。

第四步：数据展现

把我们以上得到的结果，进一步优化，更加直观丶有序地展现出来。

第五步：撰写报告（非商业严谨报告，以实用为主）

把所看到的，所想到的，通过文字的方式记录下来，方便自己或者他人阅读，了解我们的分析思路。

做数据分析首先得要有一个完整的思路。《谁说菜鸟不会数据分析》书中举了一个很生动的例子。做数据分析就好比做一件衣服，首先的先有设计图，然后在根据设计图分步骤的去制作成成品。今天我们说的数据分析的完整思路就相当于衣服的设计图，有了完整的思路，才不至于漫无目的的，没有一个清晰的目标去做分析。

那么我们如何才能建立一个完整的数据分析的思路呢呢？《谁说菜鸟不会数据分析》给大家提供了几种数据分析方法论来助力大家形成完整的数据分析思路。主要有PEST分析法，5W2H分析法，逻辑树分析法，4P营销理论（现在用的比较多是4C），用户行为理论。下面呢，我就以5W2h分析方法，给大家详细的说明一下怎么建立完整的数据分析思路。

首先，先介绍一下什么是5W2H。

（1）WHAT——是什么？目的是什么？做什么工作？

（2）WHY——为什么要做？可不可以不做？有没有替代方案？

（3）WHO——谁？由谁来做？

（4）WHEN——何时？什么时间做？什么时机最适宜？

（5）WHERE——何处？在哪里做？

（6）HOW ——怎么做？如何提高效率？如何实施？方法是什么？

（7）HOW MUCH——多少？做到什么程度？数量如何？质量水平如何？费用产出如何？

例如要不要增加一个推广渠道，我们来形成一个完整的分析思路。

WHAT：一个引流的渠道，对这个渠道要有一定认识。

WHY ：目前其他的渠道的流量不能满足，做了渠道之后可能会增加多少流量。

WHO：是直接让其他渠道的人来负责，还是重新招一个操作过这个渠道的人。

WHEN：如果要做这个渠道，有没有时间来做，什么时候开始实施。

WHERE：如果是大公司，要考虑是总公司来做，还是分公司来做。

HOW：怎么做，是否有详细的解决方案，是否先参考同行竞争对手。

HOW MUCH：新增加的这个渠道，需要投入多少成本，人力成本，广告成本等等。

对每个环节进行分析，评估，然后综合每个环节，看看这个渠道是否值得开发。

每个人都会有机会进行数据展示，为什么别人展示永远获得正视，而我的展示永远只有自己愿意去看，别人在看手机？那怎样做数据图表分析呢请看以下步骤：

如何对表格进行修饰，本次小编带来两个技巧，一是使用“套用表格格式”，和使用“条件格式”。二是带领大家学会养成修饰表格的思维。

第一步是对表格进行粗略的修饰调整，思维：行高、列宽、对齐方式、表格线等；

使用“套用表格格式”、“条件格式”之后看数据不再枯燥无味，而且还更有看头。“条件格式”可以将筛选条件转换为颜色可视化，从而达到一目了然的效果。

第一个技巧，①“套用表格格式”。方法：任一单元格→开始→套用表格格式。

②“条件格式”，方法：选中单元格区域→开始→条件格式。

条件1：高于平均值

条件2：数据条

条件3：色阶

第二个技巧：养成修饰图表的思维。这次举例柱形图的修饰例子，其他希望大家动用类似的方法进行模拟实践。

步骤一：根据销售数据建立柱状图，建立方法可参考。选择数据源→插入→柱状图→选择数据源→编辑坐标

步骤二：添加辅助线。选择数据源→→添加→点击柱体右键，设置数据系列格式→次坐标轴→选中柱体，右键更改图表类型→折线图。

希望回答对你能有所帮助，如果觉得不错就来点个赞或关注吧，感谢各位了！

今天端午节，小2哥祝所有商家和网友节日快乐，端午安康，对于做淘宝的人来说，是没有节日这个概念的，我今天也继续奋斗在工作岗位，闲暇之际，抽点时间来和大家分享分享自己的一些对数据分析的感悟。

我在很多场合经常听到有人说：数据有毒

其实，有毒的不是数据，而是我们不懂的分析数据，只知道看表面的数据，没有理解出数据背后的东西。

我在书友会和书友们说：很多的时候，如果你没有跟着我学数据分析的时候，你凭借着你的经验和第一直觉做可能你还会做的更好一点，但是如果你跟了我学数据分析之后，可能你反而会做的越来越差？

因为有很多人他第一直觉和经验其实比较好的，不听数据分析他做的决策反而可能正确一些，但是自从他听了我的数据分析之后，他开始不相信自己的直觉和经验，他只相信数据了，特别是看到那些直观的图表的时候，他更愿意去相信数据，可是遗憾的是他只看到了数据表面的东西，并没有把隐藏在数据背后的东西挖出来了，所以他反而让数据表现的东西给误导了，做出了错误的决策。

我们来看看那些经常因为数据误导我们的案例，这里先举一个例子，很多人经常会去分析关键词的人群画像，下面这个数据来自的是"长袖T恤女"这个关键词的数据

从这个数据我们可以看到的是18-25岁的人占比最高。所以很多人说，这个关键词背后搜索和喜欢的人群是18-25岁

其实，如果你说关键词背后搜索人数最多的是18-25岁，那么这句话肯定是对的，这数据也肯定能说明的，但是你没办法说明长袖T恤最受欢迎的人群是18-25岁

我们再来看一个图，这个图是2015年6月和2016年6月网民的年龄结构分布图，当然，很遗憾的是我没找到今年淘宝网民年龄的结构分布数据。但是从上面这个图里面我们可以看出40-49岁的网民只占了总网民的百分之13%左右，而这个数据还是网民数据，不是淘宝用户的数据，淘宝用户的数据只会比这个数据低很多，因为现在很多40-49岁的人都会玩微信，他们算网民，但是这里面有很多的人从来是不淘宝购物的，他们就算不上淘宝用户，特别是广大农村地区，这个年龄阶段的人用微信的特别多，但是用淘宝的非常小，

这个时候我们再回过头来看第一个数据，搜索长袖T恤女这个关键词占比最多的人群是18-25岁，但是这个只能说明搜索这个关键词人数最多的是18-25岁人群，并不能说明长袖T恤在18-25岁的人群里面更受欢迎。因为本身这个18-25岁人群在淘宝用户中基数就是最大的，同样的我们再看，40-49岁的这个人群，他虽然只占比16%，比起其他的年龄阶段来说人群占比算比较低的，但是他在淘宝用户这个人群中占比也是非常小的。如果这个数据换一种表达方法，就是每个占比只以各自的年龄阶段为基础，那么估计40-49岁的数据就要比18-25岁的数据大很多了。

我们继续来看另外的一个案例，很多人都喜欢做市场容量的分析图，去分析市场的容量，他会把过去一段时间的支付金额做成饼图，然后分析根据这个图的占比来分析他的市场容量

例如，我们在图上看到裤子的市场容量占比是10%，而T恤的市场容量占比是8%，如果从表面上来看，裤子的市场容量是比T恤要更大，但是如果你仔细了解一下背后的数据来源你可能就会有不一样的答案，裤子的数据是有打底裤，休闲裤，西装裤，棉裤/羽绒裤等多个子类目组成，而T恤下面并无子类目，他的所有数据都是来自T恤这个子类目，而且，T恤主要是集中在夏季这一个季节，到了冬季的时候，虽然也有长袖T恤，但是那个占比已经比较少了。而裤子不同，长裤，短裤都是裤子类目，除了牛仔裤外，其他的子类目裤子都是在裤子这个类目，因此，如果你完全根据这个数据的大小去选择市场容量的话，你可能就会出现问题

有些人在选择市场切入的时候，喜欢选择这种数据大的市场容量的市场，不会去选择数据小的市场容量的市场，他们认为数据小的说明没有市场。

其实，这里面也是会经常误读的，例如上图，有一个抹胸市场容量占比是0%，可能很多人会觉得这个类目没有什么市场，不值得的去做。

但是你搜索抹胸这个关键词然后按照销量排名，你觉得这个市场容量会小吗？

很多的时候我们就是容易让数据表面给误导，例如抹胸我们做的图之所以市场容量为0%，是因为第一个我们统计的数据是按照支付金额统计的，而抹胸因为客单价非常低所以他的支付金额特别比较低，可能三四件抹胸的都没有一件T恤的价格高，这也就导致了他的支付今天看起来比较低，如果你换成的是成交件数，那么肯定你就会得出另外一种结果，另外，0%不代表是真的0，而是因为四舍五入最后的结果是0%。0.4%的结果也是0%，可能很多人还是会说0.4%还是比较低，其实，低和高要看你的基数有多大，如果你的基数是100000亿，那么这个0.4%的数量也不少了的。

继续再来看一个例子，我们在优化标题的时候都喜欢去看关键词的搜索指数，很多人只要看到搜索指数低的人就认为是没有人在搜索，这种词就不应该用

例如大家看到上面这个图，可能很多人会觉得这个词带不来流量，因为都没有人搜索，而我曾经有一个宝贝前期就是靠这个关键词带来流量的，虽然每天没有太多，就那么几十个，但是，因为这个词特别精准，我的宝贝竟然每天能成交那么一两单，对于前期来说，这个数据已经非常好了。

其实，这个也是很多人对数据没有去了解他背后造成原因导致的结果，他把搜索人气零当成了是没有人搜索，其实根本就不是这个意思，搜索人气是根据统计周期内的用户搜索人数拟合出的指数类指标，也就是说，这个数据让淘宝处理了，0只是代表他趋势很小，相对其他的关键词来说，他的这个搜索人数可以忽略不计。但是并不代表他完全没有搜索，中国好几亿的淘宝用户，每天如果只有几十百来个人在搜索，这个数据相对于整体来说基本可以忽略不计，但是如果没有人和你竞争，那么这几十百来个流量也就是你一个人了，对于很多新店铺来说，前期每天能有几十百来个流量也是好的，最关键的是因此词精准，转化率高，虽然每天只能带来一两单，但是相对那些一天一单都带不来的商家，这个数据也算好的。

举例了这么多，其实都只是想说明一个点，在分析数据的时候，一定要重点分析的是数据背后的东西，他是怎么造成这个数据的，要从多个维度去分析数据。而不是简单的只看看表现的数据，然后根据表面的数据就下决定。

（图片来源于网络）

作者：苏格兰折耳喵

来源： 运营喵是怎样炼成的 （yymzylc）

（温馨提示：图片显示毛糙和不清楚，是分辨率过高的缘故，点击图片，即可看到高清大图。 ）

本文将对一个案例进行从数据采集、数据清洗、数据分析再到数据可视化的全流程分析，力求条理清晰的展现外部数据分析的强大威力。以下是本文的写作框架：

1 分析背景

1.1 分析原理---为什么选择分析虎嗅网

在现今数据爆炸、信息质量良莠不齐的互联网时代，我们无时无刻不身处在互联网社会化媒体的“信息洪流”之中，因而无可避免的被它上面泛滥的信息所“裹挟”，也就是说，社会化媒体上的信息对现实世界中的每个人都有重大影响，社会化媒体是我们间接了解现实客观世界和主观世界的一面窗户，我们每时每刻都在受到它的影响。

综合上述两类情形，可以得出这样的结论，透过社会化媒体，我们可以观察现实世界：

由此， 社会化媒体是现实主客观世界的一面镜子，而它也会进一步影响人们的行为，如果我们对该领域中的优质媒体所发布的信息进行分析，除了可以了解该领域的发展进程和现状，还可以对该领域的人群行为进行一定程度的预判。

鉴于此种情况，作为互联网从业者的笔者想分析一下互联网行业的一些现状，于是想到了虎嗅网。

虎嗅网创办于2012年5月，是一个聚合优质创新信息与人群的新媒体平台。该平台专注于贡献原创、深度、犀利优质的商业资讯，围绕创新创业的观点进行剖析与交流。虎嗅网 的核心，是关注互联网及传统产业的融合、一系列明星公司（包括公众公司与创业型企业）的起落轨迹、产业潮汐的动力与趋势。

因此，对该平台上的发布内容进行分析，对于研究互联网的发展进程和现状有一定的实际价值。

1.2 本文的分析目的

笔者在本项目中的分析目的主要有4个：

（1）对虎嗅网内容运营方面的若干分析，主要是对发文量、收藏量、评论量等方面的描述性分析；

（2）通过文本分析，对互联网行业的一些人、企业和细分领域进行趣味性的分析；

（3）展现文本挖掘在数据分析领域的实用价值；

（4）将杂芜无序的结构化数据和非结构化数据进行可视化，展现数据之美。

1.3 分析方法---分析工具和分析类型

本文中，笔者使用的数据分析工具如下：

Python3.5.2（编程语言）

Gensim（词向量、主题模型）

Scikit-Learn（聚类和分类）

Keras（深度学习框架）

Tensorflow（深度学习框架）

Jieba(分词和关键词提取)

Excel（可视化）

Seaborn（可视化）

新浪微舆情（情绪语义分析）

Bokeh（可视化）

Gephi（网络可视化）

Plotly（可视化）

使用上述数据分析工具，笔者将进行2类数据分析：第一类是较为传统的、针对数值型数据的描述下统计分析，如阅读量、收藏量等在时间维度上的分布；另一类是本文的重头戏---深层次的文本挖掘，包括关键词提取、文章内容LDA主题模型分析、词向量/关联词分析、DTM模型、ATM模型、词汇分散图和词聚类分析。

2 数据采集和文本预处理

2.1 数据采集

笔者使用爬虫采集了来自虎嗅网主页的文章（并不是全部的文章，但展示在主页的信息是主编精挑细选的，很具代表性），数据采集的时间区间为2012.05~2017.11，共计41,121篇。采集的字段为文章标题、发布时间、收藏量、评论量、正文内容、作者名称、作者自我简介、作者发文量，然后笔者人工提取4个特征，主要是 时间特征 （时点和周几）和 内容长度特征 （标题字数和文章字数），最终得到的数据如下图所示:

2.2 数据预处理

数据分析/挖掘领域有一条金科玉律：“Garbage in, Garbage out”，做好数据预处理，对于取得理想的分析结果来说是至关重要的。本文的数据规整主要是对文本数据进行清洗，处理的条目如下：

（1） 文本分词

要进行文本挖掘，分词是最为关键的一步，它直接影响后续的分析结果。笔者使用jieba来对文本进行分词处理，它有3类分词模式，即全模式、精确模式、搜索引擎模式：

· 精确模式：试图将句子最精确地切开，适合文本分析；

· 全模式：把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；

· 搜索引擎模式：在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。

现以“新浪微舆情专注于社会化大数据的场景化应用”为例，3种分词模式的结果如下：

【全模式】: 新浪/ 微舆情/ 新浪微舆情/ 专注/于/ 社会化/ 大数据/ 社会化大数据/ 的/ 场景化/ 应用

【精确模式】: 新浪微舆情/ 专注/于/ 社会化大数据/ 的/ 场景化/ 应用

【搜索引擎模式】：新浪，微舆情，新浪微舆情，专注，于，社会化，大数据，社会化大数据，的，场景化，应用

为了避免歧义和切出符合预期效果的词汇，笔者采取的是精确（分词）模式。

（2） 去停用词

这里的去停用词包括以下三类：

标点符号：， 。！ /、*+-

特殊符号：▲等

无意义的虚词： “the”、“a”、“an”、“that”、“你”、“我”、“他们”、“想要”、“打开”、“可以”等

（3） 去掉高频词、稀有词和计算Bigrams

去掉高频词、稀有词是针对后续的主题模型（LDA、ATM）时使用的，主要是为了排除对区隔主题意义不大的词汇，最终得到类似于停用词的效果。

Bigrams是为了自动探测出文本中的新词，基于词汇之间的共现关系---如果两个词经常一起毗邻出现，那么这两个词可以结合成一个新词，比如“数据”、“产品经理”经常一起出现在不同的段落里，那么，“数据_产品经理”则是二者合成出来的新词，只不过二者之间包含着下划线。

3 描述性分析

该部分中，笔者主要对数值型数据进行描述性的统计分析，它属于较为常规的数据分析，能揭示出一些问题，做到知其然。

3.1 发文数量、评论量和收藏量的变化走势

从下图可以看出，在2012.05~2017.11期间，以季度为单位，主页的发文数量起伏波动不大，在均值1800上下波动，进入2016年后，发文数量有明显提升。

此外，一头（2012年第二季）一尾（2017年第四季）因为没有统计完全，所以发文数量较小。

下图则是该时间段内收藏量和评论量的变化情况，评论量的变化不愠不火，起伏不大，但收藏量一直在攀升中，尤其是在2017年的第二季达到峰值。收藏量在一定程度上反映了文章的干货程度和价值性，读者认为有价值的文章才会去保留和收藏，反复阅读，含英咀华，这说明虎嗅的文章质量在不断提高，或读者的数量在增长。

3.2 发文时间规律分析

笔者从时间维度里提取出“周”和“时段”的信息，也就是开题提到的“人工特征”的提取，现在做文章分布数量的在“周”和“时”上的交叉分析，得到下图：

上图是一个热力图，色块颜色上的由暖到冷表征数值的由大变小。很明显的可以看到，中间有一个颜色很明显的区域，即由“6时~19时”和“周一~周五”围成的矩形，也就是说，发文时间主要集中在工作日的白天。另外，周一到周五期间，6时~7时这个时间段是发文的高峰，说明虎嗅的内容运营人员倾向于在工作日的清晨发布文章，这也符合它的人群定位---TMT领域从业、创业者、投资人，他们中的许多人有晨读的习惯，喜欢在赶地铁、坐公交的过程中阅读虎嗅讯息。发文高峰还有9时-11时这个高峰，是为了提前应对读者午休时间的阅读，还有17时~18时，提前应对读者下班时间的阅读。

3.3 相关性分析

笔者一直很好奇，文章的评论量、收藏量和标题字数、文章字数是否存在统计学意义上的相关性关系。基于此，笔者绘制出能反映上述变量关系的两张图。

首先，笔者做出了标题字数、文章字数和评论量之间的 气泡图 （圆形的气泡被六角星替代，但本质上还是气泡图）。

上图中，横轴是文章字数，纵轴是标题字数，评论数大小由六角星的大小和颜色所反映，颜色越暖，数值越大，五角星越大，数值越大。从这张图可以看出，文章评论量较大的文章，绝大部分分布于由文章字数6000字、标题字数20字所构成的区域内。虎嗅网上的商业资讯文章大都具有原创、深度的特点，文章篇幅中长，意味着能把事情背后的来龙去脉论述清楚，而且标题要能够吸引人，引发读者的大量阅读，合适长度标题和正文篇幅才能做到这一点。

接下来，笔者将收藏量、评论量和标题字数、文章字数绘制成一张3D立体图，X轴和Y轴分别为标题字数和正文字数，Z轴为收藏量和评论量所构成的 平面 ，通过旋转这个3维的Surface图，我们可以发现收藏量、评论量和标题字数、文章字数之间的相关关系。

注意，上图的数值表示和前面几张图一样，颜色上的由暖到冷表示数值的由大到小，通过旋转各维度的截面，可以看到在正文字数5000字以内、标题字数15字左右的收藏量和评论量形成的截面出现“华山式”陡峰，因而这里的收藏量和评论量最大。

3.4 城市提及分析

在这里，笔者通过构建一个包含全国1~5线城市的词表，提取出经过预处理后的文本中的城市名称，根据提及频次的大小，绘制出 一张反映城市提及频次的地理分布地图 ， 进而间接地了解各个城市互联网的发展状况（一般城市的提及跟互联网产业、产品和职位信息挂钩，能在一定程度上反映该城市互联网行业的发展态势）。

上图反映的结果比较符合常识，北上深广杭这些一线城市的提及次数最多，它们是互联网行业发展的重镇。值得注意的是，长三角地区的大块区域（长江三角洲城市群，它包含 上海 ， 江苏省 的 南京 、 无锡 、 常州 、 苏州 、 南通 、 盐城 、 扬州 、 镇江 、 泰州 ， 浙江省 的 杭州 、 宁波 、 嘉兴 、 湖州 、 绍兴 、 金华 、 舟山 、 台州 ， 安徽省 的 合肥 、 芜湖 、 马鞍山 、 铜陵 、 安庆 、 滁州 、 池州 、 宣城 ）呈现出较高的热度值，直接说明这些城市在虎嗅网各类资讯文章中的提及次数较多，结合国家政策和地区因素，可以这样理解地图中反映的这个事实：

长三角城市群是“一带一路”与长江经济带的重要交汇地带，在中国国家现代化建设大局和全方位开放格局中具有举足轻重的战略地位。中国参与国际竞争的重要平台、经济社会发展的重要引擎，是长江经济带的引领发展区，是中国城镇化基础最好的地区之一。

长三角城市群是“一带一路”与长江经济带的重要交汇地带，在中国国家现代化建设大局和全方位开放格局中具有举足轻重的战略地位。中国参与国际竞争的重要平台、经济社会发展的重要引擎，是长江经济带的引领发展区，是中国城镇化基础最好的地区之一。

接下来，笔者将抽取文本中城市之间的 共现关系 ，也就是城市之间两两同时出现的频率，在一定程度上反映出城市间经济、文化、政策等方面的相关关系，共现频次越高，说明二者之间的联系紧密程度越高，抽取出的结果如下表所示：

将上述结果绘制成如下动态的流向图：

由于虎嗅网上的文章大多涉及创业、政策、商业方面的内容，因而这种城市之间的共现关系反映出城际间在资源、人员或者行业方面的关联关系，本动态图中，主要反映的是北上广深杭（网络中的枢纽节点）之间的相互流动关系和这几个一线城市向中西部城市的单向流动情形。流动量大、交错密集的区域无疑是中国最发达的3个城市群和其他几个新兴的城市群：

京津冀城市群

长江三角洲城市群

珠江三角洲城市群

中原城市群

成渝城市群

长江中游城市群

上面的数据分析是基于数值型数据的描述性分析，接下来，笔者将进行更为深入的文本挖掘。

4 文本挖掘

数据挖掘是从有结构的数据库中鉴别出有效的、新颖的、可能有用的并最终可理解的模式；而文本挖掘（在文本数据库也称为文本数据挖掘或者知识发现）是从大量非结构的数据中提炼出模式，也就是有用的信息或知识的半自动化过程。

本文的文本挖掘部分主要涉及高频词统计/关键词提取/关键词云、文章标题聚类、文章内容聚类、文章内容LDA主题模型分析、词向量/关联词分析、ATM模型、词汇分散图和词聚类分析。

4.1 关键词提取

对于关键词提取，笔者没有采取词频统计的方法，因为词频统计的逻辑是：一个词在文章中出现的次数越多，则它就越重要。因而，笔者采用的是 TF-IDF （termfrequency–inverse document frequency）的关键词提取方法：

它用以评估一字/词对于一个文件集或一个语料库中的其中一份文件的重要程度，字/词的重要性会随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。

由此可见，在提取某段文本的关键信息时，关键词提取较词频统计更为可取，能提取出对某段文本具有重要意义的关键词。

下面是笔者利用jieba在经预处理�...

国产〇〇柒

前几天朋友给了一组行业同行表现数据，让帮忙分析一下自己的店铺问题所在和表现如何。今天我通过这个小示例来跟大家简单分享一下一些基础的分析方法。

（开始之前先跟小伙伴们说明一下，本案例是一个简单的基于一组数据而进行的分析，并通过这个给大家一个相对比较概括的方法介绍，实际分析操作中会遇到更复杂的情况，而且实际分析中的挖掘深度要比本案例要深）

下边是朋友提供的一组数据：

图片：基础数据表01.png

为了保护隐私避免侵权，公司名称这里就以字母替代

通过上图我们可以看到这是几组非常简单的数据，这些数据我们都可以在自己的店铺采集到，但是我们也可以看到这组数据有一个问题，多数数据缺乏一个时间参数，从表格中我们只能看到最后两项有一个准确的时间界定，其他项数据均没有这个界定。不过这里我们采用对比模糊分析的方法，不用考虑数据是否精确，只需要进行对比即可，所以缺乏时间参数问题也不太大。接下来我们通过以下几个步骤进行分析。

一，做筛选

首先我们要对这些数据进行筛选，只留可对比的数据组，剔除无用的数据。方法很简单，这里我们通过公司名称进行检测，进行主营产品类目检查（这里我是以朋友公司产品类目对基础的），通过分析发现C、G、M三个公司的产品与其他不符，这里我们就直接剔除这三家的数据不做参考。

整理后的数据如图：

图片：整理后的数据02.png

（再更复杂的分析中，剔除噪音数据并非这么简单，这里是用这个简单的方式说明一下这个操作步骤，大家在操作中要根据自己实际情况进行数据甄别，甄别的过程是非常复杂和繁琐的，如果这一步出错，做出的分析结果的准确性就很难得到保障）

二，做归类

无用的数据剔除之后，接下来我们就是要对现有的数据进行归类处理。

通过图表数据的阅读，我们可以把里面的数据简单的归为三类：交易数据、回复率、行为数据。交易数据这里主要就是包含前三项，一达通和信保；回复率就是询盘回复率的表现数据；行为数据这里主要是指人的行为，访客和季度、月询盘数。归类后如图：

图片：归类后的数据03.png

这三类数据是有区别的，交易数据和回复率我们可以统一称之为“操作数据”或“加权数据”，因为这些数据的控制权基本掌握在我们手里，我们在这部分数据的积累上有较大的主动权。行为数据可以称之为“结果数据”，这部分数据的直接控制权来自于客户行为，我们无法直接去干预，我们只能通过提升“操作数据”的方法去影响这个“结果数据”。我们之前的操作都是为了这个“结果数据”有较好的表现。

数据归类之后，我们开始分析

三，做分析

由于上面拿到的三类数据有两类属于“操作数据”，这两类对“结果数据”只能产生部分影响，这里我们就不关注这两项数据了（在全局分析中，这些局部数据都可以作为一个参数加入到分析的行列）。这里我们只关注结果数据。这里的结果数据中虽然有三组数据，由于其中一项数据缺少时间参数，所以我们可以把三项数据当作两项去分析，季度和月询盘量可以当作一个有效参数，这个时候我们就把数据优化成两类：访客和询盘。当看到这两个数据的时候我们很简单的就会联想到由他们而衍生出来的一个数据：“转化率”，这个数据能够比较真实的反馈平台效果。接下来我们计算出每一组的“转化率”数据如图（按照月度参数计算）：

图片：转化率04.png

从上图可以看出“转化率”排名如下：

H > K > P > A = F > B > D = E > I = O > J > L >N

当然，转化率高并不代表代表一个店铺的表现就是第一名，这个数据只能判断该店铺引流的精准程度（当然如果需要更深入的分析精准度是需要深入到询盘质量和成交转化中去的，这里不做过多介绍）。我们可以观察一下N店铺的转化率，0.43%的数据与其他店铺相比较差距较大，该店铺的访客流量占据第一位，但是反馈数据在该表中与其他几家并列最后一名，该店铺就需要认真的分析访客来源和未转化的原因（这里就牵扯到了其他数据的数据分析，这里不多介绍）。

当然，从数据组中我们一共可以看到这些数据条件，也可以计算出一个数据进行比较。但是这并不太说明什么太多的问题。接下来我们用加入条件的方法来进一步深入分析。这里我加入的数据是店铺的产品”上架产品数量“这个参数。加入数据到图标（实际操作中我们可以加入更多的可参考数据进行数据分析），如图：

图片：加入产品数量条件05.png

从表格中可以看出产品数量过万的有A B J N ，产品数量5000以上的有D I K L O P，产品数量低于5000的有E F H。从阿里规则上来说，店铺产品数量过多，店铺过于臃肿并不太好，但是这并不代表不用去发布产品了，其实我们真正要做到的是产品数量适中，做到全覆盖即可。从以上店铺的产品数量数据表现可以看出来，该行业的产品数量需要大于5000以上，如果低于5000，应该做不到全覆盖，可能会浪费很多流量（这里是从数据表大致得出结论，如要深入分析具体多少产品数量合适，还需要从其他方面进行综合分析）。我们也可以看到低于5000的几个店铺的访客量分别为：4000，7000，9000（里面有P4P引流数据，所以该数据仅作参考，不可作为实际数据参考），这个数据量并不算高，特别是H，访客是最少，产品数量也是最少，但是我们可以发现H的转化率是最高的，我们这里假设，H拥有A的产品数量（覆盖面），保持转化率不变，其他条件随覆盖面递增，这个时候我们可以看到H的数据应该是这样的，如图：

图片：修改数据后转化询盘06.png

当然这是一个理想的假设状态，覆盖，访客，转化这些数据都是的动态的，越是大的数据体量对转化率的控制难度越大，但是不可否认的是，如果产品覆盖能够达到一定程度的话，对访客和询盘转化肯定是有益处的，示例中虽然达不到492条的完美状态，但是询盘数量增加2倍应该还是有保障的。从这些数据的表现我们也可以看到覆盖的重要性（其实覆盖是一个很复杂的事情，并不是咱们想象的那种把产品和关键词上传上去就完事儿的事情，有时间可以跟大家深入交流关于覆盖的问题）。其实这些数据中还有很多可以对比解读的地方，我们今天先这里，以覆盖落幕。