前言

IBM大中华区总经理胡世忠曾说：数据构成了智慧地球的三大元素——智能化、互联化和物联化，而这三大元素又改变了数据来源、传送方式和利用方式，带来“大数据”这场信息社会的变革。

从上可见，时代的变革是源于对数据的利用，对企业而言，数据也同样是其发展、转型的命脉。在工作中，我的前辈不止一次地强调，数据是公司的资产，而且举足轻重。我们对待数据，一定要严谨，经得起考验，对自己的数据负责，这是一个数据人的基本要求。

数据资源

大数据时代，数据虽然很多，但是也不是随意得来的，需要利用各种渠道和方式获得。不管从哪个角度来说，数据可分为内部数据和外部数据。内部数据是企业在日积月累的经营中得来的，我们应该对这些数据挖掘、收集有价值的东西，形成企业的数据资产。内部数据重在后期的处理和分析上。

下面先说外部数据的获取方式，以及通过Excel操作来获取外部数据。

外部数据获取方式

1、专业网站看数据（某一个行业、某一件产品）2、通过收费渠道买数据（第三方数据平台等）3、通过特殊形式引数据（网站爬虫，统计网站等）4、自身积累数据（时间久、跨度长）

Excel获取外部数据

作为一个数据分析师以及想更进一步成长为数据科学家，熟练操作基本的办公软件以及SQL查询是很重要的。请看下面通过Excel获取外部数据的步骤。

第1步：打开“新建web查询”框。新建Excel工作簿，在打开的工作表中单击“数据”选项卡，然后在“获取外部数据”组中单击“自网站”按钮，如下图。

第2步：输入网址并选择要导入的表格数据。在弹出的“新建web查询”对话框中的“地址”文本框中复制粘贴上述网页的网址，然后单击“转到”，找到网站中的表格数据后单击表格左上角的箭头→，图标变成选中状态的复选框√。如下图。最后单击下方的“导入”按钮。

第3步：选择数据的放置区域。点击导入后，Excel会出现“导入数据”对话框，如下图，选中你想放置的单元格，单击“确定”开始导入。

第4步：美化导入的数据。由于导入的数据多且乱，要调整格式使数据规范，并启用冻结窗格功能方便浏览。如下图。

好了，上面就是通过Excel操作来获取网站上的外部数据，很简单吧，但网站中的数据并非都是以表格的形式呈现，现在大部分是以json格式呈现，Excel不是万能的，而且现在很多网站需要付费才能导数据（上面说过数据就是企业的资产）。

小结

希望通过上面的操作能帮助大家。如果你有什么好的意见，建议，或者有不同的看法，我都希望你留言和我们进行交流、讨论。

End.

全球进入互联网特别是移动互联网时代后，一个巨大进步是一切活动包括政治经济文化娱乐等都在往互联网特别是移动互联网这个舞台上转移。所有社会活动、经济金融交易等都在网络上留下了痕迹或者说有迹可循。这相对于过去在网络线下相比较带来的进步是革命性、历史性、颠覆性的。

革命性主要在于通过对人们在网路上留下的印记的采集、挖掘、提炼与分析，可以分析出背后许多经济金融文化甚至政治等有巨大价值的东西。思想支配行动，行动又反映思想。从网路上的留印行动中挖掘分析后就可以基本得出其思想所在，从网络上对一个主体各个方面留痕进行大挖掘、大计算、大分析基本就可以摸清楚预测出来这个主体想要什么，需求何在？这就可以分类施策、细分客户、精准营销。这个商业价值，其实不仅是商业价值包括政治文化价值都是无限的。

我仅从经济学上讲一个例子。此前，马云曾经讲过，大数据、云计算诞生以后，经济或可以进入到计划经济体制里。猛一看，貌似梦想一样，但细细分析似乎也不无道理。计划经济与市场经济都是配置资源的手段。计划经济之所以比市场经济在效率等方面低，弊端多，不在于计划经济体制本身，而在于没有技术等手段与能力来实现计划经济的高效性与准确性。过去往往是拍脑袋搞计划，即使到市场调查，准确性也难以达到。这是问题所在。

目前有了网络，有了网络上的大数据积累，有了云计算，或给计划经济以重新复活的机会，给了计划经济体制优越性以证明的机会。这种可能性不是没有。插上大数据、云计算翅膀的计划经济或比市场经济更加高效，更加精准，对市场的周期性破坏或就此消失。

这就是所说的大数据是一座大金库的原因。不过，这个大金库要充分挖掘与发挥出来的话，一个大前提是要对大数据进行充分的采集、挖掘、整理、甄别、分类、分析等。这个大数据中包括你我他几乎全部在网路上的百姓民众消费者。也就是说，每一个在网络上留下印记即数据的你我她他都是被分析的对象，你留下的几乎所有信息都在被采集挖掘分析的范围之内。这就牵扯到另一个问题：隐私保护问题。

近期，用户在查阅自己的支付宝年度账单时默认勾选“我同意《芝麻服务协议》”这件事引起一阵波澜，蚂蚁金服也回应道歉了。无论处于什么好意，默认勾选“同意”肯定是不合适的。不过，从这件事中的一些争论反应看，确实存在着一些对大数据在采集使用与隐私保护上的较大偏差甚至是糊涂认识。需要以理性的思考予以梳理厘清。

我的认识是，只要你在网路上留下了印记即数据基本上没有隐私可言。即使在没有网络、都是线下交易活动的过去也基本如此。例如:过去你到银行办理存款贷款汇款，你到房管所办理房子登记过户，你到派出所办理户口入户迁移，你办理入学入托上大学等等都要登记家庭、身份证、电话等基本情况与信息。现在在网络上同样如此。只要存在这些情况，你的信息或者隐私已经裸露出来了。除非你生活在大山深处的世外桃源里。

当然，在网络时代个人信息与隐私或者裸露的更加严重而已。这里一个关键问题必须甄别清楚，每一个人在网络积累的大数据不让采集挖掘分析使用是绝对不行的。这不是对大数据金矿的极大浪费吗？关键在于如何使用？关键在于不是不让使用而是使用后一定要为客户的隐私以及普通信息数据保密。保密，是问题的关键所在。

对每一个人数据信息的使用是不可避免的。只要有交易，就一定要使用你的数据。比如，你有贷款信用需求，这个金融交易一定要充分使用你的数据信息的。网络信息如此，线下在银行贷款比如房贷等，对你的个人所有情况、数据信息等几乎是挖地三尺的。关键在于使用以后，不能泄露给第三方，要替交易客户保护好数据信息。所谓的保护隐私数据，主要的问题在这里。

非金融信用业务也有保护数据信息隐私问题。你去一个网站注册、你想使用共享单车都需要注册相关信息数据的。注册这些数据信息以后，你不能说不让网站等挖掘使用你的数据信息，注册时也等于是一种交易，除非你不注册。关键的问题还在于，网站、共享单车等使用客户数据后，一定要对客户保密。

这里面牵扯第三方使用数据如何办的问题。我个人认为，牵扯所有经济体的金融信用数据问题，各大平台包括央行在内都可以共享信用等级数据。目的在于形成一种“有信走遍天下，无信寸步难行”的社会氛围与高压态势，使有信用者得以提倡褒扬，无信用者如过街老鼠人人喊打。全社会形成：信用贵如金子，无信耻辱透顶，这才能形成信用的正向激励机制。

第三方使用其它数据，网站等平台应该通过协议约束征得被采集人的同意。同样，必须有约束条款，第三方也必须给客户数据信息保密。

总之，大数据这座金矿必须充分利用使用与挖掘开采，不能造成这么宝贵的大数据资源闲置浪费，同时，使用以后关键在于要保护好被采集数据者的数据信息以及隐私。

一、携程实时用户数据采集系统设计实践

随着移动互联网的兴起，特别是近年来，智能手机、pad等移动设备凭借便捷、高效的特点风靡全球，同时各类APP的快速发展进一步降低了移动互联网的接入门槛，越来越多的网民开始从传统PC转移至移动终端上。但传统的基于PC网站和访问日志的用户数据采集系统已经无法满足实时分析用户行为、实时统计流量属性和基于位置服务（LBS）等方面的需求。

我们针对传统用户数据采集系统在实时性、吞吐量、终端覆盖率等方面的不足，分析了在移动互联网流量剧增的背景下，用户数据采集系统的需求，研究在多种访问终端和多种网络类型的场景下，用户数据实时、高效采集的方法，并在此基础上设计和实现实时、有序和健壮的用户数据采集系统。此系统基于Java NIO网络通信框架（Netty）和分布式消息队列（Kafka）存储框架实现，其具有实时性、高吞吐、通用性好等优点。

1、技术选型和设计方案：

一个典型的数据采集分析统计平台，对数据的处理，主要由如下五个步骤组成：

图1、数据平台处理流程

其中，数据采集步骤是最核心的问题，数据采集是否丰富、准确和实时，都直接影响整个数据分析平台的应用的效果。本论文关注的步骤主要在数据采集、数据传输和数据建模存储这三部分。

为满足数据采集服务实时、高效性、高吞吐量和安全性等方面的要求，同时能借鉴互联网大数据行业一些优秀开源的解决方案，所以整个系统都将基于Java技术栈进行设计和实现。整个数据采集分析平台系统架构如下图所示：

图2（数据采集分析平台系统架构）

其中整个平台系统主要包括以上五部分：客户端数据采集SDK以Http(s)/Tcp/Udp协议根据不同的网络环境按一定策略将数据发送到Mechanic(UBT-Collector)服务器。服务器对采集的数据进行一系列处理之后将数据异步写入Hermes(Kafka)分布式消息队列系统。为了关联业务服务端用户业务操作埋点、日志，业务服务器需要获取由客户端SDK统一生成的用户标识（C-GUID），然后业务服务器将用户业务操作埋点、日志信息以异步方式写入Hermes(Kafka)队列。最后数据消费分析平台，都从Hermes(Kafka)中消费采集数据，进行数据实时或者离线分析。其中Mechanic(UBT-Collector)系统还包括对采集数据和自身系统的监控，这些监控信息先写入Hbase集群，然后通过Dashboard界面进行实时监控。

（1）基于NIO的Netty网络框架方案

要满足前面提到的高吞吐、高并发和多协议支持等方面的要求。我们调研了几种开源异步IO网络服务组件（如Netty、MINI、xSocket），用它们和NginxWeb服务器进行了性能对比，决定采用Netty作为采集服务网络组件。下面对它进行一些概要介绍：Netty是一个高性能、异步事件驱动的NIO框架，它提供了对TCP、UDP和文件传输的支持，Netty的所有IO操作都是异步非阻塞的，通过Future-Listener机制，用户可以方便的主动获取或者通过通知机制获得IO操作结果。

图3（Netty框架内部组件逻辑结构）

Netty的优点有：

a、功能丰富，内置了多种数据编解码功能、支持多种网络协议。

b、高性能，通过与其它主流NIO网络框架对比，它的综合性能最佳。

c、可扩展性好，可通过它提供的ChannelHandler组件对网络通信方面进行灵活扩展。

d、易用性，API使用简单。

e、经过了许多商业应用的考验，在互联网、网络游戏、大数据、电信软件等众多行业得到成功商用。

Netty采用了典型的三层网络架构进行设计，逻辑架构图如下：

图4（Netty三层网络逻辑架构）

第一层：Reactor通信调度层。该层的主要职责就是监听网络的连接和读写操作，负责将网络层的数据读取到内存缓冲区中，然后触发各种网络事件，例如连接创建、连接激活、读事件、写事件等，将这些事件触发到Pipeline中，再由Pipeline充当的职责链来进行后续的处理。

第二层：职责链Pipeline层。负责事件在职责链中有序的向前（后）传播，同时负责动态的编排职责链。Pipeline可以选择监听和处理自己关心的事件。

第三层：业务逻辑处理层，一般可分为两类：a. 纯粹的业务逻辑处理，例如日志、订单处理。b. 应用层协议管理，例如HTTP(S)协议、FTP协议等。

我们都知道影响网络服务通信性能的主要因素有：网络I/O模型、线程（进程）调度模型和数据序列化方式。

在网络I/O模型方面，Netty采用基于非阻塞I/O的实现，底层依赖的是JDKNIO框架的Selector。

在线程调度模型方面，Netty采用Reactor线程模型。常用的Reactor线程模型有三种，分别是：

a、Reactor单线程模型：Reactor单线程模型，指的是所有的I/O操作都在同一个NIO线程上面完成。对于一些小容量应用场景，可以使用单线程模型。

b、Reactor多线程模型：Rector多线程模型与单线程模型最大的区别就是有一组NIO线程处理I/O操作。主要用于高并发、大业务量场景。

c、主从Reactor多线程模型：主从Reactor线程模型的特点是服务端用于接收客户端连接的不再是一个单独的NIO线程，而是一个独立的NIO线程池。利用主从NIO线程模型，可以解决一个服务端监听线程无法有效处理所有客户端连接的性能不足问题。Netty线程模型并非固定不变的，它可以支持三种Reactor线程模型。

在数据序列化方面，影响序列化性能的主要因素有：

a、序列化后的码流大小（网络带宽占用）。

b、序列化和反序列化操作的性能（CPU资源占用）。

c、并发调用时的性能表现：稳定性、线性增长等。

Netty默认提供了对GoogleProtobuf二进制序列化框架的支持，但通过扩展Netty的编解码接口，可以实现其它的高性能序列化框架，例如Avro、Thrift的压缩二进制编解码框架。

通过对Netty网络框架的分析研究以及对比测试（见后面的可行性分析测试报告）可判断，基于Netty的数据采集方案能解决高数据吞吐量和数据实时收集的难点。

》》点击阅读全文

数据采集内容

数据采集包括历史数据的采集和当前市场数据的采集，是科学进行数据分析的基础，数据采集的准确与否直接决定了数据分析的价值。

在企业运营过程中，假设企业环境基础不稳定，项目发展的规律在运营期间内没有大的变化，我们可以通过搜集准确的历史数据或可比历史数据，根据以往的发展规律，运用定量预测技术对未来收入和成本加以预测，直接推算出预测的相关数据。当运营环境略有改变时，可以利用定性预测技术对预测结果加以修正。因而，这类项目的数据采集主要是对历史数据的有效采集。

对于新开的发的项目，由于缺乏可比性历史数据，或者市场发展规律不明确或不稳定，我们则先需要通过市场调研甄别影响市场需要求的主要市场因素的变量，根据项目具体情况选择市场调研的途径和方法，进而采集相关的市场数据，形成预测主要市场因素间关系的数据基础。

企业所在的市场不同，影响需求的主要因素不同，数据采集的途径也不同。

1、制定市场研究的具体计划

在市场研究工作中数据采集是最重要的部分，它帮助解决投资与经营中相关的重要数据的确定和决策的改进。然而，数据采集工作是要花费资金的，尽量其带来的益处不言而喻，但是，如果要采集数据，就一定要让这笔费用华的物超所值。为了达到这一目标，需要周密的计划、安排和监控。这样做，不仅从协调计划的方面看是很重要的，而且也确保在预计时间内获得重要的数据，同时也可将成本监控在一定的范围内。

2、明确数据来源

在数据采集前，必须要对数据资料来源进行选择。数据资料按其来源不同，可分为第一首资料和第二手资料。第一手资料指为了一定的目的采集所得的原始资料。采集第一手资料的费用比较高，但资料的价值相当大。这种资料常常来自现场的调查，其准确度高且针对性强。第二手资料是指采集现成的资料，包括互联网上的信息，各种报刊

文献上的资料，还有各类权戚机构发布的统计和研究报告等等，在现代项目研究中，由于互联网应用的普及，获取各种二手资料比起以往变得更加便捷，内容也异常丰富，所以二手资料的采集成为非常重要的调研手段．它有方便、快捷．成本较低的优点。数据分析人员还可以从内部资料中提取第二手资料．也可以利用外部资料间接获取。常见的内部资料往往来自企业的财务报表．比如．资金平衡表、销售统计以及其他报表档案。项目数据分析的起点始于采集第二手资料．但是这样的二手资料必须经过仔细统计、筛选及甄别．以尽可能保证资料的精确、可靠和真实。

3、明确抽样方案及样本容量

在一手数据的采集中，根据项目所属的特定行业及特定市场定位，许多数据可以通过直接采集得到全部样本，尤其对于成本、费用等可控制的要素；然而，对于其他数据的采集，比如说产销硫及其趋势变化数据，其总体范围很广，很难直接获取全部数据。这时我们常采川抽样技术，从拟采集数据的总体中抽取有代表性的部分单位作为样本，对样本进行调查或观察，并根据样本统计城估计总体参数，对所猫投资数据进行顶测

4、明确数据采集方法

数据采集往往采用三种方法：访问调查法、实验法和观察法。访问调查法通过访问代表性样本而获得数据，强调语言应答。而观察法强调非语言方式，通过调研人员在事件发生时或在过去已发生事件的记录中采集信息 · 与上述两种方法相比，实验法能够有效控制调研环境，在实际项目数据采集中，可根据项目特点、数据采集成本费用预算标准、时间及精度要求，采用不同的方法。

5、问卷设计

为了达到采集数据的目的，采川问卷方式进行调査是近年应用最广的一种调査手段。问卷设计的好坏，在很大程度上取决于调查问卷的回收率和有效率。另外，—张好的调查问卷必须满足后期数据分析的两个基本标准:相关性与准确性。

问卷设计部分包括了对问卷结构、问卷设计原则、问卷的问题格式等问题的讨论与分析。

6、数据处理及分析

原始数据收集回来后，可能出现虚假、差错、冗余等现象，如果简单地把这些数据投 入预测分析，可能会导致错误的分析结论，从而使整个分析工作失去意义。因此，首先要对数据进行整理和加工，才能进行分析研究并得出科学的结论。数据的处理是指运用科学的方法，将调査所得的原始资料按调査目的进行审核、编码、录人及预分析的过程

经过两周的整理总结，沉淀出来好多数据采集的经验与大家分享。

前嗅免费模板共享链接：http://forenose/help/collection/template/cases.html

1.如何进行数据采集？

①下载安装软件后，登录到软件上。

②准备好模板：在前嗅的官网上下载免费的模板或自己配置好的模板

③将下载的官网导入到软件中。

点击文件---点击导入采集文件（将采集文件导入，自己配置的模板请忽略这一步）

④在数据建表中建关联数据表

选中需要采集模板下的表单---点击创建关联数据表，所创表名不能为汉字，点击确定---在所创数据表前的方框打勾即可关联数据表。详情见下图。

此时在数据浏览中就存在了刚刚建的关联数据表。

⑤进行数据采集。

在需要进行数据采集的模板前打勾--点击允许采集--点击开始按钮即可进行数据采集。详情见下图。

⑥数据预览及导出

选中关联表---点击刷新按钮即可查看数据---点击导出按钮即可导出数据。详情见下图。

多种导出方式：

a.可以将采集到的数据全部导出。

b.可以将数据分割导出，设置特定数目后数据会分别储存放在文件夹中。

c.可以将每个字段所采集到的内容分别导出到不同文件夹，方便查看。

数据导出教程：

http://forenose/help/guildbook/crawler_new/5-2.html

2.所采集的网站弹验证码是怎么回事？

弹验证码分为四种情况：

①登录需要验证码：登录时只需要一个验证码，所以直接手动填写配置即可。

②多账号登录：每次账号登录都需要验证码，此时应该接第三方打码平台。

前嗅（forenose）是首个深度大数据专家。

提供数据采集-分析-处理-管理-营销-应用，自主知识产权的全套大数据产品 。

ForeSpider 前嗅：手把手教你数据采集

ForeSpider是一款非常好用的数据采集软件，因为属于专业性工具，除了帮助文档外很少有使用教程。所有有很多人在使用的过程中遇到问题难以解决，今天给大家介绍ForeSpider数据采集系统的使用教程，希望能对大家的工作有所帮助。

教程的示例网站是大众点评，要得到50页内所有医院名称，该医院评论总数，医院总体星级，各项评分，医院评论的用户名，评论内容，评论时间，用户点评星级，获赞数量和回应数量。

首先我们先新建一个频道，我给它命名为大众点评，然后在频道配置里输入我们想要爬取数据的网址，需要在频道配置处输入想要得到数据的网址，大众点评需要开启cookie，从右面可以开启，网站不同有的不需要，视情况而定。 现在默认模板（1）就是我们要的网站页面，鼠标放在医院标题处如图，从左下角能看到医院的网址链接。

现在点一下右上角的采集预览，我们能得到整个页面的所有网页链接，下拉滚动条到这个位置就会发现跟上图相同格式的链接，这就是我们需要的所有医院的链接。

我们用不到的需要过滤一下，可以通过地址过滤和标题过滤方法筛选。点击软件右上角模板抽取配置里面的链接抽取，里面有地址过滤和标题过滤两个选项，点击地址过滤，软件右下角如图：

过滤规则选择包含，过滤串内输入想要得到的医院链接，后面这串数字我们用“\d”表示，用“\e”表示结束，例如https://dianping/shop/\d\e，这样就能采集网页内所有这种格式的网页链接。

当我们想要采集的网页下面有翻页的链接，就必须配置翻页。除了在右上角默认模板处抽取我们想要的得到的医院链接外，还要再新建一个链接抽取，抽取页面翻页的地址。

我们继续从采集预览处得到翻页的链接，过滤规则选择包含，通过观察发现几个链接的相同点，输入到过滤串里就能得到想要的翻页链接了。

第一层级的模板建好了，下面我们随便点进一个医院主页内，复制链接建立下一层级模板。在默认模板（2）的示例地址内输入医院主页的链接。

因为我们需要采集该医院所有用户评论，所以我们找到下面的“更多点评”，通过刚刚地址过滤的方法，过滤出更多点评的链接，并建立模板（3），示例地址输入刚刚过滤的得到的“更多点评”的网址。

注：点击链接抽取，看左下角关联模板处，一定要关联到下一层级的模板，如果是翻页的链接抽取，要关联自身模板，否则会数据采集失败。这点一定要注意。

这样模板的基本配置就完成了，下一步是建立表单，下图是我们的需求，红色字体我们能从模板二采集到，蓝色字体我们能从模板三采集到，所以我们需要建立两个表单。

点击表单配置，新建一个表单，添加一个网页主键如图，一定要勾选索引字段，键值唯一，主键字段三个选项，取值类型选择网页主键点击确定。

然后添加下一个字段如标题“title”

取值类型选择“选区内全部文本”，变量类型选择“string”，选择合适的字符长度点击确定。依次建立所有字段。

这是我建立的两个表单的所有字段，表单名称分别为“大众点评1”、“大众点评2”，建立好以后点击保存即可。点开模板配置，每一个模板对应相应的表单，右键模板二“添加数据抽取”，表单名称选择“大众点评1”。

同样在模板三处再添加另外一个数据抽取表单，添加好后如下图所示：

单击“title”，然后按住ctrl键同时鼠标左键点击对应标题，内容过多的话按住shift可以调整内容大小，选好后点击保存。

全部选取完后点击左上角的文件，然后全部保存。

下一步点击数据，连接数据库，然后再次点击数据，选择数据表，选择刚刚新建两个数据表的字段后创建表，创建好后勾选并确定，就可以进行数据采集了（如果表单有问题需要更改，改好后需要重新创建表单），速度慢可以点击设置里面的线程设置，设置多线程。

这只是一个简单的教程，软件还有很多强大的功能，祝大家使用愉快！

收银数据，特别是消费者消费数据是一切营销的基础数据。比如说做会员营销，卡券营销，会员充值等，如果无法知道消费者的消费数据，那么这一切营销都无从谈起。

在目前的采集收银数据的方法中，需要软件对接门店的收银系统，面对市场上不同品牌，不同功能的收银系统，这种一对一对接开发方式成本过高，耗时过大，很难大规模使用。

数贝通（TB有售）提供了一种新的解决方案。数贝通使用数据线连接在收银机和打印机中间，可以采集、识别每一张消费小票信息，并且可以自动在消费小票后面追加打印二维码。这个二维码用户可以根据实际需要自行设置。可以是文本，也可以是二维码。可以对接会员、手机支付、抽奖、游戏等。

数贝通最大的优势是不需要在收银机上安装任何软件，不需要对接收银系统，不需要开发，也不需要收银员任何操作，完全实现即插即用。

数贝通兼容USB、并口、串口、网口的小票打印机，采集识别数据安全高效。