在日常工作中，除了1104报表等规定动作之外，各种各样、没完没了的专项统计、快速调查，报表、报告，简直就是分析人员难以摆脱的梦魇！

但工作是干不完的，该你负起的责任也是推不出去的，那有没有更好的办法少加些班呢？

我可以肯定的说：有的，只要你改变工作流程！

『常见的快速调查方式』

首先，你要弄清楚你的领导想要什么，只有这样布置工作的人才能知道写什么样的调研提纲，画什么样子的表，否则弄着弄着就成了庞大无比的表，然后被发通知，要求几天之内就得报回，你还能活着走出公司的大门？。

其次，超人一步的提前思维，上面如果催得紧，你就得抓紧给一线人员原表转发，并要求他们尽量提前2天上报，要不你是绝对来不及汇总的。

然后，一线人员填表各种实际数据与报表口径有差异，电话打爆，大家商量着填，时限到了，赶紧报回，还有报告没写呢！

传话的本来就容易两头受气，下面的几家机构，总有人腰来腿不来，不是没报来，就是表不平，一不留神，就把身份证号当贷款余额给填了，晕死！:-(上面催得不行，本来时间就紧，还又提前了两天，让不让人活啦！

最后，最终汇总的人，报告里想要知道的数据情况没有，不沾边的内容一大堆，数与数还不平，你能怎么说？让下面的人再给你重做？

『标准化思维下的调查方式』

上述需求，如果依照数据标准化思维来考虑，其实只需三张表就能解决问题，请看明细表、参数表、透视表解决数据汇总与分析问题的示例。

个人以为，对于一线干活的人来讲，做好科学合理的明细表足矣！对于中后台的人，用那张透视表即可。如果从上到下都事无巨细的一大堆表，结果只能是都忙死，效率还低。

首先，分析需求，下发通知及表样。

在认真分析决策需求的基础上，一般就搞两张表，一是明细表，弄清自己需要获得的分析指标有哪些，也就是表中的字段，确保不重不漏，覆盖调查总需求。

二是参数表，为明细表中的各个字段确定标准化的可选值，最好能依托现成的统计指标体系（如1104报表），避免填表的随意性。

然后就可以下发了。

其次，一线人员依照参数表，填好明细表，保证字段与记录不重不漏，大数碰上就行。

然后就可简要写个报告，随明细表上报了。

再次，收回明细表并勾稽，无论是二传手，还是最终分析人员，只需初审报来的明细表是否合参数表的要求，对于因手工填报出现的数据质量问题，因为可定位至每一笔明细记录，所以很易纠改或确定处理方式。

当明细表审过后，与下一级填报人员的沟通即完毕。

最后，汇总数据并分析。这1，2，3的步骤完成了，到了4，分析人员只需再设计一张透视表，结合调查提纲与分析搞OLAP，动态分析撰写报告。

-因为最初的明细表覆盖面广，颗粒度细，所以除非是最初没考虑到的个别情况，明细表+透视表+透视图，三者兼用，肯定可以满足调查需求，而且极大地减小了数据勾稽的工作量，多么简单快捷！

很多分析人员，在最初的分解需求，下发通知与表样环节，搞“过水面”，照抄照转，当时是轻松了，却越往后越麻烦，直至事赶事儿，数据能勾稽平就不易了，谁还看数据真实性与分析深度呢？

工欲善其事，必先利其器，标准化、大数据的思维方式还有很多需要我们仔细研究探讨的地方！让我们一起共同学习大数据思维吧！

香港《南华早报》12月1日文章，原题：内地消费者机构称，中国的智能手机App正收集过多个人信息

中国许多智能手机都在过度收集有关用户的个人信息，其中包括用户位置、通讯录和手机号码等。

中国消费者协会近期对100款App进行测评后发布报告称，其中91款涉嫌过度收集个人信息，但该报告并未将(所有)这些App的名称公之于众。该报告分别列出相关App在数据隐私及保护声明中存在的常见问题。

“从本次测评情况看，大多数App仅达到及格水平甚至低于及格水平，而且各类App差距明显，尤其是中小企业App问题较为突出，存在过度收集信息、无隐私条款、条款不完整以及不合理格式条款等问题。以上问题凸显我国保护消费者信息形势的严峻性，应当引起相关部门的高度重视。”该报告称。

报告显示，导航、旅游、酒店预订、云存储和健康管理等服务提供商收集用户信息最多。例如，美图秀秀涉嫌过度收集有关用户的可识别生物信息、财务信息等。小黄车向关联公司及第三方分享相关信息时，未单独征得用户同意。支付宝未在收集的信息种类中注明个人敏感信息，且未对核心和附加功能进行区分。

在中国，数字经济崛起意味着如今人们越来越多的活动都在线上进行，对用户隐私、数据安全以及全世界科技企业如何处理个人信息的担忧正与日俱增。▲(作者莎拉-戴,会聪译)

一个高效的采集工具，能帮助我们更快速地完成采集。

火车采集器，就是这样一款高效能地网页数据采集软件，它实现了将数据从采集到处理到发布的一系列智能操作，真正意义上做到了采集智能。

不仅如此它还能够快速稳定地应对大量的数据采集需求，取代手动采集模拟人工操作，大幅提升了工作效率，节约人力资源。

作为一款专业的网站抓取工具，火车采集器在网页数据抓取、处理、分析、挖掘方面尤其擅长。

现如今市场上的网页采集软件优劣纷杂，火车头无疑是一款非常值得信赖并且极其好用的网页数据采集软件。

它可以灵活迅速地抓取网页中散乱分布的文本，图片等资源信息，然后通过一系列的分析处理，准确挖掘出你所需要的绝大部分数据信息。

这些数据信息你可以选择发布到网站后台、导入数据库，也能够保存在本地 Excel，Word 等格式的文件中。

采集新闻，采集文章统统不在话下。老板再也不用担心做不完，一切变得so easy

历经十年的升级更新，火车采集器积累了大量用户和良好口碑，是目前市场上最受欢迎的网页数据采集软件。

官方网站：locoy

为采集而生

2005年~2015年，火车采集器的用户量一直稳居国内第一。

十年口碑

火车采集器目前用户突破十万，十年间在用户中形成了良好口碑，为我们的品牌传播奠定了基础。

真正通用

采集不限网页，不限内容，支持多种扩展，打破操作局限。采什么，如何采，都由您决定！

高效稳定

分布式高速采集系统，多个大型服务端同时稳定运作，快速分解任务量，最大化提升效率。

数据精准

内置采集监控系统，实时报错及时修复；采集发布时确保数据零遗漏，为用户呈现最精准的数据。

对于中小型企业来说，火车采集器是一款实用价值相当高的采集软件。

采集智能化，采集自动化带来的便利，大大降低了数据采集的难度。现如今的社会，信息便是资源，资源决定了企业在商场上能够走多远，所以信息储备至关重要不容忽视。

作为一个有点编程基础的人来跟你讲，火车头采集器，是一款就算零基础的门外汉都能很快熟悉，并且掌握操作的网页数据采集软件，新手体验度实在是不能更友好了。

对新手小白而言，火车头是一款非常合适好用的采集工具，学会熟练的使用火车头采集器也会让要用到网络数据采集技术的新手小白们事半功倍。

下面我就来详细介绍一下有关火车头采集器这款软件的特点吧

分布式高速采集

任务分配至多个客户端，同时运行采集，效率倍增。

多识别系统

配备正文识别、中文分词识别、任意编码识别等多种识别系统，智能识别操作更轻松。

可选验证方式

可选择是否使用加密狗，随时保障数据安全。

全自动运行

无需人工值守操作，任务完成后自动关机。

替换功能

同义，近义词替换、参数替换，伪原创必备技能。

任意文件格式下载

图片、压缩文件、视频等任意格式的文件都能轻松下载。

采集监控系统

实时监控采集，确保数据的准确性。

支持多数据库

支持Access/MySQL/MsSQL/Sqlite/Oracle多种类型的数据库保存及发布。

无限级多页采集

支持包含ajax请求数据在内的多个页面信息的无限级采集。

支持扩展

支持接口和插件扩展，满足各种采发需求。

以上便是全部，但是火车头采集器的好处却不止这么多。这些仅是其中的万分之一。

你还可以用它来采集文章、新闻素材填充你的网站内容，如果你想要采集更多有趣内容，有兴趣的小伙伴们可以转战火车采集器官方论坛，那里有更多车友们可以为你答疑解惑。

作为一款网页数据采集器，火车头秉承一句格言：

“好的软件的作用是让复杂的东西看起来更简单。”

潜心修炼自己的产品，给客户以最好的服务，才对得起客户对我们的支持

火车头一直以来坚持一句口号：“做数据采集，我们是专业的！”

好了，今天的文章就写到这里了，君问归期未有期，红烧茄子油焖鸡。

迷弟迷妹们咱们下期见！

随着大数据越来越被人重视，数据采集的挑战变得尤为突出。这其中包括：

数据源多种多样数据量大变化快如何保证数据采集的可靠性的性能如何避免重复数据如何保证数据的质量

高性能分布式采集，帮助用户以最低成本、最少人力、最高效率完成大数据应用开发，乐驰分布式采集系统替您解决一切采集难题！

乐驰分布式采集系统

合肥乐维信息技术有限公司开发的一款大数据服务产品

（补充说明：合肥乐维成立于2008年，是国内最早从事大数据服务的企业之一、合肥市首批大数据认定企业、安徽省大数据产业联盟理事成员、安徽省软件行业协会“双软”认证企业。）

以高性能分布式采集、存储为核心，建立分工明确的功能模块进行高度协作，融合打码、分词、代理、排重等实用性服务，乐驰分布式采集系统真正做到了满足当下广大中小企业对“实时、高难、海量”级大数据业务场景的根本需求。

乐驰特色与难点攻克

方便的web管理

新增、编辑、删除、分发、执行、周期与间隔配置等，系统的所有管理都可以在网页上完成。

灵活的应用框架

基于框架开发应用，可适应各种采集场景。

多场景多任务多线程，自动运行、分发，管理。

无缝对接火车采集器火车浏览器的规则脚本。

极限的采集能力与海量的存储能力

单日亿级别数据采集量

最大支持两百集群

支持200M/s的写入速度

按需配置，弹性增加存储节点

强大的统计功能

网络、数据、集群等信息实时监控。

多维度，多角度查看任务实时状态。

轻松突破IP封锁

支持Http代理

支持PPOPE拨号换IP

支持PPTP拨号换IP

支持VPN拨号换IP

验证码识别毫无压力

针对当前众多网页普遍存在的反爬虫机制之一“验证码”识别，乐驰提供了多种应对方案：

支持接入现有的各种打码平台用户可根据接口自行开发打码插件可使用乐驰自带的验证码识别方案

基于分布式中心控制服务器群组打造大数据云采集支撑平台，乐驰分布式云采集系统功能更多，应用更为灵活，可操作性更强，性能与效率也更高。

满足实时、海量、高难，将针对传统采集过程中常见的难点一一攻克，六大特色助乐驰分布式云采集系统采集数据毫无压力!

智能硬件结合大数据优势，全方位挖掘用户线下、线上行为，精准定义目标客群特征、消费偏好、地域分布，为零售客户提供选址招商、运营管理、客群洞察、推广营销、实现 营销的“点对点”高效精准的传播，是新一代人工智能思维下的营销新武器。

店内优化

客流实时监测

顾客质量和转化率

顾客运动轨迹热点动图

店内商品试用、转化率

新客招募

厘米级精准定位新客，信息采集分析

对接各个广告平台，精准投放

广告效果评估

提高活动效果

展示真实人流，轨迹动图，客观评估活动效果

场景式营销，广告实时送达

用户画像

了解品牌受众，帮助品牌定位

进店顾客人群画像采集

人员、物品管理

优化员工管理系统，监测到岗及工作时间

贵重物品定位，防盗防损

优化库存管理

探针

集探针，iBeacon，商品触碰探测为一体

wifi与gprs两种上报信息方式

搭载gps模块，采集地理位置信息

出色的定位技术

手机号与mac地址绑定方案

平台化运作，提供丰富的上层接口给集成商

解决方案

购买地址：https://detail.1688/offer/551150997804.html?spm=b26110380.sw1688.mof001.1.b4WnET

或阿里巴巴搜索：58数云、潜客宝

哎呀，国庆第四天啦！

手机变传感器，轻装出门！

手机可以当指南针来用？！

所需工具：Sensor Sense（关注维信黑马科技 对话框内回复667获取）

适用系统：安卓用户

Hello，各位大佬们，今天让你把手机变换成多功能数据采集器，当成指南针、传感器来用！忒牛了！出去旅行的你确定不安装一个吗？！

这款工具需要在 Google Play 的环境下才可以运行所有的数据采集，如果没有安装就只能运行部分数据采集。

打开这款工具，可以看到，所有的功能都将以卡片的形式展现在首页。选择「磁场」功能，它会根据不同的角度采集不同的数据。

除此之外，还有可以用来导航的「陀螺仪」，以及可以反映你手机可以承受的「重力」选项。另外，在菜单栏中还可以隐藏或者修正GPS的海拔。

总之，这款工具可以让你发现自己手机上隐藏的那些功能！怎么样，你是不是从来没想过自己的手机可以变得这样强大？！

工业物联网无线数据采集系统，是一套具备终端数据采集，无线数据传输和数据应用分析等多功能的智能化数据采集和监控系统，它在市政供排水管网、供汽管网、热力管网、石油天然气管网、地下管沟监控；游泳池水箱水塔液位、大坝、河道水位、泵房浸水监控；蔬菜蘑菇、针金菇、水果、花卉、育苗等农业大棚智能环境监控；畜牧、家禽、水产等农业养殖智能环境监控；化工危化品石油天然气储罐区、电池、面粉仓库智能环境监控；电信机房、实验室、医院药房、生产车间、冷柜冰箱、图书馆、博物馆、档案室、粮库、烟草、酒糟酒曲酒窖等仓储馆藏智能环境监控；社区楼宇、港口工业园区、公园景区、校园广场、超市商场等大气环境质量智能监控；发动机、变频器等生产机器设备运行状态、仪器仪表能耗及生产缺料的智能监控等多个领域有着广泛的应用。

近年来，工业物联网无线数据采集系统的发展趋势是简化终端结构，在数据采集终端与主机之间采用无线通信，以代替复杂、不灵活的现场布线。该阶段数据采集系统采用更先进的模块式结构，根据不同的应用要求，通过简单的增加和更改模块，并结合系统编程，就可以扩展或修改系统，满足不同领域的需要。

针对工厂生产车间机器设备运行状态、运行工艺参数、运行能耗数据，以及管网运行状态数据、变配电系统运行数据、车间仓储库房环境参数等数据的采集、监控，深圳信立科技结合XL.SN无线传感器网络2.4GHz或433MHz模块技术、MES制造执行系统技术及无线传感器、无线测控装置RTU等，自主研发设计了一套工业版工厂生产车间无线数据采集系统解决方案，实现实时获取完整、准确的工厂生产制造过程中的各种数据，为企业提高生产制造管理提供基础数据，全面优化生产制造的管理手段、提高生产制造管理效率，向工业4.0靠近！

一、系统功能

1、采集设备运行状态：停止、待机、运行、故障、检修等等，以及发生的时间点；

2、采集设备运行工艺参数：压力、温度、流量、转速、计数、风速、位移等；

3、采集设备运行能耗：电流、功率、电能；汽、气消耗量；

4、采集企业供水、供汽、空压、制冷等设备及相应管网的运行状态数据；

5、采集企业变配电系统运行数据；

6、监控车间环境参数，以及仓储库房环境参数。

二、系统通讯方案

1、XL.SN智能传感网络采集结构

XL90物联网智能网关，可同时构建433MHz和2.4GHz两种不同结构的传感网络，用于接收终端采集的数据，并上传至服务器。其中433MHz用于跨车间、厂区内的数据传输，2.4GHz用于车间内的数据传输。

2、XL.SN通讯网络方案

a、XL90物联网智能网关通过2.4GHz或433MHz等方式读取节点设备数据后，进行协议转换、数据处理，通过局域网，上传数据至MES服务器；

b、XL90物联网智能网关通过以太网，从第三方监控系统，如电力监控系统、EMS、DCS、智能楼宇系统等等，读取数据；

c、MES服务器，或XL90物联网智能网关，通过以太网，将数据转发给第三方系统，如EMS、ERP等。如图2。

3、物联网智能网关数据接入MES系统通讯方案

XL90物联网智能网关通过企业局域网，和MES服务器通讯。 XL90智能网关和MES的通信协议，可选以下3种： 建议首选：XL/9E-RDF Redis数据交换协议； 建议次选：XL/9E-DF 数据库格式协议； 建议再次选：XL/9E-UDP 通信协议； 工业以太网通用协议：MODBUS TCP。（不太建议选择）

三、系统解决方案

1、设备信号采集

配置XL60智能测装置，采集机器设备的运行信号，通过2.4GHz或433MHz方式上传，实现生产制造设备的信号采集。

2、设备控制器的数据采集

选配XL66智能转换器，读取机器设备控制装置及现场监控仪表采集的信号，通过2.4GHz或433MHz等方式接入传感网络。

3、管道压力、温度，车间环境、仓储环境的气体浓度、温湿度采集

选配XL61系列智能传感器，采集管道压力、温度，车间环境、仓储环境的气体浓度、温湿度，通过无线上传，并在需要的通道，出、入口设置声光报警器，或启动紧急设备。

4、其他信号采集

选配XL60智能测控装置，及XL68智能环境监测装置，采集火灾探测器、噪音传感器，光照传感器，液位变送器，压力变送器等等设备，以及系统原配的仪表数据。

四、系统优势

1、工厂生产车间无线数据采集系统建设过程中，无需布线，或减少布线数量，减少系统建设成本。

2、系统所需的设备安装调试方便，设备支持手机调试，提高运营维护的效率。

3、系统底层终端各种数据采集后统一接入企业MES系统，便于监控管理，提高企业生产管理效率。

五、系统配套

整个无线数据采集系统方案，根据应用需要配套的软硬件设备，包括XL90物联网无线智能网关、XL60智能测控装置RTU、XL68智能环境测控装置RTU、XL66智能转换器，以及XL61无线压力传感器、XL61无线温度传感器、XL61无线气体传感器、XL51无线温湿度传感器等无线传感器，还有MES制造执行系统软件。

六、适用范围

深圳信立科技设计的工业版工厂生产车间无线数据采集系统解决方案，适用于在我国珠三角、长三角、京津冀等沿海发达地区，以及重庆、成都、湖北、河南、安徽等内陆省份的电子加工制造、汽车制造、钢铁冶炼、机械装备、食品生产、医药生产等各行业制造业工厂。

大数据技术用了多年时间进行演化，才从一种看起来很炫酷的新技术变成了企业在生产经营中实际部署的服务。其中，数据采集产品迎来了广阔的市场前景，无论国内外，市面上都出现了许多技术不一、良莠不齐的采集软件。

今天，我们将对比国内五大主流采集软件优缺点，帮助你选择最适合的爬虫，体验数据hunting带来的快感。

国内篇

1.火车头

作为采集界的老前辈，我们火车头是一款互联网数据抓取、处理、分析，挖掘软件，可以抓取网页上散乱分布的数据信息，并通过一系列的分析处理，准确挖掘出所需数据。它的用户定位主要是拥有一定代码基础的人群，适合编程老手。

采集功能完善，不限网页与内容，任意文件格式都可下载具有智能多识别系统以及可选的验证方式保护安全支持PHP和C#插件扩展，方便修改处理数据具有同义，近义词替换、参数替换，伪原创必备技能Conclusion:火车头适用于编程能手，规则编写容易，软件的定位比较专业而且精准化。

2.八爪鱼

一款可视化免编程的网页采集软件，可以从不同网站中快速提取规范化数据，帮助用户实现数据的自动化采集、编辑以及规范化，降低工作成本。云采集是它的一大特色，相比其他采集软件，云采集能够做到更加精准、高效和大规模。

自定义采集过程中，八爪鱼采集器系统自写的Xpath、自动生成的流程，可能无法满足数据采集需求。对数据质量要求高，则需自写Xpath，调成流程图等，以优化规则。

使用自定义采集的同学，虽然八爪鱼操作简单，比较容易上手。但是，仍需对八爪鱼采集原理有所了解，看完相关教程，循序渐进，成长周期较长。

可视化操作，无需编写代码，制作规则采集，适用于零编程基础的用户云采集是其主要功能，支持关机采集，并实现自动定时采集

Conclusion:八爪鱼是一款适合小白用户尝试的采集软件，云功能强大，当然爬虫老手也能开拓它的高级功能。

3.集搜客

一款简单易用的网页信息抓取软件,能够抓取网页文字、图表、超链接等多种网页元素。同样可通过简单可视化流程进行采集，服务于任何对数据有采集需求的人群。

可视化流程操作，与八爪鱼不同，集搜客的流程重在定义所抓取的数据和爬虫路线，八爪鱼的规则流程十分明确，由用户决定软件的每一步操作

支持抓取在指数图表上悬浮显示的数据，还可以抓取手机网站上的数据

会员可以互助抓取，提升采集效率，同时还有模板资源可以套用

Conclusion:集搜客操作较简单，适用于初级用户，功能方面没有太大的特色，后续付费要求比较多。

4.神箭手云爬虫

一款新颖的云端在线智能爬虫/采集器，基于神箭手分布式云爬虫框架，帮助用户快速获取大量规范化的网页数据。

直接接入代理IP，避免IP封锁

自动登录验证码识别，网站自动完成验证码输入

可在线生成图标，采集结果以丰富表格化形式展现本地化隐私保护，云端采集，可隐藏用户IP

Conclusion: 神箭手类似一个爬虫系统框架，具体采集还需用户自写爬虫，需要代码基础。

5.狂人采集器

一套专业的网站内容采集软件，支持各类论坛的帖子和回复采集，网站和博客文章内容抓取，分论坛采集器、CMS采集器和博客采集器三类。

支持对文章内容中的文字、链接批量替换和过滤可以同时向网站或论坛的多个版块一起批量发文具备采集或发帖任务完成后自动关机功能

Conclusion: 专注论坛、博客文本内容的抓取，对于全网数据的采集通用性不高。

注：给火车采集器的新手们一点学习建议

火车采集器是一个非常专业的数据抓取和数据处理软件,对软件使用者有较高的技术要求， 使用者要有基本的HTML基础,能看得懂网页源码,网页结构。

同时如果用到web发布或数据库发布,则对自己文章系统及数据存储结构要非常了解。

最近半年，我们八爪鱼陆续接到好几个APP数据采集的项目需求，我在群里面，偶尔也看到有些用户在问，有没有APP数据采集的工具。鉴于我们做过的几个APP数据采集项目的经验，我可以告诉大家，现在APP数据采集，市面上还没有通用的工具。我们八爪鱼内部是有一套工具，但由于使用的难度较高，需要编写脚本，所以不对普通用户公开，我们仅接受项目定制。

虽然不对外公开，但并不妨碍我们将技术分享出来，APP数据采集，一般走以下两种方式：

1.两种思路

1. 抓包

2. HOOK

2.抓包

有代码经验或APP开发的同学都很容易理解，其实很多APP，走的都是webservice通讯协议的方式，并且由于是公开数据，而且大部分是无加密的。所以只要对网络端口进行监测，对APP进行模拟操作，即可知道APP里面的数据是如何获取的。

我们只需要写代码模拟请求，无论POST还是GET，即可得到该请求所返回的信息。再通过对返回的信息结构化解析，即可得到我们想要的数据。

public static void main(String[] args) {

Spider.create(new GithubRepoPageProcessor())

//从https://github/****开始抓

.addUrl("https://github/****")

//设置Scheduler，使用Redis来管理URL队列

.setScheduler(new RedisScheduler("localhost"))

//设置Pipeline，将结果以json方式保存到文件

.addPipeline(new JsonFilePipeline("D:\\data\\webmagic"))

//开启5个线程同时执行

.thread(5)

//启动爬虫

.run();

}

以模拟采集“meizu”应用市场为例

3.HOOK技术

HOOK技术是一种走操作系统内核的技术，由于安卓系统是开源的，所以可以借助一些框架修改内核，从而实现你要的功能。HOOK的形式，我们走的是Xposed框架。Xposed是一款可以在不修改任何其他开发者开发的应用（包括系统服务）的情况下，改变程序运行的一个开源框架服务。基于它可以制作出许多功能强大的模块，以此来达到应用程序按照你的意愿运行的目的。

如果把安卓手机看做一座城堡，那Xposed可以让你拥有一个上帝视角，城里的运作细节尽收你眼底，还能让你插一手改变城堡的运作规律。

什么意思呢？简单的说就是你可以通过他，自动化的控制你的APP。如果将我们的APP开在模拟器上，我们可以通过编码，通过他告诉APP这一步干什么，下一步干什么。你把它理解成类似游戏打怪外挂就可以了。

而他每走一步，APP与服务端交互的数据，均可获取下来。这种方式广泛用于一些成熟的APP。比如某信采集。

public class HookActivity implements IXposedHookLoadPackage {

@Override

public void handleLoadPackage(LoadPackageParam lpparam) throws Throwable {

final String packageName = lpparam.packageName;

XposedBridge.log("--------------------: " + packageName);

try {

XposedBridge.hookAllMethods

(Activity.class, "onCreate", new XC_MethodHook() {

@Override

protected void afterHookedMethod(MethodHookParam param)

throws Throwable {

XposedBridge.log("=== Activity onCreate: " + param.thisObject);

}

});

} catch (Throwable error) {

XposedBridge.log("xxxxxxxxxxxx: " + error);

}

}

}

其实我们八爪鱼曾经也想开发一款通用的APP数据采集工具，并且两年前在这块投入研究了小半年，我们做出了一款APP采集脚本编辑工具，可以让一款APP的数据采集项目缩减到3-5天即可开发完成。但我们认为，这个工具需要编写脚本一般用户是比较难上手的，所以仅作为内部项目使用。

以HOOK某APP为例:

4.这些年走过的坑

聊完APP采集的思路，我们跟大家分享一些遇过的坑吧，让大家乐一乐

坑一：签名算法

以某信的文章列表页及某信息页为例，对其http访问进行抓包，会发现其url的一个核心参数是我们无法知道如何生成的，这就导致，我们不可能直接用该url进行信息爬取；签名算法如果无法破解，HTTP这条路就是死路了。

坑二：http爬取回来的信息和页面显示不一致

以某信的某信息页为例，对比直接访问某信页面及http爬取的信息，可明显发现http爬取到的信息较少。造成得两种方式都用，才能既照顾速度又照顾完整性。

坑三：模拟器中的坑

APP自动识别你的运行环境进行屏蔽，最厉害的还是某信，连你是用模拟器打开还是真机打开，是什么内核的，全部进行限制。曾经见过牛人，找某手机厂商专门定做真机来配合。

坑四：帐号的坑

这个坑就有点大了，要找号、养号，都不是件容易的事情，更惨的是封号，真真让你一夜回到解放前。

一、携程实时用户数据采集系统设计实践

随着移动互联网的兴起，特别是近年来，智能手机、pad等移动设备凭借便捷、高效的特点风靡全球，同时各类APP的快速发展进一步降低了移动互联网的接入门槛，越来越多的网民开始从传统PC转移至移动终端上。但传统的基于PC网站和访问日志的用户数据采集系统已经无法满足实时分析用户行为、实时统计流量属性和基于位置服务（LBS）等方面的需求。

我们针对传统用户数据采集系统在实时性、吞吐量、终端覆盖率等方面的不足，分析了在移动互联网流量剧增的背景下，用户数据采集系统的需求，研究在多种访问终端和多种网络类型的场景下，用户数据实时、高效采集的方法，并在此基础上设计和实现实时、有序和健壮的用户数据采集系统。此系统基于Java NIO网络通信框架（Netty）和分布式消息队列（Kafka）存储框架实现，其具有实时性、高吞吐、通用性好等优点。

1、技术选型和设计方案：

一个典型的数据采集分析统计平台，对数据的处理，主要由如下五个步骤组成：

图1、数据平台处理流程

其中，数据采集步骤是最核心的问题，数据采集是否丰富、准确和实时，都直接影响整个数据分析平台的应用的效果。本论文关注的步骤主要在数据采集、数据传输和数据建模存储这三部分。

为满足数据采集服务实时、高效性、高吞吐量和安全性等方面的要求，同时能借鉴互联网大数据行业一些优秀开源的解决方案，所以整个系统都将基于Java技术栈进行设计和实现。整个数据采集分析平台系统架构如下图所示：

图2（数据采集分析平台系统架构）

其中整个平台系统主要包括以上五部分：客户端数据采集SDK以Http(s)/Tcp/Udp协议根据不同的网络环境按一定策略将数据发送到Mechanic(UBT-Collector)服务器。服务器对采集的数据进行一系列处理之后将数据异步写入Hermes(Kafka)分布式消息队列系统。为了关联业务服务端用户业务操作埋点、日志，业务服务器需要获取由客户端SDK统一生成的用户标识（C-GUID），然后业务服务器将用户业务操作埋点、日志信息以异步方式写入Hermes(Kafka)队列。最后数据消费分析平台，都从Hermes(Kafka)中消费采集数据，进行数据实时或者离线分析。其中Mechanic(UBT-Collector)系统还包括对采集数据和自身系统的监控，这些监控信息先写入Hbase集群，然后通过Dashboard界面进行实时监控。

（1）基于NIO的Netty网络框架方案

要满足前面提到的高吞吐、高并发和多协议支持等方面的要求。我们调研了几种开源异步IO网络服务组件（如Netty、MINI、xSocket），用它们和NginxWeb服务器进行了性能对比，决定采用Netty作为采集服务网络组件。下面对它进行一些概要介绍：Netty是一个高性能、异步事件驱动的NIO框架，它提供了对TCP、UDP和文件传输的支持，Netty的所有IO操作都是异步非阻塞的，通过Future-Listener机制，用户可以方便的主动获取或者通过通知机制获得IO操作结果。

图3（Netty框架内部组件逻辑结构）

Netty的优点有：

a、功能丰富，内置了多种数据编解码功能、支持多种网络协议。

b、高性能，通过与其它主流NIO网络框架对比，它的综合性能最佳。

c、可扩展性好，可通过它提供的ChannelHandler组件对网络通信方面进行灵活扩展。

d、易用性，API使用简单。

e、经过了许多商业应用的考验，在互联网、网络游戏、大数据、电信软件等众多行业得到成功商用。

Netty采用了典型的三层网络架构进行设计，逻辑架构图如下：

图4（Netty三层网络逻辑架构）

第一层：Reactor通信调度层。该层的主要职责就是监听网络的连接和读写操作，负责将网络层的数据读取到内存缓冲区中，然后触发各种网络事件，例如连接创建、连接激活、读事件、写事件等，将这些事件触发到Pipeline中，再由Pipeline充当的职责链来进行后续的处理。

第二层：职责链Pipeline层。负责事件在职责链中有序的向前（后）传播，同时负责动态的编排职责链。Pipeline可以选择监听和处理自己关心的事件。

第三层：业务逻辑处理层，一般可分为两类：a. 纯粹的业务逻辑处理，例如日志、订单处理。b. 应用层协议管理，例如HTTP(S)协议、FTP协议等。

我们都知道影响网络服务通信性能的主要因素有：网络I/O模型、线程（进程）调度模型和数据序列化方式。

在网络I/O模型方面，Netty采用基于非阻塞I/O的实现，底层依赖的是JDKNIO框架的Selector。

在线程调度模型方面，Netty采用Reactor线程模型。常用的Reactor线程模型有三种，分别是：

a、Reactor单线程模型：Reactor单线程模型，指的是所有的I/O操作都在同一个NIO线程上面完成。对于一些小容量应用场景，可以使用单线程模型。

b、Reactor多线程模型：Rector多线程模型与单线程模型最大的区别就是有一组NIO线程处理I/O操作。主要用于高并发、大业务量场景。

c、主从Reactor多线程模型：主从Reactor线程模型的特点是服务端用于接收客户端连接的不再是一个单独的NIO线程，而是一个独立的NIO线程池。利用主从NIO线程模型，可以解决一个服务端监听线程无法有效处理所有客户端连接的性能不足问题。Netty线程模型并非固定不变的，它可以支持三种Reactor线程模型。

在数据序列化方面，影响序列化性能的主要因素有：

a、序列化后的码流大小（网络带宽占用）。

b、序列化和反序列化操作的性能（CPU资源占用）。

c、并发调用时的性能表现：稳定性、线性增长等。

Netty默认提供了对GoogleProtobuf二进制序列化框架的支持，但通过扩展Netty的编解码接口，可以实现其它的高性能序列化框架，例如Avro、Thrift的压缩二进制编解码框架。

通过对Netty网络框架的分析研究以及对比测试（见后面的可行性分析测试报告）可判断，基于Netty的数据采集方案能解决高数据吞吐量和数据实时收集的难点。

》》点击阅读全文