最近半年，我们八爪鱼陆续接到好几个APP数据采集的项目需求，我在群里面，偶尔也看到有些用户在问，有没有APP数据采集的工具。鉴于我们做过的几个APP数据采集项目的经验，我可以告诉大家，现在APP数据采集，市面上还没有通用的工具。我们八爪鱼内部是有一套工具，但由于使用的难度较高，需要编写脚本，所以不对普通用户公开，我们仅接受项目定制。

虽然不对外公开，但并不妨碍我们将技术分享出来，APP数据采集，一般走以下两种方式：

1.两种思路

1. 抓包

2. HOOK

2.抓包

有代码经验或APP开发的同学都很容易理解，其实很多APP，走的都是webservice通讯协议的方式，并且由于是公开数据，而且大部分是无加密的。所以只要对网络端口进行监测，对APP进行模拟操作，即可知道APP里面的数据是如何获取的。

我们只需要写代码模拟请求，无论POST还是GET，即可得到该请求所返回的信息。再通过对返回的信息结构化解析，即可得到我们想要的数据。

public static void main(String[] args) {

Spider.create(new GithubRepoPageProcessor())

//从https://github/****开始抓

.addUrl("https://github/****")

//设置Scheduler，使用Redis来管理URL队列

.setScheduler(new RedisScheduler("localhost"))

//设置Pipeline，将结果以json方式保存到文件

.addPipeline(new JsonFilePipeline("D:\\data\\webmagic"))

//开启5个线程同时执行

.thread(5)

//启动爬虫

.run();

}

以模拟采集“meizu”应用市场为例

3.HOOK技术

HOOK技术是一种走操作系统内核的技术，由于安卓系统是开源的，所以可以借助一些框架修改内核，从而实现你要的功能。HOOK的形式，我们走的是Xposed框架。Xposed是一款可以在不修改任何其他开发者开发的应用（包括系统服务）的情况下，改变程序运行的一个开源框架服务。基于它可以制作出许多功能强大的模块，以此来达到应用程序按照你的意愿运行的目的。

如果把安卓手机看做一座城堡，那Xposed可以让你拥有一个上帝视角，城里的运作细节尽收你眼底，还能让你插一手改变城堡的运作规律。

什么意思呢？简单的说就是你可以通过他，自动化的控制你的APP。如果将我们的APP开在模拟器上，我们可以通过编码，通过他告诉APP这一步干什么，下一步干什么。你把它理解成类似游戏打怪外挂就可以了。

而他每走一步，APP与服务端交互的数据，均可获取下来。这种方式广泛用于一些成熟的APP。比如某信采集。

public class HookActivity implements IXposedHookLoadPackage {

@Override

public void handleLoadPackage(LoadPackageParam lpparam) throws Throwable {

final String packageName = lpparam.packageName;

XposedBridge.log("--------------------: " + packageName);

try {

XposedBridge.hookAllMethods

(Activity.class, "onCreate", new XC_MethodHook() {

@Override

protected void afterHookedMethod(MethodHookParam param)

throws Throwable {

XposedBridge.log("=== Activity onCreate: " + param.thisObject);

}

});

} catch (Throwable error) {

XposedBridge.log("xxxxxxxxxxxx: " + error);

}

}

}

其实我们八爪鱼曾经也想开发一款通用的APP数据采集工具，并且两年前在这块投入研究了小半年，我们做出了一款APP采集脚本编辑工具，可以让一款APP的数据采集项目缩减到3-5天即可开发完成。但我们认为，这个工具需要编写脚本一般用户是比较难上手的，所以仅作为内部项目使用。

以HOOK某APP为例:

4.这些年走过的坑

聊完APP采集的思路，我们跟大家分享一些遇过的坑吧，让大家乐一乐

坑一：签名算法

以某信的文章列表页及某信息页为例，对其http访问进行抓包，会发现其url的一个核心参数是我们无法知道如何生成的，这就导致，我们不可能直接用该url进行信息爬取；签名算法如果无法破解，HTTP这条路就是死路了。

坑二：http爬取回来的信息和页面显示不一致

以某信的某信息页为例，对比直接访问某信页面及http爬取的信息，可明显发现http爬取到的信息较少。造成得两种方式都用，才能既照顾速度又照顾完整性。

坑三：模拟器中的坑

APP自动识别你的运行环境进行屏蔽，最厉害的还是某信，连你是用模拟器打开还是真机打开，是什么内核的，全部进行限制。曾经见过牛人，找某手机厂商专门定做真机来配合。

坑四：帐号的坑

这个坑就有点大了，要找号、养号，都不是件容易的事情，更惨的是封号，真真让你一夜回到解放前。

QQ数据采集器-QQ营销必备工具

导语

现在是大数据时代，无论做什么营销都需要用到数据。数据是根本，数据能引导你的营销思维。做QQ营销同样需要大量的精准数据，今天小编为大家介绍一款QQ数据采集软件，这款软件既可以采集精准客户QQ，同时也可以采集精准客户QQ群以及QQ群成员。

软件功能特点

⊙支持按关键词采集精准客户qq

⊙支持自动检测所采集好友是否为单双向好友

⊙支持自动检测所采集qq是否开通临时会话功能

⊙支持自动识别qq所在城市、性别。年龄

⊙支持按关键词采集精准客户qq群

⊙支持自动筛选出群主qq

⊙支持自动检测是否可以直接添加qq群

⊙支持以文本文档格式导出qq群

⊙支持采集qq附近的人（全国定位）

⊙支持采集本地好友和群

⊙支持采集空间qq

⊙支持采集微博听众

⊙支持采集企业qq

⊙支持论坛qq采集

软件功能效果展示

易推客营销软件

匹配算法实现，通过将用户属性、用户学习状态属性、用户操作行为统计属性与资源属性进行匹配，数据容量大，遥测距离远，人机界面友好，可靠性高的优点，可广泛用于学校和社区小区域范围环境服务。

也适合于气象、海洋、环境、机场、港口、工及等领域使用．实时数据采集与上传该模块主要功能是通过无线方式获取环境观测站采集的实时数据并显示．数据采集的基本算法如下：首先判断是否到发送数据时间，若到了执行数据发送命令。

为了方便学习者查找资源以及系统推送资源，须对学习者和资源的属性进行标记，即创建属性元数据．本研究采用标签技术分别建立学习者和资源的属性元数据．学习者的属性标签主要来自于用户注册时的信息（用户属性）、学习者的学习状态属性以及学习者系统操作行为统计属性（对上传、下载、浏览、评论等操作的统计）。

资源的属性标签主要来自于资源提供者根据学科和关键字分类的标签以及资源使用者对资源的评价、标记等．根据研究性学习的主题、用户学习进度，系统可以将用户可能感兴趣，其他用户感兴趣或评分高、浏览次数多，相同领域的最优资源或相似领域的最佳资源推送给用户，系统根据学习者的学习主题，将平台中评价最高的相关资源、教师指定的资源和拓展的相关资源进行匹配，

目前有很多数据采集云平台，如百度统计，腾讯统计、乐驰云采集等等，还有一些平台也非常不错：

一. 友盟+

支持移动端和web端数据采集，个性化场景数据定制采集方案。官网给的一些demo可以参考来设计大数据的分析展现，例如：

友盟的：

百度的：

值得借鉴～

二. 乐驰云采集

以高性能分布式采集、存储为核心，建立分工明确的功能模块进行高度协作，融合打码、分词、代理、排重等实用性服务，帮助用户以最低成本、最少人力、最高效率完成大数据应用开发，从而满足当下广大中小企业对“实时、高难、海量”级大数据业务场景的根本需求。

http://lewell/service.html#tabcon_4

值得一看

三. 火车采集器

火车采集器，一款专业的互联网数据抓取、处理、分析，挖掘软件，可以灵活迅速地抓取网页上散乱分布的数据信息，并通过一系列的分析处理，准确挖掘出所需数据。火车采集器历经十二年的升级更新，积累了大量用户和良好口碑，是目前最受欢迎的网页数据采集软件。

对于网站采集数据的主流实现方式是通过javascript脚本引入，记录页面动作与变化，搜集数据后作为参数，通过gif图片(gif图片格式请求可以解决跨域问题)请求上报。

比如一些大型网站，可以看到他们的数据采集方式：如淘宝，百度，京东，聚划算等

个人设计的web采集数据方案：

lg.js脚本引入页面中通过gif图片请求到后端服务器服务器记录请求参数到日志文件日志文件实时抓取到消息队列实时计算系统消费队列消息，完成分析整理分析结果入ES，kibana二次开发展示ES历史数据入Hadoop

智能硬件结合大数据优势，全方位挖掘用户线下、线上行为，精准定义目标客群特征、消费偏好、地域分布，为零售客户提供选址招商、运营管理、客群洞察、推广营销、实现 营销的“点对点”高效精准的传播，是新一代人工智能思维下的营销新武器。

店内优化

客流实时监测

顾客质量和转化率

顾客运动轨迹热点动图

店内商品试用、转化率

新客招募

厘米级精准定位新客，信息采集分析

对接各个广告平台，精准投放

广告效果评估

提高活动效果

展示真实人流，轨迹动图，客观评估活动效果

场景式营销，广告实时送达

用户画像

了解品牌受众，帮助品牌定位

进店顾客人群画像采集

人员、物品管理

优化员工管理系统，监测到岗及工作时间

贵重物品定位，防盗防损

优化库存管理

探针

集探针，iBeacon，商品触碰探测为一体

wifi与gprs两种上报信息方式

搭载gps模块，采集地理位置信息

出色的定位技术

手机号与mac地址绑定方案

平台化运作，提供丰富的上层接口给集成商

解决方案

购买地址：https://detail.1688/offer/551150997804.html?spm=b26110380.sw1688.mof001.1.b4WnET

或阿里巴巴搜索：58数云、潜客宝

最近在研究商超零售的数据分析，有不少干货和想法可分享。此前，一直注重店铺管理、商品库存管理、财务绩效管理的数据分析。后来发现，无论是零售商铺的选址，还是百货商场的招商营运，都有不少需要运用到数据管理思维的地方。

店铺选址前或者招商营运前都要进行市场调研，小规模的店家可能会说，我照自己的经验，观测人流量以及周边店铺的经营情况来判断，这样的方法确实是有迹可寻。但是，店铺不是放着让你来选的，店铺商也是需要去谈的，甚至对于那些成体系的，每年都在扩张的一些企业，必须需要一套成体系的数据分析方法论来指导。

一、市场调研的要点

1、着重于项目周边状况调查，如：业态布局、购买力等；

2、网点及竞争对手调研的要点

3、收集品牌资源，是否符合定位，有无可备选方案，效益最大化；

针对选址，

可采用常用的SWOT分析模型，分析内部环境以及外部环境的优劣势；而后采用3C模型（Company商铺，Customer顾客，Competitor 竞争者）对开店的选址分析；看附近1小时经济圈、2小时经济圈、3小时经济圈的覆盖范围。

而正式营运之后，最主要关注的就是客流量。

传统零售的数据是基于交易客流，基本等同于俗称的会员。商超里面的客流其实分为交易客流、返店客流、进店客流、到达客流、潜在客流。这里最容易获取的就是交易客流，因为企业现有的CRM系统或者收银系统基本都能涵盖这部分客流。怎么得顾客数据？这就要建立一整套的全顾客全消费行为管理的客流分析系统。

客流数据分析建模

二、如何去经营分析？

经营分析是指商业运营管理者通过数据采集并运用统计、分析、图表呈现等方式，对商场整体经营情况进行深入解析。

确定这样一个流程后，经营分析按照时间划分一般分为日、周、月以及一些关键时期，比如活动、法定节假日等等。形式以经营报表为主。

大体分析内容

经营分析的指标解析

做好全百货的经营分析要发挥主观能动性，有了数据和图表，要做好经营分析，还要发挥人的主观能动性，营运人员需根据数据和图表阐述现象并提出相关建议，加强与店铺、品牌负责人的沟通和联系，充分了解店铺的经营现状。

三、关于品牌店铺活动的分析

经营分析案例分享及关注点（日经营分析）

以上每日的客流与销售趋势图，需要关注波动趋势、波动周期和波动异常。比如波峰大多是重大节假日或企划活动，或者特殊事件。

店铺活动分析

活动前期搭建好相关指标，收集活动数据，实时监测分析。

至于如何搭建这样的分析体系，譬如以上用finereport搭建的活动监测模板，这里不多赘述。前提需要明确分析的指标，之后就是数据收集、整合、分析、展现的额工作啦~

做网络营销

不论是个人还是公司都想要实现产品的渠道拓展和推广宣传

但绝大多数的企业都不能达成想要的效果

其实原因有很多

一、想要做好网络营销

客户是王道

没有强大的客户群做后盾

网络营销的销量不过是空想罢了

当下客户渠道大多以网络大数据信息采集的方式来获取

如云速数据挖掘

通过输入行业关键字

就能一键采集指定区域的客户信息和联系方式

省时高效

二、通过客户信息

从分考虑分析目标群体的生活轨迹和习惯

来预测客户下一步的消费行为

以正确的时间正确的方式传达产品信息

从而完成营销活动

三、产品文案的策划一定要以客户需求为重点

并且简单易懂、快速吸引客户眼球

才能使转化率达到最佳

1、收银数据是衡量购物中心运营效果的最重要的基础数据。

购物中心的核心价值就是为用户提供优越的消费产品和体验，从而提高整体的营业额。因此只有准确把握住购物中心的收银数据，才可以对购物中心的整体运营效果做出更加精准的判断。

2、对于联营形式的购物中心来说，精准把握收银数据意味着更多的收入。

3、收银数据是购物中心大数据分析的基础换算数据。

“统一管理，分散经营”是购物中心的核心特点，而大数据分析正是实现购物中心高效，高质统一管理和经营的巨大助力。具体体现在以下几个方面：

A：为购物中心的经营管理及租户的管理提供一体化解决方案；

B：提供租户综合的信息技术服务，降低租户投资，增加多方收益；

C：以实际数据为依据进行招商的洽谈，具有更大的说服力；

D：以实际数据指导购物中心长期规划，调整经营布局；

E：以实际数据指导租户经营，提升租户经营品质，实现双盈；

F：完备的租户管理和租约管理，专柜平效及品类组合测评，了解谁是购物中心的最佳租户，发展会员、培养忠诚消费群体；

G：全面的运营数据分析，让购物中心可以合理分配资源，进行营销活动筛选，让资源体现出最大价值。

H：完善的卡券管理和中央顾客关系管理，支持对接一卡通及会员服务、实现自助积分、停车优惠券、小票营销、微信公众号营销等，了解每一次广告和促销活动的实际效果，发挥统一的营销的作用，刺激更多的消费。

I：监控客单价、客户群组及顾客流向，可以及时调整营销方案和力度。

然而在现阶段的购物广场的收银数据采集方式中，大多数的品牌商不愿意使用购物广场提供的收银机和收银系统，因为采购昂贵，对自身的收银系统改变巨大，也改变原有的收银方式，重新培训收银人员也会增加额外成本。因此，保持原有品牌商的收银系统，收银机的同时，也可以采集收银数据成为了购物广场数字化运营的关键。目前的最优解决方案是在收银机和小票打印机中间接入数贝通数据采集器，可以无干扰采集每一张小票数据，并且自动识别小票金额上传购物广场本地服务器。这种方式既便捷，又安全。可以在TB搜索数贝通了解。

收银数据，特别是消费者消费数据是一切营销的基础数据。比如说做会员营销，卡券营销，会员充值等，如果无法知道消费者的消费数据，那么这一切营销都无从谈起。

在目前的采集收银数据的方法中，需要软件对接门店的收银系统，面对市场上不同品牌，不同功能的收银系统，这种一对一对接开发方式成本过高，耗时过大，很难大规模使用。

数贝通（TB有售）提供了一种新的解决方案。数贝通使用数据线连接在收银机和打印机中间，可以采集、识别每一张消费小票信息，并且可以自动在消费小票后面追加打印二维码。这个二维码用户可以根据实际需要自行设置。可以是文本，也可以是二维码。可以对接会员、手机支付、抽奖、游戏等。

数贝通最大的优势是不需要在收银机上安装任何软件，不需要对接收银系统，不需要开发，也不需要收银员任何操作，完全实现即插即用。

数贝通兼容USB、并口、串口、网口的小票打印机，采集识别数据安全高效。