ForeSpider 前嗅：手把手教你数据采集

ForeSpider是一款非常好用的数据采集软件，因为属于专业性工具，除了帮助文档外很少有使用教程。所有有很多人在使用的过程中遇到问题难以解决，今天给大家介绍ForeSpider数据采集系统的使用教程，希望能对大家的工作有所帮助。

教程的示例网站是大众点评，要得到50页内所有医院名称，该医院评论总数，医院总体星级，各项评分，医院评论的用户名，评论内容，评论时间，用户点评星级，获赞数量和回应数量。

首先我们先新建一个频道，我给它命名为大众点评，然后在频道配置里输入我们想要爬取数据的网址，需要在频道配置处输入想要得到数据的网址，大众点评需要开启cookie，从右面可以开启，网站不同有的不需要，视情况而定。 现在默认模板（1）就是我们要的网站页面，鼠标放在医院标题处如图，从左下角能看到医院的网址链接。

现在点一下右上角的采集预览，我们能得到整个页面的所有网页链接，下拉滚动条到这个位置就会发现跟上图相同格式的链接，这就是我们需要的所有医院的链接。

我们用不到的需要过滤一下，可以通过地址过滤和标题过滤方法筛选。点击软件右上角模板抽取配置里面的链接抽取，里面有地址过滤和标题过滤两个选项，点击地址过滤，软件右下角如图：

过滤规则选择包含，过滤串内输入想要得到的医院链接，后面这串数字我们用“\d”表示，用“\e”表示结束，例如https://dianping/shop/\d\e，这样就能采集网页内所有这种格式的网页链接。

当我们想要采集的网页下面有翻页的链接，就必须配置翻页。除了在右上角默认模板处抽取我们想要的得到的医院链接外，还要再新建一个链接抽取，抽取页面翻页的地址。

我们继续从采集预览处得到翻页的链接，过滤规则选择包含，通过观察发现几个链接的相同点，输入到过滤串里就能得到想要的翻页链接了。

第一层级的模板建好了，下面我们随便点进一个医院主页内，复制链接建立下一层级模板。在默认模板（2）的示例地址内输入医院主页的链接。

因为我们需要采集该医院所有用户评论，所以我们找到下面的“更多点评”，通过刚刚地址过滤的方法，过滤出更多点评的链接，并建立模板（3），示例地址输入刚刚过滤的得到的“更多点评”的网址。

注：点击链接抽取，看左下角关联模板处，一定要关联到下一层级的模板，如果是翻页的链接抽取，要关联自身模板，否则会数据采集失败。这点一定要注意。

这样模板的基本配置就完成了，下一步是建立表单，下图是我们的需求，红色字体我们能从模板二采集到，蓝色字体我们能从模板三采集到，所以我们需要建立两个表单。

点击表单配置，新建一个表单，添加一个网页主键如图，一定要勾选索引字段，键值唯一，主键字段三个选项，取值类型选择网页主键点击确定。

然后添加下一个字段如标题“title”

取值类型选择“选区内全部文本”，变量类型选择“string”，选择合适的字符长度点击确定。依次建立所有字段。

这是我建立的两个表单的所有字段，表单名称分别为“大众点评1”、“大众点评2”，建立好以后点击保存即可。点开模板配置，每一个模板对应相应的表单，右键模板二“添加数据抽取”，表单名称选择“大众点评1”。

同样在模板三处再添加另外一个数据抽取表单，添加好后如下图所示：

单击“title”，然后按住ctrl键同时鼠标左键点击对应标题，内容过多的话按住shift可以调整内容大小，选好后点击保存。

全部选取完后点击左上角的文件，然后全部保存。

下一步点击数据，连接数据库，然后再次点击数据，选择数据表，选择刚刚新建两个数据表的字段后创建表，创建好后勾选并确定，就可以进行数据采集了（如果表单有问题需要更改，改好后需要重新创建表单），速度慢可以点击设置里面的线程设置，设置多线程。

这只是一个简单的教程，软件还有很多强大的功能，祝大家使用愉快！

摘要：面对互联网海量的信息，如何方便快捷的获取有效的信息对企业已经变得至关重要了。如果采用原始的手工收集方式，费时费力且毫无效率，面对越来越多的信息资源，劳动强度和难度可想而知。

2017年，探码科技开发一个金融行业投融资交易大数据平台，在项目进行前期，需要对资料的搜集准备和数据源的整理，最后整理出来了很多需要采集的数据源，为了进一步落实数据源的数据量、是否有采集价值、采集价值有多大等一列问题，探码科技研发了一套探码Web数据源采集分析系统。

Web数据源采集分析要么对网站访客行为的分析，即包括：网站流量报告，也可能包括电子邮件回应率、直接邮件活动资料、销售与客户资料、使用者效能资料如点击热点地图、或者其他定制需求资讯等等，然后进行行为分析，最终形成网络数据报告，以此来了解和优化网站；要么是爬取整个网站数据源资料、栏目、项目等进行数据源的采集，然后进行分析形成信息数据报告，最终用在：产生潜在的客户列表；从竞争对手中收集企业所需信息；抓取新兴业务数据；建立企业的产品目录；整合行业信息，辅助经营决策；确定新客户，增加新订单；挖掘老客户，获取利益……总之，Web页面内容所显示的即可采集进行分析形成可视化为企业所用。

探码Web数据源采集分析系统主要采用Ruby on Rails + vue.js + Bootstrap实现数据源分析系统的后台和前端展示的搭建。根据各行业的需求可将整体分为多个模块多种形式进行可视化。其主要的步骤：1、从目标Web文档中获得待采集信息；2、判断待采集信息类型是否是所需数据，3、剔除无用的、重复的信息数据，按照所需信息数据进行过滤校验；4、保存所需数据。

探码Web数据源采集分析系统——采集

其特征是利用云计算服务器协同工作，能快速采集大量数据，而且也避免了一台计算机硬件资源的瓶颈，另外对数据采集的要求越来越高，传统post采集不能解决的技术问题也逐步被解决，以探码Kapow/Dyson采集器为代表的新一代智能采集器，能模拟人的思维，模拟人的操作，从而彻底解决了ajax等技术难题，因为网页一般都是设计来给人浏览的，所以能模拟人的智能采集器工作起来就非常顺利，不论后台技术是什么，当数据最终显示在人的面前的时候，智能采集器就开始提取。这最终把计算机的能力发挥到了极致，使得计算机可以代替人做所有网页数据采集的工作。同时利用大数据云采集技术，把计算机的计算能力也发挥到了极致。

探码Web数据源采集分析系统——分析

主要是通过对既有数据源进行分类整理、栏目划分、字段拆解，形成一个完整的数据源分析报告，以及对采集到的信息数据进行智能分析最终通过数据源的分析，发现数据之间的关系、规律和取值范围，为数据采用任务做准备。

探码Web数据源采集分析系统的优势

1、全方位的采集

只要是Web页面可以看见的内容都可以采集，采集的内容数据包括文字、图片、flash动画、视频等各类内容；

2、可实现复杂的对象的采集

可实现正文和回复内容的同时采集，一级页面二级页面内容也可轻松实现合并，采集的内容可以是分散在多个页面内，结果可以是复杂的父子表结构；

3、采集速度比普通采集快

探码Web数据源采集分析系统采用前沿先进的技术，可运行多条线程同时抓取采集，采集速度比普通采集快上很多倍；

4、精准度高，覆盖面广

只要能在Web页面中可以看到的内容，几乎都可以按照需要的格式、所需信息数据进行采集。

5、数据可视化，结果输出多样化

采集的信息数据可采用探码TMDash可视化，呈现给企业，简单易读易懂。

互联网时代，先进的大数据，人工智能和深度学习等技术实现了互联网平台的数据接口，探码Web数据源采集分析系统能提供专业的数据采集服务，精准采集分析所需信息数据。

注：Web数据源采集系统的原理类似于搜索引擎的爬虫，是合法的。

一、GPRS 网络

GPRS 是目前解决移动通信信息服务的一种较完美的业务，它是以数据流量计费、或大 数据的包月包年计费。覆盖范围广泛、数据传输速度更快。GPRS 的推出，为行业和企业用 户开展无线数据传输提供了基础设施平台，为推动移动办公的应用和发展创造了有利条件。 与有线网络相比，GPRS 网络具有租用费用低、移动办公，不受地域制约等优点。GPRS 的出 现为企业和行业用户开展无线办公提供了一种新的选择。

GPRS 通信方式更适合于各类数据采集业务，目前城市供水管网系统与各采用有线交互传输或电台方式，甚至有些偏远井道要有线网络接入成了不可能。月租费太高，用电话线传送数据按时间计费，带来诸多不便，费用也不便宜。GPRS的网络优点，包括5个方面：

1、覆盖范围

构建城市供水管网系统要求数据通信覆盖范围广，扩容无限制，接入地点无限制，能满足城区、乡镇和跨地区的接入需求。由于管网检测点数量众多，分布在地 区的各个角落，而且地理位置分散。另外，还必须考虑今后系统扩充的可能，必须具有良 好的可扩展性。由于目前 GPRS 已覆盖省内绝大部分地区，能够满足城市供水管网系统对覆 盖范围的要求。

2、数据传输速率高

目前 GPRS 实际数据传输速率在 40Kbps 左右，完全能满足供水管 网系统数据传输速率的需求。

3、系统的传输容量大

城市供水管网系统要和每一个监测点实现实时连接。由于监测 点数量众多，系统要求能满足突发性数据传输的需要，而 GPRS 技术能很好地满足传输突发 性数据的需要。

4、通信费用控制灵活

采用传统的有线方式建立供水管网系统，必须租用专线或电话 线进行连接。由于管网监测点必须与中心随时保持连线状态，而每次数据发送的数据量很 小，线路资源利用率很低，平均每一个监测点每月的线路费用为 800～1200 元。而如果采 用 GPRS 通信方式，由于 GPRS 采用按数据流量计费的方式，资源利用率高，月通信费用将 在 200 元之内，如果数据量很大的情况下也可按包月或包年计费。

5、良好的实时响应与处理能力

与短消息服务比较，由于 GPRS 具有实时在线特性，系统无时延，可很好的满足系统对数据采集和传输实时性的要求。

二、供水管网管理的概述

随着我国经济的发展、城市规模的扩大和现代化程度的不断提高，城市的供水管网系统也越来越庞大，且许多供水管线的填埋情况复杂、资料不清，有些管线甚至仅凭当时施工工人的记忆去寻找，造成诸多设计上的失误和施工中的事故。

采用人工方法，借助图纸、各类卡片来管理城市供水管网系统，已越来越难以满足 实际需要。所以实现对供水管网管理系统的需求是相当迫切的。业内众多有识之士已达成 共识：使用计算机，借助无线网络系统技术来进行供水管网的管理、管网设计及数据采集，已是势在必行。

基于 GPRS 网络平台的无线数据传输技术自 2002 年在中国正式商用以来，以“实时在线、 按流量计费、覆盖率广”等优势在各行业取得广泛应用。随着信息化的发展，无线采集传输已经完全取代了以往的各种有线接入。而以往的有线连接必须依赖于网络布线、固定电话线路，对于发展移动性的服务、增设新的服务网点、增设临时性的窗口常会受到有线连接的困扰。 同时布线还需要昂贵的费用和铺设时间，对已有的网络也会有影响，所以有线连接已经严重限制了目前各种信息化应用的主要原因。

三、供水管网数据采集与监控系统的概述

深圳信立科技供水管网数据采集与监控系统，基于XL.SN无线传感器网络技术、传感器技术和计算机技术，通过无线传感器采集节点管网温度、压力数据，并以433M通讯方式上传至物联网智能网关，物联网智能网关将接收到数据以GPRS通讯方式实时传输到监控服务器，工作人员在电脑、手机端通过XL.VIEW组态软件解析监控服务器的管网压力、温度数据，实现对城市不同地方多点管网温度、压力的监控。

管网数据采集与监控系统，包括三个工作层：

1、数据采集层，负责采集节点数据。

2、数据传输层，负责接收、传输节点数据。

3、监控应用层，负责对节点数据的解析、查看、统计、分析、打印。

四、供水管网数据采集与监控系统的工程界面

1、登录界面

2、数据报表

3、历史曲线

4、报警信息

五、供水管网数据采集与监控系统的优点

1、供水管网数据采集与监控系统建设过程中，无需布线，或减少布线数量，减少系统建设成本。

2、系统所需的设备安装调试方便，设备支持手机调试，提高运营维护的效率。

3、系统底层终端各种数据采集后统一传输到监控服务器，便于监控管理，提高供水管网管理效率。

六、供水管网数据采集与监控系统的软硬件设备

1、无线压力传感器

集压力采集、无线传输等功能，自动保存或恢复补传数据，支持手机现场调试的XL61无线压力传感器，也叫智能压力传感器，无线压力采集器等，属于无线传感器网络产品。

XL61无线压力传感器，具有防爆、低功耗、高精度、稳定性强、使用寿命长等特点，可选433MHZ，2.4GHZ，WI-FI等无线传输方式。XL61无线压力传感器，也叫智能压力传感器，无线压力采集器。它的应用范围广，无需布线，减少运维成本，安装便捷，即插即用，适用于供水管网、供气管网、供油管网、环境、制造业、化工、能源、仓储、办工场所等环境的温度实时采集、无线传输、现场或远程监测和预警。

2、无线温度传感器

集温度采集、无线传输等功能，自动保存或恢复补传数据，支持手机现场调试的XL61无线温度传感器（插入式），也叫智能温度传感器，无线湿度采集器，属于无线传感器网络产品。

XL61无线温度传感器（插入式），具有防爆、低功耗、高精度、稳定性强、使用寿命长等特点，可选433MHZ，2.4GHZ，WI-FI等无线传输方式。

XL61无线温度传感器（插入式）应用范围广，无需布线，减少运维成本，安装便捷，即插即用，适用于各种管网管道管沟、气象、农业大棚、养殖场、仓储馆藏、冷藏冰柜、实验室、机房、生产车间等环境的温度实时采集、无线传输、现场或远程监测和预警。

3、物联网智能网关

智能网关，也称为无线数据通讯网关、数据采集网关、物联网智能网关，具有高度集成化的特点，集数据接收、协议转换、无线通讯传输等功能，支持多种通讯协议和通讯方式，如可采用GPRS，433mhz，2.4G及以太网等多种通讯方式。

XL90智能网关，集通讯管理、数据接收、协议转换、数据处理转发等功能，支持手机现场调试，可同时接收多个无线传感器数据，支持2路以太网口(Ethernet)、RS485和1路RS232串口、无线传输等上行方式， 可选GPRS，433MHZ，2.4GHZ等无线传输方式。适用于构建大容量的智能传感网络，广泛应用于机房、机站动力、环境监控系统，低压配电监控系统，电能数据监控系统，工厂机器设备、生产线运行状态监控系统，生产信息采集系统等无线监测与预警。

4、XL.VIEW组态监控软件

XL.view组态监控软件是基于SQLServer 数据库的系统控制中心，负责系统历史数据存贮，更高层级的数据计算、统计、分析，数据展示、发布、推送等，支持XLPS、MODBUS TCP、MODBUS RTU、OPC等通信协议，可按用户要求提供定制协议，支持Mssql、Mysql、Access等数据库接口，支持Active/Com/Dll，并通过Java Script调用，支持Windows、Android、iOS平台访问，适用于Window XP,Windows 7,Windows Server 2003/2008 操作系统。

该组态软件，读取XL90、XL91智能网关，以及XL65、XL68通过GPRS上传的数据，生成历史数据库。对数据进行统计、分析，生成用户所需的各种报表、曲线、图形，技术指标；实时显示、发布各种环境参数数据等；自动推送通知、报警信息，提醒相关人员进行支援； PC、移动终端，依据访问权限，查询、浏览相关数据； 通过PC或移动智能终端，对现场设备进行控制； 支持百度地图和视频图像显示。

这不是一个虚构的故事，以下人物角色均采用实名。

我：匡恩研究院驻西南某区域专家。

张总：匡恩授权代理商，西南某公司技术负责人，工业自动化资深专家。

……

17：35分，手机来电铃声响起，这是今天第37个电话！

按下接听键：“张总，您好！根据我之前的建议目前状况如何？”

代理商张总：“您好，王老师，关于SCADA数据采集异常的事情，按您给的问题排查建议，已经完成了现场检查，目前怀疑是病毒导致的异常，由于该单位涉密，所以想请您带专业设备到现场帮忙诊断故障原因……”

================================分割线=======================================================

以下是本次故障事件现象描述和导致事件产生的原因分析。

1. 故障现象

2017年1月上线试运行的西南某省省会城市生活垃圾发电厂工况运行监控系统（SCADA）系统，主要是采集本市5个垃圾焚烧发电厂生产及工况运行数据，上传至本市数字城管中心机房存储、分析、集中展示，为本市数字城管提供城市管理参考和依据。系统自上线后一直运行正常，从4月初起，5个发电厂前端数采站出现监测数据时通时断的故障情况，出现该故障时，PLC、上位机、实时数据库、历史数据库、数采网关等设备服务工作正常。

2. 故障排查分析

按照ANSI/ISA-95.00.01企业分层模型，工业控制企业的架构可以分为五层（Level 0-4）：现场设备层、现场控制层、过程监控层、经营管理层以及企业管理层。发生故障时，过程监控层的监视控制、显示系统、实时数据库、通信处理等工作稳定，能正常对现场工作设备的监测及显示。那么故障发生的范围就可能在系统管理及监视控制的经营管理层面。在这层上，和该故障有关的资产包括：OPC服务器、前端数采站和承载数据传输的网络。

确定可能引起故障问题的范围及对象后，分别对可疑资产进行排查。

2.1网络分析

我们将安全临检系统接入OPC服务器及前端数采站所连接的交换机网络镜像口获取工控流量进行分析。以下为接入示意图：

通过临检系统展示的实时分析结果，我们发现该工控网络中有明显的异常连接，源IP地址的20000多个不同端口与同一个目标IP的51000端口建立了连接，对源IP进行定位，确定IP对应的资产为前端数采站。以下为网络连接示意图。

2.2 前端数采站分析

为满足监管部门及企业生产管理要求，发电厂把监管所需的底层数据通过OPC上传给数采站，监管部门的监控系统直接从发电厂数采站的数据库中进行抽取。

在数采站我们查看了网络连接、异常进程、注册表、可疑账户、工控病毒等项，发现本机有大量异常的连接，该现象也与网络流量分析所展示的情况一致。追踪到建立连接的进程PID值为1636，据此定位到DatagatherApp.exe是产生异常连接的罪魁祸首，该程序是某厂家的数据采集代理客户端。

2.3 导致SCADA数据采集异常分析

代理商所承建的SCADA前端数采站的数据采集应用程序工作端口为高位40000-50000间的随机范围，而某厂家4月份新装在数采站的数采代理客户端在运行后，会占用从40000~65535的2万多个端口与其数据接收服务器51000端口建立连接，那么就导致SCADA数据采集应用程序工作端口被占用，从而发生数据传输异常的情况。

3. 故障事件总结

到此，SCADA数采异常故障排查工作应该结束了，但思考却远未结束：

监管部门通过互联网环境从发电厂工控系统中采集数据，虽然不直接与PLC等现场控制层设备进行连接，但众多威胁的客观存在，这样数据访问途径，会不会为工控系统带来极大的风险呢？

已发生的工控安全事件中，很多现在都存在类似情况，如：2015年乌克兰电厂遭受BLACKENERGY（黑暗力量）攻击导致的大规模断电事件；2016年01月28日，以色列电力供应系统遭受有史以来规模最大的网络攻击事件；2016年3月24日，伊朗黑客入侵纽约鲍曼水坝（Bowman Avenue Dam）防洪控制系统事件；2016年8月27日伊朗民防部门负责人Gholamreza Jalali向路透社透露，最近石化公司起火是网络攻击所致等等。

制造业生产数据采集的作用与意义导读：制造业是我国国民经济的支柱产业，也是推动工业化的原动力，现代制造业已经并且正在深刻地改变着人们的生产方式、生活方式甚至社会文化。全球经济一体化的趋势愈演愈烈，国际竞争不断加剧，制造业的发展必须不断提高在质量保障、品种多样化、快速设计制造、快速检测响应以及快速重组等方面的要求。于是，“以信息化带动工业化，以工业化促进信息化”被提到了前所未有的高度、深度和广度。

制造业生产数据采集的作用与意义

众所周知，制造业的信息化主要包括设计数字化、生产数字化、装备数字化、管理数字化、企业数字化等。信息化的大趋势使世界各国争先恐后的把先进技术和信息化引进到传统工业和制造业。1990 年，美国 AMR(Advanced Manufacturing Research)所提出的制造行业的ERP(Enterprise Resources Planning,企业资源规划)/MES(Manufacturing Execution System,制造执行系统)/PCS(Process Control System,过程控制系统)三层结构,已经成功地在许多行业得到了应用,并被越来越多的企业所认可.

美国 AMR 研究公司对MES 的定义表述为：MES 是一个常驻工厂层的信息系统，介于企业领导层的计划系统与生产过程的直接工业控制系统之间，它以当前视角向操作人员、管理人员提供生产过程的全部资源(人、设备、材料、工具和客户要求)的数据和信息，其着重点是将信息技术运用于改善制造过程。

而作为MES中低层的数据采集功能，可以实现对生产现场各种数据的收集、整理工作，是进行物料跟踪、生产计划、产品历史记录维护以及其它生产管理的基础。它可以为企业中其他例如ERP等管理信息系统提供实时数据。另一方面，MES也要从其它管理系统中获取相关的数据以保证MES自身正常运行。因此要满足MES快速、实时的要求，作为各种功能模块运行基础的数据就显得十分重要。一个迅速而可靠的数据采集系统是整个MES能够正常稳定工作的有力保证。

制造企业面临的数据采集现状

作为车间底层的数据采集系统，在企业实际生产过程中却存在着许多困难，尤其是在离散企业中由于自动化程度较低，往往存在着以下特点：

生产过程不可视：主要体现在不能实时了解生产现场中在制品、人员、设备、物料等制造资源和加工任务状态的动态变化。

生产过程复杂性：由于产品结构和加工工艺的复杂性，造成生产过程中各制造过程的关联性强，生产环境复杂多变(临时插单、材料短缺等) 。

制造过程信息集成度低：制造过程中的各种信息不能有效进行集成，导致产能不能得到充分利用。

信息不能有效与上层管理系统进行集成：这种隔断造成生产过程不透明，生产进度、在制品状况、设备利用状况等关键数据不能到达管理层，增加了过程管理和生产决策的复杂性。

制造过程信息的真实性差：现场数据信息过多依赖人机交互界面通过人工录入，增加了出错的机率。

制造过程信息的实时性低：作业任务随市场需求的频繁调整变化，不利于制造过程信息的实时采集，再加上制造过程信息交互的速度和效率低下，造成企业对市场变化的响应速度慢。

企业设计层和管理层到车间层特别是车间设备层的信息采集困难，一方面车间设备层的重要信息难于采集和上传，无法达到对生产过程的监控。另一方面上层系统难以深入到车间和设备层，从而影响管理信息系统的准确运行，使动态信息成为脱离实际的无源之水难于及时下达，从而使整个企业信息化难以产生更大的效益。

上述特点反映了制造车间迫切需要对制造过程进行信息化的数据采集管理，从而建立一个完整高效的离散制造车间数据采集及其分析处理系统是实现离散车间信息化的基础。数据采集及其分析处理系统的主要功能就是将车间的各种离散数据完整实时的采集到车间数据库中，并进行初步的分析处理，将车间生产的信息实时准确的反馈到车间的管理层，加强管理人员对车间生产现场的监控和管理，并为企业管理人员制定生产计划提供依据。

华磊迅拓科技专业提供SCADA数据采集监控系统，OrBit-SCADA（Supervisory Control And Data Acquisition）系统是"制造业物联网信息总线"的具体实现，它包含两个层次的含义：一是分步式的实时数据采集系统，即工业通讯与控制的PC上位机系统 ；另一个是生产现场的场景建模和显示系统。

概述

环境数据采集监控系统由传感器.传感器变送器.4G数传模块.本地服务器.电源控制箱.现场控制主机.LED动态显示控制卡.LED显示屏.后台软件和WEB软件组成。这套系统可以让用户实时观察到大棚或室外的环境参数，用于指导实际的生产和工作，如光照指导用户及时给大棚开窗，温度和湿度指导用户给大棚通风，PM2.5和PM10用于监测是否有人焚烧秸秆或灰尘污染，水位用于监测沟道水位是否过高，氧气用于监测环境中氧气含量。可以将不同采集点的参数，汇总到村委会，以LED屏显示，以报表的形式输出；分配到不同的农户，监测本户大棚的环境状况。

工作流程

传感器变送器将采集点的数据汇总后，按照通讯协议通过4G数据模块，送至本地服务器。

农户家中的控制主机，通过4G数传模块，从本地服务器获取本户的数据。

本地服务器后台程序进行监听，将获取的数据存入数据库，供前端服务器和数据分析使用。

对数据库中的数据进行汇总分析后，通过无线/网线传送给LED屏动态控制卡，让LED屏显示汇总报表数据。

按照用户配置的参数项，对数据库中的数据进行汇总分析后，生成并导出报表（EXCEL）。

对数据进行分析整理，制作前端显示界面，供用户WEB访问或LCD展示使用。

位于爱丁堡的英国公司NCTech正在采用VR/AR并进行扩展，并提供360度真实成像系统来简化图像文档的工作流程，甚至可以将其用于远程设置。他们在这一领域的最新成果是推出全新的虚拟数据采集系统iSTAR Pulsar，以便在移动中捕获数据。

iSTAR Pulsar设计用于车辆，无人机或步行时捕获360度数据。该系统设计简单易用，不需要任何摄影经验甚至电脑操作。iSTAR Pulsar应用程序提供了规划路线，以及在线查看和分享内容的能力。

iSTAR Pulsar专门为捕捉360度移动数据而设计，并与索尼和英特尔联合开发。该系统可用于各种工业和智能城市应用。

产品详情如下：

无与伦比的11K球形分辨率将iSTAR Pulsar定义为几乎是标准8K球形系统像素分辨率的两倍，可提供6050万像素的全景图像。

预先校准到亚像素级别与先进的深度分析算法相结合，确保在移动平台上实现最精确的全景拼接。

iSTAR Pulsar针对移动平台进行了优化，可在处理过程中调整捕获速率，以提供一致的距离间隔，从而最大限度地减少数据存储和处理要求。

全自动后处理流水线包括一个可选的自动水平仪稳定功能，以纠正步行捕捉时产生的任何俯仰和滚动。

坚固的设计，耐候性和防震性，内置高精度GPS和IMU传感器，确保与GIS系统直接集成。

先进的对称和非对称加密技术确保从采集到交付的端到端数据安全。

NCTech在本周早些时候在伦敦Geo商业展上展示了iSTAR Pulsar ，并将在下个月初在加利福尼亚州阿纳海姆会议中心举行SPAR 3D Expo上展示他们的产品 。

“只需轻敲一下，iSTAR Pulsar就可以提供全自动的360°全景图像拍摄功能。它不是传统意义上的摄像头，它捕获大量高分辨率数据，并连接到我们庞大的云处理管道，从捕获到交付提供全自动工作流程。”

匹配算法实现，通过将用户属性、用户学习状态属性、用户操作行为统计属性与资源属性进行匹配，数据容量大，遥测距离远，人机界面友好，可靠性高的优点，可广泛用于学校和社区小区域范围环境服务。

也适合于气象、海洋、环境、机场、港口、工及等领域使用．实时数据采集与上传该模块主要功能是通过无线方式获取环境观测站采集的实时数据并显示．数据采集的基本算法如下：首先判断是否到发送数据时间，若到了执行数据发送命令。

为了方便学习者查找资源以及系统推送资源，须对学习者和资源的属性进行标记，即创建属性元数据．本研究采用标签技术分别建立学习者和资源的属性元数据．学习者的属性标签主要来自于用户注册时的信息（用户属性）、学习者的学习状态属性以及学习者系统操作行为统计属性（对上传、下载、浏览、评论等操作的统计）。

资源的属性标签主要来自于资源提供者根据学科和关键字分类的标签以及资源使用者对资源的评价、标记等．根据研究性学习的主题、用户学习进度，系统可以将用户可能感兴趣，其他用户感兴趣或评分高、浏览次数多，相同领域的最优资源或相似领域的最佳资源推送给用户，系统根据学习者的学习主题，将平台中评价最高的相关资源、教师指定的资源和拓展的相关资源进行匹配，

一、携程实时用户数据采集系统设计实践

随着移动互联网的兴起，特别是近年来，智能手机、pad等移动设备凭借便捷、高效的特点风靡全球，同时各类APP的快速发展进一步降低了移动互联网的接入门槛，越来越多的网民开始从传统PC转移至移动终端上。但传统的基于PC网站和访问日志的用户数据采集系统已经无法满足实时分析用户行为、实时统计流量属性和基于位置服务（LBS）等方面的需求。

我们针对传统用户数据采集系统在实时性、吞吐量、终端覆盖率等方面的不足，分析了在移动互联网流量剧增的背景下，用户数据采集系统的需求，研究在多种访问终端和多种网络类型的场景下，用户数据实时、高效采集的方法，并在此基础上设计和实现实时、有序和健壮的用户数据采集系统。此系统基于Java NIO网络通信框架（Netty）和分布式消息队列（Kafka）存储框架实现，其具有实时性、高吞吐、通用性好等优点。

1、技术选型和设计方案：

一个典型的数据采集分析统计平台，对数据的处理，主要由如下五个步骤组成：

图1、数据平台处理流程

其中，数据采集步骤是最核心的问题，数据采集是否丰富、准确和实时，都直接影响整个数据分析平台的应用的效果。本论文关注的步骤主要在数据采集、数据传输和数据建模存储这三部分。

为满足数据采集服务实时、高效性、高吞吐量和安全性等方面的要求，同时能借鉴互联网大数据行业一些优秀开源的解决方案，所以整个系统都将基于Java技术栈进行设计和实现。整个数据采集分析平台系统架构如下图所示：

图2（数据采集分析平台系统架构）

其中整个平台系统主要包括以上五部分：客户端数据采集SDK以Http(s)/Tcp/Udp协议根据不同的网络环境按一定策略将数据发送到Mechanic(UBT-Collector)服务器。服务器对采集的数据进行一系列处理之后将数据异步写入Hermes(Kafka)分布式消息队列系统。为了关联业务服务端用户业务操作埋点、日志，业务服务器需要获取由客户端SDK统一生成的用户标识（C-GUID），然后业务服务器将用户业务操作埋点、日志信息以异步方式写入Hermes(Kafka)队列。最后数据消费分析平台，都从Hermes(Kafka)中消费采集数据，进行数据实时或者离线分析。其中Mechanic(UBT-Collector)系统还包括对采集数据和自身系统的监控，这些监控信息先写入Hbase集群，然后通过Dashboard界面进行实时监控。

（1）基于NIO的Netty网络框架方案

要满足前面提到的高吞吐、高并发和多协议支持等方面的要求。我们调研了几种开源异步IO网络服务组件（如Netty、MINI、xSocket），用它们和NginxWeb服务器进行了性能对比，决定采用Netty作为采集服务网络组件。下面对它进行一些概要介绍：Netty是一个高性能、异步事件驱动的NIO框架，它提供了对TCP、UDP和文件传输的支持，Netty的所有IO操作都是异步非阻塞的，通过Future-Listener机制，用户可以方便的主动获取或者通过通知机制获得IO操作结果。

图3（Netty框架内部组件逻辑结构）

Netty的优点有：

a、功能丰富，内置了多种数据编解码功能、支持多种网络协议。

b、高性能，通过与其它主流NIO网络框架对比，它的综合性能最佳。

c、可扩展性好，可通过它提供的ChannelHandler组件对网络通信方面进行灵活扩展。

d、易用性，API使用简单。

e、经过了许多商业应用的考验，在互联网、网络游戏、大数据、电信软件等众多行业得到成功商用。

Netty采用了典型的三层网络架构进行设计，逻辑架构图如下：

图4（Netty三层网络逻辑架构）

第一层：Reactor通信调度层。该层的主要职责就是监听网络的连接和读写操作，负责将网络层的数据读取到内存缓冲区中，然后触发各种网络事件，例如连接创建、连接激活、读事件、写事件等，将这些事件触发到Pipeline中，再由Pipeline充当的职责链来进行后续的处理。

第二层：职责链Pipeline层。负责事件在职责链中有序的向前（后）传播，同时负责动态的编排职责链。Pipeline可以选择监听和处理自己关心的事件。

第三层：业务逻辑处理层，一般可分为两类：a. 纯粹的业务逻辑处理，例如日志、订单处理。b. 应用层协议管理，例如HTTP(S)协议、FTP协议等。

我们都知道影响网络服务通信性能的主要因素有：网络I/O模型、线程（进程）调度模型和数据序列化方式。

在网络I/O模型方面，Netty采用基于非阻塞I/O的实现，底层依赖的是JDKNIO框架的Selector。

在线程调度模型方面，Netty采用Reactor线程模型。常用的Reactor线程模型有三种，分别是：

a、Reactor单线程模型：Reactor单线程模型，指的是所有的I/O操作都在同一个NIO线程上面完成。对于一些小容量应用场景，可以使用单线程模型。

b、Reactor多线程模型：Rector多线程模型与单线程模型最大的区别就是有一组NIO线程处理I/O操作。主要用于高并发、大业务量场景。

c、主从Reactor多线程模型：主从Reactor线程模型的特点是服务端用于接收客户端连接的不再是一个单独的NIO线程，而是一个独立的NIO线程池。利用主从NIO线程模型，可以解决一个服务端监听线程无法有效处理所有客户端连接的性能不足问题。Netty线程模型并非固定不变的，它可以支持三种Reactor线程模型。

在数据序列化方面，影响序列化性能的主要因素有：

a、序列化后的码流大小（网络带宽占用）。

b、序列化和反序列化操作的性能（CPU资源占用）。

c、并发调用时的性能表现：稳定性、线性增长等。

Netty默认提供了对GoogleProtobuf二进制序列化框架的支持，但通过扩展Netty的编解码接口，可以实现其它的高性能序列化框架，例如Avro、Thrift的压缩二进制编解码框架。

通过对Netty网络框架的分析研究以及对比测试（见后面的可行性分析测试报告）可判断，基于Netty的数据采集方案能解决高数据吞吐量和数据实时收集的难点。

》》点击阅读全文