“最牛社保职工”发明采集系统

社保卡数据采集，3分钟搞定 投用一年为安顺市民节约160万元

市民在操作数据采集系统。

“没想到这么方便，几分钟就能办好！”9月12日下午，安顺市社保局办事大厅内，市民王蕾站在社保卡制卡数据采集机前，刷身份证、输入电话号码、根据提示拍照，简单几个步骤，不到3分钟，社保卡信息已采集完毕。

从“便民”出发萌生新创意

这个让市民“少跑路”的信息采集“神器”，正是安顺市社会保险事业局网络管理科科长龙元鑫的新发明。

据了解，以往参保人申请制作社会保障卡，需自费到指定的商业相馆拍照，再到社保经办机构服务窗口排队进行数据采集，如果相片不规范，还得返回相馆重拍，整个过程至少半天才能完成。

从事社保工作15年来，看到参保人长时间排队等待，来回折腾于金融部门——社保机构——工作单位之间，2013年，计算机软件专业出身的龙元鑫萌生了一个想法：自己设计一个集信息采集和拍照于一体的系统！让群众办理业务少掏钱、少跑路、少耗时。

说做就做，于是，龙元鑫开始了一场漫长的创造之旅。

忍受3年的枯燥坚持研发

构思、画图、设计控制板，自掏腰包购买相机、升降机、机柜，绘制电路图、制作电路板、编写程序控制硬件……而这些工作，龙元鑫都只能利用业余时间来完成。

“家里客厅、卧室到处都是我要用的零件。”龙元鑫笑着说，“女儿也总是被我拉过来当模特试验拍照效果，后来一听到爸爸叫拍照就要躲”。并且，长期伏案导致才40岁出头的他犯了颈椎病，也正因为如此，家人免不了有些抱怨。

时间一天天过去了，作品还总是有需要改进的地方，对于这个过程，龙元鑫用了两个字来总结——枯燥。远离了原来一起打羽毛球的朋友，没时间陪孩子，龙元鑫偶尔也想过放弃，第二天却又再次全身心地投入其中。

投用一年为市民节约160万

功夫不负有心人，2016年初，龙元鑫研制的“社保卡制卡数据采集系统”第一代开始投用，参保人只需3分钟就能完成信息录入。

仅投用的第一年，该系统就采集了制卡人数据8万余条，将全市291.8万户籍人口持卡率提高了2.7个百分点。如按每拍摄一张制卡相片花费20元计算，仅拍照费用一项就为制卡人群节约了160万余元。

“目前安顺户籍人口尚有183.4万人未制作社保卡，而这类人群大都居住在农村。”龙元鑫说，他接着对系统进行升级改造，2017年，体积缩小一半，重量约50斤，功能更完善的第二代、第三代便携“社保卡制卡数据采集系统”已覆盖全市98个乡镇，还有30多台可以随时带进高校、农村进行参保数据采集。

初步预算，这一系统可为百姓节省3000多万元，将有效助力扩大社会保障。(实习生甘良莹 记者张光平 来源：贵州都市报)

随着大数据应用的不断发展和成熟，一些监控系统企业已收获可观的回报。近来，大数据的处理更是发展到了一个更高的新水平，即人工智能（AI）平台的形式。AI平台预计将在未来十年产生重大影响（或颠覆）。在各种技术中，人工智能用于处理海量数据集将前所未有地提升商业智能和分析。

AI智能机器学习是运用算法来分析数据，并从中学习和做出预测。算法包括决策树学习、聚类、强化学习和归纳逻辑编程。

人工智能和机器学习现在主要用作研究和网络活动的个人助理，以及完成诸如接电话、做销售预测和驾驶车辆之类的任务。这些技术综合在一个AI平台中时，将显示出巨大的应用前景

AI平台是一种比传统框架更高效、更智能化的框架。设计得好的话，它可为组织或监控系统企业提供与数据科学家和员工更快、更高效和更有效的协作。它可以帮助以多种方式降低成本——防止重复工作、使简单任务自动化，以及消除一些费用昂贵的活动，例如复制或提取数据等。AI平台还可以提供数据治理，确保由AI科学家和ML工程师组成的团队的最佳实践应用。它还可以帮助确保工作更均匀地分配、更快地完成。

AI平台一般将其要素组织成五个逻辑层：

数据和集成层提供对数据的访问。这种访问是至关重要的，因为开发人员不手工编写规则，相反，规则是由AI运用它所访问的数据进行“学习”的。

实验层允许数据科学家开发、测试和证明假设。设计良好的实验层将提供自动化的特征工程、特征选择和模型选择。

操作和部署层提供模型治理和部署。正是在这里对模型进行风险评估，允许模型治理团队验证它。这一层提供了跨平台部署各种容器化模型和组件的管理工具。

智能层提供对人工智能工作的支持（培训活动在实验层进行）。智能层组织和提供智能服务，并且是用于指导服务交付的主要组件。理想情况下，在该层实现诸如动态服务发现之类的概念，以提供支持认知交互的灵活响应平台。

体验层通过诸如增强现实、会话UI和手势控制之类的技术与用户交互。这一层通常由认知体验团队控制，该团队努力创建丰富且有意义的、由AI技术支持的体验。

使用人工智能分析大数据可以提供对影响企业的外部和内部机制更深入的理解。采用最新的大数据体系结构和机器学习可以更好地支持人工智能的使用。一个现代的、先进的基于人工智能的平台具有以下特征：

· AI可以访问所有可用的数据

· 它从客户或潜在客户的历史中学习

· 它从以前的类似客户那里获取经验，并展示过去行之有效的策略

· AI监控和学习，发现人类可能错过的模式

· AI实时学习，并根据新数据作出实时响应

· 基于变化的数据提供指导

· AI融合机器学习

为了使用先进的AI收获最大的结果，应满足以下三个基本要求：

一、是分析框架。分析框架是随着时间推移而开发的用于解决特定业务问题（通常是复杂的）的方法。使用分析框架是支持系统的AI和机器学习能力的关键。

二、是语境。目前AI和机器学习在判断语境方面表现还非常差。AI可以发现趋势，并且从数据中判断发生了什么，但是超越趋势来推荐员工应该做什么，就必须要考虑语境。虽然人们希望AI能够学习如何确定语境，但这目前还不是现实，还需要由人工确定语境并将其添加到模型中。

三、是适当的技术。与传统的分析系统不同，AI支持的平台必须是可扩展的，以便AI学习和创建解决方案。传统的分析系统会提供对数据的洞察力，而AI会实时地提供建议。

对于安防监控系统AI，看上去是AI，实际上最后是大数据，大数据才是智能化的基础。人工智能、深度学习、机器学习、大数据应用在安防监控系统AI中， 说到底都是对大数据的采集、建模和应用。本文大致说一下安防监控系统AI中，对于大数据的运用过程与环节，让大家有个大致的印象。

安防监控系统AI大数据流程三个环节

1、数据采集

数据采集，有说数据获取，这是数据的来源，安防监控系统AI中这个数据是来源于视频监控系统中的视频流，当然往大了说安防监控系统，还包括很多内容，但是基本都是以视频监控为核心，这里主要指视频监控系统。

2、数据预处理

对于采集到的实时或者历史视频，是只能看不能应用的，要调用就得结构化，先给视频流解码，把视频流还原成一张张图片，再对图片进行预处理。可能不同的公司对预处理包含的步骤内容说法不太一致，我是以安软慧视的技术负责人介绍为准。先对图片进行目标清洗垃圾，清洗掉模糊的、不合尺寸的，目标无法识别的、无目标对象的等等。

当然，有些场景可能只有这样的图像，这需要用到另外一些图像处理方法，和我们的主题相关但不是一回事。这样我们就可以得到基本符合要求的图像。然后对这些图像中的目标对象进行检测和分割，并改变目标的大小与标准图片大小一致，目标对象包括人形、人脸、车形等，这样就可以拿去训练模型了。

3、模型训练

对图片中的目标对象进行识别，提取和构建模型，在安防监控系统AI中，需要的结构化描述是比较具体的，比如对人的描述就包括性别、年龄、发型特征、发饰、上衣款式特征、下衣款式特征、鞋帽款式特征、交通工具特征、随身物品特征、同行人特征等一系列描述。对车的描述包括车牌号码、厂牌、车身颜色、车辆品牌、车辆类型、车辆特征物（如：年检标、挂饰、纸巾盒、遮阳板）等。

有了这些识别模型，就可以通过语义分析等技术对视频数据进行分类处理存储，并通过后端服务器的智能分析功能进行业务处理，将人、车、物的信息从数据中分离出来。这样公安民警就可以进行快速检索、条件搜图（人）、以图搜图，再配以图片的拍摄地点、时间等数据，就可以进行轨迹查询，再匹配一下大安防监控系统系统中的住宿、手机号码、车票等大数据，基本上嫌疑人就是插翅难逃，这对民警的破案效率将是百千倍的提升。这才是安防监控系统AI真正的价值所在。

安防监控系统AI数据预处理技术及方法

目前常见的数据预处理技术

1）数据清理

数据清理例程就是通过填写缺失值、光滑噪声数据、识别或者删除离群点，并且解决不一致性来进行“清理数据”。

2）数据集成

数据集成过程将来自多个数据源的数据集成到一起。

3）数据规约

数据规约是为了得到数据集的简化表示。数据规约包括维规约和数值规约。

4）数据变换

通过变换使用规范化、数据离散化和概念分层等方法，使得数据的挖掘可以在多个抽象层面上进行。数据变换操作是提升数据挖掘效果的附加预处理过程。

数据清理方法

1）缺失值

对于缺失值的处理，一般是能补的就想办法把它补上，实在补不上的就丢弃处理。通常的处理方法有：忽略元组、人工填写缺失值、使用一个全局变量填充缺失值、使用属性的中心度量填充缺失值、使用与给定元组属同一类的所有样本的属性均值或中位数、使用最可能的值填充缺失值。

2）噪声数据

噪声是被测量变量的随机误差或方差。去除噪声、使数据“光滑”的技术有分箱、回归、离群点分析等。

3）数据清理过程

这个环节主要包括数据预处理、清理方法、校验清理方法、执行清理工具及数据归档。数据清理的原理是通过分析“无效数据”产生的原因和存在形式，利用现有的技术手段和方法去清理，将“无效数据”转化为满足数据质量或应用要求的数据，从而提高数据集的数据质量。常用的工具有Excel、Access、SPSS Modeler、SAS、SPSS Statistics等。

4）模型构建数据统计分析

数据统计为模型构建提供基础，只有通过数据统计分析探索到了数据中隐藏的规律，深度学习才有意义，人工智能才有可能。数据统计又包括数据分析与结果分析，基本的分析方法有：对比分析法、分组分析法、交叉分析法、因素分析法、结构分析法、漏斗图分析法、矩阵关联分析法、综合评价分析法等。

高级的分析方法有：主成分分析法、因子分析法、对应分析法、相关分析法、回归分析法、聚类分析法、判别分析法、时间序列等。这些类别并不是独一使用的，往往是混合使用的，然后再通过进一步的分析对比从中挑选某些组合模型。

5）数据可视化

数据可视化，就是通过一些可视化图形或者报表形式进行展示，增强对分析结果的理解。再针对结果进行进一步的数据再分析，使得整个业务环节形成闭环。只有闭环的数据才能真正发挥出深度学习的效用。

安防监控系统AI大数据的应用

安防监控系统大数据的应用当前是围绕提升破案率和提升警务工作效率为中心的，要想在安防监控系统数据的基础上开发出优秀的应用，必须要深入了解警务工作流程，从接处警、现场勘查、情报研判、应急指挥、关联碰撞、合成作战，再到各类型警用装备间的互联互通，再到各警种间的配合，再到各警种业务数据库间的融合。这些都要有详细地了解，才能发现针对刑侦破案、治安防监控系统控、交通管理的应用间的差异。

说到底，大数据最终是为应用服务的，只有最后真正提高了公安民警的工作效率和破案率，才能证明安防监控系统AI的价值和意义。这就要求我们既要懂AI业务，又要懂公安业务。脱离了这两者，想让安防监控系统AI得到大面积推广是连想都不要想的。

2018年度全国残疾人基本服务状况和需求信息数据动态更新工作（以下简称动态更新工作）实名制数据统计上报完成，共获取全国3307.6万名持证残疾人的基本服务状况和需求信息。这是自2015年以来第四次全面获取全国所有持证残疾人的实名制信息并年度更新。

动态更新工作是中国残联会同国家统计局、国家发展改革委、教育部、工业和信息化部、公安部、民政部、财政部、人力资源社会保障部、住房城乡建设部、卫生健康委、国务院扶贫办等部门，在国务院残工委领导下组织开展的覆盖全体持证残疾人的实名制信息登记工作，深入所有持证残疾人家庭，调查持证残疾人在基本信息、经济与住房、义务教育、就业与扶贫、社会保障、基本医疗与康复、无障碍、社区文体活动等方面的信息。

为了进一步学习贯彻习近平总书记关于残疾人事业的重要论述和党中央、国务院致词精神，落实中国残联七代会关于大数据平台建设和动态更新工作的部署，中国残联等部门将在今后一段时期的动态更新工作中，把建立长效机制作为工作重点，健全完善以动态更新实名制信息为重点内容的残疾人工作大数据平台，以准确反映残疾人状况的年度改善情况和残疾人工作的成效，集中反映残疾人在小康进程中面临的困难并依据实名制信息开展精准服务。

来源：动态办

编辑：徐晶

为了解决远程数据传输问题，针对地理条件比较复杂的区域如山体滑坡监测区域，研究了通过无线方式传输信息的方法，从而实现远程数据采集与监测功能。以ＡＲＭ处理器为核心，采用多种模块构建山体滑坡远程数据采集与监测系统。介绍了数据采集功能实现方法和驱动程序的设计思想，设计了加速度传感器与ＡＲＭ处理器的连接电路以及传感器采集程序。试验验证表明，系统接收多点数据信息正确，能够及时反映数据采集实时值，并提供报警信息。关键词：ＡＲＭ 远程数据采集监测线程ＧＰＲＳ驱动程序。

山体滑坡是严重的地质灾害之一，它会毁坏工程设施，造成巨大的经济损失。为了防患于未然，需要及时、快速地监测山体的滑动情况，实现滑坡危害的预报。对山体滑坡进行监测的目的在于对滑坡的稳定性做出判断，并对可能发生的滑动做出预测。通过相对位置的变化判断各个监测点的滑动情况，滑坡监测对减灾防灾意义重大。在滑坡变形监测中，ＧＰＲｓ等先进技术将发挥积极作用，实现对监测区域的远程实时监测，并通过对采集数据的分析和处理，实现对山体滑坡的预警。

１ 远程数据采集与监测系统构成

远程数据采集与监测系统由ｊ轴加速度传感器、嵌入式处理器ＡＲＭ、电源模块和ＧＰＲｓ模块等构成。系统监测采集加速度传感器的数据，与键盘设定的上限值进行比较，ＧＰＲｓ模块以短信方式发送监测信息和报警信息。当采集的加速度值超过一定上限时，蜂鸣器发声起到报警功能。远程数据采集与监测系统构成如图1所示。

２数据采集与驱动程序设计

2.1 ＡＤＣ转换功能实现

ARM处理器S3C2410内置1个8通道的10位模数转换器ＡＤＣ。采用ＡＤＣ控制器寄存器系统可以同时外接８位的模拟墩输入．最大转换速率可达５００ｋＳ／ｓ。S3C2410的引脚ＡｌＮ［７］和ＡＩＮ［５］用于连接触摸屏的模拟信号输入。ＡＲＭ处理器S3C2410有ＡＤｃ控制寄存器和ＡＤｃ触摸屏控制器，其通过程序设计配置寄存器控制ＡＤｃ的Ｔ作模式，并编写应用程序读取ＡＤｃ转换值。ＡＤＣ触摸屏控制寄存器ADCTSC配置成普通工作模式。对于S3C2410处理器，在使用触摸屏时，引脚ＡＩＮ［７］和ＡＩＮ［５］用于测量触摸屏ｘ、Ｙ的电平，引脚ＡＩＮ［６］、ＡＩＮ［４：０］用于一般的ＡＤＣ输入。当有触摸屏驱动加载时，ＡＤＣ转换器工作在触摸屏模式。因此，ＡＤＣ转换和触摸屏驱动不能同时启用一“１。使用ＡＤＣ的步骤如下。

①设置舡）Ｃ控制寄存器ＡＤＣＣＯＮ，选择输入通道，设置ＡＤｃ转换器的时钟，Ａ／Ｄ时钟＝ＰｃＵｙ（ＰＲｓＣＶＬ＋１），其中，Ｈｔ５汇ＶＬ为ＡＤｃ转换器预分频器数值。

②设置ＡＤC触摸屏寄存器ADCTSC，对于普通ＡＤＣ，设置ADCTSC位［２］为０。

③设置ＡＤC控制寄存器ＡＤＣＣＯＮ，启动Ａ／Ｄ转换。如果设置ＡＤＣＣＯＮ中的ＲＥＡＤ—ＳＴＡＲＴ位为１，则读取ＡＤＣ转换数据寄存器ＡＤＣＤＡＴＡ０时即启动下一次转换，也可以设置ＡＤＣ控制寄存器ＡＤＣＣＯＮ中的ＥＮＡＢＬＥ—ＳＴＡＲＴ位启动Ａ／Ｄ转换。

④转换结束时，读取ＡＤｃ转换数据寄存器ＡＤＣＤＡＴＡ０值。

２．２驱动程序设计

一个硬件的驱动程序，通常指一个驱动模块。对于一个硬件的驱动。Ｌｉｎｕｘ下可以有两种方式：一种是直接加载到内核代码中，启动内核时就会驱动此硬件设备；另一种是以模块方式编译生成一个独立文件，当应用程序需要时再加载到内核空间运行。加载驱动是正常运行设备的必要条件，缺少驱动程序，将无法进行正常操作。驱动程序包含有各种定义，如ｓ３ｃ２４１０管脚的定义、对应的地址映射等。ＧＰＲｓ驱动、Ａ／Ｄ驱动和键盘驱动这３个驱动分别关系到通信、采集和参数设定３大方面，这３个驱动也可以理解为操作系统中的设备。设备驱动的角色就是将这些调用映射到作用于实际硬件和设备相关的操作上。驱动可以与内核的其他部分分开建立，需要的时候在运行时“插入”。

３传感器模块设计

在滑坡发生过程中，对象的加速度、速度和位移等矢量均发生变化。在山体监测区域安放大量的传感器，以测量山体位移和加速度值。本文采用加速度传感器ＭＭＡ７２６０ＱＴ测量各个轴的加速度值，以便及时检测灾害。如果物体沿着某一个方向运动，或者受到重力作用，传感器输出值就会根据其运动方向和设定的传感器灵敏度而改变。系统采用ＡＲＭ处理器的Ａ／Ｄ转换器读取此输出信号。三轴加速度传感器测量时，量程可有以下４种形式：①在１．５ｇ量程下，信号灵敏度为８００ｍＶ／ｇ；②在２ｇ量程下，信号灵敏度为６００ｍｖ／ｇ；⑧在４ｇ量程下，信号灵敏度为３００ｍＶ／ｇ；

④在６ｇ量程下，信号灵敏度为２００ｍＶ／ｇ。加速度传感器与ＡＲＭ处理器的硬件连接图如图２所示。

图２加速度传感器与ＡＲＭ处理器的连接

ｇ－ｓｅｌｅｃｔ，引脚和ｇｓｅｌｅｃ：引脚用来选择传感器的灵敏度，有４个灵敏度可供选择。ｇ—ｓｅｌｅｃｔ。引脚和ｇ—ｓｅｌｅｃ：引脚在芯片的内部被下拉为低电平。图２中ｇ—ｓｅｌｅｃｔｌ引脚和ｇ—ｓｅｌｅｃ：引脚悬空，芯片的工作灵敏度为８００ｍＶ／ｇ。当传感器工作在休眠模式时，ＳｌｅｅｐＭｏｄｅ引脚可不接，将其悬空即可。ｘ。。、Ｙ。。和ｚ。。分别为ｘ轴、ｙ轴、ｚ轴方向的输出电压。当采集的加速度值超过一定上限时，蜂鸣器发声，同时通过手机发出报警信息，实现报警功能。加速度传感器采集程序如下所示。

①打开ＡＤC设备文件

ｆｄ＝ｏｐｅｎ（ＰＡＴＨ，０一ＲＤＷＲ）；

ｉｆ（ｆｄ＜Ｏ）

｛ｐｎｄ（”Ｆａｉｌｅｄ

ｔｏ ｏｐｅｎ

ａｄ－ｄｄｖｅｒ／ｎ”）；

ｅｘｉｔ（１）；｝

②设置Ａ／Ｄ分频比和通道号

ａｄｃ－ｉｎｆｏｒ．ｐｍｓｃａｌｅ＝４９；

ａｄｃ—ｉｎｆｂｒ．channel＝ｉ；

ｗｒｉｔｅ（ｆｄ，（ｖｏｉｄ）＆ａｄｃ－ｉｎｆｏｒ。ｓｉｚｅｏｆ（ａｄｃ－ｉＩｒ））＝＝

ｓｉｚｅｏｆ（ｓtｕｃｔ ＡＤＣ—ＤＥＶ）；

在此定义了一个结构体。该结构体包含的元素分别为Ａ／Ｄ转换的通道号和分频比。其通过ｗｒｉｔｅ函数写入设备文件。结构体如下所示。

ｓｔａｔｉｃ ｓtｕｃｔ ＡＤｃ—ＤＥＶ

｛ｉｎｔ ｃｈanｎｅｌ；

ｉｎｔ ｐｒｅｓｃａｌｅ；

｝ａｄｃ－infor；

③读取转换数据：read（fd，&data，size of (data)）＝＝

Size of(data).read函数的参数分别为设备文件的标志符、数据被读入的地址和读取数据的长度。

④数据换算：d=((float)data*3.3)/1024.0. read读取的是ｌＯ位二进制数据，必须将其转换为对应的电压值。电压最大值为3.3V

４ 线程设计与ＧＰｌ塔模块功能

本文采用SIMCOM公司SIM300 GPRS模块，通过发送ＡＴ指令完成信息的传送。初始化GPRS模块后，需要设定发送短信的模式。GPRS模块功能函数需要两个入口参数，一个是发送短信的号码，另一个是短信的内容，实现将指定内容发送到指定号码上的功能。

４．１通道监测线程设计

通道监测线程分别将３个通道的数值动态更新于result全局数组中。开辟的３个监视线程可以分别动态监测，如通道0对result[0]中的数据进行动态监测。同时，利用WHILE循环实现循环监测，它的退出条件也就是系统的退出条件，保证了监测线程的全局性。同时，在这个循环中对通道的３种状态进行逐一分析。通道的３种状态分别为通道测量值超过预定的上限值、通道量值超过预定的下限值和通道测量值为正常值。如果超出报警限值，应发送提示信息。

４．２采集数据发送线程设计

开启一个线程，循环判断系统结束标志位和暂停标志位是否全部为ｌ，如果是，则退出线程；如果不是,则按系统给定的时间发送当前３个通道的数据。采集数据发送线程流程图如图３所示。

４．３键盘监测线程设计

在监测系统现场，往往根据其不同条件，利用键盘进行参数修改。设计了更改Ａ／Ｄ上、下限值和监测手机电话号码的功能。以“*”号键作为进入系统的中断键．为键盘开启一个实时监测甬数。当按下“*”号键时，Ａ／Ｄ采集暂停，并进行更改系统相关参数的设定；待设定完毕后，恢复Ａ／Ｄ的采集。

５主函数的设计与分析

ＡＲＭ拥有更快的处理速度和更大的内存空间支持操作系统的移植，同时也引入了文件系统的概念，以支持进程、线程的调用。主函数流程图如图４所示。

图４主函数流程图

在主函数中，需要初始化ＧＰＲＳ驱动、Ａ／Ｄ驱动和键盘驱动，将数据采集功能放入主函数中，利用循环实现实时监测。循环的退出条件也就是系统的退出条件。在“ｎｕｘ操作系统中，程序结束前必须回收所建立的线程，否则线程会一直占用系统资源，系统最终会因为各种死锁或内存溢出而崩溃。循环监测中的ｗｈｉｌｅ循环实现参数修改时暂停数据采集的功能，以避免不必要的线程阻塞或死锁。

６结束语

通过无线方式传输信息，能够解决布设有线监测系统的缺陷，适用于偏远山区滑坡灾害监测。在山体的不同位置放置相应的传感器，利用无线传输技术，将采集到的多点数据和报警信息通过手机方式发送给控制中心，实现对环境和参数的远程监测。本文将嵌入式系统应用于滑坡灾害监测系统，基于ＡＲＭ处理器、加速度传感器和ＣＰＲｓ模块设计了山体滑坡远程监测系统，实现了远程数据采集、监测与无线传输，对探索预防山体滑坡将起到积极作用。

ForeSpider 前嗅：手把手教你数据采集

ForeSpider是一款非常好用的数据采集软件，因为属于专业性工具，除了帮助文档外很少有使用教程。所有有很多人在使用的过程中遇到问题难以解决，今天给大家介绍ForeSpider数据采集系统的使用教程，希望能对大家的工作有所帮助。

教程的示例网站是大众点评，要得到50页内所有医院名称，该医院评论总数，医院总体星级，各项评分，医院评论的用户名，评论内容，评论时间，用户点评星级，获赞数量和回应数量。

首先我们先新建一个频道，我给它命名为大众点评，然后在频道配置里输入我们想要爬取数据的网址，需要在频道配置处输入想要得到数据的网址，大众点评需要开启cookie，从右面可以开启，网站不同有的不需要，视情况而定。 现在默认模板（1）就是我们要的网站页面，鼠标放在医院标题处如图，从左下角能看到医院的网址链接。

现在点一下右上角的采集预览，我们能得到整个页面的所有网页链接，下拉滚动条到这个位置就会发现跟上图相同格式的链接，这就是我们需要的所有医院的链接。

我们用不到的需要过滤一下，可以通过地址过滤和标题过滤方法筛选。点击软件右上角模板抽取配置里面的链接抽取，里面有地址过滤和标题过滤两个选项，点击地址过滤，软件右下角如图：

过滤规则选择包含，过滤串内输入想要得到的医院链接，后面这串数字我们用“\d”表示，用“\e”表示结束，例如https://dianping/shop/\d\e，这样就能采集网页内所有这种格式的网页链接。

当我们想要采集的网页下面有翻页的链接，就必须配置翻页。除了在右上角默认模板处抽取我们想要的得到的医院链接外，还要再新建一个链接抽取，抽取页面翻页的地址。

我们继续从采集预览处得到翻页的链接，过滤规则选择包含，通过观察发现几个链接的相同点，输入到过滤串里就能得到想要的翻页链接了。

第一层级的模板建好了，下面我们随便点进一个医院主页内，复制链接建立下一层级模板。在默认模板（2）的示例地址内输入医院主页的链接。

因为我们需要采集该医院所有用户评论，所以我们找到下面的“更多点评”，通过刚刚地址过滤的方法，过滤出更多点评的链接，并建立模板（3），示例地址输入刚刚过滤的得到的“更多点评”的网址。

注：点击链接抽取，看左下角关联模板处，一定要关联到下一层级的模板，如果是翻页的链接抽取，要关联自身模板，否则会数据采集失败。这点一定要注意。

这样模板的基本配置就完成了，下一步是建立表单，下图是我们的需求，红色字体我们能从模板二采集到，蓝色字体我们能从模板三采集到，所以我们需要建立两个表单。

点击表单配置，新建一个表单，添加一个网页主键如图，一定要勾选索引字段，键值唯一，主键字段三个选项，取值类型选择网页主键点击确定。

然后添加下一个字段如标题“title”

取值类型选择“选区内全部文本”，变量类型选择“string”，选择合适的字符长度点击确定。依次建立所有字段。

这是我建立的两个表单的所有字段，表单名称分别为“大众点评1”、“大众点评2”，建立好以后点击保存即可。点开模板配置，每一个模板对应相应的表单，右键模板二“添加数据抽取”，表单名称选择“大众点评1”。

同样在模板三处再添加另外一个数据抽取表单，添加好后如下图所示：

单击“title”，然后按住ctrl键同时鼠标左键点击对应标题，内容过多的话按住shift可以调整内容大小，选好后点击保存。

全部选取完后点击左上角的文件，然后全部保存。

下一步点击数据，连接数据库，然后再次点击数据，选择数据表，选择刚刚新建两个数据表的字段后创建表，创建好后勾选并确定，就可以进行数据采集了（如果表单有问题需要更改，改好后需要重新创建表单），速度慢可以点击设置里面的线程设置，设置多线程。

这只是一个简单的教程，软件还有很多强大的功能，祝大家使用愉快！

概述

环境数据采集监控系统由传感器.传感器变送器.4G数传模块.本地服务器.电源控制箱.现场控制主机.LED动态显示控制卡.LED显示屏.后台软件和WEB软件组成。这套系统可以让用户实时观察到大棚或室外的环境参数，用于指导实际的生产和工作，如光照指导用户及时给大棚开窗，温度和湿度指导用户给大棚通风，PM2.5和PM10用于监测是否有人焚烧秸秆或灰尘污染，水位用于监测沟道水位是否过高，氧气用于监测环境中氧气含量。可以将不同采集点的参数，汇总到村委会，以LED屏显示，以报表的形式输出；分配到不同的农户，监测本户大棚的环境状况。

工作流程

传感器变送器将采集点的数据汇总后，按照通讯协议通过4G数据模块，送至本地服务器。

农户家中的控制主机，通过4G数传模块，从本地服务器获取本户的数据。

本地服务器后台程序进行监听，将获取的数据存入数据库，供前端服务器和数据分析使用。

对数据库中的数据进行汇总分析后，通过无线/网线传送给LED屏动态控制卡，让LED屏显示汇总报表数据。

按照用户配置的参数项，对数据库中的数据进行汇总分析后，生成并导出报表（EXCEL）。

对数据进行分析整理，制作前端显示界面，供用户WEB访问或LCD展示使用。

位于爱丁堡的英国公司NCTech正在采用VR/AR并进行扩展，并提供360度真实成像系统来简化图像文档的工作流程，甚至可以将其用于远程设置。他们在这一领域的最新成果是推出全新的虚拟数据采集系统iSTAR Pulsar，以便在移动中捕获数据。

iSTAR Pulsar设计用于车辆，无人机或步行时捕获360度数据。该系统设计简单易用，不需要任何摄影经验甚至电脑操作。iSTAR Pulsar应用程序提供了规划路线，以及在线查看和分享内容的能力。

iSTAR Pulsar专门为捕捉360度移动数据而设计，并与索尼和英特尔联合开发。该系统可用于各种工业和智能城市应用。

产品详情如下：

无与伦比的11K球形分辨率将iSTAR Pulsar定义为几乎是标准8K球形系统像素分辨率的两倍，可提供6050万像素的全景图像。

预先校准到亚像素级别与先进的深度分析算法相结合，确保在移动平台上实现最精确的全景拼接。

iSTAR Pulsar针对移动平台进行了优化，可在处理过程中调整捕获速率，以提供一致的距离间隔，从而最大限度地减少数据存储和处理要求。

全自动后处理流水线包括一个可选的自动水平仪稳定功能，以纠正步行捕捉时产生的任何俯仰和滚动。

坚固的设计，耐候性和防震性，内置高精度GPS和IMU传感器，确保与GIS系统直接集成。

先进的对称和非对称加密技术确保从采集到交付的端到端数据安全。

NCTech在本周早些时候在伦敦Geo商业展上展示了iSTAR Pulsar ，并将在下个月初在加利福尼亚州阿纳海姆会议中心举行SPAR 3D Expo上展示他们的产品 。

“只需轻敲一下，iSTAR Pulsar就可以提供全自动的360°全景图像拍摄功能。它不是传统意义上的摄像头，它捕获大量高分辨率数据，并连接到我们庞大的云处理管道，从捕获到交付提供全自动工作流程。”

一、携程实时用户数据采集系统设计实践

随着移动互联网的兴起，特别是近年来，智能手机、pad等移动设备凭借便捷、高效的特点风靡全球，同时各类APP的快速发展进一步降低了移动互联网的接入门槛，越来越多的网民开始从传统PC转移至移动终端上。但传统的基于PC网站和访问日志的用户数据采集系统已经无法满足实时分析用户行为、实时统计流量属性和基于位置服务（LBS）等方面的需求。

我们针对传统用户数据采集系统在实时性、吞吐量、终端覆盖率等方面的不足，分析了在移动互联网流量剧增的背景下，用户数据采集系统的需求，研究在多种访问终端和多种网络类型的场景下，用户数据实时、高效采集的方法，并在此基础上设计和实现实时、有序和健壮的用户数据采集系统。此系统基于Java NIO网络通信框架（Netty）和分布式消息队列（Kafka）存储框架实现，其具有实时性、高吞吐、通用性好等优点。

1、技术选型和设计方案：

一个典型的数据采集分析统计平台，对数据的处理，主要由如下五个步骤组成：

图1、数据平台处理流程

其中，数据采集步骤是最核心的问题，数据采集是否丰富、准确和实时，都直接影响整个数据分析平台的应用的效果。本论文关注的步骤主要在数据采集、数据传输和数据建模存储这三部分。

为满足数据采集服务实时、高效性、高吞吐量和安全性等方面的要求，同时能借鉴互联网大数据行业一些优秀开源的解决方案，所以整个系统都将基于Java技术栈进行设计和实现。整个数据采集分析平台系统架构如下图所示：

图2（数据采集分析平台系统架构）

其中整个平台系统主要包括以上五部分：客户端数据采集SDK以Http(s)/Tcp/Udp协议根据不同的网络环境按一定策略将数据发送到Mechanic(UBT-Collector)服务器。服务器对采集的数据进行一系列处理之后将数据异步写入Hermes(Kafka)分布式消息队列系统。为了关联业务服务端用户业务操作埋点、日志，业务服务器需要获取由客户端SDK统一生成的用户标识（C-GUID），然后业务服务器将用户业务操作埋点、日志信息以异步方式写入Hermes(Kafka)队列。最后数据消费分析平台，都从Hermes(Kafka)中消费采集数据，进行数据实时或者离线分析。其中Mechanic(UBT-Collector)系统还包括对采集数据和自身系统的监控，这些监控信息先写入Hbase集群，然后通过Dashboard界面进行实时监控。

（1）基于NIO的Netty网络框架方案

要满足前面提到的高吞吐、高并发和多协议支持等方面的要求。我们调研了几种开源异步IO网络服务组件（如Netty、MINI、xSocket），用它们和NginxWeb服务器进行了性能对比，决定采用Netty作为采集服务网络组件。下面对它进行一些概要介绍：Netty是一个高性能、异步事件驱动的NIO框架，它提供了对TCP、UDP和文件传输的支持，Netty的所有IO操作都是异步非阻塞的，通过Future-Listener机制，用户可以方便的主动获取或者通过通知机制获得IO操作结果。

图3（Netty框架内部组件逻辑结构）

Netty的优点有：

a、功能丰富，内置了多种数据编解码功能、支持多种网络协议。

b、高性能，通过与其它主流NIO网络框架对比，它的综合性能最佳。

c、可扩展性好，可通过它提供的ChannelHandler组件对网络通信方面进行灵活扩展。

d、易用性，API使用简单。

e、经过了许多商业应用的考验，在互联网、网络游戏、大数据、电信软件等众多行业得到成功商用。

Netty采用了典型的三层网络架构进行设计，逻辑架构图如下：

图4（Netty三层网络逻辑架构）

第一层：Reactor通信调度层。该层的主要职责就是监听网络的连接和读写操作，负责将网络层的数据读取到内存缓冲区中，然后触发各种网络事件，例如连接创建、连接激活、读事件、写事件等，将这些事件触发到Pipeline中，再由Pipeline充当的职责链来进行后续的处理。

第二层：职责链Pipeline层。负责事件在职责链中有序的向前（后）传播，同时负责动态的编排职责链。Pipeline可以选择监听和处理自己关心的事件。

第三层：业务逻辑处理层，一般可分为两类：a. 纯粹的业务逻辑处理，例如日志、订单处理。b. 应用层协议管理，例如HTTP(S)协议、FTP协议等。

我们都知道影响网络服务通信性能的主要因素有：网络I/O模型、线程（进程）调度模型和数据序列化方式。

在网络I/O模型方面，Netty采用基于非阻塞I/O的实现，底层依赖的是JDKNIO框架的Selector。

在线程调度模型方面，Netty采用Reactor线程模型。常用的Reactor线程模型有三种，分别是：

a、Reactor单线程模型：Reactor单线程模型，指的是所有的I/O操作都在同一个NIO线程上面完成。对于一些小容量应用场景，可以使用单线程模型。

b、Reactor多线程模型：Rector多线程模型与单线程模型最大的区别就是有一组NIO线程处理I/O操作。主要用于高并发、大业务量场景。

c、主从Reactor多线程模型：主从Reactor线程模型的特点是服务端用于接收客户端连接的不再是一个单独的NIO线程，而是一个独立的NIO线程池。利用主从NIO线程模型，可以解决一个服务端监听线程无法有效处理所有客户端连接的性能不足问题。Netty线程模型并非固定不变的，它可以支持三种Reactor线程模型。

在数据序列化方面，影响序列化性能的主要因素有：

a、序列化后的码流大小（网络带宽占用）。

b、序列化和反序列化操作的性能（CPU资源占用）。

c、并发调用时的性能表现：稳定性、线性增长等。

Netty默认提供了对GoogleProtobuf二进制序列化框架的支持，但通过扩展Netty的编解码接口，可以实现其它的高性能序列化框架，例如Avro、Thrift的压缩二进制编解码框架。

通过对Netty网络框架的分析研究以及对比测试（见后面的可行性分析测试报告）可判断，基于Netty的数据采集方案能解决高数据吞吐量和数据实时收集的难点。

》》点击阅读全文