中企动力 > 商学院 > 数据采集技术
  • ?

    智慧医疗的核心基石——异构医疗大数据采集技术

    裘茹妖

    展开

    我国的医疗信息化建设始于20世纪90年代,经过近30年的发展,医学影像、病理检验、病历、医嘱等临床资料,都实现了在物联网环境下以某种数字化格式进行存储、传输的信息化革命。我们拥有了第一手的海量临床医疗数据,并且这些数据每年都呈指数级增长,宣告大数据时代已经到来。用大数据与移动互联网技术相结合,实现便捷的医疗服务和降低医疗成本已成为可能,智慧医疗就是用以解决“看病难,看病贵”、实现广大百姓“健康梦”的医疗模式。

    智慧医疗的本质是利用物联网技术,打通患者与医务人员、医疗机构、医疗设备的关联,建立健康档案区域医疗信息平台,逐步达到信息化。智慧医疗的概念已初具雏形,但仍然只是一种未来医疗模式。我国智慧医疗的发展,目前仍受阻于区域医疗信息平台的建立。究其原因,主要是因为现在所拥有的大数据,都是孤立的、碎片化的,分散的存储在各医院的各个系统之中,盘踞一方、各自为政。

    博为异构大数据采集技术

    各医疗软件系统数据融合难

    在医院信息化之初,并未采用顶层设计,而是用逐步填充的方式推进,缺乏全面的统筹管理;加上医学领域的科室多、管理复杂,各科室的医疗设备与软件厂家各不相同,各个软件的临床数据交互困难,这些是导致医疗数据孤岛普遍存在,阻碍医疗大数据中心构建的根本原因。

    虽然乏善可陈,但也不乏具有前瞻性的特例——深圳市南山区的卫生信息平台,全区5家医院、40多个社区中心,利用统一的HIS系统、统一的PACS系统、统一的LIS系统建立起了一个区域医疗数据中心,5家医院和40多个社区中心相当于一个医院,信息共享与交互变得很简单,区内人民看病也不需要重复检查,卫计委与医院进行数据分析也变得简单。

    数据孤岛

    对于绝大多数医院来说,要建立像南山区一样的区域医疗数据中心,首要任务就是要解决医院内部、医院之间的异构医疗数据融合问题。

    医疗数据标准化制度缺失

    医疗领域信息化之初,没有对采集到的临床数据进行标准化制度建设。例如,同样是血常规检查,A医院用甲厂家的系统以甲的分类方式输出检查指标,B医院用乙厂家的系统按乙的方式输出检查指标……结果就是同样的一份血常规化验单,各指标的数值相同,但排列方式却各不相同。如何使各个医院的各类临床数据按同一标准输出结构化数据,是建立健康档案区域医疗信息平台必须要解决的问题。

    运用接口联通数据的痛点

    对医院来说,将不同软件之间的数据融合到同一数据中心,是一项耗资、耗时、耗力的工作。耗资——让原软件厂商增加一个接口的费用动辄3、5万,打通医院几十个系统的接口费用大;耗时——每个接口的开发需要一定的周期,而接口之间要相互衔接,让所有系统对接变得遥遥无期;耗力——各家的软件系统需要各自的实施人员才能进入,现场工程师的排期需要劳心劳力;后期维护麻烦——通过N多接口联通而建立起来的大数据中心,一旦出现故障,问题排查相对困难。对医院院长而言,更希望以简单易行的方法建立大数据中心。

    博为101大数据集成

    在湖南宜章县的医疗系统,利用博为软件101大数据集成平台的“异构数据融合技术”,在两个月时间内,很好的攻克了以上问题,建立起了县内30家医院之间信息的互联互通,并直接促成区域内远程会诊平台的建立与运用。宜章县的大数据集成平台已经嵌入县卫生系统专网,卫生局通过对一定时间段内各个医院患者的诊断分析、用药分析,可以统计本县的高发病、常见病、新型病以及病患的年龄结构等项目的精确数量,帮助卫生局及时对流行病、慢性常见病等做出决策反应,向广大人民普及疾病症状以及预防、应对措施,基本达到“预防小病发生、避免小病发展成大病”目的。通过区域医疗信息平台的建立,宜章县卫生系统向智慧医疗靠近了一大步。

    除了采集专业的医疗机构、检验中心的临床数据之外,智慧医疗大数据的建设,还囊括针对生命体征检测的各类可穿戴设备的数据采集。因为智慧医疗强调的是个体数据,而非样本数据,将人类生命个体的每一次呼吸、每一次心跳、每个基因状况的相关指标都记录在医疗大数据中心,通过个体数据的分析与研究实现对疾病的精准治疗与预防措施,才是智慧医疗的“智慧”之所在。异构医疗大数据采集技术对智慧医疗的作用,可见一斑。

    大数据

    如今,通过异构大数据采集技术建立区域医疗信息平台成功跨越了智慧医疗发展道路上的又一个障碍,“在互联网时代没有实现不了的要求”,人类终将突破大数据应用、线上线上互联等重重阻碍,实现智慧医疗,实现“健康梦”。

  • ?

    浅谈工业生产现场数据采集

    刘幻然

    展开

    工业生产现场数据采集原则有两点:一是目的性,二是经济性;

    目的性是指在做设备的数据采集之前,先要明确所要采集的数据是否具有可观的价值。工业现场其实已经有很多的数据采集系统了,SCADA、HMI什么的也都是应用很广泛了,但是,其中又有多少数据被充分的分析,挖掘其潜在的价值的呢?

    大部分情况是,采集了数据后并不知道怎么去利用。国内大部分的工业现场还处在解决生产过程可见性的阶段,能够先把数据采集上来是当务之急,至少能够实时地了解到现场都发生了什么。在智能制造背景下,要将目光放长远,在做数据采集之前,尽可能地多去思考一下什么样的数据对我们的业务改进帮助最大,这样也许会让我们在数据采集方面的投资回报率更好看一些。

    经济性是指投资的回报效益。对于工业现场的数据采集,很多人第一个想法就是装传感器。不管什么样的项目,我们首先需要考虑的是投资回报率的问题,装传感器的方式可能是投资最大的一种。因此,做设备层的数据采集,一定要结合我们的数采目标,充分利用设备的现有条件(比如,设备已经具备的上位机系统、已经具备的通讯协议等)用最经济高效的方式来做数采技术路线的设计。

    工业数据采集设备分类:有上位机系统的设备(设备自带的监控系统)、基于非TCP/IP通讯协议的设备、基于TCP/IP通讯协议的设备、不具备通讯接口的设备。

    自动化系统设备数据采集系统采集方法主要是通过Web系统、生产线工作站系统、OPC服务器等配置对生产线上的各个设备的生产数据进行监控。同时将有效数据采集仓储在数据库中。这对整个生产系统进行生产线、工序参数、工作流程、设备参数、设备类型、OPC服务、通讯协议的全方位设置、管理。

    如需增加设备,只要在中心管理系统增加相应的设备类型,配置好相关的采集参数即可,可有效节约成本;生产过程中通过缓存交互数据,不直接和数据库交互,极大的提高了数据采集的性能;通过心跳检测程序,实时反馈生产设备的异常,保证生产数据完整性。

    一种自动化生产线设备数据采集方法,可以是如下步骤:

    1.根据自动化生产线上各种设备的不同协议类型,将支持OPC相关协议的设备与OPC连接;将支持TCP开放协议的设备与生产线工作站系统中的网口交换机连接;将支持COM开放协议的设备与生产线工作站系统中的串口交换机连接;

    2.通过Web系统配置生产线的全局属性;

    3.生产线工作站系统启动时从Web系统中同步本生产线所有相关配置,并存入缓存;

    4.生产线工作站初始化时,根据设备在Web系统的协议类型,连接每个设备,并启用OPC监听、TCP监听或COM监听。对于“基于TCP/IP通讯协议”,比较常用的有OPC Classic、Siemens S7、Modbus-TCP等通用协议,也有设备厂商自行定义的私有协议。这些协议的特点是都是基于TCP/IP协议簇,只是应用层协议不同。采用这些协议的设备一般都会有RJ45的接口,也就是以太网口,都可以直接通过以太网接入到车间网络中。对这些设备的数据采集,我们需要做的就是对上述协议的解析。对于OPC等通用协议,已经有很多成熟的SCADA产品可以利用,近些年,也有很多开源框架、商业化的组件可以应用,比如Eclipse neoSCADA,Kepware等等,都能够在完成上述协议的解析的同时,将其转换为一些IT领域常用的接口(RESTful API),方便其他信息系统的对接。

    5、将监听到的每个设备数据写入工作站数据库。

    设备数据分析,可以通过多种查询工具可以快速查询生产实时数据、相关历史数据。给管理人员重要决策提供有效数据基础。可以对数据进行横向比较,可以对历史数据进行分析。通过系统统计分析没太机器的运转率,故障时间累计以及车间设备总体利用率。系统可以提供柱状图、饼图、报表等分析工具,展现现场设备运转统计分析数据。自动统计每天限的产量数据,可以按照不同的班组、时间段等多种条件进行综合查询。

    同时对于设备的故障管理也可以进行相关数据记录,比如不同的设备及其台号,故障类型、时间段等多种条件进行历史查询赛选。这样可以进行历史数据查询,更好的帮助技术人员进行设备故障原因分分析,提高问题解决效率。

  • ?

    「造数」用智能云数据采集技术降低门槛,节省的或许不止一个工程师的成本

    燕素

    展开

    数据驱动企业发展,企业对数据需求有按个层次,一是业务数据,代表性企业是神策;二是类似企业订单数据、CRM 数据等 SaaS 服务数据,如销售易做的事情;三是互联网公开数据,例如企业工商、电商网站、社交数据、招投标数据等开公开数据。互联网数据量是最大的,但很难拿到全部互联网公开数据,非结构化数据很难结构化。

    通常互联网公开数据的获取有三种方法,第一种是复制粘贴收集数据,成本高、效率低;第二种是雇佣爬虫工程师,一个人的工资成本是每年至少20万元;第三种是用云端智能采集,机器人挖掘数据,这样做获取数据门槛降低,不再需要技术人员,效率高、成本低。造数采用的是第三种方法,是一家智能云数据采集服务商。

    造数产品无需专业技术人员完成,产品对互联网页面做智能解析,采用了可视化爬取,可爬取需要登录的网页、对网站进行多次采集,支持批量规则配置,采集结果可以按时推送。最终可以到处各种格式文件,如 excel、csv、xml 等。此外还提供了 API 接口,爬取的数据可以直接接入到企业内部系统。

    看这个项目考虑两个问题,一个是技术实力,一个是应用场景是不是对产品有刚需。

    首先看技术,造数区别于其他爬虫公司的一点是,造数全部在云端。从用户角度讲,不用下载任何软件就可以直接爬取,产品配置和使用的门槛降低了,用户体验更好;从可视化角度讲,云端爬取“越用越聪明”,即别人爬过的数据或者之前爬过的数据不用二次爬取;此外,云端部署在 Docker上面,可以快速同时伸缩几千个节点爬取,有大规模爬取数据的能力,云端的扩展性提供了大量的 API 接口,可以和上下游产品协同,如数据可视化工具等;最后云端支持大量数据存储。

    除了云端优势之外,造数在技术上的突破还有智能解析和浏览区交互页面实现,以往的爬虫产品通常是做浏览器的插件,而造数直接在网页上实现。

    其次看应用场景是不是对产品有刚需。业务数据、内部 SaaS 数据和互联网公开数据的重要程度并没有高下之分,在不同行业和场景有不同侧重点。企业内部数据通常用作用户画像和精准营销,用来优化转化率;外部数据是对大环境的分析,主要是用来辅助局侧,比如外贸电商群体,需要从外部数据了解到市面上的潮款爆品,也需要从海量评论中知道消费者真正关心什么,甚至产品的陈列、排外、库存状况都受外部数据的影响。

    当然,对外部数据有强烈需求的还有零售选址,金融行业中一级市场投资者需要第一时间发现好的创业公司、融资信息的分布情况、二级市场股民舆情倾向、上市公司分析等,咨询行业则需要了解调查领域的各项数据。

    所以对于金融、电商、零售、咨询等领域,外部数据发挥很大作用,是引领生产、调整战略的重要依据。从这一点说,快速获取、门槛低的云端爬虫采集产品是不错的切入点。

    造数最终能为中小企业节省人力成本,为大企业开源节流,将人力用在该用的地方。

    造数目前有15000多家用户,包括数之联、Geoconcept、天气宝、优易数据、星客多、发改委等。合作伙伴有云基础服务商京东云、电子科技大学大数据研究中心、大数据教育平台 Datacastle、数据分析培训机构数据团学社、可视化平台BDP等。其中造数与 BDP API 接通,用户在爬取万数据后直接将数据可视化。

    数据采集赛道上还有八爪鱼和神箭手,八爪鱼是传统软件,神箭手更面向开发者;国外则有 import.io 和diffbot,import.io 累计融资 2200 万美金,diffbot 获得腾讯领投的了1000 万美金 A 轮融资。

    造数科技成立之初获得了明势资本、仟跃科技数百万元天使轮融资,2017年7月获得了逐鹿资本领投的千万级pre-A轮融资。

  • ?

    谈一下工控——工业数据采集关键技术

    Dulcea

    展开

    点击上方"关注",共同关注工业互联网的发展!

    工业数据采集过程,包含多类工业设备接入、多种工业通信网络协议解析、多源工业数据格式转换、实时工业数据存储与预处理等多个环节,为实现多源设备、异构系统、运营环境、人等要素信息的实时高效采集,需要大量 IT、OT 与 CT 核心关键技术支撑。

    本报告所列工业数据采集关键技术主要源于工业数据采集各相关方共同关切和发展急需的方面。工业数据采集主要涉及工业通信网络、协议转换、物体标识及解析、边缘计算、工业人工智能等关键技术。

    (一) 工业通信网络

    工业数据采集常用工业通信网络技术主要有工业现场总线、工业以太网、工业光纤网络、TSN、NB-IoT、4G/5G 等,总体上可16分为有线和无线通信网络技术。

    有线通信网络技术主要包括现场总线、工业以太网、工业光纤网络、TSN 等,现阶段工业现场设备数据采集主要采用有线通信网络技术,以保证信息实时采集和上传,对生产过程实时监控的需求。

    无线通信网络技术正逐步向工业数据采集领域渗透,已成为有线网络的重要补充。主要包括短距离通信技术 RFID、Zigbee、WIFI 等,用于车间内的传感数据读取、物品及资产管理、AGV 等无线设备的网络连接;专用工业无线通信技术 WIA-PA/FA、WirelessHART、ISA100.11a 等;以及蜂窝无线通信技术 4G/5G、NB-IoT 等,用于工厂外智能产品、大型远距离移动设备、手持终端等的网络连接。

    1. 现场总线:

    现场总线主要解决工业现场的智能化仪器仪表、控制器、执行机构等现场设备间的数字通信以及这些现场控制设备和高级控制系统之间的信息传递问题,是连接智能现场设备和自动化系统的全数字、双向、多站的通信系统。现场总线目前仍没有统一标准,很多公司都推出其各自的现场总线技术,但彼此的开放性和互操作性还难以统一,目前应用较多的有 Profibus、CAN、LonWorks、HART、Modbus 等。

    现场总线在工业界使用时间较长,技术成熟稳定。现场总线仍然是目前工业环境应用最为广泛的工业网络,现场总线的简单17性、可靠性高的优点受到许多用户的喜爱。随着中国产业升级的进一步深化,现场总线作为智能制造和工业互联网的基础,预计从 2018 年开始新增节点数会逐步回升。

    2. 工业以太网:

    工业以太网是指在工业环境的自动化控制及过程控制中应用以太网的相关组件及技术。工业以太网采用 TCP/IP 协议,和IEEE 802.3 标准兼容,但在应用层会加入各自特有的协议。工业以太网实现了以太网 TCP/IP 协议与工业现场总线的融合,是在标准以太网协议基础上修改或增加一些特定的功能而形成的。工业以太网在发展过程中形成了多种协议标准,包括 Profinet、EthernetIP、Modbus/TCP、EtherCAT 等,这些协议背后皆有各自支持厂商,难以形成统一标准。

    工业以太网最大的优势在于:能够使企业的信息网络和控制网络实现统一;以太网容易实现网络集成,开发技术广泛,价格较低,容易获得众多厂商的支持。

    工业以太网近几年快速发展,技术逐渐成熟,电磁兼容性、高低温等工业特性已能够满足工业数据采集需求,在工业数据采集领域得到了广泛应用,近年来工业以太网的市场占比逐步上升。

    3. 工业光纤网络

    随着无源光网络(PON)技术在电信、电力行业的广泛应用,工业光纤网络已成为工业数据采集领域的一种新型组网技术。工业光纤网络在工业互联网体系架构中处于车间级网络位置,工业18光纤网络由汇聚设备 OLT、无源分光器、PON 接入设备 ONU 组成,可以提供多种工业接口,实现工业设备数据、生产数据到企业 IT系统的可靠有效地传输。

    工业光纤网络在工业场景下最常用的组网方式是基于 TypeD 保护方式的手拉手保护链型组网和星型组网,实现全光路保护,提高了车间通信网络的可靠性,为制造企业的通信可靠性提供了坚实的保障。

    工业光纤网络具有以下优点:PON 通过无源器件组网,不受电磁干扰和雷电影响;采用自愈环形网络支持并联型,切换时间短、抵抗失效能力强;点到多点传输架构,终端并行接入,部署灵活;仅需单根光纤线传输,最远覆盖 30 公里范围;多业务承载,支持数据、视频、语音、时间同步等多种业务;高安全性,PON 网络设置 ONU 安全注册机制,下行数据传送天然加密,上行数据传送时分机制隔离。

    点击上方关注,共同关注工业互联网的发展!

    4. TSN

    TSN 是 IEEE 提出的一个国际标准,TSN 是为了解决工业领域中的互操作性孕育而生的标准协议,厂商设备之间可以进行非常好的互联互通。TSN 是基于以太网标准的确定性实时通信机制,定义了极其准确、极易预测的网络时间,具备高数据量传输与优先权设定功能等优势。TSN 是其它工业以太网协议的基础,现有的工业以太网协议未来将会成为 TSN 网络之上的专属网络协议,因此这类协议依旧会存在,但彼此之间不会互相取代。

    通过为以太网增添诸多功能特性,有效地解决了工业数据采集数据在以太网传输中的时序性、低延时和流量整形问题。同时又保持了 100%向后兼容传统以太网,TSN 确保了关键任务型时间敏感数据在网络上不会滞留,有助于跨许多行业打造一个互操作性的生态系统。通过使用标准的以太网组件,TSN 可无缝集成现有棕色地带应用和标准的 IT 网络来提高易用性。此外,TSN 继承了 HTTP 接口和 WEB 服务,实现了工业数据采集系统所需的远程监控、可视化和修复功能。

    5. NB-IoT

    NB-IoT 是由 3GPP 定义的基于蜂窝网络的窄带物联网技术,它支持海量连接、有深度覆盖能力、功耗低,适合于传感、计量、监控等工业数据采集应用,可满足这些应用对广覆盖、低功耗、低成本的需求,目前广泛商用的 2G/3G/4G 及其他无线技术都无法满足这些挑战。

    NB-IoT 单小区可支持 5 万用户,NB-IoT 可以比现有无线技术提供 50~100 倍的接入数;NB-IoT 比 LTE 提升 20dB 增益,很好实现广域覆盖,就算在地下车库、地下室、地下管道等信号难以到达的地方也能覆盖到。

    NB-IoT 引入超长 DRX 省电技术和 PSM 省电态模式,可让设备时时在线,通过减少不必要的信令和在 PSM 状态时不接受寻呼信息来达到省电目的,保障电池 5 年以上的使用寿命。

    6. 5G(第五代移动通信网络)

    近些年 WiFi、Zigbee 和 WirelessHART 等无线通信网络技术已经在制造车间使用,但这些无线技术存在局限性,不能满足智能制造对于数据采集的灵活、可移动、高带宽、低时延和高可靠等通信要求。

    5G 具有更高的速率、更宽的带宽,预计 5G 网速将比 4G 提高 10 倍左右,从行业应用看,5G 具有更高的可靠性,更低的时延,支持接入网络更多、密度更大,可以为关键任务型的服务提供保障能力。能满足工业数据采集的高带宽、低时延和高可靠性等网络通信需求,可保证工业信息实时采集和上传,从而实现对生产过程的实时监控。

    从发展态势看,5G 目前还处于技术标准的研究阶段,5G 有望 2020 年正式商用。目前,有线连接在工业数据采集连接数量方面占主导地位。但预测显示,从 2022 年到 2026 年,5G 物联网连接的平均年复合增长率将达到 464%。

    点击上方关注,共同关注工业互联网的发展!

  • ?

    APP数据采集是怎么实现的

    陶璎

    展开

    最近半年,我们八爪鱼陆续接到好几个APP数据采集的项目需求,我在群里面,偶尔也看到有些用户在问,有没有APP数据采集的工具。鉴于我们做过的几个APP数据采集项目的经验,我可以告诉大家,现在APP数据采集,市面上还没有通用的工具。我们八爪鱼内部是有一套工具,但由于使用的难度较高,需要编写脚本,所以不对普通用户公开,我们仅接受项目定制。

    虽然不对外公开,但并不妨碍我们将技术分享出来,APP数据采集,一般走以下两种方式:

    1.两种思路

    1. 抓包

    2. HOOK

    2.抓包

    有代码经验或APP开发的同学都很容易理解,其实很多APP,走的都是webservice通讯协议的方式,并且由于是公开数据,而且大部分是无加密的。所以只要对网络端口进行监测,对APP进行模拟操作,即可知道APP里面的数据是如何获取的。

    我们只需要写代码模拟请求,无论POST还是GET,即可得到该请求所返回的信息。再通过对返回的信息结构化解析,即可得到我们想要的数据。

    public static void main(String[] args) {

    Spider.create(new GithubRepoPageProcessor())

    //从https://github/****开始抓

    .addUrl("https://github/****")

    //设置Scheduler,使用Redis来管理URL队列

    .setScheduler(new RedisScheduler("localhost"))

    //设置Pipeline,将结果以json方式保存到文件

    .addPipeline(new JsonFilePipeline("D:\\data\\webmagic"))

    //开启5个线程同时执行

    .thread(5)

    //启动爬虫

    .run();

    }

    以模拟采集“meizu”应用市场为例

    应用市场产品

    抓包返回参数

    整个抓包过程

    3.HOOK技术

    HOOK技术是一种走操作系统内核的技术,由于安卓系统是开源的,所以可以借助一些框架修改内核,从而实现你要的功能。HOOK的形式,我们走的是Xposed框架。Xposed是一款可以在不修改任何其他开发者开发的应用(包括系统服务)的情况下,改变程序运行的一个开源框架服务。基于它可以制作出许多功能强大的模块,以此来达到应用程序按照你的意愿运行的目的。

    如果把安卓手机看做一座城堡,那Xposed可以让你拥有一个上帝视角,城里的运作细节尽收你眼底,还能让你插一手改变城堡的运作规律。

    什么意思呢?简单的说就是你可以通过他,自动化的控制你的APP。如果将我们的APP开在模拟器上,我们可以通过编码,通过他告诉APP这一步干什么,下一步干什么。你把它理解成类似游戏打怪外挂就可以了。

    而他每走一步,APP与服务端交互的数据,均可获取下来。这种方式广泛用于一些成熟的APP。比如某信采集。

    public class HookActivity implements IXposedHookLoadPackage {

    @Override

    public void handleLoadPackage(LoadPackageParam lpparam) throws Throwable {

    final String packageName = lpparam.packageName;

    XposedBridge.log("--------------------: " + packageName);

    try {

    XposedBridge.hookAllMethods

    (Activity.class, "onCreate", new XC_MethodHook() {

    @Override

    protected void afterHookedMethod(MethodHookParam param)

    throws Throwable {

    XposedBridge.log("=== Activity onCreate: " + param.thisObject);

    }

    });

    } catch (Throwable error) {

    XposedBridge.log("xxxxxxxxxxxx: " + error);

    }

    }

    }

    其实我们八爪鱼曾经也想开发一款通用的APP数据采集工具,并且两年前在这块投入研究了小半年,我们做出了一款APP采集脚本编辑工具,可以让一款APP的数据采集项目缩减到3-5天即可开发完成。但我们认为,这个工具需要编写脚本一般用户是比较难上手的,所以仅作为内部项目使用。

    以HOOK某APP为例:

    HOOK指令打开某

    4.这些年走过的坑

    聊完APP采集的思路,我们跟大家分享一些遇过的坑吧,让大家乐一乐

    坑一:签名算法

    以某信的文章列表页及某信息页为例,对其http访问进行抓包,会发现其url的一个核心参数是我们无法知道如何生成的,这就导致,我们不可能直接用该url进行信息爬取;签名算法如果无法破解,HTTP这条路就是死路了。

    坑二:http爬取回来的信息和页面显示不一致

    以某信的某信息页为例,对比直接访问某信页面及http爬取的信息,可明显发现http爬取到的信息较少。造成得两种方式都用,才能既照顾速度又照顾完整性。

    坑三:模拟器中的坑

    APP自动识别你的运行环境进行屏蔽,最厉害的还是某信,连你是用模拟器打开还是真机打开,是什么内核的,全部进行限制。曾经见过牛人,找某手机厂商专门定做真机来配合。

    坑四:帐号的坑

    这个坑就有点大了,要找号、养号,都不是件容易的事情,更惨的是封号,真真让你一夜回到解放前。

  • ?

    工业互联网中的数据采集与控制技术

    风云龙

    展开

    工业互联网是在传统互联网的基础上建立起来的。这种演化是工业技术发展的必然趋势。传统互联网将人与人通过计算机网络连接在一起,分享各种信息,传递各种需求,获得各种服务,这是人类社会、经济、科技发展的巨大进步。但是,这种连接的能力还是非常有限的。因为如果只有人而没有机器的参与,我们应用互联网的空间不是完整的。只有当全球70多亿人口和600亿台左右的机器都能够连接在一起的时候,互联网的价值才能得到最大程度的彰显,人类社会才能完全从体力和脑力劳动中彻底解放出来。我们今天已经步入了“复杂的工作要用最简单的方法来处理”的时代。这就是工业互联网技术发展的原动力,发展的趋势不可逆转。在传统互联网的基础上,影响这项技术发展速度的一个重要因素是机器侧的数据采集和云控制技术问题。事实上,这就是自动化技术与信息化技术深度融合的问题。这个问题处理好了,工业互联网的发展就会更顺利一些。机器的连接只是手段,能对机器的有效管控才是工业互联网发展的重要目的。

    工业互联网

    目前,数据采集技术主要受到两个方面的制约。一是部分机器没有数据接口,二是存在大量异构的通讯规范。与此同时,我们还要考虑到工业发展的惯性,不能完全采用新旧技术彻底更替的办法来解决这两方面的问题。所以,工业社会必须要有这样的技术,在没有数据接口的机器上能够增加数据接口(包括传感器),在异构通讯规范之间采用全兼容的数据采集技术。通用网关是提供这种全兼容技术的产品。在工业互联网技术体系中,通用网关属于边缘计算的一部分。这是与传统互联网明显不同的地方。每一种通讯协议都对应着通用网关中的一种通讯驱动。一项新的技术是把通讯数据包交给通用网关中边缘计算来处理,以便分解出有效的信息来。这将极大地降低通用网关的通讯处理开发成本,提高通用网关数据采集的灵活性。边缘计算的另一个用途当然是对采集来的数据进行必要的处理,以减轻云平台的计算压力。同时,多个边缘计算构成的雾计算,也是工业互联网的重要组成部分。雾计算的加入,可极大地提升工业互联网的分布计算能力。考虑到互联网通讯的不确定性,还需要在通用网关中增加断网续传的功能,以保持数据的完整性。除此之外,我们还需要关注数据的实时性和同步性问题。这些特性一般能够通过调整通讯的请求周期和标记数据的时间戳来确定。显而易见,通用网关是数据采集的重要设备,它在整个工业互联网中构成了一个庞大的通讯节点系统,对于整个工业互联网的运行有着非常重要的影响。为此,我们需要一种有效的网络工具,用于管理这样的通讯节点系统,对它们的运行状态,采集数据更新,采集周期等状态进行监控,同时也能对相应的软件维护、节点参数、接口配置等进行动态的调整。

    数据采集

    云控制是工业互联网很重要的一项功能。但是,目前工业互联网的关注点主要集中在数据的处理和信息的管理方面。事实上,由于工业互联网中云平台能够综合更多的数据,因此它不仅可以对企业的管理过程提供重要的决策,而且可以对机器的控制过程提供更优的指令。云机器人和能源互联网都属于云控制的典型的应用。人工智能的技术需要强大的计算资源的支持,而这只有在云计算环境中才能得到满足。只有当强大的云控制功能和强大的数据采集功能结合在一起的时候,工业互联网才能具有真正强大的支配机器的能力。一般情况下,工业互联网的云平台是按照PaaS架构进行设计的。云控制可利用这方面的计算资源,进行智能控制、资源调度、优化决策,以及多个生产过程的协同作业等方面的计算处理,从而为机器的先进控制提供最优的设定值。云控制需要解决的关键技术问题是:互联网通讯的不确定性造成的数据通讯延迟补偿,如何让复杂算法的编辑、编译和基于工业互联网的动态调试过程变得更加简单和直观。工业APP提供的可视化能力,也为云控制技术的工程应用提供了有力支撑。另外,云控制需要边缘计算的协同。边缘计算一方面为云控制提供数据通讯的通道,一方面也为云控制过程提供安全保障。随着工业互联网技术的快速发展,云控制将逐步成为工业领域中最重要的一种生产技术。

    控制技术

    工业互联网是生产企业控制与管理深度融合的重要技术设施。数据采集和控制是工业互联网连接机器社会的重要手段。数据采集和云控制技术的研究与应用,将有效消除人们对工业互联网发展的质疑,并产生积极的促进作用。

数据采集技术

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP