中企动力 > 商学院 > 视频数据采集
  • ?

    告诉你直播系统如何开发

    穆随阴

    展开

    直播系统开发是直播平台上线运营前的重要一环,可以看作是直播平台的基石。那么直播系统该怎么开发呢?需要经历怎样的流程呢?

    音视频采集:

    音视频采集对直播系统开发来讲,重要程度到了,能不能开发的程度。如果音视频采集成功,那么对于直播平台的构建,等于打好了基石。

    音视频采集最重要的部分就是采集,什么叫做采集呢?采集又称数据获取,是利用一种装置,从系统外部采集数据并输入到系统内部的一个接口。数据采集技术广泛引用在各个领域。比如摄像头,麦克风,都是数据采集工具。

    视频滤镜:

    关键在于滤镜——主要是用来实现图像的各种特殊效果。它跟视频相互配合,就形成了直播系统开发中的美颜等功能,对直播平台来讲也是不可或缺的功能!

    推流:

    推流还必须把音视频数据使用传输协议进行封装,变成流数据。常用的流传输协议有RTSP、RTMP、HLS等,使用RTMP传输的延时通常在1–3秒。

    流媒体服务器:

    流媒体指以流方式在网络中传送音频、视频和多媒体文件的媒体形式。相对于下载后观看的网络播放形式而言,流媒体的典型特征是把连续的音频和视频信息压缩后放到网络服务器上,用户边下载边观看,而不必等待整个文件下载完毕。

    拉流:

    根据协议类型(如RTMP、RTP、RTSP、HTTP等),与服务器建立连接并接收数据

    音视频解码:

    主要作用分别是把读取的数字音频信息转换成模拟音频信号输出,是把录音时经过编码的多声道音频信息作解码还原。

    音视频播放:

    通过直播平台直播间客户端将音视频内容展现给用户。

    这就是直播系统开发的完整流程,只有完成这些功能,才能构建出直播平台进行直播。

  • ?

    特斯拉OTA更新:将采集车上小视频数据

    杰西卡

    展开

    为了开发无人驾驶技术,特斯拉一直用卖出的几万辆跑在路上的电动车采集数据,这些车上都安装了传感器。

    现在特斯拉想要更多的数据。最新的OTA升级,特斯拉不仅推送了功能更完整的Autopilot,还修改了数据收集协议。

    「为了将无人驾驶变为现实」,这家公司要求从你的车上拿到视频等更多的数据。

    协议中特斯拉是这么说的:

    我们正努力工作以提升自动驾驶安全功能,并且尽可能快的为你实现无人驾驶。

    为此我们需要用外置的摄像头采集一些短视频,来训练机器识别车道线、道路标识、红绿灯位置。

    我们能让车队能学习到的路况信息越多,特斯拉无人驾驶技术变得越好。

    毫无疑问,这些视频短片绝不会与你的车辆识别码关联。为了保护你的隐私,我们保证系统中无法搜索指定车辆的视频信息。

    配有Autopilot2.0硬件套件的电动车上,共有8个摄像头、环绕超声波传感器、1个前置毫米波雷达。

    特斯拉还表示,他会把一些数据提供给合作伙伴。

    为了实现这些功能,特斯拉会测量路况部分的数据,但这不会用来识别你或你的车。我们也会把这部分数据分享给那些提供给特斯拉类似数据帮我们实现功能的合作伙伴。这个过程绝不会有任何个人识别信息被收集或分享出去的情况发生。

    最新版本的OTA升级,主要是完善了Autopilot的软件功能,让它可以实现之前Autopilot的高级辅助驾驶功能——他们是最终实现无人驾驶的基础。

    这次收集数据协议更新中特斯拉要拿到的那些数据,是把系统提升到新水平的重要部分。

    下面就是协议更新的截屏:

  • ?

    音视频直播——技术架构

    思松

    展开

    前言

    今天和大家讲一下音视频直播技术架构。之前的关注点主要放在客户端如何采集音频数据上,经过这两天的思考,我觉得应该先给大家讲一下音视频直播技术架构,这样更容易从整体上理解视频直播技术是如何运转的,之后再逐步的介绍每一个主题。

    简单的音视频直播架构

    这种架构非常的简单,利用已经有的CDN网络如阿里,帝联,蓝讯等,自己再搭建一个信令服务器,这样就将服务层搭建好了。

    共享者首先向信令服务器发送共享音视频指令,之后通过 Camera 或 摄像头采集数据,数据经编码后通过RTMP协议将流推送给CDN网络。

    接收端向信令服务器发指令,获取共享者共享的流名称,然后通过流名称从CDN网络拉取音视频流,再经过解码后渲染在屏幕上。

    实时交互的音视频直播架构

    这种架构与上一种比要复杂不少,其中最主要的差别是增加了自有网络。客户端通过 UDP 进行数据传输,这样可以大大减少由于网络及CDN结构导致的音视频延迟问题。

    共享者共享音视频时,都是通过UDP协议上传到自有网络服务器上。如果有其它参与人要与共享者进行实时互动,那么参与者也是通过UDP连接到自有网络,这样才能达到实时互动的效果。

    共享者的音视频数据上传到自有网络后,还要通过专门的服务将数据流转成RTMP流推到CDN网络,这样对于大多数不参与时实互动的用户就可以从CDN获取数音视频数据了。

    这种架构既可以满足实时互动的需求,也可以满足大批用户只观看不互动的需求。

    解决高负载大并发问题

    为了解决实时互动大负载,高并发的问题,需要增加资源管理服务器,实时监测各服务的资源。第次当用户共享音视频时,资源管理器都可以分配最佳的服务器给共享用户使用,并且服务器资源可以根据需要横向扩容。

    注意 为了增加执行效率,服务端基本都是用 C/C++ 程序编写。

    小结

    实时互动直播是未来的直播趋势,大看可以看一下我另一篇文章音视频直播漫谈中的介绍。有了这个架构我们后面就可以逐步的给大家讲解每个主题。如 Android、IOS、windows、mac下如何进行音视频数据采集,如何进行编码,是采用硬编还是使用软编?它们各自有什么优势,如何使用 opengl 进行渲染,如何进行网络优化等等。

  • ?

    在线视频行业标杆:Netflix大数据深度剖析,有何不同?

    岚风殇

    展开

    以在线视频行业发展比较成熟的美国市场为例,从内容层面来讲,美国的在线视频网站可以分为两类:一类专注于用户原创内容,以YouTube、vimeo、facebook为代表,另一类则专注于自有版权内容,以NETFLIX、hulu为主。今天,我们分享的内容聚焦于全美乃至全球最NB的NETFLIX,看看NETFLIX在业务及大数据领域有何过人之处。

    Netflix成立于1997年,总部位于加利福尼亚州:

    2007年,抓住互联网发展潮流,Netflix推出了流媒体在线点播服务,使业务实现了快速的增长,逐渐取代了原有的DVD订阅,成为了Netflix的最主要收入来源 ; 由于Netflix以付费租赁DVD起家,因此从一开始就开启了用户付费模式。2015年其流媒体用户当中,付费用户占比为94.8%,仅5.2%为非付费; 2016Q3全球会员达到8674万,每天播放时长超过1.25亿小时;

    综上所述,可以看出NETFLIX的业务收入、盈利能力、用户数量、用户质量等关键指标非同一般,您可以像问了:NETFLIX是靠什么为主要收入来源?我可以直接的告诉您——是内容的精准推荐。但今天我们暂且不谈NETFLIX业务及经营模式,今天先讲讲NETFLIX的大数据技术。

    首先,我们看到NETFLIX的大数据框架主要分为四部分——数据采集层、数据存储层、核心功能层、展现层

    如果你有对大数据系统架构有了解,想必一定清楚数据处理和分析才是提炼业务价值的核心,但前提是先要想尽一切办法把数据load到平台,因此数据采集的能力就在于此。而且把这些数据存储管理起来,这样才能为后续处理分析提供基础保障,同时还要支持数据的搬迁、数据质量管理、元数据管理等平台级管理能力,使平台的功能更丰富、能力更健壮,最终为用户(业务人员)提供数据访问、数据可视化的能力。

    数据采集层:NETFLIX为了支持不同时效性的业务需求,数据采集支持实时采集和批量采集两种方式;

    数据存储层:基于AWS 简单存储服务(S3),支持事件(Event Data)以及操作数据存储(Operational Data)两种方式;

    核心功能层:数据处理引入了EMR、Spark、Teradata等;在线分析引入了Druid、Presto等、资源调度引入了Genie、元数据管理采用MetaCat等,NETFLIX还有很多面向于数据管理、数据质量的开源工具,这里就不一一列举了。

    展现层:提供数据可视化的能力,而且开放API提供数据共享服务,支持大数据统一入口;

    了解NETFLIX这家公司的朋友,一定知道他们在互联网上公开了很多自己的经验、技术和架构,因此接下来,我们就要分析一下为什么NETFLIX将自己的业务经验、技术经验完全公之于众。我想这可能就是考验我们是否具备刨根问底的精神,去不断深挖人家的技术和长处。

    在数据采集层,NETFLIX支持实时采集和批量采集两种方式。

    实时采集方面:NETFLIX经历了从Chukwa到Keystone的演进,实时数据采集主要采用Kafka接入并缓冲数据;早期使用Chukwa作为日志聚合工具,并将事件数据分发到S3/EMR和Kafka,支撑离线和近线等应用场景。Router负责将数据路由到不同的地方;为了简化数据采集架构并提高系统可靠性,自2015年起采用最新的Keystone架构。直接通过Http代理或Java库将数据写入Kafka,支持在线、近线和离线的数据处理;

    批量采集方面:完全借鉴亚马逊Dynamo架构,引入Cassandra并融合了BigTable的数据模型及存储算法。Cassandra主要用来保存Session信息,记录用户每次观看视频的所有操作。

    数据存储层是NETFLIX非常关键的能力,而且这里面也有很多故事可以分享:

    首先,用户观看影片时Netflix会创建一个观看会话“view”,描述该会话的所有事件信息都会被收集起来,这个数据集就叫做(Event Data)。而且用户在观看硬盘的过程中,可能或“拖”、“拉”、“拽”,这个数据集就叫做(Operational Data),NETFLIX采用了AWS S3作为数据存储引擎。

    为什么选择S3?这里面有三个原因。

    1、 随着业务发展,Netflix早期也曾遭遇关系数据库瓶颈。

    用户规模增长,用户写入数据巨大,需要巨量存储,涉及到用户资料、多格式媒体内容、产品模型等都需要存储;传统的集中式关系数据库无法水平扩展,分布分区能力很差;

    2、 需要解决在线视频的巨量登录Session的性能问题。

    用户登录后会在服务器中保留Session,以确认用户已经登录。同时,巨量Session会在系统间频繁复制,导致效率差,影响系统性能;大量Session驻留影响系统性能,负载均衡难以应对;

    3、 巨大计算任务存在高并发需求,计算资源不均衡。

    在线视频业务主要以“事件”为任务触发条件,大量计算工作对系统开销和资源调配提出了挑战;弹性计算能满足复杂任务的资源负载,但对存储引擎选型提出了新的挑战,而且NETFLIX采用S3还有其他非常实在的好处,那就是:

    弹性可扩展、高集成度、高可靠和可用性、成本低(15美分/GB); ü能够存储数字资产,包括图片、视频、音乐和文档; ü提供RESTful API,并以编程方式实现与该服务的交互;

    核心功能层,NETFLIX引入的技术组件非常多,而且全部以开源为主。例如:

    数据处理领域,由于AWS提供了面向Hadoop的IaaS能力,它以EC2实例作为虚拟Linux服务器用于Hadoop MR能力部署。所以NETFLIX引入了一个叫做EMR的处理引擎,EMR实际上是Elastic MapReduce的简称;

    线分析领域,引入了Spark计算框架,支撑一些高时效性的分析需求;

    交互式查询领域,引入了Facebook贡献的Presto,在线多为分析引入了阿里巴巴开源的Druid引擎;

    离线分析领域,引入了顶级分析型数据仓库Teradata,用于数据分析和报表展现;

    作业和任务调度:引入了Genie,且在2015年开源,可通过RESTful API提交Hadoop、Hive或Pig作业;

    元数据访问管理:MetaCat作为元数据访问记管理工具;

    其他相关管理工具:数据搬迁、数据血缘分析、数据质量管理、工作流管理、集群性能管理等等;

    NETFLIX引入了这么多工具,结论是什么?那就是图中右侧的内容:

    1、NETFLIX大数据平台具备了离线、近线、在线等处理能力;

    p离线处理:Amazon提供面向Hadoop的IaaS能力,支撑Netflix的个性化机器学习算法任务,主要涉及模型训练和中间结果的批处理; p近线处理:采用Spark计算框架,基于增量学习迭代计算,应用于用户事件的准实时响应; p在线处理:依赖于Mantis运维指标管理平台,用于故障实时分析;

    2、NETFLIX大数据平台支持大数据分析探索;

    p交互式数据探索:Presto作为分布式SQL查询引擎,主要应用于Netflix后台业务人员的大数据交互,并具备优秀的查询性能; p在线多维分析:Netflix在线视频业务需要大量OLAP工作流探索, Netflix引入Druid支撑大数据下的实时多维分析; p离线分析:采用Teradata企业级数据仓库,支撑离线分析和报表;

    3、NETFLIX大数据平台具备任务调度与平台管控的能力

    p作业和任务调度:为了向不同集群提交作业,Netflix开发了Genie任务处理引擎,可以运行Hadoop、Pig、Hive在内的各种任务; p平台管控与工作流管理:包括元数据、数据质量管理,涉及到数据在不同存储区域间的搬迁移动;通过可视化效果直观发现任务状态;

    最后,我们在来看看NETFLIX在展现层做了哪些工作。其实主要就三部分能力:

    第一:是大数据统一入口Portal界面,便于访问系统的组织和人员登录使用该系统;

    第二:提供一些列数据可视化能力,便于业务分析人员分析用户、监控系统;

    第三:提供了开放的API,将支持数据共享和平台开放;

    在这里面我们主要强调一下数据可视化的能力,因为可视化是业务人员每天上手操作的主要手段和工具。NETFLIX通过将数据集保留在内存中,用特定的方式进行视觉化处理。支持了运维监控、用户经营和页面展示等能力。

    运维监控方面:由于数据集驻留在内存中,Sting能够以亚秒级的响应时间执行常用的OLAP可视化展现。例如:在Netflix内部运营方面,Sting主要应用在Genie的处理结果,运维人员可直观了解任务的调度状态。

    用户经营方面:针对用户观影的会话数据,Netflix主要运用Tableau直观了解用户行为;例如:在线时长、观看影片数量、搜索、点评等操作,这有助于Netflix决定影片推荐的编程类型,或者片源采购的决策。

    页面展示方面:交互式数据可视化主要取决于JavaScript库,Netflix所使用的Ember.js能够创建SVG条形图;例如:Netflix的js可视化应用,主要运用在用户浏览页面的动态展现,呈现可视化高级体验。

    通过今天对NETFLIX系统的介绍,相信你已经知道了为什么在线视频行业的标杆是Netflix,而且也领教了这家企业在大数据领域的过人之处。

    分析世界讲方案——每天早7点,为您带来精彩的一页。

    感谢阅读、感谢共鸣。

  • ?

    视频监控在智慧城市应用的现状与挑战

    冥蝶

    展开

    沃安观点:过去十多年,国内视频监控的建设基础硬件已经非常普及,在平台建设和标准建设(GBT28181)等方面,初见成效。在面对新的技术手段和管理需求的背景下,如何利用新的技术(H.265,智能视频识别/AI,大数据分析等)和管理理念(简政放权、社会化管理等)改善和优化现有视频监控在智慧城市中的应用,具有现实的意义和广阔市场机遇。

    中国在智慧城市上的投入早已超过5000亿元,预计未来投资会上升到1.1万亿元,智慧城市的建设将迈入高速发展期。智慧城市依然会继续稳步向前发展推进。

    但在智慧城市建设过程中,仍然存在各种各样的难题。主要有以下几点:

    1.智慧城市内部各部门信息之间存在不可打通的壁垒,使得信息成为“信息孤岛”,彼此之间缺乏共享机制。

    2.智慧城市前端产品单一,目前较多的是音视频采集,甚至根本没有音频,更不用说其他诸如大气数据、污染物排放数据等。

    3.智慧城市的价值未得到充分体现。现在智慧城市还处于建设的初级阶段,仍有较多的“大城市病”没有解决。诸如城市交通管理、突发事件处理、灾难性事件处理、雾霾污染等并未给出合理的处理依据或数据。

    (智慧城市视频监控应用的现状与特点)

    一、智慧城市视频监控应用的现状与特点

    智慧城市视频监控的建设应用现状,主要从以下几个方面来进行分析。

    前端设备——数据采集单一

    目前智慧城市前端设备主要采用高清网络摄像机进行视频采集,大多数录像是静默数据,并无音频。此类系统不进行音频数据采集,主要有两方面原因:

    (1)室外音频采集效果差。在城市大多数时候环境噪音都非常杂乱,采集到的音频无法进行背景噪音去除,且无法辨别保留有用的音频数据。

    (2)后端平台对音频数据的挖掘利用不够,导致采集到的音频数据基本无用,且浪费存储空间。

    前端摄像机大多数能接入各种报警设备,但大多数属于浅层整合,并未形成深层次的尤其是应用层面上的深度整合。

    网络传输——压力山大

    目前智慧城市大多使用运营商提供的光纤网络进行数据传输,抛去光纤网络的价格和质量,从目前摄像机对于网络的依赖程度看,一旦光纤故障,至少导致一个前端暂时失效。这在突发事件、灾难性事件或人为破坏情况下,对于急需前端视频的城市决策管理者来说是非常致命的。

    随着摄像机分辨率的提高,视频数据量大增,对于网络的压力有增无减。不可否认网络传输速度也在提高,摄像机编码技术也从H.264升级到H.265,网络技术和视频压缩技术的发展或者可以应对400万或600万像素摄像机,但不一定可以应对800万像素甚至1200万像素的视频数据传输。大量的视频数据对于网络节点的各交换机也会造成很大的数据交换压力。要想提高数据传输率,必然要升级整个网络设备,由此会推升整个智慧城市的建设成本。即使网络传输技术、数据交换技术、网络技术、摄像机编码技术都升级了,可以满足数据传输的要求,但是从整个智慧城市的数据稳定性和安全性来看,降低对于传输网络的依赖显得非常重要。

    平台与数据——低效、无盈利

    大多数智慧城市的安防监控平台,主要功能依然是作为视频预览与录像回放来使用。

    从海量的视频数据看,只能说是“大量数据”,和真正的“大数据”不可相提并论,在大数据挖掘上“挖”得还不够深。在智慧城市海量的视频数据面前,很多时候需要用户自行进行甄别,这对于海量的视频数据来说,难度非常大。如何高效地获取有用的信息,对于用户来说尤其重要,而且大多数平台提供给用户有用的基本配置界面和功能并不多。对于智慧城市来说,平台必须能够高效提供管理决策者需要的重要信息,尤其是重大事情的发生,必须及时通知值班人员进行处理。

    (智慧城市建设带给视频监控的机遇和挑战)

    二、智慧城市建设带给视频监控的挑战

    虽然智慧城市建设带给视频监控行业巨大的发展机遇,但同样也带来了巨大的挑战。

    主要可以从以下几方面入手:

    前端——深度整合

    前端摄像机应深度整合集成升级为一个微数据中心,集成音频采集、对讲设备、大气数据采集设备、4G、5G无线传输模块、存储设备等,同时在采集的数据上进行深度整合挖掘。如此既能提高单个设备数据采集能力,又能减少城市建设成本,提高数据应用效率和效益。微数据中心可以减轻对网络的依赖,管理决策者可按需通过4G、5G获取数据。能实现如下目的:

    (1)对所有数据进行存储。

    (2)对数据进行初步分析挖掘,如识别并标记人、车、大火等。

    (3)接收其他传感器或报警设备传输过来的数据,并作标记,做出响应。

    (4)支持无线如WIFI或4G、5G传输,其他设备可以通过无线传输接入前端数据中心,后台中心可通过无线访问前端。

    (5)支持多设备接入,如大气数据传感器、存储设备等。

    (6)自动传输关键数据到后端中心平台。

    (7)不断提升摄像机分辨率。目前普遍使用的是1080P的分辨率,未来必然要求400万、600万、800万甚至千万像素以上的分辨率。

    (8)更加实用高效的智能分析。

    (9)可接受来自中心平台的命令,对数据进行一定的筛查,并反馈结果到平台。

    传输网络——变被动为主动

    随着无线网络传输速度的提升,与其租用光纤网络,不如前端存储采用无线网络传输,主动上传报警或者前端中心分析出来的重要数据,或者后端平台主动向前端获取数据。改变现有的“时刻满负荷传输”为“按需取数据”,变被动为主动,从根本上改变对传输光纤的依赖。

    平台——重应用,大开放

    鉴于目前大多数智慧城市平台现状,我们将来会把平台的物理层和配置层对用户隐藏,同时把应用重新整合包装,以友好直观的界面方便快捷地只对客户展示易用、必需的应用。

    在新的平台中,我们会对外提供一些统一的应用接口或接入其他应用,如微信、微博等,以此来有限制地提供有偿信息和统计数据,充分与市民在平台信息上互动,为平台创收上开源,同时能提高市民智慧城市建设管理参与感,提高市民遵纪守法的意识,这也间接降低了城市的建设管理成本。

    就目前我国现实来看,几乎人手一部智能手机,还有大多数市民、机关学校、工厂等自建的各种监控小系统,甚至车载摄像机等。智慧城市的平台可以考虑允许市民上传视频,这能对目前前端摄像机点位不足作为一个补充。而且对于大多数突发事件,群众拍摄的视频比监控视频拍到的视角更多,时间上更加及时,反应更快。最主要该段视频是经过筛选的,一般不需要后台再进行甄别分析,视频利用更有效。智慧城市管理人员通过该平台提供的视频,可以更加及时高效地处理各种突发事件。

    ************************************************************************************

    沃安科技一直从事 视频流媒体方面 研发、产品和服务提供,我们在视频监控领域里面有着多年的积累,在音视频编码传输、视频平台对接(GB 28181,ONVIF,RTSP等流媒体协议)等方面具有技术和产品优势,同时,我们在手机视频采集直播,海事卫星视频监控方面具有整合的项目优势。

  • ?

    小视频如何采集?教你如何采集公众号上的视频

    虞曼青

    展开

    现在小视频平台相当的火爆,虽然网络中有不少的声音说,小视频已经进入红海了。其实这反应了人的一个从众心理,对于小视频平台的玩法还是有很大的市场的,下面我们先看下关于小视频的搜索量

    百度搜索小视频的搜索指数数据图

    接下来我们继续看下“小视频赚钱”的数据

    大家可以看到,目前还是火山小视频比较火。不过我们今天不谈论具体的某个小视频平台,毕竟任何一个平台都有做的好的,也有做不起来的。

    对于很多刚开始接触小视频的人,最大的烦恼是视频来源渠道怎么找,关于视频来源渠道一般来说分为以下几个方面

    各大视频平台各大小视频平台国外视频平台微信公众号平台

    说来也比较有意思,有的小视频平台已经把视频采集渠道列出来了,只是很多人并没有太关注。

    今天分享的是如何采集微信公众号上的视频,下面直接告诉你操作步骤

    第一步:打开小程序搜索界面

    第二步:打开公号素材助手小程序

    第三步:打开公众号文章,点击右上方【...】,再点击“复制链接”按钮

    第四步:打开公号素材助手,小程序自动识别链接地址,点击确定

    第五步:选中“视频”,点击获取

    第六步:点击“复制视频地址”

    第七步:打开“文件传输助手”,直接粘贴视频地址,点击链接就能打开视频

    第八步:收藏视频

    第九步:从收藏夹里直接下载

    以上就是关于如何采集公众号上的视频的操作步骤,你学会了么

  • ?

    「iOS开发」关于一对一视频直播系统技术,(一)采集

    雅柔

    展开
    图片来自网络

    关于直播的技术文章不少,成体系的不多。我们将用七篇文章,更系统化地介绍当下大热的视频直播各环节的关键技术,帮助视频直播创业者们更全面、深入地了解视频直播技术,更好地技术选型。

    本篇将重点聊聊:采集。

    图片来自网络

    采集是整个视频推流过程中的第一个环节,它从系统的采集设备中获取原始视频数据,将其输出到下一个环节。视频的采集涉及两方面数据的采集:音频采集和图像采集,它们分别对应两种完全不同的输入源和数据格式。

    采集内容

    1.音频采集

    音频数据既能与图像结合组合成视频数据,也能以纯音频的方式采集播放,后者在很多成熟的应用场景如在线电台和语音电台等起着非常重要的作用。音频的采集过程主要通过设备将环境中的模拟信号采集成 PCM 编码的原始数据,然后编码压缩成 MP3 等格式的数据分发出去。常见的音频压缩格式有:MP3,AAC,OGG,WMA,Opus,FLAC,APE,m4a 和 AMR 等。

    音频采集和编码主要面临的挑战在于:延时敏感、卡顿敏感、噪声消除(Denoise)、回声消除(AEC)、静音检测(VAD)和各种混音算法等。

    在音频采集阶段,参考的主要技术参数有 :

    采样率(samplerate):采样就是把模拟信号数字化的过程,采样频率越高,记录这一段音频信号所用的数据量就越大,同时音频质量也就越高。位宽:每一个采样点都需要用一个数值来表示大小,这个数值的数据类型大小可以是:4bit、8bit、16bit、32bit 等等,位数越多,表示得就越精细,声音质量自然就越好,而数据量也会成倍增大。我们在音频采样过程中常用的位宽是 8bit 或者 16bit。声道数(channels):由于音频的采集和播放是可以叠加的,因此,可以同时从多个音频源采集声音,并分别输出到不同的扬声器,故声道数一般表示声音录制时的音源数量或回放时相应的扬声器数量。声道数为 1 和 2 分别称为单声道和双声道,是比较常见的声道参数。音频帧(frame):音频跟视频很不一样,视频每一帧就是一张图像,而从上面的正玄波可以看出,音频数据是流式的,本身没有明确的一帧帧的概念,在实际的应用中,为了音频算法处理/传输的方便,一般约定俗成取 2.5ms~60ms 为单位的数据量为一帧音频。这个时间被称之为“采样时间”,其长度没有特别的标准,它是根据编解码器和具体应用的需求来决定的。根据以上定义,我们可以计算一下一帧音频帧的大小。假设某音频信号是采样率为 8kHz、双通道、位宽为 16bit,20ms 一帧,则一帧音频数据的大小为:

    size = 8000 x 2 x 16bit x 0.02s = 5120 bit = 640 byte

    2.图像采集

    图像采集的图片结果组合成一组连续播放的动画,即构成视频中可肉眼观看的内容。图像的采集过程主要由摄像头等设备拍摄成 YUV 编码的原始数据,然后经过编码压缩成 H.264 等格式的数据分发出去。常见的视频封装格式有:MP4、3GP、AVI、MKV、WMV、MPG、VOB、FLV、SWF、MOV、RMVB 和 WebM 等。

    图像由于其直观感受最强并且体积也比较大,构成了一个视频内容的主要部分。图像采集和编码面临的主要挑战在于:设备兼容性差、延时敏感、卡顿敏感以及各种对图像的处理操作如美颜和水印等。

    在图像采集阶段,参考的主要技术参数有:

    图像传输格式:通用影像传输格式(Common Intermediate Format)是视讯会议(video conference)中常使用的影像传输格式。图像格式:通常采用 YUV 格式存储原始数据信息,其中包含用 8 位表示的黑白图像灰度值,以及可由 RGB 三种色彩组合成的彩色图像。传输通道:正常情况下视频的拍摄只需 1 路通道,随着 VR 和 AR 技术的日渐成熟,为了拍摄一个完整的 360° 视频,可能需要通过不同角度拍摄,然后经过多通道传输后合成。分辨率:随着设备屏幕尺寸的日益增多,视频采集过程中原始视频分辨率起着越来越重要的作用,后续处理环节中使用的所有视频分辨率的定义都以原始视频分辨率为基础。视频采集卡能支持的最大点阵反映了其分辨率的性能。采样频率:采样频率反映了采集卡处理图像的速度和能力。在进行高度图像采集时,需要注意采集卡的采样频率是否满足要求。采样率越高,图像质量越高,同时保存这些图像信息的数据量也越大。以上,构成了一个视频采集的主要技术参数,以及视频中音频和图像编码的常用格式。而对于直播 App 开发者来说,了解这些细节虽然更有帮助,但实际开发过程中可能很少能够关注采集环节中技术参数的控制,而是直接在 SDK 中将采集后的数据传递给下一个「处理」和「编码」环节。

    采集源

    1.摄像头采集

    对于视频内容的采集,目前摄像头采集是社交直播中最常见的采集方式,比如主播使用手机的前置和后置摄像头拍摄。在现场直播场景中,也有专业的摄影、摄像设备用来采集。安防监控场景中也有专业的摄像头进行监控采集。

    目前七牛提供的 SDK 对以上两类摄像头的采集都支持,对于手机,iOS 和 Android 分别支持前置后置摄像头的采集,只是 iOS 由于设备种类和系统版本不多,因此采集模块兼容性较好;而 Android 需要适配的硬件设备和系统则非常多,目前支持 Android 4.0.3 及以上的摄像头采集。对于专业摄像机或者摄像头,七牛云提供了兼容适合嵌入式系统的 C 语言采集模块的实现,欢迎参考使用:https://github/pili-engineering/ipcam_sdk

    2.屏幕录制

    屏幕录制采集的方式在游戏直播场景中非常常见,目前我们在 Android SDK 中实现了屏幕录制的功能。而 iOS 则由于系统本身没有开放屏幕录制的权限而没法直接操作,但对于 iOS 9 以上的版本,是有个取巧的办法,可以通过模拟一个 AirPlay 镜像连接到(当前 App)自身,这样就可以在软件上捕获到屏幕上的任何操作,达到录制屏幕的效果。

    在教育直播或者会场演讲场合,我们经常看见需要录制电脑桌面上 PPT 的场景,针对这种场景,目前市面上比较方便的方案是使用开源的桌面推流工具 OBS 来进行屏幕录制和推流:https://obsproject/

    3.从视频文件推流

    除了从硬件设备采集视频进行推流之外,我们也可能需要将一个视频或者音频文件以直播流的形式实时传输给观众,比如在线电台或者电视节目,它们的输入可能直接来自于一些已经录制剪辑好的视频内容。

    开放式设计

    以上从采集内容和采集源两个维度分别介绍了视频采集相关的知识,但对于采集源来说,市场上可见的采集源远远不止这三种,即便是摄像头也有很多分类。对于一个完整的覆盖推流、传输和播放三个环节的直播云服务来说,支持尽可能多的采集源和播放终端是一项既无法规避也很难完成的工作。

    为了支持市场上所有采集源的接入,我们在 SDK 中采用了开放式的设计,只要采集源实现方遵循相应的接口,即可支持任意的采集源。

    图片来自网络

    图中我们把采集的内容分为图像和音频,其中图像的采集源包含摄像头、屏幕录制或者本地的视频文件,甚至是其它需要重新定义和实现的采集源。而音频的采集源包含麦克风、系统声音或者本地音频文件,当然也可以为它定义别的输入源。

    这样设计最大的好处在于,可以以轻量的设计方式支持丰富的采集源,而采集源的具体实现也可以交给使用者。

    在下一篇连载中,我们将详细介绍下直播中的处理环节,解答如何满足市场上主播的各种需求如美颜、水印、连麦互动等。

    敬请期待!

  • ?

    AI对于采集大数据最大的贡献在于视频数据结构化

    杜姆亚特

    展开

    大数据的采集来源是大数据一个很大的优势,对于视频化的数据,如何将这些数据结构化,变成一张张大家都能看得懂的数据,从而对这些数据进行分类,是大数据必须要做的数据。

    视频数据结构化的意义在于分类检索的需要。我们经常将地址信息,车牌信息,时间信息,人物信息结构化,这样形成大数据的数据库,比如说:

    20170714095537_粤B******_蓝_113_914166_22_544444_4403055001

    这些信息有效地表述了各种信息。

    人脸信息也是一样。

    如何将有效数据结构化是视频AI的落脚点之一。

    4G人脸视频结构化探头4G人脸结构化探头

  • ?

    数据小白零基础也能轻松采集腾讯视频播放量数据

    夜山

    展开

    现代社会提到大数据大家都知道这是近几年才形成的对于数据相关的新名词,在1980年,著名未来学家阿尔文·托夫勒便在《第三次浪潮》一书中,将大数据热情地赞颂为“第三次浪潮的华彩乐章”。在20世纪80年代我国已经有一些专家学者谈到了海量数据的加工和管理,但是由于计算机技术和网络技术的限制大数据未能引起足够的重视,它蕴藏的巨大信息资源也暂时隐藏了起来。随着云计算技术的发展,互联网的应用越来越广泛,以微博和博客为代表的新型社交网络的出现和快速发展,以及以智能手机、平板电脑为代表的新型移动设备的出现,计算机应用产生的数据量呈现了爆炸性增长的趋势。2012年末出版的《大数据时代》的作者英国牛津大学网络学院互联网研究所治理与监管专业教授维克托·尔耶·舍恩伯格在书的引言中说,大数据正在改变人们的生活以及理解世界的方式,而更多的改变正蓄势待发。

    大数据蕴含着巨大的价值,对社会、经济、科学研究等各个方面都具有重要的战略意义。目前,大数据已经在政府公共管理、医疗服务、零售业、制造业,以及涉及个人的位置服务等领域得到了广泛应用,并产生了巨大的社会价值和产业空间。麦肯锡公司在一份研究报告中,根据西方产业数据预测,大数据的应用将能为欧洲发达国家的政府节省1000亿欧元以上的运作成本,使美国医疗保健行业的成本降低8%,约每年3000多亿美元,并使得零售商的营业利润率提高60%以上。市场调研机构IDC的“数字宇宙”研究报告中则预测,大数据技术与服务市场在2015年将达到169亿美元,实现40%的年增长率,为IT与通信产业增长率的7倍。大数据中蕴含的巨大商业价值、科学研究价值、社会管理与公共服务价值以及支撑科学决策的价值正在被认知与开发利用。

    数据中蕴含的宝贵价值成为人们存储和处理大数据的驱动力。Mayer-Schonberger在《大数据时代》一书中指出了大数据时代处理数据理念的三大转变,即要全体不要抽样,要效率不要绝对精确,要相关不要因果。因此,大数据的处理对于当前存在的技术来说是一种极大的挑战。

    那么我们如何获取这些数据呢,有没有什么高效的办法可以帮助我们获取这些高价值的数据,毕竟人工的复制黏贴不仅复杂而且非常的低效,因此后羿工程师团队不断的摸索和开发,终于研究出一款基于人工智能技术的爬虫工具,只需要在软件中输入网址就能够自动识别网页数据,无需配置即可完成数据采集,是业内首家支持三种操作系统(包括Windows、Mac和Linux)的采集软件。同时这是一款真正免费的数据采集软件,对采集结果导出没有任何限制,即使是没有编程基础的小白用户也可轻松实现数据采集要求。

    现在我们就以腾讯视频为例,为大家演示如何使用此款软件。

    首先,复制需要采集的网址,打开软件输入网址,新建智能采集任务。

    在智能模式下,我们输入网址后软件即可自动识别出页面上的数据并生成采集结果,每一类数据对应一个采集字段,我们可以右击字段进行相关设置,包括修改字段名称、增减字段、处理数据等。

    接着我们点击“保存并启动”按钮,可在弹出的页面中进行一些高级设置,包括定时启动、自动入库和下载图片,本次示例中未使用到这些功能,直接点击“启动”运行爬虫工具。

    数据采集完毕后,我们可以导出数据,软件提供多种导出方式,大家可以自由选择导出方式。

    我们导出了一个Excel表格的文件,在这个表格上我们可以看到数据都完整的采集出来了,大家可以直接使用这些数据,也可以在这个基础上对数据进行加工处理。

  • ?

    头盔式一体化音视频巡检数据采集记录系统

    Harvey

    展开

    1.1 项目背景

    希望通过高新技术手段,提高危险行业设备巡检的工作执行力度,提高危险行业维护保养企业的管理水平,保护企业员工生命安全,以及将已有的众多设备运行维护管理系统进行有效融合,将视频压缩录制和移动信息技术全面应用于生产过程,从而形成一套高效、协同指挥、信息化、数字化的端到端的多业务融合通信智能化移动巡检系统。集成了视频、语音、照明、录像、回放、4G无线传输的智能手持终端。如果不配备4G无线传输设备,则采用本地随身录像系统,可以将巡检过程中遇到的各种问题和巡检过程记录下来,形成视频数据库,制作巡检档案,如果采用全功能无线传输设备,可以远程实时监控现场的各种作业环节,极大地提高安全生产系数。

    1.2 现状与需求

    危险行业设备维保检修:在设备管理、生产线运行维护方面虽投入大量的人力物力,然而落后的通信方式、过于粗放、被动、无监督和无评价机制的传统监督模式已不能满足当今化工行业的管理需求,创建一种全新的设备日常运行维护质量监督模式来推动化工行业的企业持续发展已成为迫在眉睫的首要工作。

    随着通信技术的发展,3G/4G无线网络的日趋普及,基于公网的数字集群对讲已经开始走进各行各业,可以有效为危化企业解决设备巡检上的很多问题,并实现如下功能。

    1.2.1 建立设备巡检信息库

    巡检人员在进行每日例行设备巡检任务时,可通过终端录像、拍照功能将设备现场实际情况拍摄后上传到中心数据库,同时可以把设备运行温度、转速等参数上传带数据服务器,建立设备巡检信息库,以备后期查询,作为设备巡检、大修等操作的判断依据。

    如果暂时不考虑4G无线传输,则只需要采用本地录像和数据采集存储设备,巡检回来后采用读卡器把数据资料拷贝到电脑数据库,以备存查。

    1.2.2 远程指导

    现场作业人员在一些关键性抢修紧急情况下,对于位处偏远或专业人员无法及时赶到现场,可由现场人员采用视频实时上传功能将现场实际情况的实时视频回传至专业人员处,专家可通过视频直播,进行故障分析并做出相应的停开机或故障检修指导。

    1.2.3 对设备巡检人员管理

    在厂区设备日常巡检工作中,管理人员可通过系统的GPS功能或RDIF读取巡检点的ID编号,实现巡检人员的设备巡检任务到位监控。可有效管理巡检人员日常巡检工作,做到对设备巡检人员的工作的高度监督、管理。

    1.2.4 提高巡检工作人员工作效率

    设备运维管理人员,可通过系统的GPS轨迹回放功能对巡检工作人员日常巡检路线进行回放,从而达到对巡检工作的监督作用。同时,便于管理人员根据轨迹,优化巡检行走路线,提高人力物力使用率。

    1.2.5 特殊区域,进入报警

    在厂区中,由于人员专业的限制,某些特定区域只允许相关专业的人员进入。可通过本系统的电子围栏功能,实现不允许进入的特殊区域,通过GPS电子围栏功能设置侵入报警。当人员进入违禁区域时,终端、后台立即发出警报,并登记相应违规信息,将重大违规事故防范于未然。

    1.2.6 对设备运行视频监控

    对一些不允许人员进入的关键性区域,可通过系统的固定点无线视频监控,达到对设备运行状态的监控,同时故障设备达到快速定位,便于中控室对故障设备及时做出远程的运行调整,派遣相应专业人员前往故障设备点进行检修。

    综上以上需求,迫切需要一种能同时提供多种业务,无线信号覆盖范围广泛,使用时无区域限制,信号盲点少,分组容量大,终端保密性高,抗干扰能力强的系统设备来满足工作人员对通讯保障和其他功能的需求。为规范工作人员在日常工作中提供可靠的整改依据,同时也希望能满足位置信息定位,为指挥中心随时了解设备的运行状况、巡检人员的位置及状态信息,使得指挥决策更加快捷、直观、有效。

视频数据采集

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP