前沿技术普及系列·写在前面

不知道大家有没有和象牙妹儿一样的感觉，就是最近1年很多AI产品铺天盖地的来到了我们的生活，比如某些家的智能陪伴音响、翻译棒、智能机器人、AR拍照手机等等。

这里面背后的前沿技术大数据、云计算、区块链、物联网、 5G、数字化…前几年甚至现在听着还很遥远，却已有不少在冲击着商业的世界，渗透进我们的生活！

如何拨开层层浓雾，抵达未来的彼岸？如何把握技术的钥匙，启开未来商业世界的大门!

大象互联网圈发起主办的第二届中国【郑州】开发者大会不但关注技术·商业的融合，也关注着前沿技术的分享。

因此，从今天起，大象互联网圈公众号将目光聚焦在大数据、云计算、物联网IOT、人工智能AI、区块链、VR/AR等板块，一一从概念层、目前行业发展状况、企业实际应用层、技术层、岗位前景等为大家带来干货的普及，快来和象牙儿妹一块围观吧！

本文由“壹伴编辑器”提供技术支持

正文

如果你说大数据就是数据大，或者侃侃而谈4个V，也许很有深度的谈到BI或预测的价值，又或者拿Google和Amazon举例，技术流可能会聊起hadoop和Cloud Computing，不管对错，只是无法勾勒对大数据的整体认识，不说是片面，但至少有些管窥蠡测，也许“解构”是最好的方法。

首先，大数据就是互联网发展到现今阶段的一种表象或特征而已，没有必要神话它或对它保持敬畏之心，在以云计算为代表的技术创新大幕的衬托下，这些原本很难收集和使用的数据开始容易被利用起来了，通过各行各业的不断创新，大数据会逐步为人类创造更多的价值。

其次，想要系统的认知大数据，必须要全面而细致的分解它，本系列文章我们着手从概念、技术、实践三个层面来展开，本篇文章我们先介绍概念层。

本文由“壹伴编辑器”提供技术支持

大数据的定义

大数据（Big Data）概念是1998年由SGI首席科学家John Masey在USENIX大会上提出的。他当时发表了一篇名为Big Data and the Next Wave of Infrastress的论文，使用了大数据来描述数据爆炸的现象。但大数据真正得到业界关注，则是其后多年的事情了。

大数据是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合，是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

本文由“壹伴编辑器”提供技术支持

大数据的分类

互联网上的大数据很难清晰的界定分类界限，我们先看看BAT的大数据：

百度拥有两种类型的大数据：用户搜索表征的需求数据；爬虫和阿拉丁获取的公共web数据搜索巨头百度围绕数据而生。阿里巴巴拥有交易数据和信用数据。这两种数据更容易变现，挖掘出商业价值。除此之外阿里巴巴还通过投资等方式掌握了部分社交数据、移动数据，如微博和高德。

腾讯拥有用户关系数据和基于此产生的社交数据。这些数据可以分析人们的生活和行为,从里面挖掘出政治、社会、文化、商业、健康等领域的信息，甚至预测未来。

在信息技术更为发达的美国，除了行业知名的类似Google，Facebook外，已经涌现了很多大数据类型的公司，它们专门经营数据产品，比如：

Metamarkets：这家公司对Twitter、支付、签到和一些与互联网相关的问题进行了分析，为客户提供了很好的数据分析支持。

Tableau：他们的精力主要集中于将海量数据以可视化的方式展现出来。Tableau为数字媒体提供了一个新的展示数据的方式。他们提供了一个免费工具，任何人在没有编程知识背景的情况下都能制造出数据专用图表。

ParAccel：他们向美国执法机构提供了数据分析，比如对15000个有犯罪前科的人进行跟踪，从而向执法机构提供了参考性较高的犯罪预测。他们是犯罪的预言者。

QlikTech：QlikTech旗下的Qlikview是一个商业智能领域的自主服务工具，能够应用于科学研究和艺术等领域。为了帮助开发者对这些数据进行分析，QlikTech提供了对原始数据进行可视化处理等功能的工具。

本文由“壹伴编辑器”提供技术支持

大数据的4V特征

即Variety(多样化)、Volume(大量化)、Velocity（快速化）、Value(价值密度低)。如下图所示。

其中，Variety表示来源多和格式多，数据可以来源于搜索引擎、社交网络、通话记录、传感器等等，这些数据要么以结构化形式存储，要么以非结构化数据存储；Volume表示数据量比较大，从TB级别，跃升到PB级别。

尤其是在移动互联时代，视频、语言等非结构化数据快速增长；Velocity表示数据存在时效性，需要快速处理，并得到结果出来，这一点也是和传统的数据挖掘技术有着本质的区别；Value表示大量不相关信息，不经过处理则价值较低，属于价值密度低的数据。

本文由“壹伴编辑器”提供技术支持

大数据处理流程

都有以下几个过程：数据采集、数据清洗、数据建模、数据加工、数据展现。如下图所示。

举个例子，做饭通常都要包括“买菜~洗菜~配菜~炒菜”这几个必须环节，无论你是开饭店还是家里一日三餐，做饭的规模大小会有不同，但流程却是一样的。而这几个环节其实正好对应了数据人的日常工作内容：买菜（数据采集）~洗菜（数据清洗）~配菜（数据建模）~炒菜（数据加工）-上菜（数据展示）。

在大数据时代，由于数据种类多，数据大，从结构化的数据到非结构化的数据，数据采集的形式也变得更加复杂而多样。

当存储技术的发展变得步履蹒跚，赶不上数据发展的速度时，分布式存储成为了必然选择，非结构型数据也对存储格式提出了新的要求。

层出不穷的数据源也使得数据量产生了井喷似的迅猛增长。此时分布式存储与NoSQL的诞生回应了这样的需求，解决了大数据存储的根本难题。

本文由“壹伴编辑器”提供技术支持

大数据思维

关于大数据思维即我们该如何去理解大数据，十余年潜心研究数据科学的技术权威维克托·迈尔-舍恩伯格认为要注意三点：

需要全部数据样本而不是抽样关注效率而不是精确度关注相关性而不是因果关系。

阿里巴巴的王坚对于大数据也有一些独特的见解，比如：

今天的数据不是大，真正有意思的是数据变得在线了，这个恰恰是互联网的特点非互联网时期的产品，功能一定是它的价值，今天互联网的产品，数据一定是它的价值你千万不要想着拿数据去改进一个业务，这不是大数据，你一定是去做了一件以前做不了的事情

特别是最后一点，我是非常认同的，大数据的真正价值在于创造，在于填补无数个还未实现过的空白。

有人把数据比喻为蕴藏能量的煤矿。煤炭按照性质有焦煤、无烟煤、肥煤、贫煤等分类，而露天煤矿、深山煤矿的挖掘成本又不一样。与此类似，大数据并不在“大”，而在于“有用”，价值含量、挖掘成本比数量更为重要。

本文由“壹伴编辑器”提供技术支持

大数据的价值

如果把大数据比作一种产业，那么这种产业实现盈利的关键，在于提高对数据的“加工能力”，通过“加工”实现数据的“增值”。

Target 超市以20多种怀孕期间孕妇可能会购买的商品为基础，将所有用户的购买记录作为数据来源，通过构建模型分析购买者的行为相关性，能准确的推断出孕妇的具体临盆时间，这样Target就可以有针对的在每个怀孕顾客的不同阶段寄送相应的产品优惠卷。

Wal-Mart作为零售行业的巨头，他们的分析人员会对每个阶段的销售记录进行了全面的分析，有一次他们无意中发现虽不相关但很有价值的数据，在美国的飓风来临季节，超市的蛋挞和抵御飓风物品竟然销量都有大幅增加。

于是他们做了一个明智决策，就是将蛋挞的销售位置移到了飓风物品销售区域旁边，看起来是为了方便用户挑选，但是没有想到蛋挞的销量因此又提高了很多。

这些例子真实的反映在各行各业，探求数据价值取决于把握数据的人，关键是人的数据思维；与其说是大数据创造了价值，不如说是大数据思维触发了新的价值增长。

未来在大数据领域最具有价值的是两种事物：1-拥有大数据思维的人，这种人可以将大数据的潜在价值转化为实际利益；2-还未有被大数据触及过的业务领域。这些是还未被挖掘的油井，金矿，是所谓的蓝海。

本文由“壹伴编辑器”提供技术支持

大数据的风险

提到大数据人们生活造成的干扰，你或许对隐私泄露早有耳闻。当你在不同的网站上注册了个人信息后，可能这些信息已经被扩散出去了。

当你莫名其妙的接到各种邮件，电话，短信的滋扰时，你不会想到自己的电话号码，邮箱，生日，购买记录，收入水平，家庭住址，亲朋好友等私人信息早就被各种商业机构非法存储或贱卖给其它任何有需要的企业或个人了。

更可怕的是，这些信息你永远无法删除，它们永远存在于互联网的某些你不知道的角落。除非你更换掉自己的所有信息，但是这代价太大了。

目前，中国并没有专门的法律法规来界定用户隐私，处理相关问题时多采用其他相关法规条例来解释。但随着民众隐私意识的日益增强，合法合规地获取数据、分析数据和应用数据，是进行大数据分析时必须遵循的原则。

因此在大数据的背景下，很多人都在积极的抵制无底线的数字化，这种大数据和个体之间的博弈还会一直继续下去……

专家给予了我们一些如何有效保护大数据背景下隐私权的建议：

减少信息的数字化隐私权立法数字隐私权基础设施（类似DRM数字版权管理）人类改变认知（接受忽略过去）创造良性的信息生态语境化。

本篇关于大数据的理论层面分析就介绍到这，下一篇我们将对大数据价值体现的手段和前进的基石——大数据技术深入进行展开分析。

END

第二届中国【郑州】开发者大会

线上报名通道全面开放

本次大会将开设从数字化到大数据落地专场，现已开放报名通道，门票分为免费票和VIP票两种，其中VIP票权益非常丰富，票价为199元且仅限200张，下面是两种票的权益对比：

人手一个移动设备的今天，消费者只要下载免费的App软件，再用手机拍下自己的超市购物收据上传后，即可获得许多商品的回馈金，例如牛奶、鸡蛋、饮品等；或者消费者购买食品超过廿美元，拍照单据上传，即可获得回馈金五美元，形同优惠打折。上述场景，在美国各地随时可见！

同样地，尼尔森行销研究顾问公司请消费者用手机扫描所购商品条形码，即可获赠点数或抽奖机会，亦可藉由反映消费体验，针对特定产品提供顾客意见，就可累积「点数」。

在台湾，已拥有一千七百万用户的LINE免费通信软件App，也早已推出LINE@生活圈，协助企业切入智慧行销，更贴近顾客群与粉丝团。任何企业主皆可在LINE@生活圈架设平台，透过扫描QR Code，邀请民众加入会员，与业者直接互动、即时行销，打开另类营销策略与手法。

人手一机示意图／Ingimage授权

上述商业模式为何如此善待消费者呢？这正是「羊毛出在狗身上，猪来付钱」的道理！

羊毛，是指追踪「顾客体验（Customer Experience，CX）」或「消费者体验（Consumer Experience，CX）」的购买意愿及信息。透过尼尔森App平台（亦即狗），即可获得企业主（亦即猪）的奖励金。

对企业主而言，透过搜集顾客行为数据，包括所购买的品项、厂牌、价格、数量等，以及顾客社经特征，皆有助于了解顾客购买动机与行为偏好，进而优化商品质量与服务流程，或订定更贴切价格，提供消费者更佳的CX，形成正向循环。

过去企业主必须雇用员工调查顾客消费信息，但如今只要懂得运用「群众外包」，针对广泛人群付出些许市场诱因，即可让顾客「自行揭露」其个人消费信息与购买行为，远比过往找寻焦点团体替代真正的本尊消费者，既精确又省钱。

换言之，消费者在扫描条形码或拍摄超市收据的那一刻，即等同于尼尔森或特定App的外聘员工，免去企业主另聘员工搜集消费者数据的人事成本。同时，企业主以相对低廉的费用，取得顾客体验大数据，进一步藉由机器深度学习，结合各领域专业知识，产生人工智慧，创造出更高市场价值。

除零售业，其他众多产业皆有独具慧眼的新创公司，善用大数据提供切合不同消费者喜好的不同产品或服务；媒体产业自不例外。

譬如中国大陆的网络新媒体「今日头条」，藉由App平台功能，掌握每位读者点选的新闻与文章，建立各读者喜爱的新闻标签，再推播量身打造的客制化内容。这种「你关心的，才是头条」之营运模式，造就出高点阅率与高平均阅读时间，进而吸引广告商与相关店家上门，针对潜在客户精准投放广告。读者阅读文章时，亦可直接点击购买喜爱的商品或连接相关文章。

数据为王时代，立足于消费者「自我揭露」的数据革命，进而形塑出数据经济的颠覆式创新能力，我产官学研各界应重视并积极运用。

个人大数据是什么？原来它和我们的生活，信用密不可分

随着信息化时代的到来，让我们每一个人都变成了“透明人”，你的大部分行为已经转化为数据记录，这些数据记录经过各部门或者企业的整理而行成你这个人的大数据，用于判断你的下一步行为意向或者作为金融机构的风控参照

所以大家要搞明白自己的大数据记录，保护好自己的信用记录，不要破坏个人大数据。

那么个人大数据具体又指的是那些呢？

1、个人风险综合查询违法犯罪记录：刑事、行政拘留信贷逾期记录：互联网金融申请、银行贷款多头借贷检测：银行、小贷、P2P、互联网金融（网贷）吸毒贩毒记录、互联网不良痕迹、法院起诉记录和执行记录

2、电商授权数据实名认证数据、风险评分、支付宝授权信息、收货地址、购物记录、认证时长、消费能力画像、购物偏好

3、 运营商授权报告异常通话：港澳台、夜间异常、催收电话手机号实名认证检测、使用时长、紧急联系人通话频率、开户地址、高频联系人、出行记录（漫游地)、通话分布地区

4、身份证实名信息查询实名校验、公安部系统

5、平台风险查询平台借贷记录、多头借贷自动提醒、借贷预警

6、手机号码定位信息定位功能开通、位置记录

7、个人资产报告房产：面积、房产地址、全款或按揭车产：车牌号、车辆型号、购买价格时间学历查询

8、车贷模块行驶证：配置、违章、价值评估、保养记录、出险记录（出险时间、理赔金额、出险情况）车辆基础信息：车主姓名、配置、出厂日期、价格手动查询、核查信息

9、信贷模块个人风险评分系统、银联卡查询记录、信贷黑名单检测、征信查询记录

10，各种app应用，浏览器的分析，现在市场上的app大多会对注册者个人或者使用的设备(不限于手机)进行全部的数据记录，你的日常使用其实就是数据的产生和积累

虽然说现在是信息化时代，但是就目前情况来说个人数据还是一种有价的资源，没有完全共享。其中很多涉及个人隐私的应该只有国家政府相关机构可以掌握，其他平台暂时还实现不了。

世界包含的多得难以想象的数字化信息变得更多更快，从商业到科学，从政府到艺术，这种影响无处不在。科学家和计算机工程师们给这种现象创造了一个新名词：“大数据”。所谓大数据，那到底什么是大数据，他的来源在哪里，定义究竟是什么呢？

一：大数据的定义。

1、大数据，又称巨量资料，指的是所涉及的数据资料量规模巨大到无法通过人脑甚至主流软件工具，在合理时间内达到管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。

2、大数据技术，是指从各种各样类型的大数据中，快速获得有价值信息的技术的能力，包括数据采集、存储、管理、分析挖掘、可视化等技术及其集成。

3、大数据应用，是指对特定的大数据集合，集成应用大数据技术，获得有价值信息的行为。对于不同领域、不同企业的不同业务，甚至同一领域不同企业的相同业务来说，由于其业务需求、数据集合和分析挖掘目标存在差异，所运用的大数据技术和大数据信息系统也可能有着相当大的不同。

二：大数据的类型和价值挖掘方法

1、大数据的类型大致可分为三类：

1)传统企业数据：包括消费者数据，传统的ERP数据，库存数据以及账目数据等。2)机器和传感器数据：包括呼叫记，智能仪表，设备日志，交易数据等。3)社交数据：包括用户行为记录，反馈数据等。2、大数据挖掘商业价值的方法主要分为四种：1)客户群体细分，然后为每个群体量定制特别的服务。2)模拟现实环境，发掘新的需求同时提高投资的回报率。3)加强部门联系，提高整条管理链条和产业链条的效率。4)降低服务成本，发现隐藏线索进行产品和服务的创新。

三：大数据的特点

具体来说，大数据具有4个基本特征：

1、是数据体量巨大

2、是数据类别大和类型多样3、是处理速度快4、是价值真实性高和密度低

四：大数据的作用

1、对大数据的处理分析正成为新一代信息技术融合应用的结点移动互联网、物联网、社交网络、数字家庭、电子商务等是新一代信息技术的应用形态，这些应用不断产生大数据。云计算为这些海量、多样化的大数据提供存储和运算平台。通过对不同来源数据的管理、处理、分析与优化，将结果反馈到上述应用中，将创造出巨大的经济和社会价值。2、大数据是信息产业持续高速增长的新引擎面向大数据市场的新技术、新产品、新服务、新业态会不断涌现。在软件与服务领域，大数据将引发数据快速处理分析、数据挖掘技术和软件产品的发展。3、大数据利用将成为提高核心竞争力的关键因素各行各业的决策正在从“业务驱动” 转变“数据驱动”。对大数据的分析可以使零售商实时掌握市场动态并迅速做出应对;可以为商家制定更加精准有效的营销策略提供决策支持;可以帮助企业为消费者提供更加及时和个性化的服务;4、大数据时代科学研究的方法手段将发生重大改变，抽样调查是社会科学的基本研究方法。在大数据时代，可通过实时监测、跟踪研究对象在互联网上产生的海量行为数据，进行挖掘分析，揭示出规律性的东西，提出研究结论和对策。

五：大数据的商业价值

1、对顾客群体细分

2、模拟实境3、提高投入回报率4、数据存储空间出租5、管理客户关系6、个性化精准推荐7、数据搜索

六：大数据对经济社会的重要影响

1、能够推动实现巨大经济效益2、能够推动增强社会管理水平3、如果没有高性能的分析工具，大数据的价值就得不到释放

“大数据”时下一个热门的词语，近几年来，关于大数据的著作和文章铺天盖地，似乎也在共同在传递一个信息：越来越多的行业、人士开始关注并实际探索大数据的应用，我们正在一起描绘着大数据巨大效用的蓝图，但在实践的路上，我们都孩子起步阶段小步前行。

大数据根基于互联网，数据仓库、数据挖掘、云计算等互联网技术的发展为大数据应用奠定基础。对于任何一个大数据的从业者或初接触者，或者都会有个共同的感触：大数据很有用！但大数据是什么呢？

今天就给大家讲解一下：

对于大数据的定义，我们来引用3个比较差用的大数据定义：

1）Gartner：需要信息处理模式才能具有更强的决策力，洞察发现力和流程优化能力的海量、高增长率很多样化的信息资产。

2）IDC：海量的数据规模（Volunme）、快速的数据流转和数据体系（Velocity）、多样的数据类型（Variety）、巨大的数据价值（Value）。

3）Wiki：或称巨量数据、海量数据、大资料，指所涉及的数据量规模巨大到无法通过人工，在合理时间内达到截取、管理、处理、并整理成为人类所能解读的信息。

其他关于大数据的定义也大抵类型，我们可以用几个关键词对大数据做一个界定。

首先，“大规模”，这种规模可以从两个维度来衡量，一是时间序列累积大量的数据，二是在深度上更加细化的数据。

其次，“多样化”，可以是不同的数据格式，如文字、图片、视频等，可以是不同的数据类别，如入口数据，经济数据等，还可以有不同的数据来源，如互联网、传感器等。

最后，“动态化”，数据是不停变化的，可以随着时间快速增加大量数据，也可以是在空间上不断移动变化的数据。

这三 个关键词对大数据从形象上做了界定。

但是还需要一个关键能力，就是“处理速度快”。如果这么大规模、多样化又动态变化的数据有了，但需要很长的时间去处理分析，那不叫大数据。从另一个角度，要实现这些数据快速处理，靠人工肯定是没办法实现的，因此，需要借助于机器实现。

最终，我们借助机器，通过对这些数据进行快速的处理分析，获取想要的信息或者应用的整套体系，才能称为大数据。

我们可以用下面的图示给大数据定义：

这下，就知道什么是大数据了吧

一、大数据介绍

大数据，或称巨量资料，指的是需要新处理模式才能具有更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产。 在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代》中大数据指不用随机分析法(抽样调查)这样的捷径，而采用所有数据进行分析处理。大数据的5V特点:Volume(大量)、Velocity(高速)、Variety(多样)、Value(价值密度)、Veracity（真实性）“大数据”是指以多元形式，自许多来源搜集而来的庞大数据组，往往具有实时性。在企业对企业销售的情况下，这些数据可能得自社交网络、电子商务网站、顾客来访纪录，还有许多其他来源。这些数据，并非公司顾客关系管理数据库的常态数据组。从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。它的特色在于对海量数据的挖掘，但它必须依托云计算的分布式处理、分布式数据库、云存储和/或虚拟化技术。(在维克托·迈尔-舍恩伯格及肯尼斯·库克耶编写的《大数据时代[4]》中大数据指不用随机分析法（抽样调查）这样的捷径，而采用所有数据的方法）大数据的4V特点：Volume（大量）、Velocity（高速）、Variety（多样）、Value（价值）。

二、概念

大数据的意义是由人类日益普及的网络行为所伴生的，受到相关部门、企业采集的，蕴含数据生产者真实意图、喜好的，非传统结构和意义的数据 。2013年5月10日，阿里巴巴集团董事局主席马云在淘宝十周年晚会上，将卸任阿里集团CEO的职位，并在晚会上做卸任前的演讲，马云说，大家还没搞清PC时代的时候，移动互联网来了，还没搞清移动互联网的时候，大数据时代来了。借着大数据时代的热潮，微软公司生产了一款数据驱动的软件，主要是为工程建设节约资源提高效率。在这个过程里可以为世界节约40%的能源。抛开这个软件的前景不看，从微软团队致力于研究开始，可以看他们的目标不仅是为了节约了能源，更加关注智能化运营。通过跟踪取暖器、空调、风扇以及灯光等积累下来的超大量数据，捕捉如何杜绝能源浪费。“给我提供一些数据，我就能做一些改变。如果给我提供所有数据，我就能拯救世界。”微软史密斯这样说。而智能建筑正是他的团队专注的事情。

三、大数据的意义

现在的社会是一个高速发展的社会，科技发达，信息流通，人们之间的交流越来越密切，生活也越来越方便，大数据就是这个高科技时代的产物。 阿里巴巴创办人马云来台演讲中就提到，未来的时代将不是IT时代，而是DT的时代，DT就是Data Technology数据科技，显示大数据对于阿里巴巴集团来说举足轻重。有人把数据比喻为蕴藏能量的煤矿。煤炭按照性质有焦煤、无烟煤、肥煤、贫煤等分类，而露天煤矿、深山煤矿的挖掘成本又不一样。与此类似，大数据并不在“大”，而在于“有用”。价值含量、挖掘成本比数量更为重要。对于很多行业而言，如何利用这些大规模数据是成为赢得竞争的关键。大数据的价值体现在以下几个方面：对大量消费者提供产品或服务的企业可以利用大数据进行精准营销 做小而美模式的中长尾企业可以利用大数据做服务转型。

四、大数据的具体介绍

随着云时代的来临，大数据（Big data）也吸引了越来越多的关注。《著云台》的分析师团队认为，大数据（Big data）通常用来形容一个公司创造的大量非结构化和半结构化数据，这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起，因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。简言之，从各种各样类型的数据中，快速获得有价值信息的能力，就是大数据技术。明白这一点至关重要，也正是这一点促使该技术具备走向众多企业的潜大数据的5个“V”，或者说特点有五层面：第一，数据体量巨大从TB级别，跃升到PB级别。第二，数据类型繁多前文提到的网络日志、视频、图片、地理位置信息等等。

五、大数据的应用

上世纪90年代末，美国航空航天局的研究人员创造了大数据一词，自诞生以来，它一直是一个模糊而诱人的概念，直到最近几年，才跃升为一个主流词汇。但是，人们对它的态度却仍占据了光谱的两端，一些人对它抱有近乎宗教崇拜的热情，认为大数据时代将释放出巨大的价值，是通往未来的必然之途。在一些观察者眼中，大数据已成为劳动力和资本之外的第三生产力。而怀疑者称，大数据会威胁到知识产权，威胁到隐私保护，无法形成气候。产业洞察研究院表示无论如何，大数据在风电领域已有所建树。首先，结合了大数据分析和天气建模技术的能源电力系统能够提高风电的可靠性。以往对风资源的预测不够精准，在风能无法贡献预期功力时，火电就要作为后备电力。这样，电网对风电的依赖程度越高，需要建设后备电站的成本就越高。另外，启用火电站的就等于向环境中释放碳排。然而，在大数据分析的帮助下，温度、气压、湿度、降雨量、风向和风力等变量都得到充分考虑，对风电的预测更加精准。电网调度人员可以提前做好调度安排，也有助于电网消纳更多风电。

大数据的作用是在海量数据的基础上，通过算法模型，获得有意义的结果，然后优化资源配置，发现现象，未来预测等。

长话短说，让我们用一个例子来告诉你大数据有多么强大。

今天头条:很多数据是别人的，你是怎么得到的?通过数据分析方法提取文字分析，统计分析消除。在今天的标题中，用户点击开始后端服务器有日志，请求一个点击日志，一个临时集群围绕大数据，计算点击率，就像这样可以计算出用户，用户不喜欢再做调整。通过大数据评估点击率，新广告将在一个小时内进行，以观察下一个小时的点击率，广告将进行排名和调整。

摩拜单车:它是通过物联网终端，总是通过数据，发送数据再上去卖钱，交押金做金融，不要说靠你那五毛钱来生产效益。

项目推荐:网站、音乐、电影、网站、电子商务网站将根据您的浏览行为进行分析，并根据您的兴趣向您推荐相应的项目，如爱奇艺、QQ音乐、京东等。

金融:银行利用大数据来分析用户的消费行为、购买能力和还款能力，降低贷款给用户的风险，降低还款率。

信用:支付宝的芝麻增加了更多的维度，如你的关系、教育、汽车等因素来评估你的信用价值，为信用价值高的人提供更好的服务，例如高信用酒店不必支付押金。

智慧城市:现在更具代表性的功能是能够控制路灯的亮度，可以达到节约用电的效果。通过交通流控制交通信号灯来减少道路拥堵。

大数据处理技术的应用使这些方面有了更好的发展，如果不是大数据处理技术的出现，那可能是因为太多的数据处理不过来，或者根本无法处理。这自然会导致一些落后的或根本不可行的企业的发展。当然，将来会有越来越多的大数据应用，比如物联网、人工智能等。前景是光明的。

如果你不知道，那我就给你一个更粗俗的例子，那就是，“你屁股一撅我就知道你拉的是什么屎”这是由于某人或某物经过长时间的接触，了解了彼此足够的信息，促进了对事物的认知，从而对事物有了更多的了解，并期待着下一步的行动。大数据处理技术就是这样一个过程，他的过程可以分为收集、处理、分析和鉴定，这四个步骤的预测。事实上，它是模拟人类对事物的认知和程序的编程和量化过程的过程。

2018据说是大数据元年，各位，快加入大数据的浪潮，世界早晚会惩罚不喜欢学习的人。

大家好，今天跟大家聊一聊数据时代的未来和发展。

在近代人们对数据的要求没有那么的迫切，那个时候没有数据分析师，没有IT，但是随着人类的发展，随着工业革命和科技革命的发展，数据对我们来说越来越重要，比如说美国的一个城市---纽约就是一个很鲜明的例子，通过数据挖掘，有效预防了火灾。据统计，纽约大约有100万栋建筑物，平均每年约有3000栋会发生严重的火灾。纽约消防部门将可能导致房屋起火的因素细分为60个，诸如是否是贫穷、低收入家庭的住房，房屋建筑年代是否久远，建筑物是否有电梯等。除去危害性较小的小型独栋别墅或联排别墅，分析人员通过特定算法，对城市中33万栋需要检验的建筑物单独进行打分，计算火灾危险指数，划分出重点监测和检查对象。目前数据监测项目扩大到2400余项，诸如学校、图书馆等人口密集度高的场所也涵盖了。尽管公众对数据分析和防范措施的有效性之间的关系心存疑虑，但是火灾数量确实下降了。

未来是DT和IOT的时代，数据的利用会极大丰富我们的生活，以前只有电脑象征着数据处理器，但是现在手机也通上了数据，电视、摄像头、空调、冰箱、电灯泡、窗帘等等一系列生活电器也通上了互联网数据，让我们还没有回家就已经打开了空调，让我们离开家也能关闭电视机、打开窗帘、观察家里发生的一切，是互联网+数据让我们生活变得更智能更丰富，让我们的工作效率更高。

我觉得未来受数据影响最大的应该是生产制造业，因为就目前来看，我国的制造业还存在明显的短板，而且好多的生产厂家都是流水线的工人，真正意义上的自动化程度并没有那么高，前些天我在网上看到一个视频，视频是一个把活蹦乱跳的鸡杀死然后把每个部分的肉都分好类的机械设备，当然，这并不是中国的，是德国的一套机械设备，在生产过程中，全都靠机械手和传感器，鸡先在一个平台上，然后被依次推进先杀死放血然后再去毛，然后去内脏再分割腿、翅、脖子、鸡爪等等，一系列流程下来，最后把各个器官都分类堆在一起，视频全程没有出现一个人，我看完后不免惊叹科技竞如此发达，完全依靠机械手臂和传感器就能把原来我们几十分钟甚至几分钟做的事给缩短成了几秒，确实是提高了生产效率，而且还节省了人员成本。

工业生产的物联网都是依靠采集的数据来使工业生产变得更精准更人性化，不管是在什么时候，不管是在做什么，不要以为好多数据没必要去采集，因为在数据没有采集上来之前你不知道这个数据到底有没有用，因为你不会考虑到你的核心业务诉求是否受这个数据影响，一个企业也是一样，如果单纯的以为只有自己想到收集的数据是有用的，其他的数据不去挖掘不去考量不及时呈现的话，这个企业不会更好更健康的发展下去，不能及时的解决、预防企业中的问题，就像在原来没有血压计、没有x光、没有CT这些数据采集机械设备，没有这些数据医学家也没办法来研究这些病症的治疗和预防方法，使得人们的高血压、心脏病等等这些病症没有办法得到治疗和预防。

综上所述，我觉得未来的统计数据是最值钱的，未来数据统计相关的职业会越来越火爆，会越来越值钱，谁掌握的数据多，谁采集的数据实时精确，谁就会坐拥财富！所以我觉得我们以后都必须重视数据，养成数据思维，学会分析利用数据来解决我们的问题，那我们的工作效率就会更高。那么朋友们你们怎么看呢？欢迎大家留言讨论！

大家好，今天带大家了解大数据。对于外行来说，大数据名词听起来很高端、大气。却很抽象，让人无法理解。但作为编程人员、数据库管理员，大数据是需要详细了解的。这将会成为你们未来的发展方向。

首先简介一下大数据能干什么？大家都知道，我们在淘宝购物。需要注册帐号，然后选购商品、加入购物车、付款发货、货物的物流信息等等。这些信息在电脑里被称为数据。产生的数据都会存储到淘宝的服务器里。每天数以亿计的数据，被存储到淘宝服务器里。由于这些数据很庞大，所以被称为大数据。再根据基础大数据，在后台进行智能分析。就能分析出指定用户的购物喜好。某些产品的销售量等等信息。然后通过挖掘大数据的结果，向用户推送指定商品。这就是大数据时代，给你我带来的便利。

由于大数据里有海量的数据，存储和分析这些数据最主要就是要解决效率的问题。如何快速存储和分析海量的数据？目前都采用了一些什么技术？带着这些问题。我来讲一下，需要充电学习的方面。首先java语言是必须精通掌握的基础，用于大数据开发。接下来必须了解网络编程，mysql等数据库。再进一步学习，就需要了解集群技术。因为海量的数据需要采用多个数据库来进行存储和处理。即分布式存储。目前解决的方案，是采用hadoop架构。Hadoop实现一个分布式存储，具有高容错性、高吞吐量来访问应用程序的数据，适合超大数据集的应用程序。Hadoop的高吞吐，海量数据处理的能力使人们可以方便地处理海量数据。但hadoop不擅长实时计算，另一项大数据技术storm由此而生。他具有实时的数据处理能力。比如你昨天在淘宝买了一双鞋，今天你想买一顶帽子。而大数据分析的结果还是昨天的，系统不断的在向你推荐鞋子。而不去考虑你今天的需求。使用了storm技术，就会实时的分析你的需求，系统就会根据结果，向你推荐帽子。大数据的另一项技术Apache spark是一个围绕速度、易用性和复杂分析构建的大数据处理框架。用于配合hadoop和storm技术处理大数据。通过并行化地计算，加快的大数据的处理。

大数据的另一方向就是机器学习，要想得到一个高效的机器学习系统。就需要先用少量的数据去训练它。在少量的数据下机器学习系统不出错。再加大学习量，最终就能通过反复测试上线。大数据下的机器学习需要很多学习样本，在大量的学习样本下。机器可以类似于人工一样筛选，分析处理得到有用的数据，最终将结果反馈给用户。机器学习要掌握R语言、python和mahout技术。机器学习应用前景很广，不只是大数据可以使用。可能会成为未来程序员必修的课程。

　　大数据这个词已经被炒的满天飞，还有的人说它是泡沫，现在什么东西即使没用大数据技术也要加个大数据概念，要不都觉得落伍了，当然这是迎合宣传的手段，不过搞虚假宣传还是不太好的。那真正使用大数据技术的地方且比较有代表性的产品有那些：

　　·云存储：中国比较好的有百度云，国外比较好的有AWS等。正是因为有这些产品的出现，数据在云端的概念才终于变成现实了，大家都不用踹着U盘到处跑了。

　　·内容推荐：最具代表性的有今日头条，它正是运用了大数据技术来找到你喜欢的内容并且推荐给你。自从这个产品出现以后已经有很多人抛弃以前的新闻阅读方式。它让网易新闻、新浪新闻、腾讯新闻等产品上了不少火。现在大家都开始纷纷的学习它。

　　·物品推荐：电影网站、音乐网站、电商网站这些网站都会把根据你的浏览行为进行分析，根据你的兴趣推荐给你相应的物品，比如爱奇艺、QQ音乐、京东等。

　　·广告计算：应用比较好的有百度、谷歌、淘宝、腾讯，他们要根据广告主的价格和广告的效果计算广告的排序，好在流量中达到最好的变现效果，这时数据的处理速度与数据的量级直接影响了他们的收入。

　　·金融：银行正使用大数据分析用户的消费行为、购买能力以及还款能力，用来降低提供给用户的贷款风险，减少环帐率。

　　·信用：支付宝的芝麻信用加入了更多的维度，比如你的人际关系、学历、车等等元素来评估你的信用值，给信用值高的人提供更好的服务，比如信用度高住酒店就不用交押金。

　　·数据分析：这个具有代表性的产品不多，但确是大数据应用非常主要的场景，一般都是公司内部定制性的，所以一般不公开，但确实各种公司都在用，比如网站的流量分析、相关产品的用户特性分析、微博的语义分析。可以根据这些分析为自己的业务或者产品发展方向提供决策依据。

　　·智慧城市：这个现在比较有代表性的功能就是可以根据人流控制路灯的亮度，可以达到省电的效果。通过车流控制红绿灯的变化，减少道路拥堵。

　　正是有了大数据处理技术的应用才使以上这些方面有了更好的发展，如果没有大数据处理技术的出现那可能就会因为数据太多处理不过来或者根本就无法处理。那自然就会导致一些业务的发展落后或者根本无法进行的。当然未来大数据的应用场景将会越来越多，比如物联网、人工智能等等。前景十分看好。

　　如果以上这些你都不了解那我就再举个更俗的例子，就是”你一撅屁股我就知道你要拉什么屎“。这是因为你对某个人或物接触时间长了，知道了对方足够多的信息，促进了你对事物的认知，从而就能更了解这个事物并预测到它下一步动作。大数据处理技术也就是这么个过程，它的过程可以分为收集，处理，分析识别、预测这四个步骤。其实就是模拟人类对事物认知这个过程并把这个过程程序化、海量化。

　　还觉得大数据是泡沫的您还这么想吗？可别再继续无知下去了。