现在数据已经成为了一些企业的“天”。近年来，近年来越来越多的公司已经意识到数据分析可以带来的价值，并且已经跳上了大数据旅行车。实际上，现在所有的一切都在被监控和测量，创造了大量的数据流，通常比公司可以处理的速度更快。问题是，根据定义，大数据很大，因此数据收集中的小差异或错误可能导致重大问题，错误信息和不准确的推论。

对于大数据而言，以业务为中心的方式分析它的挑战是实现这一目标的唯一方法，即确保公司制定数据管理策略。

但是，有一些技术可以优化您的大数据分析，并最大限度地减少可能渗入这些大型数据集的“噪音”。以下是几个技术技巧做参考：

优化数据收集

数据收集是事件链中的第一步，最终导致业务决策。确保收集的数据与业务感兴趣的指标的相关性非常重要。

定义对公司有影响的数据类型以及分析如何为底线增加价值。从本质上讲，考虑客户行为以及这对您的业务有何针对性，然后使用这些数据进行分析。

存储和管理数据是数据分析中的重要一步。必须保持数据质量和分析效率。

把垃圾带出去

肮脏的数据是大数据分析的祸害。这包括不准确，冗余或不完整的客户信息，可能会对算法造成严重破坏并导致分析结果不佳。基于脏数据做出决策是一个有问题的场景。

清理数据至关重要，涉及丢弃无关数据并仅保留高质量，最新，完整和相关的数据。人工干预不是理想的范例，是不可持续和主观的，因此数据库本身需要清理。这种类型的数据以各种方式渗透到系统，包括时间相关的转移，例如更改客户信息或数据孤岛中的存储，这可能会破坏数据集。脏数据可能会影响营销和潜在客户生成等明显的行业，但财务和客户关系也会因基于错误信息的业务决策而受到不利影响。后果很普遍，包括盗用资源，重点和时间。

这个脏数据难题的答案是确保进入系统的数据干净的控制措施。具体而言，重复免费，完整和准确的信息。有些应用程序和公司专门研究反调试技术和清理数据，这些途径应该针对任何对大数据分析感兴趣的公司进行调查。数据卫生是营销人员的首要任务，因为不良数据质量的连锁效应可能会大大降低企业的成本。

为了在数据方面获得最大收益，必须花时间确保质量足以为决策和营销策略提供准确的业务视图。

标准化数据集

在大多数业务情况下，数据来自各种来源和各种格式。这些不一致可能转化为错误的分析结果，这可能会大大扭曲统计推断。为了避免这种可能性，必须确定数据的标准化框架或格式并严格遵守它。

数据集成

如今，大多数企业都包含不同的自治部门，因此许多企业都拥有孤立的数据存储库或“孤岛”。这很具挑战性，因为来自一个部门的客户信息的变化不会转移到另一个部门，因此他们将根据不准确的源数据做出决策。

为了解决这个问题，中央数据管理平台是必要的，集成了所有部门，从而确保了数据分析的准确性，因为任何变更都可以立即被所有部门访问。

数据隔离

即使数据干净，有组织和集成在那里，也可能是分析问题。在这种情况下，将数据分组成小组很有帮助，同时牢记分析正在努力实现的目标。这样，可以分析子组内的趋势，这可能更有意义并且具有更大的价值。在查看可能与整个数据集无关的高度特定的趋势和行为时尤其如此。

数据质量对于大数据分析至关重要。许多公司试图用分析软件直奔潜水，而不考虑进入系统的内容。导致不准确的推断和解释，这可能是昂贵的并且对公司造成损害。一个定义明确，管理良好的数据库管理平台是企业利用大数据分析不可或缺的工具

　事实上，在切入一个社会问题时，你可能会犹豫上不上数字，但这些数字往往不是结构化的，很难被调用。结构化的大数据相对缺乏有四个主要的原因：数据淹没在行政系统、数据管理标准缺乏、数据往往不可靠以及数据可能导致意想不到的后果。

　　比如说，全球每年被贩卖的人口估计高达3000万人次，这是个约320亿美元的“产业”。要打击人口贩子，大数据当然可以帮忙。但问题是人口贩子用的手机、社交媒体、在线广告和其他网络平台产生的数据，并没有被系统地收集，更遑论共享给相关的组织。当然原始数据本身的收集就很难，并且各个组织之间的数据共享做得也不到位。

更糟的是，打击人口贩卖的各家机构经常互相争夺的稀缺资源：无论资金、捐赠还是来自媒体和社会的认同。因为这种竞争，各机构之间的数据共享几乎不可能。例2007年，美国卫生和公众服务部选定Polaris作为全国首个国家贩卖人口资源热线。多年来，Polaris记录了7.5万多个呼叫；然而，获得这些数据受到限制，其可靠性和来源鲜为人知。

闭门造车的产品经理现在已经不多见了，但是习惯依靠自己感觉的产品经理还是很多。以下亚马逊的一个例子将告诉我们数据的重要性。

故事始于2003年，著名的数据科学家塞林格创办了一家咖啡机商务网站。这家网站做得相当不错，连贝索斯都开始注意到他了。于是，贝索斯代表亚马逊公司向他发出一个邀请，想请他加入公司并组建一个名为“亚马逊实验室”的数据挖掘开发与研究团队，而这个团队的工作核心就是数据挖掘。“可是，我在数据挖掘领域没有多少专业知识。”当时的塞林格还只是一个软件工程师，不是现在人们称呼的“数据科学家”，所以他选择了拒绝。

他在日后回忆说：“而且当时数据挖掘并没有引起人们的注意，也不流行。亚马逊公司大概找了我五六次，但是我都一一拒绝了，因为我认为数据挖掘很无聊。虽然我拒绝了，他们还是一直来找我。”

最后，塞林格被贝索斯的坚持打败了，加入了他并不愿意加入的亚马逊公司。对他来说，这份工作“很难受”，这是因为贝索斯所描述的其实是一个新团队、新项目。更糟糕的是，项目主管换了一批又一批，最后塞林格的团队由贝索斯直接带队，因为居然没有合适的项目主管！

这个数据挖掘团队当时的主要目标就是：分析亚马逊公司的数据，想出提高营收、增加利润的新方法。为此，塞林格开始学习算法，开始挖掘数据中的商业潜力。随后，他的团队发现，亚马逊公司其实可以靠卖广告赚钱。

塞林格对贝索斯说了这个想法，当时贝索斯觉得这个想法糟透了。贝索斯说：“这个想法相当愚蠢，我们是网络零售商，为什么要卖展示广告？”然而，作为一个优秀的管理者，贝索斯并没有阻止塞林格继续研究下去。塞林格在亚马逊的网站上进行了小范围的测试，结果证明显示广告居然是亚马逊有史以来最赚钱的项目。尽管亚马逊并没有公布广告收入，但塞林格认为当时亚马逊靠广告赚了至少10亿美元。此外，塞林格还从贝索斯那里学到：做生意要靠数据，不要靠感觉。

三年后，塞林格离开了亚马逊公司，与另一位亚马逊高管成立了今天的RichRelevance。而RichRelevance的产品与塞林格在亚马逊公司开发的产品有异曲同工之处，都是在线零售商和广告商喜欢的产品，背后的支撑显然就是塞林格以前很熟悉的数据解读。

RichRelevance拥有沃尔玛等大型超商客户，每年可以为客户带来30亿美元的营业额。如果说当年贝索斯没有让他去做数据挖掘的话，哪有今天的RichRelevance？

数据分析因互联网而起，互联网的数据分析将人为的感性判断转化为定量分析，在提升客户体验上发挥着重要的作用。尤其是互联网上的电子商务，我们无法只从获得订单的数量上来确定是否有价值。又如一家韩国的网上购物商城，有1300万名客户，网站的日访问量接近100万人次。按理说，这样的用户量应该能够促进每一次的成交。但是管理者发现，网站每次做活动促销的预期结果远远低于用户的响应，产生销售的商品比例不高，这一点让工作人员很困惑。透过这个问题，管理者很快发现了在数据解读上存在弱项。数据分析不是简单看一些加工后的数字，然后根据数字对每一项内容进行定义，而是要根据数据的结果给出解读，不管是横向还是纵向，还需要计算。

这个网站使用的方法是，通过对比每类促销活动的实际访问者分析转化率，并且详细分析渠道效率。同时，还确认每类促销活动访问者搜索使用最多的关键词、位置和采购的商品。另外，还在页面上覆盖可以测量页面中每一项的点击率和访问者数量的功能，测量页面中每个位置的价值，找出热点区域和非热点区域。通过这些数据以及许多细分数据，来分析促销活动的最大化数据体现在哪里。

也许，许多产品经理对数据从哪里来这个问题一点也不感觉奇怪，因为新产品上线的时候我们很少能看到数据。但是千万不要低估人们生产数据的能力：Google每天处理的搜索量超过30亿次，每秒回答3.4万个问题；中国移动后台系统每秒钟处理的信息数量达到亿级；每天有数以千亿封电子邮件在全球互联网上传递等。我们要关注的不是数据如何产生，而是在数据产生后我们要解读哪些数据。

通常，团队在做数据分析时，最重要的是要弄清楚我需要什么样的数据。要怎么做到数据的详细和细致呢？基本需要八个纵向的分析数据。

第一，固定的报表。比如，定期反映用户使用量、报告产品成绩等。

第二，即席查询。支持灵活的查询分析，满足报表之外的信息需求。例如，哪些用户使用了你的产品，同时还有哪些用户离开了你的产品。

第三，多维分析（OLAP）。从多个角度分析查询问题，如用户的留存率，哪些用户用什么样的方式接触到产品，产品所展示的诸多平台中哪一些是最重要的。

第四，预警功能。比如当用户的使用数对历史数据来说显然过高或者显然过低的时候，都应该出现这样的机制，以协助产品分析。

第五，统计分析。比如通过回归分析，分析产品一系列的指数。

第六，预测分析。比如预测未来一段时间内产品的用户量是否会增加，是否要增加某些方面的投入。

第七，数据挖掘建模分析。基于用户的使用细分客户群，寻找每个客户群的行为特征以及潜在需求，推送个性化的信息和服务。

第八，优化分析。这一点会比较复杂，不同的产品需要不同的数据来定义优化分析后的结果及要素。

除了数据的支持，我们如何让用户感觉到痛点是真的值得被抚平呢？

导语：很难预测未来三个月或三年内数据分析可能会发生什么，更不用说从现在开始的十年或两年。但是，让我们大胆一点，抓住未来主义，试着看看以数据为中心的创新将带给我们什么方向，以及它如何在未来几十年推动企业和其他组织。

最终，无论数量多少，我们都会再次将数据再次称为数据。虽然很明显数据集将继续增长，但我们很快就会厌倦 - 如果我们还没有 - 将这些集合称为“大”。这是因为我们将不再被数据本身的大小集中，痴迷或淹没，而是将我们的注意力转移到数据提供的机会上。换句话说，焦点应该很快开始从基础设施挑战转向ROI挑战，例如寻找数据中的价值，隐藏的秘密，最终学习如何利用洞察力来创造价值。

随着处理速度的提高和数据挑战的成熟，自动化将在阐明公司数据集中的重要内容方面发挥更大作用。自动化将为数据科学家开辟时间和空间，以便利用从数据中获取的见解，为业务解决方案甚至业务转型提供越来越有创意的建议。处理数据的速度也将允许生成更多的见解，这反过来会以更快的速度产生更多的洞察力，甚至可能是以前从未梦想过的新一波可能性。

当然，创新的速度固有地推动了创造性地解决日益增长的新挑战和问题的需求，即使在制定解决方案时也是如此。自动分析的优点是可以分析数据的速度。由于我们能够立即自动获取越来越多的见解，因此我们数据中的见解可能会带来更大的问题。那么，自动化将带来更好，更有创意的解决方案，这些解决方案将成为我们解决下一个更大问题的平台。

目前关于大数据的讨论之一是关于不受限制地收集和访问更多数据的愿望，以及由此产生的对隐私和安全的担忧。大数据爱好者和反对者都在写关于我们应该或不应该访问更多数据的方式和原因，以及将这些数据提供给政府或企业的意义。除非企业和政府能够促进信任并更广泛地展示数据共享的好处，否则这些讨论将变得越来越激烈。

现在世界上有许多连接设备，而不是人类，传感设备的增长将继续增长。在物联网将传感设备相互连接，允许实时通讯对他们的定位设备及其用户之间，发生的事情在他们身边，和我应该根据自己的环境中的预期。连接设备的用户将继续通过创新技术以及更亲密的方式与他们的朋友，亲人，同事和他们自己的数据进行交互。

物联网显然会像消费者一样影响企业。毕竟，企业是传感器扩散的主要来源，也是他们改进或创造的产品。我们已经看到传感器可以为企业做些什么的深刻增长。随着企业开发更好的使用方式，这些服务将继续增长并变得更加复杂。显而易见的是，我们只是在企业和消费者都可以通过连接设备从服务中获取的开始。

总结：将来，数据可能会变得更加自动化，从而为我们提供更多创意解决方案。然而，它究竟会带来什么，还有待观察。我们都猜测这波将根据当前和过去的趋势发展到何处。你认为它在哪里？

现在的每一个人都是被数据绑架了的，如果表达这样的观点的话，会有人反驳吗？我想应该是没有的，因为我们现在就是处在一个大数据的时代里面。我们每天使用的是我们的智能手机，智能手机里面有一个功能叫做云功能。这不是新鲜的词汇了吧，这就相当于为你自己的所有信息做了一个收集，而且你的手机的智能性会根据你每天的浏览状态和消耗状态的情况为你智能匹配出属于你的内容。

真的是实现了一句话，叫做世界上不会有两片相同的树叶。只不过是改头换面了一下，因为每个人的数据绝对是不一样的。我们的数据是有什么用的呢，要知道我们这些创造的数据那是相当有用的。就像是我们知道的很多商业的大亨，他们都是十分的看重我们的数据的，因为在他们的眼里我们的数据都是可以转化金钱的可能性，对这就是数据的强大性。

我们一般来说，我们每天接受到的推送真的接受过精密的计算的，这就要论算法的强大性。当我们的数据量被工程师接收到之后，就会通过细致的分析，最后产生一份详尽的报告。这样的报告就会反馈给我们的手机，现在的手机应该都可以自己计算了吧！总之就是属于你的手机真的是越来越像你自己，因为里面记录了太多属于你的痕迹。

所以说，为什么我们的马云、，马化腾这样的人物会踏上我们的中国首富，正是利用了数据的强大性。可以有效的分析自己的目标人群在哪里，可以知道自己的隐形的客户是谁，可以为自己的下一步的商业推广指明方向，所以APP上就会有越来越多的客户。这就是线上的一些推广策略，一定是要精准定位的，才可以有效的使用自己公司的人力。

就像马云的公司里面，招到的都是一些高精尖的人才。有一个男孩在几分钟的时间之内，迅速的攻破了阿里的防护网络，简直就是要惊掉下巴的节奏，因为我们知道的，阿里的安全维护也是做得相当好的，也是有很多人才都在做这些工作，但是这个男孩这么厉害，最后去哪了呢，不用说，当然是被马云招到自己公司了。这样一个厉害的数据人才，马云一定是不会放过的。

我们生活中所有使用的APP都有类似的功能，尤其在快递业越来越发达的今天，好像时不时就是买个快递，订个外卖，所以好像我们的信息越来越透明化了。但是，这样自己的信息被别人知道不会很危险吗？是的，是很危险的，尤其是近段时间，相信我们也听说了很多的事情，无一不是和信息的流出有关系。

所以，在这个大数据时代，我们一定要注意保护自己的信息。因为，你的信息基本上就是可以代表你这个人，当每个人都是由无数的代码组成的话，如果你不注意保护自己的信息，最后你就变成透明的了，是很可怕的。

大数据是什么？其实很简单，大数据其实就是海量资料巨量资料，这些巨量资料来源于世界各地随时产生的数据，在大数据时代，任何微小的数据都可能产生不可思议的价值。大数据有4个特点，为别为：Volume（大量）、Variety（多样）、Velocity（高速）、Value（价值），一般我们称之为4V。

所谓4V，具体指如下4点：

1．大量。大数据的特征首先就体现为“大”，从先Map3时代，一个小小的MB级别的Map3就可以满足很多人的需求，然而随着时间的推移，存储单位从过去的GB到TB，乃至现在的PB、EB级别。随着信息技术的高速发展，数据开始爆发性增长。社交网络（微博、推特、脸书）、移动网络、各种智能工具，服务工具等，都成为数据的来源。淘宝网近4亿的会员每天产生的商品交易数据约20TB；脸书约10亿的用户每天产生的日志数据超过300TB。迫切需要智能的算法、强大的数据处理平台和新的数据处理技术，来统计、分析、预测和实时处理如此大规模的数据。

2．多样。广泛的数据来源，决定了大数据形式的多样性。任何形式的数据都可以产生作用，目前应用最广泛的就是推荐系统，如淘宝，网易云音乐、今日头条等，这些平台都会通过对用户的日志数据进行分析，从而进一步推荐用户喜欢的东西。日志数据是结构化明显的数据，还有一些数据结构化不明显，例如图片、音频、视频等，这些数据因果关系弱，就需要人工对其进行标注。

3．高速。大数据的产生非常迅速，主要通过互联网传输。生活中每个人都离不开互联网，也就是说每天个人每天都在向大数据提供大量的资料。并且这些数据是需要及时处理的，因为花费大量资本去存储作用较小的历史数据是非常不划算的，对于一个平台而言，也许保存的数据只有过去几天或者一个月之内，再远的数据就要及时清理，不然代价太大。基于这种情况，大数据对处理速度有非常严格的要求，服务器中大量的资源都用于处理和计算数据，很多平台都需要做到实时分析。数据无时无刻不在产生，谁的速度更快，谁就有优势。

4.价值。这也是大数据的核心特征。现实世界所产生的数据中，有价值的数据所占比例很小。相比于传统的小数据，大数据最大的价值在于通过从大量不相关的各种类型的数据中，挖掘出对未来趋势与模式预测分析有价值的数据，并通过机器学习方法、人工智能方法或数据挖掘方法深度分析，发现新规律和新知识，并运用于农业、金融、医疗等各个领域，从而最终达到改善社会治理、提高生产效率、推进科学研究的效果。

在大数据时代，每个人都会享受到大数据所带来的便利。买东西可以足不出户；有急事出门可以不用再随缘等出租车；想了解天下事只需要动动手指。虽然大数据会产生个人隐私问题，但总的来说，大数据还是在不断的改善我们的生活，让生活更加方便

若是对大数据是什么仍然还有疑问，可以留言或者关注私信一起交流。

当今时代已经进入了移动互联网时代，也就是我们通常所说的大数据。那么大数据时代有什么特点，下面济南优就业IT培训的小编来为大家介绍一下大数据崛起的特征。欢迎大家阅读，供您参考。

1.移动互联时代，数以百亿计的机器、企业、个人随时随地都会获取和产生新的数据

即便是在“摩尔定律”——每18个月芯片性能将提高1倍——的支撑下，硬件性能进化的速度也早已赶不上数据增长的速度，并且差距越来越巨大。

1分钟之内，新浪微博发送数万条微博，苹果应用商店下载次数以万计，淘宝卖出了几万件商品，百度产生了百万次搜索查询……所有这些行为都由海量的数据来呈现。

在去年12月12日电商的促销期，淘宝网推出“时光机”——一个根据淘宝买家几年来的购买商品记录、浏览点击次数、收货地址等数据编辑制作的“个人网购志”，从而记录和勾勒出让人感怀的生活记忆。背后，是基于对4.7亿淘宝注册用户网购数据的分析处理，这正是大数据的典型应用。

随着传统互联网向移动互联发展，全球范围内，除了个人电脑、平板电脑、智能手机、游戏主机等常见的计算终端之外，更广阔的、泛在互连的智能设备，比如智能汽车、智能电视、工业设备和手持设备等都连接到网络之中。基于社会化网络的平台和应用，让数以百亿计的机器、企业、个人随时随地都会获取和产生新的数据。

互联网搜索引擎是大数据最为典型的应用之一。百度日处理数据量达到数十PB，并呈现高速增长的态势。如果一张光盘容量为1GB，这相当于垒在一起的几千万张光盘。微软Bing(在中国为必应)搜索引擎，一周需要响应100亿次量级的搜索请求。通过和Facebook的合作，每天有超过10亿次的社交网络搜索请求通过Bing来处理。

短短的18个月，中国移动互联网流量增加了10倍。中国工程院院士邬贺铨说，随着社交网络的逐渐成熟、移动带宽迅速提升，更多的传感设备、移动终端接入网络，产生的数据及其增长速度比历史上任何时期都要多，互联网上的数据流量正在迅猛增长。邬贺铨认为，在云计算、物联网等技术的带动下，中国的移动互联网已经步入“大数据”时代。

而根据市场调研公司IDC的报告，全球信息总量每过两年就会增长一倍，2011年全球产生的数据总量为1.8ZB(1ZB约为百万PB)，相比2010年增长了1ZB，相当于全球历史数据总和。

继云计算后，大数据(big data)成为信息技术领域最为热门的概念之一。

2.大数据有四个特征，最重要的是获得洞察力和价值

在IT业界，有人把大数据产业定义为：“建立在对互联网、物联网等渠道广泛大量数据资源收集基础上的数据存储、价值提炼、智能处理和分发的信息服务业”，或者如IT巨头概括大数据战略为：“致力于让所有用户能够从几乎任何数据中获得可转换为业务执行的洞察力，包括之前隐藏在非结构化数据中的洞察力”。

“总之是对大量、动态、能持续的数据，通过运用新系统、新工具、新模型的挖掘，从而获得具有洞察力和新价值的东西。”微软公司全球资深副总裁、微软亚太研发集团主席张亚勤博士接受记者采访时说。

虽然有多种解读，但业界一般认为，大数据有四个“V”字开头的特征：Volume(容量), Variety(种类), Velocity(速度)和最重要的Value(价值)。Volume是指大数据巨大的数据量与数据完整性。张亚勤说，IT业界所指的数据，诞生不过60多年。而一直到个人电脑普及前，由于存储、计算和分析工具的技术和成本限制，许多自然界和人类社会值得记录的信号，并未形成数据。几十年前，气象、地质、石油物探、出版业、媒体业和影视业是大量、持续产出信号的行业，但那时90%以上采用的是存储模拟信号，难以通过计算设备和软件进行直接分析。拥有大量资金和人才的政府和企业，也只能把少量最关键的信号，进行抽取、转换、装载到数据库中。

张亚勤认为，尽管业界对达到怎样的数量级才算是大数据并无定论，但在很多行业的应用场景里，数据集本身的大小并不是最重要的，是否完整才最重要。

Variety则意味着要在海量、种类繁多的数据间发现其内在关联。互联网时代，各种设备通过网络连成了一个整体。进入以互动为特征的Web2.0时代，个人计算机用户不仅可以通过网络获取信息，还成为了信息的制造者和传播者。这个阶段，不仅是数据量开始了爆炸式增长，数据种类也开始变得繁多。

“这必然促使我们对海量数据进行分析、处理和集成，找出原本看来毫无关系的那些数据的‘关联性’，把似乎没有用的数据变成有用的信息，以支持我们做出的判断。”张亚勤说。

Velocity可以理解为更快地满足实时性需求。数据的实时化需求正越来越清晰。对普通人而言，开车去吃饭，会先用移动终端中的地图查询餐厅的位置，预计行车路线的拥堵情况，了解停车场信息甚至是其他用户对餐厅的评论。吃饭时，会用手机拍摄食物的照片，编辑简短评论发布到微博或者微信上，还可以用LBS(基于位置的服务)应用查找在同一间餐厅吃饭的人，看有没有好友在附近……

张亚勤说，如今，通过各种有线和无线网络，人和人、人和各种机器、机器和机器之间产生无处不在的连接，这些连接不可避免地带来数据交换。而数据交换的关键是降低延迟，以近乎实时——这意味着小于250毫秒——的方式呈献给用户。

“但比前面3个‘V’更重要的，就是Value，它是大数据的最终意义——获得洞察力和价值。”张亚勤说，大数据的崛起，正是在人工智能、机器学习和数据挖掘等技术的迅速发展驱动下，呈现这么一个过程：将信号转化为数据，将数据分析为信息，将信息提炼为知识，以知识促成决策和行动。

百度相关专家认为，就大数据的价值而言，就像沙子淘金，大数据规模越大，真正有价值的数据相对越少。

“所以真正好的大数据系统，重要的不是越多越好，其实越少越好。”张亚勤说，开始数据要多，最好还是要少，把ZB、PB最终变成一个比特，也就是最后的决策。这才是最关键的。

3.云计算和大数据是一个硬币的两面,大数据正在引发全球范围内深刻的技术和商业变革

如同云计算的出现，大数据也不是一个突然而至的新概念。

“云计算和大数据是一个硬币的两面，云计算是大数据的IT基础，而大数据是云计算的一个杀手级应用。”张亚勤说。云计算是大数据成长的驱动力，而另一方面，由于数据越来越多、越来越复杂、越来越实时，这就更加需要云计算去处理，所以二者之间是相辅相成的。

30年前，存储1TB也就是约1000GB数据的成本大约是16亿美元，如今存储到云上只需不到100美元;但存储下来的数据，如果不以云计算进行挖掘和分析，就只是僵死的数据，没有太大价值。

目前，云计算已经普及并成为IT行业主流技术，其实质是在计算量越来越大、数据越来越多、越来越动态、越来越实时的需求背景下被催生出来的一种基础架构和商业模式。个人用户将文档、照片、视频、游戏存档记录上传至“云”中永久保存，企业客户根据自身需求，可以搭建自己的“私有云”，或托管、或租用“公有云”上的IT资源与服务，这些都已不是新鲜事。可以说，云是一棵挂满了大数据的苹果树。

大数据的出现，正在引发全球范围内深刻的技术与商业变革。在技术上，大数据使从数据当中提取信息的常规方式发生了变化。“在技术领域，以往更多是依靠模型的方法，现在我们可以借用规模庞大的数据，用基于统计的方法，有望使语音识别、机器翻译这些技术领域在大数据时代取得新的进展。”张亚勤说。

在搜索引擎和在线广告中发挥重要作用的机器学习，被认为是大数据发挥真正价值的领域。在海量的数据中统计分析出人的行为、习惯等方式，计算机可以更好地学习模拟人类智能。随着包括语音、视觉、手势和多点触控等在内的自然用户界面越来越普及，计算系统正在具备与人类相仿的感知能力，其看见、听懂和理解人类用户的能力不断提高。这种计算系统不断增强的感知能力，与大数据以及机器学习领域的进展相结合，已使得目前的计算系统开始能够理解人类用户的意图和语境。“这使得计算机能够真正帮助我们，甚至代表我们去工作”。

在商业模式上，张亚勤认为，对商业竞争的参与者来说，大数据意味着激动人心的业务与服务创新机会。零售连锁企业、电商业巨头都已在大数据挖掘与营销创新方面有着很多的成功案例，它们都是商业嗅觉极其敏锐、敢于投资未来的公司，也因此获得了丰厚的回报。

IT产业链分工、主导权也因为大数据产生了巨大影响。以往，移动运营商和互联网服务运营商等拥有着大量的用户行为习惯的各种数据，在IT产业链中具有举足轻重的地位。而在大数据时代，移动运营商如果不能挖掘出数据的价值，可能彻彻底底被管道化。运营商和更懂用户需求的第三方开发者互利共赢的模式，已取得一定共识。

黑发不知勤学早

白首方悔读书迟

在今天的这个社会你一定听过的时髦词语有：人工智能、大数据、互联网思维…，而本书《大数据时代》是2012年出版的，忆往昔，2012的时候小米手机1第一次正式网络售卖，那时的我刚踏入大学的校门，那时的你也绝不可能想象到几年后社会发展的如此之快，各种数据、各种共享经济席卷而来。虽然已经6年多过去了，但今天读这本书会发现，书中的思维依然值得我们学习。

另，这本书不是一本IT行业的技术书，并没有涉及到具体处理大数据的技术，而是一本开拓思维的、帮我们认识和了解大数据的指导性书籍。

本书作者是维克托·迈尔-舍恩伯格，为了说明这个作者牛X，简单贴一些他的成就：

学术成果有一百多篇论文公开发表在《科学》《自然》等著名学术期刊上，他同时也是哈佛大学出版社、麻省理工出版社、通信政策期刊、美国社会学期刊等多家出版机构的特约评论员。 世界知名企业信赖的信息权威与顾问。他的咨询客户包括微软、惠普和IBM等全球顶级企业；而他自己早在1986年与1995年就担任两家软件公司的总裁兼CEO，由他的公司开发的病毒通用程序，成为当时奥地利最畅销的软件产品。 众多机构和国家政府高层的信息政策智囊。他一直专注于信息安全与信息政策与战略的研究，是欧盟专家之一，也是世界经济论坛、马歇尔计划基金会等重要机构的咨询顾问。

此书目录的结构清晰明了，第一部分主要是讲大数据时代的思维，第二部分讲了很多大数据在商业中的具体应用案例。体现作者水平的是第三部分，作者考虑到了大数据也是有两面性的，数据不可能主宰一切，故在第三部分讨论了大数据发展中带给人们的问题以及人们的应对措施。

了解大数据之前先要明白两个概念——数字化与数据化。

数字化：把模拟数据转换为0,1表示的二进制码。

一个例子就是，电脑、手机处理的数据都是数字化的0,1数据，而现实世界的温度、压力的实际存在形式是连续变化的模拟数据。数模转换是通过传感器、数/模、模/数转换器实现两者之间的相互转化。

数据化：将现象转变为可制表分析的量化形式的过程。所谓的数据挖掘、数据分析就是对数据化后的数据处理。

其中，数字化是数据化的前提。

对我来说，此书的帮助就是拓展了新的思维方式，认识到大数据时代的3个特点：

1.不是随机样本，而是群体数据

小样本时代： 样本远小于总体

大数据时代： 样本等于总体

正因为，样本数据量的增多，才挖掘到了数据间新的关系。对这么多样本数据的采集得益于今天技术的发展，电子化驱动的世界中，手机的信息、汽车上的传感器、微博空间的消息…都可以被记录并保存下来用于分析。

2.不是精确性，而是混杂性

因为小样本时代，最基本的要求就是保持收集数据的准确性，以利于分析并得出正确结论。而大数据时代，数据量的巨大和数据格式的不统一，必然会夹杂混乱或错误的数据，但为了利用大数据的优点必然要接受错误数据的存在。

这让我想起了一句话“模糊的精确比精确的模糊更好”。大数据让我们不再期待精确性，也无法实现精确性。

3.不是因果关系，而是相关关系

两个不同的逻辑方式对数据处理的过程也不一样：

因果关系： 为什么。

相关关系： 是什么。

例子：沃尔玛是世界上最大的零售商。2004年沃尔玛分析它的商品数据发现，每当季节性飓风来临之前，不仅手电筒销售量增加了，而且蛋挞的销量也增加了。因此当季节性风暴来临时，沃尔玛会把库存的蛋挞放在靠近飓风用品的位置，方便顾客购买。

上面这个例子说明，对于大数据分析得到的结论，我们往往暂时发现不了或者找不到数据间的因果关系。但大数据的现实结论又摆在眼前，所以在大数据的时代，除了我们潜意识里常用的因果关系外，我们要重视相关关系这一逻辑。

大数据的核心是什么？——预测。

我们处理大数据就是为了预测，预测城市里哪条道路现在不堵车、预测汽车零件是否该维修替换了、预测人们网上购物的个性化需求以推荐合适的商品…

虽然大数据的预测通常被视为人工智能的一部分，或一种机器学习，但这种定义有误导性。我们是通过用大量过往数据蕴藏的关系来对未来同类型事情进行预测，并不是教机器像人一样思考，更不是指望大数据像“神”一样预测未来的一切。所以，大数据的预测是一定条件下、有限的预测。

大数据的更好的发展需要三个方面的提升：思维、技术、数据。

数据本身并无价值，只有使用才会体现其价值。对于三者的关系，我认为技术是外在的实现手段，而数据是所有的基础。但在早期阶段，技术和思维是最有提高价值的，也是我们现在可以抓住的机会。

大数据发展的弊端：

1.隐私问题

2.预测判断以及惩罚人类的潜在行为，与伦理相悖

隐私问题随着商业公司和我们对数据的重视必然会有一定冲突。但这个问题远不如第二个问题严重。试想一下，大数据通过收集你以往做的事和说过的话，判断出80%的概率你将会有违法行为，故警察到家里把你逮捕。这是多么可怕！大数据预测和惩罚人们，并不是因为“所作的事情”，而是因为“将要做的事情”，而将要做的事情是机器判断出来的，我们并没有发生的行为。

对于这一个问题，我们必然要思考人与数据的关系。我的思考是，人是高度复杂的，数据是由人产生的，我们可以借助大数据的力量优化我们的社会，提高我们的工作生活效率，但应避免对数据的过度依赖，成为数据的“奴隶”。数据没有思维能力，更没有创新能力，数据造不出改变世界苹果，而人可以。

人的未来必须保留部分空间，否则大数据会扭曲人类最本质的东西——理性思维和自由选择。书中的一句话很好“人类最伟大之处正是算法和硅片没有揭示也无法揭示的东西，因为数据无法捕捉到这些”。

最后问你一个问题，你认为“日久见人心”是一种大数据思维吗？

END

诗词赏析 | 读书感悟 |

—不悔书堂—

什么是大数据？

大数据是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。大数据技术，是指从各种各样类型的数据中，快速获得有价值信息的能力。适用于大数据的技术，包括大规模并行处理（MPP）数据库，数据挖掘电网，分布式文件系统，分布式数据库，云计算平台，互联网，和可扩展的存储系统。

大数据有何作用？

第一，对大数据的处理分析正成为新一代信息技术融合应用的结点。移动互联网、物联网、社交网络、数字家庭、电子商务等是新一代信息技术的应用形态，这些应用不断产生大数据。云计算为这些海量、多样化的大数据提供存储和运算平台。通过对不同来源数据的管理、处理、分析与优化，将结果反馈到上述应用中，将创造出巨大的经济和社会价值。大数据具有催生社会变革的能量。但释放这种能量，需要严谨的数据治理、富有洞见的数据分析和激发管理创新的环境(Ramayya Krishnan,卡内基·梅隆大学海因兹学院院长)。

第二，大数据是信息产业持续高速增长的新引擎。面向大数据市场的新技术、新产品、新服务、新业态会不断涌现。在硬件与集成设备领域，大数据将对芯片、存储产业产生重要影响，还将催生一体化数据存储处理服务器、内存计算等市场。在软件与服务领域，大数据将引发数据快速处理分析、数据挖掘技术和软件产品的发展。

第三，大数据利用将成为提高核心竞争力的关键因素。各行各业的决策正在从“业务驱动” 转变“数据驱动”。对大数据的分析可以使零售商实时掌握市场动态并迅速做出应对；可以为商家制定更加精准有效的营销策略提供决策支持；可以帮助企业为消费者提供更加及时和个性化的服务；在医疗领域，可提高诊断准确性和药物有效性；在公共事业领域，大数据也开始发挥促进经济发展、维护社会稳定等方面的重要作用。

第四，大数据时代科学研究的方法手段将发生重大改变。例如，抽样调查是社会科学的基本研究方法。在大数据时代，可通过实时监测、跟踪研究对象在互联网上产生的海量行为数据，进行挖掘分析，揭示出规律性的东西，提出研究结论和对策。

了解了大数据的概念和作用，我们先来看一下商业巨头们如何利用大数据吧。

一、谷歌公司（google Inc）

第一个 ：ReCAPTCHA案例。

这个虽然是被谷歌收购的，但是，具有典型的谷歌思维。为了解决垃圾邮件和网络机器人的问题，冯.安发明了验证码的解决方案。如果只限于此，也就没有特别可以称道的，但是他意识到每天有这么多人要浪费10秒钟的时间输入这堆恼人的字母，而随后大量的信息被随意地丢弃时，他开始寻找能使人的计算能力得到更有效利用的方法。 他想到了一个继任者，恰如其分地将其命名为ReCaptcha。和原有随机字母输入不同，人们需要从计算机光学字符识别程序无法识别的文本扫描项目中读出两个单词并输入。其中一个单词其他用户也识别过，从而可以从该用户的输入中判断注册者是人;另一个单词则是有待辨识和解疑的新词。为了保证准确度，系统会将同一个模糊单词发给五个不同的人，直到他们都输入正确后才确定这个单词是对的。在这里，数据的主要用途是证明用户是人，但它也有第二个目的：破译数字化文本中不清楚的单词。ReCaptcha的作用得到了认可，2009年谷歌收购了冯·安的公司，并将这一技术用于图书扫描项目，再后来，谷歌街景也开始使用这项技术。把验证码和OCR需求巧妙结合起来，这展示了思维的威力，实现了ReCaptcha技术提供者和使用者的双赢，技术提供者利用OCR识别获得了自己的受益，使用者不需要任何付费(互联网免费思维)，也愿意使用，对于用户其实也没有影响，没有增加额外的工作。上研究生的时候，就研究OCR汉字识别问题，识别率始终是个问题，对于手写就更低了，要花费大量人力来解决，并且，人工识别工作是非常无聊，没有办法来保障质量。再想起12306的验证码，更令人无语了。我们浪费了多少资源?我们有多少资源可用充分来利用?

第二个：拼写检查纠错的案例。

我们都经常使用微软的Word，其中就有拼写检查纠错功能，微软实现这个功能，采用的是传统的软件思维，也就是利用规则和词库来解决，这个需要不断耗费人力进行规则和词库的升级，对于不同的语言，耗费更是巨大。谷歌解决这个方法，用的相对巧妙，在搜索的时候，当你输入一个错误的词时，会给一个提示，要找的是不是建议的词，如果用户确认后，谷歌就进行记录处理，后面，再经过一些算法处理，经过大量的数据学习，各个拼写检查纠错就越来越好，并且，这个后续维护成本很低， 效果越来越好。其实，谷歌翻译也使用了类似的思路，虽然前期算法，包括大数据处理花费了比较多，后续，基本实现了自动化，系统会越来越强，维护升级成本很低，项目就变成可持续发展。

第三个：对流感的预测

2009年，一种新型的流感病毒h1n1在全球迅速传播开来。美国，和世界上所有的国家一样，要求医生们发现案例市告知疾病控制与预防中心。但是，人们并不是在第一时间去医院检查，而是会有一段时间的延迟，消息要传达到疾控中心也要时间，从而造成一定的滞后性。

在该病毒爆发的几周前，谷歌公司的工程师们在《自然》杂志上发表了一篇论文。文中解释了谷歌为什么能够预测冬季流感的传播：不仅是全美范围内，而且具体到特定的地区和州。

谷歌如何做到的呢？数据。

谷歌通过观察人们在网上的搜索记录来完成这个预测，谷歌保存了多年来所有的搜索记录，每天都会超过30亿条的搜索指令。如此庞大的数据资源才能支撑谷歌完成这项工作。

二、facebook。

Facebook（脸书）是美国的一个社交网络服务网站 ，创立于2004年2月4日，总部位于美国加利福尼亚州帕拉阿图，2012年3月6日发布Windows版桌面聊天软件Facebook Messenger ，主要创始人马克·扎克伯格。它是世界排名领先的照片分享站点，截至2013年11月每天上传约3.5亿张照片、截至2012年5月，拥有约9亿用户。Facebook的总部设在硅谷的门洛帕克（Menlo Park）——1 Hacker Way 从2006年9月11日起，任何用户输入有效电子邮件地址和自己的年龄段，即可加入。在2015年8月28日，单日用户数突破10亿。

fancebook，拥有这庞大数据，同时它也不会浪费这些数据。Facebook通过用户社交网络图得知人们的喜好、

说完了，我们转过头看一下我们国内。

大数据现今在国内也是蓬勃发展，让我让数据说话！

大数据企业发展态势

态势一：2017年，我国大数据企业依旧整体呈现“金字塔”状的实力分布，从金字塔上层来看，我国大数据企业发展指数高于50的企业数量占比仅为7.4%，与去年相比，中高区间的龙头企业发展指数均有不同程度的提升，体现出“强者恒强”的发展势头。2017年，随着新晋企业数量增多、初创企业发展活力不断提升，金字塔根基更趋稳固；专精特新的独角兽企业发展势头迅猛，成为我国大数据企业发展的中坚力量。

态势二：2017年，我国大数据企业基础画像指数呈现较为明显的三重集团趋势，可以分为领军企业（数量占比9.23%，指数跨度从62.50到10.46）、中坚企业（数量占比29.49%，指数跨度从9.89到1.00）、上升企业（数量占比为50.16%，指数跨度从0.98到0.001）三类企业。从构成占比上看，2017年，我国大数据领军企业占比基本维持不变，而中坚企业占比显著增加，上升企业比例对比2016年有较为明显的减少。

态势三：2017年，我国大数据企业技术研发指数呈现“龙头领先、中小微主体跟进”总体趋势，技术研发指数超过10的龙头企业数量占比为9.85%，低于10的企业占比达到90.15%。大数据企业技术研发指数平均值为4.06，同比2016增长了3.18%，其中，以华为、中兴等通信企业和BAT等互联网企业为代表的TOP20龙头企业的技术研发指数同比2016年增长了5.73%。

态势四：2017年，我国大数据企业市场拓展指数呈现出“龙头带动、全面壮大”的分布格局，我国大数据企业市场拓展指数小于30的企业数量占到92.88%，指数超过30的大数据企业占比为7.12%。与2016年相比，龙头企业依旧强势引领大数据市场，中间企业及长尾企业亦积极拓展市场版图，行业整体呈稳步发展态势。

态势五：2017年，大数据企业尤其是骨干企业发展集聚态势进一步强化，绝大多数企业集聚在北京、天津、山东、江苏、浙江、上海、广东、福建等东部沿海信息技术产业基础较好的省市。与2016年相比，东北、中西部等重点城市，以及乌鲁木齐、呼和浩特等地的大数据企业集聚化趋势日益明显。

态势六：2017年，我国产业环节大数据企业聚焦数据采集、数据存储、数据预处理、数据分析、数据可视化、数据流通，跨度从19.48到6.87，发展指数相对比较均衡，数据分析环节企业发展指数水平相对突出，发展指数达到19.48，数据大数据分析挖掘环节必将涌现出更多的独角兽企业。与2016年相比，大数据分析环节指数增长3.8，其他环节指数均有不同程度下降。

态势七：2017年，我国重点行业大数据产业企业聚焦政务、工业、健康医疗、交通、农业、金融、教育、能源等17个行业领域，企业平均发展指数为23.36，最高的安防大数据企业发展指数达到35.71，最低的能源大数据企业发展指数为16.89。与2016年相比，主要行业大数据企业平均发展指数同比增加了0.25，大多数行业发展指数都稳中有进，除安防领域初步定型，同比2016年降低了4.01，其他重点行业领域指数均有不同程度上升。

态势八：2017年，我国特色细分领域大数据企业主要分为三大阵营，与2016年相比，三大阵容的特色细分领域发生了明显变化。一是从事人工智能相关的龙头企业处于第一阵营，平均发展指数维持在21左右；二是从事工控安全、数据库、区块链、征信分析、商业智能BI、数据中心IDC、数据营销、基因测序等10类细分领域大数据相关业务的龙头企业处于第二阵营，平均发展指数处于13.97到17.78之间；三是以虚拟现实、开源技术和车联网为代表的第三阵营，整体发展指数相对略低，处于12左右。

进过调研分析，我们可以作出预判

2018年我国大数据产业发展的主要趋势有：

1、产业将持续保持快速增长态势。预计2018年我国大数据核心产业规模将突破5700亿元。

2、融合渗透效应向更深层次延伸。延伸方向既包括经济运行、社会生活等应用领域，也包括物联网、人工智能等关联技术。

3、制造业数字转型作用日益凸显。以大数据驱动制造业数字化转型的新模式、新业态将不断涌现。

4、技术创新仍是产业发展主基调。大数据领域核心关键技术将加速突破，跨学科、跨领域交叉融合技术研究将成为发展重点。

5、产业集聚特色化发展态势逐步显现。国家大数据综合试验区建设的不断深入，一批省级大数据产业集聚区将进一步优化资源配置、形成集聚效应、发挥辐射带动作用。

6、产业生态体系迈入成熟完善阶段。大数据相关政策将加快落地实施，更多创新性政策将加快出台，大数据产业发展环境将进一步优化。

区域大数据产业发展态势：

态势一：2017年，国家大数据综合试验区依然引领产业发展，其所在区域的大数据产业发展总指数在全国大数据产业发展总指数的占比达37.54%。试验区内各省市指数较去年增幅均值为6.23，高于全国增幅均值的5.78，大数据产业发展速度高于全国平均水平。

态势二：2017年，大数据产业集聚发展效应进一步凸显，长三角地区、珠三角地区、中西部地区和东北地区大数据产业集聚发展格局基本形成。

态势三：2017年，北京、江苏、广东、浙江、上海等五省市成为大数据产业发展第一梯队，其大数据发展总指数在全国大数据发展总指数的占比高达26.52%，领先的优势地位明显。浙江省大数据产业发展指数较去年增长12.71，成为全国大数据产业发展指数增幅最高城市。

态势四：2017年，我国东部、西部、中部、东北四个分区产业发展差异化明显。东部地区整体发展水平最高，大数据产业发展指数增幅均值为7.39，远超全国平均水平5.78，天津、河北、海南排名上升；西部地区未来仍有巨大发展空间，重庆大数据产业发展指数较去年增长10.12，增幅仅次于浙江省位列全国第二，宁夏、内蒙古二地成后起之秀；中部地区整体发展速度高于西部和东北，山西发力大数据产业，排名明显提升。东北地区辽宁继续蝉联区域榜首，辐射带动作用逐步凸显。

态势五：2017年，各省市大数据产业发展环境均呈现向好态势，各省市的发展环境平均指数为10.9，较去年提高32.9%，18个省市的发展环境指数高于平均值，占比达到58%，而发展环境指数在去年平均值以上的省市高达30个；同时，江苏、重庆、安徽等地由于组织机制进一步完善、区域信息化水平加速提升等因素影响，较去年排名增速明显。

态势六：2017年，全国各省市大数据产业发展水平均有提升，大数据产业发展总指数为363.9，较去年提升16.8%；

但受数据集聚开放水平、大数据产业规模、大数据企业主体等多种因素共同影响，各省...

数据的英文是“data”,其实这是复数形式的“数据”，它的单数形式是“datum”——英文解释是“a fact or piece of information”,即一个事实或一条信息。所以，Data的字面意思是很多事实或信息的混合体。

数据是什么？

我们平时看到的数字和字符、字母，都有可能是数据。

例如：下图的6个0，或是4个1和2个a，请问它是数据吗？

假设给上面图中的例子设个特殊的前置场景。假设第一组的6个0其实是时、分、秒的简写，“000000”表示00点00分00秒，“112349”则表示11点23分49秒，那么它是不是数据呢？假设第二组的出现的4个1和2个a其实是一组密码，“1111”代表一个约定地点，“aa”代表一个约定事件，这组数字和字母的意义就有了相应的解读，那么它是不是数据呢？

符号如果想被认定为数据，就必须承载一定的信息。信息很可能因场景而定，因解读者的认知而定，所以，符号是否能作为数据使用，解读者的主观视角具有决定性的作用。解读者是否能够正确解读信息，将直接导致相应的符号是否能够被认定为数据。

数据无处不在。在网络上、在报纸上、书籍上。在家用电脑的磁盘上，在我们的脑海里，数据大量且广泛的存在。围绕数据，人类已经做了很多数据科学的研究和应用工作，其中最为基础的就是数据的存储、传输。数据的价值在于数据上承载的信息，信息的价值在于消除不确定性的成本及其直接和间接的作用，而这一系列的价值使得我们对数据的价值予以空前的重视。