中企动力 > 商学院 > 大数据和云计算的区别
  • ?

    大数据和云计算之间那点儿非同一般的关系

    汤曼冬

    展开

      【IT168 资讯】大数据是一个通用术语,用来指当前业务领域中存在的各种数据。从医疗机构的数字数据和记录到政府机构的大量文件,人们把这些文件存档供将来参考,技术为我们提供了一个面向服务的架构来分析这些信息。大数据是永远不可能被归档到在个描述或定义下。关于信息技术的神器之处在于,它始终在不断发展,并且可供愿意接受信息技术的公司使用。另一方面,云计算的发展使得商业企业更容易获得可负担得起的软件包。云计算的使用大大降低了存储公司信息的成本,这也带来了小型企业可以利用的多个应用程序。

      自互联网诞生以来,随着云计算的不断发展,互联网上广泛的信息爆炸式增长。标准用户和数字营销人员现在可以每天使用社交媒体营销平台来生成大量关于消费者的信息。有时,对于机构和企业来说,管理每天生成和存储的数据量就是一项相当艰巨的任务。例如,每天创建2.5万亿字节的数据,这可能会给云计算带来存储和排序挑战。

      这正是大数据用来管理海量数据如何通过云计算存储的地方。总而言之,这两种技术形式提供的解决方案既适应业务分析、也适用于大数据。在这篇文章中,将重点介绍如何使用大数据和云计算来管理政府机构和商业机构日常生成的大量数据。

      可购性

      对于那些预算计划比较紧张,但又需要更新技术的企业或机构来说,云技术可能是解决燃眉之需的一大利器。用于管理大数据的成本资源,即使是小公司,也在预算之内,而且在市场上也很容易找到合适的产品。在云计算出现之前,商业机构和政府机构花费大笔资金建立信息技术部门来管理数据,甚至花更多的时间来更新这些IT系统。今天,由于技术的进步,企业可以把他们的大数据托管在异地的服务器上,或者按需支付。

      敏捷性

      传统的数据存储和管理方法正变得越来越难以管理,因为数据存储和管理非常慢,需要公司花费大量时间从中检索信息。有时,安装和运行服务器可能需要几周甚至几个月的时间。云计算的出现有可能为企业或机构提供所需的全部存储需求。一个基于云计算的公司数据库可以在几分钟内完成安装,并将数据存储在数千个虚拟服务器中,在这些服务器中,只有一台计算机或移动设备和互联网连接的人可以很轻松访问它。

      数据处理

      海量数据的爆炸式增长带来了管理数据的挑战。例如,社交媒体会产生大量的数据,这对于在推文、帖子、博客或照片等类别中进行处理来说是具有挑战性的。对于大数据,有一些分析平台,比如Apache Hadoop,可以在将非结构化数据存储到云中之前处理这些数据。

  • ?

    解读大数据、云计算和人工智能三者间的关系

    肯尼

    展开

    大数据产业正在用一个超乎我们想象的速度蓬勃发展,在上个月贵阳的数博会上,让全世界感受到了大数据的巨大魅力。借助大数据的风口,云计算和人工智能也同时走进我们的视野,他们三者之间有着不可分割相互影响的关联。

    大数据的概念

    大数据,或称巨量资料,指的是需要新处理模式才能具有更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产。简言之,从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。

    大数据时代已经来临,它将在众多领域掀起变革的巨浪。但我们要冷静的看到,大数据的核心在于为客户挖掘数据中蕴藏的价值,而不是软硬件的堆砌。因此,针对不同领域的大数据应用模式、商业模式研究将是大数据产业健康发展的关键。我们相信,在国家的统筹规划与支持下,通过各地方政府因地制宜制定大数据产业发展策略,通过国内外IT龙头企业以及众多创新企业的积极参与,大数据产业未来发展前景十分广阔。进充分利用大数据的价值。

    云计算的概念

    云计算是基于互联网的相关服务的增加、使用和交付模式,这种模式提供可用的、便捷的、按需的网络访问, 进入可配置的计算资源共享池(资源包括网络,服务器,存储,应用软件,服务),这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网,后来也用来表示互联网和底层基础设施的抽象。因此,云计算甚至可以让你体验每秒10万亿次的运算能力,拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据中心,按自己的需求进行运算。

    人工智能的概念

    人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,主要包括计算机实现智能的原理、制造类似于人脑智能的计算机,使计算机能实现更高层次的应用。人工智能将涉及到计算机科学、心理学、哲学和语言学等学科。可以说几乎是自然科学和社会科学的所有学科,其范围已远远超出了计算机科学的范畴,人工智能与思维科学的关系是实践和理论的关系,人工智能是处于思维科学的技术应用层次,是它的一个应用分支。从思维观点看,人工智能不仅限于逻辑思维,要考虑形象思维、灵感思维才能促进人工智能的突破性的发展,数学常被认为是多种学科的基础科学,数学也进入语言、思维领域,人工智能学科也必须借用数学工具,数学不仅在标准逻辑、模糊数学等范围发挥作用,数学进入人工智能学科,它们将互相促进而更快地发展。

    大数据、云计算、人工智能三者间的关系

    物联网是互联网的应用拓展,与其说物联网是网络,不如说物联网是业务和应用。因此,应用创新是物联网发展的核心,以用户体验为核心的创新是物联网发展的灵魂。

    云计算相当于人的大脑,是物联网的神经中枢。云计算是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。

    大数据相当于人的大脑从小学到大学记忆和存储的海量知识,这些知识只有通过消化,吸收、再造才能创造出更大的价值。

    人工智能打个比喻为一个人吸收了人类大量的知识(数据),不断的深度学习、进化成为一方高人。人工智能离不开大数据,更是基于云计算平台完成深度学习进化。

    简单总结:通过物联网产生、收集海量的数据存储于云平台,再通过大数据分析,甚至更高形式的人工智能为人类的生产活动,生活所需提供更好的服务。这必将是第四次工业革命进化的方向。

    云计算与大数据

    从技术上看,大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理,必须采用分布式计算架构。它的特色在于对海量数据的挖掘,但它必须依托云计算的分布式处理、分布式数据库、云存储和虚拟化技术。

    人工智能与大数据

    如果我们把人工智能看成一个嗷嗷待哺拥有无限潜力的婴儿,某一领域专业的海量的深度的数据就是喂养这个天才的奶粉。奶粉的数量决定了婴儿是否能长大,而奶粉的质量则决定了婴儿后续的智力发育水平。

    与以前的众多数据分析技术相比,人工智能技术立足于神经网络,同时发展出多层神经网络,从而可以进行深度机器学习。与以外传统的算法相比,这一算法并无多余的假设前提(比如线性建模需要假设数据之间的线性关系),而是完全利用输入的数据自行模拟和构建相应的模型结构。这一算法特点决定了它是更为灵活的、且可以根据不同的训练数据而拥有自优化的能力。

    但这一显著的优点带来的便是显著增加的运算量。在计算机运算能力取得突破以前,这样的算法几乎没有实际应用的价值。大概十几年前,我们尝试用神经网络运算一组并不海量的数据,整整等待三天都不一定会有结果。但今天的情况却大大不同了。高速并行运算、海量数据、更优化的算法共同促成了人工智能发展的突破。这一突破,如果我们在三十年以后回头来看,将会是不弱于互联网对人类产生深远影响的另一项技术,它所释放的力量将再次彻底改变我们的生活。

    人工智能与云计算

    人工智能是程序算法和大数据结合的产物。而云计算是程序的算法部分,物联网是收集大数据的根系的一部分。可以简单的认为:人工智能=云计算+大数据(一部分来自物联网)。随着物联网在生活中的铺开,它将成为大数据最大,最精准的来源。

    现在已进入大数据、云计算、人工智能时代,我们必须弄清楚他们的本质,抓住机遇,跟上趋势,创新发展,才能高科技的发展大潮中立于不败之地。

  • ?

    什么是大数据?它与云计算有什么关系?

    Fawley

    展开

    什么是大数据?

    分析是一种使用哪些数据模式可以被理解和性能量化来做出决策的方法。为了实现这种编程,使用了统计和研究。最终目标是帮助做出更多基于数据而不是直觉的决策。这是因为基于证据或数据的决策被认为更可靠。

    大数据与传统上称为分析的内容分开的主要区别是什么?差异在于现在可以轻松获取的数据量,数据与各种数据点一起整理的速率。

    1.数据量 - 每40个月创建的数据量翻倍。目前的数据创建速率在每天2.5艾字节的范围内。换句话说,二十年前互联网上可用的数据量在今天的任何特定时间都在互联网上传播。这些数据发布于2013年哈佛商业评论出版物。

    2.数据速度 - 收集的数据量不如今天收集数据的速度重要。只要公司能够实时处理大量数据,公司就具有竞争力。其中一个最大的例子是麻省理工学院媒体实验室使用基于位置的数据收集来查找黑色星期五在梅西停车场的购物者数量。唯一的目的是甚至在销售结束之前估算销售额。这种数据让分析师占上风。

    3.数据多样性 - 据我们所知,大数据来自各种来源,但其中最突出的数据包括来自手机的GPS信号,以及社交网络平台上发布的消息,图像和更新。大多数这些大数据来源都是新的。 Facebook和Twitter等社交网络分别于2004年和2006年开始,而iPhone仅在2007年发布。因此,今天新开发的数据库非常不适合存储大数据。然而,诸如带宽,存储器,处理和存储的计算元件逐渐变得更便宜。

    什么是云计算?

    云计算是一种利用大规模低成本运算单元通过IP网络相连而组成的运算系统,以提供各种运算服务。

    云计算将为处理大型复杂并行数据集的即将到来的复杂性提供答案。这是因为云计算具有处理需要大量计算能力的大数据所需的灵活性和灵活性。云计算也是处理结构化和非结构化数据的最佳平台。

    云计算发源于搜索引擎平台,互联网企业在创业阶段出于追求低成本高效能的考虑开发出一种计算技术,目前已成为提供各种互联网服务的重要平台。

    大数据Hadoop与云计算openStack一起不仅仅是当今时代的要求,而是一种必需品。

  • ?

    云计算、大数据和物联网代表了未来,三者之间有哪些区别和联系?

    凡梦

    展开

    云计算、大数据和物联网代表了IT领域最新的技术发展趋势,三者既有区别又有联系。云计算最初主要包括了两类含义:一类是以谷歌的GFS和MapReduce为代表的大规模分布式并行计算技术;另一类是以亚马逊的虚拟机和对象存储为代表的“按需租用”的商业模式。

    随着大数据概念的提出,云计算中的分布式计算技术开始更多地被列入大数据技术,而人们提到云计算时,更多指的是底层基础IT资源的整合优化以及以服务的方式提供IT资源的商业模(如Iaas、PaaS、SaaS)。

    从云计算和大数据概念的诞生到现在,二者之间的关系非常微妙,既密不可分,又千差万别。因此,我们不能把云计算和大数据割裂开来作为截然不同的两类技术来看待。此外,物联网也是和云计算、大数据相伴相生的技术。

    云计算、大数据和物联网三者已经彼此渗透、相互融合,在很多应用场合都可以同时看到三者的身影,在未来,三者会继续相互促进、相互影响,更好地服务于社会生产和生活的各个领域。

    下面总结一下三者的联系与区别:

    1、大数据、云计算和物联网的区别

    大数据侧重于海量数据的存储、处理与分析,从海量数据中发现价值,服务于生产和生活;云计算本质上旨在整合和优化各种IT资源,并通过网络以服务的方式廉价提供给用户;物联网的发展目标是实现物物相连,应用创新是物联网发展的核心。

    2. 大数据、云计算和物联网的联系

    从整体上看,大数据、云计算和物联网这三者是相辅相成的。大数据根植于云计算,大数据分析的很多技术都来自于云计算,云计算的分布式和数据存储和管理系统(包括分布式文件系统和分布式数据库系统)提供了海量数据的存储和管理能力,分布式并行处理框架MapReduce提供了海量数据分析能力,没有这些云计算技术作为支撑,大数据分析就无从谈起。反之,大数据为云计算提供了“用武之地”,没有大数据这个“练兵场”,云计算技术再先进,也不能发挥它的应用价值。

    物联网的传感器源源不断产生的大量数据,构成了大数据的重要来源,没有物联网的飞速发展,就不会带来数据产生方式的变革,即由人工产生阶段向自动产生阶段,大数据时代也不会这么快就到来。同时,物联网需要借助于云计算和大数据技术、实现物联网大数据的存储、分析和处理。

    云计算、大数据和物联网,三者会继续相互促进、相互影响,更好地服务于社会生产和生活的各个领域。

    无论是企业还是个人,要想不被时代淘汰,唯有创新和永不停歇地前进!淘汰我们的,从来不是我们的竞争对手,而是我们自己未及时更新的观念!时代机遇永远属于擅于把握趋势并且敢于行动的人!

    相关文章点击:

    解密云计算,大数据,物联网(视频看完就明白了)

    物联网,区块链、大数据,财富价值与发展前景!!!

    刚刚,国家传来大消息!一场大风暴就要来了!无人幸免!

    你选对原始股了吗?物联网造就时代的企业!

    国家物联网平台,你是不是也在找

    我国搭建全国性物联网公共平台

  • ?

    云计算和大数据有什么区别呢?

    邱文博

    展开

    云计算和大数据有什么区别呢?关于大数据和云计算的关系人们通常会有误解。而且也会把它们混起来说,分别做一句话直白解释就是:云计算就是硬件资源的虚拟化;大数据就是海量数据的高效处理。

    大数据技术是指从各种各样类型的数据中,快速获得有价值信息的能力。适用于大数据的技术,包括大规模并行处理(MPP)数据库,数据挖掘电网,分布式文件系统,分布式数据库,云计算平台,互联网,和可扩展的存储系统。

    云计算是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网,后来也用来表示互联网和底层基础设施的抽象。

    云计算相当于我们的计算机和操作系统,将大量的硬件资源虚拟化之后再进行分配使用,在云计算领域目前的老大应该算是Amazon,可以说为云计算提供了商业化的标准,另外值得关注的还有VMware(其实从这一点可以帮助你理解云计算和虚拟化的关系),开源的云平台较有活力的就是Openstack了。

    大数据相当于海量数据的“数据库”,而且通观大数据领域的发展也能看出,当前的大数据处理一直在向着近似于传统数据库体验的方向发展,Hadoop的产生使我们能够用普通机器建立稳定的处理TB级数据的集群,把传统而昂贵的并行计算等概念一下就拉到了我们的面前,但是其不适合数据分析人员使用(因为MapReduce开发复杂),所以PigLatin和Hive出现了(分别是Yahoo!和facebook发起的项目,说到这补充一下,在大数据领域Google、facebook、twitter等前沿的互联网公司作出了很积极和强大的贡献),为我们带来了类SQL的操作,到这里操作方式像SQL了,但是处理效率很慢,绝对和传统的数据库的处理效率有天壤之别,所以人们又在想怎样在大数据处理上不只是操作方式类SQL,而处理速度也能“类SQL”,Google为我们带来了Dremel/PowerDrill等技术,Cloudera(Hadoop商业化较强的公司,Hadoop之父cutting就在这里负责技术领导)的Impala也出现了。

  • ?

    [ IT行业观察 ]数据中心,云计算,大数据之间有什么区别和联系?

    郦绮玉

    展开

    图片来自网络

    人把数据中心、云计算数据中心、大数据搞混淆,觉得这三者是一样的产品,其实有显著地区别,数据中心机房是一整套复杂的设施,如今,云计算即将成为信息社会的公共资源,而数据中心则是支撑云计算服务的基础设施,所以自从云计算横空出世,一切信息技术都开始围着它转,云计算有如神一样地存在着,下面看看数据中心、云计算、大数据之间有什么区别和联系?

    数据中心:数据中心(Data Center)是全球协作的特定设备网络,用来在internet网络基础设施上传递、加速、展示、计算、存储数据信息,数据中心大部分电子元件都是由低压直流电源驱动运行的。数据中心面临的物理问题是服务器本身和用来连接这些服务器到其他应用环境的电缆。

    云计算:云计算(英语:CloudComputing),是一种基于互联网的计算方式,通过这种方式,共享的软硬件资源和信息可以按需提供给计算机和其他设备。典型的云计算提供商往往提供通用的网络业务应用,可以通过浏览器等软件或者其他Web服务来访问,而软件和数据都存储在服务器上。云计算服务通常提供通用的通过浏览器访问的在线商业应用,软件和数据可存储在数据中心。

    狭义云计算指IT基础设施的交付和使用模式,指通过网络以按需、易扩展的方式获得所需资源;

    广义云计算指服务的交付和使用模式,指通过网络以按需、易扩展的方式获得所需服务。这种服务可以是IT和软件、互联网相关,也可是其他服务,它意味着计算能力也可作为一种商品通过互联网进行流通。对云计算的定义有多种说法,“云计算是通过网络提供可伸缩的廉价的分布式计算能力”。

    大数据:大数据(Big Data)又称为巨量资料,指需要新处理模式才能具有更强的决策力、洞察力和流程优化能力的海量、高增长率和多样化的信息资产,“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。

    移动互联网的大数据主要来自四个方面:

    (1)内容数据:Web2.0时代以后,每个人都成为了媒体,都在网络上生产内容,包括文字、图片、视频等等。

    (2)电商数据:随着电子商务的发展,线上交易量已经占据整个零售业交易的大部分。每一笔交易都包含了买家、卖家以及商品背后的整条价值链条的信息。

    (3)社交数据:随着移动社交成为最主要的社交方式,社交不仅仅只有人与人之间的交流作用,社交数据中包括了人的喜好、生活轨迹、消费能力、价值取向等各种重要的用户画像信息。

    (4)物联网数据:各行各业都出现了物联网的需求和解决方案,每时每刻都在产生巨量的监测数据。那么如此之多的数据,包含着很多有价值的信息,这些信息并不是以直观的形式呈现出来的,需要有办法对这些数据进行处理,无论是计算、存储还是通信,都提出了很高的要求,云计算的相关技术就是对巨量数据的计算、存储和通信的解决方案。

    数据中心、云计算、大数据之间的区别与联系

    (1)大数据和云计算的概念区别:大数据说的是一种移动互联网和物联网背景下的应用场景,各种应用产生的巨量数据,需要处理和分析,挖掘有价值的信息;云计算说的是一种技术解决方案,就是利用这种技术可以解决计算、存储、数据库等一系列IT基础设施的按需构建的需求,两者并不是同一个层面的东西。

    (2)大数据与云计算的关系那么上面说了大数据和云计算的区别,两者之间又有着非常紧密的联系,大数据是云计算非常重要的应用场景,而云计算则为大数据的处理和数据挖掘都提供了最佳的技术解决方案。

    大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作,大数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术,包括大规模并行处理(MPP)数据库、数据挖掘电网、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统,大数据指的海量的数据 一般日处理 PB级别以上,一般用于挖掘,分析,做一些智能商业板块。

    大数据必然与云计算相关(大数据和云计算没有必然联系,你要作大数据,可以用云计算,也可以不用),数据中心是云计算的基础,从技术上看,大数据与云计算的关系就像一枚硬币的正反面一样密不可分,大数据必然无法用单台的计算机进行处理,必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘,但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术,随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。

    数据中心是云计算的基础设施,我们通常讲到的服务器资源分配,带宽分配,业务支撑能力,流量防护和清洗能力,都是基于数据中心的大小,和其带宽的容量,数据中心分布在不同的核心城市,辐射到周边城市,提供基础支撑,其一般都符合国家机房一级标准,具备极强的容灾能力,多数厂商会选择两地三中心等方式来架设机房,云计算是在数据中心的基础上提供的从基础服务到增值服务的一种闲置资源利用。

    但有一点不变的是,不管云计算怎样去变化,必然需要依托数据中心实现落地。可以说,数据中心是云计算的根,云计算是数据中心“叶子”,云计算通过“光合作用”促进数据中心的发展,而数据中心得壮大又为云计算发展提供了坚实的基础,这三者起到相互依存,互相促进的作用。

    来源 机房360

  • ?

    云计算跟大数据究竟有什么关系

    宗如娆

    展开

    随着科学技术的迅速发展,人类开始进入大数据时代,云计算、大数据、移动互联网已成为时代三大主题,正在推动着新经济时代的发展。在科学领域、经济领域及社会生活的方方面面,呈现出海量数据特征,在海量数据中蕴含着人类各种行为、心理信息。

    对此有网友表示称,常说的"大数据"和"云计算"应该当成动词。即"大数据"指大数据分析或大数据处理。"大数据"对应"小数据算法","云计算"对应"单个计算机的计算"。比如"1+1等于几"这个问题,我们可以通过小数据算法(口算),用单个计算机的计算(甚至计算器)完成计算。再想象一个复杂的问题,需要跨时间、跨空间计算的问题,比如"去年中国各行各业的生产总值,加上美国今年各行各业的生产总值是多少?"这个问题我们就需要通过大数据的分析或处理方法,用云计算完成。

    进一步说,要通过分析或处理各地各时段存储的各种数据资源,用互联网上(云)大量的计算机进行计算(计算)得出结果。这就是大数据、云计算。你可以通俗的理解为:大数据(分析或处理)是前台,云计算是后台。

    或者理解为:大数据(分析或处理)是软件方法,云计算是硬件设备资源。或者可以再直观的理解为:大数据就是人直接操作的界面(网页、软件或App),云计算就是这些网站、软件或App供应商提供的服务。

  • ?

    “大数据”和“云计算”的区别与联系你说的出么?

    安吉莉娜

    展开

    我们聊起“大数据”和“云计算”时,常常把这两个名词概念混淆,觉得就是一个词。又或者知道这两者是有区别的,却又不知从何说起。今天,我和大家一起聊一聊“大数据”和“云计算”的联系与区别。

    一、大数据

    1、大数据的定义

    著名的麦肯锡全球研究所给出的定义是:一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合,具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。

    研究机构Gartner给出的定义是“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。

    大数据(big data),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换而言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。

    2、三个层面来了解大数据:

    其次,想要系统的认知大数据,必须要全面而细致的分解它,着手从三个层面来展开:

    (1)第一层面:理论

    理论是认知的必经途径,也是被广泛认同和传播的基线。在这里从大数据的特征定义理解行业对大数据的整体描绘和定性;从对大数据价值的探讨来深入解析大数据的珍贵所在;洞悉大数据的发展趋势;从大数据隐私这个特别而重要的视角审视人和数据之间的长久博弈。

    (2)第二层面:技术

    技术是大数据价值体现的手段和前进的基石。大数据从采集、处理、存储到形成结果的整个过程,都伴随着云计算、分布式处理技术、存储技术和感知技术的发展。(这里我们下文再系统说)

    (3)第三层面:实践

    从总统竞选到奥斯卡颁奖、从web安全到灾难预测都离不开大数据的参与,大数据在企业商业智能、公共服务和市场营销三个领域拥有巨大的应用潜力和商机。正如那句俗语所言:“当你手上有一把锤子的时候,看所有的东西都是钉子。”

    3、大数据的应用领域

    综合来看,未来几年大数据在商业智能、政府服务和市场营销三个领域的应用非常值得看好,大多数大数据案例和预算将发生在这三个领域。

    商业智能论

    (1)商业智能

    商业智能(Business Intelligence,简称:BI),又称商业智慧或商务智能,指用现代数据仓库技术、线上分析处理技术、数据挖掘和数据展现技术进行数据分析以实现商业价值。

    过去几十年,分析师们都依赖来自Hyperion、Microstrategy和Cognos的BI产品分析海量数据并生成报告。数据仓库和BI工具能够很好地回答类似这样的问题:“某某人本季度的销售业绩是多少?”(基于结构化数据),但如果涉及决策和规划方面的问题,由于不能快速处理非结构化数据,传统的BI会非常吃力和昂贵。 大多数传统BI工具都受到以下两个方面的局限:

    首先,它们都是“预设-抓取”工具,由分析师预先确定收集什么数据用于分析。

    其次,它们都专注于报告“已知的未知”(Known unknowns),也就是我们知道问题是什么,然后去找答案。(而大数据会给出一些未知的未知,也就是你没有想到的一些问题的结果) 传统BI工具主要用于企业运营,侧重于成本控制和计划执行报告。

    而大数据技术最主要的功能/应用是ETL(Extract、Transform、Load)。将近80%的Hadoop应用都与ETL有关,例如在导入Vertica这样的分析数据库之前对日志文件或传感器数据的处理。

    今天计算和存储硬件变得非常便宜,配合大量的开源大数据工具,人们可以非常“奢侈”地先抓取大量数据再考虑分析命题。可以说,低廉的计算资源正在改变我们使用数据的方式。 此外,处理性能的大幅提高(例如内存计算)使得实时互动分析更加容易实现,而“实时”和“预测”将BI带到了一个新的境界——未知的未知。这也是大数据分析与传统BI之间最大的区别。 未来几年,随着企业间的兼并和新产品的不断推出,传统的BI工具将与大数据分析并存。

    (2)公共服务

    大数据另外一个重大的应用领域是社会和政府。如今,数据挖掘已经能够预测疾病暴发、理解交通模型并改善教育。

    今天,城市正面临预算超支、基础设施难题以及从农村和郊区涌入的大量人口。这些都是非常紧迫的问题,而城市,也正是大数据计划的绝佳实验室。以纽约这样的大都市为例,政府公共数据公开化、以及市民生活的高度数字化(购物、交通、医疗等)等都是大数据分析的理想对象。

    客观的市政数据,是消除争端,维系社会稳定的最佳纽带。当然,前提是让公民能够访问这些数据同时,保护好公民的隐私性和数据的安全性。当然,我们还需要更多的产品和技术让数据分析结果更容易被公众理解和接受(数据可视化)。

    伴随着各国政务的数字化进程,以及政务数据的透明化,公民将能准确了解政府的运作效率。这是不可逆转的历史潮流,同时也是大数据最具潜力的应用领域之一。

    (3)市场营销

    大数据的第三大应用领域是市场营销。具体来说,有利于促进消费者与企业之间的关系。(卖得更多、更快、更有效率) 今天,最大的数据系统是web分析、广告优化等。今天的数字化营销与传统营销最大的区别就是个性化和精准定位。

    如今,企业与客户之间的接触点也发生了翻天覆地的变化,从过去的电话和邮件地址,发展到网页、社交媒体账户等等。在这些五花八门的渠道里跟踪客户,粉丝和流量变现的年代,每一次阅读、转发对企业来说,都是一种推广行为,间接也可能促成企业产品交易。

    二、云计算

    1、云计算的定义

    美国国家标准与技术研究院(NIST)定义:云计算是一种按使用量付费的模式,这种模式提供可用的、便捷的、按需的网络访问, 进入可配置的计算资源共享池(资源包括网络、服务器、存储、应用软件、服务),这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。

    云计算(cloudcomputing)是基于互联网的相关服务的增加、使用和交付模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。

    2、云计算特点

    云计算是通过使计算分布在大量的分布式计算机上,而非本地计算机或远程服务器中,企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上,根据需求访问计算机和存储系统。

    好比是从古老的单台发电机模式转向了电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通,就像煤气、水电一样,取用方便,费用低廉。最大的不同在于,它是通过互联网进行传输的。

    被普遍接受的云计算特点如下:

    (1) 超大规模

    “云”具有相当的规模,企业私有云一般拥有数百上千台服务器。“云”能赋予用户前所未有的计算能力。

    (2) 虚拟化

    云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”,而不是固定的有形的实体。应用在“云”中某处运行,但实际上用户无需了解、也不用担心应用运行的具体位置。只需要一台笔记本或者一个手机,就可以通过网络服务来实现我们需要的一切,甚至包括超级计算这样的任务。

    (3) 高可靠性

    “云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性,使用云计算比使用本地计算机可靠。

    (4) 通用性

    云计算不针对特定的应用,在“云”的支撑下可以构造出千变万化的应用,同一个“云”可以同时支撑不同的应用运行。

    (5) 高可扩展性

    “云”的规模可以动态伸缩,满足应用和用户规模增长的需要。

    (6) 按需服务

    “云”是一个庞大的资源池,你按需购买;云可以像自来水,电,煤气那样计费。

    (7) 极其廉价

    由于“云”的特殊容错措施可以采用极其廉价的节点来构成云,“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本,“云”的通用性使资源的利用率较之传统系统大幅提升,因此用户可以充分享受“云”的低成本优势,经常只要花费几百美元、几天时间就能完成以前需要数万美元、数月时间才能完成的任务。

    云计算可以彻底改变人们未来的生活,但同时也要重视环境问题,这样才能真正为人类进步做贡献,而不是简单的技术提升。

    (8) 潜在的危险性

    云计算服务除了提供计算服务外,还必然提供了存储服务。但是云计算服务当前垄断在私人机构(企业)手中,而他们仅仅能够提供商业信用。对于政府机构、商业机构(特别像银行这样持有敏感数据的商业机构)对于选择云计算服务应保持足够的警惕。一旦商业用户大规模使用私人机构提供的云计算服务,无论其技术优势有多强,都不可避免地让这些私人机构以“数据(信息)”的重要性挟制整个社会。对于信息社会而言,“信息”是至关重要的。另一方面,云计算中的数据对于数据所有者以外的其他用户云计算用户是保密的,但是对于提供云计算的商业机构而言确实毫无秘密可言。所有这些潜在的危险,是商业机构和政府机构选择云计算服务、特别是国外机构提供的云计算服务时,不得不考虑的一个重要前提。

    2、云计算特点

    云计算是通过使计算分布在大量的分布式计算机上,而非本地计算机或远程服务器中,企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上,根据需求访问计算机和存储系统。

    好比是从古老的单台发电机模式转向了电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通,就像煤气、水电一样,取用方便,费用低廉。最大的不同在于,它是通过互联网进行传输的。

    被普遍接受的云计算特点如下:

    (1) 超大规模

    “云”具有相当的规模,Google云计算已经拥有100多万台服务器, Amazon、IBM、微软、Yahoo等的“云”均拥有几十万台服务器。企业私有云一般拥有数百上千台服务器。“云”能赋予用户前所未有的计算能力。

    (2) 虚拟化

    云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”,而不是固定的有形的实体。应用在“云”中某处运行,但实际上用户无需了解、也不用担心应用运行的具体位置。只需要一台笔记本或者一个手机,就可以通过网络服务来实现我们需要的一切,甚至包括超级计算这样的任务。

    (3) 高可靠性

    “云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性,使用云计算比使用本地计算机可靠。

    (4) 通用性

    云计算不针对特定的应用,在“云”的支撑下可以构造出千变万化的应用,同一个“云”可以同时支撑不同的应用运行。

    (5) 高可扩展性

    “云”的规模可以动态伸缩,满足应用和用户规模增长的需要。

    (6) 按需服务

    “云”是一个庞大的资源池,你按需购买;云可以像自来水,电,煤气那样计费。

    (7) 极其廉价

    由于“云”的特殊容错措施可以采用极其廉价的节点来构成云,“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本,“云”的通用性使资源的利用率较之传统系统大幅提升,因此用户可以充分享受“云”的低成本优势,经常只要花费几百美元、几天时间就能完成以前需要数万美元、数月时间才能完成的任务。

    云计算可以彻底改变人们未来的生活,但同时也要重视环境问题,这样才能真正为人类进步做贡献,而不是简单的技术提升。

    (8) 潜在的危险性

    云计算服务除了提供计算服务外,还必然提供了存储服务。但是云计算服务当前垄断在私人机构(企业)手中,而他们仅仅能够提供商业信用。对于政府机构、商业机构(特别像银行这样持有敏感数据的商业机构)对于选择云计算服务应保持足够的警惕。一旦商业用户大规模使用私人机构提供的云计算服务,无论其技术优势有多强,都不可避免地让这些私人机构以“数据(信息)”的重要性挟制整个社会。对于信息社会而言,“信息”是至关重要的。另一方面,云计算中的数据对于数据所有者以外的其他用户云计算用户是保密的,但是对于提供云计算的商业机构而言确实毫无秘密可言。所有这些潜在的危险,是商业机构和政府机构选择云计算服务、特别是国外机构提供的云计算服务时,不得不考虑的一个重要前提。

    4、云计算环境作为大数据处理平台

    (1)云计算环境中基本计算单元的分化

    企业云计算平台上虽然有多个并行计算的CPU,但并没有创造出具有超强数据处理能力的超级CPU,因此云计算平台需要具有并行运算能力的软件系统。同时,当所有用户的数据全部放在云端时,虽然存储容量可以很方便地扩充,但面对大量用户同时发起的海量数据处理...

大数据和云计算的区别

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP