中企动力 > 商学院 > 大数据时代是什么
  • ?

    大数据时代,什么专业火的一塌糊涂?

    Rota

    展开

    随着大数据,电商的兴起,在近十年来统计硕士申请,就业,招聘相关热度持续升温。特别是很多学校开始了商业分析和数据科学的项目,吸引了大量申请人,其实这两个方向的课程结构也有一半以上的统计课程。那么统计有哪些就业领域呢?

    在国内,统计学就业主要集中在政府部门及金融领域。比如统计局,文学情报中心,标准化研究院及国家信息中心这类政府机构。此外还有,咨询公司,各公司的市场研究部门,制造业,市场营销,工业企业的质量检测部门等企业事业单位。

    一、金融领域

    中国统计专业学生多面的的就业前景,就业形势还是非常不错的,银行,保险公司,证券公司等金融部门都是统计学可以考虑的方向。

    1、量化投资方向,包括卖方金工、买方量化投研,量化控股。但由于门槛太高,不偏好应届生,进入较难。

    2、信用卡中心也是一个大量需要统计的地方。工作相对安逸,但是工资真的不低。

    3、P2P行业去做P2P信贷。

    4、省分行。支行很多人都想回家,而回家有没有什么大公司。所以省分行,支行就是最好的选择。

    5、其他金融岗位。比如投行,行研,固收销售交易,银行管培,券商管培,非量化风险等等,也有很多人会签。

    另外,大数据很火,京东阿里给 数据挖掘之类的岗位的起薪不低,但是纯统计学想要做数据挖掘难度还是比较大。

    二、其他行业

    医疗卫生方向就业可以考虑去研究公司工作,想ppd就是全球最大的cro。在做新药研究临床试验方面这个职位还是有蛮大的需求的。

    对于学校比较有感情,可以继续读Phd,然后各大高校也是选择之一,毕竟薪火需要有人传嘛。另外可以去政府机关,也可以靠公务员,主要岗位:卫生监督、食药监、出入境等。

    三、统计专业就业因素

    统计的就业方面可以说广的不行,而最终回去做什么工作,取决于:能去什么样的岗位;本科背景;个人性格偏好等

    看完这些特点,你对统计学真的感兴趣吗?

    很多同学是因为拥挤专业更容易找工作而选择统计,实际上并不能去从统计的专业中感受到乐趣。那么看了上面统计的就业领域,是不是觉得作为一门实用工具,统计专业亦能给你别样的探索世界的乐趣呢?

  • ?

    进入大数据时代,什么是大数据,大数据安全吗?

    韶鹤

    展开

    都说未来是大数据时代,

    而个别厂商蓄意炒作大数据,

    以达到售卖产品的目的,

    但导致的结果是很多人对大数据这一概念云里雾里。

    实际上,大数据就发生在你我身边,

    虽然你看不到它,但它却时时影响着我们的生活。

    举几个例子你就明白了什么是大数据,

    我们到超市商场购物都有消费记录,

    而看似杂乱无章的购买清单,

    经过对比发现其中的规律和不符合常规的数据,

    往往能够得出一些真实的结论,

    这就是大数据的应用。

    微博有搜索引擎,

    那些在搜索引擎上反复出现的热词,

    就是微博热搜榜的来源。

    通过对海量词汇的对比,

    找出哪些是网民关注的。

    比价网站通过海量的产品信息抓取,

    比如抓京东、天猫、易购的数据,

    然后将价格由低到高进行排列,

    这也是大数据的应用。

    每天,海量的交易和数据在一些贸易平台上跑着,

    平台通过对商户最近100天的数据分析,

    就能知道哪些商户可能存在资金问题,

    此时贷款平台就有可能出马,

    同潜在的贷款对象进行沟通。

    这年头,广告主越来越精,

    他们希望花的每一分钱都有所回报。

    商家的做法很简单,

    它们购买了社交信息优化推广公司的服务,

    对数据进行分析,

    从而知道何种营销活动的传播效果更好。

    这些都是源自大数据的应用。

    有人称大数据侵犯了个人隐私,

    你的电话、住址、照片、生活习惯、购买记录等等,

    都被商家拿来提取分析,

    然后就会有商家针对性的做推广。

    尽管业内对大数据相关业务限制的非常严格,

    但是仍有一些不法行为暗中操作,

    大数据是服务于人而不应该绑架于人。

  • ?

    大数据时代究竟给我们带来了什么?

    雪珊

    展开

    现在大数据分析这个行业很火,我身边有个同学是北邮的研究生,主要就是互联网大数据这块,一发动态就是自己的日常。

    要想明白大数据,首先就要明白数据的意义。

    对于大数据的概念,必须要进行一个合理的扫盲,什么是大数据:是指无法在一定时间范围内用常规软件工具进行捕捉,管理和处理的数据集合,需要新处理模式才能具有更强的决策力,洞察发现力和流程优化能力来适应海量,高增长率和多样化的信息资产。

    数据,让一切有迹可循,让一切有源可溯。我们每天都在产生数据,创造大数据和使用大数据,只是,你,仍然浑然不知。

    百度知道和知乎问答里一直有小伙伴在问这个问题,比如“大数据时代,生活和思维发生了哪些变”、“大数据时代给我们的生活带来了哪些好处呢?”以及“大数据时代生活将会有怎样的变化”等等。看着大家热火朝天的在了解大数据、认识大数据和讨论大数据,我很开心,这说明大数据已经渐渐被大众所接受,也标志着大数据产业正在走向成熟化和大众化。

    大数据时代至少给我们的生活带来了以下六点便利与好处:

    1、节约时间,更有效率

    2、大数据让人们更容易借到钱 让老赖无处遁形。

    3、大数据让人更加聪明更智慧。

    4、大数据思维可以帮你省钱。

    5、大数据让工作可以量化,更加公平。

    6、大数据思维可以助你发现隐形需求

    大数据时代的到来,带来的变化和变革无法量化,只能从大的方面去看了。一个时代会因为一个概念的提出而颠覆,大数据时代,等待颠覆的,还有很多。大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。同样,设备管理也将面对着这样的挑战和机遇,我们会在设备管理工作中通过从信息到数据再由数据到有用信息的分析而获得知识、商机和为社会服务的更高层次的能力。

  • ?

    #未来已来#大数据时代:数据到底有什么用?

    鄂飞槐

    展开

    大家好,今天跟大家聊一聊数据时代的未来和发展。

    在近代人们对数据的要求没有那么的迫切,那个时候没有数据分析师,没有IT,但是随着人类的发展,随着工业革命和科技革命的发展,数据对我们来说越来越重要,比如说美国的一个城市---纽约就是一个很鲜明的例子,通过数据挖掘,有效预防了火灾。据统计,纽约大约有100万栋建筑物,平均每年约有3000栋会发生严重的火灾。纽约消防部门将可能导致房屋起火的因素细分为60个,诸如是否是贫穷、低收入家庭的住房,房屋建筑年代是否久远,建筑物是否有电梯等。除去危害性较小的小型独栋别墅或联排别墅,分析人员通过特定算法,对城市中33万栋需要检验的建筑物单独进行打分,计算火灾危险指数,划分出重点监测和检查对象。目前数据监测项目扩大到2400余项,诸如学校、图书馆等人口密集度高的场所也涵盖了。尽管公众对数据分析和防范措施的有效性之间的关系心存疑虑,但是火灾数量确实下降了。

    未来是DT和IOT的时代,数据的利用会极大丰富我们的生活,以前只有电脑象征着数据处理器,但是现在手机也通上了数据,电视、摄像头、空调、冰箱、电灯泡、窗帘等等一系列生活电器也通上了互联网数据,让我们还没有回家就已经打开了空调,让我们离开家也能关闭电视机、打开窗帘、观察家里发生的一切,是互联网+数据让我们生活变得更智能更丰富,让我们的工作效率更高。

    我觉得未来受数据影响最大的应该是生产制造业,因为就目前来看,我国的制造业还存在明显的短板,而且好多的生产厂家都是流水线的工人,真正意义上的自动化程度并没有那么高,前些天我在网上看到一个视频,视频是一个把活蹦乱跳的鸡杀死然后把每个部分的肉都分好类的机械设备,当然,这并不是中国的,是德国的一套机械设备,在生产过程中,全都靠机械手和传感器,鸡先在一个平台上,然后被依次推进先杀死放血然后再去毛,然后去内脏再分割腿、翅、脖子、鸡爪等等,一系列流程下来,最后把各个器官都分类堆在一起,视频全程没有出现一个人,我看完后不免惊叹科技竞如此发达,完全依靠机械手臂和传感器就能把原来我们几十分钟甚至几分钟做的事给缩短成了几秒,确实是提高了生产效率,而且还节省了人员成本。

    旧工业生产设备

    工业生产的物联网都是依靠采集的数据来使工业生产变得更精准更人性化,不管是在什么时候,不管是在做什么,不要以为好多数据没必要去采集,因为在数据没有采集上来之前你不知道这个数据到底有没有用,因为你不会考虑到你的核心业务诉求是否受这个数据影响,一个企业也是一样,如果单纯的以为只有自己想到收集的数据是有用的,其他的数据不去挖掘不去考量不及时呈现的话,这个企业不会更好更健康的发展下去,不能及时的解决、预防企业中的问题,就像在原来没有血压计、没有x光、没有CT这些数据采集机械设备,没有这些数据医学家也没办法来研究这些病症的治疗和预防方法,使得人们的高血压、心脏病等等这些病症没有办法得到治疗和预防。

    物联网用数据采集器

    综上所述,我觉得未来的统计数据是最值钱的,未来数据统计相关的职业会越来越火爆,会越来越值钱,谁掌握的数据多,谁采集的数据实时精确,谁就会坐拥财富!所以我觉得我们以后都必须重视数据,养成数据思维,学会分析利用数据来解决我们的问题,那我们的工作效率就会更高。那么朋友们你们怎么看呢?欢迎大家留言讨论!

  • ?

    大数据时代下,我们能做些什么?

    念文

    展开

    都说大数据时代已经来临,那么什么是大数据?互联网时代下的大数据又有哪些应用?在这种大环境之下,我们又能做些什么?

    一、大数据简介?

    对于“大数据”(Big data)研究机构Gartner给出了定义,“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。大数据(Big Data)又称为巨量资料,但它的主要作用并不是收集资料、数据,而是对数据进行分析、挖掘及处理。

    二、大数据的基本特征?

    大数据有3V特点,即Volume(大量)、Velocity(高速)、Variety(多样)。具体来说:

    (1)大数据的规模性(大量),即大数据具有相当的规模,其数据量非常巨大。数据的数量级别可划分为B、KB、MB、GB、TB、PB、EB、ZB等,而数据的数量级别为PB级别的才能称得上为大数据。而在2011年,全球就已经产生了1.8ZB的数据总量。

    (2)大数据的多类型性(多样),即大数据的数据类型呈现多样性,数据类型繁多,不仅包括结构化数据,还包括非结构化数据和半结构化数据;其中结构化数据即音频、图片、文本、视频、网络日志、地理位置信息等等。因为这样才能保证数据结果的可靠以及价值。

    (3)大数据处理的快速性(高速),即处理大数据的速度越来越快,处理时要求具有时效性。

    在数据量如此庞大的情况下,却依然拥有极高的处理速度,这是大数据的一大特点。

    随着科技的发展,大数据的特点已经不止是3V了,陆续有人提出了更多的特点,但是这些都离不开3V的基本特征。

    说了这么多理论,那么大数据到底有什么实际的应用呢?

    三、大数据的应用?

    大数据的应用遍及各个领域,实在是太广了,播妞简单给大家举个栗子

    最简单的例子就是你常用的网购APP的推荐商品,都是根据你日常的购买习惯、消费情况以及你最近或者是之前购买过的东西,进行推荐的。这里包含了,数据的采集及分析,这个只是简单的应用例子。

    新浪微博是大数据时代典型的产物,微博颠覆了传统意义上普通信息媒介的传播方式,它具有传播速度快,传播范围广的特点,能在短时间形成飓风的传播效应,进而形成广泛的影响力。

    以大数据作为机器学习的训练集,从而训练出拥有一定决策能力的人工智能。典型的代表案例就是谷歌的AlphaGo, 通过大量围棋棋局的学习,最终拥有了打败围棋世界冠军的能力。

    现在的生活中,可谓到处都是大数据!

    四、大数据时代什么最贵?

    十年前,葛大爷曾说过,“21世纪什么最贵?”—“人才”,深以为然。而当大数据到临的时候,企业将会缺少这方面的采集收集分析方面的人才。那大数据的人才到底有多“贵”,又有哪些行业是可以从事的呢?下面一张图告诉你

  • ?

    大数据时代:什么是数据?

    思量

    展开

    数据的英文是“data”,其实这是复数形式的“数据”,它的单数形式是“datum”——英文解释是“a fact or piece of information”,即一个事实或一条信息。所以,Data的字面意思是很多事实或信息的混合体。

    数据是什么?

    我们平时看到的数字和字符、字母,都有可能是数据。

    例如:下图的6个0,或是4个1和2个a,请问它是数据吗?

    假设给上面图中的例子设个特殊的前置场景。假设第一组的6个0其实是时、分、秒的简写,“000000”表示00点00分00秒,“112349”则表示11点23分49秒,那么它是不是数据呢?假设第二组的出现的4个1和2个a其实是一组密码,“1111”代表一个约定地点,“aa”代表一个约定事件,这组数字和字母的意义就有了相应的解读,那么它是不是数据呢?

    符号如果想被认定为数据,就必须承载一定的信息。信息很可能因场景而定,因解读者的认知而定,所以,符号是否能作为数据使用,解读者的主观视角具有决定性的作用。解读者是否能够正确解读信息,将直接导致相应的符号是否能够被认定为数据。

    数据无处不在。在网络上、在报纸上、书籍上。在家用电脑的磁盘上,在我们的脑海里,数据大量且广泛的存在。围绕数据,人类已经做了很多数据科学的研究和应用工作,其中最为基础的就是数据的存储、传输。数据的价值在于数据上承载的信息,信息的价值在于消除不确定性的成本及其直接和间接的作用,而这一系列的价值使得我们对数据的价值予以空前的重视。

  • ?

    大数据时代的意义和特征

    应乌

    展开

    当今时代已经进入了移动互联网时代,也就是我们通常所说的大数据。那么大数据时代有什么特点,下面济南优就业IT培训的小编来为大家介绍一下大数据崛起的特征。欢迎大家阅读,供您参考。

    1.移动互联时代,数以百亿计的机器、企业、个人随时随地都会获取和产生新的数据

    即便是在“摩尔定律”——每18个月芯片性能将提高1倍——的支撑下,硬件性能进化的速度也早已赶不上数据增长的速度,并且差距越来越巨大。

    1分钟之内,新浪微博发送数万条微博,苹果应用商店下载次数以万计,淘宝卖出了几万件商品,百度产生了百万次搜索查询……所有这些行为都由海量的数据来呈现。

    在去年12月12日电商的促销期,淘宝网推出“时光机”——一个根据淘宝买家几年来的购买商品记录、浏览点击次数、收货地址等数据编辑制作的“个人网购志”,从而记录和勾勒出让人感怀的生活记忆。背后,是基于对4.7亿淘宝注册用户网购数据的分析处理,这正是大数据的典型应用。

    随着传统互联网向移动互联发展,全球范围内,除了个人电脑、平板电脑、智能手机、游戏主机等常见的计算终端之外,更广阔的、泛在互连的智能设备,比如智能汽车、智能电视、工业设备和手持设备等都连接到网络之中。基于社会化网络的平台和应用,让数以百亿计的机器、企业、个人随时随地都会获取和产生新的数据。

    互联网搜索引擎是大数据最为典型的应用之一。百度日处理数据量达到数十PB,并呈现高速增长的态势。如果一张光盘容量为1GB,这相当于垒在一起的几千万张光盘。微软Bing(在中国为必应)搜索引擎,一周需要响应100亿次量级的搜索请求。通过和Facebook的合作,每天有超过10亿次的社交网络搜索请求通过Bing来处理。

    短短的18个月,中国移动互联网流量增加了10倍。中国工程院院士邬贺铨说,随着社交网络的逐渐成熟、移动带宽迅速提升,更多的传感设备、移动终端接入网络,产生的数据及其增长速度比历史上任何时期都要多,互联网上的数据流量正在迅猛增长。邬贺铨认为,在云计算、物联网等技术的带动下,中国的移动互联网已经步入“大数据”时代。

    而根据市场调研公司IDC的报告,全球信息总量每过两年就会增长一倍,2011年全球产生的数据总量为1.8ZB(1ZB约为百万PB),相比2010年增长了1ZB,相当于全球历史数据总和。

    继云计算后,大数据(big data)成为信息技术领域最为热门的概念之一。

    2.大数据有四个特征,最重要的是获得洞察力和价值

    在IT业界,有人把大数据产业定义为:“建立在对互联网、物联网等渠道广泛大量数据资源收集基础上的数据存储、价值提炼、智能处理和分发的信息服务业”,或者如IT巨头概括大数据战略为:“致力于让所有用户能够从几乎任何数据中获得可转换为业务执行的洞察力,包括之前隐藏在非结构化数据中的洞察力”。

    “总之是对大量、动态、能持续的数据,通过运用新系统、新工具、新模型的挖掘,从而获得具有洞察力和新价值的东西。”微软公司全球资深副总裁、微软亚太研发集团主席张亚勤博士接受记者采访时说。

    虽然有多种解读,但业界一般认为,大数据有四个“V”字开头的特征:Volume(容量), Variety(种类), Velocity(速度)和最重要的Value(价值)。Volume是指大数据巨大的数据量与数据完整性。张亚勤说,IT业界所指的数据,诞生不过60多年。而一直到个人电脑普及前,由于存储、计算和分析工具的技术和成本限制,许多自然界和人类社会值得记录的信号,并未形成数据。几十年前,气象、地质、石油物探、出版业、媒体业和影视业是大量、持续产出信号的行业,但那时90%以上采用的是存储模拟信号,难以通过计算设备和软件进行直接分析。拥有大量资金和人才的政府和企业,也只能把少量最关键的信号,进行抽取、转换、装载到数据库中。

    张亚勤认为,尽管业界对达到怎样的数量级才算是大数据并无定论,但在很多行业的应用场景里,数据集本身的大小并不是最重要的,是否完整才最重要。

    Variety则意味着要在海量、种类繁多的数据间发现其内在关联。互联网时代,各种设备通过网络连成了一个整体。进入以互动为特征的Web2.0时代,个人计算机用户不仅可以通过网络获取信息,还成为了信息的制造者和传播者。这个阶段,不仅是数据量开始了爆炸式增长,数据种类也开始变得繁多。

    “这必然促使我们对海量数据进行分析、处理和集成,找出原本看来毫无关系的那些数据的‘关联性’,把似乎没有用的数据变成有用的信息,以支持我们做出的判断。”张亚勤说。

    Velocity可以理解为更快地满足实时性需求。数据的实时化需求正越来越清晰。对普通人而言,开车去吃饭,会先用移动终端中的地图查询餐厅的位置,预计行车路线的拥堵情况,了解停车场信息甚至是其他用户对餐厅的评论。吃饭时,会用手机拍摄食物的照片,编辑简短评论发布到微博或者微信上,还可以用LBS(基于位置的服务)应用查找在同一间餐厅吃饭的人,看有没有好友在附近……

    张亚勤说,如今,通过各种有线和无线网络,人和人、人和各种机器、机器和机器之间产生无处不在的连接,这些连接不可避免地带来数据交换。而数据交换的关键是降低延迟,以近乎实时——这意味着小于250毫秒——的方式呈献给用户。

    “但比前面3个‘V’更重要的,就是Value,它是大数据的最终意义——获得洞察力和价值。”张亚勤说,大数据的崛起,正是在人工智能、机器学习和数据挖掘等技术的迅速发展驱动下,呈现这么一个过程:将信号转化为数据,将数据分析为信息,将信息提炼为知识,以知识促成决策和行动。

    百度相关专家认为,就大数据的价值而言,就像沙子淘金,大数据规模越大,真正有价值的数据相对越少。

    “所以真正好的大数据系统,重要的不是越多越好,其实越少越好。”张亚勤说,开始数据要多,最好还是要少,把ZB、PB最终变成一个比特,也就是最后的决策。这才是最关键的。

    3.云计算和大数据是一个硬币的两面,大数据正在引发全球范围内深刻的技术和商业变革

    如同云计算的出现,大数据也不是一个突然而至的新概念。

    “云计算和大数据是一个硬币的两面,云计算是大数据的IT基础,而大数据是云计算的一个杀手级应用。”张亚勤说。云计算是大数据成长的驱动力,而另一方面,由于数据越来越多、越来越复杂、越来越实时,这就更加需要云计算去处理,所以二者之间是相辅相成的。

    30年前,存储1TB也就是约1000GB数据的成本大约是16亿美元,如今存储到云上只需不到100美元;但存储下来的数据,如果不以云计算进行挖掘和分析,就只是僵死的数据,没有太大价值。

    目前,云计算已经普及并成为IT行业主流技术,其实质是在计算量越来越大、数据越来越多、越来越动态、越来越实时的需求背景下被催生出来的一种基础架构和商业模式。个人用户将文档、照片、视频、游戏存档记录上传至“云”中永久保存,企业客户根据自身需求,可以搭建自己的“私有云”,或托管、或租用“公有云”上的IT资源与服务,这些都已不是新鲜事。可以说,云是一棵挂满了大数据的苹果树。

    大数据的出现,正在引发全球范围内深刻的技术与商业变革。在技术上,大数据使从数据当中提取信息的常规方式发生了变化。“在技术领域,以往更多是依靠模型的方法,现在我们可以借用规模庞大的数据,用基于统计的方法,有望使语音识别、机器翻译这些技术领域在大数据时代取得新的进展。”张亚勤说。

    在搜索引擎和在线广告中发挥重要作用的机器学习,被认为是大数据发挥真正价值的领域。在海量的数据中统计分析出人的行为、习惯等方式,计算机可以更好地学习模拟人类智能。随着包括语音、视觉、手势和多点触控等在内的自然用户界面越来越普及,计算系统正在具备与人类相仿的感知能力,其看见、听懂和理解人类用户的能力不断提高。这种计算系统不断增强的感知能力,与大数据以及机器学习领域的进展相结合,已使得目前的计算系统开始能够理解人类用户的意图和语境。“这使得计算机能够真正帮助我们,甚至代表我们去工作”。

    在商业模式上,张亚勤认为,对商业竞争的参与者来说,大数据意味着激动人心的业务与服务创新机会。零售连锁企业、电商业巨头都已在大数据挖掘与营销创新方面有着很多的成功案例,它们都是商业嗅觉极其敏锐、敢于投资未来的公司,也因此获得了丰厚的回报。

    IT产业链分工、主导权也因为大数据产生了巨大影响。以往,移动运营商和互联网服务运营商等拥有着大量的用户行为习惯的各种数据,在IT产业链中具有举足轻重的地位。而在大数据时代,移动运营商如果不能挖掘出数据的价值,可能彻彻底底被管道化。运营商和更懂用户需求的第三方开发者互利共赢的模式,已取得一定共识。

  • ?

    大数据时代

    萧从梦

    展开

    黑发不知勤学早

    白首方悔读书迟

    在今天的这个社会你一定听过的时髦词语有:人工智能、大数据、互联网思维…,而本书《大数据时代》是2012年出版的,忆往昔,2012的时候小米手机1第一次正式网络售卖,那时的我刚踏入大学的校门,那时的你也绝不可能想象到几年后社会发展的如此之快,各种数据、各种共享经济席卷而来。虽然已经6年多过去了,但今天读这本书会发现,书中的思维依然值得我们学习。

    另,这本书不是一本IT行业的技术书,并没有涉及到具体处理大数据的技术,而是一本开拓思维的、帮我们认识和了解大数据的指导性书籍。

    本书作者是维克托·迈尔-舍恩伯格,为了说明这个作者牛X,简单贴一些他的成就:

    学术成果有一百多篇论文公开发表在《科学》《自然》等著名学术期刊上,他同时也是哈佛大学出版社、麻省理工出版社、通信政策期刊、美国社会学期刊等多家出版机构的特约评论员。 世界知名企业信赖的信息权威与顾问。他的咨询客户包括微软、惠普和IBM等全球顶级企业;而他自己早在1986年与1995年就担任两家软件公司的总裁兼CEO,由他的公司开发的病毒通用程序,成为当时奥地利最畅销的软件产品。 众多机构和国家政府高层的信息政策智囊。他一直专注于信息安全与信息政策与战略的研究,是欧盟专家之一,也是世界经济论坛、马歇尔计划基金会等重要机构的咨询顾问。

    此书目录的结构清晰明了,第一部分主要是讲大数据时代的思维,第二部分讲了很多大数据在商业中的具体应用案例。体现作者水平的是第三部分,作者考虑到了大数据也是有两面性的,数据不可能主宰一切,故在第三部分讨论了大数据发展中带给人们的问题以及人们的应对措施。

    了解大数据之前先要明白两个概念——数字化与数据化。

    数字化:把模拟数据转换为0,1表示的二进制码。

    一个例子就是,电脑、手机处理的数据都是数字化的0,1数据,而现实世界的温度、压力的实际存在形式是连续变化的模拟数据。数模转换是通过传感器、数/模、模/数转换器实现两者之间的相互转化。

    数据化:将现象转变为可制表分析的量化形式的过程。所谓的数据挖掘、数据分析就是对数据化后的数据处理。

    其中,数字化是数据化的前提。

    对我来说,此书的帮助就是拓展了新的思维方式,认识到大数据时代的3个特点:

    1.不是随机样本,而是群体数据

    小样本时代: 样本远小于总体

    大数据时代: 样本等于总体

    正因为,样本数据量的增多,才挖掘到了数据间新的关系。对这么多样本数据的采集得益于今天技术的发展,电子化驱动的世界中,手机的信息、汽车上的传感器、微博空间的消息…都可以被记录并保存下来用于分析。

    2.不是精确性,而是混杂性

    因为小样本时代,最基本的要求就是保持收集数据的准确性,以利于分析并得出正确结论。而大数据时代,数据量的巨大和数据格式的不统一,必然会夹杂混乱或错误的数据,但为了利用大数据的优点必然要接受错误数据的存在。

    这让我想起了一句话“模糊的精确比精确的模糊更好”。大数据让我们不再期待精确性,也无法实现精确性。

    3.不是因果关系,而是相关关系

    两个不同的逻辑方式对数据处理的过程也不一样:

    因果关系: 为什么。

    相关关系: 是什么。

    例子:沃尔玛是世界上最大的零售商。2004年沃尔玛分析它的商品数据发现,每当季节性飓风来临之前,不仅手电筒销售量增加了,而且蛋挞的销量也增加了。因此当季节性风暴来临时,沃尔玛会把库存的蛋挞放在靠近飓风用品的位置,方便顾客购买。

    上面这个例子说明,对于大数据分析得到的结论,我们往往暂时发现不了或者找不到数据间的因果关系。但大数据的现实结论又摆在眼前,所以在大数据的时代,除了我们潜意识里常用的因果关系外,我们要重视相关关系这一逻辑。

    大数据的核心是什么?——预测。

    我们处理大数据就是为了预测,预测城市里哪条道路现在不堵车、预测汽车零件是否该维修替换了、预测人们网上购物的个性化需求以推荐合适的商品…

    虽然大数据的预测通常被视为人工智能的一部分,或一种机器学习,但这种定义有误导性。我们是通过用大量过往数据蕴藏的关系来对未来同类型事情进行预测,并不是教机器像人一样思考,更不是指望大数据像“神”一样预测未来的一切。所以,大数据的预测是一定条件下、有限的预测。

    大数据的更好的发展需要三个方面的提升:思维、技术、数据。

    数据本身并无价值,只有使用才会体现其价值。对于三者的关系,我认为技术是外在的实现手段,而数据是所有的基础。但在早期阶段,技术和思维是最有提高价值的,也是我们现在可以抓住的机会。

    大数据发展的弊端:

    1.隐私问题

    2.预测判断以及惩罚人类的潜在行为,与伦理相悖

    隐私问题随着商业公司和我们对数据的重视必然会有一定冲突。但这个问题远不如第二个问题严重。试想一下,大数据通过收集你以往做的事和说过的话,判断出80%的概率你将会有违法行为,故警察到家里把你逮捕。这是多么可怕!大数据预测和惩罚人们,并不是因为“所作的事情”,而是因为“将要做的事情”,而将要做的事情是机器判断出来的,我们并没有发生的行为。

    对于这一个问题,我们必然要思考人与数据的关系。我的思考是,人是高度复杂的,数据是由人产生的,我们可以借助大数据的力量优化我们的社会,提高我们的工作生活效率,但应避免对数据的过度依赖,成为数据的“奴隶”。数据没有思维能力,更没有创新能力,数据造不出改变世界苹果,而人可以。

    人的未来必须保留部分空间,否则大数据会扭曲人类最本质的东西——理性思维和自由选择。书中的一句话很好“人类最伟大之处正是算法和硅片没有揭示也无法揭示的东西,因为数据无法捕捉到这些”。

    最后问你一个问题,你认为“日久见人心”是一种大数据思维吗?

    END

    诗词赏析 | 读书感悟 |

    —不悔书堂—

  • ?

    大数据是什么?大数据时代四个特点

    Martin

    展开

    大数据是什么?其实很简单,大数据其实就是海量资料巨量资料,这些巨量资料来源于世界各地随时产生的数据,在大数据时代,任何微小的数据都可能产生不可思议的价值。大数据有4个特点,为别为:Volume(大量)、Variety(多样)、Velocity(高速)、Value(价值),一般我们称之为4V。

    大数据

    所谓4V,具体指如下4点:

    1.大量。大数据的特征首先就体现为“大”,从先Map3时代,一个小小的MB级别的Map3就可以满足很多人的需求,然而随着时间的推移,存储单位从过去的GB到TB,乃至现在的PB、EB级别。随着信息技术的高速发展,数据开始爆发性增长。社交网络(微博、推特、脸书)、移动网络、各种智能工具,服务工具等,都成为数据的来源。淘宝网近4亿的会员每天产生的商品交易数据约20TB;脸书约10亿的用户每天产生的日志数据超过300TB。迫切需要智能的算法、强大的数据处理平台和新的数据处理技术,来统计、分析、预测和实时处理如此大规模的数据。

    2.多样。广泛的数据来源,决定了大数据形式的多样性。任何形式的数据都可以产生作用,目前应用最广泛的就是推荐系统,如淘宝,网易云音乐、今日头条等,这些平台都会通过对用户的日志数据进行分析,从而进一步推荐用户喜欢的东西。日志数据是结构化明显的数据,还有一些数据结构化不明显,例如图片、音频、视频等,这些数据因果关系弱,就需要人工对其进行标注。

    大数据

    3.高速。大数据的产生非常迅速,主要通过互联网传输。生活中每个人都离不开互联网,也就是说每天个人每天都在向大数据提供大量的资料。并且这些数据是需要及时处理的,因为花费大量资本去存储作用较小的历史数据是非常不划算的,对于一个平台而言,也许保存的数据只有过去几天或者一个月之内,再远的数据就要及时清理,不然代价太大。基于这种情况,大数据对处理速度有非常严格的要求,服务器中大量的资源都用于处理和计算数据,很多平台都需要做到实时分析。数据无时无刻不在产生,谁的速度更快,谁就有优势。

    4.价值。这也是大数据的核心特征。现实世界所产生的数据中,有价值的数据所占比例很小。相比于传统的小数据,大数据最大的价值在于通过从大量不相关的各种类型的数据中,挖掘出对未来趋势与模式预测分析有价值的数据,并通过机器学习方法、人工智能方法或数据挖掘方法深度分析,发现新规律和新知识,并运用于农业、金融、医疗等各个领域,从而最终达到改善社会治理、提高生产效率、推进科学研究的效果。

    大数据

    在大数据时代,每个人都会享受到大数据所带来的便利。买东西可以足不出户;有急事出门可以不用再随缘等出租车;想了解天下事只需要动动手指。虽然大数据会产生个人隐私问题,但总的来说,大数据还是在不断的改善我们的生活,让生活更加方便

    若是对大数据是什么仍然还有疑问,可以留言或者关注私信一起交流。

  • ?

    在大数据时代,什么才是最有价值的

    廉靖琪

    展开

    十年前,葛大爷曾说过,“21世纪什么最贵?”——“人才”,深以为然。只是,十年后的今天,大数据时代也带来了身价不断翻番的各种数据。由于急速拓展的网络带宽以及各种穿戴设备所带来的大量数据,数据的增长从未停歇,甚至呈井喷式增长。

    一分钟内,微博推特上新发的数据量超过10万;社交网络“脸谱”的浏览量超过600万……

    这些庞大数字,意味着什么?

    它意味着,一种全新的致富手段也许就摆在面前,它的价值堪比石油和黄金。

    事实上,当你仍然在把微博等社交平台当作抒情或者发议论的工具时,华尔街的敛财高手们却正在挖掘这些互联网的“数据财富”,先人一步用其预判市场走势,而且取得了不俗的收益。

    这些数据都能干啥。具体有六大价值:

    1、华尔街根据民众情绪抛售股票;

    2、对冲基金依据购物网站的顾客评论,分析企业产品销售状况;

    3、银行根据求职网站的岗位数量,推断就业率;

    4、投资机构搜集并分析上市企业声明,从中寻找破产的蛛丝马迹;

    5、美国疾病控制和预防中心依据网民搜索,分析全球范围内流感等病疫的传播状况;

    6、美国总统奥巴马的竞选团队依据选民的微博,实时分析选民对总统竞选人的喜好。

    数据时代

    可视化

    “数据是新的石油。”亚马逊前任首席科学家Andreas Weigend说。Instagram以10亿美元出售之时,成立于1881年的世界最大影像产品及服务商柯达正申请破产。大数据是如此重要,以至于其获取、储存、搜索、共享、分析,乃至可视化地呈现,都成为了当前重要的研究课题。“当时时变幻的、海量的数据出现在眼前,是怎样一幅壮观的景象?在后台注视着这一切,会不会有接近上帝俯视人间星火的感觉?”这个问题我曾请教过刘建国,中国著名的搜索引擎专家。刘曾主持开发过国内第一个大规模中英文搜索引擎系统“天网”。

    要知道,刘建国曾任至百度的首席技术官,在这样一家每天需应对网民各种搜索请求1.7亿次(2013年约为8.77亿次)的网站中,如果只是在后台静静端坐,可能片刻都不能安心吧。百度果然在提供搜索服务之外,逐渐增添了百度指数,后又建立了基于网民搜索数据的重要产品“贴吧”及百度统计产品等。刘建国没有直接回答这个问题,他想了很久,似乎陷入了回忆,嘴角的笑容含着诡秘。

    倒是有公司已经在大数据中有接近上帝俯视的感觉,美国洛杉矶就有企业宣称,他们将全球夜景的历史数据建立模型,在过滤掉波动之后,做出了投资房地产和消费的研究报告。在数据可视化呈现方面,我最新接收到的故事是,一位在美国思科物流部门工作的朋友,很聪明的印度裔小伙子,被Facebook高价挖角,进入其数据研究小组。他后来惊讶地发现,里面全是来自物流企业、供应链方面的技术人员专家,“Facebook想知道,能不能用物流的角度和流程的方式,分析用户的路径和行为。”

    大数据的特征:

    数据量大(Volume)

    第一个特征是数据量大。大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T)。

    类型繁多(Variety)

    第二个特征是数据类型繁多。包括网络日志、音频、视频、图片、地理位置信息等等,多类型的数据对数据的处理能力提出了更高的要求。

    价值密度低(Value)

    第三个特征是数据价值密度相对较低。如随着物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低,如何通过强大的机器算法更迅速地完成数据的价值“提纯”,是大数据时代亟待解决的难题。

    速度快、时效高(Velocity)

    第四个特征是处理速度快,时效性要求高。这是大数据区分于传统数据挖掘最显著的特征。

    既有的技术架构和路线,已经无法高效处理如此海量的数据,而对于相关组织来说,如果投入巨大采集的信息无法通过及时处理反馈有效信息,那将是得不偿失的。可以说,大数据时代对人类的数据驾驭能力提出了新的挑战,也为人们获得更为深刻、全面的洞察能力提供了前所未有的空间与潜力。

大数据时代是什么

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP