- ?
环境大数据案例分析:大数据是思维不是产品!
Daniel
展开
近年来,各地生态环境保护部门积极应用互联网、大数据等信息技术,探索环境治理模式,各种大数据平台如雨后春笋。不过,大家也都心照不宣,这其中“僵尸平台”“摆设平台”也不少。为什么会出现这种现象?这其实就是对大数据认识的不同。
生态环境大数据平台:环保大脑把大数据理解为产品,那就是单纯的大数据平台,建平台就是一种目的,建好的平台就是一个静态的物体。
把大数据理解为一种思维,那就是解决问题的方法,大数据平台就是一种手段,而不是目的。
大数据不等于大量数据,大数据的核心在于数据之间的关联、融合,分析数据规律,从而找出新的价值,为决策提供科学依据,最终解决问题。
作为智慧环保领航者,神彩科技始终注重技术的应用性,一直在思考如何利用信息技术达到精准治污,实现生态环境质量提升?
打赢污染防治攻坚战是全面建成小康社会的三大战役之一,是一项必须限期完成的政治任务。依靠技术创新,行业经验的积累,神彩科技成功推出“打赢污染防治攻坚战协同推进平台”。该平台最大的特色在于建设理念的升华,首次以“改善生态环境质量”为根本目标,是一个以目标为导向,倒推环保行为,最终解决环境问题的闭环设计。
作战目标图一企一档平台平台重点围绕水、大气、土壤、固体废物污染防治四大领域提供信息化支撑,通过建设作战目标图、战情形势图、战况指挥图、协同作战图、跟踪督办图五大系统,聚焦最关键问题为核心,分解目标任务、重点举措和保障条件,实现按图施工、挂图作战。建设生态环境监测感知一张网,实现市、区之间生态环境数据互联、业务互通,强化市级层面统一调度指挥,建立全市五级网格监管体系,实现生态环境精细化管理。
该平台自苏州首发以后受到各地政府、媒体的广泛关注。新华日报、扬子晚报、现代快报、中国环境报、中国环境新闻网、央广网等中央及省市媒体都做了跟踪报道。江苏省人民政府、江苏省环保厅官网发布相关新闻。苏州市打赢污染防治攻坚战协同推进平台即将上线试运行。
生态环境大数据平台不是目的,只是手段。以科技为环境,借助信息化手段助力污染防治。
作为环保人,你有什么想说的?欢迎拍砖
本文由神彩科技原创,转载请注明出处
- ?
案例分析|如何通过大数据技术实现颠覆式创新
王问萍
展开
在诸业求创新的当下,通过技术手段颠覆传统,实现更多元化的业态创新是人所共求的期望。而今,大数据技术已能够运用到生活的更多层面,其中也包括发现新的市场机会。以下比利时联合银行的例子很值得剖析。
对银行来说,找到那些需要资金支持的企业很重要,但是该怎么找到它们呢?比利时联合银行建立了一个“智能”社区平台,然后邀请本地居民在这个平台上写上自己家的邮政编码,说明自己感觉生活中有哪些地方不方便,周围缺少哪些行业。然后比利时联合银行就会将这些信息收集起来,通过数据分析之后,他们会告诉那些想创业的创业者,哪里的居民最缺什么服务,应该在哪里建公司。同时,银行还会在网站上公布那些设想中企业的详细情况,而本地居民对这些设想回应得也非常快。
那么,这种方式效果怎么样呢?书里说,几乎在突然之间,比利时所有的报纸、电视台和广播电台都在说,比利时的社区商店实在太少了。通过这个“智能”平台,超过17万个商业机会得到居民的确认,平均每个村庄或城镇就有500多个。同时还有近1500个新的商业点子出现,而这个地区的居民不过才700万。现在,对那些想创业的人来说,这个网站已经成了特别有价值的数据库和交流论坛。书里也预测说,未来的创新一定会越来越依赖数据驱动。
如果说上一案例说明大数据技术对传统业态的变革在于开辟新的细分领域,那么对于新科技的代表人工智能而言,大数据同样是其发展的重要基建之一。“创新工场”李开复就曾公开表示,要想发展人工智能,必须拥有完备的大数据条件:第一是海量的大数据,至少是千万级别以上的数据;第二是这些数据需要标注,这里的标注指的是数据背后投射的意义,比如人们的出行习惯是滴滴数据的标注,饮食习惯是美团数据的标注。由此可见,大数据对于新技术发展的意义举足轻重。
大数据处理信息服务商金盛网聚WJFabric认为,毋容置疑的是,人工智能作为一门新兴的技术,即将迎来其快速发展的窗口期。在这个背景下,今天人工智能要通过颠覆式创新改变世界需要有三个要素:第一是要有核心技术,能否具备推理学习的能力;第二要有行业大数据,而且数据要不断迭代。没有大数据是很难的事情,就像一个很聪明的小孩,如果没学过专业知识,肯定成不了专家;第三是应用,今年人工智能不再讲概念了,而是要应用落地,这才是硬道理。由此可见,作为重要基建之一的大数据,在实现人工智能全面发展的进程中所起到的重要作用不言而喻。
- ?
十三个大数据应用实例
封鞯
展开
大数据真的太神奇了,真的可以让改变一个企业的运营吗?答案是肯定的。大数据目前是当下最火热的词了,你要是不知道大数据这个概念,都不好意思在众人面前开口了。然而实际上很多人都对大数据的应用模糊不清。现在就让我们从下面十三个大数据应用案例来了解下最真实的大数据故事把,并鲜明得了解大数据在生活当中实际应用的情况。
大数据应用案例之电视媒体
对于体育爱好者,追踪电视播放的最新运动赛事几乎是一件不可能的事情,因为有超过上百个赛事在8000多个电视频道播出。
而现在市面上开发了一个可追踪所有运动赛事的应用程序RUWT,它已经可以在iOS和Android设备,以及在Web浏览器上使用,它不断地分析运动数据流来让球迷知道他们应该转换成哪个台看到想看的节目,在电视的哪个频道上找到,并让他们在比赛中进行投票。对于谷歌电视和TiVo用户来说,实际上 RUWT就是让他们改变频道调到一个比赛中。
该程序能基于赛事的紧张激烈程度对比赛进行评分排名,用户可通过该应用程序找到值得收看的频道和赛事。
大数据应用案例之社交网络
数据基础设施工程部高级主管Ghosh描绘的LinkedIn数据构建图,其中就包括hadoop战略部署。
五年前,LinkedIn只是一家普通的科技公司。而现在,其俨然成为一个工程强国。 LinkedIn建成的一个最重要的数据库是Espresso。不像Voldemort,这是继亚马逊Dynamo数据库之后的一个最终一致性关键值存储,用于高速存储某些确定数据,Espresso作为一个事务一致性文件存储,通过对整个公司的网络操作将取代遗留的Oracle数据库。它最初的设计就是为了提供LinkedIn InMail消息服务的可用性,该公司计划今年晚些时候将推出开源Espresso。
大数据应用案例之医疗行业
Seton Healthcare是采用IBM最新沃森技术医疗保健内容分析预测的首个客户。该技术允许企业找到大量病人相关的临床医疗信息,通过大数据处理,更好地分析病人的信息。
在加拿大多伦多的一家医院,针对早产婴儿,每秒钟有超过3000次的数据读取。通过这些数据分析,医院能够提前知道哪些早产儿出现问题并且有针对性地采取措施,避免早产婴儿夭折。
它让更多的创业者更方便地开发产品,比如通过社交网络来收集数据的健康类App。也许未来数年后,它们搜集的数据能让医生给你的诊断变得更为精确,比方说不是通用的成人每日三次一次一片,而是检测到你的血液中药剂已经代谢完成会自动提醒你再次服药。
Express Scripts就是这么一家处方药管理服务公司,目前它正在通过一些复杂模型来检测虚假药品,这些模型还能及时提醒人们何时应该停止用药。 Express Scripts能够解决该问题的原因在于所有有关数据。因为它每年管理着1.4亿处方,覆盖了一亿美国人和65,000家药店,虽然该公司是能够识别潜在问题的信号模式,但它也使用数据来尝试解决某些情况下之前曾经发现的问题。
同时,Express Scripts还着眼于一些事情,如他们所开处方的药物种类,甚至有人在网上谈论医生。如果一个医生的行为被标记为红色的旗帜,那么他在网络上是个好人的形象,更是你所需要的医生。
大数据应用案例之保险行业
保险行业并非技术创新的指示灯,然而MetLife保险公司已经投资3亿美金建立一个新式系统, 其中的第一款产品是一个基于MongoDB的应用程序,它将所有客户信息放在同一个地方。
MongoDB汇聚了来自70多个遗留系统的数据,并将它合并成一个单一的记录。它运行在两个数据中心的6个服务器上,目前存储了24TB的数据。这包括MetLife的全部美国客户,尽管它的目标是扩大它的国际客户和多种语言,同时也可能创建一个面向客户的版本。它的更新几乎是实时的,当新客户的数据输入时,就好像Facebook墙一样。
大多数疾病可以通过药物来达到治疗效果,但如何让医生和病人能够专注参加一两个可以真正改善病人健康状况的干预项目却极具挑战。安泰保险目前正尝试通过大数据达到此目的。
安泰保险为了帮助改善代谢综合征患者的预测,从千名患者中选择102个完成实验。在一个独立的实验室工作内,通过患者的一系列代谢综合症的检测试验结果,在连续三年内,扫描600,000个化验结果和18万索赔事件。将最后的结果组成一个高度个性化的治疗方案,以评估患者的危险因素和重点治疗方案。这样,医生可以通过食用他汀类药物及减重5磅等建议而减少未来10年内50%的发病率。或者通过你目前体内高于20%的含糖量,而建议你降低体内甘油三酯总量。
大数据应用案例之职业篮球赛
专业篮球队会通过搜集大量数据来分析赛事情况,然而他们还在为这些数据的整理和实际意义而发愁。通过分析这些数据,可否找到两三个制胜法宝,或者至少能保证球队获得高分? Krossover公司正致力于此。
在每场比赛过后,教练只需要上传比赛视频。接下来,来自Krossover团队的大学生将会对其分解。等到第二天教练再看昨晚的比赛时,他只需检查任何他想要的——数据统计、比赛中的个人表现、比赛反应等等。通过分析比赛视频,毫不夸张地分析所有的可量化的数据。
大数据应用案例之能源行业
智能电网现在欧洲已经做到了终端,也就是所谓的智能电表。在德国,为了鼓励利用太阳能,会在家庭安装太阳能,除了卖电给你,当你的太阳能有多余电的时候还可以买回来。通过电网收集每隔五分钟或十分钟收集一次数据,收集来的这些数据可以用来预测客户的用电习惯等,从而推断出在未来2~3个月时间里,整个电网大概需要多少电。有了这个预测后,就可以向发电或者供电企业购买一定数量的电。因为电有点像期货一样,如果提前买就会比较便宜,买现货就比较贵。通过这个预测后,可以降低采购成本。
维斯塔斯风力系统,依靠的是BigInsights软件和IBM超级计算机,然后对气象数据进行分析,找出安装风力涡轮机和整个风电场最佳的地点。利用大数据,以往需要数周的分析工作,现在仅需要不足1小时便可完成。
大数据应用案例之社会生活
印度有一档非常受欢迎的电视节目Satyamev jayate,该节目整理并分析社会民众关于争议话题的各种意见,包括女性堕胎、种姓歧视和虐待儿童等社会热点问题,并使用这些数据来推进政治改革。
虽然目前只播放了13集,但是来自各方的反馈数据不容小觑。
-来自印度电视和世界各地的YouTube上的400万观众;
-超过1.2亿人在其网站、Facebook,Twitter,YouTube和移动设备上已连接Satyamev jayate;
-超过800万的人通过Facebook,网络注释,文本消息及电话热线等方式发送14万个回应,每周有超过10万个新观众进行回应。
大数据应用案例之公路交通
在洛杉矶开过车的人一定都经历过那里噩梦般的交通拥堵情况。目前政府在I-10和I-110州际公路上建立了一条了收费的快速通道。政府可通过大数据引导驾驶人员在该通道上的行驶情况,保证交通畅通。
施乐就是参与此次项目的公司,它的抗拥塞项目,包括用ExpressLanes、动态定价,上升的需求等等以维持某种秩序的想法。施乐公司的首席技术执行官Natesh Manikoth表示,如果司机支付给驾驶热车道(高占用收费系统),他必须保证车速每小时45英里左右。如果交通开始拥堵,私家汽车的支付价格将上升,以减少他们进入,而将车道用于高占用率的车辆,例如公共汽车和大巴车。
施乐还有另一个项目在洛杉矶称为ExpressPark, 目标是让人们知道他们何时即将离开房子,在哪能找到停车场和花费金额。不仅要确保定价,同时更要确保数据实时到达用户手中。例如,应当提前40分钟告知用户停车位置。
大数据应用案例之汽车制造
当问起汽车的制造过程,大多数人脑子里随即浮现的是各种生产装配流水线和制造机器。然而在福特,在产品的研发设计阶段,大数据就已经对汽车的部件和功能产生了重要影响。
比如,福特产品开发团队曾经对SUV是否应该采取掀背式(即手动打开车后行李箱车门)或电动式进行分析。如果选择后者,门会自动打开、便捷智能,但这种方式会影响到车门开启有限的困恼。此前采用定期调查的方式并没有发现这个问题,但后来根据对社交媒体的关注和分析,发现很多人都在谈论这些问题。
大数据应用案例之零售业
“我们的某个客户,是一家领先的专业时装零售商,通过当地的百货商店、网络及其邮购目录业务为客户提供服务。公司希望向客户提供差异化服务,如何定位公司的差异化,他们通过从 Twitter 和 Facebook 上收集社交信息,更深入的理解化妆品的营销模式,随后他们认识到必须保留两类有价值的客户:高消费者和高影响者。希望通过接受免费化妆服务,让用户进行口碑宣传,这是交易数据与交互数据的完美结合,为业务挑战提供了解决方案。”Informatica的技术帮助这家零售商用社交平台上的数据充实了客户主数据,使他的业务服务更具有目标性。
零售企业也监控客户的店内走动情况以及与商品的互动。它们将这些数据与交易记录相结合来展开分析,从而在销售哪些商品、如何摆放货品以及何时调整售价上给出意见,此类方法已经帮助某领先零售企业减少了17%的存货,同时在保持市场份额的前提下,增加了高利润率自有品牌商品的比例。
大数据应用案例之总统竞选
许多人通过Facebook更新个人状态、分享图片以及他们"喜欢"的内容。奥巴马的总统竞选运动也通过使用社交网络的各种数据功能完成了竞选,他们不仅通过社交网络寻找支持者,而且还通过社交网络召集了一批志愿军。
早在2006年,Facebook联合创始人,克里斯·休斯就建议扎克伯格在网站上推出相关服务,帮助总统候选人在Facebook上建立个人主页,以便他们进行形象推广。2006年9月,Facebook全面开放,用户数量爆炸式增长,在年底达到1200万。这一过程恰好有利地推升了奥巴马的知名度。此后,在克里斯的辅佐下,奥巴马掀起了一系列的网络活动,在Facebook、MySpace等社交网站上发表公开演讲、推广施政理念,赢得大量网民支持,募集到5亿多美元的竞选经费。
最终,"黑人平民"战胜了实力雄厚的对手,成为美国历史上第一位黑人总统,之后,在第二次的选举中更获得连任。此次选举被认为是美国民主的巨大进步,而互联网则提供了前所未有的实施手段,其中尤以Facebook代表的社交网站最为突出,以至于有人戏称之为"Facebook之选"。
大数据应用案例之电子邮件
MailChimp的核心业务是提供电子邮件服务,它在一年内为大约300万用户发送了350亿封邮件。不过真正能体现MailChimp未来价值的则是该公司对这些邮件数据的处理和分析。
MailChimp的一个重要任务就是搞清楚如何帮助客户更好地了解他们所发送的信息。考虑到这一点,该公司建立了一个服务叫Wavelength,向客户展示了与他们相似的其他讯息。这个系统使得Wavelength能够储存公司数据库中每个邮件地址发生的互动。这意味着告诉了你,用户打开了什么样的邮件,何时打开,他们点击了什么链接,还有订阅了什么邮件。MailChimp也有一个功能叫做Ecommerce360,能让客户通过转换来跟踪点击。
大数据应用案例之音乐
十多年前,音乐元数据公司Gracenote收到来自苹果公司的神秘忠告,建议其购买更多的服务器。Gracenote照做了,而后苹果推出iTunes和iPod,Gracenote从而成为了元数据的帝国。
在车内听的歌曲很可能反映你的真实喜好, Gracenote就拥有此种技术。它采用智能手机和平板电脑内置的麦克风识别用户电视或音响中播放的歌曲,并可检测掌声或嘘声等反应,甚至还能检测用户是否调高了音量。这样,Gracenote可以研究用户真正喜欢的歌曲,听歌的时间和地点。
Gracenote拥有数百万首歌曲的音频和元数据,因而可以快速识别歌曲信息,并按音乐风格、歌手、地理位置等分类。
文章来自:中国大数据
- ?
案例研究:关于运动大数据APP的用户洞察及案例分析
Samana
展开
中国运动大数据行业用户洞察
中国运动大数据行业用户调研说明
研究目的及内容
《2018年中国运动大数据行业报告》是通过艾瑞iClick在线调研社区,利用定量研究方法,对国内运动健身人群的运动偏好、对待运动大数据服务产品的态度及未来购买意愿等内容的在线调查及研究。以期为关注运动健身行业及运动大数据产品发展的企业及从业者提供有价值的参考依据。
调研样本说明
中国运动健身人群画像
越高认知的人群越喜爱运动健身并愿意以健康管理为目的为智能设备买单;越专业的用户越愿意实时调整运动状态。
日常运动偏好
日常运动情况概览:运动健身项目中,户外慢跑仍最受用户青睐
根据调研结果,在国内运动健身用户的日常运动项目类型方面,户外慢跑是目前最受国内运动健身人群的项目类型,有78.0%的用户表示日常会有慢跑行为,此外,远足/徒步(60.6%)和家中健身(60.2%)的人数占比也超过了6成,属于热门运动类型。
对于运动APP的使用方面,调研结果显示国内运动健身用户主要在跑步健身的过程中使用运动APP,其中最常使用运动APP的三个场景是户外慢跑(65.3%)、远足/徒步(46.1%)与家中健身(39.9%)。
主要困扰及解决方式:运动效果不明显是难以长期坚持的原因之一,从而用户更期待通过寻找运动伙伴提供专业建议来解决
在运动过程中的主要困扰方面,过半的国内运动健身用户(62.2%)反馈最主要的问题是难以长期坚持运动,此外,运动行为无人激励(46.4%)、运动装备不够舒适(36.0%)等问题也在困扰国内的运动健身用户。
在面对这些运动问题时,超过9成用户会选择主动去解决问题,其中70.7%的用户表示会通过寻找有效的运动伙伴来解决自身相关运动困扰。在进一步的调研中显示,寻找有效的运动伙伴相比于社交需求的寻找伙伴有着本质不同,用户对于寻找有效的运动伙伴的初衷在于获取更专业的运动建议来指导训练。
使用运动APP概况:用户每周使用运动APP时长有限,期待更好的运动效果
调研结果显示,在使用运动APP的频率方面,超过7成的国内运动健身用户表示会经常或总是使用运动APP,运动健身APP在国内运动人群中具有较高的粘性,吸引用户以较高频次进行访问与使用。
在使用运动APP的时长上,根据调研数据,超过半数的国内运动用户(61.1%)每周使用运动APP的时间集中在1-7小时这一区间段。可见大多数国内用户目前平均每天使用运动APP的时间在一小时以内,如何提升有限运动时间内的运动效果成为了行业内企业需要解决的一个痛点。
运动APP关注点:用户关注APP智能化,未来希望能够实时监测身体状态
在选择运动APP的考虑因素方面,调研结果显示,国内运动健身用户最为关注运动APP的智能化情况(44.7%),能否真正做到“智能”,为用户运动过程提供到便捷和有效信息是用户在选择不同APP时最为看重的因素。此外,APP内容的专业程度和APP运动课程的效果也是国内用户较为看重的考虑因素。
在被问及未来对于运动APP的主要期待内容时,国内用户主要选择了“训练中实时查看数据”(56.1%)、“训练效果分析报告”(54.2%)和“个性化定制和推荐训练”(52.1%)这三大内容。
运动APP获知渠道:运动APP多由朋友推荐,主要用来记录查看运动数据
在运动APP的获知渠道方面,根据调研数据,朋友推荐(53.9%)是国内运动健身用户获知运动APP信息的主要渠道,其次通过朋友圈/微博等社交平台获得相关运动APP信息的用户也超过半数,达到50.3%。
在使用运动APP的主要目的方面,国内用户主要通过运动APP来记录或查看运动数据(50.9%),另外日常运动打卡的分享功能也受到国内用户的欢迎(46.0%)。用户群体更希望看到针对自己的个性化的运动数据报告呈现,越年轻的群体也愿意分享传播自己不同的运动方式、运动心得与运动效果。
运动大数据服务偏好
使用频次:七成用户听说过运动大数据服务,目前服务使用频率较高
在被问及是否听说过运动大数据分析相关服务时,有70.8%的国内运动健身用户表示听所过来自运动APP等智能产品的运动大数据分析服务例如(运动周报等),但当前运动大数据服务形式较为基础,未来仍有很大提升空间。而在使用相关运动大数据服务的频率方面,调研结果显示有69.0%的国内运动健身用户会经常或总是使用运动大数据的相关服务或功能,大多数运动人群对运动大数据相关服务的使用频率较高。
智能运动产品:腕上设备最受用户欢迎,健康管理用途占比较高
在国内用户使用的运动大数据产品的主要类型方面,调研结果显示智能手环目前最受国内运动健身用户的欢迎,使用该产品的用户占比达到67.6%,此外智能手表(46.6%)和智能体脂秤(37.1%)分列第二、三位受欢迎的运动大数据产品。
而在使用运动大数据产品的主要目的方面,50.2%的运动健身用户选择了“记录运动时间”这一选项,此外“运动消耗卡路里统计”和“记录运动路线”等于个人运动数据统计查看相关的服务业排名前列,可见当前运动健身用户对于运动大数据产品的需求主要是在记录和统计个人相关运动数据方面。
未来期待用途:近六成用户愿主动开放个人运动数据,医疗相关用途受欢迎
在被问及是否愿意开放个人运动数据供企业或相关机构进行运动大数据分析时,仅有不到1成的用户不愿开放个人运动数据,59.3%的国内运动健身用户表示愿意主动开放个人运动数据供大数据分析,可见多数运动用户愿意积极配合运动大数据行业发展。
对于个人运动数据的主要用途,根据调研结果数据,医疗相关的用途最受国内用户的欢迎。通过运动大数据的检测分析个人身体的状态、避免运动损伤等医疗相关技术能够让大数据服务真正造福运动用户,让用户享受更好的运动体验。
使用现状:用户偏爱更具科技范的智能运动产品,更加智能的产品研发将成为趋势
在用户选择大数据产品时的考虑因素方面,调研结果显示,最受到国内运动健身用户关注的因素是运动大数据产品的准确性,用户占比达到51.3%,可见目前运动健身用户对于运动大数据产品最为关注的内容还是在数据本身的真实性和有效性上,在准确性方面具有优势的产品更为受到用户欢迎。
而对于目前运动大数据产品的有待改进之处,调研数据显示国内用户对于产品的性价比方面相对有更高的期待,有待改进的问题主要是:产品智能科技感低于预期(41.4%)、价格过高(41.3%)和功能过于单一(41.1%)。未来行业内企业应加强硬件及算法研发,推出更智能产品满足用户需求。
运动定制产品:多数用户愿意购买运动定制产品,其中腕上设备最受热捧
通过对个人运动数据和整体运动人群的大数据分析和比较,针对不同运动人群的运动定制产品将不再是遥不可及的服务,当被问及未来购买运动大数据定制产品的意愿时,有88.8%的用户表示愿意购买相关运动定制产品;在具体定制产品的类型方面,调研结果显示定制手环是最受用户热捧的定制产品,其选择用户占比达到76.0%,除此之外定制球鞋(53.8%)的人群占比也超过半数。
相关性分析
用户运动频率与健康状况:使用运动APP频率越高,用户个人健康状况更佳
通过调研问卷,用户反馈了自身日常使用运动APP的频率,以及个人目前健康状况情况(日常生病频率、日常生活精神状态情况以及对自身身材满意度情况),通过皮尔森相关性分析(Pearson’s Correlation Analysis)结果显示,用户个人的运动APP使用频率与个人健康状况呈现正相关关系,相关系数r=0.26且在统计学上有显著意义。这表明用户越频繁使用运动APP,其个人健康状况会越好,运动APP的使用一定程度上能够正面影响个人健康情况。
智能运动装备应用场景趋势
未来用户更加追求社交功能多样化,运动数据评估,个性化服务以及直播+实时数据监测
中国运动大数据典型企业分析
PELOTON
运动健身行业的独角兽
PELOTON于2012年获得第一笔约为390万美元用于产品研发资金,截止2018年筹集6轮共9.944亿美元融资。目前估值约为40亿美元。PELOTON产品+服务的商业模式较为简洁,通过通过课程、互动、数据分析激励解决了大多数人都会面对的“运动惰性”使其用户量保持较快速的增长。它在全美设立了22个展厅,还有两个工作室,一个位于曼哈顿,另一个设在芝加哥。客户们可以选择各种直播课程和存档课程。健身自行车售价为1995美元而课程包月费用为39美元。
咕咚
国内最早布局运动大数据服务的硬件+软件平台型企业
咕咚于2009年10月23日在成都注册成立。最初的定位是硬件公司,推出咕咚运动手环等产品;之后伴随着运动社交化的理念,吸引了一大批的爱好运动人士;而如今随着大数据及人工智能时代的到来,创始人申波早早凭借其敏锐的嗅觉以及技术背景洞察到了运动与大数据结合的机遇并在运动大数据行业中走在前列。截止目前,咕咚App用户总数突破1.5亿人以及超过50亿条的运动数据。
咕咚健身3.0Alive:运动健身与智能装备&大数据的结合并非偶然
在慢跑已经被广大人群所熟知的情况下,健身在近几年愈发火热。咕咚于2018年9月举行了咕咚健身3.0Alive发布会。发布会中推出了多款搭载智能硬件的运动装备,但亮点莫过于大数据+直播的健身课程。
这款课程是咕咚基于多年对于运动者运动数据的收集,处理,分析推出的精准训练课程,可为运动者带来更好的运动体验,同时,直播老师会根据佩戴者的智能装备实时监测运动者的训练数据,对其身体状态进行监督及作出恰当的训练指导意见。
咕咚未来方向:智能装备+大数据服务
咕咚会以智能装备及大数据服务双轮驱动,参考估值40亿美元的PELOTON。通过进一步提升技术与智能装备能力,来提供更加安全、科学、全面、丰富的运动健身及健康管理服务。
目前,咕咚已经开始探索医疗级运动数据能力构建,依靠未来国家的政策支持,国内的人群基数,运动健身与健康管理的双交叉人群,布局更加丰富的应用场景,解决广大消费群体运动健身与健康管理的核心需求。
Keep
运动健身课程内容处于国内领先地位
提及Keep,不得不说的就是其在业内领先的运动健身课程内容。课程的完整性,系统性均处于行业的领先地位,这也是得益于创始人王宁的健身历程。“具有社交属性的移动健身工具”是其产品核心定位。与其Slogan中提到的“自律给我自由”一样,Keep通过对课程内容及硬件研发,在努力解决诸多用户运动健身的痛点。通过提升内容质量与创造便捷化运动场景增加用户粘性,最终达到运动自律的目的。目前Keep注册用户量已达亿级,是移动健身产品中用户规模较大、具备较高影响力和竞争力的头部产品之一。现有的智能硬件为KeepKit跑步机。
KeepKit与Keepland:扩大内容优势的同时发力线下业务
凭借着其运动健身的内容优势,Keep吸引了一大批忠实的运动健身人群。在2017年Keep开始了其横向及纵向业务的拓展。
横向业务中增加了跑步及骑行的课程内容而纵向业务则针对智能运动硬件及线下健身房进行拓展。
KeepKit是Keep推出的一款智能运动硬件,其三大亮点为社交性、标准化与屏幕指导。
Keepland则是Keep进军线下的出发点,充分将线上优势课程内容与线下健身房融合,意图将Keepland发展成为便利店形式的新型健身房,向健身用户提供更加全方面的“运动一站式服务”。
悦跑圈
专注完善跑步全产业链发展
悦跑圈是一款专注跑步全产业链的公司,产业链涵盖了从杂志到媒体,赛事执行、服装设计到旅游公司。国内首创线上马拉松并且其奖牌是运动人群争相收藏的物品。同时悦跑圈也是中国田径协会线上马拉松唯一的战略合作伙伴。
悦跑圈的马拉松之旅:B端马拉松赛事服务
悦跑圈的定位是一家体育服务公司,除了线上马拉松之外,还创新的推出粉红女子跑等各类趣味性跑步活动以及3km,5km,10km等短距离马拉松赛事,为“小白”跑者更好的参与到马拉松运动中来提供了契机。
通过跑者运动的数据记录跑者跑步信息,其中包括GPS轨迹记录和跑步数据分析。作为中国田径协会战略合作伙伴,其数据防作弊系统更是获得了广大马拉松爱好者的一致好评。
悦动圈
红包与游戏化模式激励运动人群坚持运动
悦动圈成立于2014年,初衷是希望通过一系列游戏化的措施来帮å...
- ?
金融行业5个大数据应用案例及案例解析
着凉
展开
首席金融官
如今,金融业面临众多前所未有的跨界竞争对手,市场格局、业务流程将发生巨大改变,企业更替兴衰;未来的金融业,业务就是IT,IT 就是业务;金融业将开展新一轮围绕大数据、移动化、云的IT 建设投资。本节主要介绍金融行业大数据的应用案例,希望对读者有一定的启发和学习价值。
【案例一】淘宝网掘金大数据金融市场
随着国内网购市场的迅速发展,淘宝网等众多网购网站的市场争夺战也进入白热化状态,网络购物网站也开始推出越来越多的特色产品和服务。
1.余额宝
以余额宝为代表的互联网金融产品在2013 年刮起一股旋风,截至目前,规模超1000亿元,用户近3000 万,如图所示。相比普通的货币基金,余额宝鲜明的特色当属大数据。以基金的申购、赎回预测为例,基于淘宝和支付宝的数据平台,可以及时把握申购、赎回变动信息。另外,利用历史数据的积累可把握客户的行为规律。
2.淘宝信用贷款
淘宝网在聚划算平台推出了一个奇怪的团购“商品”——淘宝信用贷款。开团不到10 分钟,500 位淘宝卖家就让这一团购“爆团”。他们有望分享总额约3000 万元的淘宝信用贷款,并能享受贷款利息7.5 折的优惠。据悉,目前已经有近两万名淘宝卖家申请过淘宝信用贷款,贷款总额超过14 亿元。
淘宝信用贷款是阿里金融旗下专门针对淘宝卖家进行金融支持的贷款产品。淘宝平台通过以卖家在淘宝网上的网络行为数据做一个综合的授信评分,卖家纯凭信用拿贷款,无需抵押物,无需担保人。由于其非常吻合中小卖家的资金需求,且重视信用无担保、抵押的门槛,更加上其申请流程非常便捷,仅需要线上申请,几分钟内就能获贷,被不少卖家戏称为“史上最轻松的贷款”,也成为淘宝网上众多卖家进行资金周转的重要手段。
3.阿里小贷
淘宝网的“阿里小贷”更是得益于大数据,它依托阿里巴巴(B2B)、淘宝、支付宝等平台数据,不仅可有效识别和分散风险,提供更有针对性、多样化的服务,而且批量化、流水化的作业使得交易成本大幅下降。
每天,海量的交易和数据在阿里的平台上跑着,阿里通过对商户最近100 天的数据分析,就能知道哪些商户可能存在资金问题,此时的阿里贷款平台就有可能出马,同潜在的贷款对象进行沟通。
案例解析:通常来说,数据比文字更真实,更能反映一个公司的正常运营情况。通过海量的分析得出企业的经营情况,这就是大数据的应用。在本案例中,正像淘宝信用贷款所体现的那样,这种新型微贷技术不依赖抵押、担保,而是看重企业的信用,同时通过数据的运算来评核企业的信用,这不仅降低了申请贷款的门槛,也极大简化了申请贷款的流程,使其有了完全在互联网上作业的可能性。
大数据的价值已经得到互联网公司以及金融机构的认可,笔者认为:“谁掌握的‘拼图’图块多,谁就能快速拼出客户的图谱,成为真正的王者。”然而,目前来看,谁都不愿意轻易地交出自己手上的“拼图”,于是,互联网公司、银行、支付机构等各个海量数据的拥有者展开了激烈的金融数据争夺战。
【案例二】IBM 用大数据预测股价走势
不久前,IBM 使用大数据信息技术成功开发了“经济指标预测系统”。借助该预测系统,可通过统计分析新闻中出现的单词等信息来预测股价等走势。
IBM 的“经济指标预测系统”首先从互联网上的新闻中搜索与“新订单”等与经济指标有关的单词,然后结合其他相关经济数据的历史数据分析与股价的关系,从而得出预测结果。
在“经济指标预测系统”的开发过程中,IBM 还进行了一系列的验证工作。IBM 以美国“ISM 制造业采购经理人指数”为对象进行了验证试验,该指数以制造业中的大约20 个行业、300 多家公司的采购负责人为对象,调查新订单和雇员等情况之后计算得出。实验前,首先假设“受访者受到了新闻报道的影响”,然后分别计算出约30 万条财经类新闻中出现的“新订单”、“生产”以及“雇员”等5 个关键词的数量。追踪这些关键词在这段时期内的搜索数据变化情况,并将数据和道指的走势进行对比,从而预测该指数的未来动态。
IBM 研究称,一般而言,当“股票”、“营收”等金融词汇的搜索量下降时,道指随后将上涨,而当这些金融词汇的搜索量上升时,道指在随后的几周内将下跌。
据悉,IBM 的试验仅用了6 小时,就计算出了分析师需要花费数日才能得出的预测值,而且预测精度几乎一样。
案例解析:从本案例可以看出,大数据不再仅仅局限在媒体与厂商之间的讨论,它犹如一场数据旋风开始席卷全球,从各行各业的IT 主管到政府部门都开始重视大数据及其价值。
目前,不少信息系统企业都在使用大数据信息技术开发预测系统。例如,2011 年,英国对冲基金Derwent Capital Markets 建立了规模为4000 万美金的对冲基金,该基金是首家基于社交网络的对冲基金,该基金通过从Twitter 的数据内容来感知市场情绪,从而进行投资。无独有偶,美国加州大学河滨分校也公布了一项通过对Twitter 消息进行分析从而预测股票涨跌的研究报告。
笔者认为:“企业数据就是新时代还未开采的石油,具有非常之高的价值。”国外一些金融机构已经开始做一些前瞻性的研究了,这种做法是非常值得国内金融机构学习和借鉴的。例如,国内大部分证券公司仍然没有摆脱交易性数据为主的特点,但很多有前瞻意识的证券公司已经开始做一些转型了,对微博、互联网等外部数据进行一些分析与预测。
【案例三】汇丰银行采用SAS 管理风险
近日,汇丰银行选择SAS 防欺诈管理解决方案构建其全球业务网络的防欺诈管理系统。据悉,这一解决方案是一种实时欺诈防范侦测系统。
SAS 被誉为“全球500 强背后的管理大师”,是全球领先的商业分析软件与服务供应商。SAS 通过三部分服务(包括软件及解决方案服务、咨询服务、培训及技术支持服务)帮助客户洞察商机,成就变革,改善业绩。
凭借丰富的行业专业知识,SAS 的行业解决方案在各领域为行业解析蕴藏于信息之中的独特的商业问题。例如金融服务领域的信用风险管理问题、生命科学领域加快药物上市速度和识别零售领域的交叉销售机会等问题。SAS 还提供跨职能解决方案,不分行业地帮助企业克服其面临的挑战。例如增加客户关系价值、测量和管理风险、检测欺诈和优化IT 网络等。
汇丰银行与SAS 在防范信用卡和借记卡欺诈的基础上,共同扩展了SAS 防欺诈管理解决方案的功能,为多种业务线和渠道提供完善的欺诈防范系统。这些增强功能有助于全面监控客户、账户和渠道业务活动,进一步提高分行交易、银行转账和在线付款欺诈以及内部欺诈的防范能力。通过监控客户行为,汇丰银行可以优化并更加有效地利用侦测资源。
汇丰银行利用SAS 系统,通过收集和分析大数据解决复杂问题,并获得非常精确的洞察,以加快信息获取速度和超越竞争对手。因此,汇丰银行还将继续采用SAS 告警管理、例程和队列优先级软件,提高运营效率,以便迅速启动紧急告警。
案例解析:在当今这个海量数据的时代,如何找到大数据中蕴含的前所未有的商业价值?笔者认为高性能分析就是那把“钥匙”。在本案例中,SAS 高性能分析可以帮助用户:将相关的大数据转变为真正的商业价值,采用世界顶级的分析技术来生成精确的洞察,快速获得答案来改变企业的运营模式,以及部署一个适合未来扩展的分析架构。
总之,高性能分析环境让用户可以充分利用IT 投资,同时克服原有架构的约束,从大数据资产中产生高价值的洞察。
【案例四】Kabbage 用大数据开辟新路径
Kabbage 是一家为网店店主提供营运资金贷款服务的创业公司,总部位于美国亚特兰大,截至目前已经成功融资六千多万美元。Kabbage 的主要目标客户是eBay、亚马逊、雅虎、Etsy、Shopify、Magento、PayPal 上的美国网商。
Kabbage 与“阿里小贷”的经营模式类似,通过查看网店店主的销售和信用记录、顾客流量、评论以及商品价格和存货等信息,来最终确定是否为他们提供贷款以及贷多少金额,贷款金额上限为4 万美元。店主可以主动在自己的Kabbage 账户中添加新的信息,以增加获得贷款的概率。Kabbage 通过支付工具PayPal 的支付API 来为网店店主提供资金贷款,这种贷款资金到账的速度相当快,最快十分钟就可以搞定。
Kabbage 用于贷款判断的支撑数据的来源除了网上搜索和查看外,还来自于网上商家的自主提供,且提供的数据多少直接影响着最终的贷款情况。同时,Kabbage 也通过与物流公司UPS、财务管理软件公司Intuit 合作,扩充数据来源渠道。
目前,使用Kabbage 贷款服务的网店店主已达近万家,Kabbage 的服务范围目前仅限于美国境内,不过公司打算利用这轮融资将服务拓展至其他国家。
案例解析:基于大数据的商业模式创新过程有两个核心环节:一是数据获取;二是数据的分析利用。在本案例中,Kabbage 与阿里金融的区别在于数据获取方面,前者是从多元化的渠道收集数据,后者则是借助旗下平台的数据积累,其中网上商家可自主提供数据且其数据的多少直接决定着最终的贷款额度与成本,这充分体现出大数据的资产价值,就如同传统的抵押物一样可以换取资金。
笔者觉得,虽说大数据是一座极具价值的“金矿”,但如果不能科学地加以利用,那么大数据就变成了一堆堆毫无用处的“石头”,Kabbage 就是借助大数据技术,并结合金融行业的特点,有效地控制了风险,实现了完美融合和创新。 本文来自
金融是服务于实体经济的,随着大数据时代的到来,传统的实体经济形态正在向融合经济形态转变,同时虚拟经济也快速兴起,金融的服务对象必将随之发生变化,这种转变为金融业带来了巨大的机遇和挑战,如图 所示。
融合经济产生新的金融需求
虚拟经济(Fictitious Economy)是经济虚拟化(西方称之为“金融深化”)的必然产物,是指基于计算机和互联网产生的一种经济形态,其产品和服务都具有虚拟化的特点,具体包括软件、网络游戏、社交网络、搜索引擎、门户网站等细分市场领域。实体经济是指物质的、精神的产品和服务的生产、流通等经济活动。随着新兴信息技术的快速发展,实体经济与虚拟经济正在加速融合,从而衍生了未来的主体经济形态,即融合经济,电子商务、O2O 模式都是融合经济发展进程的一个产物。
【案例五】大数据时代信用卡该怎么玩
中信银行信用卡中心是国内银行业为数不多的几家分行级信用卡专营机构之一,也是国内最具竞争力的股份制商业银行信用卡中心之一。近年来,中信银行信用卡中心的发卡量迅速增长。
2013 年11 月,在中信银行与腾讯联合发布“中信银行QQ 彩贝联名信用卡”仪式上,中信银行信用卡中心总裁陈劲表示,该行信用卡发卡量已突破2000 万张,未来将充分利用互联网基因和大数据技术挖掘客户需求。
过去,中信银行信用卡中心无论在数据存储、系统维护等方面,还是在有效地利用客户数据方面,都面临巨大的压力。同时,为了应对激烈的市场竞争,中信银行信用卡中心迫切需要一个可扩展、高性能的数据仓库解决方案,支持其数据分析战略,提升业务的敏捷性。
2010 年4 月,中信银行信用卡中心实施了EMC Greenplum 数据仓库解决方案。Greenplum 数据仓库解决方案为中信银行信用卡中心提供了统一的客户视图,借助客户统一视图,中信银行信用卡中心可以更清楚地了解其客户价值体系,从而能够为客户提供更有针对性和相关性的营销活动。
基于数据仓库,中信银行信用卡中心现在可以从交易、服务、风险、权益等多个层面分析数据。通过提供全面的客户数据,营销团队可以对客户按照低、中、高价值来进行分类,根据银行整体经营策略积极地提供相应的个性化服务。
基于Greenplum 解决方案在系统维护方面的便捷简单,中信银行信用卡中心每年减少了大约500 万元的数据库维护成本,这有助于减少解决方案的总拥有成本。
案例解析:在本案例中,Greenplum 解决方案采用了“无共享”的开放平台MPP架构,此架构是为BI 和海量数据分析处理而设计,相比普通的数据库系统,该系统提供了更高的可扩展性。与其他产品相比,Greenplum 解决方案可以给中信银行信用卡中心提供最高级别的性能。同时,该解决方案与银行所使用的硬件、应用程序和数据源实现了有效集成。此外,Greenplum 解决方案通过把数据集中在一个统一的平台,极大地减少了系统维护的工作量。
笔者认为,大数据对信用卡产品的营销具有很大的促进作用。例如,在大数据的环境下,银行可以利用先进的互联网、云计算等新兴技术,对消费者的刷卡行为进行数据化的分类、统计,通过整理数据获取消费者的消费习惯、消费能力、消费偏好等非常重要的数据信息。通过客户数据、财务数据来区隔客户,通过消费区域定位、内容定向,知晓他们的消费习惯,然后进行深入地数据分析挖掘和展开精准营销。
- ?
案例分析:掌握AI在大数据领域的前沿应用
Francesca
展开
鸿侠从什么是数据新能源说起,接着介绍了阿里目前比较成功的两款数据产品,一个是是自动化标签生产,另外一个是大规模分布式知识图谱,以及在此之上的一些重要应用。最后是她对机器学习和人工智能技术对数据新能源产业中有效落地的一些建议和期望。
近日,全球技术学习技术大会首次在京举行,阿里巴巴数据技术及产品部资深算法专家杨红霞(鸿侠)作为特邀嘉宾出席并发表主题演讲。鸿侠从什么是数据新能源说起,接着介绍了阿里目前比较成功的两款数据产品,一个是是自动化标签生产,另外一个是大规模分布式知识图谱,以及在此之上的一些重要应用。最后是她对机器学习和人工智能技术对数据新能源产业中有效落地的一些建议和期望。
下面是基于鸿侠现场演讲内容摘要:
如果大家对阿里巴巴的新闻比较关注,最近可能会频繁听到阿里巴巴谈到“五新”这个词,“五新”中的其中一个概念是新能源。其实新能源就是大数据本身。技术、数据和算法三个方面结合在一起,才可以把数据真正用起来。
大家都知道,Google的数据量很大,但是它的数据源本身其实比较单一。以Google search,Google map等为主导。再来看看Facebook,它更多的是社交行为数据,缺少出行数据、 浏览器数据、或者类似优酷的视听数据。但是,对于阿里来说,上述的这些数据我们都有。我们面临的极大挑战是:怎么样有效的把这些全域数据融合在一起。
首先我们需要把数据有效地收集起来。把数据有效地收集、存储起来之后,接着要做的就是怎么通过算法把这些数据打通,并且真正有效、智能地把这些数据提炼出来。
这是阿里的一个生态体系图。最底层是阿里云,这是我们的一个计算存储框架。上面是阿里妈妈,阿里妈妈是负责整个阿里巴巴计算广告的一个部门,再上面是菜鸟、支付宝和蚂蚁金服。然后是与电商业务相关的,像淘宝网、天猫、聚划算等等,或者是跟文娱相关的,优酷土豆,还有像阿里旅行,口碑之类的业态。
阿里巴巴数据中台要做的事情是什么呢 举一个最简单的例子,之前有一个比较火的电视剧《三生三世》。《三生三世》火热上映的时候,与之相关的商品元素,比如饮食或者穿戴之类的商品,也会瞬间在淘宝网上火爆起来。那么如果我提前就知道某一类人群是《三生三世》的粉丝,我就可以在淘宝网上做非常高效的、准确的定位推广。阿里数据要做的是:把数据真正打通,深度挖掘数据的价值,为业务创新应用提供数据决策基础和依据。
下面具体介绍一下数据融合的技术框架。因为在真正进入算法之前,我们一定要对数据进行非常认真、仔细地进行清洗过程。俗话说,如果你的数据不清洗,其实就是“learn trash from trash”。所以数据本身一定要做得非常干净。
首先来看一下架构图,第一个数据层中有各种各样的数据,比如有消费数据,有广告数据,出行数据等等。把这些数据层经过有效结合在一起之后,接下来得到这种特征层的提取。在阿里数据内部,大概有这样几个比较抽象的维度:像账号设立的静态特征,电商行为的特征,或者设备的特征等等。
在特征层之上,我们会有模型层, 这里面有基于业务规则的模型,也有其他的例如异常检测,有监督或者无监督的学习,然后特征的联合校验等模型。因为我们的数据源非常多,因此我们也可以通过部分的数据源验证另外一个数据源,看数据的增长或者留存是否处于一个正常范围。另外还有一些比较好的方法,比如基于Graph的一些算法,实时的反作弊算法等等。在算法层之上,就是评估层。在评估层内,我们可以判断留下来的数据是否是真正有效的数据。
在上述这些数据层的上面,会有一个应用层,也同时会抽象出一些产品来帮助内部员工或者外部商家进行使用。所以,整个数据中台实际上是从底到上对数据进行清洗的一个架构。
当我们有了非常干净的数据之后,我们要做的就是把数据打通。我刚才说了,阿里生态体系会呈现出几百个不同的数据源,这些数据源本身的数据量非常大,收集模式也各不相同。那么我们是如何进行数据之间的融通的呢
上图是这是我们关于怎么把数据打通的一个技术架构。大家可以看到,整个技术体系都是,先把数据接进来,再通过一些机器学习或者深度学习的办法(像word2ve,node2vec, TFIDF,归一化等)处理特征层,之后映射到一些比较抽象的高纬度Level(比方说像用户的身份信息,网络的环境相似度,文本的相似度,APP相似度等等)。抽象完这些特征层之后,我们究竟怎样去判断。
这期间的方法大致可以分为四种有效的办法:
深度学习的模型
非线性模型
线性模型
图模型
此外,还有一些基于规则的强召回,就是比如说用户有相同的账号登陆不同的地方。这些是所谓的强召回,它可以非常准确地被判断出来。弱召回就是基于算法特征层的这些模型,有效地判断出所有信息是否真正属于同一个自然人。下面,基于刚才的打通融合的数据之后,介绍两个数据应用类产品。
1、自动化标签的生产
在电商业务中,我们想知道这个人背后更多的其他方面的特征。所以,我们会有一个自动化标签生产的体系,快速地进行标签生产。比方说上传一些种子用户,比较类似于像Facebook 的Look alike audience,可以快速在几千万个特征中选出来最重要的那些特征,然后通过最重要的这些特征对于那些还没有打标的庞大人群进行打标。
在阿里数据中台,我们研发了一个叫“自动化标签生产”的体系。这个体系需要满足三个需求:
需求的响应速度一定要快。
标签生产的负荷能力要强。
对于这个标签生产数据源是有一定要求的,就是你要做出判断,不是他上传了一批种子用户,他对某一些标签有需求,我们的数据量,或者数据就一定是足够帮你产生这些标签的。
所以,基于刚才的一些要求,我们推出了“标签工厂”的这一套服务体系。它可以达到几个目的:
降低成本。现在我们有一个可视化界面,只要你上传一个种子用户,按照你自己的要求,大概在一两个小时之内,帮你快速生产标签。
质量。当你在产生第一轮标签的时候,其实更多的还是基于对算法本身的一个评估判断。标签真正上线之后,在业务的指标上面会不停产生反馈,所以我们实时的把这些业务反馈放进在标签生产体系,不停地帮助优化标签的产生。
保证数据安全。
下面具体看一下我们的技术架构:
第一,数据源。你可以认为,整个数据新能源的数据源都是接到下面,经过数据清洗、打通之后,来到一个标签工厂的体系。在标签工厂,首先会进行一定特征学习(feature engineering),比方说有一些像类型判断、分层、降维,因为数据量非常大,通过深度学习,深度表征去学习出特征之间的非线性关系,和它们之间的high order interaction。
接下来就是打标。首先可以传一批种子用户,由于你打标签的这部分种子用户是非常小的一部分用户,所以还涉及到快速扩充Label,或者通过不停的这种adaptive learning去训练完之后,可能通过算法的输出,可以增加一些更有效的确实是能反映出你的Label真实的样本集。
如果你的标准样本很多,很丰富的情况下,你可以用有监督的学习。有监督的学习,其实有线性的、非线性的或者是基于深度学习的。真实情况是有label的sample很少,在更多情况下我们需要使用半监督的算法,例如self-training, co-training等。
2、大规模分布式知识图谱
讲完标签工厂之后,介绍另外一个产品,大规模分布式知识图谱。大规模知识图谱抽象也是一种图计算。首先谈一下基于大规模分布式知识图谱做了哪些工作,以及我们为什么要做这样一件事情。
阿里巴巴的生态非常丰富,而丰富的业态背后给我们数据工作者带来的困难就是,我们常常需要接入各种数据,并将他们有效地管理和整合起来,传统的方法,我们可能需要花几个月,投入几十个人做这样一件事情,对数据进行打标。
但是,假设我们已经知道数据和数据之间的一些关系,而且也知道数据表中哪些表之间调用的血缘关系。那么,如果我只是对调用次数最多的表进行非常精确地打标,然后用基于知识图谱的方法,对剩下的90%表进行推理式的Label打标,就能极大节约了人力成本。所以这就是我们为什么要用知识图谱去做数据接入这样的事情。那么,对于数据管理也是同样的道理。
假如只有1G的数据,你可以很快地回答出数据分布的情况和质量。而我们的现状时,我们的数据达到ZB级别的规模。因此对数据管理来说,挑战不容小觑。同样地来看看数据应用方面的情况。我们基于数据应用,实际上也有一款产品叫做“数据地图”。
数据地图是干什么呢 其实就是当你进行一个查询,在这个产品里会自动帮你反馈出一个最相关的表。延伸开来的是我们想要做得下一步工作:当你下一次进行查询后,能直接返回出相应的SQL,再产生出相应的表和相应的结果——这是我们想做的智能取数。
下面介绍一下知识图谱在数据管理和数据应用方面的落地进展。目前我们开发了一些基于几十万张、上百万张ODPS表的知识图谱。说一下我们的结果:
在数据资产管理中,有一项重要的工作就是判断数据的归属。我们有上百万张的线上表,其中可能有几万张到几十万张的表能够比较清楚判断是属于哪个团队,可以在数据版图上打标。但是,还有上百万张没有打标的表,因为这个表属于异构的。在之前,通过一些人工的规则,它的归属判断准确率大概是55%,而通过前面介绍的知识图谱框架,准确率可以提升到88%。所以,它对数据资产管理的准确性起了显著的提高作用。
接下来讲一下知识图谱在数据应用当中的一个技术框架,其实也是比较类似的:
首先,数据层。因为是一个知识图谱的构建,所以上面要加个辞典层和语义层。再上面就是基于推理层。在推理上,用的方法有大家比较熟悉的像随机游走和延伸等。那基于标注的,我们其实尝试了很多种方法,比方说张量分解等。
目前为止比较成功的是PRA(path rankingalgo),我们研发了几个主流的graph feature model,PRA在大规模分布式知识图谱推理上,在我们的问题中,表现是最好的。什么是PRA,其实是把这些路径抽象出来,然后就是学习一下再推荐这个路径,但是它对于我刚才说的很多文本信息并没有有效的利用起来,比如对于这些表的描述,在最原始的PRA当中路径本身的位置是有考虑进去的,当然我对于这些描述,可能会知道也许这个路径更有效。所以,后来我们看了一下这个Trans系列,其实类似text analysis 中的word2vec vs tfidf。确实在我们整个的刚才说的案例当中也是有比较大的提高。
看一个具体的例子,在数据地图当中,知识图谱到底是怎么工作的:
你打出一个查询,首先就是基本的分词与分析,其实大家可以看到,我们这个场景也是相当于搜索反馈一个结果,但是其实它和传统的搜索是不一样的:传统的搜索像Google、百度,其实它关心的指标是你准确的那个值是不是在TOP5或者TOP10。
但是,我们这个场合下一定要反馈唯一的、准确的表。所以,接下来我们会有一些模板匹配,所以这里非常重要的一部分是人机交互这一块,把人机交互的结果,就是人要告诉你说,这个结果是否是他想到的,然后知识图谱整个刚才的框架有效的结合在一起,然后产生出你真正想找到那张表,然后整个的这个过程,其实这些是一些抽象出来的模板,这些模板可能是不够的。因为随着人的查询越来越多,模板也需要慢慢的扩展。现在我们还是基于一些规则判断一些模板,未来我们也会尝试,让这个机器自动产生一些模板。
所以总结一下,我刚才给大家大概介绍了一下什么叫数据新能源,以及我们在数据新能源上两个成功产品,一个是自动化标签的生产,可以在非常快速的在几个小时之内,为几亿人打上有效的标签,并且快速的验证落地。另外一个是大规模分布式知识图谱,以及两个应用的比较好的产品,一个是数据资产管理,另外一个是数据地图,就是快速的查询这个有效的表。未来我们想做的不只是一个表本身,也许就是一个query对应的sql,对应的你最后的结果。
最后再讲一下我们对于整个工业界中机器学习怎么才能成功落地的一些建议:
第一,必须要有大数据。如果没有大数据,其实很多的挑战你是看不到的。而且大数据本身一定是要丰富多样的,如果数据源本身过于单一,其实对模型的挑战是比较小的。所以你的数据源本身多样性比较要多,机器学习才会发挥出更大的作用;
第二,一定要有计算平台。像现在阿里云给我们提供了一个非常好的保障;
第三,你开发的算法一定是要通用的。就是大家可能是在这个公司工作会发现,每开发一套算法,投入的人力和时间和成本都是比较高的。所以说你的算法本身可延展性一定是要比较好的。
我今天的演讲就到这里。谢谢大家!
文章来源:钱塘大数据交易中心 qtjiaoyi
- ?
大数据的5大经典案例,挖掘数据背后的价值
吉夏兰
展开
大数据时代的来临,使得企业在业务运作的过程中产生的数据量呈现出了爆发式的增长。各行各业都面临着海量数据的分析和处理问题。如何运用大数据技术从海量数据中挖掘出有价值的信息,将是今后企业发展的一个巨大挑战。我们在迎接挑战的同时,也可以了解、学习国内外大数据应用中的经典案例,希望能对我们有所启示。
01 塔吉特(Target)百货孕妇营销分析
最早关于大数据的故事发生在美国第二大超市塔吉特(Target)百货。孕妇对于零售商来说一直是个含金量很高的顾客群体,但是她们一般都会去专门的孕妇商店。人们一提起塔吉特,往往想到的都是日常生活用品,却忽视了塔吉特也有孕妇需要的一切。在美国,出生记录是公开的,等孩子出生了,新生儿母亲就会被铺天盖地的产品优惠广告包围。如果等到孩子出生再行动就晚了,因此零售商必须赶在孕妇怀孕前期就行动起来。
塔吉特的顾客数据分析部门发现,怀孕的妇女一般会在怀孕第三个月的时候购买很多无香乳液、无添加的化妆品、护肤品等等。几个月后,她们会购买镁、钙、锌等营养补充剂。根据数据分析部门提供的模型,塔吉特制订了全新的广告营销方案,在孕期的每个阶段给客户寄送相应的优惠券。结果,孕期用品销售呈现了爆炸性的增长。2002年到2010年间,塔吉特的销售额从440亿美元增长到了670亿美元。大数据的巨大威力轰动了全美。
02 谷歌的意图
如果说有一家科技公司准确定义了“大数据”概念的话,那一定是谷歌。根据搜索研究公司comScore的数据,仅2012年3月一个月的时间,谷歌处理的搜索词条数量就高达122亿条。谷歌的体量和规模,使它拥有比其他大多数企业更多的应用大数据的途径。
谷歌搜索引擎本身的设计,就旨在让它能够无缝链接成千上万的服务器。如果出现更多的处理或存储需要,抑或某台服务器崩溃,谷歌的工程师们只要再添加更多的服务器就能轻松搞定。将所有这些数据集合在一起所带来的结果是:企业不仅从最好的技术中获益,同样还可以从最好的信息中获益。下面选择谷歌公司的其中三个亮点。
谷歌意图:谷歌不仅存储了搜索结果中出现的网络连接,还会储存用户搜索关键词的行为,它能够精准地记录下人们进行搜索行为的时间、内容和方式,坐拥人们在谷歌网站进行搜索及经过其网络时所产生的大量机器数据。这些数据能够让谷歌优化广告排序,并将搜索流量转化为盈利模式。谷歌不仅能追踪人们的搜索行为,而且还能够预测出搜索者下一步将要做什么。用户所输入的每一个搜索请求,都会让谷歌知道他在寻找什么,所有人类行为都会在互联网上留下痕迹路径,谷歌占领了一个绝佳的点位来捕捉和分析该路径。换言之,谷歌能在你意识到自己要找什么之前预测出你的意图。这种抓取、存储并对海量人机数据进行分析,然后据此进行预测的能力,就是数据驱动的产品。
03 沃尔玛的“啤酒加尿布”
总部位于美国阿肯色州的世界著名商业零售连锁企业沃尔玛拥有世界上最大的数据仓库系统。为了能够准确了解顾客在其门店的购买习惯,沃尔玛对顾客的购物行为进行了“购物篮分析”。沃尔玛数据仓库里集中了其各门店的详细原始交易数据,在这些原始交易数据的基础上,沃尔玛利用NCR数据挖掘工具对这些数据进行分析和挖掘,可以很轻松地知道顾客经常一起购买的商品有哪些。一个意外的发现是:“跟尿布一起购买最多的商品竟是啤酒!”
这是数据挖掘技术对历史数据进行分析的结果,反映了数据内在的规律。沃尔玛派出市场调查人员和分析师对这一数据挖掘结果进行调查分析。经过大量实际的调查和分析,揭示了隐藏在“尿布与啤酒”背后的美国人的一种行为模式:在美国,一些年轻的父亲下班后经常要到超市去买婴儿尿布,而他们中有30%-40%的人同时也为自己买一些啤酒。产生这一现象的原因是:美国的太太们常叮嘱她们的丈夫下班后为小孩买尿布,而丈夫们在买尿布后又随手带回了他们喜欢的啤酒。
既然尿布与啤酒一起被购买的机会很多,于是沃尔玛就在其一个个门店将尿布与啤酒摆放在一起,结果是尿布与啤酒的销售量双双增长。
04 中国移动的数据化运营
通过大数据分析,中国移动能够对企业运营的全业务进行针对性的监控、预警、跟踪。大数据系统可以在第一时间自动捕捉市场变化,再以最快捷的方式推送给指定负责人,使他在最短时间内获知市场行情。
客户流失预警:一个客户使用最新款的诺基亚手机,每月准时缴费、平均一年致电客服3次,使用WEP和彩信业务。如果按照传统的数据分析,可能这是一位客户满意度非常高、流失概率非常低的客户。事实上,当搜集了包括微博、社交网络等新型来源的客户数据之后,这位客户的真实情况可能是这样的:客户在国外购买的这款手机,手机中的部分功能在国内无法使用,在某个固定地点手机经常断线,彩信无法使用——他的使用体验极差,正在面临流失风险。这就是中国移动一个大数据分析的应用场景。通过全面获取业务信息,可能颠覆常规分析思路下做出的结论,打破传统数据源的边界,注重社交媒体等新型数据来源,通过各种渠道获取尽可能多的客户反馈信息,并从这些数据中挖掘更多的价值。
数据增值应用:对运营商来说,数据分析在政府服务市场上前景巨大。运营商也可以在交通、应对突发灾害、维稳等工作中使大数据技术发挥更大的作用。运营商处在一个数据交换中心的地位,在掌握用户行为方面具有先天的优势。作为信息技术的又一次变革,大数据的出现正在给技术进步和社会发展带来全新的方向,而谁掌握了这一方向,谁就可能成功。对于运营商来说,在数据处理分析上,需要转型的不仅是技巧和法律问题,更需要转变思维方式,以商业化角度思考大数据营销。
05 阿里信用贷款和淘宝数据魔方
中国最大的电子商务公司阿里巴巴已经在利用大数据技术提供服务:阿里信用贷款与淘宝数据魔方。
每天有数以万计的交易在淘宝上进行。与此同时相应的交易时间、商品价格、购买数量都会被记录。更重要的是,这些信息可以与买方和卖方的年龄、性别、地址、甚至兴趣爱好等个人特征信息相匹配。各大中小城市的百货大楼做不到这一点,大大小小的超市做不到这一点,而互联网时代的电商可以做到。
淘宝数据魔方就是淘宝平台上的大数据应用方案。通过这一服务,商家可以了解淘宝平台上的行业宏观情况、自己品牌的市场状况、消费者行为情况等,并可以据此进行生产、库存决策,而与此同时,更多的消费者也能以更优惠的价格买到心仪的宝贝。
而阿里信用贷款则是阿里巴巴通过其掌握的企业交易数据,借助大数据技术自动分析判定是否给予企业贷款,全程不会出现人工干预。截至目前,阿里巴巴已经放贷300多亿元,坏账率约0.3%左右,大大低于商业银行。
- ?
五个大数据分析成功案例分享
公孙芾
展开
首席信息官正在利用数据分析来提高效率和促进增长,但并不是每一次努力都会产生结果。以下讲述了优秀的首席信息官是如何成功地利用数据分析和机器学习技术来增加收益或降低成本的。
如果把数据比作新的石油,那么掌握如何将其提炼为可使用的情报就是发挥其潜力的关键。为此,首席信息官正在使用预测分析工具,设计机器学习算法和对其他解决方案进行测试,以追求企业的效率和以新的方式为客户服务。
胡椒博士集团(Dr.PepperSnappleGroup)将机器学习技术用于语境相关性工作中
多年来,胡椒博士集团的销售路线员工一直是抓着一本厚厚的活页夹,里面装满了客户数据、销售和促销说明,然后去吸引一些零售客户,如沃尔玛和塔吉特百货公司(Target)等。今天,销售人员不再使用这种活页夹,而是配备了能告诉他们需要拜访哪家商店的iPad,而且还会告诉销售人员该为这些零售商提供何种优惠,以及其他关键指标。胡椒博士集团的首席信息官汤姆·法拉(TomFarrah)表示:“他们都是接订单的销售人员,为此他们感到很骄傲。现在他们配备了信息资料来帮助其实现目标,使他们成为智能的销售人员。”
该MyDPS平台配有机器学习和其他分析工具,可在工作人员加载应用程序时向其提供建议和日常操作记分卡。这些算法向员工显示他们是如何按照预期计划进行工作的,包括他们是否按照自己的计划工作,或是落后于计划,以及给他们提供见解,让他们清楚如何纠正他们的工作。法拉说:“如果我要让某人获得成功,我必须确保他们拥有哪些信息是与工作内容相关的。”
经验教训:为了测试验证MyDPS平台的概念,法拉将该软件分给了一个分公司的四个人,并让业务总裁去拜访他们。他们透露,自从上个月使用MyDPS之后,执行销售额已经提高了50%,这一表现让他批准了该项目。法拉说:“他获得了结果,这就是销售所需要的,这不仅仅是为了项目的商业赞助,而且这也是他们希望得到的结果,这一点非常重要。”
凭借机器学习技术,RRD公司走上新业务之路
营销传播公司R.H.Donnelley公司为RRD公司的前身,几年前,RRD公司设立了物流部门,向消费者和企业配送它的印刷材料。为了支持这项业务,公司自己管理运营,并代表其合作伙伴配送各种物品,包括洗衣机、狗粮等等,最终成长为价值10亿美元的一个企业。这是一个挑战吗?在联邦快递和UPS成为无可争议的霸主的天下,找到一个最优的运费。
诸如天气、地域、司机和政治局面等因素都是业务上的成本。RRD公司的首席信息官肯奥布莱恩(KenO'Brien)表示,随着迫切需要对费率变量进行预测,RRD公司转向了机器学习和数据分析。公司聘请员工和与大学合作来帮助编写算法,在700条路线上测试数千个场景,直到能够以99%的准确率提前7天实时预计运费。奥布莱恩说:“该项目在不到一年的时间就完成了,我们现在仍然看到业务的增长与运费有关。”该公司预计,在2017年,其卡车货运代理业务将从400万美元增长到1600万美元,营收将增长1200万美元,业务规模达6亿美元。
经验教训:新企业需要高水平的全心投入,尽管奥布莱恩承认,他的一些业务同行已准备好在业务的不同环节上认输。该业务并不相信那些通常以感觉和猜测来完成一个流程的技术。RRD公司建立了一个协作环境,业务和IT共同合作来推进结果。“你会遇到困难,你会遇到挑战,但要耐心,”奥布莱恩说。
孟山都公司(Monsanto)利用机器学习技术,实现最佳种植计划
农民永远为要种植何种作物,种植面积,在哪里种植及何时种植而苦恼。种子行业巨人孟山都公司正在研究这项工作,利用数据科学为农业种植提供规范性建议。数学和统计学模型会绘制出雄性作物和雌性作物的最佳种植时间,以及在何处种植,在理想状态下,这就最大限度地提高产量并减少土地使用。孟山都公司全球IT分析主管艾德里安·卡地亚(AdrianCartier)表示,其机器学习算法在数天内完成了超过900亿的数据点,而不是几周或几个月。这是商业利益吗?在2016年,孟山都公司节省了600万美元,其供应链足迹减少了4%。卡地亚说:“北美地区的土地利用率下降了4%,相当于不去使用大面积的土地,这节省了大量资金。”
经验教训:孟山都公司成功的关键是在信息技术与供应链业务之间建立了一个“自始至终”的合作。卡地亚说:“他们具有农业和供应链角度的专业知识,而我们具有数学和统计领域的专业知识,两者结合起来,就创造了我们能够提供的价值。”卡地亚说道,他还寻求在供应链业务中“改变领导者和倡导者”,以形成对反对者一种健康的平衡。
柏克德公司(Bechtel)以卓越的大数据中心来颠覆自己
一个鲜为人知的事实:柏克德公司首席信息官CarolZierhoffer说,与建筑有关的支出占GDP的13%,但整个行业在过去二十年中只有1%的生产率增长。专家表示,通过重新制定合同、提高工人技能以及改进现场执行工作等方式,该行业可以提高50%至60%的生产率。柏克德公司建造了胡佛水坝、英吉利海峡隧道和其他大型设施,已经开始在业务各个环节的数据中挖掘洞察力。
Zierhoffer在沃尔玛、波音和洛克希德马丁公司会见了业内同行,以获得有关如何向前发展的见解。柏克德公司建立了一个先进的大型数据中心,其中包含5千万亿字节数据的数据湖,并开始了概念验证。该数据中心使用照片识别技术,并代表客户来检查和标记各个地点的照片,这节省了200万美元。自然语言处理(NLP)工具可解析索赔、提案请求(RFP)和合同。过去需要几天和几周的评估和计划工作现在只需要数小时。柏克德公司还扩大了分析工作范围,以了解员工的流失率情况,包括试图预测员工将何时离职。Zierhoffer说:“我们相信我们正在敲开解决生产率难题的大门。”
经验教训:数据仓库和质量是支柱。尽管柏克德公司可以分析大量的数据,但在整个业务各环节的数据质量必须提高。“我们不得不颠覆自己,了解我们是如何工作的,并且将数据仓库进行连接。”
数据分析帮助辛辛那提动物园提高客户满意度
辛辛那提动植物园成立于1873年,是世界上著名的动植物园之一,以其物种保护和保存以及高成活率繁殖饲养计划享有极高声誉。它占地面积71英亩,园内有500种动物和3000多种植物,是国内游客人数最多的动植物园之一,曾荣获Zagat十佳动物园,并被《父母》(Parent)杂志评为最受儿童喜欢的动物园,每年接待游客130多万人。
辛辛那提动植物园是一个非营利性组织,是俄亥州同时也是美国国内享受公共补贴最低的动植物园,除去政府补贴,2600万美元年度预算中,自筹资金部分达到三分之二以上。为此,需要不断地寻求增加收入。而要做到这一点,最好办法是为工作人员和游客提供更好的服务,提高游览率。从而实现动植物园与客户和纳税人的双赢。
借助于该方案强大的收集和处理能力、互联能力、分析能力以及随之带来的洞察力,在部署后,企业实现了以下各方面的受益:
-帮助动植物园了解每个客户浏览、使用和消费模式,根据时间和地理分布情况采取相应的措施改善游客体验,同时实现营业收入最大化。
大数据案例分析
-
1、只需3秒快速实现求和
-
2、如何快速填充序号
-
3、如何自动填充序号(公式法)
-
4、数据条的神奇应用
-
5、多文本快速合并
-
6、查找与替换的不同玩法
-
7、快速定位到指定区域
-
8、数据排序、工资条制作
-
9、快速筛选(模糊、精确筛选)
-
10、快速插入空行
-
11、快速删除空行
-
12.快速跳转到天涯海角
-
13、.同时查看两个Excel文件
-
14、用条件格式扮靓报表
-
15、一键插入Excel图表
-
16、批量处理行高、列宽
-
17、利用拆分功能查看数据
-
18、批量录入相同内容
-
19、工作表快速跳转
-
20、批量录入表格模板(精品课程)
-
21、Excel函数与公式的应用、公式循环引用的查找
-
22、IF函数单条件判断同比增长
-
23、用sum函数 格式相同,连续多表数据汇总
-
24、excel快捷键
-
25、VLOOKUP函数——根据销售员匹配销售额
-
26、统计各部门销售总额
-
27、统计指定条件个数
-
28、怎样输入当前日期和时间、星期数
-
29、销售业绩排名
-
30、Sumproduct函数-万能函数(销售额汇总求和)
-
31、根据销售员,地区,商品名称汇总
-
32、批量替换PPT字体
-
33、给销售额数据批量添加万元单位
-
34、一秒快速核对两列数据
-
35、快速定位到指定单元格或区域
-
36、快速制作双行标题工资条
-
37、给你的表格做个瘦身
-
38、快速打开常用的Excel文件
-
39、快速打开多个Excel文件
-
40、利用创建组—快速隐藏/展开多列数据
-
41、快速制作下拉菜单
-
42、复制粘贴表格,如何保留数据源列宽格式一致?
-
43、两列数据位置互换
-
44、1秒钟扮靓报表——如何实现表格隔行换色
-
45、快速删除重复记录——保留唯一值
-
46、快速向下填充、向右填充,文本或公式
-
47、给Excel文件添加密码
-
48、插入带图片的批注
-
49、输入公式后不计算?
-
50、如何设置单元格缩进
-
51、快速解决Excel表格总显示货币格式
-
52、批量添加万元单位
-
53、你会四舍五入么?
-
54、用RAND函数机选彩票
-
55、冻结首行你会么?
-
56、超链接的高级应用
-
57、IFERROR函数-屏蔽错误值
-
58、批量填充颜色
-
59、录入数据
-
60、快速输入工号
-
61、快速行列转置
-
62、自定义缩放界面
-
63、多个单元格同时输入
-
64、如何计算立方米?
-
65、快速制作双行标题工资条
-
66、输入带方框的√和×
-
67、快速将姓名对齐
-
68、快速输入性别
-
69、按单位职务排序
-
70、自动计算合同到期日期
-
71、计算时间间隔
-
72、日期和时间的拆分
-
73、快速处理不规范的日期格式
-
74、快速填充合并单元格
-
75、效率加倍的快捷键
-
76、快速复制表格和对象
-
77、快速创建工作表副本
-
78、快速复制序列号
-
79、快速显示公式
-
80、多个单元格同时输入
-
81、快速调整显示比例
-
82、快速自动填充
-
83、快速填充(Ctrl+E)
-
84、Ctrl与数字键结合
-
85、快速将多列数据整理为1列
-
86、快速将1列数据拆分为多列
-
87、快速定位公式
-
88、快速录入数据
-
89、快速累计求和
-
90、身份证号码显示为0怎么办?
-
91、快速制作斜线表头
-
92、文本竖向显示
-
93、神奇的监视窗口
-
94、不一样的格式刷
-
95、快速美化图表
-
96、快速生成当前日期
-
97、快速找出循环引用
-
98、快速提取信息
-
99、二维表快速转换为一维表
-
100、快速多表合并