中企动力 > 商学院 > tableau数据分析
  • ?

    Tableau:大数据进入自助式分析的时代

    苏珊

    展开

    对于大数据而言,2016年是具有里程碑意义的一年,更多企业和机构在该年度存储和处理各种形态和规模的数据,并从中提取有价值的信息。如今,Tableau预测随着数据管控和保护系统以及大数据分析系统的日趋成熟,人们将要迎来自助式大数据分析时代。

    1.Hadoop的发展为自助式分析奠定技术基础:速度更快、门槛更低,安全标准更高

    作为一款大数据开发和运行处理的软件平台,Hadoop最初来源于谷歌的MapReduce编程模型包。该模型包可以把一个应用程序分解为许多并行计算指令,并实现跨计算节点运行海量数据集。得益于Hadoop可靠、高效、可伸缩的数据处理方式,目前其已经成为大数据处理的主流软件。而且,随着大数据处理的进一步发展,Hadoop甚至可以为用户提供速度更快、可重复性更高、更安全的数据探索分析,为自助式大数据分析时代的来临奠定了技术基础。比如,在使用SQL-on-Hadoop 引擎与 OLAP-on-Hadoop 技术时,用户已经很难对传统数据仓库和大数据世界进行区分。

    此外,Apache Sentry系统的出现则为数据安全性提供了更多保障。该系统可对存储在Hadoop群集上的数据和元数据实施细化、基于角色的授权。Apache Atlas是数据治理计划的一部分,它让组织可以在整个数据生态系统中应用一致的数据分类方法。而Apache Ranger则为 Hadoop提供了集中式安全管理。

    2.得益于嵌入式商业智能,分析已经无处不在

    在过去的几年间,企业已经越来越多地将数据分析融入日常工作流程,且常常将其嵌入其他应用程序(例如 Salesforce)。在规模庞大的中国航空旅游业,有成千上万的商业航空公司、机场运营商、旅行社以及民航机构依赖中国航信,以便获取业内商务情报和市场信息。而中国航信每年都对航空市场的活动进行密切监测和分析。其监测范围从航空乘客流量到旅游网络平台,几乎无所不包。为此,中国航信的分析师密切关注着中国航空旅游业的一举一动,定期从将近10TB的数据中筛选资料,确认关键业绩指标,并预测行业发展趋势。而通过应用商业智能软件,中国航信的总体工作效率提高了90%,使得其能以更快的速度对数据进行分析,为客户及行业提供更及时的行业洞见。

    随着行业的发展,分析将进一步得到普及,就像使用预测性分析在豆瓣FM上推荐音乐,或在京东上推荐商品一样,之前不曾关注过大数据分析的人员,比如驾驶员、店员等,也可以享受到数据分析给工作带来的便利。

    3.自助分析扩展至数据准备阶段

    虽然自助式数据发现已经成为标准,但数据准备依然没有走出IT和数据专家群体。不过,这一情况将在2017年有所改变。高德纳认为“已经颠覆商业智能和分析市场的易用性和敏捷性趋势同样会在数据集成领域呈现”。数据解析、JSON和HTML导入以及数据整理之类的普通任务无需再分配给专家完成。不久之后,每个人都将能够在自己的分析流程中处理此类任务。

    4.人们开始以更加自然的方式处理数据

    数据查看方式已经取得了长足的进步。我们已经有了用直观的拖放界面来取代脚本和数据透视表的技术,这些自然语言界面则成为了商业智能工具箱中的一款利器。作为中国骨干航空运输公司之一,中国东方航空公司目前在载客量方面已成为中国第二大航空运输公司,而在市场价值方面则位居世界第三。为了进一步加强市场调研、优化直飞航线并增加营收,中国东方航空公司利用Tableau对多种数据进行分析,并在六个月内开发了九个控制面板,高效快捷地对营销、各路航线营收等不同领域产生的数据进行分析。在2017,得益于自然语言处理和生成等方面的进步,数据界面将开始变得更加自然,从而让人们可以使用自然文字和语言与数据交互,让数据、图表和仪表板更加易于操作。

    5.物联网、云和大数据的汇合为自助式分析创造新的机会

    物联网、云和大数据的发展将产生大量结构化与非结构化的数据,并被越来越多地部署到云服务中。仅就中国互联网BAT三巨头中的腾讯一家来看,其数据中心的数据存量截止至2016年6月已经超过1000PB,并以每天500TB的速度飞速上升。当然,由于这些数据常常分散在如Hadoop、NoSQL等不同系统,从而给数据访问与处理带来不便。而可以无缝连接和合并多种云端托管数据源的分析工具,则能够让终端用户得以轻松对任何地点、任何类型的数据进行探索和可视化,从而帮助其发现物联网中隐藏的机会。

    6.数据素养成为未来的一项基础技能

    如今,商业智能成为有利于求职的最热门技能之一。而在其于同年发布的基于中国互联网行业人才大数据分析得出的报告则显示,数据分析是目前最为稀缺的人才。随着大数据自助式分析时代的来临,数据分析将同Microsoft Word、Excel 和PowerPoint一样,成为各行业工作人员职业发展过程中的一项重要技能。

  • ?

    Tableau&BDP,哪个才是最适合中国用户的数据可视化分析工具?

    糜冰烟

    展开

    文章转载自数据猿

    本人数据分析师一枚,除了工作所需,自己对数据分析、数据可视化的产品工具都比较感兴趣,喜欢混迹于各种数据论坛,也发现和使用了不少数据工具,也积累了很多亲身经历。这两年数据可视化在国内越来越受到关注,今天就根据自己的使用感受来对比一下两个比较受欢迎的数据可视化工具:一个国外嘀(tableau),一个国内嘀(BDP个人版,下面简称BDP)。

    下面对这两款数据可视化工具做个简单的对比评测。

    1、虽皆为可视化工具,但两者定位有所区别。

    虽然不是专业的数据产品经理,但我想从我的角度去“探索”一下两者的产品定位。

    Tableau源自美国斯坦福大学,Tableau公司产品包括Tableau Desktop、Tableau Server、Tableau Public等产品,成立时间比BDP久远。其中,Desktop主要针对个人用户,Server针对企业用户,tableau还有专门针对学生的版本。

    (图片来源于网络)

    Tableau在可视化灵活分析上功能强大,主要目标用户更多是较专业的数据分析师,若没有一定的数据基础,一般的业务人员想入手tableau确实有一定的困难,入门学习成本教高,金钱成本也很高(tableau收费较贵,毕竟人家是进口产品)。

    BDP个人版是国内海致公司旗下的数据可视化分析产品(BDP也有商业版,针对企业用户,但我非商业版用户,所以就不多说了),有多数据整合、数据合表处理、可视化分析等数据功能,总体来看数据功能还是非常全面的,见下图。

    从BDP的功能格调(如很强的易用性)、官网展示等处可以看出,BDP是面向广大有数据需求但分析能力不一定都很“彪悍”的人,如互联网产品/运营、数据运营、线下门店店长、财务、HR、市场等等。这应该是BDP的主要用户群体,当然对我这种数据分析师也非常适用,比如它的实时更新、强大的合表能力......可以说BDP简单但却蛮厉害的。

    2、为什么现在用BDP替了tableau?因为它成本低啊!(屌丝大实话,非广告)

    在不知道BDP之前,有段时间一直在用tableau...的破解版,哈哈,因为破解版不要钱,然后弄起来特别费劲,到期了或者更新版本了又要重新“破解”一次,搞得很心累,东西虽好,可是太麻烦。有的人说为什么不直接买呢,贵啊。

    在我烦躁的时候,BDP一下子让我觉得惊喜,真心不是给它打广告,不用安装下载,不用每次搞半天去网上找什么所谓的破解版,在线注册了就能用,这个666。另外,想用一些高级功能也要购买BDP的会员,虽然有一点点不开心,幸亏会员还比较便宜,感叹了一下还是国产好,在大会期间也显示一下爱国的心,具体可以自行了解,不然我都以为自己收了广告费,哈哈,然而并没有,只是把内心最真实的过程给描述出来了。

    接下来,正经说一些两个产品的功能对比了,希望对大家有用。

    1)数据连接

    Tableau和BDP均支持数据抽取和数据直连。

    数据连接方式Tableau支持增量更新,暂时不支持定时更新。Tableau抽取的数据均保存到制作的仪表板中,增量更新不能精确到某张表,必须是对全部数据的更新;

    BDP可连接大量第三方数据,有工具,有API、客户端、Excel插件等,以确保数据统计过程的稳定性。BDP支持实时更新(数据库等),也支持增量更新(同步客户端)。

    数据源接入方面:

    从上图就能看出,Tableau能接很多数据源,不明觉厉,不过Tableau 无法连接国内各种常见数据源,比如互联网人常用的百度统计/百度指数等,这对于国内用户而言着实有些不便。换言之,若Tableau想要更好地融入中国用户中,这点可能需要加强,个人看法罢了。

    相比之下,BDP能接的数据源较多,估计也是收集了不少用户意见的结果,这点来说BDP确实更符合国情。除了本地数据,可连主流数据库,可连接不同的第三方统计平台(谷歌、百度统计、公众号等),基本上覆盖面很广,数据实现自动更新了。很多国内的表格表姐只有excel文件,那就用同步宝,就是可以自动同步和追加固定的excel数据,试过,挺实用的。

    不过爬虫工具是不是也可以考虑加入数据源啊,这对于我来说很有用啊,希望他们能看到我的心声。

    2)数据处理

    Tableau虽然在数据处理功能中没有SPSS强大的数理统计功能,但是在基础的数据分析,如趋势分析,统计预测等功能上做的很到位。

    而BDP在数据处理上比较易用,拖拽下可进行多表join、追加合并、二维转一维、SQL合表等处理操作。另外,BDP在数据预测分析方面也有了新探索,上次有看到其新功能上线。

    BDP具有数据处理工作流功能,Tableau能进行单步处理,缺乏完整的数据处理能力。

    3)可视化分析

    图表类型方面:

    Tableau在可视化能力上比较突出,有分析组件包括明细表、分组表等简单表格组件,还有文本表、条形图、柱形图、折线图等多种图表组件,图表类型方面也比较丰富,有条形图、折线图、饼图、地图、散点图、甘特图、气泡图、直方图、靶心图等。Tableau可视化效果不华丽但很出色,而且给用户提供了非常自由的图表制作能力,如果会写代码有时间富裕,基本可以做出绝大多数能想到的图表。

    (Tableau柱状图)(Tableau散点图) 

    BDP在可视化方面属于国内新秀,图表类型表现还算比较丰富。除了饼图、柱状图、折线图、雷达图这些常见的图表,还有一些比较”特殊“的图表,如桑基图、漏斗图、词云、行政地图、经纬度地图、轨迹地图等,像我经常会使用经纬度地图,感觉经纬度地图确实是BDP的一个大亮点(拿几张图主要展示一下,其他图表就不展示了)。不过期待更多的图表类型,比如女生爱的玫瑰图。

    (经纬度地图:地图+条形图)(经纬度地图:热力图)   (经纬度地图:气泡+轨迹地图)

    可视化分析方面:

    Tableau和BDP均支持维度和指标数据的自由分析,都是通过拖拽数据进行操作,将其拖拽至维度、数值、对比、筛选器、颜色等区域,即可开始数据分析工作。

    数据钻取、联动效果等可视化分析能力:两者都有。

    常用计算方式:基础计算方式都有(求和、计数等),除此之外BDP将一些日常工作需要的计算公式形成了固定算法,如:同环比、留存率、活跃率等。这些理论上Tableau也是可以实现的,而且可能更加灵活,但需要用户对Tableau的表计算和详细级别表达式有比较深的理解(这俩应该算是Tableau比较高级的功能了,我看了一下官方说明和社区,都没太看懂怎么操作,不过我觉得应该可以做出来)。

    4)移动端

    Tableau目前只有IOS移动端APP,特点是支持联动、钻取、筛选等操作,和PC端相比,没有编辑功能。

    BDP支持移动端,包括安卓和IOS,手机同步呈现最新数据,在手机端查看数据,同样没有编辑功能(手机屏幕较小,的确更适合看图)。

    Tableau和BDP都是要付费用户才能用移动端查看自己的数据,这也是我彻底转向BDP的原因之一:如果要用Tableau移动端只能买Online版本,42刀每月,按年付费!一次就要3000多块,实在是感觉不值得。而BDP只需要每月69人民币,碰上打折的时候还能更便宜。

    写了这么多,其实Tableau和BDP作为可视化分析工具各有千秋。总体来说,Tableau具有丰富的数据源支持,灵活的可视化功能和强大的数据图表制作能力。而BDP支持更多的国内数据源,提供工作中经常使用的数据处理方式和可视化图表,最重要的是性价比极高!个人觉得,和Tableau对比的可视化工具,BDP更符合国内用户使用的习惯吧。大家如果跟我一样遇到相同的情况,不妨去试下BDP吧!

    所以,Tableau和BDP,到底哪个才是最适合中国用户的可视化分析工具呢?相信经常使用数据分析软件的各位,肯定也有自己的独到见解!欢迎各位一起交流探讨数据可视化知识和工具,也期待国内可视化的发展能越来越好。咱们评论区见!哈哈

    最后附上两个产品的官方地址:

    Tableau:https://tableau/

    BDP个人版:https://me.bdp/home.html

  • ?

    Tableau宣布三大重磅消息 推出数据准备产品Tableau Prep

    毕志泽

    展开

    作为一家全球知名的数据分析公司,Tableau在上个月又获佳讯:联合国选择Tableau作为其专用的数据分析平台。而知名的咨询公司Gartner连续6年将Tableau评为数据分析方面的领军产品。

    4月25日,Tableau宣布推出一款数据处理准备工具——Tableau Prep。作为一家数据分析公司,Tableau大中华区总监叶松林称,“我们的使命是让每个人能够查看和理解数据,能够把数据真正用起来。”

     数据准备要花掉80%的时间

    但是,根据《哈佛商业评论》,大家在准备数据时要用掉80%的时间,只有20%的时间用在分析上。在Tableau首席开发官Andrew Beers看来,这是因为数据没有以相应的形式呈现或者数据来源太复杂,格式没统一。总之,“因为各种各样的原因,数据可能比较‘脏’,所以要花很长时间去清理。”他说。

    举个例子,人们在录入信息时,数据的日期格式不统一或者位置邮编信息不统一等。因此,对数据分析人员来说,数据清理和准备成为一项极其重要的工作。

    但是,市面上的数据清理工具都有一定门槛,特别是技术门槛,它需要人们具备一定的编程知识和技能。

    Andrew Beers说,“Tableau希望帮助数据分析师把更多的时间和精力用在数据分析上,而不是数据准备,因此我们也希望有数据准备方面的产品。”

     Tableau推出数据准备工具Tableau Prep

    具体说来,Tableau Prep可让用户通过可视化的方式看到准备数据经历的过程,包括每一步的操作,非常直观。同时,它能够学习用户的数据分析习惯和规律,进一步地改善数据可视化分析的过程。

    实际上,凭借Tableau数据处理和分析产品,Tableau公司成为行业中的佼佼者。全球有诸多公司都在使用其产品,包括雇员超过10万的全球500强企业,也涵盖成千上万的高校学生。

    在2016年的Tableau大会上,Tableau公司首次描述了Tableau Prep这款数据准备产品。2年后,这款产品终于面世。现在的Tableau公司,即拥有数据处理和分析产品Tableau,也拥有Tableau Prep。

    据公司首席开发官Andrew Beers透露,Tableau Desktop和Tableau Prep之间可快速衔接,平滑切换。当数据分析时想预先清理一下,可以很快地切换到Tableau Prep进行数据清理。清理完后,又可以返回。另一方面,Tableau Prep能很迅速地将相关数据推送到Tableau的服务器上。

    不过,除了Tableau Prep,市场上还有其他的数据准备工具。对此,Andrew Beers表示,“我们有三大亮点,一是我们的这款产品是专门面向数据分析师,而不是专门针对IT人员的;二是我们是帮助人们去理解数据,在整个数据的准备和清理过程中,它始终面向数据进行操作;三是Tableau和Tableau Prep之间有很好的契合度。”

     Tableau发布新订阅授权方式 推出新版本

    除了发布数据准备工具Tableau,Tableau公司还宣布了一个最新的Tableau订阅授权方式,让企业中各个层级的员工都能从Tableau中获益。

    据悉,新的订阅授权方式有三种,一种叫Tableau Creator,一种是Tableau Explorer,一种是Tableau Viewer。

    其中,Tableau Creator的用户群需要Tableau全套的数据分析能力,每月是70美元的订购费用;Tableau Explorer是借用已发布到Tableau Server上的数据进行互动式访问和数据分析,每月是35美元,加速Online的权限,总共是42美元/月的订购费用;最后是Tableau Viewer,其用户是偶尔、休闲式的数据分析用户,每月12美元,加上Online的功能是15美元/月。

    据悉,4月25日以后,用户就可以直接在Tableau官网上购买相应的工具。

    另外,Tableau首席开发官宣布的第三个消息是4月25日发布新版本。新版本的名称是2018.1,“我们采取新的命名方式,想传达的信息是,不再有重大更新版本和小幅更新版本的区分,每一次更新都是Tableau创新的集中体现。”

    今天,随着互联网的深入发展和智能化社会的到来,人、设备和互联网以及社会都在产生大量的数据,数据也被称为互联网时代的“石油”。如果大家能够把数据用起来,用数据去改善社会的大环境,那么我们的社会将会越来越好。而Tableau,正在降低数据处理和分析的门槛,让更多的人查看、理解和使用数据。

  • ?

    千万级的数据量,如何高性能实现展示分析?

    沮丧

    展开

    日常一提数据分析和可视化,就想到这个工具操作要多简单易用,图表要多美多炫,然而总是忽略背后的数据支撑。

    excel 几十万行数据就卡死崩,谈何数据透视表、可视化?近千万行的数据,订单提交数据库,sql sever处理要5分多钟,如果频繁入库/取数的话.....

    要知道,为了支撑起业务人员的数据分析,以及日常不考虑计算逻辑和技术难度,IT人员也是要花费很大的心血和精力啊(心疼运维人员n秒)。

    随着公司业务的发展,数据量变大是必然的事实。那么,数据部门要做分析,业务部门要看报表,要跑数据,要用BI,大数据量(千万级及以上)的分析,性能该如何优化?

    这里借某公司的真实案例,来阐述一下方案。

    ----------------------------------

    作为公司的科技部门人员,经常听到业务部门对自己使用的数据库各种吐槽:

    竟然存放在mongoDB中啊,震惊(ΩДΩ)。

    数据库慢慢熟悉了还好啊,但是现在每天的数据量越来越大,而且还在增加啊,增加大家很开心,然而数据库并不开心啊,简单的查询统计10多分钟还出不来结果,更不用说有稍微复杂点的统计分析了。

    我天天找DBA优化啊,然而并没有什么水花。

    数据量还在不断增长,到现在都上亿啦,全量查询统计根本出不来结果啊。

    ... ...

    最终业务人员找到科技部门提需求要弄个BI系统给处理下。

    对mongodb瞄了一大通,这就是个业务库。那直接对接mongodb自然不行,速度慢不说,mongodb挂了,分析系统也瘫了。自然就想到了使用中间库,emm mysql oracle 倒是有,可以跑调度抽过来,但是速度依旧不快呢,还要花功夫优化,性价比不高。公司有自己的hadoop平台,将数据抽过来再对接倒是可以,但是要花很大精力跑调度,而且这个数据库不能随意给这个业务部门提供,万一玩挂了可就得不偿失。假设有个具备离线数据存储功能的BI工具,岂不美哉。

    于是将市面上有离线数据存储功能的BI工具翻了个遍。期望找到个性能好,可以支持大数据量数据分析的BI工具。

    Tableau的hyper功能看起来OK,经不起实际使用,数据量过了亿,等了好久数据抽不好,pass;

    其他某BI工具有mpp离线存储,看起来很棒,还能横向扩展,不错。抱有最大期望的用,结果数据量一上亿,直接崩了,崩了,pass;

    另一个BI工具去看了看,咦,数据是放在vertica里面的......

    后来,找到了FineBI的分布式计算引擎方案,拿的『定制的 Alluxio』作为分布式内存存储框架,内存存储有数据安全性的担心,所以持久化层存储用了HDFS。为了数据分析嘛,自然是列式存储的。计算核心则以熟知的Spark,加上自研算法来处理的。使用熟知的zookeeper整合框架,并用于调度通信。

    分布式嘛,横向扩展自然不在话下。而列式存储、并行内存计算、计算本地化加上高性能算法,在FineBI中数据展示速度超快。有意思的是其计算本地化的操作,能减少不必要的shuffle,节省数据传输的消耗,提升数据计算速度。

    以下记录利用FineBI4.1工具的系统建设过程。

    一、需求分析

    针对以上的需求,可以预估到,18年内,常用分析预计最大数据量会达到4.7kw,不常用分析会达到3亿到4亿(包含淡季),数据总的体量最多会达到100G。后面的情况难以预估,就需要系统可横向扩展节点。

    二、方案描述

    1.系统架构

    根据官方推荐,将FineBI的web应用端与数据存储的分布式引擎放在一个机器上(处于安全考虑,也可以分开。这里不涉及太多部门使用,放一起即可),架构如下所示。

    架构图难以理解的话,可以看看灵魂画手的杰作~

    结合分布式引擎说明的技术原理,将各个机器再细分化各个组件的作用。

    以上,将系统架构规划完成,即可具体完成系统。

    2.完成从MongoDB取数

    在使用BI工具对接MongoDB的时候,使用MongoDB的BI连接器。

    感兴趣可以看:MongoDB Download Center

    方案原理:mongodb是非结构的数据库,而要想BI来连接,通过建模的方式取表,拆表,建模来分析。通过MONGODB CONNECTOR FOR BI连接器的方式,使用mysql的JDBC驱动来获取数据。

    实现过程:

    第一步:安装MONGODB CONNECTOR FOR BI

    从官网选择版本:MongoDB Download Center

    第二步:生成DRDL文件

    mongodrdl是生成该文件的主命令。通过添加monogdb的相关参数来获取其中的表生成drdl文件。从官方文档上我们可以找到生成DRDL文件命令的范式:

    1 mongodrdl --host myhost.example:27017 \2 --username dbUser \3 --password myPassword \4 --db reports \5 --authenticationDatabase admin \6 --out schema.drdl

    范式说明:

    --host 是mongodb的ip+端口号,通常可为127.0.0.1:27017--username 是mongodb的用户,需具备相关的数据权限--password 是username的密码--db 是要生成DRDL的数据库实例名--authenticationDatabase 是指定创建用户的数据库。即username创建时被指定到的数据库名。--out 是DRDL输出文件定义。值使用.drdl的文件即可。

    第三步:启动连接器,连接上monogdb

    启动连接器的主命令服务是mongosqld,由于mongodb开启用户认证了(auth=true)。从官方文档上可知,连接器的启动需要使用-auth参数,再使用auth参数的情况下,mysql驱动来取数就需要SSLl加密认证。

    所以第一步需要配置mongosqld的SSL认证;才能启动连接器来取数!!!!!!!!!!这一步神坑,也是踩了多少坑,才找到的解决办法。

    此处认证关系是FineBi端的mysql连接与mongosqld的连接之间的SSL认证。在认证时,只需要配置单向SSL的认证即可(mongosqld认证FineBI的连接)。

    (1)生成SSL认证文件

    SSL认证文件通常采用openSSL来生成,先看看是否安装了openSSL;执行命令:

    rpm -qa|grep -i openssl

    如安装了会返回信息,未安装需要自行安装OpenSSL。

    采用以下命令来生成证书:(由于是测试,就直接自己生成证书,密钥)

    openssl req -newkey rsa:2048 -new -x509 -days 365 -nodes -out mongodb-cert.crt -keyout mongodb-cert.key

    命令返回会让填写一些值,在后面填写即可。

    一般情况下,文件会生成到你所使用的linux用户的要根目录下:比如我用的root用户,就到/root下面查找。

    再使用以下命令,将key合到.pem的文件里。

    cat mongodb-cert.key mongodb-cert.crt > mongodb.pem

    将该文件移动/etc/ssl下面用于验证使用:

    mv mongodb.pem /etc/ssl

    (2)启动连接器&SSL

    再来看官方文档,从所有的参数命令里面,找一找需要的参数;得出以下的范式,在bin目录下启动即可。

    mongosqld --auth --sslMode --sslPEMKeyFile --sslAllowInvalidCertificates --defaultAuthSource --mongo-uri --mongo-username --mongo-password --mongo-authenticationSource --schema

    说明:

    --auth 是开启用户认证的参数,默认值是true--sslMode是开启SSL的标识,如开启可以选择值为“requireSSL”--sslPEMKeyFile是SSL认证文件,一般为.pem结尾的文件;单向认证的时候。--sslAllowInvalidCertificates--defaultAuthSource是mongosqld使用username指向mongodb的有权限的库,默认值是admin--mongo-uri是mongodb的host,一般为ip+端口号--mongo-usrname是drdl生成的用户名--mongo-password是drdl生成的密码--mongo-authenticationSource指定用户的创建库--schema是要连接的drdl文件。

    注:一般还是要用nohup 的命令来生成,保证shell断掉,连接器依然可用。

    第四步:启动FineBI连接到连接器上

    启动FineBI,打开FineBI>数据配置>数据连接:添加数据连接选择mysql,配置如下:

    连接名:mongodbURL:jdbc:mysql://127.0.0.1:3307/test?ssl-key=/etc/ssl/mongodb.pem用户名:密码:注:URL:jdbc:mysql://ip+3307/dbname?ssl-key=xx.pem,后面ssl-key是ssl参数

    点击测试连接即可。

    过程坑点:mongodb的BI连接器神坑,官网文档不多,踩过了几脚坑。

    (1)mongosqld按ssl认证开启成功,打印也不错,但是BI连接的时候,还是抛错1043 SQLSTATE: 08S01 (ER_HANDSHAKE_ERROR):this server only allows SSL xxxxx该抛错是mysql抛出来的,握手不良的错误。按道理SSL已经开启了,不应该是这样。后来查了mysql的文档,mysql5.5以上的版本才支持SSL;更换新的driver驱动,使用的是5.1.44完全没问题的。

    (2)BI连接的时候抛错 handshake error: ERROR 1043 (08S01): error performing authentication: unable to authenticate conversation 0: unable to authenticate using mechanism "SCRAM-SHA-1": (AuthenticationFailed) Authentication failed.

    该抛错的意思,使用“SCRAM-SHA-1”的认证方式,没有认证成功。SCRAM-SHA-1是指用户名密码的方式,这里看是不是用户名/密码错误,注意mongosqld启动时的使用的用户名/密码

    (3)一定要开启SSL认证啊!!!

    (4)期间有设计器无故死掉的情况,发现是由于内存不足导致。记得空闲内存要足够!!

    三.系统效果

    1.数据更新

    (1) 单个表先全量抽取,之后每天对单表依据时间戳,做增量增加。其中有错误数据做增量删除即可。

    (2)有些内部使用的实时性较高的表,设定每2小时更新一次,从上午9点到下午6点。直接从业务库抽取其实是有风险的,当时数据库压力大,抽取比较慢,因此这部分仅作为非重点用户需求场景。

    2.数据展示速度

    做了一个简单的依据时间的group by,时间在1s之内,翻页速度也很快。

    至此,对接mongodb完成,一个用户可以随便玩的系统就好了。即使偶尔mongodb发疯修整,有离线数据在,也不担心业务部门来嚷嚷了。而且速度超快,体验很棒~

    最后

    如果你也在寻求一个高性能展示分析、数据分析的BI工具的话,不妨尝试下FineBI。

  • ?

    tableau——大数据分析工具(一)

    古诗乐

    展开

    帕累托图(Pareto Chart)可以分析总利润额的多少百分比来自于多少比例的客户,也可以分析总销售的多少百分比来自于哪几种主要的产品

    eg:创建一个帕累托图,来分析是否是80%的利润额来源于20%的大客户,或者是别的情况

    步骤:连接数据源(supermarket)

    1、将“客户姓名”、“利润”分别拖放于列、行上

    2、右键单击“顾客姓名”,选择“排序”,弹出对话框,将“排序顺序”设为“降序”,“排序依据”处勾选“字段”并选择“利润”,“聚合”设为“总计”,单击确定键

    3、将试图改为“整个视图”

    数据分析交流:283296032

    4、右键单击“利润”,单击“添加计算表”并作如下设置

    1)计算类型设为“汇总”,计算依据设我“客户名称”,勾选“添加辅助计算”,“从属计算类型”设为“总额百分比”,计算依据“客户名称”

    5、从维度列表再次将“客户名称”拖放至【详细信息】

    6、右键单击“顾客姓名”,将“度量”设为“计数”,【标记】选择“条形图”

    7、右键单击“客户名称”,单击【添加表计算】,并作如下设置:

    1)“计算类型”设为“汇总”,“计算依据”设为“客户名称”

    2)勾选“添加辅助计算”,目的是要将横轴上的刻度变为百分比的形式

    3)将“从属计算类型”设为“总额百分比”,“计算依据”处选“客户姓名”

    8、做如下设置,使得帕累托如更加直观

    1)右键单击纵轴,添加一条参考线,设为常数值0.8

    2)再次右键单击纵轴,单击【编辑轴】,将轴标题改为%of利润

    3)右键单击横轴,添加一条参考线,设为常数值0.2

    4)再次右键单击横轴,单击【编辑轴】,将轴标题改为%of顾客

    5)从【度量】列表框中选中“利润”拖放于颜色框内

  • ?

    Kyligence成Tableau全球技术合作伙伴 提极致大数据分析方案

    从波

    展开

    近日,领先的大数据分析技术及解决方案供应商Kyligence宣布,与领先的数据可视化分析公司Tableau达成全球技术合作伙伴关系,旗下智能大数据分析产品Kyligence Analytics Platform(简称KAP)与Tableau无缝对接,助力分析端用户实现Hadoop平台上超大规模数据集的亚秒级快速响应,实现交互式分析。Kyligence也是Tableau在中国区仅有的两家技术合作伙伴之一。

    图 1 Kyligence在Tableau官网合作伙伴页面列为技术合作伙伴

    KAP是Kyligence提供的基于Apache Kylin的下一代企业级数据仓库及商务智能大数据分析平台,可在PB级数据集上提供亚秒级标准SQL查询响应,提供互联网级的高并发能力,赋能分析师以行业标准数据仓库与商业智能(BI, Business Intelligence)实施方法论架构基于Hadoop的BI解决方案。而Tableau数据可视化分析软件可以帮助用户快速分析、可视化并分享信息。

    此前一些客户在使用Tableau连接Hadoop上数据源时,查询速度受到数据源性能的制约,无法实现所见即所得的交互式分析。 “KAP+ Tableau”可以帮助用户提升大数据分析的响应速度,在弹指间即获得数据的响应,助力报表端实现超大数据集的亚秒级响应。

    KAP应用到Tableau平台后将为Tableau用户提供访问Hadoop数据的友好接口,Tableau用户只需要使用Kylin ODBC驱动就可以轻松连接并使用KAP作为数据源。此外,KAP还可将Tableau上分析的数据量级拓展至PB级,让性能关键的大数据报告实现亚秒级响应,并支持对近实时数据的分析,实现真正的高效率、易用性、灵活性。

    图 2 Tableau用户可以使用Kylin ODBC驱动连接KAP

    “KAP+Tableau”将为用户提供以下功能优势:

    无缝集成Tableau

    KAP支持和Tableau 安全快速的无缝连接,实时的连接机制避免了数据的迁移,保证了数据保留在统一的Hadoop监管环境。

    零学习门槛操控大数据

    没有复杂的命令行语句,只有熟悉的SQL语言,KAP让Hadoop对Tableau用户更友好, 零学习门槛,让分析师轻松操控大数据。

    友好的拖拽式操作界面

    以业务需求为设计核心,友好的可拖拽界面,实现自助式搭建数据模型,减少数据运维时间成本,使分析师专注数据分析。

    Kyligence联合创始人兼CEO韩卿介绍道:“Tableau是全球可视化领域的佼佼者,Kyligence KAP与Tableau的强强联合将为用户提供一站式的大数据解决方案,帮助用户更加方便快速地挖掘数据分析价值,提升用户商业潜能。”

    关于Kyligence

    Kyligence由首个来自中国的Apache软件基金会顶级开源项目ApacheKylin核心团队组建,是专注于大数据分析领域创新的数据科技公司 。Kyligence提供基于Apache Kylin的企业级大数据智能分析产品Kyligence Analytics Platform (KAP),在线智能诊断和调优服务Kyligence Robot等。其云产品Kyligence Cloud也已经在AWS等云平台上线。目前,Kyligence已赢得了海内外多家金融、保险、证券、电信、制造、零售、广告等企业级客户。

  • ?

    使用tableau进行数据可视化分析

    沙映寒

    展开

    在介绍tableau之前,我们先看一个示例:

    从网上download一份2016年全年北京市空气质量的数据,做了一个可视化的图表,看图:

    图片来自hooly‘mac

    通过上图我们可以清晰的看到2016年全年北京市的空气质量情况,细致观察后我们发现,2016年12月差不多有半个月的时间里北京市处于重度以及严重污染的状况。(ノへ ̄、)捂脸

    以上就是使用tableau花费不到5分钟完成的一份可视化的数据图表。如果你已经对tableau产生了兴趣,那么我们就来具体聊一下吧~

    what is tableau?

    Tableau Software帮助人们查看并理解数据。帮助你快速分析、可视化并分享信息。

    why tableau?

    当今社会,商户智能(Business Intelligence,BI)被广泛应用各个行业,并在辅助商业决策方面发挥了重大的作用。但是传统的BI架构在处理企业数据时候有很多的弊端:

    开发难度高,上线周期长

    架构笨重,无法灵活响应

    运维成本高

    而tableau是一款定位数据可视化敏捷开发和实现的商务智能展现工具,具有以下核心优势:

    数据获取极速高效

    用户体验良好且易用的表现形式

    易学,不需要技术背景和复杂的统计知识

    操作十分简单

    what can tableau do ?

    我们继续来看几组很cool的可视化数据图表,来深入了解下tableau能为我们展现什么

    NO1.第 113 届美国国会投票记录-每个Question下投票记录数

    数据下载地址:https://public.tableau/zh-cn/s/resources

    当然,你也可以使用饼状图来表示:

    NO2.1910年美国各个州出生婴儿数

    上图的原数据我们可以看一下,数据字段:美国州名、婴儿性别、出生年月、数目

    值得一提的是tableau可以自动识别某一些地理位置的编号,以及日期类型的格式:d=====( ̄▽ ̄*)b厉害

    1910年~2012年各个州出生的男女婴儿数目:在每个州出生的所有婴儿里面,我们用颜色标识了男女性别的婴儿。

    接下来,1910年~2012年美国全国男女婴儿出生数目情况:

    由上图我们看出,从1920年开始,女性婴儿的数目开始和男性婴儿数目拉开差距,且到1970年左右,差距越来越大。(484可以说美国人真的好重男轻女~(ノへ ̄、)捂脸)

    其实tableau可以做的图标形式还有很多很多,以上我简单的列举了几种比较常用的。后面我们说下tableau实践部分:

    tableau界面介绍:

    图片来自hooy'mac

    数据窗口:展示当前使用的数据源,以及数据源包含的所有数据字段。在这里我们看到所有数据字段被分为两类:维度和度量 (敲黑板)。

    维度和度量是tableau使用过程中最重要的两个概念。

    度量:往往是一个数值字段,将其拖放到功能区时,tableau默认会进行聚合运算,同时,试图去会战胜相应的轴;

    维度往往是一些分类、时间方面的定性字段,将其拖放到功能区时,tableau不会对其进行字段,而是对视图区进行分区,维度的内容显示为歌曲的标题。

    离散和联连续:

    离散和连续是另一种数据角色分类,在tableau中,蓝色是离散字段,绿色是连续字段,离散字段在行列功能区总是在视图中显示为标题,而连续字段则在试图中显示为轴:

    连续:

    连续图片来自hooly'mac

    离散:

    图片来自hooly'mac

    写到这里,我们来回到文章的最初,讲一下北京市空气质量情况的可视化图表是如何完成的。

    tableau示例详解:

    先看一下原始数据:

    step1:导入数据:

    导入数据图片来自hooly’mac

    step2:分析下我们想要的最终效果,我们需要在维度上按照季度和月份、以及天分类,而度量则是我们最终需要看的数据:空气质量也就是AQI指数。

    step3:于是我们做如下操作:

    讲日期拖到列标签、行标签(拖两次),将日期单位分别置为:日、季度、月,然后选择智能显示中的第二个图表类型

    step4:发现和我们最终想要的还有一些差距。我们希望使用颜色来表示不同的污染程度,将AQI指数拖动到颜色上。同时我们不希望AQI对放块儿的大小起作用,于是我们把形状上的AQI指数去掉

    step5:同时我们不希望AQI对放块儿的大小起作用,于是我们把形状上的AQI指数去掉:

    step6:这时候我们需要改变方块儿的颜色:

    这里根据我们队污染程度区间的定义:0~50:优;50~100:良;100~150:轻度污染;.....等

    我们需要对AQI空气指数进行分组:

    step7:分组完成

    step8:我们把AQI在颜色上的标记去掉,把刚刚的AQI分组拖到颜色标记上:

    step9:oh,好像差不多了,只是颜色还有点诡异,没关系,我们改一下颜色:

    step10:我们给每个组分配上不同的颜色,使其更好区分污染程度。然后点击工作表-复制-图像:

    啊哈,完成!

    End.

    作者:hooly 链接:http://jianshu/p/d81ebe0f7240

  • ?

    7 大方法告诉你如何成为优秀的 Tableau 分析师!

    曲含之

    展开

    欢迎关注天善智能hellobi,我们是专注于商业智能BI,大数据,数据分析领域的垂直社区,学习,问答、求职一站式搞定!

    作者:Eva Murray

    摘自:Tableau社区

    这早已不是秘密:对于企业而言,有优秀数据分析能力特别是善于使用 Tableau 的人才需求越来越大。自从 2016 年 8 月开始在 EXASOL 工作以来,我便将合适的人员,资源和机会联系起来,确保他们能够最大化地利用自己的数据分析工具。

    在这份或其他使用 Tableau 的工作中,我得知了一些关于获得岗位所必须的要求和软硬条件。这里我将分享一些有用信息,这些信息可以提高你获得数据分析职位的几率,特别是要求 Tableau 的岗位。

    对于初学者来说,你需要利用 Tableau 获得对数据的有效见解。另外,同样重要的是如何将信息有效的分享给你的同事们。我整理了一份简单的列表,这份列表将告诉你可以做些什么来提高你的 Tableau 技能并且让你在分析领域的职业生涯更上一层楼。

    一 、每天使用 Tableau

    如果你想要提高你使用 Tableau 的能力,但是苦于寻找练习的项目,或者你仅仅是对可视化 Tableau Desktop 自带的超市数据集厌倦了,那么试试 Makeover Monday 吧。 #Makeover Monday 是一个由 Andy Kriebel 始创的社会数据项目,它是练习 Tableau 的一种方式。在 2016 年时, Andy Cotgreave 加入其中,他们两人将它变为了一个 Tableau 社区的每周挑战地点。

    如果你有兴趣,可以复制下方链接至浏览器加入 #Makeover Monday 。

    http://makeovermonday.co.uk

    具体参与方式: Makeover Monday 会在每周日发布这一周的主题,包括原始文章的链接和它的数据集。想参与的小伙伴可以用这个数据集制作一份新的 Viz ,如果你想要分享的话,可以将 Viz 发布在 Twitter 上,带上关键字 #Makeover Monday 即可 。

    (* Makeover Monday 发布的一些主题)

    在 2017 年,我接过了 Andy Cotgreave 的任务,现在和 Andy Kriebel 一起运行 Makeover Monday ,每周为大家带来新鲜的数据集来制作可视化作品。我们也分享一些尝试或者改进过的文章或是 Viz 。这个社区在 Twitter 上很活跃,你每周都可以在这得到支持、反馈以及大量的灵感。

    如果你想要获得进一步的提高,并且接受一些更为高级的数据可视化挑战,加入 #Work out Wednesday 吧,在那里你每周需要重新制作一份指定的 Viz 。你将根据你所看到的图像做一些练习,这可能并不简单,但是这是一个很好的方式来提高你的 Tableau 技能。

    你也可以尝试同组员一起制作 Viz 。试试在你当前的组织中和别人一起合作,在 Meetup 发现 Tableau 小组,或者其他什么方式,加入一个 Tableau 用户小组。你将会和别人一起接受 Viz 挑战,这将鼓励人们互相学习并找到提高技能的新方式。但更重要的是,你将会培养并发展你的 Tableau 关系网 —— 你将会认识到从事同样事情的人,甚至可能因此得知工作机会。

    二 、获得 Tableau 认证

    一张专业认证证书绝对能帮助你在人群中脱颖而出。你可以参加一个正式的 Tableau 培训。我并不把它放在第一位的原因是这里有太多 (免费) 的方式来提高你的技能 —— 并且它们很容易达到。但是,参加正式培训课程是一个学习如何最高效地使用这个工具的好方式。如果你有机会去参加一场培训课程,请别错过。(建议:在课程前尽可能多地使用 Tableau 。这样你就可以专注于听课,而不需要花时间寻找哪个键来点击。)

    Tableau 提供了正式的认证考试,这将帮助你展示你的技能水平。请别忘了将 Tableau 认证放到你的简历和领英上,以展示你的 Tableau 能力。

    三 、介绍你的作品

    这个听上去像一个奇怪的建议放在列表中,但事实上并不是。它对于诉说一个数据故事或是在组织中向他人解释你的发现来说很关键。通常,你的见解对最后的决策来说至关重要,所以你需要一个出色的演讲技能来展示你的情况。你可以通过演示 Tableau 来练习这些技能。

    使用一个你选择的工作簿,你便可以通过展示如何使用 Tableau 来引导别人。因为你不仅仅在展示静态图像,而是软件中的数据可视化作品,所以你需要非常精确以及深思熟虑的鼠标动作和语句选择。同时,请确保放慢你的动作,让你的观众可以跟上你屏幕上展示的节奏。

    练习展示将帮助你以最快的方式找到最少操作的解决方案。另外,它也会确保你能够很好地解释自己,进而展示你对一个概念的理解程度。

    最后,教别人一些东西是了解你对于 Tableau 理解的好方法。这样当你提高自己技巧的同时,也帮助了其他人。指导别人会很快将你所知道的和你并不知道的东西展示出来。一定记得向别人询问关于你解释概念和复杂运算能力的反馈。

    四 、发布你的作品

    Tableau Public 是一个你可以用来得到所有上述支持的很好工具。为什么呢?因为Tableau Public 是一个分享作品和发展能力的平台。你可以发表你所有的 Viz ,展示你的技能。所有你发布的东西都是公开的,所以不要发布工作上的内容。但是你可以用超市数据重新制作自己的工作簿,或者用其他已经发布的数据集。

    随着时间的推移,你可能会发现你的 Viz ,你的创造力和你具备的专业知识都开始变化。你的 Viz 将会反映你能力的提高,并且你甚至会因此而出名。所以开始为自己最初的两个仪表板而尴尬?不要担心 —— 请不要删除它们。真的,不要删除它们。因为它们展示了你的进步,最重要的是,通过你发布的第一份 Viz 你可以看到自己已经走了多远。

    发布作品也意味着自我推销。更多的是为了确保你的工作是可见的。因为这个行业是全球性的,并且大多数的交流和互动都在虚拟世界发生,所以唯一让别人注意到你的方式就是你有一个在线展示平台。通过 Viz 加强你在 Tableau Public 上的形象。另外,你可以考虑写博客,发表在领英上,甚至是加入 Twitter 会话。这都将帮助你获得职位。

    五 、学习其他技能

    如果你已经精通 Tableau 了,但你是不是还在寻找其他技能以符合你所找的 Tableau 工作?

    思考并学习像数据库这样的其他技能,有一个关于统计的透彻理解,知道如何从各个来源收集数据,并将它们以适合你在 Tableau 中制作可视化的方式结合起来。其实有很多工具具备上述的功能,而你的选择将很大程度上取决于你的工作场所。所以请乐于并准备好学习一个与 Tableau 相配合的工具。

    六 、想想你的软实力

    软实力无法量化,但是它们对于你成功获得 Tableau 职位来说起着非常重要的作用。在团队协作和沟通里的标准技能仍然适用,但是我个人的观点看上去会有点不同。

    清晰而简明的沟通。这并不是说简短的邮件,而是说把你的数据可视化作品和仪表板作为一个分享信息和见解的有效手段。不断地检查并评估你的作品是否充分利用了整个画面。

    你的图表标题清晰吗?你通过你的分析引导观众了吗?颜色,形状和其他东西容易理解吗?你真的需要一个内部报告的标志吗?你的仪表板干净整洁吗?你的字体容易阅读吗?

    分而治之——共同努力。大多数组织要求你是一个团队成员,至少某些时候是的。你需要能够独立工作并制作一些能在报告中共享的数据可视化成果。但是在这个过程中,你更有可能和你团队内或团队外的一些人获得相关的数据,系统和资源。你还需很好地理解组织里的不同部分,并建立与专家的信任来提高你业务性能的分析。准备好和负责数据的IT团队一起合作,当然还有最终使用你仪表板的业务用户。

    七 、跳出你的圈子

    除非你和正确的人一起聊天不然你很难听到关于 Tableau 的工作机会。所以,人际关系网非常重要!当你加入 Tableau 用户小组时,你将会从其他 Tableau 爱好者所做的事情中得到启发,更有可能偶然发现一个工作机会。

    去参加活动,加入一个 Tableau 用户小组,或是出席一年一度的 Tableau 可视化分析峰会。你将会发现数百计让人们事业成功的学习方法。最为重要的是,你将会和许多像你一样的人们有段美好的时光。如果你还在阅读这篇文章,请注意,Tableau 社区是 Tableau 和其他竞争对手最为不同的一点,所以请尽可能多地使用它。

    然后是关于和他人交谈,与他们建立联系并开始对话。询问问题。并不是询问工作。找到组织需要什么,他们正在用自己的数据做什么,他们的挑战是什么。你可以提供给他们什么?你能增加什么价值?一旦你明白了,你就可以将对话转移到工作机会了。

    天善学院Tableau免费课程推荐:

    让我们互帮互助

    当我们致力于互相帮助对方成为更好的 Tableau 分析/开发/设计大师,那么机会将向我们每一个人走来。所以来吧,使出你的全力做到最好,然后看看你能走得多远。

  • ?

    数据分析不只Tableau,这款国产工具也能扛上一扛!

    王小柔

    展开

    知乎上,关于商业数据分析和可视化,有两个网红工具:Tableau、PowerBI。在如今数据分析行业快速火热的今天,用它们来生成可视化dashboard,做数据探索分析,绝逼便捷。

    小编也是数据分析爱好者,时常把弄一些工具。Tableau的可视化很人性,个人用就像是Excel的智能版。但如果针对业态多样,数据量大而庞杂的企业数据分析,尤其是面临数据建模、数据清洗等耗费很多人力的操作,其实有款国产工具能和Tableau扛上一扛——FineBI。

    可能是企业级应用的缘故,比较低调,推荐的不是很多,今天小编就来给他正个名。

    (BI工程师、DBA、IT人可以关注下,职业利益相关)

    在正式介绍它之前,先介绍一下什么是自助式BI。

    自助式BI VS传统意识中的BI

    Tableau和FineBI都属于自助式BI,最大特点是用起来简单。

    在自助式BI出现之前,BI通常只有具备IT技术背景的研发人员和数据科学家能用,他们多集中在企业技术部门,通常也称为企业级BI,典型工具如SAP的BO、IBM的cognos。它们最大的问题是使用门槛高,让懂业务却不懂技术的业务分析师望而却步,只能向IT提需求,并不能对数据做统筹。而且传统BI工具效率低,完成一个需求要经过数据建模、ETL架构设计、报表开发等一系列工作,通常3~15个人天,如果需求一改,这些工作又得重做。

    同样的工作用自助式BI,数据没有大问题的话,1~2个人天。

    为什么差距这么大?技术上主要:自助式BI是自动建模,传统BI是手动建模。

    手动建模建出的模型是死的,使用聚合存储,建模之前必须把全部需求调查清楚,一旦需求有变,需要打回信息部重新沟通、建模、做模板,一前一后都有较高的沟通成本。自动建模是以表间关联为依据,多维数据库中存储明细数据,以深度优化的索引等技术保证即席运算性能。得到的模型灵活多变,需求变化的响应可以在OLAP层面,而非建模层面实现,免去了大量沟通和建模工作。这样的好处就是信息部可以授人以渔:信息部准备数据,教授业务部门做数据分析,立刻就知道问题出在哪里。

    那么,作为自助式BI的FineBI,其高效又体现在哪里?这里从工作效率、制作难度、需求应付率、可视化和数据处理性能上来介绍下。

    如何让IT &业务配合更高效?

    先来看一下FineBI的使用流程(如下图):分别为管理员创建业务包(准备数据),业务人员新建仪表板(可视化和探索性分析),业务人员新建螺旋分析(前端再处理数据),领导查看分析(对外分享报告)。

    创建业务包就是准备数据,这个工作一般让信息部去做,把数据转化成业务分析人员可理解的数据(一般会准备大而全的明细数据)。

    然后,业务人员拿着业务包里的明细数据,根据需求做分析,比如做一个销售dashboard,分析每个产品、每个地区、每个销售员的销售情况综合判断。在没有分析目标的情况下,可以尝试探索性分析:聚合、预测、帕累托等,都有现成的模型。

    螺旋分析就是有些情况下,一些字段没有现成的,比如环比、同比,你可以在前端创建新的公式。

    这些都完成后,基本的可视化就算完成了,然后将你的数据报告分享给领导,或者是定时出日报、月报,自动推送给指定人群。

    相比以前整天向信息部要催报告,修改报告的模式,流程配合上也就不再迂回,反复推锅了。

    如何10分钟做出一张dashboard?

    说了这么多,FineBI到底如何做dashboard ?

    流程

    简单来讲就是,数据准备好了之后,选图表——添加数据字段——没有现成字段的就设置一个——添加分析元素(钻取、联动)——美化图表——分享。

    如何做一份让人眼前一亮的可视化分析?

    比如下面这个大屏,通常应用在展厅、领导办公室、政务掌控中心。通常掌握上述的dashboard制作,30分钟就可以搞定。原理就是构建每一块图表,然后拼接在一起,美化一下背景,增加一些科技的元素。至于展示哪些数据,这个考量你的内功,需要根据你分析的思路来布局,最终能讲好一个故事。

    具体教程:30分钟,教你零基础用BI搭建可视化大屏

    除了分析,还能搞定复杂式中国报表!

    之前有网友评价,诸如此类的BI工具无法制作复杂的中国式报表。这里喊一下冤,BI工具和报表工具还是不一样的,前者是为了数据分析,快速出报告;后者就是做报表的,就是数据展示。使用BI是对同一个问题从不同的角度进行分析、以多种形式展现分析结果、通过管理驾驶舱突出业务问题的本质。使用报表就是制作中国式复杂报表、固定格式报表、周报、月报等。

    如果非要说两个需求都要的话,FineBI是可以搭配FineReport,做复杂式中国报表。

    FineReport是什么?它的本质是一个通用的报表制作和数据可视化工具。好比Excel,小到可以存储统计数据、制作各式各样的图表、dashboard,主要制作中国式复杂报表、固定格式的报表。参考这款效率远超Excel的表格工具,没用过就可惜了!你用过Excel,却不知还有一款神器“FineReport”

    怎么搭配使用?

    FineReport可以借助FineBI对大数据处理的性能,连接数仓和多维数据库,出表更快。

    同样的FineBI也可以借助FineReport,制作表格式报表,报表形式也不受局限。

    数据处理性能如何?

    刚有提到FineBI在大数据方面处理性能较佳,对于处理千万级、上亿级的数据,可以看下图:

    这工具的性能主要分为FineIndex性能和数据分析性能。

    FineIndex性能

    FineIndex本身作为数据仓库到自定义分析的中间层,它是将数据仓库中抽取的数据作为缓存数据生成文件放置到硬盘上的,它本身构建的是数据立方体,需要切片、分组索引。因此其性能参数主要在于如下:

    (1)内存

    FineIndex在抽取数据、分组写入索引、写入关联生成缓存数据的过程中,均会将数据在内存中去操作,内存越大其速度越快。

    FineIndex在数据计算的过程,采用的是java计算(一般优于sql计算),也是消耗内存的资源,因此内存越大其运算的速度越快。

    (2)硬盘

    FineIndex的生成是写入硬盘的文件。因此写入速度越快,性能越高。在被读取数据时,系统执行的是文件级读取(性能上优于数据库读取),读取文件的速度越快,则性能越优。

    数据分析性能

    数据分析是前端新建仪表板模块加载FineIndex的数据进入内存中进行计算。因此仍然是FineIndex的数据读取进行加载,然后在内存中运算。

    但是,区别于由于建立了业务包,数据仓库的数据定时更新,比如夜里更新,第二天处理数据就直接拿着本地的业务包里的数据做处理,也避免重复计算,像Tableau每次都是重新读取全部数据,数据量大会卡顿,运行速度高效快速。

    数据&分析协同

    FineBI有类似办公协同软件OA的一套流程管理和权限控制,主要出于数据安全考虑。可以设置部门只能看部门内的数据,个人只能看个人权限范围内的数据,dashboard制作完分享给别人时,也可以指定分享给谁,被分享者收到通知后登录门户时,可以看到报表出现在桌面中,然后修改、批注。

    小编觉得这点比tableau好太多,尤其是出于数据安全的考虑,更能适应本土化的需求。

    总结:

    总得来说,业务部门更关注底层数据处理的可信度,是否真实反映业务状况,是否能高效便捷低成本的完成数据分析,指导业务经营。在底层数据处理上,FineBI建立业务包这些操作,tableau要完善功能和易用性,让IT部门的人能互动,协同数据准备,高效而准确。

    最后,关于这工具,个人免费,真的随便用,并没有阉割功能,只是有两个并发限制,毕竟是商业软件嘛。

  • ?

    手把手教你Tableau高级数据分析功能

    孙孤兰

    展开

    原文标题:A Step-by-Step Guide to learn Advanced Tableau – for Data Science and Business Intelligence Professionals

    作者:Pavleen Kaur ; 翻译:李清扬 ; 校对:卢苗苗;

    本文共 4000字 ,建议阅读 8分钟 。 本文借助高级图表创建计算深入研究数据以提取对数据的分析,并了解R如何与Tableau相互集成和使用。

    简介

    “查看数据。 显示图表。 讲故事。 吸引观众。”

    Tableau是当今数据科学和商业智能专业人员使用的最流行的数据可视化工具之一。 它使您能够以交互和多彩的方式创建具有洞察力和影响力的可视化效果图。

    它的用途不仅仅是创建传统的图表和图表。 您可以使用它来挖掘可操作的数据解析,这要归功于它提供的大量功能和自定义。

    以其易用性和简单的功能而闻名,制作如下所示的富有洞察力的仪表盘只需点击几下鼠标:

    在本文中,我们将看到一些超越拖放功能的高级图表。 我们将创建计算以深入研究数据以提取对数据的分析。 我们还将看看R如何与Tableau相互集成和使用。

    本文假定您掌握丰富的使用Tableau的知识,例如基本图表形成,计算,参数等。如果您不这样做,我会建议先参考以下文章,然后再返回此处:

    Tableau for Beginners - 简化数据可视化

    中级Tableau指南 - 适用于数据科学和商业智能专业人员

    目录

    1. 高级图形 - 可视化超越“显示我”

    运动图

    凹凸图

    甜甜圈图表

    瀑布图

    帕累托图

    2. 在Tableau中引入R编程

    1. 高级图形 - 可视化超越'Show Me'

    几乎所有的Tableau用户都知道各种基本图形,例如介绍仪表板中显示的那些图形。 这些图表可以使用Tableau的“Show Me”功能轻松完成。 但由于这是一篇面向高级用户的文章,因此我们将超越“Show Me”并探索需要额外计算的图表。

    首先,让我们快速浏览一下我们将在接下来的几节中做什么。 以下是我们超市的销售额和利润的一些基本分析。 简单的图表可以达到与主板中的相同的目的,但我认为您会对这些图表的宏伟感到兴奋和激动。

    1.1动态图表

    在开始之前,先看看Hans Rosling的世界经济图表展示 #_chart-type=bubbles) 。 点击播放键,看到魔法在你面前展开。

    有兴趣自己做一个类似的图表展示吗? 不要担心如何做这些动画!你所看到的被称为动态图表。 使用此功能,您可以实时查看数据中的变化。

    因此,我们首先下载可在此处找到的Superstore数据集 。

    现在让趋势线如下图所示对你来说应该很容易:

    但是本节我们首先要学习的是如何使下面的趋势线运动(gif动图):

    https://s3-ap-south-1.amazonaws/av-blog-media/wp-content/uploads/2017/08/23131759/2.gif

    所以让我们开始吧!

    导入您的数据集,并创建上述趋势图。 我们的X轴是订单日期(月份格式),销售额和利润是度量值。

    您只需将“订单日期”拖到“页面”功能区,然后再次更改格式以与X轴匹配。

    将标记类型从自动更改变更为圆形。

    转到“显示历史记录”,然后选择“追踪”以查看趋势变化。 瞧! 您的动态图表已准备好启动。

    按箭头按钮查看动作,更改“显示历史”定制项,速度项等:

    1.2凹凸图

    假设你想探索Superstore各个部门的销售额(整整一年)。 其中一种方法是:

    然而备选方案如下:

    虽然折线图能够显示每个细分部门之间的销售差异,但凹凸图(上图)给出了更清晰和简明的相同结果图。

    这些图表通常用于了解多年来特定产品的受欢迎程度如何变化。

    现在让我们尝试自己创建一个:

    1)首先,我们需要考虑度量单位,根据这些度量单位我们对我们的测量维度进行排名。 这里我们采取的度量单位是销售量,测量维度是部门。

    2)您需要计算模块的帮助才能制作凹凸图表。 所以快速创建一个如下所示的计算。 我们将对每个细分部门的销售总额进行排名:

    3)现在将“订单日期”拖到列中并将格式更改为月。 在标记窗格中将“Segment”拖动到Marks Pane里的颜色。 最后将“Rank”拖到行。

    4)在你现在可以看到的图表中,排名是根据月份数量分配的。但是,我们需要他们在细分部门的基础上。 因此,右键单击行中的排名,然后转到编辑表格计算。

    5)由于我们希望使用细分部门计算,请将配置更改为:

    您将获得的图表看起来不像仪表板中的图表,因为它缺少标签。 让我们在双轴(Dual Axis)的帮助下快速修复:

    6)再次将排名拖到行上并重复步骤4)和5)以得到:

    您在Marks Pane中看到了Rank和Rank(2)吗?我们将使用这些来创建带圆圈的标签。

    7)要将上述内容转换为双轴图表,请右键单击第二个图表的Rank轴并选择双轴。

    8)在Marks Pane中,Rank或Rank(2),然后将标记类型更改为圆形而不是自动。

    9)这里的排名按降序排列。 要将其更改为升序,请右键单击左侧的Rank轴 - >编辑轴 - >反向比例。 对右边的Rank轴重复同样的操作。

    10)最后,将“销售额”拖放到标签 - >快速表计算 - >总计百分比上,以获得我们期望的凹凸图。

    1.3甜甜圈图

    圆环图是初级图的另一种表现形式。 坦率地说,它是一个中间有一个洞的饼图,但它有助于更加强调各个细分市场,如下所示:

    让我们了解这个区别的不同之处。

    1)我们将从一个简单的饼图开始描绘每个细分部门的利润:

    2)要创建饼图的双轴,将measure的number of records拖动到rows两次。 通过右键点击它们并选择最小值代替默认总和来更改每个绿色药丸的度量:

    3)选择Marks Pane中的第二个饼图,并将其中的每个度量/维度拖出。 减小图表的大小,并将颜色更改为白色(尽管此处未显示):

    4)要创建双轴,右键单击第二个饼图的Y轴,然后选择双轴,以获得图表。

    现在你必须明白,以上所有图表虽然在最终外观上都不相同,但都是从“显示我”功能的核心图表中获得的。 但是等一下,它还没有结束。 我有更多要展示给你。

    1.4瀑布图

    瀑布图的名称来自于其类似的方向和流动。在这里,我们绘制了Superstore多年来的运行销售情况,您可以在2013年中和2014年初看到两个小红色区域,表明销售额实际下降了,并且还有多少。

    这意味着这些图表被用来分析一个度量的累积效应,并且看它是如何作为一个整体增加和减少的。 为了更好地理解这一点,让我们想象它。

    瀑布图是折线图的衍生物,因此我们将从该图开始:

    注意:这里的X轴是订单日期(以月 - 年格式并转换为离散型), Y轴是利润

    1)右键单击绿色的Profit Pill,然后选择Quick Table Calculation - > Running Total。

    2)将标记类型从自动更改为甘特条:

    3)创建一个名为'NegProfit'的计算字段:

    4)将这个NegProfit拖到Marks框架中的Size上,得到:

    计算的字段用于填写甘特图中的空间。 利润中的负值将向下延伸,而正值则会向上延伸。

    图表中每个小条的长度表示利润从一个月到下一个月的变化量。

    5)最后,将利润拖到颜色:

    6)您可以继续前进,将颜色更改为两步变化,并清楚地查看上升和下降:

    您将获得的图表也可以非常容易地以条形图的形式表示。 请注意,我在这里将颜色分置,以使其凸显出来:

    但我相信你会同意使用瀑布图是一种更直观的表示数据的方式,特别是看看多年来度量的变化,例如销售和利润。

    1.5帕累托图

    下面我已经将一个流行的80-20数据分析原理可视化出来。 如果你还没有听说过它,让我试着用例子来解释它。我们会经常观察到超市的大部分销售来自少数几种产品。

    人们不能指望面包和鸡蛋与蛋糕有相同的销售数字,对吧? 这正式被称为80-20原则,这意味着80%的销售额来自20%的产品。 在我们的超市里,这个原则可以在下面的图表中看到,其中大部分销售是由电话和椅子生成的:

    这是一种相当流行的可视化,帕累托图通常用于风险管理,以确定对项目造成最大负面影响的最常见问题; 但正如我们将看到的,它也可以有其他应用程序。

    让我们看看它是如何完成的:

    1)我们将从下面的图表开始。 这具有作为X轴的子类别和作为Y轴的销售。 图表按降序排列:

    2)接下来,将销售额拖放到图表上,直到您看到绿色突出显示的条形和最右边的虚线轴:

    3)在此处下降销售以创建双轴。 将第一个图表的标记类型更改为条形图,将第二个图表更改为直线,最终得到:

    4)右键单击第二个绿色销售药丸,并为其添加运行总计算:

    5)剩下的只是改变配色方案,并且您的帕累托图表已准备就绪!

    2.在Tableau中引入R编程

    我喜欢Tableau的一个原因是,它不仅仅是一个工具,而且意味着只需拖放操作即可创建漂亮的图形。随着2013年Tableau 8.1的发布,出现了许多新的功能。

    R编程的引入使得更丰富和动态的可视化得以实现,这是主要特征之一。 R编程可与Tableau一起用于聚类、预测等技术。

    我想通过Clustering开始对R和Tableau的探索,所以我使用了超流行的Iris Dataset 。 它包含不同的功能来区分3种类型的flowers,即Virginica,Setosa和Versicolor。 正如你在下面的图片中看到的那样,R编程整合很容易创建这三种物种的集群:

    如果你有兴趣,可进行一下操作。首先,深入了解基础知识和安装过程,然后深入研究可视化问题!

    以下描述了Tableau和R之间的控制流程,以实现此集成:

    R脚本作为表计算写入Tableau,并发送到R的R服务包。在此模块执行必要的计算并将结果返回给Tableau。

    注意:为了正确理解并使用此功能,您必须具备R及其各种语法的一些知识。 对于相同的你可以参考以下教程:

    Learn Data Science in R from scratch:

    现在让我们看看这个集成的步骤:

    1)安装R -project.org)

    2)安装Rserve软件包

    在R命令行中运行以下命令:

    3)配置Tableau以在R中运行

    打开Tableau - >帮助 - >设置和性能 - >管理R /外部连接。 使用以下默认信息填写字段并选择测试连接:

    所以,现在你已经准备好了适当的配料,让我们开始吧!

    如上图所示,您可以使用Tableau的表计算与R进行通信:

    如果您向下滚动功能列表,您将遇到以下四种情况:

    当计算区域中包含这些函数时,Tableau会自动理解该脚本适用于R.

    我希望你最初兴奋的制作集群仍然存在! 我们继续。

    1)从这里下载Iris数据集。

    2)在Tableau中导入数据集,并制作下图:

    3)在这里,您可以通过不同的度量获得总和。要获得离散值,请转至分析,并取消选中聚合度量,以获取:

    4)最后,要形成群集,请在标记窗格中将类维度拖到颜色上:

    我们上面有一个散点图,它显示了分为3个不同群集的数据点群集。

    现在让我们尝试与R一样,并比较我们将得到的两个可视化。 我们将使用最常见的聚类算法K-Means:

    1)从与上面第2点相同的散点图开始。

    2)创建一个新的计算字段并填写以下内容:

    为了清楚起见,上述计算是:

    3)最后,将新形成的Field Cluster拖放到Marks Pane中的Color,以使您的集群准备就绪!

    虽然有一些重叠,但这两个可视化确实看起来相当准确。

    这是将R与Tableau集成的潜力的一个小要点。 它的应用程序是无限的,我相信你一定已经开始考虑可以与之交互的不同方式。

    结束笔记

    如果我说这就是Tableau的全部,这可能稍显幼稚。随着新版本的推出,新功能也将随之推出。

    不仅如此,人们总是在试验和探索Tableau,并提出新的视觉效果。在很多博客里,人们也发布了其数据实验。可以搜索一下。

    您还可以在Tableau官方图库页面上查找每周更新的可视化图像 。 建议你继续参考这些帖子,创建自己的视觉效果,并与社区分享。

    作为一名数据探索者,保持创意并保持最佳状态!

    原文链接:

    译者简介:李清扬 , 清华大学工商管理研究生在读,主修管理学。对大数据、人工智能在经济金融领域的应用感兴趣。希望能在数据派平台获得大数据前沿知识,找到志同道合的朋友,一起研究和应用数据分析工具于企业管理实践当中。

    END

    版权声明:本号内容部分来自互联网,转载请注明原文链接和作者,如有侵权或出处有误请和我们联系。

    关联阅读:

    原创系列文章:

    1:从0开始搭建自己的数据运营指标体系 (概括篇)

    2 :从0开始搭建自己的数据运营指标体系(定位篇)

    3 :从0开始搭建自己的数据运营体系(业务理解篇)

    4 :数据指标的构建流程与逻辑

    5 : 系列 :从数据指标到数据运营指标体系

    6: 实战 :为自己的公号搭建一个数据运营指标体系

    7: 从0开始搭建自己的数据运营指标体系(运营活动分析)

    数据运营 关联文章阅读:

    运营入门,从0到1搭建数据分析知识体系

    推荐 :数据分析师与运营协作的9个好习惯

    干货 :手把手教你搭建数据化用户运营体系

    推荐 :最用心的运营数据指标解读

    干货 : 如何构建数据运营指标体系

    从零开始,构建数据化运营体系

    干货 :解读产品、运营和数据三个基友关系

    干货 :从0å...

tableau数据分析

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP