考虑到现有技术解决方案的复杂性与多样化，企业往往很难找到适合自己的大数据收集与分析工具。然而，混乱的时局之下已经有多种方案脱颖而出，证明其能够帮助大家切实完成大数据分析类工作。下面我们将整理出一份包含十款工具的清单，从而有效压缩选择范畴。

　　数据已经成为现代化企业中最为重要的宝贵资源。一切决策、策略或者方法都需要依托于对数据的分析方可实现。随着“大数据分析”逐步替代其上代版本，即“商务智能”，企业正面临着一个更加复杂、且商业情报规模更为庞大的新时代。

　　考虑到现有技术解决方案的复杂性与多样化，企业往往很难找到适合自己的大数据收集与分析工具。然而，混乱的时局之下已经有多种方案脱颖而出，证明其能够帮助大家切实完成大数据分析类工作。下面我们将整理出一份包含十款工具的清单，从而有效压缩选择范畴。

　　1. OpenRefine

　　这是一款高人气数据分析工具，适用于各类与分析相关的任务。这意味着即使大家拥有多川不同数据类型及名称，这款工具亦能够利用其强大的聚类算法完成条目分组。在聚类完成后，分析即可开始。

　　2.hadoop

　　大数据与Hadoop可谓密不可分。这套软件库兼框架能够利用简单的编程模型将大规模数据集分发于计算机集群当中。其尤为擅长处理大规模数据并使其可用于本地设备当中。作为Hadoop的开发方，Apache亦在不断强化这款工具以提升其实际效果。

　　3. Storm

　　同样来自Apache的Storm是另一款伟大的实时计算系统，能够极大强化无限数据流的处理效果。其亦可用于执行多种其它与大数据相关的任务，具体包括分布式RPC、持续处理、在线机器学习以及实时分析等等。使用Storm的另一大优势在于，其整合了大量其它技术，从而进一步降低大数据处理的复杂性。

　　4. Plotly

　　这是一款数据可视化工具，可兼容JavaScript、MATLAB、Python以及R等语言。Plotly甚至能够帮助不具备代码编写技能或者时间的用户完成动态可视化处理。这款工具常由新一代数据科学家使用，因为其属于一款业务开发平台且能够快速完成大规模数据的理解与分析。

　　5. Rapidminer

　　作为另一款大数据处理必要工具，Rapidminer属于一套开源数据科学平台，且通过可视化编程机制发挥作用。其功能包括对模型进行修改、分析与创建，且能够快速将结果整合至业务流程当中。Rapidminer目前备受瞩目，且已经成为众多知名数据科学家心目中的可靠工具。

　　6. Cassandra

　　Apache Cassandra 是另一款值得关注的工具，因为其能够有效且高效地对大规模数据加以管理。它属于一套可扩展NoSQL数据库，能够监控多座数据中心内的数据并已经在Netflix及eBay等知名企业当中效力。

　　7. Hadoop MapReduce

　　这是一套软件框架，允许用户利用其编写出以可靠方式并发处理大规模数据的应用。MapReduce应用主要负责完成两项任务，即映射与规约，并由此提供多种数据处理结果。这款工具最初由谷歌公司开发完成。

　　8. Bokeh

　　这套可视化框架的主要目标在于提供精致且简洁的图形处理结果，用以强化大规模数据流的交互能力。其专门供Python语言使用。

　　9. Wolfram Alpha

　　这是一套搜索引擎，旨在帮助用户搜索其需要的计算素材或者其它内容。举例来说，如果大家输入“Facebook”，即可获得与Facebook相关的HTML元素结构、输入解释、Web托管信息、网络统计、子域、Alexa预估以及网页信息等大量内容。

　　10. Neo4j

　　其官方网站将这款工具称为图形数据库技术的下一场革命。这种说法在一定程度上并不夸张，因为此套数据库使用数据间的关系以操作并强化性能表现。Neo4j目前已经由众多企业用于利用数据关系实现智能应用，从而帮助自身保持市场竞争优势。

End.

如果对软件测试感兴趣，想了解更多的软件测试知识，请大家关注“51Testing软件测试网”百家号。

【IT168 资讯】如今，有大量功能强大的可视化工具可以帮助您展示想法、可视化数据、进行谈话，与客户和全球社区分享您的重要分析。在本文中，我们将比较最常用的平台并分析其主要功能，以帮助您选择一个或多个平台，为您的工作交流提供不可或缺的帮助。

在评估各种商业智能(BI)工具时，很难将事实与虚构分离开来，因为每个BI供应商都将其产品作为唯一的“最佳”解决方案进行销售，这往往使得互联网充斥着偏见的评论。如果你想了解功能性产品的价值，避免大肆宣传和点击无尽的部分评论，那么你来对地方了。

我们将引导您了解所有主要工具(如QlikView，Klipfolio，Tableau，Geckoboard，Power BI和Google Data Studio)的特性、优点和缺点。我们还将比较它们的关键参数，包括可用性、设置、价格、支持、维护、自助服务功能、不同数据类型的支持等。让我们分别看看每个工具。

QlikView

QlikView是一种将用户作为数据接收者的解决方案。它允许用户在工作流程中探索和发现数据，这与开发人员在处理数据时的工作方式类似。为了保持数据探索和可视化方法的灵活性，该软件致力于维护数据之间的关联。这可以帮助最终用户发现您的数据，即使这些搜索项目的来源是令人难以置信的，这些数据也会提醒您检索相关项目。

QlikView非常灵活。它允许设置和调整每个对象的每个小方面，并自定义可视化和仪表板的外观和感觉。具有如此大的灵活性，还有一个集成的ETL(提取，转换，加载)引擎，使您能够执行普通的数据清理操作。但是，这可能会很昂贵。

产品差异化

许多Qlikview在商业智能领域的竞争对手认识到差异化商品的高价值，并试图重现其许多特征，但大多数情况下都失败了。 Qlikview的设计是在avant-garde预构建的仪表板应用程序和联想仪表板的基础上开发的，这些应用程序既创新又直观易用。由于具有先进的搜索功能，它还提供了避免使用数据仓库和使用关联仪表板在内存中提取数据的功能，如上所述。

特征

Qlikview的独特性和灵活性的完美结合使其在其他BI供应商中占有一席之地，并为各行各业处理了大量不同规模的业务提供各种有用的应用程序。

QlikView拥有众多的功能，使其对基于来自多个来源的数据创建高级仪表板非常有用。

其中一个特点是QlikView能够自动操作数据关联：它可以识别集合中各种数据项之间的关系，而无需用户进行任何明确的预配置工作。这项任务的自动化极大地加快了仪表板开发的进程。

Qlikview处理数据输入的另一个重要特性是将其保存在多个用户的内存中，即保存在服务器的RAM中。这样可以加快查询速度，从而加快数据探索速度，并改善用户在运行中计算的聚合体验，而不是基于存储的计算。由于Qlikview保留了内存中的数据，因此根据需要计算聚合要快得多，而不是查询预先计算的聚合值。另外，它更具有内存效率。

将数据保存在内存中肯定是一项艰巨的进步，因为它需要大量的内存来处理所有的数据。 QlikView通过令人难以置信的压缩级别将数据缩小至原始大小的10%来解决此问题。我们相信这是通过大量使用数据字典并仅使用分析所需的最重要的数据获得的最大的Qlikview功能之一。

可用性

即使对普通用户来说，QlikView的仪表板和报告也很容易浏览。但是，构建报表可能非常具有挑战性，因为它需要高水平的开发人员技能，熟悉默认SQL以及使用Qlikview的专有查询语言进行训练以构建数据库交互。

定价

QlikView被评为BI领域最昂贵的平台之一。完整的价格政策可在以下链接中找到：qlik。定价方案相当复杂，可能令人困惑。许多新用户通过其“文档许可证”陷入了代价高昂的陷阱，该文档许可证以某种模糊的方式表达了工作条件。最初的定价计划实际上可能会让您费用增加一倍，因为速率仅适用于一个“文档”(.tde文件)。许多客户后来发现这是令人不愉快的惊喜，并且它还可以刺激用户的价格近两倍。与Qlikview相比，其他竞争对手的定价政策更直接。

QlikView是关于目的地的，所以你需要确切地知道你要去的地方。如果有些问题仍然模糊，则可能花费大量时间尝试将多个表单放在一起，最终可能会丢弃多个表单，因为任何误解的数据都会影响最终结果。只要您不改变原始问题，QlikView就可以让您使用您的数据完成精彩的事情。

总而言之，如果您有正确的思维方式来应用程序化界面，并且能够从一开始就整合正确的问题，以便您的数据以不同形式派生，那么Qlikview可能是适合您的解决方案。当然，您还需要准备投入额外的努力来维护正确的报告。

　KLIPFOLIO

Klipfolio是一个BI解决方案，在云中占据100%(不需要桌面应用程序)，为数据可视化和仪表盘组成提供了一个真正具有洞察力的工具。这使得它能够最有效地处理数据、增强实时解决方案和优化，而不是依赖于周期性回归模型。

Klipfolio支持连接到各种数据源，包括在线和离线数据源。在线资源整合了一系列云托管存储，包括Google表格、关系数据库和其他以各种形式提供数据的服务。服务部门可以在这里找到连接服务的完整参考资料。使用RESTful API也可以连接到您自己的数据源。

Klipfolio支持多种离线服务类型：MS Excel、CSV、XML、JSON等。可以通过与上面提到的在线来源相同的链接找到完整的参考列表，但是仅在数据存储库部分。

所有这些数据源，无论是单独或组合，都可以有效地用于整合各种指标，以提取数据愿景，创建、转换和共享定制可视化，以揭示任何无用数字背后的实际含义。

Klipfolio采用响应原则，利用智能手机和平板电脑等各种技术平台，以及跨越会议室墙壁的台式计算机和智能电视，帮助发现仪表板。

产品差异化

Klipfolio代表了一个功能强大的数据仪表盘构建平台，可以访问真实世界，不断变化的生动数据源。当动态变化非常重要并且可能需要紧急决策时，它最适用于实时监视和控制连续数据流。实时数据连接是数据检索的一种方式，可以保持数据准确性和可靠性所需的时间一致性，而响应速度则可用于快速决策的时间因素。

特征

·将多个数据源整合到一个报告中

·无限连接尽可能多的用户

·管理重要信息的访问权限和限制

·移动辅助功能(iOS，Android，黑莓，Windows)

·灵活的REST连接器，用于设置自定义数据源

·安全连接到SQL数据库

·支持Excel、CSV、JSON、XML文件格式

·方便的注释到分享报告的用户看到的报告

·自助式KPI编辑平台

·易于使用的阈值指标。

可用性

Klipfolio包括大量的可视化类型，包括普通表、条形图、饼图、线和面积图，这些图表的组合以及散点图。此外，通过使用一些HTML和CSS，用户可以伪造自己独特的可视化效果。在WYSIWYG编辑器的帮助下，所有这些组件都在复合仪表板上进行布局。一些更复杂的可视化元素添加了各种公式和功能。

Klipfolio仪表板具有广泛的协作框架，可根据权限与其他用户共享信息，通过电子邮件启用通知和分发。使用Klipfolio时的显著差异出现在建筑图表和图表中。

用户不必简单地将数据表中的字段拖放到工作表中，而必须使用不同的函数和公式来实现所有计算。通过这种方式，您可以使用任何类型的可视化创建工作表，但是您需要考虑如何组合和更改数据。

定价

Klipfolio是BI行业中历史最悠久的企业之一，拥有丰富的经验和专业知识，通过开发可行的解决方案为其铺平了道路。 Klipfolio主要投注今天的云服务，同时也提供前提解决方案选项。 Klipfolio仪表板(作为SaaS)使用用户每月定价政策进行分配，根据数量和时间承诺有一些小的总变化。定价从每月19美元开始，提供多种选项和定制的付款方案。 Klipfolio还提供14天的免费试用期，用于测试和学习目的。

Tableau

今天的另一个重要角色就是Tableau。与大多数其他商务智能工具一样，它通过可视化方式进行零数据分析。它旨在轻松创建和分发交互式数据仪表板，通过简单而有效的视觉效果提供对动态，变化趋势和数据密度分布的深入描述。

与许多其他服务一样，Tableau提供了连接多种系统类型的数据源的工具，如以文件格式(CSV，JSON，XML，MS Excel等)组织的数据系统，关系数据系统和非关系数据系统(PostgreSQL ，MySQL，SQL Server，MongoDB等)，云系统(AWS，Oracle Cloud，Google BigQuery，Microsoft Azure)。

与竞争对手的核心区别在于Tableau具有数据混合的特点。另一个独特的特点是实时协作的能力，使其成为商业和非商业组织的宝贵投资。有几种方法可以在Tableau中共享这些报告：将它们发布到Tableau服务器;通过电子邮件Tableau Reader功能;通过公开发布Tableau工作簿并授予访问任何有链接的人员的权限。这种选择的大小可以带来很大的灵活性并消除许多限制

产品差异化

Tableau提供了多种具有鲜明特征的可视化功能，实现了数据发现和深入洞察的智能方式。丰富的可视化类型库包括“文字云”和“气泡图”，可为Tableau提供独特的高级别理解。树图和树形图为视觉效果提供上下文信息。后者通常用于描述零件分类数据，重点关注最相关的信息。

Tableau仪表板非常灵活。它的中心特征允许以期望的方式用任何“重叠”来布置仪表板，这在屏幕空间人体工程学中非常方便。

Tableau很容易理解为工作工具，其学习曲线非常温和，因为它努力为任何类型的用户提供其所有权力，甚至是那些以前从未接触过可视化工作流技术细节的用户。

从开发人员的角度来看，Tableau不仅简单易用，而且在目的地方面也非常整洁，因为它提供了通过附加自定义参数的附加过滤来控制结果的能力。所有的数据都以清晰、有吸引力和互动的方式进行交流。Tableau提供了对数据的深刻见解，并允许有效地压缩复杂的决策过程。

上面的共享系统以其巨大的灵活性和不同的数据共享选择而闻名。即使是最挑剔的用户也肯定会找到一个合适的解决方案来满足他们最多变的需求。

　特性

·免费共享能力(有一定的限制)

·支持连接到30多个数据源类型

·混合数据源

·支持多维数据集

·与R的集成，为许多数据库映射现成的驱动程序

·领导社区建设工作(各种培训视频、博客、论坛、社交网络参与)

可用性

非常容易使用，从这个列表看，它被认为是最好的易于使用的工具。考虑到这些广泛的Tableau特性，它最方便的用例是通过图表、图形和其他可视化类型发现结构化数据。没有其他的BI解决方案可以让它比Tableau更容易，给它的用户带来惊人的力量。对于一个普通的业务用户来说，这很容易，而且与开发工具一样强大。导入数据、构建有吸引力的可视化，共享并以简单明了的形式发布它们。此外，大量的教程视频、howto -tos、blogs和论坛将节省时间，避免寻找正确的解决方案的长期斗争。

定价

Tableau有不同的许可计划，类似于其他BI解决方案。Tableau提供了三种截然不同的产品，价格截然不同。

这三种产品分别是Tableau桌面、Tableau和Tableau服务器，它们的价格不同。详细的价格信息可以在官方网站上找到。

Tableau桌面是为大多数的个人用户设计的，每年为个人用户提供$999，企业使用$1,999，覆盖支持。个人使用意味着它是针对单个开发人员的，并且支持6个数据源。企业使用意味着它是为业务需求而设计的，并允许多达44个数据源。

Tableau是一个基于云的BI平台，由Tableau供应商提供web界面。Tableau可以免费使用它的公共选项，但重要的是要记住，这个解决方案是托管在公共服务器上的，所有的报告都是公开共享的。这个私人在线版本的售价为500用户/年。

Tableau服务器对于运营自己服务器的公司来说是一个成熟的业务工具，它希望对数据流进行完全控制，并保证后台主机的安全性。然而，它的价格是每10个用户1万美元。客户的支持还提供了额外的25%的年成本。

它是又一个基于云的可视化解决方案。如果你需要使用基本预定义的小部件显示某些值，它可以成为适合您的工具。 Geckoboard提供了使用各种小部件来组合仪表板的功能。它具有丰富的与Facebook准备集成的库： twitter、Salesforce API，以便您可以即时查看您的社交媒体参与或业务数据。

它还提供了以两种方式与您自己的数据源创建自定义集成的能力：:Pull或Push。Pull意味着您的小部件每隔N秒就会提交一次数据请求(您可以设置N值)，该数据与提取数据的位置链接到特定的URL(您也可以设置)。Push意味着您可以通过向特殊小部件URL发送HTTP请求来手动为小部件提供数据。这会将您发送的数据与该小部件相关联，并将其显示在仪表板上。

Geckoboard为您提供了几个可能的小部件模板，如折线图或直方图，每个模板都有自己的可以显示的JSON格式的数据。拉式服务器或推送器以适当的格式发送数据很重要。否则，它不会在仪表板上显示任何内容。

您还可以更改窗口小部件的样式表，更改颜色模式，添加两个或更多仪表板或添加多个用户。 Geckoboard拥有一支可靠的支持团队，通常能够相对快速地做出响应，�...

大数据是什么？大数据处理分析的工具有哪些？不管是即将学习大数据的人亦或是转型向学大数据的人都想要了解的。

1，什么是大数据

简言之，从各种各样类型的数据中，快速获得有价值信息的能力，就是大数据技术。

2，大数据最核心的价值

大数据最核心的价值就是在于对于海量数据进行存储和分析。相比起现有的其他技术而言，大数据的“廉价、迅速、优化”这三方面的综合成本是最优的。

3，大数据处理分析的六大最好工具

一、 Apache Hadoop

Hadoop 是一个能够对大量数据进行分布式处理的软件框架。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。

Hadoop是一个能够让用户轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点：

⒈高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

⒉高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。

⒊高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因此处理速度非常快。

⒋高容错性。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配。

Hadoop带有用 Java 语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如 C++。

二、HPCC

HPCC，High Performance Computing and Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项目：高性能计算与 通信”的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国 实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆 比特网络技术，扩展研究和教育机构及网络连接能力。

该项目主要由五部分组成：

1、高性能计算机系统(HPCS)，内容包括今后几代计算机系统的研究、系统设计工具、先进的典型系统及原有系统的评价等;

2、先进软件技术与算法(ASTA)，内容有巨大挑战问题的软件支撑、新算法设计、软件分支与工具、计算计算及高性能计算研究中心等;

3、国家科研与教育网格(NREN)，内容有中接站及10亿位级传输的研究与开发;

4、基本研究与人类资源(BRHR)，内容有基础研究、培训、教育及课程教材，被设计通过奖励调查者-开始的，长期 的调查在可升级的高性能计算中来增加创新意识流，通过提高教育和高性能的计算训练和通信来加大熟练的和训练有素的人员的联营，和来提供必需的基础架构来支 持这些调查和研究活动;

5、信息基础结构技术和应用(IITA )，目的在于保证美国在先进信息技术开发方面的领先地位。

三、Storm

Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。 Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、Admaster等等。

Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC(远过程调用协议，一种通过网络从远程计算机程序上请求服务)、 ETL(Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载)等等。Storm的处理速度惊人：经测 试，每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错，很容易设置和操作。

四、Apache Drill

为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel.

据Hadoop厂商MapR Technologies公司产品经理Tomer Shiran介绍，“Drill”已经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。

该项目将会创建出开源版本的谷歌Dremel Hadoop工具(谷歌使用该工具来为Hadoop数据分析工具的互联网应用提速)。而“Drill”将有助于Hadoop用户实现更快查询海量数据集的目的。

“Drill”项目其实也是从谷歌的Dremel项目中获得灵感：该项目帮助谷歌实现海量数据集的分析处理，包括分析抓取Web文档、跟踪安装在Android Market上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。

通过开发“Drill”Apache开源项目，组织机构将有望建立Drill所属的API接口和灵活强大的体系架构，从而帮助支持广泛的数据源、数据格式和查询语言。

五、RapidMiner

RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。

功能和特点

免费提供数据挖掘技术和库

100%用Java代码(可运行在操作系统)

数据挖掘过程简单，强大和直观

内部XML保证了标准化的格式来表示交换数据挖掘过程

可以用简单脚本语言自动进行大规模进程

多层次的数据视图，确保有效和透明的数据

图形用户界面的互动原型

命令行(批处理模式)自动大规模应用

Java API(应用编程接口)

简单的插件和推广机制

强大的可视化引擎，许多尖端的高维数据的可视化建模

400多个数据挖掘运营商支持

耶鲁大学已成功地应用在许多不同的应用领域，包括文本挖掘，多媒体挖掘，功能设计，数据流挖掘，集成开发的方法和分布式数据挖掘。

六、 Pentaho BI

Pentaho BI 平台不同于传统的BI 产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。

Pentaho BI 平台，Pentaho Open BI 套件的核心架构和基础，是以流程为中心的，因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI 平台上执行的商业智能流程。流程可以很容易的被定制，也可以添加新的流程。BI 平台包含组件和报表，用以分析这些流程的性能。目前，Pentaho的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过 J2EE、WebService、SOAP、HTTP、Java、JavaScript、Portals等技术集成到Pentaho平台中来。 Pentaho的发行，主要以Pentaho SDK的形式进行。

Pentaho SDK共包含五个部分：Pentaho平台、Pentaho示例数据库、可独立运行的Pentaho平台、Pentaho解决方案示例和一个预先配制好的 Pentaho网络服务器。其中Pentaho平台是Pentaho平台最主要的部分，囊括了Pentaho平台源代码的主体;Pentaho数据库为 Pentaho平台的正常运行提供的数据服务，包括配置信息、Solution相关的信息等等，对于Pentaho平台来说它不是必须的，通过配置是可以用其它数据库服务取代的;可独立运行的Pentaho平台是Pentaho平台的独立运行模式的示例，它演示了如何使Pentaho平台在没有应用服务器支持的情况下独立运行;Pentaho解决方案示例是一个Eclipse工程，用来演示如何为Pentaho平台开发相关的商业智能解决方案。

Pentaho BI 平台构建于服务器，引擎和组件的基础之上。这些提供了系统的J2EE 服务器，安全，portal，工作流，规则引擎，图表，协作，内容管理，数据集成，分析和建模功能。这些组件的大部分是基于标准的，可使用其他产品替换之。

4. 大数据特点

第一，数据体量巨大。从TB级别，跃升到PB级别。

第二，数据类型繁多，如前文提到的网络日志、视频、图片、地理位置信息，等等。

第三，价值密度低。以视频为例，连续不间断监控过程中，可能有用的数据仅仅有一两秒。

第四，处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质的不同。物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器，无一不是数据来源或者承载的方式。

如果对于大数据还有更多的疑问，可以持续关注作者，也可以留言或者私信问题。

大数据分析，是互联网从业者必须具备的一项基础技能，只有掌握数据分析，做项目才能更科学化、对于项目的预判，能够更准确的把握。今天分享的这些数据分析工具，是我们分析项目经常用的工具，毫无保留的分享给大家，希望大家在操作项目的过程中熟练的使用这些工具。 定能够让你在网赚道路上无往不胜。1、百度指数第一款必备工具。百度指数，我们在查询某一些关键词的时候，首要考虑的就是百度的数据如何，因为百度这个搜索引擎在互联网搜索引擎中占据的份额最大，数据精准度高。检索的很多关键词以及一些热点词的数据对比，都能直观展现出来，通过人群、年龄、性别、兴趣爱好、地域等更为详细的信息，方便我们做出更理智的判断。

2、微指数我们在查询一些关键词的时候，要分析社交数据。对于产品传播非常重要，通过调查数据，我们知道如何把握住当今热点，让产品蹭热度飞一会，是很多商家考虑的问题。新浪微博旗下产品微指数，可以很容易帮我们把控热点关键词。让我们清楚地看到近七天趋势如何，及时对产品做出调整。

3、阿里指数我们在操作某宝店铺项目的时候，需要分析更多的数据，来确定标题内容如何定位优化，用户检索更为简单，如何蹭热点关键词飞上那么一会儿，如何引爆流量做核心爆款。这个跟成交量有非常大的关键，哪类行业有哪些关键词在搜索时上升幅度比较快，很有潜力，知道这些信息后，我们都需要提早的布局。等相关的关键词上升到一定幅度时，我们恰好出现在热点上，在用户检索时很容易爆单。这个数据分析工具是中小卖家逆袭的机会。一定要好好研究。

4、腾讯指数BAT三大巨头，柒点哥介绍两家了，怎么可能缺少 TX 指数，TX 旗下的各类产品琳琅满目，自然对数据掌握的精准程度不是一般企业可以比拟的。算得上行业顶尖了。但是目前为止使用腾讯指数分析的用户实在少之又少，大部分人不知道这个功能，今天柒点哥告诉大家，腾讯确实有指数分析的功能。而且可以从九大品类开始分析数据，可以说是一款很强大的运营工具。

5、爱站网爱站网：是一个综合性的数据分析平台。我平常都在用这个网站分析一些网站相关的信息，比如，网站收录状况，PR值，域名信息，友情链接等一些数据。但是最长用的一个功能就是长尾关键词发掘。这项功能有助于我们通过主关键词，发掘带流量的附属关键词的状况，类似于百度推广后台的数据分析。非常不错的免费工具，大家以后可以常用。

6、QQ指数QQ指数是一款基于QQ平台用户数据分析的移动端指数类产品，定位于洞察QQ平台上年轻人最新、最热、最关注的社交内容，通过分析QQ平台上用户公开发表的说说、评论及搜索、浏览等行为数据，发现年轻人的热点趋势及舆论风向，透过QQ指数可以快速掌握年轻人的兴趣喜好和行为习惯等信息。作为T讯旗下最为核心的产品，对于我们互联网人士来讲，把它称为流量的天堂，只要随便找一个平台来操作产品，坚持一段时间都能暴富的。所以研究T讯系的核心产品，离不开QQ指数这个工具，对于我们把控QQ流量热点的趋势有很好的帮助，是非常重要的营销利器。

QQ指数官方账号：qq搜索框搜索 QQ指数，关注公众号即可查询，主要是带认证图标的那个。7、微信指数微信指数是微信官方提供的基于微信大数据分析的移动端指数。2017年3月23日晚，微信官方推出了“微信指数”功能。作为T讯旗下，第二个核心产品，微信可以说是后来者居上，各种苗头都表明要赶超QQ的趋势，对于我们互联网人士来讲，这是最好的变现渠道。因为很多网赚项目，最后结款的地方都是在微信端成交的。所以我们非常有必要来分析他的数据，基于微信推出了这一功能，让我们省了很多分析微信数据的时间。

微信指数官方渠道：小程序搜索微信指数8、安卓权重榜我们操作的一些项目，免不了在APP上操作，但是这个平台流量如何，以及人群属性，都很难预估。但是我们又必须了解数据才能够伸缩有度，所以我常用的这款APP数据软件，就能够给我带来客观的数据。

9、新榜以榜单为切口，新榜向众多500强企业、政府机构提供线上、线下数据产品服务，“号内搜”、“新榜认证”、“分钟级监测”获得广泛应用。在协同内容创业者商业化方面，新榜依托数据挖掘分析能力，建立用户画像和效果监测系统，连接品牌广告主和品牌自媒体。作为公众号的运营者，我特别注重公众号的分析，以及项目渠道的发掘。新榜作为专业的内容数据提供商，我是经常会使用他来分析数据，查看某些公众号潜力，随时观察它的盈利模式以及动向。

10、梅花网作为互联网人士，写文章投放广告，是我经常要做的事情，但是如何让广告的每一分钱都花到潜在客户身上，是我经常要考虑的。如何知道同行在哪里投放广告，也是我所关心的，梅花网是广告监测比较专业的网站，我经常用来分析广告数据，在这里推荐给大家。

总结：以上的十个工具呢，就是我经常用到的数据分析工具。我认为这是每一个互联网从业者都具备的基本功，用好数据分析，操作项目更加的事半功倍。但是用的时候不能太死板，可以结合起来相互用。实干派动手做，花架子空叹息，让技术为你工作。赚钱的玩法很多，只有思路够宽，你才能走的更远。没赚到钱，并不是文章干货不够，而是你懂得太少了。 保持空杯心态，永远在进步。

日常一提数据分析和可视化，就想到这个工具操作要多简单易用，图表要多美多炫，然而总是忽略背后的数据支撑。

excel 几十万行数据就卡死崩，谈何数据透视表、可视化？近千万行的数据，订单提交数据库，sql sever处理要5分多钟，如果频繁入库/取数的话.....

要知道，为了支撑起业务人员的数据分析，以及日常不考虑计算逻辑和技术难度，IT人员也是要花费很大的心血和精力啊（心疼运维人员n秒）。

随着公司业务的发展，数据量变大是必然的事实。那么，数据部门要做分析，业务部门要看报表，要跑数据，要用BI，大数据量（千万级及以上）的分析，性能该如何优化？

这里借某公司的真实案例，来阐述一下方案。

----------------------------------

作为公司的科技部门人员，经常听到业务部门对自己使用的数据库各种吐槽：

竟然存放在mongoDB中啊，震惊(ΩДΩ)。

数据库慢慢熟悉了还好啊，但是现在每天的数据量越来越大，而且还在增加啊，增加大家很开心，然而数据库并不开心啊，简单的查询统计10多分钟还出不来结果，更不用说有稍微复杂点的统计分析了。

我天天找DBA优化啊，然而并没有什么水花。

数据量还在不断增长，到现在都上亿啦，全量查询统计根本出不来结果啊。

... ...

最终业务人员找到科技部门提需求要弄个BI系统给处理下。

对mongodb瞄了一大通，这就是个业务库。那直接对接mongodb自然不行，速度慢不说，mongodb挂了，分析系统也瘫了。自然就想到了使用中间库，emm mysql oracle 倒是有，可以跑调度抽过来，但是速度依旧不快呢，还要花功夫优化，性价比不高。公司有自己的hadoop平台，将数据抽过来再对接倒是可以，但是要花很大精力跑调度，而且这个数据库不能随意给这个业务部门提供，万一玩挂了可就得不偿失。假设有个具备离线数据存储功能的BI工具，岂不美哉。

于是将市面上有离线数据存储功能的BI工具翻了个遍。期望找到个性能好，可以支持大数据量数据分析的BI工具。

Tableau的hyper功能看起来OK，经不起实际使用，数据量过了亿，等了好久数据抽不好，pass；

其他某BI工具有mpp离线存储，看起来很棒，还能横向扩展，不错。抱有最大期望的用，结果数据量一上亿，直接崩了，崩了，pass；

另一个BI工具去看了看，咦，数据是放在vertica里面的......

后来，找到了FineBI的分布式计算引擎方案，拿的『定制的 Alluxio』作为分布式内存存储框架，内存存储有数据安全性的担心，所以持久化层存储用了HDFS。为了数据分析嘛，自然是列式存储的。计算核心则以熟知的Spark，加上自研算法来处理的。使用熟知的zookeeper整合框架，并用于调度通信。

分布式嘛，横向扩展自然不在话下。而列式存储、并行内存计算、计算本地化加上高性能算法，在FineBI中数据展示速度超快。有意思的是其计算本地化的操作，能减少不必要的shuffle，节省数据传输的消耗，提升数据计算速度。

以下记录利用FineBI4.1工具的系统建设过程。

一、需求分析

针对以上的需求，可以预估到，18年内，常用分析预计最大数据量会达到4.7kw，不常用分析会达到3亿到4亿（包含淡季），数据总的体量最多会达到100G。后面的情况难以预估，就需要系统可横向扩展节点。

二、方案描述

1.系统架构

根据官方推荐，将FineBI的web应用端与数据存储的分布式引擎放在一个机器上（处于安全考虑，也可以分开。这里不涉及太多部门使用，放一起即可），架构如下所示。

架构图难以理解的话，可以看看灵魂画手的杰作~

结合分布式引擎说明的技术原理，将各个机器再细分化各个组件的作用。

以上，将系统架构规划完成，即可具体完成系统。

2.完成从MongoDB取数

在使用BI工具对接MongoDB的时候，使用MongoDB的BI连接器。

感兴趣可以看：MongoDB Download Center

方案原理：mongodb是非结构的数据库，而要想BI来连接，通过建模的方式取表，拆表，建模来分析。通过MONGODB CONNECTOR FOR BI连接器的方式，使用mysql的JDBC驱动来获取数据。

实现过程：

第一步：安装MONGODB CONNECTOR FOR BI

从官网选择版本：MongoDB Download Center

第二步：生成DRDL文件

mongodrdl是生成该文件的主命令。通过添加monogdb的相关参数来获取其中的表生成drdl文件。从官方文档上我们可以找到生成DRDL文件命令的范式：

1 mongodrdl --host myhost.example:27017 \2 --username dbUser \3 --password myPassword \4 --db reports \5 --authenticationDatabase admin \6 --out schema.drdl

范式说明：

--host 是mongodb的ip+端口号，通常可为127.0.0.1:27017--username 是mongodb的用户，需具备相关的数据权限--password 是username的密码--db 是要生成DRDL的数据库实例名--authenticationDatabase 是指定创建用户的数据库。即username创建时被指定到的数据库名。--out 是DRDL输出文件定义。值使用.drdl的文件即可。

第三步：启动连接器，连接上monogdb

启动连接器的主命令服务是mongosqld，由于mongodb开启用户认证了（auth=true）。从官方文档上可知，连接器的启动需要使用-auth参数，再使用auth参数的情况下，mysql驱动来取数就需要SSLl加密认证。

所以第一步需要配置mongosqld的SSL认证；才能启动连接器来取数！！！！！！！！！！这一步神坑，也是踩了多少坑，才找到的解决办法。

此处认证关系是FineBi端的mysql连接与mongosqld的连接之间的SSL认证。在认证时，只需要配置单向SSL的认证即可（mongosqld认证FineBI的连接）。

（1）生成SSL认证文件

SSL认证文件通常采用openSSL来生成，先看看是否安装了openSSL；执行命令：

rpm -qa|grep -i openssl

如安装了会返回信息，未安装需要自行安装OpenSSL。

采用以下命令来生成证书：（由于是测试，就直接自己生成证书，密钥）

openssl req -newkey rsa:2048 -new -x509 -days 365 -nodes -out mongodb-cert.crt -keyout mongodb-cert.key

命令返回会让填写一些值，在后面填写即可。

一般情况下，文件会生成到你所使用的linux用户的要根目录下：比如我用的root用户，就到/root下面查找。

再使用以下命令，将key合到.pem的文件里。

cat mongodb-cert.key mongodb-cert.crt >mongodb.pem

将该文件移动/etc/ssl下面用于验证使用：

mv mongodb.pem /etc/ssl

（2）启动连接器&SSL

再来看官方文档，从所有的参数命令里面，找一找需要的参数；得出以下的范式，在bin目录下启动即可。

mongosqld --auth --sslMode --sslPEMKeyFile --sslAllowInvalidCertificates --defaultAuthSource --mongo-uri --mongo-username --mongo-password --mongo-authenticationSource --schema

说明：

--auth 是开启用户认证的参数，默认值是true--sslMode是开启SSL的标识，如开启可以选择值为“requireSSL”--sslPEMKeyFile是SSL认证文件，一般为.pem结尾的文件；单向认证的时候。--sslAllowInvalidCertificates--defaultAuthSource是mongosqld使用username指向mongodb的有权限的库，默认值是admin--mongo-uri是mongodb的host，一般为ip+端口号--mongo-usrname是drdl生成的用户名--mongo-password是drdl生成的密码--mongo-authenticationSource指定用户的创建库--schema是要连接的drdl文件。

注：一般还是要用nohup 的命令来生成，保证shell断掉，连接器依然可用。

第四步：启动FineBI连接到连接器上

启动FineBI，打开FineBI>数据配置>数据连接：添加数据连接选择mysql，配置如下：

连接名：mongodbURL：jdbc：mysql：//127.0.0.1:3307/test?ssl-key=/etc/ssl/mongodb.pem用户名：密码：注：URL：jdbc：mysql://ip+3307/dbname?ssl-key=xx.pem，后面ssl-key是ssl参数

点击测试连接即可。

过程坑点：mongodb的BI连接器神坑，官网文档不多，踩过了几脚坑。

（1）mongosqld按ssl认证开启成功，打印也不错，但是BI连接的时候，还是抛错1043 SQLSTATE: 08S01 (ER_HANDSHAKE_ERROR):this server only allows SSL xxxxx该抛错是mysql抛出来的，握手不良的错误。按道理SSL已经开启了，不应该是这样。后来查了mysql的文档，mysql5.5以上的版本才支持SSL；更换新的driver驱动，使用的是5.1.44完全没问题的。

（2）BI连接的时候抛错 handshake error: ERROR 1043 (08S01): error performing authentication: unable to authenticate conversation 0: unable to authenticate using mechanism "SCRAM-SHA-1": (AuthenticationFailed) Authentication failed.

该抛错的意思，使用“SCRAM-SHA-1”的认证方式，没有认证成功。SCRAM-SHA-1是指用户名密码的方式，这里看是不是用户名/密码错误，注意mongosqld启动时的使用的用户名/密码

（3）一定要开启SSL认证啊！！！

（4）期间有设计器无故死掉的情况，发现是由于内存不足导致。记得空闲内存要足够！！

三.系统效果

1.数据更新

（1） 单个表先全量抽取，之后每天对单表依据时间戳，做增量增加。其中有错误数据做增量删除即可。

（2）有些内部使用的实时性较高的表，设定每2小时更新一次，从上午9点到下午6点。直接从业务库抽取其实是有风险的，当时数据库压力大，抽取比较慢，因此这部分仅作为非重点用户需求场景。

2.数据展示速度

做了一个简单的依据时间的group by，时间在1s之内，翻页速度也很快。

至此，对接mongodb完成，一个用户可以随便玩的系统就好了。即使偶尔mongodb发疯修整，有离线数据在，也不担心业务部门来嚷嚷了。而且速度超快，体验很棒~

最后

如果你也在寻求一个高性能展示分析、数据分析的BI工具的话，不妨尝试下FineBI。

大数据及移动互联网时代，每一个使用移动终端的人无时无刻不在生产数据，而作为互联网服务提供的产品来说，也在持续不断的积累数据。数据如同人工智能一样，往往能表现出更为客观、理性的一面，数据可以让人更加直观、清晰的认识世界，数据也可以指导人更加理智的做出决策。

而在大数据时代的今天，最有价值的商品则是数据。那么今天小编在这里给大家推荐一些常用于数据分析的必备神器。

1.Tableau

Tableau 帮助人们快速分析、可视化并分享信息。它的程序很容易上手，各公司可以用它将大量数据拖放到数字“画布”上，转眼间就能创建好各种图表。数以万计的用户使用 Tableau Public 在博客与网站中分享数据。

项目地址：https://tableau/

2.ECharts

Echarts可以运用于散点图、折线图、柱状图等这些常用的图表的制作。Echarts的优点在于，文件体积比较小，打包的方式灵活，可以自由选择你需要的图表和组件。而且图表在移动端有良好的自适应效果，还有专为移动端打造的交互体验。

项目地址：http://echarts.baidu/

3.Highcharts

Highcharts的图表类型是很丰富的，线图、柱形图、饼图、散点图、仪表图、雷达图、热力图、混合图等类型的图表都可以制作，也可以制作实时更新的曲线图。

另外，Highcharts是对非商用免费的，对于个人网站，学校网站和非盈利机构，可以不经过授权直接使用 Highcharts 系列软件。Highcharts还有一个好处在于，它完全基于 HTML5 技术，不需要安装任何插件，也不需要配置 PHP、Java 等运行环境，只需要两个 JS 文件即可使用。

项目地址：https://hcharts/

4.魔镜

魔镜是中国最流行的大数据可视化分析挖掘平台，帮助企业处理海量数据价值，让人人都能做数据分析。

魔镜基础企业版适用于中小企业内部使用，基础功能免费，可代替报表工具和传统BI，使用更简单化，可视化效果更绚丽易读。

项目地址：http://moojnn/

5.图表秀

图表秀的操作简单易懂， 而且站内包含多种图表，涉及各行各业的报表数据都可以用图表秀实现， 支持自由编辑和Excel、csv等表格一键导入，同时可以实现多个图表之间联动， 使数据在我们的软件辅助下变的更加生动直观，是目前国内先进的图表制作工具。

项目地址：http://tubiaoxiu/

分享 IT 技术和行业经验，请关注-技术学派。

大数据市场是一座待挖掘的金矿。随着数据使用量的增长，将有更多的人通过数据来寻求专业问题的答案。可视化数据分析工具的出现让人们可以通过将数据可视化来探讨问题、揭示洞见，用数据分享故事。甚至于不懂挖掘算法的人员，也能够为用户进行画像。

BI（Business Intelligence）即商业智能，越来越多的智能软件供应商推出可视化数据分析工具，应对企业业务人员的大数据分析需求。然而如果你觉得不是数据分析专业、没有挖掘算法基础就无法使用BI工具？NO，自助式分析工具已经让数据产品链条变得大众化。为了更好地帮助读者选择分析工具，本文将为大家介绍11款数据分析产品，排名不分先后！

1.数说立方

网址：http://cube.datastory/

数说立方是数说故事新推出的一款面向数据分析师的在线商业智能产品。最重要的特点是配备百亿级社交数据库，同时支持全网公开数据实时抓取，从数据源端解决分析师难点；另外数说立方搭载了分布式搜索、语义分析、数据可视化三大引擎系统的海量计算平台，实现数据处理“探索式分析”和“秒级响应”的两个核心功能。同时数说立方是数说故事三大主打产品之一，并与其他两大产品数说聚合和数说雷达实现从数据源、数据分析、到数据展示完整的数据解决方案。

优点：

即便是个人免费版，体验和功能仍然非常好；

与自家产品“数说聚合”的无缝接入，支持定向抓取微信、微博等数据；

功完善，集数据处理、特征工程、建模、文本挖掘为一体的机器学习平台；

可视化视图展现、友好的客户感知页面；

支持SAAS，私有化部署，有权限管理；

缺点：

产品新上市，操作指导页不太完善；

体验过程中有一些小bug；

2.数加平台

网址：https://data.aliyun

数加是阿里云发布的一站式大数据平台，可以提供数据采集、结构化、加工到展示分析整套的一站式数据服务。 可采集不同系统及物理存储的源头数据，在分布式计算平台上进行数据的深度整合、计算、挖掘，将计算的结果通过可视化的工具进行个性化的数据分析和展现，也可直观的展示分析现有云上业务系统的数据库数据。

优点：

有完整的产品规划，功能完善；

图形展示和客户感知良好；

提供SQL查询；

缺点：

需要捆绑阿里云才能使用，一般用户还不能真正使用起来；

部分体验功能一般，有一定的学习成本；

3.Tableau

网址：http://tableau/zh-cn

Tableau是目前市面上较为成功的BI工具。产品既有针对性，又有普适性。拖放式界面，操作简单。数据兼容性强，适用于多种数据文件与数据库，同时也兼容多平台，windows、mac、Online均可使用。而且重要的一点是免费为用户安排现场培训或按需求进行在线培训。

优点：

处于行业领导者地位，功能完善；

有较好的图形展现与客户感知；

新产品开始支持云端展现，但是需要客户端支持；

缺点：

相比于商业智能BI，更像一个基于数据查询的数据展示工具；

处理不规范数据、转化复杂模型比较难；

无法处理大量数据；

国内网络连接Online版速度较慢；

4.Qlik

网址：http://global.qlik/cn

QlikView只需轻轻单击几下，就可以对所有数据源进行合并、搜索、可视化和分析，可在不影响性能的前提下连接到多个数据源；其次视图种类丰富，界面简洁，互动性强，总体来说是一款简单易用的BI产品。Qlik用户可通过各类可视化效果，将Qlik扩展到任何应用程序中。另外用户也可以通过使用标准的和最新的网络API，可将可视化效果数据嵌入网站或应用程序。

优点：

产品功能完善，图形展现和客户感知良好；

支持SAAS，有权限管理功能；

缺点：

有一定的学习成本；

报表规范性要求很高；

数据抓取功能都非常弱，需要有非常好的数据仓库作为基础；

5.Spotfire

网址：http://spotfire.tibco

Spotfire服务对象是一线工作人员和日常决策人员，其交互界面形象易懂，无需写脚本语言和编写程序就可以对数据进行添加、分离操作。内置搜索引擎，可以随意查找任意信息。支持R、S+等统计、挖掘功能；有丰富、开源的R模型。标记有自身特色，提供了过滤、钻取等功能，多个标记同时还可以实现图形化的集合运算。

优点：

交互界面形象易懂，即使是普通的业务人员也能轻而易举地进行复杂的数据分析；

不一定要建数据仓库，还可以直接从多个异构数据源提取数据进行分析；

支持SAAS，有权限管理功能；

缺点：

SAAS版只支持30M，由于是国外服务器所以上传很慢；

不适合中国式的固定报表；

进军中国市场较晚，国内案例较少；

工具的适应性范围广，但是难易跨度大；

6.神策分析

网址：http://sensorsdata/

神策分析的产品有完整的使用文档，每个模块都有详细的使用说明以及示例，降低了用户的学习成本。而且支持私有部署、任意维度的交叉分析，并帮助客户搭建专属的数据仓库。目前提供事件分析、漏斗分析、留存分析、数据管理等功能，未来预计会增加用户分群、用户人群分析、推送和异常维度组合挖掘等

优点：

专注于用户行为数据分析，不追求做大而追求做全；

有详细的产品使用文档以及案例；

提供SQL查询；

缺点：

更多的是demo示例，不能开箱即用；

纯dashboard展示，并不能对单独一块数据作自定义分析；

7.BDP

网址：https://me.bdp/home.html

BDP个人版免费，只需导入数据，设定分析维度，即可实时得到图表分析结果。示例和视频教学很细致，交互页面友好。每次数据更新，对应的图表也会自动更新，可以免去一些重复制作的工作。分享环节也很贴心，报告可以一键导出为PPT、邮件发送，也可直接生成链接分享。

优点：

产品支持移动端；手机同步呈现最新数据

首次登陆的用户可以使用免费数据；

操作体验流畅，界面友好，功能全，总体来说是一款不错的产品；

即便是个人免费版，体验和功能仍然非常好；

缺点：

暂时用起来还不错，我比较喜欢用这个工具；

8.永洪BI

网址：http://yonghongtech

永洪BI是一款可在前端进行多维分析和报表展现的BI软件。支持拖拽操作，数据源格式多样，提供不同级别的查询支持，支持跨库跨源连接。另外永洪提供了一款数据存储、数据处理的软件——MPP数据集市，可与BI打通，使得数据查询，钻取和展示的速度大幅度提高。不过其产品用户体验一般，拖拽过于自由，导致仪表盘布局不好控制；主题样式虽多但是给人感觉样式还是很传统。

优点：

商业流程完善，给人专业的感觉；

产品定制化的版本效果不错；

支持的数据接入较多；

缺点：

SAAS版体验很差，有一定的学习成本；

UI的视觉效果一般，整体可视化效果不够现代化；

9.数据观

网址：http://shujuguan

数据观的功能设计理念是极简、无门槛，所以它最大的特点就是简单。数据观数据来自云端，如：百度 网盘、微盘、salesforce等。数据上传后，马上有推荐图表，引导明确。另外产品的使用没有技术门槛，无需专业IT知识，同时适用于非专业分析师出身的业务人员，可以快速将数据转化成直观的图表，适合一开始接触数据分析工具的非专业数据从业人员。

优点：

注册只需填写邮箱，且支持明道账号登陆；

使用引导明确，支持salesforce、百度云数据导入；

分析结果支持链接分享，大大降低用户的沟通成本；

缺点：

不支持超过20MB的数据上传；

数据导入后，数据分析体验方面存在bug；

产品的使用以点击为主，不支持拖拽操作；

10.FineBI

网址：http://finebi/

FineBI分为数据处理、可视分析和分享公用三大功能模块。支持多种数据源，图表风格清爽美观，可选择任意维度分析。分析页面由控件和组件组成，控件和组件的数量是可以添加至任意多个，但是布局的交互比较僵硬，且使用逻辑有点乱，引导不明确。需要安装本地客户端才能使用。

优点：

有较为详细的行业案例与技术方案；

产品演示和资源中心也较为清晰；

缺点：

需要使用客户端，增加了使用的不便利性

只有仪表盘展示，BI报表需要另一款产品；

无法处理大量的数据；

11.魔镜

网址：http://moojnn

魔镜支持自动拖拽建模，同时可视化效果库十分酷炫。用户可以邀请团队成员到自己的项目，合作进行探索分析，并且按照需求有效控制访问数据的成员权限。产品模块规划完整，有基础企业版到hadoop等5种选择为，而且可以支持定制化服务。但是可能是云平台版的缘故，使用过程中出现不少BUG，企业版的体验可能会相对好一点。

优点：

产品模块的规划比较健全，其中包括数据源导入、数据分析、仪表盘、数据挖掘和数据工厂；

官网的设计不错，模板选择性大，颜值控可能会喜欢；

工具使用指导清晰，使用篇和方法篇等比较详细；

缺点：

产品存在较多的BUG，UI和功能相对其他产品来说较简陋；

部分产品模块并不能切实用于数据分析；

选择一款适用的BI产品，能够大大简化数据分析的繁杂工作，提高分析效率与质量。当然，以上每个工具各有优点，工具地址都给大家了，接下来就是轮到你动手的时候了，找一个自己喜欢的工具，开始吧！

1.百度统计

地址：

百度统计是百度推出的一款免费的专业网站流量分析工具，能够告诉用户访客是如何找到并浏览用户的网站，在网站上做了些什么，有了这些信息，可以帮助用户改善访客在用户的网站上的使用体验，不断提升网站的投资回报率。目前主要提供趋势分析、来源分析、页面分析、访客分析、定制分析等多种统计分析服功能。

2.LeanCloud统计

地址：

LeanCloud统计内置稳定实时的数据统计分析服务，从用户量，用户行为，渠道效果，自定义事件等多个维度，帮助您更清楚的了解用户习惯，提高用户黏性和活跃度。(原名AVOS Cloud，现更名为LeanCloud)。主要亮点是AVOS Cloud 提供一流的 web 管理后台，可以通过它看到各个维度的统计结果。

3.Appsee

地址：https://

Appsee是一个简单而强大的视觉应用分析平台,在我们的移动应用程序中，使我们能够测试,了解和改善用户体验。通过Appsee平台，我们将能够准确了解用户如何与移动应用程序进行交互。

4.Segment.io

地址：

Segment.io允许我们将数据一键分送给多家数据分析服务提供商，我们只需部署一次，即可随意开关各个平台的数据通道。

5.有数

地址：

有数简称data.u，是一种可以灵活内置于手机应用运行过程的简单、透明的分析手段。data.u实现了高效采集分析数据，并初步整理减少冗余数据，压缩封装数据，利用智能策略传输数据，不挤占用户的网速。开发者可基于此开发包分析应用程序的运行情况，包括页面停留时长、页面跳转率、按时间或地理位置分析用户量、用户的发展情况等信息，同时为用户提供了在线配置参数获取等实用功能。

网络分析工具可以帮助你收集、预估和分析网站的访问记录，对于网站优化、市场研究来说，是个非常实用的工具。

每一个网站开发者和所有者，想知道他的网站的完整的状态和访问信息，目前互联网中有很多分析工具，本文选取了10款最好的分析工具，可以为你提供实时访问数据。

1.GoogleAnalytics

这是一个使用最广泛的访问统计分析工具，几周前，GoogleAnalytics推出了一项新功能，可以提供实时报告。你可以看到你的网站中目前在线的访客数量，了解他们观看了哪些网页、他们通过哪个网站链接到你的网站、来自哪个国家等等。

2.Clicky

与GoogleAnalytics这种庞大的分析系统相比，Clicky相对比较简易，它在控制面板上描供了一系列统计数据，包括最近三天的访问量、最高的20个链接来源及最高20个关键字，虽说数据种类不多，但可直观的反映出当前站点的访问情况，而且UI也比较简洁清新。

3.Woopra

Woopra将实时统计带到了另一个层次，它能实时直播网站的访问数据，你甚至可以使用WoopraChat部件与用户聊天。它还拥有先进的通知功能，可让你建立各类通知，如电子邮件、声音、弹出框等。

4.Chartbeat

这是针对新闻出版和其他类型网站的实时分析工具。针对电子商务网站的专业分析功能即将推出。它可以让你查看访问者如何与你的网站进行互动，这可以帮助你改善你的网站。

5.GoSquared

它提供了所有常用的分析功能，并且还可以让你查看特定访客的数据。它集成了Olark，可以让你与访客进行聊天。

6.Mixpanel

该工具可以让你查看访客数据，并分析趋势，以及比较几天内的变化情况。

7.Reinvigorate

它提供了所有常用的实时分析功能，可以让你直观地了解访客点击了哪些地方。你甚至可以查看注册用户的名称标签，这样你就可以跟踪他们对网站的使用情况了。

8.Piwik

这是一个开源的实时分析工具，你可以轻松下载并安装在自己的服务器上。

9.ShinyStat

该网站提供了四种产品，其中包括一个有限制的免费分析产品，可用于个人和非营利网站。企业版拥有搜索引擎排名检测，可以帮助你跟踪和改善网站的排名。

10.FoxMetrics

该工具提供了实时分析功能，基于事件和特征的概念，你还可以设置自定义事件。它可以收集与事件和特征匹配的数据，然后为你提供报告，这将有助于改善你的网站。

End.

中国统计网，是国内最早的大数据学习网站。

0.Hadoop

Hadoop是一个开源框架，它允许在整个集群使用简单编程模型计算机的分布式环境存储并处理大数据。它的目的是从单一的服务器到上千台机器的扩展，每一个台机都可以提供本地计算和存储。

1.Druid

Druid是实时数据分析存储系统，Java语言中最好的数据库连接池。Druid能够提供强大的监控和扩展功能。

2.Ambari

大数据平台搭建、监控利器；类似的还有CDH

提供Hadoop集群

Ambari为在任意数量的主机上安装Hadoop服务提供了一个逐步向导。Ambari处理集群Hadoop服务的配置。

管理Hadoop集群

Ambari为整个集群提供启动、停止和重新配置Hadoop服务的中央管理。

监视Hadoop集群

Ambari为监视Hadoop集群的健康状况和状态提供了一个仪表板。

3.Spark

大规模数据处理框架（可以应付企业中常见的三种数据处理场景：复杂的批量数据处理（batch data processing）；基于历史数据的交互式查询；基于实时数据流的数据处理，Ceph:Linux分布式文件系统。

4.Storm

Storm是一个免费开源、分布式、高容错的实时计算系统。Storm令持续不断的流计算变得容易，弥补了Hadoop批处理所不能满足的实时要求。Storm经常用于在实时分析、在线机器学习、持续计算、分布式远程调用和ETL等领域。Storm的部署管理非常简单，而且，在同类的流式计算工具，Storm的性能也是非常出众的。

以上5个大数据处理/数据分析/分布式工具，有任何IT问题都欢迎问我~这里有一些我收集的资料想要的评.论！回复【资料】即可