DT（Data Technology）时代已经来临，使用BI工具代替手工统计分析数据，已经成为企业和政府快速致胜的武器。好的BI工具能有效的帮助企业提高分析效率、减少分析成本、提高数据价值、完善信息化水平。

新型的数据可视化产品层出不穷，基本上各种语言都有自己的可视化库，传统数据分析及BI软件也都扩展出一定的可视化功能，再加上专门的用于可视化的成品软件，我们的可选范围实在是太多了。那么，我们要选择的可视化工具，必须满足互联网爆发的大数据需求，必须快速的收集、筛选、分析、归纳、展现决策者所需要的信息，并根据新增的数据进行实时更新。

实时性：数据可视化工具必须适应大数据时代数据量的爆炸式增长需求，必须快速的收集分析数据、并对数据信息进行实时更新；简单操作：数据可视化工具满足快速开发、易于操作的特性，能满足互联网时代信息多变的特点；更丰富的展现：数据可视化工具需具有更丰富的展现方式，能充分满足数据展现的多维度要求；多种数据集成支持方式：数据的来源不仅仅局限于数据库；很多数据可视化工具都支持团队协作数据、数据仓库、文本等多种方式，并能够通过互联网进行展现。

数据可视化主要通过编程和非编程两类工具实现。主流编程工具包括以下三种类型：从艺术的角度创作的数据可视化，比较典型的工具是 Processing，它是为艺术家提供的编程语言；从统计和数据处理的角度，既可以做数据分析，又可以做图形处理，如R，SAS；介于两者之间的工具，既要兼顾数据处理，又要兼顾展现效果，D3.js、Echarts都是很不错的选择，二者这种基于Java的数据可视化工具更适合在互联网上互动的展示数据。

1. 入门级

入门级的意思是该工具是可视化工作者必须掌握的技能，难度不一定小、门槛也不一定低。相反，对于可视化大拿来说，这些工具依旧起到四两拨千斤的妙用。

Excel

别以为EXCEL只会处理表格，你可以把它当成数据库，也可以把它当成IDE，甚至可以把它当成数据可视化工具来使用。它可以创建专业的数据透视表和基本的统计图表，但由于默认设置了颜色、线条和风格，使其难以创建用于看上去“高大上”视觉效果。尽管如此，我仍然推荐你使用Excel。

亿信BI

亿信BI真正敏捷实用的商业智能分析平台，相信每一个接触到数据可视化的人都听说过亿信BI，亿信BI是一款数据可视化工具，可轻松实现中国式报表、dashboard仪表盘、统计图、地图分析、分析报告、多维分析等它不需要编程，而仅仅通过简单的拖拽操作即可完成惊艳的效果。对比Excel，它是专业应对数据可视化方案的利器，主要表现在数据可视化、聚焦/深挖、灵活分析、交互设计等功能。亿信BI是为数据而生，他洞悉数据的蛛丝马迹，发现数据的潜在价值，预测数据的发展趋势，他可以构建大型的总和数据分析平台，也可以作为小型的个性化的解决方案。亿信BI最大的缺点在于它是商业软件，不过官方提供试用。

2. 在线数据可视化

Google Charts

Google Charts是一个免费的开源js库，使用起来非常简单，只需要在标签中将src指向然后即可开始绘制。它支持HTML5/SVG，可以跨平台部署，并特意为兼容旧版本的IE采用了vml。

在新版google charts 发布之前，google有个类似的产品叫做Google Charts API，不同之处在于后者使用http请求的方式将参数提交到api，而后接口返回一张png图片。

Flot

Flot是一个很棒的线图和条形图创建工具，可以运用于支持canvas的所有浏览器——意味着大多数主流浏览器。这是一个jQuery库，如果你已经熟悉jQuery，你就可以容易的对图像进行回调、风格和行为操作。 浮悬的优点是你可以访问大量的调用函数，这样就可以运行你自己的代码。设定一种风格，可以让在用户悬停鼠标、点击、移开鼠标时展示不同的效果。比起其他制图工具，浮悬给予你更多的灵活空间。浮悬提供的选项不多，但它可以很好地执行常见的功能。

D3

D3（Data Driven Documents）是支持SVG渲染的另一种Java库。但是D3能够提供大量线性图和条形图之外的复杂图表样式，例如Voronoi图、树形图、圆形集群和单词云等。D3.js是数据驱动文件（Data-Driven Documents）的缩写，他通过使用HTMLCSS和SVG来渲染精彩的图表和分析图。D3对网页标准的强调足以满足在所有主流浏览器上使用的可能性，使你免于被其他类型架构所捆绑的苦恼，它可以将视觉效果很棒的组件和数据驱动方法结合在一起。

Echarts百度出品的优秀产品之一，也是国内目前开源项目中少有的精品。一个纯 Java 的图表库，可以流畅的运行在 PC 和移动设备上，兼容当前绝大部分浏览器，底层依赖轻量级的 Canvas 类库 ZRender，提供直观，生动，可交互，可高度个性化定制的数据可视化图表。3.0版本中更是加入了更多丰富的交互功能以及更多的可视化效果，并且对移动端做了深度的优化。Echarts最令人心动的是它丰富的图表类型，以及极低的上手难度。

Highcharts在Echarts出现之初，功能还不是那么完善，可视化工作者往往会选择HighCharts。Highcharts 系列软件包含 Highcharts JS，Highstock JS，Highmaps JS 共三款软件，均为纯 Java 编写的 HTML5 图表库。Highcharts 是一个用纯 Java 编写的一个图表库， 能够很简单便捷的在 Web 网站或是 Web 应用程序添加有交互性的图表。Highstock 是用纯 Java 编写的股票图表控件，可以开发股票走势或大数据量的时间轴图表，Highmaps 是一款基于 HTML5 的优秀地图组件。

R严格来说，R是一种数据分析语言，与matlab、GNU Octave并列。然而ggplot2的出现让R成功跻身于可视化工具的行列，作为R中强大的作图软件包，ggplot2牛在其自成一派的数据可视化理念。它将数据、数据相关绘图、数据无关绘图分离，并采用图层式的开发逻辑，且不拘泥于规则，各种图形要素可以自由组合。当熟悉了ggplot2的基本套路后，数据可视化工作将变得非常轻松而有条理。

DataV阿里出品的数据可视化解决方案，之所以推荐DataV这个后起之秀，完全是因为淘宝双“11”活动中实时互动大屏幕太抢眼了。DataV支持多种数据源，尤其是和阿里系各种数据库完美衔接，如果你的数据本身就存在阿里云上，那选用DataV肯定是个省时省力的好办法。图表方面，DataV内置了丰富的图表模板，支持实时数据采集和解析。

3. 类GUI数据可视化CrossfilterCrossfilter 是一个用来展示大数据集的 Java 库，它可以把数据可视化和GUI控件结合起来，按钮、下拉和滑块演变成更复杂的界面元素，使你扩展内容，同时改变输入参数和数据。交互速度超快，甚至在上百万或者更多数据下都很快。Crossfilter也是一种Java库，它可以在几乎不影响速度的前提下对数据创建过滤器，将过滤后的数据用于展示，且涉及有限维度，因此可以完成对海量数据集的筛选与加载。

4. 进阶工具 ProcessingProcessing 是用 Java 编程语言写的，并且 Java 语言也是在语言树中最接近 Processing 的。所以，如果您熟悉 C 或 Java 语言，Processing 将很容易学。Processing 并不包括 Java 语言的一些较为高级的特性，但这些特性中的很多特性均已集成到了 Processing。如今，围绕它已经形成了一个专门的社区，致力于构建各种库以供用这种语言和环境进行动画、可视化、网络编程以及很多其他的应用。Processing 是一个很棒的进行数据可视化的环境，具有一个简单的接口、一个功能强大的语言以及一套丰富的用于数据以及应用程序导出的机制。WekaWeka是一个能根据属性分类和集群大量数据的优秀工具，Weka不但是数据分析的强大工具，还能生成一些简单的图表。weka首先是一个数据挖掘的利器，它能够快速导入我们的结构化数据，然后对数据属性做分类、聚类分析，帮助我们理解数据。但他的可视化功能同样不逊色，选择界面中的visualization，你会立刻明白：是它让你理解数据，然后你才让用户可视化数据。

1、 Talend Open Studio

是第一家针对的数据集成工具市场的ETL(数据的提取Extract、传输Transform、载入Load)开源软件供应商。Talend的下载量已超过200万人次，其开源软件提供了数据整合功能。其用户包括美国国际集团（AIG）、康卡斯特、电子港湾、通用电气、三星、Ticketmaster和韦里逊等企业组织。

2、DYSON

探码科技自主研发的DYSON智能分析系统，可以完整的实现大数据的采集、分析、处理。DYSON智能分析系统专业针对互联网数据抓取、处理、分析，挖掘。可以灵活迅速地抓取网页上散乱分布的信息，并通过强大的处理功能，准确挖掘出所需数据，是目前使用人数最多的网页采集工具.

3、YARN

一种新的Hadoop资源管理器，它是一个通用资源管理系统，可为上层应用提供统一的资源管理和调度，解决了旧MapReduce框架的性能瓶颈。它的基本思想是把资源管理和作业调度/监控的功能分割到单独的守护进程。

4、Mesos

由加州大学伯克利分校的AMPLab首先开发的一款开源群集管理软件，支持Hadoop、ElasticSearch、Spark、Storm 和Kafka等架构。对数据中心而言它就像一个单一的资源池，从物理或虚拟机器中抽离了CPU，内存，存储以及其它计算资源， 很容易建立和有效运行具备容错性和弹性的分布式系统。

5、Datale

由探码科技研发的一款基于Hadoop的大数据平台开发套件，RAI大数据应用平台架构。

6、 Ambari

作为Hadoop生态系统的一部分，提供了基于Web的直观界面，可用于配置、管理和监控Hadoop集群。目前已支持大多数Hadoop组件，包括HDFS、MapReduce、Hive、Pig、 Hbase、Zookeper、Sqoop和Hcatalog等。

7、ZooKeeper

一个分布式的应用程序协调服务，是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的工具，让Hadoop集群里面的节点可以彼此协调。ZooKeeper现在已经成为了 Apache的顶级项目，为分布式系统提供了高效可靠且易于使用的协同服务。

8、Thrift

在2007年facebook提交Apache基金会将Thrift作为一个开源项目，对于当时的facebook来说创造thrift是为了解决facebook系统中各系统间大数据量的传输通信以及系统之间语言环境不同需要跨平台的特性。

9、Chukwa

监测大型分布式系统的一个开源数据采集系统。建立在HDFS/MapReduce框架之上并继承了Hadoop的可伸缩性和可靠性，可以收集来自大型分布式系统的数据，用于监控。它还包括灵活而强大的显示工具用于监控、分析结果。

10、Lustre

一个大规模的、安全可靠的、具备高可用性的集群文件系统，它是由SUN公司开发和维护的。该项目主要的目的就是开发下一代的集群文件系统，目前可以支持超过10000个节点，数以PB的数据存储量。

11、HDFS

Hadoop Distributed File System，简称HDFS，是一个分布式文件系统。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。

12、GlusterFS

一个集群的文件系统，支持PB级的数据量。GlusterFS 通过RDMA和TCP/IP方式将分布到不同服务器上的存储空间汇集成一个大的网络化并行文件系统。

13、Alluxio

前身是Tachyon，是以内存为中心的分布式文件系统，拥有高性能和容错能力，能够为集群框架（如Spark、MapReduce）提供可靠的内存级速度的文件共享服务。

14、Ceph

新一代开源分布式文件系统，主要目标是设计成基于POSIX的没有单点故障的分布式文件系统，提高数据的容错性并实现无缝的复制。

15、PVFS

一个高性能、开源的并行文件系统，主要用于并行计算环境中的应用。PVFS特别为超大数量的客户端和服务器端所设计，它的模块化设计结构可轻松的添加新的硬件和算法支持。

16、QFS

Quantcast File System (QFS) 是一个高性能、容错好、分布式的文件系统，用于开发支持 MapReduce处理或者需要顺序读写大文件的应用。

17、 Logstash

一个应用程序日志、事件的传输、处理、管理和搜索的平台。可以用它来统一对应用程序日志进行收集管理，提供了Web接口用于查询和统计。

18、Scribe

Scribe是Facebook开源的日志收集系统，它能够从各种日志源上收集日志，存储到一个中央存储系统（可以是NFS，分布式文件系统等）上，以便于进行集中统计分析处理。

19、Flume

Cloudera提供的一个高可用的、高可靠的、分布式的海量日志采集、聚合和传输的系统。Flume支持在日志系统中定制各类数据发送方，用于收集数据。同时，Flume支持对数据进行简单处理，并写入各种数据接受方（可定制）。

20、RabbitMQ

一个受欢迎的消息代理系统，通常用于应用程序之间或者程序的不同组件之间通过消息来进行集成。RabbitMQ提供可靠的应用消息发送、易于使用、支持所有主流操作系统、支持大量开发者平台。

21、ActiveMQ

Apache出品，号称“最流行的，最强大”的开源消息集成模式服务器。ActiveMQ特点是速度快，支持多种跨语言的客户端和协议，其企业集成模式和许多先进的功能易于使用，是一个完全支持JMS1.1和J2EE 1.4规范的JMS Provider实现。

22、Kafka

一种高吞吐量的分布式发布订阅消息系统，它可以处理消费者规模网站中的所有动作流数据，目前已成为大数据系统在异步和分布式消息之间的最佳选择。

23、Spark

一个高速、通用大数据计算处理引擎。拥有Hadoop MapReduce所具有的优点，但不同的是Job的中间输出结果可以保存在内存中，从而不再需要读写HDFS，因此Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。它可以与Hadoop和Apache Mesos一起使用，也可以独立使用。

24、Kinesis

可以构建用于处理或分析流数据的自定义应用程序，来满足特定需求。Amazon Kinesis Streams 每小时可从数十万种来源中连续捕获和存储数TB数据，如网站点击流、财务交易、社交媒体源、IT日志和定位追踪事件。

25、 Hadoop

一个开源框架，适合运行在通用硬件，支持用简单程序模型分布式处理跨集群大数据集，支持从单一服务器到上千服务器的水平scale up。Apache的Hadoop项目已几乎与大数据划上了等号，它不断壮大起来，已成为一个完整的生态系统，拥有众多开源工具面向高度扩展的分布式计算。高效、可靠、可伸缩，能够为你的数据存储项目提供所需的YARN、HDFS和基础架构，并且运行主要的大数据服务和应用程序。

26、Spark Streaming

实现微批处理，目标是很方便的建立可扩展、容错的流应用，支持Java、Scala和Python，和Spark无缝集成。Spark Streaming可以读取数据HDFS，Flume，Kafka，Twitter和ZeroMQ，也可以读取自定义数据。

27、Trident

是对Storm的更高一层的抽象，除了提供一套简单易用的流数据处理API之外，它以batch(一组tuples)为单位进行处理，这样一来，可以使得一些处理更简单和高效。

28、Flink

于今年跻身Apache顶级开源项目，与HDFS完全兼容。Flink提供了基于Java和Scala的API，是一个高效、分布式的通用大数据分析引擎。更主要的是，Flink支持增量迭代计算，使得系统可以快速地处理数据密集型、迭代的任务。

29、Samza

出自于LinkedIn，构建在Kafka之上的分布式流计算框架，是Apache顶级开源项目。可直接利用Kafka和Hadoop YARN提供容错、进程隔离以及安全、资源管理。

30、Storm

Storm是Twitter开源的一个类似于Hadoop的实时数据处理框架。编程模型简单，显著地降低了实时处理的难度，也是当下最人气的流计算框架之一。与其他计算框架相比，Storm最大的优点是毫秒级低延时。

31、Yahoo S4 （Simple Scalable Streaming System）

是一个分布式流计算平台，具备通用、分布式、可扩展的、容错、可插拔等特点。程序员可以很容易地开发处理连续无边界数据流（continuous unbounded streams of data）的应用。它的目标是填补复杂专有系统和面向批处理开源产品之间的空白，并提供高性能计算平台来解决并发处理系统的复杂度。

32、HaLoop

是一个Hadoop MapReduce框架的修改版本，其目标是为了高效支持 迭代，递归数据 分析任务，如PageRank，HITs，K-means，sssp等。

33、Presto

是一个开源的分布式SQL查询引擎，适用于交互式分析查询，可对250PB以上的数据进行快速地交互式分析。Presto的设计和编写是为了解决像Facebook这样规模的商业数据仓库的交互式分析和处理速度的问题。Facebook称Presto的性能比诸如Hive和MapReduce要好上10倍有多。

34、 Drill

于2012年8月份由Apache推出，让用户可以使用基于SQL的查询，查询Hadoop、NoSQL数据库和云存储服务。它能够运行在上千个节点的服务器集群上，且能在几秒内处理PB级或者万亿条的数据记录。它可用于数据挖掘和即席查询，支持一系列广泛的数据库，包括HBase、MongoDB、MapR-DB、HDFS、MapR-FS、亚马逊S3、Azure Blob Storage、谷歌云存储和Swift。

35、Phoenix

是一个Java中间层，可以让开发者在Apache HBase上执行SQL查询。Phoenix完全使用Java编写，并且提供了一个客户端可嵌入的JDBC驱动。Phoenix查询引擎会将SQL查询转换为一个或多个HBase scan，并编排执行以生成标准的JDBC结果集。

36、Pig

是一种编程语言，它简化了Hadoop常见的工作任务。Pig可加载数据、转换数据以及存储最终结果。Pig最大的作用就是为MapReduce框架实现了一套shell脚本 ，类似我们通常熟悉的SQL语句。

37、Hive

是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供简单的sql查询功能，可以将sql语句转换为MapReduce任务进行运行。 其优点是学习成本低，可以通过类SQL语句快速实现简单的MapReduce统计，不必开发专门的MapReduce应用，十分适合数据仓库的统计分析。

38、SparkSQL

前身是Shark，SparkSQL抛弃原有Shark的代码并汲取了一些优点，如内存列存储（In-Memory Columnar Storage）、Hive兼容性等。由于摆脱了对Hive的依赖性，SparkSQL无论在数据兼容、性能优化、组件扩展方面都得到了极大的方便。

39、Stinger

原来叫Tez，是下一代Hive，由Hortonworks主导开发，运行在YARN上的DAG计算框架。某些测试下，Stinger能提升10倍左右的性能，同时会让Hive支持更多的SQL。

40、Tajo

目的是在HDFS之上构建一个可靠的、支持关系型数据的分布式数据仓库系统，它的重点是提供低延迟、可扩展的ad-hoc查询和在线数据聚集，以及为更传统的ETL提供工具。

41、Impala

Cloudera 声称，基于SQL的Impala数据库是“面向Apache Hadoop的领先的开源分析数据库”。它可以作为一款独立产品来下载，又是Cloudera的商业大数据产品的一部分。Cloudera Impala 可以直接为存储在HDFS或HBase中的Hadoop数据提供快速、交互式的SQL查询。

42、 Elasticsearch

是一个基于Lucene的搜索服务器。它提供了一个分布式、支持多用户的全文搜索引擎，基于RESTful web接口。Elasticsearch是用Java开发的，并作为Apache许可条款下的开放源码发布，是当前流行的企业级搜索引擎。设计用于云计算中，能够达到实时搜索、稳定、可靠、快速、安装使用方便。

43、Solr

基于Apache Lucene，是一种高度可靠、高度扩展的企业搜索平台。知名用户包括eHarmony、西尔斯、StubHub、Zappos、百思买、AT&T、Instagram、Netflix、彭博社和Travelocity。

44、Shark

即Hive on Spark，本质上是通过Hive的HQL解析，把HQL翻译成Spark上的RDD操作，然后通过Hive的metadata获取数据库里的表信息，实际HDFS上的数据和文件，会由Shark获取并放到Spark上运算。Shark的特点就是快，完全兼容Hive，且可以在shell模式下使用rdd2sql()这样的API，把HQL得到的结果集，继续在scala环境下运算，支持自己编写简单的机器学习或简单分析处理函数，对HQL结果进一步分析计算。

45、Lucene

基于Java的Lucene可以非常迅速地执行全文搜索。据官方网站声称，它在现代硬件上每小时能够检索超过150GB的数据，它拥有强大而高效的搜索算法。

46、Terracotta

声称其BigMemory技术是“世界上首屈一指的内存中数据管理平台”，支持简单、可扩展、实时消息，声称在190个国家拥有210万开发人员，全球1000家企业部署了其软件。

47、 Ignite

是一种高性能、整合式、分布式的内存中平台，可用于对大规模数据集执行实时计算和处理，速度比传统的基于磁盘的技术或闪存技术高出好几个数量级。该平台包括数据网格、计算网格、服务网格、流媒体、Hadoop加速、高级集群、文件系统、消息传递、事件和数据结构等功能。

48、GemFire

Pivotal宣布它将开放其大数据套件关键组件的源代码，其中包括GemFire内存中NoSQL数据库。它已向Apache软件基金会递交了一项提案，以便在“Geode”的名下管理GemFire数据库的核心引擎。

49、 GridGain

由Apache Ignite驱动的GridGrain提供内存中数据结构，用于迅速处理大数据，还提供基于同一技术的Hadoop加速器。

50、MongoDB

是一个基于分布式文件存储的数据库。由C++...

大数据工具让企业能够从数据仓库获得洞察力，从而在数据驱动的业务环境中提供重要的竞争优势。

为了满足旺盛需求，大数据工具在迅速遍地开花。在大数据这一概念和业务战略出现以来的十年间，市面上出现了成千上万执行各种任务和流程的工具，它们都承诺可为你节省时间和资金，发掘业务洞察力从而实现创收。显然，一个不断增长的市场呈现在大数据分析工具的面前。

其中许多工具一开始就像最初的大数据软件框架Hadoop那样是开源项目，但后来商业公司迅速涌现，为开源产品提供新工具或商业支持和开发。

从中进行遴选可能很困难，尤其是许多大数据工具用途单一，而你可以用大数据处理许多不同的任务，所以你的分析工具箱会塞得满满当当。本文我们列出了市面上主要的大数据分析工具市面上主要的大数据分析工具，分三大?类别来介绍。

·主要的大数据工具·

如前所述，大数据工具往往属于单一用途类别，而使用大数据有多种方式。所以我们将按类别细分，然后讨论每个类别的分析工具。

一、大数据工具：数据存储和管理

大数据完全始于数据存储，也就是说始于大数据框架Hadoop。它是Apache基金会运行的一种开源软件框架，用于在大众化计算机集群上分布式存储非常大的数据集。

很显然，由于大数据需要大量的信息，存储至关重要。但除了存储外，还需要某种方式将所有这些数据汇集成某种格式化/治理结构，从而获得洞察力。因此，大数据存储和管理是真正的基础――离开了它，分析平台一无是处。在一些情况下，这些解决方案还包括员工培训。

这个领域的大玩家包括：

1. Cloudera

实际上是增加了一些额外服务的Hadoop，你会需要它，因为大数据不容易搞。Cloudera的服务团队不仅可以帮助你构建大数据集群，还可以帮助培训你的员工，更好地访问数据。

2. MongoDB

MongoDB是最受欢迎的大数据数据库，因为它适用于管理经常变化的数据：非结构化数据，大数据常常是非结构化数据。

3. Talend

作为一家提供广泛解决方案的公司，Talend的产品围绕其集成平台而建，该平台集大数据、云、应用程序、实时数据集成、数据准备和主数据管理于一体。

图1：Talend大数据集成平台包括数据质量和治理功能

二、大数据工具：数据清理

在你真正处理数据以获取洞察力之前，需要清理和转换数据，转换成可远程搜索的内容。大数据集往往是非结构化、无组织的，因此需要某种清理或转换。

当下，数据可能来自任何地方：移动、物联网和社交媒体，数据清理显得更为必要。并非所有这些数据都可以轻松“清理”以获得洞察力，因此优秀的数据清理工具极其重要。实际上，在未来几年，预计经过有效清理的数据会是可接受的大数据系统与真正出色的大数据系统之间的竞争优势。

4. OpenRefine

OpenRefine是一款易于使用的开源工具，通过删除重复项、空白字段及??其他错误来清理凌乱的数据。它是开源的，但有一个相当大的社区可提供帮助。

5. DataCleaner

与OpenRefine一样，DataCleaner可将半结构化数据集转换成数据可视化工具可以读取的干净可读的数据集。该公司还提供数据仓库和数据管理服务。

6. 微软Excel

说真的，Excel有其用途。你可以从各种数据源导入数据。Excel在手动数据输入和复制/粘贴操作方面特别有用。它能消除重复项，查找和替换内容，检查拼写，还有用于转换数据的许多公式。但Excel很快陷入困境，不适合庞大数据集。

三、大数据工具：数据挖掘

一旦数据经过清理和准备，你可以通过数据挖掘开始搜索数据了。这时你执行这个实际的过程：发现数据、做出决定和进行预测。

数据挖掘是大数据流程的真正核心。数据挖掘解决方案通常底层很复杂，但竭力提供　一种外观漂亮、对用户友好的用户界面，说起来容易做起来难。数据挖掘工具面临的另一个挑战是：它们确实需要人来编制查询，所以数据挖掘工具的好坏取决于使用它的专业人员。

7. RapidMiner

RapidMiner是一款易于使用的预测分析工具，有着对用户友好的可视化界面，这意味着你没必要编写代码即可运行分析产品。

8. IBM SPSS Modeler

IBM SPSS Modeler是一款包括五个数据挖掘产品的套件，面向企业级高级分析。另外IBM的服务和咨询首屈一指。

9. Teradata

Teradata为数据仓库、大数据和分析以及营销等应用提供端到端解决方案。这一切意味着贵公司可以真正成为数据驱动的公司，另外还有商业服务、咨询、培训和支持。

图2：与许多目前的大数据工具一样，RapidMiner解决方案也支持云

四、大数据工具：数据可视化

数据可视化是指以一种可读、实用的格式显示你的数据。你可以查看图表图形以及直观显示数据的其他图像。

数据可视化既是一门科学，又是一门艺术。随着大数据从有大批数据科学家支持的高管转移到整个公司上下，众多员工可以使用可视化工具极为重要。销售代表、IT支持和中层管理，这些团队个个都需要能够理解数据，因此重点放在易用性上。然而，易于阅读的可视化有时与来自深度特征集的数据读出相冲突，这带来了数据可视化工具面临的主要挑战之一。

10. Tableau

Tableau是该领域的领导者，其数据可视化工具专注于商业智能，无需懂得编程，即可创建各种地图、图表、图形及更多可视化元素。它共有五款产品，一款名为Tableau Public的免费版供潜在客户试用。

11. Silk

Silk是Tableau的简单版，让你可以通过地图和图表将数据可视化，无需任何编程。你在首次加载Silk时，它甚至会试着将数据可视化。它还让用户很容易在网上发布结果。

12. Chartio

Chartio使用自己的可视化查询语言，只要点击几下鼠标即可创建功能强大的仪表板，无需懂得SQL或其他建模语言。它有别于其他工具的地方主要在于，你可以直接连接到数据库，因此不需要数据仓库。

13.IBM Watson Analytics

IBM Watson Analytics结合了机器学习和人工智能，有助于提供智能数据科学助手，为业务分析员和数据科学家等拥有众多数据科学技能的用户扮演了向导。

·大数据工具的三个层次·

普华永道的移动数据和分析计划首席技术官Ritesh Ramesh表示，就先进程度和市场战略而言，大数据工具可分成三层金字塔。

第一层：最庞大的是一系列开源工具。每家公司以开源起家，像Cloudera和Hortonworks。除了基本的基础设施、服务器和存储外，没有多大的价值。大多数云厂商已将这一层实现了商品化。

第二层：在这一层，大多数这类厂商已有意增加各自的市场份额，在开源工具上面构建一些专有应用程序，从而做到与众不同。举例说，Cloudera开发了许多产品，比如驻留在Hadoop核心上的数据科学平台。

第三层：这些是针对特定垂直领域的应用程序。这些公司大多与普华永道、高知特或埃森哲等系统集成商合作。真正的价值出在这里，这对大数据工具开发商来说也是非常有效的竞争策略。

Ramesh表示，除了基本功能外，这些工具的三大方面备受欢迎。首先是数据处理工具。他说：“数据学习工具是客户的工具箱中确保数据质量和分析数据的重要工具，比如处理5000万行数据以发现洞察力。”

他表示，领先的厂商包括Trifacta、Paxata和Talend。

第二大类应用程序是治理，比如你如何定义元数据。他说：“好多人在这方面遇到困难。人们只是将大量垃圾数据倒到数据湖。市面上可在数据湖中积极发挥功效的工具不多。由于这项工作主要由IT人员完成，他们更有兴趣将数据倒到数据湖，而不是确立一种治理结构。”

主要厂商包括Waterline Data、以数据编目工具见长的Tamr和Collibra。

Ramesh说，经常出现的第三大需求是安全。他说：“人们希望一个产品就有安全访问的所有层(列、行和对象)。他们希望一款产品为不同的数据对象支持用户访问和安全。这也是个新兴领域。”

这个领域的主要厂商是Wandisco和FireEye。

End.

来源：网络大数据

文章推荐

一份高质量数据分析报告的三板斧

如何完成一份高质量数据分析报告

不同行业的软件都爱用什么编程语言开发？

摘要详细的介绍了两款数据销毁工具O&O SafeErase和HDshredder的差异，报告中涉及这两款工具的操作和使用情况，以及在具体的硬件平台和软件操作系统下进行的测试情况。

关键词硬盘数据销毁文件清除O&O SafeErase HDshredder

一、测试目的

在这么一个信息化时代，信息安全的攻防手段日新月异，数据的清除与销毁也就成为了数据安全领域不可或缺的环节。鉴于物理层面对于存储介质的破坏虽然从根本上杜绝了文件的恢复操作，但考虑到这种方式有绝对的不可逆性，而且所花费的代价极大，所以利用PC端通过软件操作的对数据进行销毁的方式被更多的相关从业者采纳。

本次测试针对时下两种数据销毁工具O&O SafeErase和HDshredder，分别在适用场合、具体操作以及文件销毁原理方面进行了深度比较，希望能给使用者带来更大的便捷。

二、测试环境

操作系统 Windows 7 64-bit SP1

测试软件 O&O SafeErase HDshredder

处理器Intel(R) Core(TM) i7-6700K CPU @ 4.00GHz

主板型号 iEi Technology Corp. - Intel B360 (V1.00)

内置硬盘 SAMSUNG MZMTD128HAFV-000 SCSI Disk Device (128GB)

测试硬盘 XF1230-1 A0480 SCSI Disk Device (480GB)

三、测试机构

鸿萌硬盘之家测试小组

四、实际进度

（一）对于两种清除工具异同的初步了解

表4.1 测试工具差异简表

评测内容

O&O SafeErase

HDshredder

工具类型

清除对象

清除方式

后续影响

非可执行文件

目标文件

写入、删除分区

删除存储器

可执行文件

整个硬盘

对原驻留空间写入

无

1. O&O SafeErase 数据清除

不是可执行文件，集成于资源管理器，有针对的彻底清除敏感数据，对原有数据驻留空间进行操作写入，即对目标文件占用空间写1，不影响储存介质的继续使用。对硬盘的单次或极少次数的写入操作，并不一定能够彻底杜绝后期对于该部分数据的恢复。

2. HDshredder硬盘粉碎

可执行文件（*.exe），适用于到达使用寿命的或准备换下的硬盘，删除外部驱动器或继发的内部驱动器，所以需事先转移或备份硬盘中的有用文件。

这两款工具都能保证所擦除的数据无法通过任何渠道恢复。

（二）实测记录

1.HDShredder 5.0.3 FreeEdition

固态硬盘

清除级别

清除方式

清除速度

希捷XF-1230

军工级

写入覆盖

155MB/s

R-studio检测清除效果

Sequentil Read (SR:488MB/s)对所有扇区存储空间写入无用数据(软件推广内容)，Random Read (RR:26.7MB/s)对第一扇区sector 0全部写1,具体清除速度与硬盘读写速度相关，但不完全以其为准。恢复结果为一个与存储介质空间几乎等同的文本文档，文档内容为数据清除工具HDShredder的推广。

图 4.1.1 清除后sector 0内的数据

图 4.1.2 清除后其余扇区内的数据

2. HDShredder 4.0 执行标准AR380-19(3)

固态硬盘

清除级别

清除方式

清除速度

希捷XF-1230

军工级

写入覆盖

368.5MB/s

R-studio检测清除效果

在执行标准AR380-19中是按照固定算法对清除目标分三次写入无用数据，恢复结果为若干个零碎的文本文档，文档内容为无用的乱码。

图 4.2.1 清除后其余扇区内的数据

图 4.2.2 清除后其余扇区内的数据

3. O&O SafeErase Version 11.1 Build 164

固态硬盘

清除级别

清除方式

清除速度

希捷XF-1230

军工级

删除分区

与文件的多少相关

SafeErase对于硬盘的清除速度与所存储的内容有关，在清理完存储介质中的文件之后还会删除硬盘分区表。使用R-STUDIO进行恢复之后，结果中没有可恢复数据的痕迹。在使用该工具对硬盘进行数据清除后，原有的分区会消失，若继续使用硬盘需重新分区。

图 4.3.1清除标准及预估完成时间

图 4.3.2 清除日志

图 4.3.3R-STUDIO恢复扫描结果

（三）技术细节对比及实际选用

表4.2技术细节对比

评测内容

O&O SafeErase

HDshredder

软件版本

工具类型

清除对象

清除方式

清除速度

最高级别

适用对象

适用情形

后续影响

Version 11.1 Build 164

系统内集成

目标文件

写入、删除分区

与数据内容相适应

军工级

企业、个人

文件销毁

删除存储器与分区

4.0&5.0.3

可执行文件

整个硬盘

对原驻留空间写入

155~368 MB/s

军工级

企业、个人

硬盘销毁

仅删除数据

O&O SafeErase在清除数据时，会根据硬盘内数据的具体存储情况而针对性地进行写入操作,所以对于硬盘的清除速度直接与数据内容的多少相关，其清理标准为0~35times不等，在清理完数据后会删除分区表。比较适用于个人的少量文件清理，或者用于硬盘销毁的前期操作。HDshredder在清除硬盘数据时，会对整个硬盘存储空间进行写入操作，其执行标准为大多数国际通用算法，写入次数可根据实际情况进行选择，更为适用于大量数据的清除。

四、总结

数据的清除与恢复工具多种多样，本次的测试按照比较常用的行业执行标准，针对市面上技术指标较为流行的存储介质，分别进行了数据的清除与恢复。本文主要对比了两款在数据销毁方面，效果显著且方式典型的数据清除工具，着重阐明了两者的适用情形和操作规范，能给业内从业者在选用的过程中提供便捷。

参考文献

[1] 梁效宁, 许超明, 赵飞. 一种涉密数据清除方法:, CN105224877A[P]. 2016.

[2] 郭松辉. 基于关键页覆写的数据清除技术[J]. 计算机工程与设计, 2015, 36(1):88-92.

[3] 董明. 一种可实现数据清除功能的固态硬盘: CN, CN 202534367 U[P]. 2012.

数据可视化正在帮助全球的公司识别模式，预测结果并提高业务回报。可视化是数据分析的一个重要方面。简而言之，数据可视化以可视格式传达表格或空间数据的结果。图像有能力清晰地捕捉注意力并传达想法。这有助于决策并推动改进行动。

通过使用正确的工具，您可以从原始数据中勾勒出令人信服的视觉故事。以下是一些用于数据可视化的免费和开源工具。

1.Candela

如果您了解JavaScript，那么您可以使用此开源工具进行丰富的数据可视化。Candela是一个开源的可互操作网络可视化组件。

2.Charted

Charted是一款免费的数据可视化工具，可让您从CSV文件和Google电子表格创建线形图或条形图。收费带有集成组件，包括LineUp组件，UpSet组件，OnSet组件，Vega可视化和GeoJS地理空间可视化。该工具不存储数据或操作它。纯粹基于可视化，它具有基本功能来创建带有标签和备注的线条或堆积图表。

3.数据包装器

Datawrapper是一款移动友好的数据可视化工具，可让您在几秒钟内创建图表和报告。该工具的免费版本适用于单个用户，支持每月10,000个月的图表视图。使用该工具，您可以创建不同类型的可视化效果，如条形图，分割图，堆积图，点图，箭头图，面积图，散点图，符号图和等值线图。您不需要编码或设计技能来使用该工具。

4. Google Data Studio

如果您拥有Gmail帐户，Google的数据可视化工具就可以免费且轻松地进行设置。您可以轻松将其与Google产品相关联，例如Google AdWords，Google Analytics，YouTube Analytics和Google表格。

5.谷歌图表

Google的另一个简单而免费的数据可视化工具是Google Charts 工具。该工具带有用于可视化的交互式图表和数据工具。

6.Leaflet

Leaflet是一个开源的JavaScript库，允许您制作适合移动设备的交互式地图。该工具有很多插件可用于添加功能，并可在各种桌面和移动平台上正常运行。

7. MyHeatMap

MyHeatMap是一款免费工具，可以交互式查看您的地理数据。该工具的免费版本只提供公共地图，您可以为每个这些免费地图添加20个数据点。该工具使用颜色编码的热图更容易理解数据。您也可以在同一张地图内的数据集之间切换。

8. Openheatmap

Openheatmap让你把你的电子表格变成一张地图。您可以上传CSV文件或Google表格，以在几秒钟内创建交互式在线地图。该工具可用于解释邮政编码等客户人口统计数据。

9.Palladio

Palladio是一款免费工具，旨在将复杂的历史数据可视化。它具有地图视图，图形视图，列表视图和图库视图等功能。您可以使用该工具可视化CSV，TAB或TSV文件中的数据。通过图表视图，您可以可视化数据维度之间的关系。数据显示为通过线路连接的节点。另一方面，列表视图允许您安排数据以制作自定义列表。该工具还具有图库视图以在网格中显示数据。

10. RawGraphs

RawGraphs是一个开源平台，可帮助您可视化TSV，CSV，DSV或JSON数据。免费工具使用简单，并有助于将数据转换为图表。

11. Tableau Public

Tableau Public是一款免费的商业智能工具，允许用户创建和共享交互式图表，图表，地图和应用程序。该工具的免费版本带有10 GB的存储空间。您可以将它连接到Google表格，Microsoft Excel，文本文件，JSON文件，空间文件，Web数据连接器，OData以及SAS（* .sas7bdat），SPSS（* .sav）和R等统计文件（* .rdata，* .rda）。

12.时间表

时间轴 是一款免费工具，可让您为报告创建时间表。您可以使用工具中提供的模板连接您的Google云端硬盘帐户，从Google电子表格创建时间表。使用JSON，您可以创建自定义安装。

13. Chartist.js

Chartist.js是一款免费的数据可视化工具，可让您快速轻松地创建响应式图表。

该工具提供了很大的灵活性并且可以自定义。你甚至可以使用CSS动画和转换到你的SVG元素。

14. ColorBrewer

ColorBrewer是一款免费工具，可用于根据配色方案更好地制作地图。该工具可以轻松区分复杂地图上的颜色。

15. D3.js

D3.js 是一个免费的JavaScript库，可以帮助您使用数据创建图像。该工具使您能够将任意数据连接到文档对象模型（DOM），然后将数据驱动的转换应用于文档。通过DOM编程API，程序员可以将文档作为对象访问。

16.Plotly

Plotly是一款开放源代码工具，可用于撰写，编辑和共享交互式数据可视化。您可以使用该工具通过上传CSV文件或连接到SQL数据库来创建D3.js图表和地图。您也可以使用R或Python创建图表。

17. Polymaps

Polymaps是一个免费的JavaScript库，用于在浏览器中创建动态的交互式地图。您可以使用该工具在地图上显示多缩放数据集。该工具使用可缩放矢量图形（SVG）来显示图像，从而使您可以使用CSS定义设计。

18.Weave

Weave是一个免费的数据可视化平台，符合ADA标准。该工具带有全键盘和辅助设备导航以及完整的屏幕阅读器支持。该工具还自动实时描述图像。

19. Dygraphs

Dygraphs是一个基于JavaScript的开源图表库。这个免费的工具可以用来分析密集的数据集。该工具是高度可定制的，并适用于所有浏览器。该工具为错误栏/置信区间提供了强有力的支持。

20.GanttPro

除此之外，还有许多数据可视化工具可以在有限的时间内提供免费试用。 例如，项目管理工具GanttPro可帮助您在15天的试用期内免费创建项目图表。

数据可视化对精确的数据分析至关重要。利用正确的工具，您可以轻松地向您的利益相关者总结和解释复杂的数据。通过利用数据产生的可操作的见解，公司可以获得巨额利润和储蓄。我们说的有多大？Netflix 在2017年 以其ML算法向用户推荐个性化电视节目和电影，节省了约 10亿美元。正确使用时，数据分析和可视化有能力改变人们的生活方式。

点一下关注哦！~~

推荐一些简单的，日常工作能实际应用，或者个人学习数据分析、可视化有必要的工具。

希望大家能真的用起来！

推荐顺序：

能中文版的，尽量不推荐没汉化的，密密麻麻我也头疼；

能“傻瓜式”使用的，尽量不写代码，怕把你们吓跑；

能免费的尽量不付费，破解咱不提倡哈。

本文章提要：

纯可视化图表生成（3个）可视化报表类（1个）商业智能分析（3个）数据地图类（2个）可视化大屏类（3个）数据挖掘编程语言（2个）

纯可视化图表生成类——适合开发，工程师

Echart

一个纯Javascript的数据可视化库，百度的产品，常应用于软件产品开发或网页的统计图表模块。可在Web端高度定制可视化图表，图表种类多，动态可视化效，各类图表各类形式都完全开源免费。能处理大数据量和3D绘图也不逊色，据说结合百度地图的使用很出色。

Echart还是多用于一些开发场景的，但它也衍生了一个0代码的图表生成器—“百度图说”，我体验了下，操作基本上就是选择图标，把数据复制过去，然后生成图表，保存为图或者代码嵌入。

AntV

AntV又是蚂蚁金服出品（阿里系）的一套数据可视化语法，貌似是国内第一个采用The grammar Of Graphics这套理论的可视化库。antv带有一系列的数据处理API，简单数据的数据归类，分析的能力，被很多大公司用作自己BI平台的底层工具。

Highcharts

说道Echarts，都会拿来与Hicharts对比，两者有点像WPS和OFFICE的关系，倒不是说Echarts怎样，日常图表动效Echarts完全够了。

Highcharts同样是可视化库，只不过是国外的，商用的话需要付费。其优势是文档详细, 实例也很很详细，文档中依赖哪些js脚本，css都十分详细，学习和开发都比较省时省力，相应的产品稳定性较强。

可视化报表类——适合报表开发、BI工程师

FineReport

一个报表软件，企业级的应用。用于系统的开发业务报表，数据分析报表。也可集成在OA，ERP，CRM等应用系统内，做数据报表模块，也可以开发成财务分析系统，就看你如何驾驭数据了。

两大核心功能是填报和数据展示，但我觉得比较惊艳的一点是，它内置了大量的图表和可视化动效，可视化很丰富，完全没有印象中做报表那种古板的风格。多以它能做出格式各样的dashboard、甚至是可视化大屏，一点不虚。

我之前工作有段时间拿finereport，感触最深的是开发报表很省力，10张门店报表以往做10张excel的，在他里面就是一个参数查询，然后批量导出，用一个模板。

所以有号称：

工作用小屏，决策用大屏。办公用微软，经营用帆软。

商业智能分析——适合BI工程师、数据分析师

Tableau

几乎是数据分析师人人会提的工具，内置常用的分析图表，和一些数据分析模型，可以快速的探索式数据分析，制作数据分析报告。

因为是商业智能，解决的问题更偏向商业分析，用 Tableau可以快速地做出动态交互图，并且图表和配色也非常拿得出手。

FineBI

自助是BI工具，也是一款成熟的数据分析产品。内置丰富图表，不需要代码调用，可直接拖拽生成。可用于业务数据的快速分析，制作dashboard，也可构建可视化大屏。

有别于Tableau的是，它更倾向于企业应用，从内置的ETL功能以及数据处理方式上看出，侧重业务数据的快速分析以及可视化展现。可与大数据平台，各类多维数据库结合，所以在企业级BI应用上广泛，个人使用免费。

PowerBI

软继Excel之后推出的BI产品，可以和Excel无缝连接使用，创建个性化的数据看板。

数据地图类

很多工具都能实现数据地图，比如上面提到的Echarts、finereport、tableau等。

这里强烈安利的Power Map 2016，可以快速体验一把爽。

还有比较快速的，地图慧

内置的是百度地图，选择模板、上传数据、保存地图很简单的3步。

可视化大屏类

阿里DataV

天猫双十一大屏就用DataV做的，是阿里云的拖拽式可视化工具，主要用于业务数据与地理信息融合的大数据可视化，像一些展览中心，企业管控中心用。

不需要编程，通过简单的拖拽配置就能生成可视化大屏或者仪表盘。

FineReport

上面提过，这个工具它也能做可视化报表，也能做大屏。

因为后端通常连接业务系统数据，所以可以实时连接业务数据，做企业的一些经营数据展示。比如展览中心、BOSS驾驶舱，还有城市交通管控中心、交易大厅等。

数字冰雹

产品技术不了解，也只是有幸在一次活动上见过。

专注于做数据图像、三维处理、数据分析等相关业务，通过图像可视化方式呈现数据分析，在智慧城市、工业监控用的比较多。

就是商业的，不过官网上有很多大屏设计，可以提供灵感。

数据挖掘编程语言——适合技术性数据分析师、数据科学家

典型如R和Python

R-ggplot2

Python

大数据及移动互联网时代，每一个使用移动终端的人无时无刻不在生产数据，而作为互联网服务提供的产品来说，也在持续不断的积累数据。数据如同人工智能一样，往往能表现出更为客观、理性的一面，数据可以让人更加直观、清晰的认识世界，数据也可以指导人更加理智的做出决策。

而在大数据时代的今天，最有价值的商品则是数据。那么今天小编在这里给大家推荐一些常用于数据分析的必备神器。

1.Tableau

Tableau 帮助人们快速分析、可视化并分享信息。它的程序很容易上手，各公司可以用它将大量数据拖放到数字“画布”上，转眼间就能创建好各种图表。数以万计的用户使用 Tableau Public 在博客与网站中分享数据。

项目地址：https://tableau/

2.ECharts

Echarts可以运用于散点图、折线图、柱状图等这些常用的图表的制作。Echarts的优点在于，文件体积比较小，打包的方式灵活，可以自由选择你需要的图表和组件。而且图表在移动端有良好的自适应效果，还有专为移动端打造的交互体验。

项目地址：http://echarts.baidu/

3.Highcharts

Highcharts的图表类型是很丰富的，线图、柱形图、饼图、散点图、仪表图、雷达图、热力图、混合图等类型的图表都可以制作，也可以制作实时更新的曲线图。

另外，Highcharts是对非商用免费的，对于个人网站，学校网站和非盈利机构，可以不经过授权直接使用 Highcharts 系列软件。Highcharts还有一个好处在于，它完全基于 HTML5 技术，不需要安装任何插件，也不需要配置 PHP、Java 等运行环境，只需要两个 JS 文件即可使用。

项目地址：https://hcharts/

4.魔镜

魔镜是中国最流行的大数据可视化分析挖掘平台，帮助企业处理海量数据价值，让人人都能做数据分析。

魔镜基础企业版适用于中小企业内部使用，基础功能免费，可代替报表工具和传统BI，使用更简单化，可视化效果更绚丽易读。

项目地址：http://moojnn/

5.图表秀

图表秀的操作简单易懂， 而且站内包含多种图表，涉及各行各业的报表数据都可以用图表秀实现， 支持自由编辑和Excel、csv等表格一键导入，同时可以实现多个图表之间联动， 使数据在我们的软件辅助下变的更加生动直观，是目前国内先进的图表制作工具。

项目地址：http://tubiaoxiu/

分享 IT 技术和行业经验，请关注-技术学派。

大数据日益成为研究行业的重要研究目标，面对其高数据量、多维度与异构化的特点，以及分析方法思路的扩展，传统统计工具已经难以应对。工欲善其事，必先利其器。众多新的软件分析工具作为深入大数据洞察研究的重要助力，也成为数据科学家所必须掌握的知识技能。

为了帮你节省时间并且让你第一次使用就能挑选出正确的工具，我们搜集和整理了数据提取、数据存储、数据清洗、数据挖掘、数据分析和数据集成方面的我们最爱用的工具。

传统数据分析所用工具

1、Excel作为电子表格软件，适合简单统计（分组/求和等）需求，由于其方便好用，功能也能满足很多场景需要，所以实际成为研究人员最常用的软件工具。其缺点在于功能单一，且可处理数据规模小。这两年Excel在大数据方面（如地理可视化和网络关系分析）上也作出了一些增强，但应用能力有限。

2、SPSS（SPSS Statistics)和SAS作为商业统计软件，提供研究常用的经典统计分析（如回归、方差、因子、多变量分析等）处理。SPSS轻量、易于使用，但功能相对较少，适合常规基本统计分析

3、SAS功能丰富而强大（包括绘图能力），且支持编程扩展其分析能力，适合复杂与高要求的统计性分析。

数据存储和管理所用工具

Hadoop现在几乎已经等同于大数据。它是存储在计算机集群中的超大数据集的一个开源的分布式的基础架构。你可以随意增大或减小你的数据量而不用担心硬件故障。Hadoop提供了对任何种类的海量数据的存储、强大的处理能力和几乎无限的并行工作能力。

Hadoop并不适合数据初学者。要想充分发挥Hadoop的能力，你需要了解Java。学习Java可能耗时，但是Hadoop绝对值得你付出，因为大量的公司和技术都依赖于它甚至和它融为了一体。

数据清洗所用工具

在你进行数据挖掘之前，应该先对你的数据进行清洗。OpenRefine现在是一款用来专门清洗混乱数据的开源工具。从而使你能够轻松和快速的探索有一定程度非结构化的大数据集。

数据挖掘所用工具

数据挖掘作为大数据应用的重要领域，在传统统计分析基础上，更强调提供机器学习的方法，关注高维空间下复杂数据关联关系和推演能力。代表是SPSS Modeler，SPSS Modeler的统计功能相对有限,主要是提供面向商业挖掘的机器学习算法（决策树、神经元网络、分类、聚类和预测等）的实现。同时，其数据预处理和结果辅助分析方面也相当方便，这一点尤其适合商业环境下的快速挖掘。不过就处理能力而言，实际感觉难以应对亿级以上的数据规模。

大数据常用的编程语言

1、R语言是用来进行统计分析和绘图的一种语言。如果上述的数据挖掘和统计软件无法满足你的需求的话，那么R语言一定会有所帮助。实际上如果你要成为一个数据科学家，了解R语言是一项必备技能。

2、Python语言——最大的优势是在文本处理以及大数据量处理场景，且易于开发。在相关分析领域，Python代替R的势头越来越明显。

在你的数据生涯中学会单一工具很难一招鲜吃遍天。现在的工具虽然使用起来越来越简便，功能也越来越强大，但是有的时候还是自己编程更好一些。即使你不是一个专业程序员，理解这些语言的基本工作原理对诸多的工具的运行和使用方法的理解也是大有裨益。此外西线学院建议，数据分析员要发挥自身对业务的深入理解，从数据结果中洞察发现有深度的结果，这才是最有价值的。

大数据分析，是互联网从业者必须具备的一项基础技能，只有掌握数据分析，做项目才能更科学化、对于项目的预判，能够更准确的把握。今天分享的这些数据分析工具，是我们分析项目经常用的工具，毫无保留的分享给大家，希望大家在操作项目的过程中熟练的使用这些工具。 定能够让你在网赚道路上无往不胜。1、百度指数第一款必备工具。百度指数，我们在查询某一些关键词的时候，首要考虑的就是百度的数据如何，因为百度这个搜索引擎在互联网搜索引擎中占据的份额最大，数据精准度高。检索的很多关键词以及一些热点词的数据对比，都能直观展现出来，通过人群、年龄、性别、兴趣爱好、地域等更为详细的信息，方便我们做出更理智的判断。

2、微指数我们在查询一些关键词的时候，要分析社交数据。对于产品传播非常重要，通过调查数据，我们知道如何把握住当今热点，让产品蹭热度飞一会，是很多商家考虑的问题。新浪微博旗下产品微指数，可以很容易帮我们把控热点关键词。让我们清楚地看到近七天趋势如何，及时对产品做出调整。

3、阿里指数我们在操作某宝店铺项目的时候，需要分析更多的数据，来确定标题内容如何定位优化，用户检索更为简单，如何蹭热点关键词飞上那么一会儿，如何引爆流量做核心爆款。这个跟成交量有非常大的关键，哪类行业有哪些关键词在搜索时上升幅度比较快，很有潜力，知道这些信息后，我们都需要提早的布局。等相关的关键词上升到一定幅度时，我们恰好出现在热点上，在用户检索时很容易爆单。这个数据分析工具是中小卖家逆袭的机会。一定要好好研究。

4、腾讯指数BAT三大巨头，柒点哥介绍两家了，怎么可能缺少 TX 指数，TX 旗下的各类产品琳琅满目，自然对数据掌握的精准程度不是一般企业可以比拟的。算得上行业顶尖了。但是目前为止使用腾讯指数分析的用户实在少之又少，大部分人不知道这个功能，今天柒点哥告诉大家，腾讯确实有指数分析的功能。而且可以从九大品类开始分析数据，可以说是一款很强大的运营工具。

5、爱站网爱站网：是一个综合性的数据分析平台。我平常都在用这个网站分析一些网站相关的信息，比如，网站收录状况，PR值，域名信息，友情链接等一些数据。但是最长用的一个功能就是长尾关键词发掘。这项功能有助于我们通过主关键词，发掘带流量的附属关键词的状况，类似于百度推广后台的数据分析。非常不错的免费工具，大家以后可以常用。

6、QQ指数QQ指数是一款基于QQ平台用户数据分析的移动端指数类产品，定位于洞察QQ平台上年轻人最新、最热、最关注的社交内容，通过分析QQ平台上用户公开发表的说说、评论及搜索、浏览等行为数据，发现年轻人的热点趋势及舆论风向，透过QQ指数可以快速掌握年轻人的兴趣喜好和行为习惯等信息。作为T讯旗下最为核心的产品，对于我们互联网人士来讲，把它称为流量的天堂，只要随便找一个平台来操作产品，坚持一段时间都能暴富的。所以研究T讯系的核心产品，离不开QQ指数这个工具，对于我们把控QQ流量热点的趋势有很好的帮助，是非常重要的营销利器。

QQ指数官方账号：qq搜索框搜索 QQ指数，关注公众号即可查询，主要是带认证图标的那个。7、微信指数微信指数是微信官方提供的基于微信大数据分析的移动端指数。2017年3月23日晚，微信官方推出了“微信指数”功能。作为T讯旗下，第二个核心产品，微信可以说是后来者居上，各种苗头都表明要赶超QQ的趋势，对于我们互联网人士来讲，这是最好的变现渠道。因为很多网赚项目，最后结款的地方都是在微信端成交的。所以我们非常有必要来分析他的数据，基于微信推出了这一功能，让我们省了很多分析微信数据的时间。

微信指数官方渠道：小程序搜索微信指数8、安卓权重榜我们操作的一些项目，免不了在APP上操作，但是这个平台流量如何，以及人群属性，都很难预估。但是我们又必须了解数据才能够伸缩有度，所以我常用的这款APP数据软件，就能够给我带来客观的数据。

9、新榜以榜单为切口，新榜向众多500强企业、政府机构提供线上、线下数据产品服务，“号内搜”、“新榜认证”、“分钟级监测”获得广泛应用。在协同内容创业者商业化方面，新榜依托数据挖掘分析能力，建立用户画像和效果监测系统，连接品牌广告主和品牌自媒体。作为公众号的运营者，我特别注重公众号的分析，以及项目渠道的发掘。新榜作为专业的内容数据提供商，我是经常会使用他来分析数据，查看某些公众号潜力，随时观察它的盈利模式以及动向。

10、梅花网作为互联网人士，写文章投放广告，是我经常要做的事情，但是如何让广告的每一分钱都花到潜在客户身上，是我经常要考虑的。如何知道同行在哪里投放广告，也是我所关心的，梅花网是广告监测比较专业的网站，我经常用来分析广告数据，在这里推荐给大家。

总结：以上的十个工具呢，就是我经常用到的数据分析工具。我认为这是每一个互联网从业者都具备的基本功，用好数据分析，操作项目更加的事半功倍。但是用的时候不能太死板，可以结合起来相互用。实干派动手做，花架子空叹息，让技术为你工作。赚钱的玩法很多，只有思路够宽，你才能走的更远。没赚到钱，并不是文章干货不够，而是你懂得太少了。 保持空杯心态，永远在进步。

【VIP会员服务】小鸟云匠心打造完整的VIP会员服务体系，为国内国际用户提供7*24小时服务支持、0元快速备案、100倍故障赔偿、5天无理由退款等多种服务支持和服务保障让用户尊贵售后服务，让云端部署更轻松、更高效。

如今，为了满足企业的主要需求，大数据工具正在迅速得到应用。在大数据技术作为概念和业务战略出现的十年中，涌现了执行各种任务和流程的数千种工具。而推出这些工具的提供商都承诺可以为企业节省时间和成本，并发现能够让企业获利的商业洞察力。显然，大数据分析工具的市场正在不断增长。

许多大数据分析工具最初像大数据软件框架Hadoop一样都是开源项目，但商业实体迅速涌现，为开源产品提供了新工具或商业的支持和开发。

而在这些工具中选择是一个挑战，特别是许多大数据工具只具有单一用途，而企业需要使用大数据完成许多不同的任务，因此企业的分析工具箱会变得过于充实。根据这个行业领域的专家顾问的建议，以下列出一系列主要的大数据分析工具，并列出三个主要类别。

如上所述，大数据工具都倾向于单一使用类别，并且有多种使用大数据的方式。所以可以按类别分类，然后分析每个分析工具。

大数据工具：数据存储和管理

大数据都是从数据存储开始。这意味着从大数据框架Hadoop开始。它是由Apache Foundation开发的开源软件框架，用在计算机集群上分布式存储非常大的数据集。

显然，存储对于大数据所需的大量信息至关重要。但更重要的是，需要有一种方式来将所有这些数据集中到某种形成/管理结构中，以产生洞察力。因此，大数据存储和管理是真正的基础，而没有这样的分析平台是行不通的。在某些情况下，这些解决方案包括员工培训。

而这个领域的主要的大数据工具有：

1. Cloudera

基本上，Hadoop增加了一些额外的服务，企业将需要这些服务，因为大数据并不是一个简单的练习。 Cloudera的服务团队不仅可以帮助企业构建大数据集群，还可以帮助培训员工更好地访问数据。

2. MongoDB

MongoDB是最流行的大数据数据库，因为它适用于管理大数据经常出现的非结构化数据或频繁更改的数据。

3. Talend

作为一家提供广泛解决方案的公司，Talend的产品是围绕集成平台构建的，该平台结合了大数据、云计算、应用程序，以及实时数据集成、数据准备和主数据管理。

Talend大数据集成包括数据质量和治理功能。

大数据工具：数据清理

在企业真正处理大量数据以获取洞察信息之前，先需要对其进行清理、转换并将其转变为可远程检索的内容。大数据集往往是非结构化和无组织的，因此需要进行某种清理或转换。

在这个时代，数据的清理变得更加必要，因为数据可以来自任何地方：移动网络、物联网、社交媒体。并不是所有这些数据都容易被“清理”，以产生其见解，因此一个良好的数据清理工具可以改变所有的差异。事实上，在未来的几年中，将有效清理的数据视为是一种可接受的大数据系统与真正出色的数据系统之间的竞争优势。

4. OpenRefine

OpenRefine是一款易于使用的开源工具，通过删除重复项、空白字段和其他错误来清理凌乱的数据。它是开源的软件，但它有一个可以提供帮助的大型社区。

5. DataCleaner

与OpenRefine类似，DataCleaner将半结构化数据集转换为数据可视化工具可读取的干净可读的数据集。该公司还提供数据仓库和数据管理服务。

6. Microsoft Excel

人们可以从各种数据源导入数据。Excel对手动数据输入和复制/粘贴操作特别有用。它可以消除重复、查找、替换，拼写检查以及用于转换数据的许多公式。但它很快陷入困境，并不适用于大数据集。

大数据工具：数据挖掘

一旦数据被清理并准备好进行检查，就可以通过数据挖掘开始搜索过程。这就是企业进行实际发现、决策和预测的过程。

数据挖掘在很多方面都是大数据流程的真正核心。数据挖掘解决方案通常非常复杂，但力求提供一个令人关注和用户友好的用户界面，这说起来容易做起来难。数据挖掘工具面临的另一个挑战是：它们的确需要工作人员开发查询，所以数据挖掘工具的能力并不比使用它的专业人员强。

7. RapidMiner

RapidMiner是一款易于使用的预测分析工具，具有非常用户友好的可视化界面，这意味着企业无需编写代码，即可运行分析产品。

8. IBM SPSS Modeler

IBM SPSS Modeler是一套适用于企业级的高级分析的产品，用于数据挖掘。而IBM的服务和咨询无疑是首屈一指的。

9. Teradata

Teradata为数据仓库、大数据和分析以及市场营销应用提供端到端解决方案。这一切意味着企业的业务可以真正成为一个数据驱动的业务，并提供商业服务、咨询、培训和支持。

像许多当前的大数据工具一样，RapidMiner解决方案也包含云计算解决方案

大数据工具：数据可视化

数据可视化是企业的数据以可读的格式显示的方式。这是企业查看图表和图形以及将数据放入透视图中的方法。

数据的可视化与科学一样，是一种艺术形式。而大数据公司将拥有越来越多的数据科学家和高级管理人员，很重要的一点是可以为员工提供更加广泛的可视化服务。销售代表、IT支持、中层管理等这些团队中的每一个成员都需要理解它，因此重点在于可用性。但是，易于阅读的可视化有时与深度特征集的读取不一致，这成为了数据可视化工具的一个主要挑战。

10. Tableau

作为这一领域的领导者之一，其数据可视化工具专注于商业智能，无需编程即可创建各种地图、图表、图形等等。Tableau总共有五款产品，其中有一个名为Tableau Public的免费版本供潜在客户试用。

11. Silk

Silk是一种简单版本的Tableau，Silk可让企业将数据可视化为地图和图表，而无需任何编程。它甚至会尝试在第一次加载时自动将数据可视化。它还使得在线发布结果变得容易。

12. Chartio

Chartio使用自己的可视化查询语言，只需点击几下即可创建功能强大的仪表板，而无需了解SQL或其他建模语言。与其他不同的是，企业直接连接到数据库，因此不需要数据仓库。

13. IBM Watson Analytics

IBM Watson Analytics是机器学习(ML)和人工智能(AI)的结合，可帮助提供智能数据科学助理，为业务分析师和数据科学家提供广泛的数据科学技能集的用户指南。

三层大数据工具

普华永道移动数据和分析计划首席技术官Ritesh Ramesh说，就精密程度和市场战略而言，大数据工具分解为三层。

第一层：也是最大的一层，是一系列开源工具。每家公司都以这种方式开始，像Cloudera和Hortonworks。除了基本的基础设施。服务器和存储之外，价值非常小。大多数云计算厂商已经将这一层实现商品化。

第二层：这是大多数这些供应商已经意识到需要增加他们的市场份额的地方，他们必须在开放源代码工具之上构建一些专有应用程序，从而与其他供应商区分开。例如，Cloudera公司构建了一些类似于Hadoop内核中的数据科学平台。

第三层：这些是垂直专用的应用程序。这些公司大多与普华永道、Cognizant或埃森哲等系统集成商合作。这就是真正的价值所在，而且这也是大数据工具制造商非常有效的竞争策略。

Ramesh说，除了基本功能之外，还有三个工具需求领域。首先是数据处理工具。他说，“数据学习工具是客户进行数据质量和性能分析的工具包中的重要工具，可处理5000万行数据，以发现洞察力。”