前言

有一个大数据项目，你知道问题领域(problem domain)，也知道使用什么基础设施，甚至可能已决定使用哪种框架来处理所有这些数据，但是有一个决定迟迟未能做出：我该选择哪种语言?(或者可能更有针对性的问题是，我该迫使我的所有开发人员和数据科学家非要用哪种语言?)这个问题不会推迟太久，迟早要定夺。

分享之前我还是要推荐下我自己创建的大数据学习交流Qun531629188无论是大牛还是想转行想学习的大学生小编我都挺欢迎，今天的已经资讯上传到群文件，不定期分享干货，包括我自己整理的一份最新的适合2018年学习的大数据教程，欢迎初学和进阶中的小伙伴。

当然，没有什么阻止得了你使用其他机制(比如XSLT转换)来处理大数据工作。但通常来说，如今大数据方面有三种语言可以选择：R、Python和Scala，外加一直以来屹立于企业界的Java。那么，你该选择哪种语言?为何要选择它，或者说何时选择它?

下面简要介绍了每种语言，帮助你做出合理的决定。

R

R经常被称为是“统计人员为统计人员开发的一种语言”。如果你需要深奥的统计模型用于计算，可能会在CRAN上找到它――你知道，CRAN叫综合R档案网络(Comprehensive R Archive Network)并非无缘无故。说到用于分析和标绘，没有什么比得过ggplot2。而如果你想利用比你机器提供的功能还强大的功能，那可以使用SparkR绑定，在R上运行Spark。

然而，如果你不是数据科学家，之前也没有用过Matlab、SAS或OCTAVE，可能需要一番调整，才能使用R来高效地处理。虽然R很适合分析数据，但是就一般用途而言不太擅长。你可以用R构建模型，但是你需要考虑将模型转换成Scala或Python，才能用于生产环境，你不太可能使用这种语言编写一种集群控制系统(运气好的话，你可以对它进行调试)。

Python

如果你的数据科学家不使用R，他们可能就会彻底了解Python。十多年来，Python在学术界当中一直很流行，尤其是在自然语言处理(NLP)等领域。因而，如果你有一个需要NLP处理的项目，就会面临数量多得让人眼花缭乱的选择，包括经典的NTLK、使用GenSim的主题建模，或者超快、准确的spaCy。同样，说到神经网络，Python同样游刃有余，有Theano和Tensorflow;随后还有面向机器学习的scikit-learn，以及面向数据分析的NumPy和Pandas。

还有Juypter/iPython――这种基于Web的笔记本服务器框架让你可以使用一种可共享的日志格式，将代码、图形以及几乎任何对象混合起来。这一直是Python的杀手级功能之一，不过这年头，这个概念证明大有用途，以至于出现在了奉行读取-读取-输出-循环(REPL)概念的几乎所有语言上，包括Scala和R。

Python往往在大数据处理框架中得到支持，但与此同时，它往往又不是“一等公民”。比如说，Spark中的新功能几乎总是出现在Scala/Java绑定的首位，可能需要用PySpark编写面向那些更新版的几个次要版本(对Spark Streaming/MLLib方面的开发工具而言尤为如此)。

与R相反，Python是一种传统的面向对象语言，所以大多数开发人员用起来会相当得心应手，而初次接触R或Scala会让人心生畏惧。一个小问题就是你的代码中需要留出正确的空白处。这将人员分成两大阵营，一派觉得“这非常有助于确保可读性”，另一派则认为，2016年，我们应该不需要就因为一行代码有个字符不在适当的位置，就要迫使解释器让程序运行起来。

Scala

现在说说Scala：在本文介绍的四种语言中，Scala是最轻松的语言，因为大家都欣赏其类型系统。Scala在JVM上运行，基本上成功地结合了函数范式和面向对象范式，目前它在金融界和需要处理海量数据的公司企业中取得了巨大进展，常常采用一种大规模分布式方式来处理(比如Twitter和LinkedIn)。它还是驱动Spark和Kafka的一种语言。

由于Scala在JVM里面运行，它可以立即随意访问Java生态系统，不过它也有一系列广泛的“原生”库，用于处理大规模数据(尤其是Twitter的Algebird和Summingbird)。它还包括一个使用非常方便的REPL，用于交互式开发和分析，就像使用Python和R那样。

我个人非常喜欢Scala，因为它包括许多实用的编程功能，比如模式匹配，而且被认为比标准的Java简洁得多。然而，用Scala来开发不止一种方法，这种语言将此作为一项特色来宣传。这是好事!不过考虑到它拥有图灵完备(Turing-complete)的类型系统和各种弯弯曲曲的运算符(“/:”代表foldLeft，“:”代表foldRight)，很容易打开Scala文件，以为你看到的是某段讨厌的Perl代码。这就需要在编写Scala时遵循一套好的实践和准则(Databricks的就很合理)。

另一个缺点是，Scala编译器运行起来有点慢，以至于让人想起以前“编译!”的日子。不过，它有REPL、支持大数据，还有采用Jupyter和Zeppelin这一形式的基于Web的笔记本框架，所以我觉得它的许多小问题还是情有可原。

Java

最终，总是少不了Java――这种语言没人爱，被遗弃，归一家只有通过起诉谷歌才有钱可赚时才似乎关心它的公司(注：Oracle)所有，完全不时髦。只有企业界的无人机才使用Java!不过，Java可能很适合你的大数据项目。想一想Hadoop MapReduce，它用Java编写。HDFS呢?也用Java来编写。连Storm、Kafka和Spark都可以在JVM上运行(使用Clojure和Scala)，这意味着Java是这些项目中的“一等公民”。另外还有像Google Cloud Dataflow(现在是Apache Beam)这些新技术，直到最近它们还只支持Java。

Java也许不是摇滚明星般备受喜爱的首选语言。但是由于研发人员在竭力理清Node.js应用程序中的一套回调，使用Java让你可以访问一个庞大的生态系统(包括分析器、调试器、监控工具以及确保企业安全和互操作性的库)，以及除此之外的更多内容，大多数内容在过去二十年已久经考验(很遗憾，Java今年迎来21岁，我们都老矣)。

炮轰Java的一个主要理由是，非常繁琐冗长，而且缺少交互式开发所需的REPL(R、Python和Scala都有)。我见过10行基于Scala的Spark代码迅速变成用Java编写的变态的200行代码，还有庞大的类型语句，它们占据了屏幕的大部分空间。然而，Java 8中新的Lambda支持功能对于改善这种情况大有帮助。Java从来不会像Scala那么紧凑，但是Java 8确确实实使得用Java进行开发不那么痛苦。

至于REPL?好吧，目前还没有。明年推出的Java 9会包括JShell，有望满足你的所有REPL要求。

哪种语言胜出?

你该使用哪种语言用于大数据项目?恐怕这还得“视情况而定”。如果你对晦涩的统计运算进行繁重的数据分析工作，那么你不青睐R才怪。如果你跨GPU进行NLP或密集的神经网络处理，那么Python是很好的选择。如果想要一种加固的、面向生产环境的数据流解决方案，又拥有所有重要的操作工具，Java或Scala绝对是出色的选择。

当然，不一定非此即彼。比如说，如果使用Spark，你可以借助静态数据，使用R或Python来训练模型和机器学习管道(pipeline)，然后对该管道进行序列化处理，倒出到存储系统，那里它可以供你的生产Scala Spark Streaming应用程序使用。虽然你不应该过分迷恋某一种语言(不然你的团队很快会产生语言疲劳)，使用一套发挥各自所长的异构语言也许会给大数据项目带来成效。

喜欢这篇文章记得收藏，转发哦！更多相关资讯可以关注xabdqn，免费获得java零基础教程！额外附送excel教程！

企业通常在布局新产品的时候，会先对市场做一个调查，并且得到相关数据分析出来企业潜在客户喜欢哪些东西。为了帮助到这些企业更快整理这些数据，大数据APP闪亮登场。很多企业离不开大数据支持，因此不少企业都选择大数据APP开发，那么哪些行业适合大数据APP？接下来和塔尖网络专业人员一起来看看吧。

1、信息流

其实信息流属于大数据运用的一种，可以依据大数据智能为企业推荐出来，潜在客户有用信息，这样做企业就能够省去很多事情，将品牌广告精准投放给这些客户，依据客户搜索，给出正确答案。

2、物流行业

从事物流行业的人都知道，物流行业当中物流信息处理是特别重要，当你无法很好高效快捷掌握物流信息的时候，利用大数据安排是一个不错选择，物流行业人员可以更加高效的安排物流运输。例如分析出来哪个地区对于物流需求比较大，可以在这块区域多安排一些员工，每天之中哪个点的物流高峰期，根据这些数据，定制出来有序计划。利用大数据分析，可以帮助物流企业避免货件堆积、物流运行缓慢等情况发生。

3、旅游行业

旅游行业必须定期对用户数据进行分析，一些旅游行业之所以做的不温不火是因为他们没有及时对市场用户做分析，利用大数据可以清楚得知，每一个季节用户们喜欢去哪个地方旅游。得知了之后，旅游行业只需要根据用户爱好，定制好营销策略，让业绩一直稳定提升。

4、电商行业

电商行业是离不开大数据APP，这是因为国内现在电商平台很多，竞争十分激烈，每一个电商品台都需要对用户爱好进行分析，对自己出售产品做出改变，让用户们喜欢。并且利用大数据可以清楚了解道，用户们在哪个时间段会购物，比如可以了解道每一个企业工资发放时间，在这个时间段做好优惠活动，这一天产品销售自然是比较好。

大数据APP开发可以应用到的地方特别多，比如说金融行业、农业行业、医疗行业等等，这些行业都离不开大数据，如果说企业负责人也想要开发一个APP，那么最好是寻找一家正规APP开发公司，比如塔尖网络专业人员，因为只有这种开发公司，开发出来的APP才是有保障。

大数据技术在经历了科技的洗礼之后，逐渐被人们所熟知，但很多人都只闻其身，不明其义，那大数据到底是什么?跟我们的生活有什么关系呢?为什么国家一度重申大数据技术的重要性呢?为什么很多人都争相去学习大数据技术呢?下面我们就来谈谈大数据。

所谓的大数据，用通俗的话讲，就是一堆数据组合而成。如果将这些数据不集中分析出来，那就是一堆没有用的数据，但如果经过大数据技术的加工，毫不夸张地说就是国家瑰宝!

可以给大家举一个简单的例子

你常用的网购APP的推荐商品，都是根据你日常的购买习惯、消费情况以及你近期或者是之前购买过的东西，进行推荐的。这里包含了，数据的采集及分析，这个只是简单的应用例子。

新浪微博是大数据时代典型的产物，微博颠覆了传统意义上普通信息媒介的传播方式，它具有传播速度快，传播范围广的特点，能在短时间形成飓风的传播效应，进而形成广泛的影响力。

阿里巴巴创办人马云来台演讲中就提到，未来的时代将不是IT时代，而是DT的时代，DT就是Data Technology数据科技，显示大数据对于阿里巴巴集团来说举足轻重。

大数据是宝藏，人工智能是工匠。大数据给了我们前所未有的收集海量信息的可能，因为数据交互广阔，存储空间近乎无限，所以我们再也不用因“没地方放”而不得弃掉那些“看似无用”的数据。

当数据变得多多益善，当移动设备、穿戴设备以及其他一切设备都变成了数据收集的“接口”，我们便可以尽可能的让数据的海洋变得浩瀚无垠，因为那里面“全都是宝”。

当大数据的大浪凶猛袭来时，要么你冲上浪尖，做时代的弄潮儿，要么被打入海底，做鱼儿的晚餐。大数据与云计算的未来发展趋势和前景已经非常的广阔， 未来的互联网就是大数据和云计算的天下，大数据和云计算技术将是每一个 IT 人员的必备技能。

什么是大数据？

“大数据”是指以多元形式，自许多来源搜集而来的庞大数据组，往往具有实时性。在企业对企业销售的情况下，这些数据可能得自社交网络、电子商务网站、顾客来访纪录，还有许多其他来源。这些数据，并非公司顾客关系管理数据库的常态数据组。

为什么说Java是大数据开发的最强语言？

而不是什么PHP，Python？

虽然语言都是相通的，功能都能实现，但这三种开发语言的实际应用场景已经分工非常明确！

PHP是web后端语言；Python是爬虫语言；

在这里，我要让大家走出误区，别人facebook用的PHP与你用的一样吗？别人都是自己改写的PHP内核，与你用的完全不是一个东西！

淘宝、京东、美团后台架构无一不是用Java搭建的，Java语言历史悠久，稳定性高，开源社区活跃，在大数据方面，更是一家独大！

基本所有与大数据沾边的开源软件都是采用Java开发，或者基于jvm。就算其内核不是采用Java编写，也一定提供了Java调用客户端，这就是Java的影响力。

既然Java是最好的大数据开发语言，应用领域又如此之广，到华信智原学习Java，专家顾问、实训团队、大牛导师、真实企业项目应有尽有，心动不如行动，赶快点击学习吧！

最近有不少初学者来问到，学习大数据，学习spark公司主要使用那些语言编写，每听到这一个问题，起码还是很不错的，证明你已经开始学习大数据了，并了解大数据Spark是可以使用多种语言来实现开发的，那就是Java、Scala、Python和R语言都可以使用，那简单分析一下：

首先Java，是现阶段使用较为居多，为什么呢？是由于玩Java转到大数据人数太多人的缘故，所以很多人都喜欢使用Java，也有的是由于公司为了维护和人才的使用考虑，会选择使用Java语言开发，也有的是因为平台会有Hadoop的MapReduce老程序与Spark任务混合使用，为了平台统一开发语言而选择Java，也有的公司为了对接外面项目而选择通用性比较强的Java语言开发。

Scala，也可以是说大数据Spark开发的主力语言了，因为当你学习Spark后，就一定会对Scala有进一步的研究与学习，因为为了学好Spark技术你需要研究源码、需要更简洁快速开发项目。从而Spark大数据开发语言Scala是最多。

Python，在机器学习、AI的崛起，也有很多人青睐的语言了；还有一波人喜欢，那就是大数据分析人员，在SQL与spark SQL 使用Python来进行脚本调度。

R，这个现在小编也是用不到，就不多说了，有了解大神可以给补充，留言评论，感谢！

本篇分析只是过人体验，如有任何不妥，欢迎留言修正，感谢感谢！

欢迎关注，获取更多资料

有人说JAVA的启动速度和C++相比来说有些慢，不可否认Java的启动速度确实比较慢，但是系统运行稳定后，JIT编译器能够极大地提高Java的运行速度。使用专业定制的商业级jdk后，Java的运行速度已经不是问题，比如ali-jdk。

况且对于互联网公司来说，可以通过虚拟化技术大规模增加机器或使用云计算，性能不够机器来凑。现在已经有了混部技术，连机器资源都可以共享了。总的来说，Java的运行效率真的不是瓶颈。

另一方面，Java的生态已经非常成熟，通用的框架、人数众多的程序员、各大公司的商业级应用，都是Java的筹码。Java最成功的就是虚拟机技术，现在又诞生了kotlin等基于jvm的语言，可以说Java的地位短时间内是无法被撼动的。

Java是在c++之后诞生的。解决了很多c++存在的问题，比如指针带来的安全性问题。做了很多优化，比如去除结构化编程是完全的面向对象，增加垃圾回收机制避免了内存泄露。如果不是需要操作底层，比如修改内存数据、操作硬件，而是做纯上层应用，c++不如Java。

不同的编程语言自有其各自的优缺点，哪种语言好并不是绝对的，这要看市场的占有率和其自身的特性，对于大数据开发来说，JAVA会优于C++。

1、基础人才-数据分析师

北京数据分析师平均工资： 10630/月，取自 15526 份样本，较 2016 年，增长 9.4%。

北京大数据开发工程师平均工资：30230/月。

3、Hadoop开发工程师

北京hadoop开发工程师平均工资： 20130/月，取自 1734 份样本。

4、数据挖掘工程师

北京数据挖掘平均工资：21740/月，取自 3449 份样本，较 2016 年，增长 20.3%；

5、算法工程师

北京算法工程师平均工资： 22640/月，取自 10176 份样本。

小编之前不是从事大数据技术开发，甚至从没有从事过IT相关技术。

后来冒然的进入了IT行业，还从开始就直接学习了大数据技术。小编现在想想都有点后怕啊。

用九哥现在领导（资深大数据架构师，曾在阿里巴巴服役近10年）的一句话说就是：大数据入行容易，进阶难！

为什么这么说呢？

因为，大数据处理数据的相关技术以及框架，相对于一些开发语言比较独立。重点在于大数据量的数据的处理分析能力和挖掘能力，而非编程的能力。所以，编程能力被无限弱化。

但并不是说，编程能力不重要。

如果你有Java开发经验或者python开发经验，那么你转行大数据会十分轻松。

虽然大数据生态圈里面的一些框架很好的封装了绝大部分的的函数和方法，但是一些业务逻辑比较复杂的方法还是需要进行代码手写的，这就比较考验个人的代码编程能力了。

前面为什么说大数据入行容易，进阶难呢？

容易就在于就代码能力要求不是十分严格，但是后期如果处理机器学期、人工智能等对个人能力要求就很高了，尤其是在算法上。

由于近两年政府的提倡和各大互联网公司不遗余力的宣传，大数据技术人才在国内现在炙手可热，薪水也水涨船高。初级人才往往在8-15K、中级人才往往在15-25K、高级往往25-50K、CDO工资不详。

高额的薪水吸引了很多人想要转行大数据行业。

那么，如果你是计算机、数学、统计等专业，又有一定的代码编程能力，小编觉得你还是可以尝试一下的哦。

前言

大数据时代，中国IT环境也将面临重新洗牌，不仅仅是企业，更是程序员们转型可遇而不可求的机遇。国内大多数大型互联网公司的程序员被称作研发工程师，但实际上国内几乎没有研发项目，只能叫做开发。开发程序员的工作大多是重复性劳动，容易产生疲惫感，薪资在工作2-5年内就达到了一个峰值，再要提升就比较困难，这样就导致了很多程序员最终转行做了其他行业。

首先JAVA的精密，强大，拥有其它语言不可替代的性能和可维护性，早已经是成为最受欢迎的编程语言之一，很多人想进入IT行业，首选的第一门语言就是JAVA。但是，在未来10年肯定是大数据的天下，人工智能的爆发，将会有大量企业会进入大数据领域，而从JAVA程序员转JAVA大数据就会有天然的优势，因为目前大数据的架构基本都是用JAVA语言完成，未来10年，JAVA大数据的需求量会越来越大。

我们都知道Java语言在编程中的地位不言而喻，近年来，我们都知道很多学java的朋友，在java的基础上开始学习以hadoop为首的大数据方向的语言，本文我就来分析一下为什么越来越多的java工程师开始转向hadoop？

Hadoop是Apache软件基金会的顶级开源项目，是由原雅虎公司Doug Cutting根据Google发布的学术论文而创建的开源项目。Doug Cutting被称为Hadoop之父，他打造了目前在云计算和大数据领域里如日中天的Hadoop。

Hadoop的发音是[hdu:p]，Hadoop 这个名字不是一个缩写，而是一个虚构的名字。Doug Cutting解释Hadoop的得名：“这个名字是我孩子给一个棕黄色的大象玩具命名的。我的命名标准就是简短、容易发音和拼写，没有太多的意义，并且不会被用于别处，小孩子恰恰是这方面的高手”。

Apache Hadoop官方定义是：Hadoop项目是一套可靠的，可扩展的，支持分布式计算的开源软件。

下面我们来分析一下大数据在未来的优势：

市场需求量大

经常调查显示，去年有很多大小互联网公司都在布局大数据。而目前大数据方面的人才依旧十分紧缺，比如大数据生态Spark需要的Scala工程师。基于Java和Scala等技术密切的关系，有些大数据公司会瞄准JAVA工程师，通过培养转而成为大数据工程师。

如果你先一步在学习JAVA的基础上再学习一些大数据的知识，那么将来你在公司的竞争力会明显大于一般的JAVA工程师，甚至可能提前一步进军大数据行列。

就业方向广泛

JAVA大数据的人才以后可以进行的工作有很多种，下面举几个例子：

（1）大数据开发工程师

基础大数据服务平台，大中型的商业应用包括我们常说的企业级应用(主要指复杂的大企业的软件系统)、各种类型的网站等。负责搭建大数据应用平台以及开发分析应用程序。

（2）大数据分析师

负责数据挖掘工作，运用Hive、Hbase等技术，专门对从事行业数据搜集、整理、分析，并依据数据做出行业研究、评估和预测的专业人员。以及通过使用新型数据可视化工具如Spotifre，Qlikview和Tableau，对数据进行数据可视化和数据呈现。

（3）Android工程师

Android是一种基于Linux的自由及开放源代码的操作系统，其源代码是Java。所以市场上见到的手机系统例如MIUI，阿里云，乐蛙等，都是修改源代码再发行的。Java做安卓不单单是指系统，还有APP对于更多的开发人员来说，他们更多的时间是花在开发APP上面。

还有很多其它职位比如大数据挖掘等就不一一说明了。

行业起薪高

下面我们用一张图让大家了解一下大数据工程师和java工程师的平均薪资

通过这篇文章我相信大家对JAVA大数据行业都有一点了解，在这个大家都呼吁的大数据时代，转型做JAVA大数据是一个非常好的选择，我相信即使几年以后大数据依旧是一个很好的领域。

人工智能与大数据，越来越受瞩目，那在开发过程中，我们需要注意些什么？

一、你的数据未必可靠

在我们实际应用中，并不能确保我们的数据是完全可靠的。通常，都会出现各种各样的原因会来导致数据不可靠的因素：

1、用于开发的数据，会与实际情况下的数据分布有所差异。

2、你的数据集中会存在很多缺失的数据。事实上，除非是人为构造的数据集合，否则很难避免缺失数据问题的发生，如何处理数据缺失的问题是很有技巧的事情。实践中我们要么是干脆丢弃一部分残缺的数据，要么就是想办法计算一些数值去填补这些缺失值。无论哪种方法都可能导致应用结果的不稳定。

3、数据随时在变，数据库的表结构可能会变，数据定义也是可能会改变的。

4、你的数据或许没有被归一化。假设你可能在观察一组用户的体重，为了能够获得有效的结论，首先需要对每个体重的衡量单位进行归一化，是英镑还是公斤，不能混淆着用

5、你的数据可能并不适用于相应的算法。数据存在着各种各样的形式和规范，或者叫数据类型（data types），有些是数值化的数据，有些则不是。有些数据集合能被有序排列，有些则做不到。有些是离散化的数据（例如房间里的人数），另一些则是连续化的（例如气温或者气压等数据）

二、计算难以瞬间完成

完成任一人工解决方案的计算，都是需要一定的时间，也就是说方案的响应速度，对商业应用的成功起到了十分关键的作用。所以，不要天真的以为任何算法在所有数据集上都可以在规定时间内完成。

以搜索引擎为例，用户对结果返回的时长是有忍耐的限度的。如果用户等待的时间超过10秒，50%的用户会流失，如果等待时间超过1分钟，90%以上的用户会流失。在开发智能应用系统时，不能为了达到更好的算法精度而忽略系统运算和等待的时间，否则会导致整个产品的失败。

三、 数据的规模非常重要

当我们考虑智能应用时，数据规模是很重要的因素。数据规模的影响可以分为两点来考察：第一点是规模会影响应用系统的响应速度；第二点是在很大的数据集上的挖掘出有价值结果的能力会受到考验。

其次，使用更多的数据来训练的简单算法，比受制于维度诅咒（Dimension Curse）的复杂算法往往有好得多的效果。类似Google这样拥有海量数据的大型企业，优秀的应用效果不仅来自于精妙复杂的算法，也来自于其对海量训练数据的大规模分析挖掘。（达观数据 陈运文）

四、 不同的算法具有不同的扩展能力

我们不能假设智能应用系统都可以通过简单增加服务器的方法来扩展性能。有些算法是有扩展性的，而另一些则不行。

例如如果我们要从数亿的文章标题里，找出标题相似的各个组的文章，注意并不是所有的聚类算法此时都能并行化运行的，你应该在设计系统的同时就考虑可扩展性。有些情况下你需要将数据切分成较小的集合，并能够让智能算法在各个集合上并行运行。设计系统时所选择的算法，往往需要有并行化的版本，而在一开始就需要将其纳入考虑，因为通常围绕着算法还会有很多相关联的商业逻辑和体系结构需要一并考虑。

五、并不存在万能的方法

你可能听说过一句谚语“当你有了把榔头的时候，看什么东西都像钉子”，这里想表达的意思是：并不存在能够解决所有智能应用问题的万能算法。

智能应用软件和其他所有软件类似——具有其特定的应用领域和局限性。当面对新的应用领域时，一定要充分的验证原有方法的可行性，而且你最好能尝试用全新的视角来考察问题，因为不同的算法在解决特定的问题时才会更有效和得当（达观数据 陈运文）。

六、数据并不是万能的

就说机器学习，它也是需要从训练开始的，然后再逐步延伸到未知数据中。

例如若你已经对数据的分布规律有所了解，那么通过图模型来表达这些先验的知识会非常有效。除了数据以外，你还需要仔细的考虑，该领域有哪些先验知识可以应用，这对开发一个更有效的分类器会很有帮助。数据和行业经验结合往往能事半功倍。

七、模型训练的时间差异很大

在特定应用中，可能某些参数的微小变化就会让模型的训练时间出现很大的差异。例如在深度神经网络训练时就会有各种各样的参数调节的情况发生。

人们往往会直观地觉得调整参数时，训练时间是基本稳定不变的。例如假设有个系统是计算地球平面上任意两点之间的距离的，那么任意给出两个点的坐标时，计算时间差不多都是相同的。但在另一些系统里却并非如此，有时细微的调整会带来很明显的时间差异，有时差异甚至可以大到数小时，而不是数秒。

八、泛化能力是目标

机器学习实践中最普遍存在的一个误区是陷入处理细节中而忘了最初的目标——通过调查来获得处理问题的普适的方法。

测试阶段是验证某个方法是否具备泛化能力（generalization ability）的关键环节（通过交叉验证、外部数据验证等方法），但是寻找合适的验证数据集不容易。如果在一个只有几百个样本的集合上去训练有数百万维特征的模型，试图想获得优秀的精度是很荒唐的。

九、人类的直觉未必准确

在特征空间膨胀的时候，输入信息间形成的组合关系会快速增加，这让人很难像对中等数据集合那样能够对其中一部分数据进行抽样观察。更麻烦的是，特征数量增加时人类对数据的直觉会迅速降低。

例如在高维空间里，多元高斯分布并不是沿着均值分布，而是像一个扇贝形状围绕在均值附近，这和人们的主观感受完全不同。在低维空间中建立一个分类器并不难，但是当维度增加时，人类就很难直观的理解了。

十、要考虑融入更多新特征

你很可能听说过谚语“进来的是垃圾，出去的也是垃圾”（garbage in, garbage out），在建立机器学习应用中这一点尤其重要。为了避免挖掘的效果失控，关键是要充分掌握问题所在的领域，通过调查数据来生成各种各样的特征，这样的做法会对提升分类的准确率和泛化能力有很大的帮助。仅靠把数据扔进分类器就想获得优秀结果的幻想是不可能实现的。

十一、要学习各种不同的模型

模型的组合（Ensemble）技术正变得越来越流行了，因为组合方法，仅需要付出少许偏见（bias）的代价，就能大大的减少算法的不确定性。在著名的Netflix算法竞赛中，冠军队以及成绩优异队伍们全都使用了组合模型方法，把超过100个模型合并在一起（在模型上叠加高层的模型形成组合）以提升效果。在人工智能用于实际应用时，从业者普遍都认为，未来的算法一定时会通过模型组合的方法来获得更好精度，但是这也会抬高非专业人员理解系统机制的门槛。

十二、相关关系不等同于因果关系

这一点值得反复强调，我们可以通过一句调侃的话来解释：“地球变暖、地震、龙卷风，以及其他自然灾害，都和18世纪以来全球海盗数量的减少有直接关系”。这两个变量的变化有相关性，但是并不能说存在因果关系，因为往往存在第三类（甚至第4、5类）未被观察到的变量在起作用。相关关系应该看作是潜在的因果关系的一定程度的体现，但需要进一步研究。