中企动力 > 商学院 > 专业数据统计分析
  • ?

    如何比较数据科学、大数据和统计?

    葛绮彤

    展开

    首先来说说数据科学吧,作为一门学科, 数据科学所依赖的两个因素是数据的广泛性和多样性,而广泛性和多样性之间又有共性。

    数据科学主要包括两个方面: 用数据的方法来研究科学和用科学的方法来研究数据。

    前者的包含面很广,囊括了生物信息学,天体信息学等领域。而后者包括统计学、CS、数据挖掘、数据库等领域。所以,要直白的说的话,就是数据科学包括了统计学,数据挖掘。而数据挖掘既相对独立,也可以作为一个统计学发展的小方向(与CS有关)而不是分支。而大数据则是个专有名词,指的是所涉及的数据量规模巨大到无法通过人工,在合理时间内达到截取、管理、处理、并整理成为人类所能解读的信息。

    统计学的主干课程都包括什么?主要都涉及到什么样的知识和实际背景?

    两者的比较如果再从就业上讲,统计无疑是一个比较热门的专业,之中好多方向都比较好就业,每个方向都有其对应的工作,比如事业单位和经济、管理部门从事统计调查、统计信息管理、数量分析等开发、应用和管理工作,或在科研、教育部门从事研究和教学工作。而数据科学作为拥有完整知识体系的新兴的学科,其就业前景无疑也是可观的。

    ——圆圆

    个人认为这三者既存在着密切的联系,也不完全相同。用数学的话来说,就是三者之间相互存在着交集,但也并不是完全包含。

    其中涉及的最广泛的应该就是数据科学了。研究大数据的方法可以称作数据科学、而统计的研究方法就更可以算作是数据科学了。本身,数据科学就是在大数据的背景下提出的。它不仅包括大数据的研究方法和研究背景,更包括对于数据软件的使用、对于数据库的理解、甚至包括对于算法的理解等等。

    大数据,是在近几年才刚刚提出并迅速走红的概念。它是未来数据分析和存储的新趋势。面对这个信息爆炸的时代,数据的高数量、高维度、高更新速度以及背后的高商业价值都对于传统的硬件存储、数据库管理和统计分析方法提出了更高的要求。原先的统计大多都是适用于小样本的情况,而面对这样的大数据往往显得无能为力。因此,相比较与其他的两个概念来看,它既是数据科学的基础,也是建立在统计基础上的一个科学。

    最后,三者最共同的地方应该就是统计了,无论是数据科学应用在各个实际领域、还是大数据的各种突破过去经典数据规模的领域,它们的核心思想或者说最先处理的基础都是统计。如果任何数据都可以使用经典的统计方法去解决的话,不会再采用其他的模糊近似的方法进行操作。

    综上,数据科学包含的内容更加全面、更加综合,它更像是一个对于实际的数据问题需要具备的一些基本甚至专业知识。而大数据,则只是一个概念,指的是对于现在这个数据泛滥时代的统称。而它的研究方法包括在数据科学之中。对于统计而言,它在应用领域与前两者也有着很类似的内容,然而其理论基础部分则与前两者不同,是前两者进行研究和发展的基础。

    ——高原红

    想了解更多相关内容,记得持续关注我们哦。

    如果你觉得有点意思,请有秩序的评论、转发、收藏。

  • ?

    数据分析都用什么工具

    樊远航

    展开

    欢迎关注天善智能,我们是专注于商业智能BI,大数据,数据分析领域的垂直社区,学习,问答、求职一站式搞定!

    本文是上一篇文章《全国及重点城市“数据分析”岗位需求量及工资水平分析》的续篇,从“数据分析”职位招聘单位给出的职位描述中分析各种工具的热门程度。

    1.整体概览

    经常看见有网友争论R和python谁才是主流的数据分析工具,网友们分门别派各抒己见。今天我们从实际需求出发,在招聘单位的职位描述中用正则表达式匹配统计常用的数据分析工具出现的频率,看看谁才是你最应该掌握的工具。

    话不多说,先上图

    毫无疑问,excel才是最主流的数据分析工具,在招聘单位的职位描述中出现频率远远高于其他工具(实际上居第八位的office也含有excel,其真实数据应该比这还高),作为最基础的工具,excel是一个数据分析工作者的必备技能。excel之后的4门工具分别是sqlsever、spss、sas和r,其中排名第二位的sqlsever频率高出另外两门主流数据库语言mysql、oracle近两倍,spss作为无需编程的专业统计软件也在职位描述中有较高的频率,sas则是编程类统计软件的代表,今年来火热的r语言也水涨船高,另一门火热的程序语言python在数据分析方面则要稍稍落后。

    2.各职位具体情况

    数据分析也有细分很多具体职位,那么不同的职位以上各种工具的要求是否存在差异呢?

    表中数据显示“大数据分析师”需掌握的工具主要是r、python、hadoop、spark和java;“数据分析工程师”需要掌握的工具主要是sqlsever、r、python和hadoop,这两个职位都很看重编程开发能力。

    “数据分析经理”、“高级数据分析师”和“数据分析师”需要掌握的工具大体一致,均为excel、sqlsever、spss、sas和r。

    “数据分析主管”、“数据分析”、“数据分析专员”和“数据分析员”等职位对基础技能的要求更为突出,excel、ppt、word等office办公软件出现的频率较其他工具明显更高。

    作为一名数据分析从业者或者想转行过来的人来说,要想有好的职业发展,首先,必须熟练掌握office办公软件,尤其是excel(不要瞧不起excel,你不一定玩得转);其次,还需要学习一门数据库语言,sqlsever是不错的选择(mysql、oracle与sqlsever较为类似,通一门后,其他的学起来也很容易);专业的统计分析工具也需要掌握一门,如果讨厌编程,可以选择spss,如果有编程能力那么sas和r可以选择一个学习,如果你精通python也可以用python做统计分析;如果想往大数据方向发展,或者是做数据分析工程师那就还需要掌握python、hadoop等工具。

    最后附上一张数据分析职位描述的词云图,可以看出招聘单位除了看重工具的使用外,也很注重分析、业务、经验、沟通、团队等方面的能力。

    本文作者:Mr.Hu,转自:一胡诌先生

  • ?

    Excel数据统计分析中36个小技巧

    慕蕊

    展开

    1、一列数据同时除以10000

    复制10000所在单元格,选取数据区域 - 选择粘性粘贴 - 除

    2、同时冻结第1行和第1列

    选取第一列和第一行交汇处的墙角位置B2,窗口 - 冻结窗格

    3、快速把公式转换为值

    选取公式区域 - 按右键向右拖一下再拖回来 - 选取只保留数值。

    4、显示指定区域所有公式

    查找 = 替换为“ =”(空格+=号) ,即可显示工作表中所有公式

    5、同时编辑所有工作表

    全选工作表,直接编辑,会更新到所有工作表。

    6、删除重复值

    选取数据区域 - 数据 - 删除重复值

    7、显示重复值

    选取数据区域 - 开始 - 条件格式 - 显示规则 - 重复值

    8、把文本型数字转换成数值型

    选取文本数字区域,打开左上角单元格的绿三角,选取 转换为数值

    9、隐藏单元格内容

    选取要隐藏的区域 - 设置单元格格式 - 数字 - 自定义 - 输入三个分号;;;

    10、给excel文件添加密码

    文件 - 信息 - 保护工作簿 - 用密码进行加密

    11、给单元格区域添加密码

    审阅 - 允许用户编辑区域 - 添加区域和设置密码

    12、把多个单元格内容粘贴一个单元格

    复制区域 - 打开剪贴板 - 选取某个单元格 - 在编辑栏中点击剪贴板中复制的内容

    13、同时查看一个excel文件的两个工作表

    视图 - 新建窗口 - 全部重排

    14、输入分数

    先后输入 0 ,再输入 空格, 再输入分数即可

    15、强制换行

    在文字后按alt+回车键即可换到下一行

    16、删除空行

    选取A列 - Ctrl+g打开定位窗口 - 定位条件:空值 - 整行删除

    17、隔行插入空行

    在数据表旁拖动复制1~N,然后再复制序号到下面,然后按序号列排序即可。

    18、快速查找工作表

    在进度条右键菜单中选取要找的工作表即可。

    19、快速筛选

    右键菜单中 - 筛选 - 按所选单元格值进行筛选

    20、让PPT的图表随excel同步更新

    复制excel中的图表 - 在PPT界面中 - 选择性粘贴 - 粘贴链接

    21、隐藏公式

    选取公式所在区域 - 设置单元格格式 - 保护:选取隐藏 - 保护工作表

    22、行高按厘米设置

    点右下角“页面布局”按钮,行高单位即可厘米

    23、复制时保护行高列宽不变

    整行选取复制,粘贴后选取“保持列宽。

    24、输入以0开始的数字或超过15位的长数字

    先输入单引号,然后再输入数字。或先设置格式为文本再输入。

    25、全部显示超过11的长数字

    选数区域 - 设置单元格格式 - 自定义 - 输入0

    26、快速调整列宽

    选取多列,双击边线即可自动调整适合的列宽

    27、图表快速添加新系列

    复制 - 粘贴,即可给图表添加新的系列

    28、设置大于72磅的字体

    excel里的最大字并不是72磅,而是409磅。你只需要输入数字即可。

    29、设置标题行打印

    页面设置 - 工作表 - 顶端标题行

    30、不打印错误值

    页面设置 - 工作表 - 错误值打印为:空

    31、隐藏0值

    文件 - 选项 - 高级 - 去掉“显在具有零值的单元格中显示零”

    32、设置新建文件的字体和字号

    文件 - 选项 - 常规 - 新建工作簿时....

    33、快速查看函数帮助

    在公式中点击下面显示的函数名称,即可打开该函数的帮助页面。

    34、加快excel文件打开速度

    如果文件公式过多,在关闭时设置为手动,打开时会更快。

    35、按行排序

    在排序界面,点击选项,选中按行排序

    36、设置可以打印的背景图片

    在页眉中插入图片即要

    来源:网络整理

    百家号-【袁帅数据分析运营】运营者:袁帅,会展业信息化、数字化领域专家。新社汇平台联合创始人,永洪数据科学研究院MVP。认证数据分析师、网络营销师、SEM搜索引擎营销师、SEO工程师、中国电子商务职业经理人。畅销书《互联网销售宝典》联合出品人。

  • ?

    美国数据分析(Business Analytics)专业详细介绍

    乏力

    展开

    Data Science 作为一个宽口径的新兴职业方向,充满了工作机会,同时,无论你是学什么与业出身的,都有新与业、新领域的知识要学。比如工作期间,学统计的去研究一下优化、计量经济,学计算机的深入加强统计知识,都可能有机会。看到市场对数据人才的追求日益激烈,许多大学开始与门开设数据分析类与业。

    近几年来,美国很多学校也开设了analytics的多门硕士项目,比如 Northwestern、 NCSU,但是开设这类专业的学校,一般综合排名低,除了西北大学,以前少有学校问津 analytics;随着过去两年data science和bigdata的共起,UIUC、UT Austin、NYU等都相继开设了analytics、Data Science类的硕士项目,包括弗吉尼亚大学、哥伦比亚大学、俄亥俄州立大学等开设宣布计划开设数据科学方面的硕士研究生培养项目。例如,南加州大学马歇尔商学院就与门开设了商业数据分析的硕士项目。该项目总终的第一句话就是:商业数据分析是现在全美增长最迅速的领域。

    数据科学专业需要具备的能力

    (1)、计算机科学能力一般来说,数据科学与业大多要求具备编程、计算机科学相关的与业背景。简单来说,就是对处理大数据所必需的 Hadoop、Mahout等大规模幵发处理技术等机器学习相关的技能。(2)、数学、统计、数据挖掘的能力除了数学、统计方面的素养之外,还需要具备使用SPSS、 SAS等主流统计分析软件的技能。其中,面向统计分析的开源编程语言及其运行环境“R”最近备受瞩目。R 的强项不仅在于其包含了丰富的统计分析库,而专具备将结果迚行可视化的高品质图表生成功能,不可以通过简单的命令来运行。此外,它还具备称为CRAN(The Comprehensive R Archive Network)的包扩展机制,通过导入扩展包就可以使用标准状态下所不支持的函数和数据集。R语言虽然功能强大,但是学习曲线较为陡峭,建议从python 入手。

    (3)、数据可视化

    信息的质量很大程度上依赖于其表达方式。对数字罗列所组成的数据中所包含的意义迚行分析,开发Web原型,使用外部API将图表、地图、Dashboard等其他服务统一起来,从而使分析结果可视化,这是对于数据科学家来说十分重要的技能之一。

    (4)、跨界为王麦肯锡认为未来需要更多的“translators”,能够在IT 技术,数据分析和商业决策之间架起一座桥梁的复合型人才是最被人需要的。”translators“可以驱劢整个数据分析戓略的设计和执行,同时连接的IT ,数据分析和业务部门的团队。如果缺少“translators“,即使拥有高端的数据分析策略和工具方法也是于事无补的。天才的”translators“非常罕见。但是大家可以各敬其职,数据战略家可以使用IT 知识和经验来制定商业决策,数据科学家可以结合对与业知识的深入理解使用IT 技术开发复杂的模型和算法,分析顾问可以结合实际的业务知识不分析经验聚焦下一个行业爆点。

    未来就业前景这类硕士项目的最大优势是在于读程设置,software system、machine learning、database、 optimization、decision science、statistics、business intelligence等所有涉及到的领域知识,往往都会学一些。因此,跟比如学统计戒者计算机出身的同学相比,有analytics硕士学位的同学,知识结构更合理、更全面。也正是因为这点,目前学这个与业的同学找工作很容易。以下数字可以说明数据人才有多稀缺。一个拥有博士学位的数据科学家的起薪通常是六位数,工作两年后,就可以轻松赚到 20万至30万美元的年薪。在美国职业社交网站领英网(LinkedIn),有3.6万个数据科学家的职位虚位以待。另一家网站的数据显示,去年底有6000家公司正在招聘数据方面的人才。

    【选校大揭底】

    美国目前总有45所大学开设的数据分析相关与业硕士研究生读程项目。小科对这45 所院校做了整理的查校,总结如下:所有都相对集中在美国的东部、北部区域,所开设的大数据分析硕士学位课程可以分为三个类型。

    1、数据分析科学硕士学位课程(MSA,Masterof Science in Analytics) 美国有14所大学,总性是属新开发的跨学科读程,将应用数学、统计学、计算机科学,以及各种商业学科诸如营销、财务等融合在一起,即使一些学位使用预测分析(Predictive Analytics)戒数据分析(Data Analytics)冠名其读程内容也大致相同;

    2、商业数据分析硕士学位课程(MSBA,Masterof Science in Business Analytics) 美国有17所大学开设此学位课程,其特点基本上是由各大学商学院新开设戒改名而来的,也会有不与其他学院联合办学的情况,和MSA类似面向技术的读程稍少一些,但也不意味着MSBA就完全偏向商科。

    3、属其他学科的硕士学位但主修方向是数据分析(Other M.S. Programs, Analytics Tracks andConcentrations) 开设该项目课程的有14所院校,常冠以数据科学(Data Science)这个名称,一般开设在商学院以外的学院,将数据分析课程与其他学科结合的硕士学位,还有的情况是将原有的旧专业改为数据分析与业,有时还可能沿用原有的与业名称,目标是从庞大数量种类的数据中去获得能有效沟通的可执行见解。

    以下我们筛选了其中5所院校做以详细的查校结果汇总,如果想要了解更多院校查校信息

    1、加州大学伯克利分校信息与数据科学专业(MS in Information and Data Science):

    专业介绍: 加州大学伯克利分校有两个相关的学位项目:数据科学工程硕士Masterof Engineering (concentration in Data Science),信息数据科学硕士Master of Information andData Science (MIDS),伯克利的两个硕士项目综合教授技术和企业运营的技能,立足现有最前沿的技术,扎实务实地培养学生成为领域内的佼佼者。

    加州大学伯克利分校官网申请大数据:

    GPA要求:3.0;TOEFL要求:90;IELTS要求:7.0;GRE 要求:Required;GRE Subject:Not Required

    申请学期:夏季申请截止日期:2月14日

    学费:$2,222.22/学分

    申请说明:信息数据科学硕士(MS in Information and Data Science):为期20个月,总计27个学分,受西部学校和学院学会(WASC)认证。要求申请者本科毕业,有计算机科学、数据结构、算法分析、线性代数等相关工作戒实习经验,如有5年以上工作经验则更受欢迎。毕业生可从事航空工程人员、建筑师、商业分析师、商业智能分析师、首席技术官、合同技术与家、数据分析师、互联网安全顾问、定量分析师、研究工程师、系统工程师等职业。无奖学金申请,国际学生需自费攻诺。

    录取数据:

    招生年:2016年春季学期;女生比例:24%;平均年龄:33;年龄范围:22-57;本科平均GPA: 3.49;GMAT数学均分:76%;GMAT 阅读均分:84%;GRE数学均分:82%;GRE阅读均分:82%;

    伯克利是有着矛盾的两面性:一方面是草根的,平民的,大众的。BerkeleyHippie成为了伯克利学生自黑的主要槽点,校园附近随处可见千奇百怪的各色人等,如某街头艺人;但是,另一方面是尖端的,精英的,前沿的,比如叧有诺贝尔奖获得者才能用的停车位。在伯克利接触到的学生基本上可以分为两拨:一拨是以科研为主的有志青年(包括绝大多数的PhD 和极少部分的本科生),他们对本与业的热情天赋让我毫不怀疑地相信这波人是会引领未来人类科技进步的行业精英;另一拨则是普普通通的学生,他们由于机缘巧合,家庭背景,或者自己个人的奋斗,得以相聚在伯克利的校园里。他们大多想找个好工作回馈父母家人,他们得益于伯克利这个平台的帮劣也因此对这个平台感恩戴德,他们和平常人一样,不过多了顶绣着伯克利商标的帽子,他们中的大多数未来会湮没在茫茫人海中。

    2、哥伦比亚大学数据科学专业(MS Data Science Track)

    专业介绍:

    哥伦比亚大学有一个业界顶尖的大数据科学的工程研究室(Institute for Data Sciences and Engineering),学生在此参与实验科研项目。该项目是2014年秋季新开设的,由此可见其对于这一与业的重视。项目开设在工学院下,项目侧重数据挖掘、算法和统计建模(i.e., Algorithms for Data Science, Machine Learning for DataScience, Statistical Inference & Modeling),培养方案面向业界需求。

    哥伦比亚大学官网申请大数据:开设学位:MS

    要求:TOEFL99;GPA要求:3.0;IELTS要求:6.5;GRE要求:Required;GRE Subject: Not Required;

    可申请学期:秋季申请截止日期:2月 15日学费:$1,858/学分

    申请说明:

    哥伦比亚大学数据科学(Data Science)与业由数据科学所(Data Science Institute)开设,研究生招收MS 学生。要求申请者本科毕业,拥有一定的数学及编程基础,需要递交GRE成绩,但无最低GRE、GPA等分数要求,不可使用GMAT代替GRE成绩。该MS 项目为期1 年,总修30个学分,无需撰写毕业论文。哥伦比亚大学工程不应用科学学院未设定有最低TOEFL/IELTS 分数要求,此外,该学院还认可PTE成绩,总分要求不低于68分;该项目无最低GPA要求,按美国大学研究生申请一般规定,GPA尤其是在校成绩平均不低于3.0 分;所有与业均需有GRE 成绩;除应用物理与业外,所有与业均无需GRE Subject成绩;未设定有最低GRE分数要求,但录取学生的GRE阅读平均百分比排名多在64%以上,数学多在82%以上;不接受GMAT成绩。

    3、纽约大学数据科学专业(MS in Data Science)

    专业介绍:

    纽约大学的data science 既不是在 stern商学院下面,也不是在computer science下面,而是在 math下面。申请的时候应该比较看重数学背景,该与业开设于2013年,开设在 math下面的一个与门的Center for Data Science,为想迚入NYU的申请者多提供了一个录取的可能通道。基于这个与业的培养目标focuses on the development of new methods for data science。它录取的学生背景大多是理工科背景的居多:Math,Stat,也录取过几个 CS, EE, Econ与业的学生。

    纽约大学官网申请大数据:开设学位:MS

    要求:GPA要求:3.0;TOEFL要求:100;IELTS要求:不接受;GRE要求:Required;GRE Subject:NotRequired;

    可申请学期:秋季申请截止日期:2月4日学费:$1,664/学分

    申请说明:纽约大学数据科学硕士(MS in Data Science)一般为期4个学期,要求学生有足够强大的数学知识背景和一定的计算机科学基础知识,学习过微积分、线性代数、统计学、概率论以及计算机科学等读程。该项目仅秋季学期可以申请,截止日期为2月4日,无需GRE Subject数学科目考试成绩。该项目基本无奖学金。

    纽约大学文理研究生院按学分收取学费,一般PhD要求修满72个以上的学分,硕士要求修满32-34个学分。按全日制授课项目,平均每年可修学分至少24个。此处为2016-17学年文理研究生院平均每个学分的学费标准,需要注意的是,该费用每年会有较小(不超过5%)的涨浮。

    TOEFL:不低于100分,无单项要求,不接受IELTS成绩;数据科学硕士项目仅限秋季学期申请,申请截止日期为2月4日。课程设置:

    该与业学制两年,总修36学分。

    录取统计:我们从这个项目2013Fall 第一次招生的录取数据来看:打算要30个人,收到152封申请,发了50 个ad,刚好来了30个。 30个人里面,背景情况,undergraduate有11个,已经拿到一个 graduate的大概有10个(有1,2个phd,其余都是 master),剩下的就是已经工作了的。所以这 30个人是同时包括part-time和full-time 的。粗略分布: White10人,Asian20人吧,其中2个印度人,1个韩国人,1个日本人,1个台湾人,其余都是大陆的。average age=25. 大陆分布:10个左右美本,5个非美本吧。美本来源包括umn,uiuc,u of toronto, wisc-madison,git等等等等。感觉美本基本都是美国的数学强校,本科与业也都是math,stat,ieor,有几个cs ee econ的。非美本有 5个,其中一个港大,一个清华ee。当然随着Data Science的持续火热,未来的申请人数预测会增长到至少300人!知乎学长经验谈以下是NYU总体给我的感觉: NYU的优势是在于Data 的读太多了,DS自己的读不说,Cournat的CS也包含了一部分Big Data, NLP之类的读(同被DS的 Big Data坑= =,不过Cournat CS有门Real Time Big Data Analytics不知道会不会好些),Steinhard 的A3SR会有很多应用统计的读程,Stern有统计的PhD,还有 Info的偶尔也提供一些读程可以上, Tandon CS有可视化,CUSP 有城市数据分析(ML,Big Data这些的我们都开,不过和 DS的侧重不一样,还有通过传感器去采集数据,如何分析声音图像数据等等)Tisch的ITP还包含了一部分数据可视化(Data Art),前端(Creating API)和传感器的读程。除了Stern的读比较难选以外,其他学院的读基本开了就能选到。

    4、普渡大学商业分析与信息管理专业(MS Business Analytics & Information Management, BAIM)

    专业介绍:和麻省理工学院的MBA一样,该项目都有个单独的分支是商业分析,学生学习的基础读程涵盖高级商业分析、数据挖掘、数据管理等,选修课程可以从以下三个领域选择:

    ●商业分析咨询

    ●金融/财务咨询

    ●市场营销咨询

    普渡大学官网申请大数据: USNEWS排名:47(商学院排名)GPA要求:3.0;TOEFL 要求:93;IELTS要求:7.5;GMAT要求: Required;工作经验要求:无;

    可申请学期:夏季申请截止日期:1月16日-3月1 日学费:$46,000

    申请说明:

    普渡大学商业分析不信息管理硕士(MS Business Analytics & Information Management, BAIM)项目为期11个月,总计修36个学分。要求申请者本科毕业,不限与业背景,无前ç½...

  • ?

    就业前景极好的大数据专业,你了解吗?

    赵映容

    展开

    当下,人工智能、大数据等热门词汇频频出现在人们的视野中。作为万物分析的大数据更是站在互联网的风口浪尖上,直接催热了大学里的大数据专业。

    从IT时代进入DT时代,高校在大数据方向上设置了什么专业,具体学什么,就业怎么样,作为新兴专业,考生如何报考?今天,就来谈一谈这个大家关注的热门专业。

    1.什么叫大数据?

    进入互联网时代,中国的网民人数已超7亿,大数据的应用涉及到生活的方方面面。例如,你在网站上买书,商家就会根据你的喜好和其他购书者的评价给你推荐另外的书籍;手机定位数据和交通数据可以帮助城市规划;甚至用户的搜索习惯和股市都有很大关系。

    在谈到大数据的时候,人们往往知道的就是数据很大,但大数据≠大的数据。大数据,就是存储在各种存储介质中的海量的各种形态数据,具有5V特点,即:Volume(大量)、Velocity(高速)、Variety(多样)、Value(价值密度)、Veracity(真实性)。大数据之“大”,不仅在于其“大容量”,更在于其“大价值”,并已成为除人力、土地、财务、技术之外的另一种重要的基础资源。对各种存储介质中海量信息的采集、存储、分析、整合、控制而得到的数据就是大数据。大数据技术的意义不在于掌握庞大的数据信息,而在于对这些数据进行专业化处理,通过“加工”实现数据的“增值”,更好地辅助决策。

    2.数据科学与大数据技术专业

    本科专业中和大数据相对应的是“数据科学与大数据技术”专业,它是2015年教育部公布的新增专业。2016年3月公布的《高校本科专业备案和审批结果》中,北京大学、对外经济贸易大学和中南大学3所高校首批获批开设“数据科学与大数据技术”专业。随后第二年又有32所高校获批“数据科学与大数据技术”专业。两次获批的名单中显示,该专业学制为四年,大部分为工学。

    数据科学与大数据技术是个交叉性很强的专业,很难说完全归属于哪个独立的学科。所以,不同的学校有的是信息学院申报,有的是计算机学院牵头申报,有的设在统计学院,还有的在经管学院。像北京大学这个专业是放在理学下,授予理学学位。大多数是设在工学计算机门类下,授予的是工学学位。数据科学很早就存在,是个比较经典的学科,现在和大数据技术结合形成了这个专业。目前教育部设定的本科专业名称为“数据科学与大数据技术”,专科名称是“大数据技术与应用”。

    3.数据科学与大数据技术学什么?

    以对外经济贸易大学该专业为例,专业知识结构包括数学、统计、计算机和大数据分析四大模块,具体课程设置如下:

    数学:数学分析一、数学分析二、高等代数、离散数学。统计学:概率论与数理统计、多元统计分析、随机过程。计算机:数据机构、计算机组成原理、操作系统、数据库系统原理、C++程序设计、Java程序设计、Python与大数据分析、科学计算与Matlab应用、R语言等。大数据分析:数据科学导论、机器学习与数据挖掘、信息检索与数据处理、自然语言处理、智能计算、推荐系统原理、大数据分析技术基础、数据可视化、大数据存储与管理、大数据分析实践等课程。

    数据科学与大数据技术是一门实践性很强的新兴交叉复合型学科:以统计学、数学、计算机为三大支撑性学科;生物、医学、环境科学、经济学、社会学、管理学为应用拓展性学科。此外还需学习数据采集、分析、处理软件,学习数学建模软件及计算机编程语言等,知识结构是二专多能复合的跨界人才(有专业知识、有数据思维)。根据各校偏重的专业方向,课程设置有所差异,感兴趣的同学可以具体查看各校的专业和课程设置情况。

    1.行业增速快 人才缺口大

    随着移动互联网和智能终端的普及,信息技术与经济社会的交汇融合,引发了数据迅猛增长。新摩尔定律认为,人类有史以来的数据总量,每过18个月就会翻一番。而海量的数据蕴含着巨大生产力和商机。

    2011年至2014年四年间,我国大数据处于起步阶段,每年均增长在20%以上。2015年,大数据市场规模已达到98.9亿元。2016年增速达到45%,超过160亿元。预计2020年,我国大数据市场规模将超过8000亿元,有望成世界第一数据资源大国。但数据开放度低、技术薄弱、人才缺失、行业应用不深入等都是产业发展中亟待解决的问题。

    根据领英发布《2016年中国最热职位人才报告》显示,有六类热门职位的人才当前都处于供不应求状态,稀缺程度各有不同,其中,数据分析人才的供给指数最低,仅为0.05,属于高度稀缺。

    目前的当务之急是解决大数据人才瓶颈问题,相关调查显示,未来3-5年大数据人才缺口达到150万之多。,但截至目前,中国大数据从业人员只有约30万人。同时,大数据行业选才的标准也在不断变化。初期,大数据人才的需求主要集中在ETL研发、系统架构开发、数据仓库研究等偏硬件领域,以IT、计算机背景的人才居多。随着大数据往各垂直领域延伸发展,对统计学、数学专业的人才,数据分析、数据挖掘、人工智能等偏软件领域的需求加大。

    数据分析师现在需求就很旺盛了,2年工作经验的月薪可达到8K,硕士学历的数据分析师月薪可达到12K,5年工作经验的可达到40万至60万元。

    2.大数据主要就业方向

    2015年9月国务院印发《促进大数据发展行动纲要》,系统部署大数据发展工作。《纲要》明确提出了七方面政策机制,其中第六条就是加强专业人才培养,建立健全多层次、多类型的大数据人才培养体系。目前,大数据主要有三大就业方向:大数据系统研发类、大数据应用开发类和大数据分析类。具体岗位如下:

    1.大数据系统架构师

    大数据平台搭建、系统设计、基础设施。

    2.大数据系统分析师

    面向实际行业领域,利用大数据技术进行数据安全生命周期管理、分析和应用。

    3.hadoop开发工程师。

    解决大数据存储问题。

    4.数据分析师

    不同行业中,专门从事行业数据搜集、整理、分析,并依据数据做出行业研究、评估和预测的专业人员。在工作中通过运用工具,提取、分析、呈现数据,实现数据的商业意义。

    作为一名数据分析师,至少需要熟练SPSS、STATISTIC、Eviews、SAS、大数据魔镜等数据分析软件中的一门,至少能用Acess等进行数据库开发,至少掌握一门数学软件如matalab、mathmatics进行新模型的构建,至少掌握一门编程语言。总之,一个优秀的数据分析师,应该业务、管理、分析、工具、设计都不落下。

    5.数据挖掘工程师

    做数据挖掘要从海量数据中发现规律,这就需要一定的数学知识,最基本的比如线性代数、高等代数、凸优化、概率论等。经常会用到的语言包括Python、Java、C或者C++,我自己用Python或者Java比较多。有时用MapReduce写程序,再用Hadoop或者Hyp来处理数据,如果用Python的话会和Spark相结合。

    6.大数据可视化工程师

    随着大数据在人们工作及日常生活中的应用,大数据可视化也改变着人类的对信息的阅读和理解方式。从百度迁徙到谷歌流感趋势,再到阿里云推出县域经济可视化产品,大数据技术和大数据可视化都是幕后的英雄。

    1.院校开设情况

    大数据人才的典型胜任特征:善于做需求分析、写代码;善于与人沟通,喜欢探索未知;需要根据数据推演、分析、提出解决方案,有数据思维;需要持续保持学习状态;内性格上能动能静。

    不同办学层次的院校开设此专业,培养模式会有差异。例如,高职类院校学生由于数学基础相对薄弱,会跟多偏向于工具的使用,如数据清洗、数据存储以及数据可视化等相关工具的使用;本科院校会倾向于大数据相关基础知识全面覆盖性教学,在研究生段则会专攻某一技术领域,比如数据挖掘、数据分析、商业智能、人工智能等。

    在“教育部2015年度普通高等学校本科专业备案和审批结果”中北京大学、中南大学、对外经贸大学成为首批开设 “数据科学与大数据技术”本科专业的高校,随后中国人民大学、北京邮电大学、复旦大学等32所高校成为第二批成功申请该专业的高校。至去年上半年,我国已有35所高校获批“数据科学与大数据技术”本科专业。经过一年的发展,申请院校成井喷式的增长,全国高校大数据教育联盟通过教育部公示的申请2017年“数据科学与大数据技术”专业的院校来看,2017年申请院校高达263所,其中工学190所,理学73所。

    数据科学与大数据技术是个交叉性强、跨学科的专业,很难说是完全归属与那个独立的学科。高校牵头申报的学院不同,培养重点和授予的学位可能不一样。因为课程来自于不同的学院,也有高校是联合一些学院单独成立机构来申报。从名单可以看出,在大部分开设院校中该专业都属于工学类,有个别院校将其归属在理学门类,授予理学学位。

    有志于学习数据科学与大数据技术专业的学生,可以从大学的传统优势领域和行业背景考虑选择。比如,复旦大学的大数据技术本科专业是设在大数据学院下;北京大学是在数学院开设了该专业,偏数学的内容更多一些。对外经济贸易大学该专业设在信息学院,因为财经是学校传统优势,专业还会偏重经济、金融等相关学科领域的知识。

    2.报考注意事项

    了解了大数据行业和大数据专业后,对于考生填报与大数据相关的热门专业,需要注意以下几点:

    1.报考热门专业和就业热的专业并不一定是重合的,比如软件、计算机、金融,这些专业的就业率实际并没有那么高,地质勘探、石油、遥感等专业,虽然报考时是冷门,但行业需求大,就业率更高。

    2.选择热门专业,更需要考虑就业质量。专业就业好,是统计学意义,指的是平均收入水平高,比如金融专业的收入,比其他纯文科专业的平均收入较高,但落实到个体层面,就业情况就不一样了,尤其像金融专业是典型的名校高学历好就业,但对于考试成绩较低的同学来说,如果去一些普通院校、专科院校学习金融,最后就业情况可能还不如会计专业。

    3.志愿填报,除了专业,城市因素也很重要:如果想从事金融、互联网的工作,更适合去一线城市,如果是去三、四线大学的学生可以考虑应用面比较广的专业,就是各行各业都能用到的专业,比如会计专业,专科层次的会计和985层次的会计都有就业渠道。如果先选择报考城市,也可以针对所在城市的行业特点选择专业,比如沿海城市外贸相对发达,选择国际贸易、外语类专业就业情况更好,比如武汉有光谷,选择光电类专业更好就业。

    4.最终家长和考生更需要考虑个人与专业匹配的问题,金融、计算机等热门专业不是所有人都适合学,好专业不见得对所有个体都是好的。

    5.最后,考生报考时要注意,有的高校大数据专业是按大类招生,即按计算机大类,且只招理科生。

    下面是人大、北邮、中南大学三校2017年数据科学与大数据技术专业在五个省市的录取数据。其中,人大的大数据专业归统计学大类;北邮的大数据专业归计算机大类。

  • ?

    大数据未来五年发展趋势统计分析

    jllsr

    展开

    随着大数据技术的飞速发展,大数据已经融入到各行各业。2017年中国的大数据行业发展趋势是什么?大数据行业整体市场规模如何?大数据行业前景如何?请看大讲台老师的分析。

    (一)大数据行业整体市场规模及预测

    整体来看,2017 年中国大数据行业的发展依然呈稳步上升趋势,市场规模达到了 234 亿元,和去年相比增速超过 39%。随着政策的支持和资本的加入,未来几年中国大数据规模还将继续增长,但增速可能会趋于平稳。

    (二)大数据在各行业应用状况

    (1)企业哪些方面需要大数据?

    根据大数据分析结果,将近一半的企业将大数据运用在企业工商信息管理方面,此外,在社会保障、劳动就业、市政管理、教育科研方面分别占据33.9%,32.7%,29.4%,29%。整体来看,大数据的应用范围广泛。

    (2)多少企业应用到了大数据?

    大数据分析对企业的发展越来越重要,35.1%以上的企业已经开始在企业内部应用到了大数据;34.2%的企业正在考虑应用大数据,22.9%的企业在未来1年有应用大数据的计划,仅仅有7.8%的企业暂不考虑应用大数据。

    (3)这些企业如何使用大数据?

    根据数据显示,38.8%的企业使用实时动态处理大数据并提供分析结果;37.5% 的企业分析历史数据;通过机器学习,辅助企业管理者更好地决策的企业占比为22.5% 。

    (三)各行业大数据的发展水平如何?

    我国行业大数据总体发展水平较好,在各行业都有应用。其中,金融大数据、政务大数据的应用水平高,同时交通、电信、商贸、医疗、教育、旅游等行业大数据的发展水平也有显着提升。

    (四)大数据助力企业发展

    (1)企业在哪些领域会应用大数据?

    大数据应用广泛的top3领域是营销分析、客户分析和内部运营管理。其中,营销分析占比6成以上;50.2%的企业使用大数据进行客户分析;48.4% 的企业运用大数据进行内部运营管理。 大数据应用对企业的影响

    (2)这么多企业应用大数据,大数据将会为这些企业带来什么收益呢?

    55.8%的企业表示应用大数据后实现了更智能的决策;应用大数据提升了运营效率的企业占比为48.2%,这两个影响较为显着。应用大数据更好的管理风险,创造新的业务收入,增强生产能力的企业也占有一定比重。

    从上述数据中,我们可以看出,大数据在各行各业的应用还将继续加强。

    本文转自光环国际

  • ?

    数据分析:浅谈大数据对统计学的挑战和机遇,看完长见识了!

    白木瓜

    展开

    浅谈大数据对统计学的挑战和机遇

    引言  国际数据公司的相关研究指出,2011年全球数据生产量达1.8ZB,且全球信息总量每隔两年增长一倍[1]。在大数据时代下,对于统计学发展而言,挑战与机遇并存,挑战指的是现阶段传统统计学相关方法难以适用大数据,机遇指的是基于统计学,大数据展开数据处理、分析,促使大数据具备可视化特性。由此可见,研究大数据对统计学的挑战和机遇有着十分重要的现实意义。  1.大数据及其目的  现阶段,关于大数据仍旧没有一个十分明确的界定,大数据起初是源自于技术领域。在信息量不断扩大的情况下,使得常规电脑原有存储空间已不能对新处理数据进行承载,新兴数据处理技术得以产生,好比雅虎的Hadoop平台、谷歌的MapReduce等。此类技术能够对僵化层次结构、一致性予以消除,促进数据无需通过常规数据库表格进行排列,极大程度地提升了人们可处理的数据量[1]。 

     2.大数据与统计学的对比  2.1样本统计与全样本统计的区别  样本统计属于统计学不可或缺的依赖,样本指的是结合相应的概率自总体中随机筛选并视作总体代表的集合内容,值得一提的是随机抽样是需要成本的,包括社会关系、资金成本或者时间成本等。基于样本数量提升有限前提下,样本估计误差会随着总体数量增多而增大,这亦是样本统计无法避免的不足。大数据时代下,收集整理庞大的数据信息应运而生,数据信息发展表现出总体即是样本的态势,该属性很好的消除了样本统计这一不足。大数据时代下的全样本统计,通常情况下可对完全总体进行覆盖,然而受大部分数据属于半结构、半结构数据影响,使得概率论应用遭受一定的制约[2]。鉴于此,将全样本统计应用到统计学中,应当就总体数据展开相应的归纳、筛选,即好比在样本统计中展开数据预处理。  2.2预测分析与非预测分析的区别  统计学的创立,是为了对变量相互相关关系展开分析,因此获取数据是发生于变量确定之后的,数据分析价值是能够被预测的。相较于统计学的预测分析,庞大数据将互联网、传感器作为载体,存在于分析需求之前,因此构建于大数据上的分析多为非预测性分析。在统计学中,出现大数据无法有效应用局面,这是由于不具备非预测分析所需的庞大数据,庞大数据产生与数据中心、存储系统存在紧密的联系,并非短期产生。也就是说,统计学中大数据的应用发展,说明了非预测分析正逐步取代传统统计学预测分析,数据多次利用正逐步取代传统数据一次性利用的。  3.大数据对统计学的挑战与机遇  3.1数据生产、处理与应用的转变 

     相关统计部门经开展严格的统计设计工作,获得相关的统计数据,数据的预处理分别有数据清洗、非全面数据填补以及数据矫正等。大数据时代下的统计手段尚不十分明确,自大数据流环境而言,要不断探索新型抽样方法,并确保抽样方法的实时、连贯及可行性。除去传统的统计分析方法,还应当开发大数据动态分析、数据流算法等[3]。  3.2大数据时代对市场营销的机遇  3.2.1大数据营销的特点与价值  大数据营销的特点:I.数据采集多平台化特点,即大数据时代下,大数据的数据大多来源于不同的领域、不同的渠道。II.时效性特点,随着信息技术的急速发展,互联网用户消费、购物行为方式往往会瞬间出现转变。国际先进大数据营销企业AdTime基于此大数据营销特点,采取了时间营销措施,即采取相应的技术方式全面获悉用户所需,于第一时间对用户当下的需求进行回应,以使用户在下决心购买的最佳时间及时看到对应的产品广告。III.个性化特点,在大数据时代下,广告商传统媒体导向的营销理念逐步由受众导向取代,现如今,广告商可应用大数据了解用户的地理方位,需求内容等信息,达到对用户个性化营销的目的。  大数据营销的价值:I.升级营销与用户的匹配度,大数据营销不仅可提供给企业了解用户有效的途径,还能够与网络环境下,选取相关技术方法达到对用户精确定位的目的,从而开展好营销工作,升级营销与用户的匹配度。II.改善用户体验,大数据营销促使企业真正意义上认识到用户及其所使用企业产品情况,以给予用户最人性化的提醒。  3.2.2大数据营销的应用  (1)与消费者建立紧密关系  现如今,我国一些企业营销行为仍旧处于个性化定位信息、创意设计阶段,而无法对不同消费者展开个性化的营销活动。大数据时代下,经采用相关数据分析技术方法,基于对消费群体喜好、传媒接触习惯等展开有效的分析,达到特定营销活动明确开展的目的,实现企业精心开展的营销活动精准的辐射至目标消费群体处,与消费者建立紧密关系,极大的改善营销效率、质量[4]。  (2)掌握竞争对手数据  企业通过对竞争对手数据的有效掌握,获悉竞争对手发展状况,基于此帮助企业制定科学合理的产品价格,提升企业产品市场竞争优势。与此同时,企业务必要全面实施以事实为前提的决策手段,广泛地应用数据分析方式对企业每一个发展运营步骤进行优化,经对企业一系列数据的充分优化、对接,促使业务环节中潜在的价值得以被有效挖掘,降低生产成本,知己知彼,促使企业在日趋白热化的市场竞争中占据有利位置。  (3)挖掘企业内部数据  “市场未动,数据先行”俨然转变为国际上企业有效运营发展的一致认识,为了提升企业管理效率,要求企业要充分挖掘企业内部数据,并展开有效的整合、分析,以为企业相关人员做决策提供有利的参考依据,提升决策准确性,促进企业可持续发展。

    3.2.4 企业的应用案例——以亚马逊为例  在应用大数据开展市场营销方面,美国亚马逊公司一直处于领先地位。亚马逊研发出“用户未下单,先发货”功能,即结合用户的购物需求数据信息,分析用户想要购买的产品,达到用户未下单,提前发货的目的。此外,亚马逊通过对用户检索信息的分析,评估流感的传播,但这仅仅为海量检索数据中的一项用途,相同的数据能够应用于预测大选结果、预测某类产品市场行情等等,极大地降低了统计成本[5]。  3.3大数据时代对市场营销的挑战  3.3.1信息收集  大数据并非就是对数据信息展开盲目的收集,即便收集了再多的数据,倘若这些数据并非是市场营销所需要的,如此便会导致前期收集来的数据信息,变成一堆“数据垃圾”。鉴于此,为了避免这一情况发生,务必要充分分析业务需求,再对自身存在价值的数据展开收集、归纳,如此方可实现大数据的有效收集应用。  3.3.2经验与数据  数据采集完毕后,面对参差不齐的数据,还应当做好数据评估工作,评估对何种目标受众开展市场营销工作。鉴于此,要求采取科学合理的手段,将这些参差不齐的数据整合成可被市场营销实践应用的,经结合过去的经验,与采集数据进行有机融合,实现对目标受众的有效分析确定。  3.3.3分析与优化  数据分析,一方面是实现数据优化,一方面是进行决策层面上的调整、转变。此环节对于专业人才的需求提出了严苛的挑战。数据分析、数据优化对于专业人才的知识框架要求大不相同,这要求相关企业不仅要培养专业的数据分析人才,还要打造数据优化人才队伍。 

     3.4大数据营销的未来发展趋势  信息技术不断发展,单一媒体导向的“消费者碎片化”俨然无法达到企业对于数据多样性的需求。大数据时代下,媒体的跨界融合实现对“碎片化”受众的充分聚合。在科学技术技术不断进步的背景下,跨媒介、跨平台、跨终端的多途径将不断被开拓,将使庞大的数据信息获取多维度的整合,并且在多样化网络环境下,消费者主观信息与客观数据有机融合,构筑全面用户数据库环节,将成为未来大数据营销发展的必然趋势[6]。  4.结束语  总而言之,大数据为传统统计学带来了严峻的考验,也为传统统计学有效发展创造了良好的契机。在大数据时代发展潮流中,我们应当充分的认识到大数据对于传统统计学而言,是补充而不是更替,构建于样本统计、预测分析内容上的传统统计学,仍旧于社会统计、经济分析中占据着主导位置。大数据时代下,为了实现企业市场营销的有效开展,相关人员务必要不断专研研究、总结经验,全面分析大数据与统计学的对比,充分认识大数据对统计学的挑战和机遇,“与消费者建立紧密关系”、“掌握竞争对手数据”、“挖掘企业内部数据”等,积极促进企业市场营销的科学合理化。

  • ?

    数据分析:浅谈企业如何运用统计分析,看完后真是长见识了!

    车伊

    展开

    摘 要:统计分析是一种反映统计结果的工具,它在现在的企业中,被运用得很广泛,但它所使用的技术水平也在不断的提高,特别是在反映企业统计结果方面,更具有一定的实用性。企业在使用统计分析时,涉及到很多种行业中,例如:工业、商业、建筑业和交通以及邮电等各企业统计分析工作中。

    关键词:

    一、统计分析的概念统计分析是指运用统计方法及与分析对象有关的知识,从定量与定性的结合上进行的研究活动。它是继统计设计、统计调查、统计整理之后的一项十分重要的工作,是在前几个阶段工作的基础上通过分析从而达到对研究对象更为深刻的认识。它又是在一定的选题下,集分析方案的设计、资料的搜集和整理而展开的研究活动。系统、完善的资料是统计分析的必要条件。二、统计分析的特点  统计分析是对客观现象的一种认识活动,它在定性分析的基础上,经过定量研究,达到对现象本质及规律性的认识。  统计分析方法具有特殊性 统计分析方法是以总体现象的数量关系为对象的一类特殊科学研究方法的总称。从应用的角度来看,统计分析方法可分为经验方法和数学方法两大类。经验方法是指一些与初等数学知识和人们的实践经验相关联的方法。数学方法又称为数理统计方法,是以数学理论,特别是概率论为基础对客观现象进行研究的方法。它可以通过对现象貌似偶然的变动来探求其必然的规律性。

    统计分析的对象具有综合性 统计分析的对象不是某种社会经济现象的个体数量方面,而是现象的总体数量方面,分析研究其综合数量特征。从总体上对客观现象的数量方面进行分析,可以避免以偏概全,使认识较为全面和正确。三、统计分析方法 统计分析方法很多,但基本方法是定量分析 。l、从统计理论上看,我们所见到的统计学著作,除了统计设计、统计调查、统计整理等理论和方法外,其他大部分内容都是统计分析方法,这些统计分析方法有一个共同点,它们都是定量分析方法。 2、统计实践上看,统计分析所起的作用,是通过定量分析实现的。统计分析在人们的认识过程中有三个作用:第一,对客观事物量化,包括反映客观事物规律的数量表现;第二,根据量变程度确认事物的质,即确定区别事物质量的数量界限;第三,揭示新的规律,即通过分析数量关系,发现尚未被认识的事物的规律。  四、企业如何运用统计分析   随着社会主义市场经济的发展,统计为企业发展战略的研究和制定,为各项职能管理提供必要的信息,为防范和化解风险,发挥其预警作用,新经济时代统计信息是影响企业管理层决策成败的关键。

    (一)在企业经营过程中:在企业的经营管理中,统计分析占据着十分重要的地位。在认识统计的过程中,企业通过统计调查以及整理取得的统计资料能够对客观现象的数量特点取得一定的认识。若不进行深入的整理和分析,对于这些现象的认识还只停留在表面的初步认识状态,所以必须对这些统计资料加以分析和研究,才可以掌握事物的本质以及内在的发展规律,通过逐渐地深化认识,有效的深入的分析方法,查找出经营管理中存在的问题和薄弱环节,就可以提出改进的举措,给各级领导各级管理部门参考改进建议,是企业的各项管理工作不段得到改善和提高,充分显示出统计分析在企业经营管理中发挥的广泛应用。(二)在企业目标管理中:(1)在企业的各项经济指标的预测中,通常强调动态的分析预测与静态的分析预测相互结合,其中以静态分析预测为主。企业首先要根据自身发展的特点,寻找到经济运行波动的共性和差异,根据企业的总体规划以及企业的特殊性,依据企业的历史统计数据,运用相应的预测模型给出企业相关指标的科学性预测,根据预测数据制定出各项计划经营指标和各项KPI考核指标,再通过把企业的月度统计预测、季度统计预测和年度统计预测与月度、季度及年度各解段实际完成情况进行对比分析,进行不断调整修正完善,使得企业的目标管理以及考核指标得到实现和完成的保证。

    (三)、在企业的决策性分析中:在我国的经济管理领域,决策性分析方法是最先被引入和普及的定量化分析方法。随着企业信息化建设的推进,企业受外部环境的影响逐步加深,这就要求企业及时对相关信息进行处理和分析。一是对市场需求和供给能力的分析。主要包括居民的购买力、商品的潜在和实际市场需求量、品牌成熟度、订单满足率、消费偏好等。通过分析,可以判断企业的赢利空间、供需缺口等,为领导层确定商品销售规模、制定阶段性营销策略等提供依据。二是对社会经济环境的分析和影响。主要包括国内、国际的宏观环境对我国行业发展的影响和对地方法规、民风民俗对企业的发展的影响。三是对企业竞争力的分析。通过分析本行业其他企业的经营情况,在对比中认识自身发展的差距和潜力,从而为制定正确的发展战略提供参考。(四)在企业过程分析和阶段分析控制中:在计划方案的落实过程中,往往会出现一些不可预知的状况。需要及时的进行过程分析和阶段分析。企业利用统计数据定期分析计划完成情况、进度情况等,可以及时的发现执行过程中所存在的问题。通过对完成阶段的结果进行对比分析,有利于确定指标完成率。便于衡量市场潜力相同的不同市场之间的业绩。也作为销售目标制定的依据。  

    在企业当中,统计分析工作是了解现状、预测未来,为了更好的促进企业发展进步的重要方法。做好统计分析工作具有重要的作用和意义。因此,我们要提高对统计分析的研究,使统计分析工作更好地成为企业发展的有力推动力量。 参考文献:[1]百度百科.统计分析[EB/OL].  [2]赵井霞.试谈如何进行统计分析[J].商业经济.2004.4.   [3]宋安. 统计分析在企业管理与经营决策中的应用[J].经济师.2003.6

  • ?

    数据分析:大数据时代背景下对应用统计学专业的思考,看完长见识

    子车笙

    展开

    大数据时代背景下对应用统计学专业的思考

    一、概述 众所周知,统计学自古至今就是一门以研究数据为主的学科,至今已经形成了较为成熟的数据研究体系与框架。统计学专业的学生的主要就业方向是银行、会计师事务所、市场调查公司或其它企事业单位。因此目前统计学教育的主要目的是能够培养出独立完成问卷设计、数据收集、应用模型进行数据分析的高级统计人才,其主要专业课程包括:高等概率论与数理统计、应用回归、多元统计、市场调查实务、时间序列分析、金融计算等,这些课程仍然是传统的课程设置,并不符合大数据时代数据科学家的专业知识构成。因此,在大数据时代背景下对应用型本科院校应用统计学专业的培养模式和教学改革的思考是非常有必要的。   2012年3月29日,美国在倡议书中指出,美国将应用收集巨大、复杂数据的挖掘能力,加速科学与工程学科的创新脚步,改革学生培养模式。北京师范大学邱东教授探讨了面对大数据潮流人们应持有的科学态度,从大数据的概念功能、统计学与数据科學的关系、大数据潮流对统计学产生的影响等4个方面论述了大数据对统计学的挑战[1]。英国学者维克托·迈尔·舍恩伯格认为大数据的精髓在于分析信息时的3个转变:一是可以分析和处理更多甚至是全部的数据,不再依赖随机抽样;二是研究数据如此之多,以至于人们不再追求精确度;三是人们不再热衷于寻找因果关系[2]。为适应大数据时代对数据处理人才更高综合素质的要求,统计学科教师与专业教育应在知识结构、教育内容、教育方式和人才培养模式等方面,主动进行与时俱进的充实、调整及变革[3]。文章拟从数据挖掘与统计分析的联系与区别、大数据对统计教育及统计人才的机遇与挑战的新形势下从政府、企业和人才等多个角度进行展开调查,对于应用型本科院校培养顺应时代发展的应用统计学专业的高层次人才提供相应的建议。  

    二、统计分析与数据挖掘的区别与联系   统计分析是指运用统计收集整理方法及与分析对象有关的知识,从定量与定性的结合上进行的研究活动。   统计分析过程:描述要分析的数据的性质,研究基础群体的数据关系,创建一个模型,总结数据与基础群体的联系,证明(或否定)该模型的有效性,采用预测分析来预测将来的趋势。   统计分析方法:(1)描述统计:将研究中所得的数据加以整理、归类、简化或绘制成图表,以此描述和归纳数据的特征及变量之间的关系的方法。集中趋势、离散程度、相关强度等、指标有平均数、标准差、相关系数等;(2)推断统计:用概率形式来决断数据之间是否存在某种关系及用样本统计值来推测总体特征的一种重要的统计方法。总体参数估计、假设检验、Z检验、T检验、卡方检验等数据挖掘是从庞大的数据中分析出有目标数据群,筛选出利于决策的有效信息。数据挖掘的数据量极大,注重数据查询分析的可行性。数据挖掘是着眼于预测未来,从大量的数据中寻找某些规律。

    数据挖掘过程:(1)定义问题:分析业务需求、定义问题的范围、定义计算模型所使用的度量、定义数据挖掘项目的特定目标等;(2)准备数据:删除错误数据或插入缺失值、查找数据中的隐含相关性、标识最准确的数据源、确定哪些列最适合用于分析;(3)浏览数据:计算最小值和最大值、计算平均偏差和标准偏差、查看数据的分布;(4)部署和更新模型:根据实际数据部署、更新模型;(5)浏览和验证模型:测试模型的性能、需要使用不同配置创建多个模型,并对所有这些模型进行测试,查看哪个模型为最佳;(6)生成模型:通过创建挖掘结构定义要使用的数据列、将挖掘结构链接到数据源,但只有对挖掘结构进行处理后,该结构才会实际包含数据。 从上可以看出大数据虽与统计学密切相关,但二者也在研究目的、数据处理对象和技术工具上有着诸多差异。大数据的兴起不仅在分析手段、工作重心和价值理念上给统计学带来了重大影响,而且也使担负着培养现代统计工作和数据分析之人才的统计教育面临严峻挑战。  

    三、大数据对统计人才及统计教育的机遇与挑战   根据2014年大数据应用现状和趋势展开的调研分析,被调查者最关注的大数据技术中,排在前三位的分别是数据分析(统计分析与数据挖掘等)(25.5%)、数据采集(19.9%)、数据处理 (18.5%)。企业数据管理面临的挑战:缺乏专业的大数据人才(26.95%)成为企业面临的最大挑战,其次是非结构化数据的分析和处理(26.65%)、传统技术难以处理大数据(25.27%)以及新技术门槛过高(21.13%)。根据2015年2月Forrest报告,很多企业都在努力挖掘其拥有的大量数据,包括结构化、非结构化、半结构化数据等,探索对数据的深入利用。从国内企业大数据应用的现状和规划来看,已经部署大数据应用的企业所占比例达到21.89%,计划1年内部署的企业占27.92%,计划2年内部署的企业占14.34%,没有相关计划和不确定的企业分别占11.32%和24.53%。大数据相关人才的欠缺将会成为影响大数据市场发展的一个重要因素。据Gartner预测,到2016年,全球将新增440万个与大数据相关的工作岗位,且会有25%的组织设立首席数据官职位。大数据的相关职位需要的是复合型人才,能够对数学、统计学、数据分析、机器学习和自然语言处理等多方面知识综合掌控。   根据学院统计学不同方向等专业的学生、老师、专家以及政府范围工作人员等进行访问调查的结果,然后结合现如今大数据时代企业和政府对人才的需求,最终制定应用型人才培养方案分别如下:   (一)深化课程教学内容改革   1. 更新教学内容,紧跟时代发展——大数据、互联网金融、国民经济统计、货币银行、经济预测与决策;2. 强化统计基础,提高实践操作——统计方法、软件实现、贝叶斯统计、非参数估计、统计软件、数据挖掘;3. 强调专业导向,拓宽就业方向-选修、考证;金融类、经济类、管理类、会计类;统计从业资格证书。   最终根据学院不同方向统计学专业设置专业核心课如下:   (1)应用统计学:主要专业课 调整为:概率论、数理统计、统计学、回归分析、时间序列分析、多元统计分析,抽样技术、数据挖掘、贝叶斯统计、计量经济学、统计软件、非参数统计、统计调查等;(2)应用统计学(金融统计):主要专业课 调整為:概率论、数理统计、统计学、回归分析、时间序列分析、多元统计分析,抽样技术、数据挖掘、金融计量学、风险管理、保险学、非寿险精算、统计软件、国民经济核算、统计调查等;(3)经济统计学:主要专业课 调整为:概率论、数理统计、统计学、回归分析、时间序列分析、多元统计分析,抽样技术、数据挖掘、国民经济核算、风险管理、保险学、非寿险精算、统计软件、金融计量学、统计调查等。  

    (二)重视教学方法改革   1. 教师教学理念——单向灌输式转向引导探究式、教学案例能贴近实际问题(体测数据、大学生婚恋、手机);2. 鼓励学生参与各类项目——科研、调研、方案设计、抽样调查、统计调查、学科竞赛、教师课题(分解子课题);3. 注重综合能力提升——表达、协作、创新、研究报告、PPT展示等。   (三)建立完善的实践教学系统   1. 基本知识技能实验——理论教学的课内实验,大一、二:数学类;大二、大三(上):专业基础;2. 综合性实践教学——综合性数据的采集、处理、分析,大三(下)、四(上):数据挖掘、统计软件、统计调查;3. 探索性实践教学——社会调查、毕业实习、毕业论文,大四(下)。   (四)改革课程考试方式   1. 基本知识(理论)+实验报告(平时)+综合实验(期末)数学类;专业基础课程;2. 方案设计、调研报告、抽样调查、统计调查;3. 综合实验,数据挖掘、统计软件。   四、结束语   最终学院统计系下设两个教研室和一个研究中心,即基础统计教研室、专业统计教研室和大数据统计科学应用研究中心。秉承和依托母体学校——上海财经大学的办学宗旨和学术底蕴。在全校统计学公共课教学方面,针对学生的特点,课程教学采用课堂教学、调查实践与统计调查大赛相结合的教学方式与形式。也采取和校外企业、单位等合作项目老师指导学生参与的形式,这样既提高学生的实践能力又加强了师生之间的交流。在这样边学理论边实践的过程中也让学生足够了解现在企业所需人才的类型、找到自己的不足再补充理论方面的知识,然后学生还可以向学校反馈信息,这样最终形成一个学院专业始终跟得上经济的发展形势,不断地改革和完善教学内容,争取培养出在各级政府机关、银行、证券以及上市公司、企业集团、跨国公司等企事业单位和经营管理机构从事统计、市场调研、市场预测与决策、信息咨询、可行性研究和综合评价等实际工作以及科研单位从事研究工作的应用型人才。

  • ?

    LinkLab:分类数据的统计分析技巧

    廉雅柏

    展开

    本期,我们总结不同设计类型分类数据在在各种情况下比较所用的统计分析方法、泊松分布数据的统计分析方法以及变量之间关联性的统计分析方法。

    分类数据的统计分析

    1. 样本数据与总体比较

    1)二分类资料:

    (1)小样本数据:用二项分布进行确切概率法检验;

    (2)大样本数据:用U检验;

    2)多分类数据:用Pearson检验(又称拟合优度检验)。

    2. 四格表(2×2表)数据

    1)完全随机设计的四格表数据的分析

    (1)当样本量n>40,并且4个格子理论数均大于5时,则用Pearson 检验;

    (2)当样本量n>40,并且4个格子理论数均大于1且至少存在一个格子的理论数<5时,则用校正检验或用fisher’s精确概率法检验;< span="">

    (3)当样本量n40或存在任一格子理论数<1,则用精确概率法检验;< span="">

    2)配对设计的四格表数据的分析

    (1)b+c≥40,则用McNemar配对检验;

    (2)b+c<40,则用二项分布确切概率法检验;< span="">

    3. 2×C表或R×2表数据的统计分析

    1)列变量为效应指标,并且为有序多分类变量,行变量为分组变量,则可以采用行平均得分差(Row Mean Scores Differ)的CMH 或成组的Wilcoxon秩和检验;

    2)列变量为效应指标并且为二分类,行变量为有序多分类变量,则可采用普通的Pearson 检验比较各组之间有无差别,如果总的来说有差别,还可进一步作两两比较,以说明是否任意两组之间的差别都有统计学意义。

    3)行变量和列变量均为无序分类变量:

    (1)当样本量n>40,并且理论数小于5的格子数少于行列表中格子总数的25%,则用Pearson 检验;

    (2)当样本量n40,或理论数小于5的格子数多于行列表中格子总数的25%,则用Fisher’s确切概率法检验;

    4. R×C表数据的统计分析

    1)完全随机设计的R×C表数据的统计分析

    (1)列变量为效应指标,并且为有序多分类变量,行变量为分组变量,则CMH 或Kruskal Wallis的秩和检验;

    (2)列变量为效应指标,并且为无序多分类变量,行变量为有序多分类变量,则采用普通的Pearson 检验比较各组之间有无差别,如果总的来说有差别,还可进一步作两两比较,以说明是否任意两组之间的差别都有统计学意义;

    (3)列变量和行变量均为有序多分类变量,可以作Spearman相关分析或者非零相关(none zero correlation)的CMH ;

    (4)列变量和行变量均为无序多分类变量:

    i. 当样本量n>40并且理论数小于5的格子数少于行列表中格子总数的25%,则用Pearson 检验进行分析;

    ii. 当样本量n40或理论数小于5的格子数多于行列表中格子总数的25%,则用Fisher’s 确切概率法检验;

    2)配对设计的C×C表数据:

    (1)配对比较:用McNemar配对检验;

    (2)一致性检验(Agreement):用Kappa检验;

    Poisson分布数据

    1. 单样本数据与总体比较:

    1)当观察值较小时:可以用确切概率法进行检验。

    2) 当观察值较大时:可以用正态近似的U检验。

    2. 两个样本数据的比较:可以用正态近似的U检验。

    两个变量之间的关联性分析

    1. 两个变量均为连续型变量

    1)当两变量为小样本并且两个变量服从双正态分布时,可以用Pearson相关系数来衡量两个变量之间的关联性;

    2)当两变量为大样本或两个变量不服从双正态分布,则用Spearman相关系数来衡量两个变量之间的关联性;

    2. 如果两个变量均为有序分类变量,可以用Spearman相关系数来衡量两个变量之间的关联性;

    3. 如果一个变量为有序分类变量,另一个变量为连续型变量,可以用Spearman相关系数来衡量两个变量之间的关联性。

    “一站式”医学科研管理工具!

    LinkLab帮您轻松做科研

    成为更好的临床医生!

专业数据统计分析

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。

img

在线咨询

建站在线咨询

img

微信咨询

扫一扫添加
动力姐姐微信

img
img

TOP