中企动力 > 商学院 > word计算总和
  • ?

    如何在 Tableau 中利用 Python 的力量?

    施瓦芩郝廷

    展开

    感谢关注天善智能,走好数据之路↑↑↑

    欢迎关注天善智能,我们是专注于商业智能BI,大数据,数据分析领域的垂直社区,学习,问答、求职一站式搞定!

    2016 年, Tableau 便发布了 TabPy 的试用版本,一个可以在 Tableau 工作簿中运行 Python 代码的新 API 。当你通过 Tableau 使用 TabPy 时,你可以在 Python 中定义计算字段,从而在你的可视化作品中充分挖掘大量机器学习库的潜力。

    这个在 Tableau 中与 Python 的集成应用,为用户提供了强大的解决方案。例如,它只需几行 Python 代码就能得到一个线上零售商所售商品的情感分析。然后你可以在 Tableau 中从很多方面探索获得的结果。

    你可能只想看到负面评价并且希望理解这些内容背后的原因。你可能想得到一个顾客列表,并与他们联系。或者你可能想可视化整体情绪随时间变化的情况。

    R/Python 整合:Rserve/TabPy Server

    你可以很容易在电脑上或者远程服务器上安装 TabPy 服务器。在 Tableau Desktop 中,通过点击帮助 > 设置与性能 > 管理外部服务连接,在其中输入服务 URL ,你就可以完成配置。然后你可以使用 Python 脚本作为 Tableau 中计算字段的一部分,就像从 Tableau 8.1 开始你可以利用 R 的那样。

    TabPy 使用流行的 Anaconda 环境,这能够预装和准备许多包括 scipy , numpy 和 scikit-learn 在内的常见 Python 包。你可以在你的脚本中安装使用任何 Python 库。

    如果在公司里你有一个数据分析团队来开发定制模型, TabPy 还可以通过发布模型很方便与其他那些想要在 Tableau 中利用模型的人分享。

    一旦发布,无论模型的类型与复杂性如何,你就只需要在 Tableau 中运行一个只有一行 Python 代码来运行该机器学习模型。

    使用已发布的模型有几个好处。在预服务环境中,复杂的功能变得容易使用,分享和以部署方式重用。你可以在后端提升和更新模型,或者修改代码,而 Tableau 中的计算字段并不需要额外的操作即可保证正常工作。

    看到 Python 在 Tableau 中的应用,你是不是有点手痒了?亟不可待的想尝试一下?小编在这里推荐一篇新手实用教程,如果你以前没有使用过 Python ,不用担心 —— 这对新手来说绝对是可以实现的。继续看下去吧!

    Python 实用案例分享

    本次教程使用的数据集来源 Makeover Monday(点击了解详情) ,关于最流行的前100首歌曲的歌词。

    1设置你的环境

    1 . 确保你使用的是 Tableau 10 版本

    2 . 打开含有 top-song 数据的 TDE 文件

    3 . 安装 TabPy

    2在 Tableau 中连接 TabPy

    现在是时候在 Tableau 中设置 TabPy 了。在 Tableau 中,转到帮助 > 设置和性能 > 管理外部连接。输入 “localhost” ,因为你在自己的计算机上运行 TabPy 。默认端口为 9004 ,因此除非你手动更改它,否则应该将其保留。

    3创建 TabPy 计算

    TabPy Github 页面具有你应该在 Tableau 计算中使用 Python 的详细文档。我简单地重新调整了在 #data 16 TabPy 部分的一个计算演示。这里可以看重播。复制下方链接至浏览器查看重播:

    http://tclive.tableau/SignUp

    现在,你可以使用视图中的这个 [Word] 计算字段来处理情绪评分了!缺点是,由于这是一个表计算并且还使用了 ATTR 函数,因此你不能在一个详细级别表达式中使用它。也就是说,你不能使用这个例子和数据结构来计算歌曲细节级别的情感总和。

    天善智能学院Tableau学习课程推荐:

    本文转载至:Tableau社区。

  • ?

    计算机文化基础知识点三

    神龙

    展开

    Word 2010の使用

    1. 在Word 2010执行“复制”操作后,“剪贴板”中保存复制的内容次数最多为(12)

    2. 在选中字符后,需给该字符加上“赤水情深”的动态效果,应在“字体”对话框中选择的选项卡为(动态效果)

    3. 想在Word 2010主窗口中显示段落标记,应使用菜单项为(视图)

    4. 以下有关创建目录的说法,正确的是(在创建目录之前,定义“样式”并对创建的内容应用“样式”)

    5. 依次打开三个Word 2010文档,每个文档都有修改,在修改完后为了一次性保存着学文档,正确的操作是(按Shift键的同时,单击“文件”—“全部保存”命令)

    6. 使用Word 2010时,在输入过程中,用户输入“南”,文档中出现“南开大学”。这是利用了(“工具”菜单中的“自动更正”功能)

    7. 在“打印”对话框的“页面范围”栏的“当前页”项是为(插入光标所在的页)

    8. 把段落的第一行向右移动两个字符的位置,正确的选项是(“格式”菜单中的“段落”命令)

    9. 要删除表格中的某个单元格并使右侧单元格左移,正确的操作是选择(“表格”菜单中的“删除单元格”命令)

    10. 在Word 2010中,如果在“文件”菜单的子菜单下部列出一些文件名,这些文件名是(最近在Word2010中打开,处理过的文档)

    11. “页眉页脚”命令所在的菜单项是(“视图”菜单)

    12. 在Word 2010中,“项目符号”可以(改变,可自动顺序生成,对于同一段落项目符号和编号不能同时存在)

    13. 在编辑文档时,需要在输入新的文字的同时替换原有文字,最快捷的操作步骤是(选定需替换的内容,直接输入新内容)

    14. 在Word 2010中,若要计算表格中某行数值的总和,可使用的统计函数是(SUM())

    15. Word 2010的字数统计功能在(工具)菜单中

    16. 在Word 2010中,需将每页的页码放在页底部右端,正确的操作命令是(“插入”菜单中的“页码”)

    17. 用快捷方式选定文档中某一段文本的技巧方法是(把鼠标指针放在文本左端出现选定光标后,双击)

    18. 要给整个页面加一个花纹效果的边框,应该单击“格式”菜单中的“边框与底纹”命令,然后(单击“页面边框”选项卡,在“线性”栏选择“艺术型”项)

    19. 绘制一个标准的正方形的正确的操作方法是,先在“绘图”工具栏中选择“矩形”,然后(按住Shift键用鼠标拖动出正方形)

    20. 把n变为m的n次方,正确的操作是(选定n,然后设置字体格式为“上标”)

    21. 要在一张表格上套用已有的表格格式,选定表格后正确的操作命令是(从“表格”菜单中选择“表格自动套用格式”命令)

    22. 给文档分页时,最方便的操作方法是(按Ctrl+Enter键)

    23. 调出“艺术字库”的正确操作是(单击“绘图”工具栏上的“插入艺术字”图标)

    24. 要想为当前文档中的文字设定字符间距,使用(“格式”—“字体”菜单项)

    25. 在Word 2010中“格式刷”的作用是(复制格式)

    26. 在Word 2010的编辑状态下,对于选定的文字(即可以移动,也可以复制)

    27. 在Word 2010中,新建一个Word文档,默认的文件名是“文档1”,文档内容的第一标题是“说明书”,对该文件保存时没有重新命名,则该文档的文件名是(说明书.doc)

    28. 对新文档进行保存时,用“文件”菜单中的“保存”与“另存为”命令是相同的,给旧文档做一个备份时,可用“文件”菜单中的“另存为”命令,“另存为”命令可将文档已其他文件名保存到其他位置。

    29. 通过“段落”命令调整“行间距”还可以调整“段落前后间距”,通过字体命令调整“字符间距”

    30. 调整一页纸所容纳的多少,通常采用的方法有选择(纸型,页边距,标尺)命令

    31. 有关“首字下沉”命令正确的说法(可以下沉三行字的位置,可悬挂下沉,可以取消“首字下沉”)

    32. 在Word 2010文档中选定一个段落的方法是(在该段落选择区对应出双击鼠标左键,在该段落中三击鼠标左键,按住鼠标左键自段落起始位置拖动到终止位置)

    33. 有关删除表格正确的说法是(可以删除表格中的某列,可以删除表格中的某行,可以删除单元格)

    34. 选定整个文档的方法有(按“Ctrl+A”键,在选择区三击鼠标左键,选择“编辑”菜单中的“全选”命令)

    35. 在Word 2010中编辑的文档可以保存的格式为(Word文档,Html文档,纯文本)

    36. 给Word文档分页的操作方法有(按“Ctrl+Enter”键,自动分页,选择“插入”菜单中的“分隔符”命令)

    37. Word2010文档中可插入的对象有(剪贴画,文本框,艺术字,图表,表格)

    计算机文化基础必考知识点一

    计算机文化基础必考知识点二

  • ?

    初中数学培优 七年级下 第十三讲 数据和统计图表(中考8分题)

    紫丝

    展开

    中国目前初中数学教育大纲基于以下这个情况,即绝大多数人现实生活中只会用到三年级以下的数学,因此难度下降很大,属于普遍教育。而高中数学的难度并没有下降,因此初高中之间的衔接存在着很大的困难。

    我曾经遇到过本地区最好的公办初中的一个学生,她在初中排在年级前20名(年级总共500多学生),但是进入高中后感觉非常吃力,跟不上进度。和她交流后我一句话概括,现在的初中数学要求太低,难度太低。

    本系列专题讲座的习题和例题都来自各年中考题以及重点高中的自招题,难度高于中考的平均程度,差不多是重点高中的自招难度。

    系列里面许多解题方法和扩展的知识对进入高中后的数学学习是极其必要的补充。

    系列的习题和例题都在不断丰富和更新中。

    二、重点难点分析

    1.收集数据的两种方法:全面调查(普查)与抽样调查。对数据要求很严格并且有操作条件的情况下一般用普查,不方便、不可能或不必要对所有对象进行调查时一般用拍样调查。

    2.总体、样本、个体、样本容量是四个重要的统计概念,注意样本容量是一个没有单位的数字。

    3.三种统计图的特点:

    (1)条形统计图:能清楚地表示出每个项目的具体数目,但是不能清楚地表示出各部分在总体中所占的百分比以及事物的变化情况;

    (2)折线统计图:能清楚地反映事物的变化情况,但是不能清楚地表示出各部分在总体中所占的百分比以及每个项目的具体数目;

    (3)扇形统计图:能清楚地表示出各部分在总体中所占的百分比,但是不能清楚地表示每个项目的具体数目以及事物的变化情况。

    4.样本是从总体中抽取出来的,它能在一定程度上反映总体的情况,但样本既然是总体的一部分,用样本反映总体就会有一定的局限性。一般说来,样本容量越大,用样本估计总体就越准确,但是花费的时间和精力就会增加。

    5.扇形统计图各部分的总和是"1",圆心角的度数总和是360°,注意各部分的比例与圆心角度数的换算。圆心角=360°*某部分的百分比;折线统计图要注意连结的顺序是从左到右。

    6. 要能根据具体问题选择合适的统计图,简单、清晰、直观地展示数据。对于同一统计数据信息可以使用不同的统计图来表达,但是不同的统计图有不同的特点,因而在表达数据时应根据需要选用适当的统计图。如果要表达的数据是分散的,并且要清晰地表示各个项目的实际数据,那么使用条形统计图比较适宜;如果要表达各个项目的数据占总体的百分比,使用扇形统计图较为适宜;如果要清晰地显示各个项目的数据在一段时间内的变化,或分析数据的变化趋势,使用折线统计图较好。.

    三、例题精选

    例1 下列调查中,适宜采用全面调查(普查)方式的是().

    A.对全国中学生心理健康现状的调查

    B.对冷饮市场上冰洪淋质量情况的调查

    C.对我市市民实施低碳生活情况的调查

    D.对我国首架大型民用直升机各零部件的检

    解析:因为初中生的生活经验不够,因此做这种题目容易错。

    技巧:抓住普查的适用条件:要求严格并具有可操作性。要求严格就是很重大,可操作性就是数量有限。然后从题目中找出最重大的事件就可以了。

    例2 免交农业税,大大提高了农民的生产积极性,镇政府引导农民对生产的某种土特产进行加工后,分为甲、乙、丙三种不同包装推向市场进行销售,其相关信息如下表:

    春节期间,这三种不同包装的土特产都销售了12000千克,那么本次销售中,这三种包装的土特产获得利润最大的是

    解析:利润=售价一成本=单价X袋数一(产品成本十包装费用成本)。

    设12000千克的农产品的成本价为a元(a)0).

    甲产品销售利润W1=12000 0.4(4.8-0.5)-a=(129000-a)(元);

    乙产品销售利润W2=120000.3(3.6-0.4)-a=(128000-a)(元);

    丙产品销售利润 W3=120000.2(2.5-0.3)-a=(132000-a)(元);

    ∴丙包装的利润最大。

    例3 为了迎接党的十八大的召开,某校组织了以"党在我心中"为主题的征文比赛,每位生只能参加一次比赛,比赛成绩分为A,B,C.D四个等级.随机抽取该校部分学生的征文比赛绩进行统计分析,并绘制了如下的统计图表:

    (1)本次抽查的学生共有人;

    (2)表中r,y和m所表示的数分别为x=,y=,m=;

    (3)请补全条形统计图.

    (此条形统计图采用word自带模板,跟初中教材的区别:坐标轴无箭头、无文字,下同。)

    解析:(1)由A得,样本人数=6030%=200人;

    (2)因此x=200*50%=100人,y=200*15%=30人;m=10。(m=100%-30%-50%-15%=5%,从两个计算途径,检验答案是否正确。)

    (3)

    例4近期,我市中小学广泛开展了"传承中华文化,共筑精神家园"爱国主义读书教育活动,某中学为了解学生最喜爱的活动形式,以"我最喜爱的一种活动"为主题,进行随机抽样调查,收集数据整理后,绘制出以下两幅不完整的统计图表,请根据图中提供的信息,解答下面的问题:

    最喜爱的一种活动统计表

    其中演讲13%,征文20%,其他5%。(图上无法按要求显示百分比)

    (1)在这次抽样调查中,一共调查了多少名学生?扇形统计图中"讲故事"部分的圆心角是多少度?

    (2)如果这所中学共有学生3800名,请你估计最喜爱征文活动的学生人数。

    解析:统计图表都是很简单的题目,只要能看懂图表即可。

    统计图表有两条线索:一、百分比线索,即所有的项目所占的百分比之和=100%;二、单项的比例问题,即该项目所占比例=*100%。

    (1)调查的学生总人数=60人;

    讲故事部分圆心角度数=360°*()=36°。

    (2)用最喜爱征文活动的学生人数占的百分比,乘以3800即可得到结果。

    全校最喜欢征文学生人数大致=3800*20%=760人。

    这个小题虽然简单,但是体现了抽查的作用。就是通过一个样本大致反应出整体的情况,因此我们在抽样时,必须“随机抽样”。

    例5 某超市为了了解近期的销售情况,对今年1~5月份的销售额进行了统计,超市财务部经理把收集到的统计数据绘制成如下统计图,请你根据下面的统计图解答下列问题:

    (1)来自超市财务部的报告表明,超市1~5月份的销售额为25万元,请你根据这一信息补全图1;超市服装部3月份的销售额是多少?

    (2)小莉观察图2认为服装部2月份的销售额比1月份增加了,你同意她的看法吗?为什么?

    (1)3月份超市销售额25-6-5-4-7=3万元;

    图略。

    (2)1月份服装销售额=6*30%=1.8万元

    2月份服装销售额=5*32%=1.6万元。

    所以小莉的说法是错误的。

    这是容易误会的地方:所占比例变大,不等于量变大,因为总量可能变小。

    例6 为了了解甲、乙两位同学对"字的个数"的估计能力,现场对他们进行了5次测试,测试方法是:拿出一张报纸,随意用笔画一个圈,让他们看了一眼后迅速说出圈内有多少个汉字,但不同的是:甲同学每次估计完字数后不告诉他圈内的实际字数,乙同学每次估计完字数后告诉他圈内的实际字数,根据甲、乙两位同学5次估计情况可绘制统计图如下:

    偏差率=

    (1)结合统计图提供的信息,就甲、乙两位同学分别写出两条不同类型的正确结论;

    (2)若对甲、乙两位同学进行第6次测试,当所圈出的实际字数为100个时,请你用统计知识分别预测他们结计字数的偏差率,并根据预测的偏差率,推算出他们估计的字数所在的范围。

    解答:(1)可从不同角度分析,例如:

    ①甲同学的平均偏差率是16%,乙同学的平均偏差率是11%;

    ② 甲同学的偏差率最小值是13%,乙同学的偏差率最小值是4%;

    ③甲、乙两位同学的偏差率最大值都是20%;

    ④甲同学对字数的估计能力没有明显的提高,乙同学对字数的估计能力有明显的提高。

    (2)可从不同角度分析.例如:

    (1)从平均偏差率预测:

    甲同学的平均偏差率是16%,估计的字数所在范围是84~116;

    乙同学的平均偏差率是11%,估计的字数所在范围是89~111;

    2从偏差率的变化情况预测:

    甲同学的偏差率没有明显的趋势特征,可有多种预测方法,如偏差率的最大值与最小值的平均值是16.5%,估计的字数所在范围是84~116或83~117.

    乙同学的偏差率是0%~4%,估计的字数所在的范围是96~104或其他。

    本题是一道统计题,它结合学生熟悉的现实背景"估计字数",再增加一个新定义——"偏差率",构成了一道立意非常新颖的统计开放题。主要考查学生利用折线统计图所反映出来的统计量进行分析和预测推断的能力,这正是统计内容中需要考查的核心知识。

    四、练一练

    数据与统计图表题目比较简单,关键在于读懂图表,只要把这几个例题看懂就可以了。

  • ?

    NLP历史突破!谷歌BERT模型狂破11项纪录,全面超越人类!

    静白

    展开

    来源:arXiv、知乎

    编辑:新智元编辑部

    【新智元导读】今天,NLP领域取得最重大突破!谷歌AI团队新发布的BERT模型,在机器阅读理解顶级水平测试SQuAD1.1中表现出惊人的成绩:全部两个衡量指标上全面超越人类,并且还在11种不同NLP测试中创出最佳成绩。毋庸置疑,BERT模型开启了NLP的新时代!

    今天请记住BERT模型这个名字。

    谷歌AI团队新发布的BERT模型,在机器阅读理解顶级水平测试SQuAD1.1中表现出惊人的成绩:全部两个衡量指标上全面超越人类!并且还在11种不同NLP测试中创出最佳成绩,包括将GLUE基准推至80.4%(绝对改进7.6%),MultiNLI准确度达到86.7% (绝对改进率5.6%)等。

    谷歌团队的Thang Luong直接定义:BERT模型开启了NLP的新时代!

    本文从论文解读、BERT模型的成绩以及业界的评价三方面做介绍。

    硬核阅读:认识BERT的新语言表示模型

    BERT的新语言表示模型,它代表Transformer的双向编码器表示。与最近的其他语言表示模型不同,BERT旨在通过联合调节所有层中的上下文来预先训练深度双向表示。因此,预训练的BERT表示可以通过一个额外的输出层进行微调,适用于广泛任务的最先进模型的构建,比如问答任务和语言推理,无需针对具体任务做大幅架构修改。

    论文作者认为现有的技术严重制约了预训练表示的能力。其主要局限在于标准语言模型是单向的,这使得在模型的预训练中可以使用的架构类型很有限。

    在论文中,作者通过提出BERT:即Transformer的双向编码表示来改进基于架构微调的方法。

    BERT 提出一种新的预训练目标:遮蔽语言模型(masked language model,MLM),来克服上文提到的单向性局限。MLM 的灵感来自 Cloze 任务(Taylor, 1953)。MLM 随机遮蔽模型输入中的一些 token,目标在于仅基于遮蔽词的语境来预测其原始词汇 id。

    与从左到右的语言模型预训练不同,MLM 目标允许表征融合左右两侧的语境,从而预训练一个深度双向 Transformer。除了遮蔽语言模型之外,本文作者还引入了一个“下一句预测”(next sentence prediction)任务,可以和MLM共同预训练文本对的表示。

    论文的核心:详解BERT模型架构

    本节介绍BERT模型架构和具体实现,并介绍预训练任务,这是这篇论文的核心创新。

    模型架构

    BERT的模型架构是基于Vaswani et al. (2017) 中描述的原始实现multi-layer bidirectional Transformer编码器,并在tensor2tensor库中发布。由于Transformer的使用最近变得无处不在,论文中的实现与原始实现完全相同,因此这里将省略对模型结构的详细描述。

    在这项工作中,论文将层数(即Transformer blocks)表示为L,将隐藏大小表示为H,将self-attention heads的数量表示为A。在所有情况下,将feed-forward/filter 的大小设置为 4H,即H = 768时为3072,H = 1024时为4096。论文主要报告了两种模型大小的结果:

    : L=12, H=768, A=12, Total Parameters=110M

    : L=24, H=1024, A=16, Total Parameters=340M

    为了进行比较,论文选择,它与OpenAI GPT具有相同的模型大小。然而,重要的是,BERT Transformer 使用双向self-attention,而GPT Transformer 使用受限制的self-attention,其中每个token只能处理其左侧的上下文。研究团队注意到,在文献中,双向 Transformer 通常被称为“Transformer encoder”,而左侧上下文被称为“Transformer decoder”,因为它可以用于文本生成。BERT,OpenAI GPT和ELMo之间的比较如图1所示。

    图1:预训练模型架构的差异。BERT使用双向Transformer。OpenAI GPT使用从左到右的Transformer。ELMo使用经过独立训练的从左到右和从右到左LSTM的串联来生成下游任务的特征。三个模型中,只有BERT表示在所有层中共同依赖于左右上下文。

    输入表示(input representation)

    论文的输入表示(input representation)能够在一个token序列中明确地表示单个文本句子或一对文本句子(例如, [Question, Answer])。对于给定token,其输入表示通过对相应的token、segment和position embeddings进行求和来构造。图2是输入表示的直观表示:

    图2:BERT输入表示。输入嵌入是token embeddings, segmentation embeddings 和position embeddings 的总和。

    具体如下:

    使用WordPiece嵌入(Wu et al., 2016)和30,000个token的词汇表。用##表示分词。

    使用学习的positional embeddings,支持的序列长度最多为512个token。

    每个序列的第一个token始终是特殊分类嵌入([CLS])。对应于该token的最终隐藏状态(即,Transformer的输出)被用作分类任务的聚合序列表示。对于非分类任务,将忽略此向量。

    句子对被打包成一个序列。以两种方式区分句子。首先,用特殊标记([SEP])将它们分开。其次,添加一个learned sentence A嵌入到第一个句子的每个token中,一个sentence B嵌入到第二个句子的每个token中。

    对于单个句子输入,只使用 sentence A嵌入。

    关键创新:预训练任务

    与Peters et al. (2018) 和 Radford et al. (2018)不同,论文不使用传统的从左到右或从右到左的语言模型来预训练BERT。相反,使用两个新的无监督预测任务对BERT进行预训练。

    任务1: Masked LM

    从直觉上看,研究团队有理由相信,深度双向模型比left-to-right 模型或left-to-right and right-to-left模型的浅层连接更强大。遗憾的是,标准条件语言模型只能从左到右或从右到左进行训练,因为双向条件作用将允许每个单词在多层上下文中间接地“see itself”。

    为了训练一个深度双向表示(deep bidirectional representation),研究团队采用了一种简单的方法,即随机屏蔽(masking)部分输入token,然后只预测那些被屏蔽的token。论文将这个过程称为“masked LM”(MLM),尽管在文献中它经常被称为Cloze任务(Taylor, 1953)。

    在这个例子中,与masked token对应的最终隐藏向量被输入到词汇表上的输出softmax中,就像在标准LM中一样。在团队所有实验中,随机地屏蔽了每个序列中15%的WordPiece token。与去噪的自动编码器(Vincent et al., 2008)相反,只预测masked words而不是重建整个输入。

    虽然这确实能让团队获得双向预训练模型,但这种方法有两个缺点。首先,预训练和finetuning之间不匹配,因为在finetuning期间从未看到[MASK]token。为了解决这个问题,团队并不总是用实际的[MASK]token替换被“masked”的词汇。相反,训练数据生成器随机选择15%的token。例如在这个句子“my dog is hairy”中,它选择的token是“hairy”。然后,执行以下过程:

    数据生成器将执行以下操作,而不是始终用[MASK]替换所选单词:

    80%的时间:用[MASK]标记替换单词,例如,my dog is hairy → my dog is [MASK]

    10%的时间:用一个随机的单词替换该单词,例如,my dog is hairy → my dog is apple

    10%的时间:保持单词不变,例如,my dog is hairy → my dog is hairy. 这样做的目的是将表示偏向于实际观察到的单词。

    Transformer encoder不知道它将被要求预测哪些单词或哪些单词已被随机单词替换,因此它被迫保持每个输入token的分布式上下文表示。此外,因为随机替换只发生在所有token的1.5%(即15%的10%),这似乎不会损害模型的语言理解能力。

    使用MLM的第二个缺点是每个batch只预测了15%的token,这表明模型可能需要更多的预训练步骤才能收敛。团队证明MLM的收敛速度略慢于 left-to-right的模型(预测每个token),但MLM模型在实验上获得的提升远远超过增加的训练成本。

    任务2:下一句预测

    许多重要的下游任务,如问答(QA)和自然语言推理(NLI)都是基于理解两个句子之间的关系,这并没有通过语言建模直接获得。

    在为了训练一个理解句子的模型关系,预先训练一个二进制化的下一句测任务,这一任务可以从任何单语语料库中生成。具体地说,当选择句子A和B作为预训练样本时,B有50%的可能是A的下一个句子,也有50%的可能是来自语料库的随机句子。例如:

    Input = [CLS] the man went to [MASK] store [SEP]

    he bought a gallon [MASK] milk [SEP]

    Label = IsNext

    Input = [CLS] the man [MASK] to the store [SEP]

    penguin [MASK] are flight ##less birds [SEP]

    Label = NotNext

    团队完全随机地选择了NotNext语句,最终的预训练模型在此任务上实现了97%-98%的准确率。

    实验结果

    如前文所述,BERT在11项NLP任务中刷新了性能表现记录!在这一节中,团队直观呈现BERT在这些任务的实验结果,具体的实验设置和比较请阅读原论文。

    图3:我们的面向特定任务的模型是将BERT与一个额外的输出层结合而形成的,因此需要从头开始学习最小数量的参数。在这些任务中,(a)和(b)是序列级任务,而(c)和(d)是token级任务。在图中,E表示输入嵌入,Ti表示tokeni的上下文表示,[CLS]是用于分类输出的特殊符号,[SEP]是用于分隔非连续token序列的特殊符号。

    图4:GLUE测试结果,由GLUE评估服务器给出。每个任务下方的数字表示训练样例的数量。“平均”一栏中的数据与GLUE官方评分稍有不同,因为我们排除了有问题的WNLI集。BERT 和OpenAI GPT的结果是单模型、单任务下的数据。所有结果来自https://gluebenchmark/leaderboard和https://blog.openai/language-unsupervised/

    图5:SQuAD 结果。BERT 集成是使用不同预训练检查点和微调种子(fine-tuning seed)的 7x 系统。

    图6:CoNLL-2003 命名实体识别结果。超参数由开发集选择,得出的开发和测试分数是使用这些超参数进行五次随机重启的平均值。

    超过人类表现, BERT刷新了11项NLP任务的性能记录

    论文的主要贡献在于:

    证明了双向预训练对语言表示的重要性。与之前使用的单向语言模型进行预训练不同,BERT使用遮蔽语言模型来实现预训练的深度双向表示。

    论文表明,预先训练的表示免去了许多工程任务需要针对特定任务修改体系架构的需求。 BERT是第一个基于微调的表示模型,它在大量的句子级和token级任务上实现了最先进的性能,强于许多面向特定任务体系架构的系统。

    BERT刷新了11项NLP任务的性能记录。本文还报告了 BERT 的模型简化研究(ablation study),表明模型的双向性是一项重要的新成果。相关代码和预先训练的模型将会公布在goo.gl/language/bert上。

    BERT目前已经刷新的11项自然语言处理任务的最新记录包括:将GLUE基准推至80.4%(绝对改进7.6%),MultiNLI准确度达到86.7% (绝对改进率5.6%),将SQuAD v1.1问答测试F1得分纪录刷新为93.2分(绝对提升1.5分),超过人类表现2.0分。

    BERT模型重要意义:宣告NLP范式的改变

    北京航空航天大学计算机专业博士吴俣在知乎上写道:BERT模型的地位类似于ResNet在图像,这是里程碑式的工作,宣告着NLP范式的改变。以后研究工作估计很多都要使用他初始化,就像之前大家使用word2vec一样自然。

    BERT一出,那几个他论文里做实验的数据集全被轰平了,大家洗洗睡了。心疼swag一秒钟,出现3月,第一篇做这个数据集的算法,在超了baseline 20多点的同时也超过人了。

    通过BERT模型,吴俣有三个认识:

    1、Jacob在细节上是一等一的高手

    这个模型的双向和Elmo不一样,大部分人对论文作者之一Jacob的双向在novelty上的contribution 的大小有误解,我觉得这个细节可能是他比Elmo显著提升的原因。Elmo是拼一个左到右和一个右到左,他这个是训练中直接开一个窗口,用了个有顺序的cbow。

    2、Reddit对跑一次BERT的价格讨论

    For TPU pods:

    4 TPUs * ~$2/h (preemptible) * 24 h/day * 4 days = $768 (base model)

    16 TPUs = ~$3k (large model)

    For TPU:

    16 tpus * $8/hr * 24 h/day * 4 days = 12k

    64 tpus * $8/hr * 24 h/day * 4 days = 50k

    For GPU:

    "BERT-Large is 24-layer, 1024-hidden and was trained for 40 epochs over a 3.3 billion word corpus. So maybe 1 year to train on 8 P100s? "

    3、不幸的是,基本无法复现,所以模型和数据谁更有用也不好说。

    BERT的成功也说明,好的深度学习研究工作的三大条件: 数据,计算资源,工程技能点很高的研究员(Jacob在微软时候,就以单枪匹马搭大系统,而中外闻名)。

  • ?

    老祖宗留下的数学计算法,重现江湖!好多数学老师都会不会!

    纯念想

    展开

    小学数学最让家长和学生头疼的一件事情肯定是小学算数,很多家长都在微信上跟我反映孩子计算能力差,计算总是粗心大意,总是找不对一个正确的计算方法,这最基础的小学算数不过关,数学绝对是一个大难题。

    那如何提高孩子的速算能力呢?掌握好方法才是关键。今天分享几个速算方法,都是老祖宗留下的智慧结晶,我们一起来看看在没有计算器,没有电脑的时代,他们都是用什么方法计算的。这些方法特别适用于小学阶段的数学学习哟,家长们看了之后可以教教孩子,用这些方法来提升计算力水平!

    1、关于9的乘法口诀

    九九乘法表

    九九乘法表的背诵很吃力?其实只要在十位数上从0写到9,个位数上从9到数回0,马上写出完整的表格。考试更轻松!

    十只手指来计算!

    9的乘法口诀有9句,每相邻两句口诀中的积相差9。积的十位上的数字与个位上的数字和是9,且有几个9,积就比几十少几。例如,2个9是18(即2x9=18),1+8=9,20-18=2。

    2、两位数乘法

    用画线的方式就可以算两位数的乘法。例如23*13,用红色分别画出2条线和3条线,蓝色画出1条线和3条线,把交集的点数量写下来就是答案啰。

    两位数和11相乘

    任何二位数和11相乘,只要把十位数和个位数拆开,中间再插入十位数和个位数的总和,就不用麻烦地乘来乘去啦。

    分数的加减

    以往会找出两分母的最小公倍数再计算。但其实只要在算式上画只蝴蝶就解决了。把蝴蝶翅膀圈在一起的部分相乘写在触角里面,彼此相加就是答案的分子,再把分母彼此相乘,就是答案的分母。

    减法也是一样的方式,只要把触角里的数字改成相减即可。

    分数和整数的乘法

    如图:把分母和整数间连一条线,算出24是4的6倍,然后再把线连到分子3,用6乘以3,答案18就这么轻松算出来。

    3、较大两位数的乘法!

    篇幅原因,今天的分享就到这里!

  • ?

    使用Excel2007进行简单求和运算

    仲天抒

    展开

    大家都知道Word里面也可以制作表格,但是在Word表格里进行一些运算和不方便,所以需要进行运算还是要用专业的Excel表格软件,Excel软件在运算方面功能非常强大,今天我们就来简单的学习一下使用Excel2007进行简单求和运算。

    图1为我们的今天进行求和运算的Excel示例图,是一张简单的2013年年度销售表,我们把的数据进行求和运算,从而计算出来2013年的总销售额。

    图1

    首先我们需要把Excel表中的第二列从B2到B13选中,然后在导航栏选择"公式",在公式工具栏选择“自动求和”按钮,在弹出的下拉框里选择“求和”选项。

    图2

    图3

    这样在Excel表的总计后面的单元格就计算出来了2013年从1月到12月的总销售额了。同时我们也可以在编辑栏对1到12月进行求和运算。

    图4

    我们首先选中总计后面的单元格,然后在编辑栏输入=SUM(B2:B13),然后敲回车键,2013年的总总销售额就计算出来了。解释:SUM是Excel中求和运算的一个函数,括号里的B2:B13意思就是计算从B2单元格到B13单元格的总和。

    今天给大家讲了使用Excel2007进行简单求和运算的两种方法,其中第二种,我们用到SUM函数。Excel表格中计算求和运算非常的简单,如果我们不想计算出来结果,只想看看总和是多少的话,我们只需要选中需要计算的数据,然后看状态栏,状态栏就会计算出来选中数据的平均值和总和。

  • ?

    Word表格预算表如何用求和公式计算总和

    香菱

    展开

    常用office办公软件的办公室工作人员都知道:在office excel中可以用求和公式来计算总和,那有人就有疑问了,我们经常用的office word文档,那么我们在进行word文档中的表格数据处理时,能不能用公式求和来减轻我们的办公工作量呢?答案是肯定的

    如下图所示,打开我们的word及需要处理的表格数据

    如果需要我们把每一列的和填入最后一行,那我们就按下面的步骤操作

    将上述表格数据转换成excel表格在office word 2013 中,可以插入excel电子表格

    点击----插入-----表格----选择excel电子表格(选择相应的行数和列数)

    然后把数据复制到excel表格中,如图所示

    那我们就可以按照excel处理数据的方法方便处理数据了

  • ?

    怎样在word表格中计算求和,最有效的解决办法

    尹半莲

    展开

    有时候需要在word表格中计算求和,有不少人还很陌生。下面列出几种求和的方法,望各位网友选择使用,找出适合自己的简便的方法。如你还有更简便的或新的方法,请在文章下方的评论中添加,与广大网友分享。

    方法一:  1、将鼠标定位在需要放置结果的单元格内  2、执行表格公式弹出公式对话框。选择SUM函数:SUM(LEFT)即对该单元格左侧数值单元格进行求和;SUM(ABOVE)即对该单元格之上的列中的数值单元格求和方法二:  在你想合计的位置单击一下,使其处于编辑状态。然后点击工具栏中表格---→绘制表格

    。会出现一个表格与边框的工具栏,栏最后有个∑

    ,这就是求和公式。点一下即可。注意默认的状态下是求列的和。如列没有数字,则求行的和,如想求行的和,可先从底部开始求和。方法三:  常用工具栏上边框与底纹按钮,打开工具栏,上面有个Σ

    。如果是求列和,光标定位单元格点一下这个求和按钮。如果求行的和,最好从下面向上算。

    方法四:  在Word 2003的表格中,可以使用〔自动求和〕按钮,需要想办法把〔自动求和〕按钮调出来才行,其方法是:  1.在工具菜单中单击自定义命令。

    2.

    选择命令选项,在类别框中单击表格

    ,在命令框中找到并单击自动求和(Σ),然后用左键将它拖放到常用工具栏中的适当位置。

    3.

    关闭自定义对话框。

    现在,把插入点置于存放求和的单元格中,单击常用工具栏中的〔自动求和〕按钮,则Word将计算并显示插入点所在的上方单元格中或左方单元格中数值的总和。当上方和左方都有数据时,上方求和优先。方法五:  自动求和这个命令在表格和边框工具栏中有,你只要在视图工具栏中将其勾选上就可以了。这个命令在工具栏中的最后一个。

    方法六:  网友推荐:点表格→公式,输入

    =sum(above)

    即为对该位置上方的数据求和,输入=sum(left)即为对该位置左边的数据求和,同理,输入

    即为对该位置右边的数据求和。你可以自己试一下。

    (本文内容由百度知道网友灰机2Ow1贡献)

  • ?

    word文档中如何计算一列数字的总和

    雅婷

    展开

     Word虽然是一款文档编辑软件,但它的数据计算功能一点也不弱,也同样可以用来进行统计和制作表格的。 

     1.选择表格,也就鼠标点击表格区域。

     2.选择要输入的单元格,点击表格工具的布局

     3.再点击菜单栏的公式,这时会弹出公式的一个窗口,如果公式为“=SUM(ABOVE)”就表示计算你选择的单元格这一列在你选择的单元格。

     4.这一列的数据就计算好了。

所有视频需要登录后,才能观看

请先登录您的帐号,即可完整播放,如果您尚未注册帐号,请先点击注册。