admin 管理员组

文章数量: 887017

【机器翻译】SCONES——用多标签任务做机器翻译

《Jam or Cream First?Modeling Ambiguity in Neural MachineTranslation with SCONES》.00704.pdf

前言

之前有负责过一个层级多标签分类的项目，所以对于由多分类到多标签的区别十分清楚，最近刷到这篇论文顿时来了兴趣，然后发现方法也十分简单，基本就是一个标准多标签任务的模式。尽管简单，但这样做并不是为花而花的“花板子”，其准确抓住当前机器翻译训练方式导致的问题——decoding过程中模型输出层的softmax抑制了“非ground truth但合理”词的生成可能性，而转化为多个二分类+sigmoid的常见多标签任务形式则正好避开了这一问题，所以重点就转移到了对如何拆分建模为多个二分类任务以及有效的多标签loss的设计。

从多分类到多标签

这里先快速介绍下多标签（multi-label）分类的一种典型模式。

本文标签： 机器翻译SCONES用多标签任务做机器翻译

版权声明：本文标题：【机器翻译】SCONES——用多标签任务做机器翻译 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://www.freenas.com.cn/jishu/1732361275h1535286.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。