2018年1月27日星期六

MaskGAN:谷歌大脑让AI学做完形填空的新尝试(又见神标题paper)

岳排槐 发自 凹非寺量子位 出品 | 公众号 QbitAI

又见一篇神标题论文。

来一起感受一下。

MaskGAN: Better Text Generation via Filling in the __

这又是什么鬼?标题里竟然还有需要填空的地方?能给论文起出这种标题,通常都不是泛泛之辈。比如之前的attention is all you need。

往下一看作者,果然。又是谷歌大脑的团队。三位作者有两位算是大名鼎鼎:William Fedus、Ian Goodfellow、Andrew M. Dai。

写GAN的论文,当然要有"好家伙"的参与加持,而Dai之前跟Geoffrey Hinton等合作过多篇论文。至于一作,目前在MILA读博,曾是谷歌大脑的实习生。

在这篇论文里,详细讨论了如何构建一个基于GAN的神经网络,来完成类似完形填空一样的任务。包括期间的探索、尝试、改进等等。

GAN最初设计用于输出可微分的数值,所以离散的语言生成对这种模型来说非常具有挑战性。为此作者引入了actor-critic架构。

论文也比对了不同方法的完形填空效果。最终他们给出结论:我们用定性和定量的方式表明,与最大似然训练的模型相比,新方法能产生更真实的有条件和无条件文本样本。

这篇论文目前已经提交ICLR 2018,在ICLR2018 Open Review Explorer上,对这篇论文的评分是"666"。仅供参考。

这篇论文的地址:

Better Text Generation via Filling in the ______

欢迎大家关注我们的专栏:量子位 - 知乎专栏

诚挚招聘

量子位正在招募编辑/记者,工作地点在北京中关村。期待有才气、有热情的同学加入我们!相关细节,请在量子位公众号(QbitAI)对话界面,回复"招聘"两个字。

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态



via 量子位 - 知乎专栏 http://ift.tt/2ndLKGr
RSS Feed

RSS5

IFTTT

没有评论:

发表评论

入职仅一年,套现5000多万后背刺马斯克搬走 Grok 核心代码库!-InfoQ 每周精要894期

「每周精要」 NO. 894 2025/09/06 头条 HEADLINE 入职仅一年,套现 5000 多万搬走 Grok 核心代码库! 业内专家:拥有菜谱不等于能做出同样的菜 精选 SELECTED AI 公司创始人现跑路迪拜! 80% 收入烧广告、假账骗投资人,微...