顶级会议ICLR论文解读，语法制导翻译VAE如何回答一代宗师叶问

原创作者：谭婧

美编：陈泓宇

-随堂测验-

俗话说，南拳北腿。

咏春拳作为经典的南派功夫，讲究贴身近击、连消带打与攻守合一。咏春高手的双手知觉灵敏且变化多端，防守时密不透风、滴水不漏，进攻时犹如水银泻地、插缝即入。初看斯文冷静、再看后发先至、以疾如风的速度、爆发出雷霆之力对敌。

叶问VS生成模型。

一代宗师叶问先生笑意慈祥，摆出咏春拳的标志性——问路手，

说道：“咏春，叶问。”

见此状后，生成模型生成：___________。

（答案见文末）

言归正传，变分自动编码器（Variational AutoEncoders，VAEs）模型，在2013年由Kingma学者提出，几年以来，变分自动编码器（以下简称VAE）已经成为一种流行的生成模型（Generative model），通过无监督的方式学习复杂的分布。论文提出一种新的VAE，以下详解。 

丨The paper won the best paper award for NIPS workshop. 

一、论文摘要与作者

随着时间序列和图像等连续数据建模的深入，深度生成模型进展迅速，但要生成语法和语义正确的离散结构化数据（如化学分子和计算机程序）仍然具有挑战性。这篇论文受编译器理论的启发，提出一种新的语法导向的变分自动编码器（SD-VAE）。

 

语法制导翻译（SDT，syntax-directedtranslation）通过语法和语义检查以及随机惰性属性（stochastic lazyattributes）两个技术点实现对生成模型（解码器）的动态约束。与前人方法相比，论文所述方法能够输出不仅在语法上是正确的，而且在语义上也是合理的。论文作者们评价了该方法在程序的生成和分子的优化上的应用。结果表明，在离散数据的生成模型中引入语法和语义约束效果提升明显。

 

第一作者：

佐治亚理工学院计算机学院，戴涵俊

第二作者：

石溪大学计算机科学系，田应涛

第二作者：

石溪大学计算机科学系，StevenSkiena

第四作者：

蚂蚁金服，人工智能首席工程师，宋乐

论文链接：https://arxiv.org/abs/1802.08786

 

二、论文简介

 

（一）能力

生成模型比较火，主要用于生成图像，或者生成文本，也许你听过今日头条新闻机器人张小明（xiaomingbot）的神勇：2秒钟写稿，拟人化语言，智能配图。其技术原理就是使用的生成模型。也许你还听过将原始的照片或者绘画作品转化成拥有类似艺术风格的图像。文艺青年的压力突然大起来，写作和绘画都被机器占了先机，你到哪里去说理？但是，讲道理，从上面的例子我们知道，生成模型非常的有用，可由可能的数据的概率分布估计出来，然后可以生成像以前的图像，但是和以前不是一模一样，可以和以前有所类似。比如给模型人脸的图像，它会给你人脸的图像，而不是生成喵星人的脸还是汪星人的脸。你一定希望使用了生成模型之后，生成的图像稍有变化，如果生成和以前一模一样的脸，那也没有用。就好比朋友圈的一些自拍狂，同一张图片摆满九宫格，你就告诉我，是想让我来找出每张照片的不同吗，还是让人一口气连看九遍。如今，连生成模型都不屑生成一模一样的新数据。

使用了生成模型，希望把以前的数据特征，在模型里被抓住，但是能够产生一些新样品，无论是图像还是文本都是如此。你需要生成新的东西，就好像人一样，人的智能就是产生新的东西。不仅能把以前的东西学过来，而且能产生一些全新的东西。

 

（二）缺陷

生成模型有很大能耐，但是也有一个缺陷。生成模型对自己生成的条件，没有办法控制。比如想生成一个序列对应分子的化学表达式，这种离散结构的数据有一个特点，就是不是每一个生成的样本都是合理的，或者语法正确的。

论文中，我们提出三个条件：

1.和原来的数据集要像。学到原数据集的特征分布。

2.生成的离散结构具有多样性。

3.合乎形式语言文法

 

（同学们，划重点、敲黑板）

 

下面是论文中模型对离散数据的嵌入空间进行插值得到的生成结果。

简单程序：

         

                   

化学分子：

三、对话论文作者

1.如何简单的理解论文提出的新方法？

我们利用语法制导翻译这个方法，将离线语义检查变成生成过程的在线指导，重塑了生成模型的输出空间，使它变得更加有意义，如图1所示。即使增加表达特征的能力（increased capacity），我们的方法与以前的高效学习和推理模型相比并没有增加计算成本。它在化学分子和计算机程序的各种任务上产生了显著的、持续的改进，表现出了其解决现实世界问题的实证价值。 

重塑了生成模型的输出空间，使它变得更加有意义。

 

我们的方法将离线属性语法转换为动态生成过程，如图2所示。

在属性文法（Attribute Grammar）中，有一些继承的和合成的属性，是离线计算的，以确保语义正确性。为了能在生成过程中实时确保语义正确性，我们引入了随机惰性属性，将相应的合成属性转换为生成过程中的约束。惰性链接机制（lazy linking mechanism）设置了属性的实际值，一旦所有其他相关属性都准备好了，就如图3所示。实验结果表明，我们提高了重建精度和有效的先验精度，这两种方法都是变分自动编码器的重要质量指标，如图4所示。

 

在构建了结构数据的嵌入空间之后，我们使用贝叶斯优化来寻找与新的药物分子。论文所述方法效果良好，如图5所示。

图6右边是CVAE、GVAE、SD-VAE三者效果的比较，语法导向的变分自动编码器（SD-VAE）效果最好。

图7为可视化隐变量空间，表明了通过观察分子，而不教模型任何领域知识（机器学习术语中的“监督”，不给模型任何关于化学分子式的打标签信息），在分子化学式中，找到了一种具有化学意义的分子潜在表征。

综上，虽然我们的工作改进效果明显，但是仍然有更多的问题需要解决。例如，我们希望探索形式化的方法，并研究这种形式化在更多样化的数据模式上的应用。

 

2.论文中有哪些新内容？

大多的生成模型都满足前两个条件：一是和原来的数据集要像。学到原数据集的特征分布。

二是生成的离散结构具有多样性，都还没有在生成模型里面考虑加上第三个条件——合乎形式语言文法。

因为以前的生成模型比如生成图像，没有一个严格的标准来告诉模型，这个是正确的，这个是错误的。同样的，以前文本生成的，也是比较的模糊。没有一个严谨的方法（公式）去测试，以此来决定是否正确。

 

3.那么增加正确性这个条件的原因是什么？

我们仍然拿分子式举例，如果是一个不存在、瞎编的分子式，在现实中缺少使用的意义。

再举例，生成一段代码，如果生成错误的、无法运行的代码，也是在实中缺少使用的意义。我们都希望得到的代码是可以运行的，当然生成正确的代码自然增加了难度。

可以理解为正确与否是一个条件，但是模型自然而然的一个发展的目标，就是生成正确的，有意义的。

 

4.如何确定正确与否呢？

通常情况下，离散数据——化学表达式和程序代码都有一个编译器（compiler）可以用编译器去检查语法错误。所以你希望生成的每个都是正确的话，那一定要有多样性。相当于你的生产模型有很多限制在里面。多了一个限制，那就是正确性。生成错误的，使用的意义将降低。

 

5.这是本篇论文的突破点吗？

是的，难度系数更高，以前做不到。以前没有好的方法来处理。所以一般情况下都会从简单的起步，从生成错误的起步。实际上，加入想生成数学公式、物理公式，当然是正确的公式，一定会更难。再比如，长的程序代码回避短的程序代码的生成，更有难度。

论文提出的方法解决了正确性，这当然不是把所有的问题都解决了。离散的序列，包括一段文字，第一有语法的正确性这一标准，第二有是不是内容和逻辑这是第二个标准。在计算机眼中，一个程序也是一个字符串，化学表达式也是字符串。

例如，你要书写一篇新闻报道，篇幅很长的深度报道。你要肯定希望尽量保证句子语法正确。但是如果不用这种方法，会生成很多语法的病句，上下文逻辑关系也有可能不正确。新闻报道就是离散的序列，无论是英文还是中文。一个句子的基本单位是字，句子在人的眼中是句子，在计算机的眼中是字符串。

 

6.生成模型用在汉字上是什么样的情况？

会生成一些不是汉字的图片，可能看起来像汉字的字，但其实根本不是汉字。可能生成图片这个不是个很好的例子，因为图片没有形式语言文法，也就没有一个客观指标判别正确错误。（此处有一个尴尬的微笑）

  

7.伴随生成模型的不断强大，计算机程序真的会自动生成生动有趣的新闻报道吗？

现在目前的技术还达不到，一些人工智能公司的模型也是写好了对应的模板，把新闻数据对应的填进去，生成不同写作风格的文字。从技术角度讲，生成的文字语法正确，上下文逻辑正确是很有难度的。

8.为什么我们这里不用GAN而用VAE？

因为GAN需要将梯度从判别器传回生成器，而如果生成器产生的output是不可导的（比如这里的离散结构），那么事情就比较麻烦。

 

补充一个心理活动：感谢论文作者的讲解，本文作者我觉得可能还有一段时间不会失业，心里松了一口气。

 

文末，我们复习随堂测验增加对正确性（第三个条件）的理解：

叶问先生说道：“咏春，叶问。”

见此状后，生成模型生成三个参考答案：

答案一：咏鹅，骆宾王。

答案二：咏柳，贺知章。

答案三：咏烛，李世民。

One More Thing

一个活生生的例子，虽然论文中没有提及，用论文的方法搞了一个小应用：

同步执行生成这是一个以神经为基础的五音节汉语四行诗词，忠实地遵循偶数诗句中的押韵和严格的声调交替模式。它是基于我们在ICLR2018的论文中提出的想法。

链接：https://alantian.github.io/kanshi-web/

第35届机器学习技术国际会议（ICML）署名论文数量排名并列第三的作者。

 

本文来自于微信公众号：亲爱的数据（deardata）