Adversarial Ranking for Language Generation(NIPS 2017)

[juravrik]

0. 論文

• タイトル: Adversarial Ranking for Language Generation
• リンク: https://arxiv.org/abs/1705.11001
• 著者: Kevin Lin, Dianqi Li, Xiaodong He, Zhengyou Zhang, Ming-Ting Sun
• 所属: University of Washington, Microsoft Research
• 発表年: 2017
• 掲載: NIPS

1. どんなもの？

Discriminatorにランク学習を利用することでより高品質な文書生成を実現

2. 先行研究と比べてどこがすごい？

Discriminatorは通常人工データか否かの二値分類を学習するが、これはテキスト生成においては情報が十分とは言えない。
提案手法では人間の文書に対して生成文書を低く、人間の文書を高くランク付けするようなモデルを二値分類のDiscriminatorの代わりに採用することで生成文書の品質を改善した。

3. 技術や手法のキモはどこ？

学習データからランダムに選んだ参照文Uに対して生成文書を低く、人間の文書を高くランク付けする。生成文書の評価時は人間の文書を、人間の文書の評価時は生成文書を比較対象としてサンプリングする。



ランクスコアはコサイン類似度を用いて上のように決定される。このランク

なおPhが人間の文書、Gθが生成文書集合である。C-,C+はランク付け時の比較対象となる文書集合である。
SeqGANなどと同様テキストの学習には強化学習を利用する。

4. どうやって有効だと検証した？

先行研究であるSeqGAN及びMLEと比較。
使用データセットは3種類。

• COCO Image: Captions
• Chinese Poems

これらについてBLEUスコア及び人手での評価を行った。

• Shakespeare’s plays

たぶん変わった言い回しに対する有効性の検証として使用している(?)

5. 議論はある？

• 長文の生成はまだ難しい。
• ランク学習を利用することで多少軽減されるが、強化学習を利用しており依然学習は難しい

6. 次に読むべき論文は？

Po-Sen Huang, Xiaodong He, Jianfeng Gao, Li Deng, Alex Acero, and Larry Heck. Learning deep
structured semantic models for web search using clickthrough data. In Proc. CIKM, pages 2333–2338,
2013.