Transformer | Abstract 第7文
We show that the Transformer generalizes well to other tasks by applying it successfully to English constituency parsing both with large and limited training data.
Ashish Vaswani, et al., "Attention Is All You Need"
RNNやCNNを使わず、Attentionのみを使用した機械翻訳モデルであるTransformerの論文の"Attention Is All You Need"のAbstractの第7文について、英語リーディング教本
「我々は、大きな訓練データと限られた訓練データの両方を用いて、Transformerを英語の句構造解析にうまく適用することで、Transformerが他のタスクにもよく汎化することを示す。」
"constituency parsing"は「句構造解析」という意味のようです。
A Minimal Span-Based Neural Constituency Parser · Issue #95 · ymym3412/acl-papers · GitHub
英語リーディング教本のP276に説明のあるように、F.o.R.では"both 〜 and"を一つの等位接続詞として扱います。前置詞のwithと入り組んだ構造になっていますが、省略しないで書くと、
- with large training data
- with limited training data
を"both A and B"の形でつないでいます。
itはTransformerを指します。
薬袋善郎先生の公式ウェブサイト
