Xavier Initialization | Abstract 第4文
We first observe the influence of the non-linear activations functions.
Xavier Glorot and Yoshua Bengio, "Understanding the difficulty of training deep feedforward neural networks"
ディープラーニングの初期値の設定において、sigmoidやtanhのような左右対称で中央付近で線形関数として見なせる活性化関数に適しているとされているXavierの初期値に関する論文の"Understanding the difficulty of training deep feedforward neural networks"のAbstractの第4文について、英語リーディング教本
「我々はまず、非線形の活性化関数の影響を観察する。」
firstは形容詞と副詞の可能性がありますが、ここでは副詞で「まず」の意味です。動詞のobserveを修飾しています。
first とは 意味・読み方・表現 | Weblio英和辞書
non-linearは形容詞です。名詞ではありません。「非線形の」という意味です。名詞の"activations functions"を修飾しています。
non-linear とは 意味・読み方・表現 | Weblio英和辞書
"activations functions"は「名詞+名詞」で一つの名詞として捉えます。活性化関数という意味です。前置詞ofの目的語になっていて、形容詞句として名詞のinfluenceを修飾しています。
なお、複数形+複数形とするのは珍しい表現のようです。wordの文法チェックにも引っかかります。
Google検索で、"activations functions"では約10,300件しかヒットしません。
その一方で、"activation functions"では約995,000件もヒットします。97倍もの差があります。
Xavierの初期値については、下記の書籍にて詳しく解説されています。
薬袋善郎先生の公式ウェブサイト
Xavier Initialization | Abstract 第3文
Our objective here is to understand better why standard gradient descent from random initialization is doing so poorly with deep neural networks, to better understand these recent relative successes and help design better algorithms in the future.
Xavier Glorot and Yoshua Bengio, "Understanding the difficulty of training deep feedforward neural networks"
ディープラーニングの初期値の設定において、sigmoidやtanhのような左右対称で中央付近で線形関数として見なせる活性化関数に適しているとされているXavierの初期値に関する論文の"Understanding the difficulty of training deep feedforward neural networks"のAbstractの第3文について、英語リーディング教本
「我々のここでの目的は、なぜ無作為な初期化からの標準的な勾配降下が深いニューラルネットワークに対してうまくいっていないのかをよりよく理解すること、これらの最近の相対的な成功のより良い理解をすること、そして将来においてアルゴリズムをより良く設計するのに役立てることである。」
hereは副詞です。「[名詞の後に用いて] ここにいる[ある], この.」の用法で使われています。
ジーニアス英和大辞典によると、「名詞の後に置いて形容詞的に使うことができる」と解説があります。この解説に従うと、hereは直後の動詞のisを修飾しているのではなく、形容詞的に直前の名詞のobjectiveを修飾していることになります。
つまり、Frame of Referenceでは、「副詞の働きは、動詞修飾・形容詞修飾・他の副詞修飾・文修飾」というルールがありますので、この文のhereは例外的な用法です。そのため、<F.o.R.だけではうまく解釈できない可能性のある英文>のタグを付けました。
ただし、細かく品詞分解するとこのような問題に直面するものの、普通に文の内容を理解するにはあまり支障がないところではあると思います。
主節の述語動詞であるisの補語は、
- to understand
- to (better) understand
- (省略されているto) help
です。helpの直前のandは等位接続詞で、それらを繋いでいます。それぞれ、不定詞名詞用法で、前の働きは名詞でisの補語です。
whyからnetworksまでは名詞節です。whyは関係副詞です。これは、先行詞が省略された関係副詞は名詞節を作ると言われる現象に該当します。whyの場合は、the reasonという先行詞が省略されています。名詞節の内側でのwhyの働きは副詞で、is doingを修飾しています。
is doingは進行形です。doは自動詞で「うまくいく」の意味で用いられています。
英語「do」の意味・使い方・読み方 | Weblio英和辞書
helpは他動詞で、「〔+to do / +原形〕〈ものが〉〈…するのに〉役に立つ，助けとなる 」の用法で使用されています。helpの直後のdesignは動詞の原形です。designは準動詞であり、前の働きはhelpの目的語で、後ろの働きは他動詞です。
英語「help」の意味・使い方・読み方 | Weblio英和辞書
Xavierの初期値については、下記の書籍にて詳しく解説されています。
薬袋善郎先生の公式ウェブサイト
Xavier Initialization | Abstract 第2文
All these experimental results were obtained with new initialization or training mechanisms.
Xavier Glorot and Yoshua Bengio, "Understanding the difficulty of training deep feedforward neural networks"
ディープラーニングの初期値の設定において、sigmoidやtanhのような左右対称で中央付近で線形関数として見なせる活性化関数に適しているとされているXavierの初期値に関する論文の"Understanding the difficulty of training deep feedforward neural networks"のAbstractの第2文について、英語リーディング教本
「これらすべての実験結果は、新しい初期化または訓練方法によって得られた。」
experimentalは形容詞で「実験の」という意味です。
experimental とは 意味・読み方・表現 | Weblio英和辞書
obtainは他動詞で、「得る、獲得する」という意味です。ここではwere obtainedと受身の形になっています。第三文型の動詞の受身なので、後ろに動詞の目的語も補語も来ません。
英語「obtain」の意味・使い方・読み方 | Weblio英和辞書
initializationは名詞で「初期化」という意味です。機械学習では必ず登場するキーワードです。
initializationの意味・使い方・読み方 | Weblio英和辞書
orは等位接続詞です。名詞のinitializationとtraining mechanismsを繋いでいます。したがって、形容詞のnewは、名詞のinitializationとtraining mechanismsの両方にかかっています。これらの名詞は前置詞withの目的語です。
"with new initialization or training mechanisms"は副詞節で、動詞のwere obtainedを修飾しています。
mechanismは名詞で、「機械(装置)、機械仕掛け、機構、仕組み、からくり、メカニズム、(操作の)手順、方法、過程、心理過程」の意味があり、ここでは方法と訳しました。
mechanismの意味・使い方・読み方 | Weblio英和辞書
"new initialization or training mechanisms"が何のことか気になるところですが、それは論文の次の文以降に書かれています。
Xavierの初期値については、下記の書籍にて詳しく解説されています。
薬袋善郎先生の公式ウェブサイト
Xavier Initialization | Abstract 第1文
Whereas before 2006 it appears that deep multilayer neural networks were not successfully trained, since then several algorithms have been shown to successfully train them, with experimental results showing the superiority of deeper vs less deep architectures.
Xavier Glorot and Yoshua Bengio, "Understanding the difficulty of training deep feedforward neural networks"
ディープラーニングの初期値の設定において、sigmoidやtanhのような左右対称で中央付近で線形関数として見なせる活性化関数に適しているとされているXavierの初期値に関する論文の"Understanding the difficulty of training deep feedforward neural networks"のAbstractの第1文について、英語リーディング教本
「2006年以前は深い多層ニューラルネットワークはうまく訓練されていなかったようだが、それ以来、いくつかのアルゴリズムがそれらをうまく訓練することが示されてきており、実験結果はより深い構造のより深くない構造に対する優位性を示している。」
whereasは従属接続詞です。ここでは、Whereasからtrainedまでが副詞節となっています。
whereasの意味・使い方・読み方 | Weblio英和辞書
itは仮主語です。真主語はthatからtrainedまでの名詞節です。thatは従属接続詞です。
appearsは自動詞で、ここでは「[it を主語として]:〔(+to+(代)名詞)+that〕〔…には〕〈…と〉思える.」という意味です。
appearは自動詞のみで、他動詞ではありません。したがって、thatから始まる名詞節はappearsの目的語ではありません。
英語「appear」の意味・使い方・読み方 | Weblio英和辞書
since thenは一つの副詞としました。文修飾として、前後の文をつないでいます。
https://www.wordreference.com/enja/since%20then
since thenで「それ以来」という意味です。
since thenの意味・使い方・読み方 | Weblio英和辞書
長い文なので少しわかりづらいですが、この文の主語は、algorithmsです。主節の述語動詞は、been shownです。
Xavierの初期値については、下記の書籍にて詳しく解説されています。
薬袋善郎先生の公式ウェブサイト
pix2pix | Abstract 第6文
As a community, we no longer hand-engineer our mapping functions, and this work suggests we can achieve reasonable results without hand-engineering our loss functions either.
Phillip Isola, et al., "Image-to-Image Translation with Conditional Adversarial Networks"
GANを利用した画像生成アルゴリズムの一種で、画像のペア変換を可能にしたpix2pixの論文である"Image-to-Image Translation with Conditional Adversarial Networks"のAbstractの第6文について、英語リーディング教本
「コミュニティとして、もう我々は我々の写像関数を手作業で設計する必要はなく、我々は我々の損失関数もまた手作業で設計することなく合理的な結果を達成することができることをこの研究は示唆している。」
"no longer＝not…any longer"で、「もはや…しないで」「もう…ではない」という意味の熟語です。
no longerの意味・使い方・読み方 | Weblio英和辞書
薬袋先生が英語リーディングの奥義
hand-engineerという単語は辞書では見つかりませんでした。
engineerは他動詞で「設計する、工作する」という意味もありますので、それをhandで行うという意味になると解釈しました。したがって、「手作業で設計する」と訳しました。
engineerの意味・使い方・読み方 | Weblio英和辞書
hand-engineerは、hand-craftと同じく、hand+動詞のような組み合わせの単語だと思います。
hand-craftの意味・使い方・読み方 | Weblio英和辞書
andは等位接続詞です。ここでは、文と文をつないでいます。つまり、
- We no longer hand-engineer our mapping functions.
- This work suggests we can achieve reasonable results without hand-engineering our loss functions either.
という二つの文をつないでいます。
workには「仕事」だけでなく「研究」という意味もあります。
suggestは他動詞で、「示唆する」という意味もあります。
英語「suggest」の意味・使い方・読み方 | Weblio英和辞書
suggestの後ろのweから文末までは名詞節で、動詞のsuggestの目的語になっています。
この文では従属接続詞のthatが省略されています。従属接続詞のthatが名詞節を作り、その名詞節が動詞の目的語になっているときは、thatを省略することができるからです。
reasonableは形容詞で、「合理的な」という意味があります。
reasonable とは 意味・読み方・表現 | Weblio英和辞書
hand-engineeringは動名詞です。
前の働きは名詞で、前置詞withoutの目的語です。
後ろの働きは第三文型の動詞です。動詞の目的語はloss functionという名詞です。
eitherは副詞で、ここでは「[否定文で用いて] …もまた(…ない) 」の意味で用いられています。つまり、文の前半部分のhand-engineerも必要ないし、文の後半のhand-engineeringもまた必要ないということです。
either とは 意味・読み方・表現 | Weblio英和辞書
pix2pixについては、こちらの書籍でも取り上げられています。
薬袋善郎先生の公式ウェブサイト
pix2pix | Abstract 第5文
Indeed, since the release of the pix2pix software associated with this paper, a large number of internet users (many of them artists) have posted their own experiments with our system, further demonstrating its wide applicability and ease of adoption without the need for parameter tweaking.
Phillip Isola, et al., "Image-to-Image Translation with Conditional Adversarial Networks"
GANを利用した画像生成アルゴリズムの一種で、画像のペア変換を可能にしたpix2pixの論文である"Image-to-Image Translation with Conditional Adversarial Networks"のAbstractの第5文について、英語リーディング教本
「実際、この論文に関連するpix2pixのソフトウェアの公開以来、多くのインターネットユーザー(その多くはアーティスト)が我々のシステムを用いた独自の実験を投稿しており、パラメータの微調整を必要とせず、その広い適用性と採用の容易さをさらに実証している。」
indeedは副詞で、「実に、実際に、まったく」という意味で用いられています。
indeedの意味・使い方・読み方 | Weblio英和辞書
sinceは従属接続詞です。sinceからpaperまでで副詞節となっています。ここでは、「…以来、…の時からずっと」という意味です。
releaseは名詞で、「リリース、公開」という意味です。
英語「release」の意味・使い方・読み方 | Weblio英和辞書
"a large number of"は「数量 + of 〜」の形です。"A of B"のAが「数量」「種類」「様態」を表す名詞のときには例外的にAとofが結びついて形容詞句になり、Bを修飾することがあります。
ここでは、"a large number of"という形容詞句が名詞の"internet users"を修飾していることになります。そのため、この文の主語はnumberではなく、"internet users"です。
haveは助動詞です。have postedで現在完了形です。つまり、今までたくさんの人が、their own experimentsをpostしてきたという時間軸での過程を伝えるニュアンスがあります。
furtherは副詞で、demonstratingを修飾しています。ここでは、「なおそのうえに，さらにまた」という意味で用いられていると解釈しました。そのため、demonstratingの後ろの働きである動詞に対して修飾していると考えました。
furtherの意味・使い方・読み方 | Weblio英和辞書
demonstratingは準動詞で、前の働きは副詞です。つまり、分詞構文です。ここでは、この文の前半部分を修飾する働きの文修飾であると解釈しました。
demonstrateは他動詞で、「実証する」という意味です。
英語「demonstrate」の意味・使い方・読み方 | Weblio英和辞書
applicabilityは名詞で、「適応性、応用のきくこと」という意味です。
applicabilityの意味・使い方・読み方 | Weblio英和辞書
easeは名詞で、「容易さ」という意味です。
andは等位接続詞で、名詞であるapplicabilityとeaseをつないでいます。
adoptionは名詞で、「採用(すること、されること) 」という意味です。
adoptionの意味・使い方・読み方 | Weblio英和辞書
tweakは動詞で「ひねる」という意味がありますが、転じて「微調整する」という意味があります。ここではtweakingという動名詞で用いられています。
英語「tweak」の意味・使い方・読み方 | Weblio英和辞書
tweakの意味・使い方｜英辞郎 on the WEB：アルク
pix2pixについては、こちらの書籍でも取り上げられています。
薬袋善郎先生の公式ウェブサイト
pix2pix | Abstract 第4文
We demonstrate that this approach is effective at synthesizing photos from label maps, reconstructing objects from edge maps, and colorizing images, among other tasks.
Phillip Isola, et al., "Image-to-Image Translation with Conditional Adversarial Networks"
GANを利用した画像生成アルゴリズムの一種で、画像のペア変換を可能にしたpix2pixの論文である"Image-to-Image Translation with Conditional Adversarial Networks"のAbstractの第4文について、英語リーディング教本
「我々は、この手法がラベルマップからの写真の合成、エッジマップからの物体の再構成、画像の色付けなどのタスクにおいて効果的であることを示す。」
thatは従属接続詞です。thatから文末までが名詞節で、他動詞のdemonstrateの目的語になっています。
andは等位接続詞です。動名詞のsynthesizing、reconstructing、colorizingをつないでいます。それらの動名詞は、前置詞atの目的語です。図解の表記のnはnounで名詞を意味し、前置詞atの目的語であることを示しています。
synthesizeは他動詞で、「(…を)合成する」という意味です。
英語「synthesize」の意味・使い方・読み方 | Weblio英和辞書
reconstructは他動詞で、「再構成する」という意味です。
英語「reconstruct」の意味・使い方・読み方 | Weblio英和辞書
colorizeは他動詞で、「〈白黒フィルムを〉(コンピューター処理で)色づけする」という意味です。
英語「colorize」の意味・使い方・読み方 | Weblio英和辞書
label mapやedge mapsなどについては、論文に掲載されている図を見ると、イメージがわかると思います。
"among other tasks"は下記の翻訳文章では「その他の機能に加えて」と訳されています。ここでは意味が分かりやすいように、「などのタスクにおいて」と訳しました。名詞節の内容を全体的に修飾しているので、副詞節で文修飾の働きをしていると解釈しました。
[...] be used as a bolting rig and as a utility rig for drilling holes and installing ventilation ducting, among other tasks.
Boomer E1 C-DHリグは、その他の機能に加えて、ロックボルトリグとしても、せん孔および換気 ダ クト 設置用の ユー ティ リティリグとし て も使 用可 能になります。
https://www.linguee.jp/日本語-英語/search?source=auto&query=%22among+other+tasks%22
pix2pixについては、こちらの書籍でも取り上げられています。
薬袋善郎先生の公式ウェブサイト
