21. スキップ結合

ある層の出力を後続層に直接渡す結合方法を何という?

  • スキップ結合
  • バッチ正規化
  • プーリング
  • 活性化関数

正解!

不正解...

正解はスキップ結合です。

スキップ結合(Skip Connection)は、ある層の出力を次の層だけでなく、さらに後ろの層にも伝える構造です。

問題に戻る

スキップ結合の効果として正しいものは?

  • 勾配消失問題の緩和
  • 出力の正規化
  • パラメータの削減
  • 入力データの圧縮

正解!

不正解...

正解は勾配消失問題の緩和です。

スキップ結合は、勾配が層を通じて伝わりやすくなることで、勾配消失問題を緩和します。

問題に戻る

スキップ結合を活用して非常に深いネットワークを構築できるモデルは?

  • ResNet
  • LeNet
  • AlexNet
  • VGGNet

正解!

不正解...

正解はResNetです。

ResNet(Residual Network)は、スキップ結合を活用した深層学習モデルの代表例です。

問題に戻る

中間層の情報を直接伝播させ、深層学習の性能を向上させる構造は?

  • スキップ結合
  • バッチ正規化
  • プーリング
  • ドロップアウト

正解!

不正解...

正解はスキップ結合です。

スキップ結合は、情報を直接次の層に渡すことで深層ネットワークの学習を助けます。

問題に戻る

スキップ結合を使った構造は一般に何と呼ばれる?

  • 残差構造
  • 再帰構造
  • 畳み込み構造
  • 自己注意構造

正解!

不正解...

正解は残差構造です。

スキップ結合を用いたネットワーク構造は、一般に残差構造(Residual Structure)と呼ばれます。

問題に戻る

スキップ結合が導入された背景として正しいものは?

  • 深層化による性能低下の防止
  • モデルの浅化
  • 重みの削減
  • 活性化関数の廃止

正解!

不正解...

正解は深層化による性能低下の防止です。

スキップ結合は、深層化によって生じる学習困難・性能低下の課題を解決するために導入されました。

問題に戻る

スキップ結合の採用状況に関する説明として正しいものは?

  • ResNetではスキップ結合を使用する
  • LeNetでは使用されない
  • VGGNetでは使用されない
  • すべて正しい

正解!

不正解...

正解はすべて正しいです。

スキップ結合はResNetで用いられますが、LeNetやVGGNetなどでは採用されていません。

問題に戻る

スキップ結合がネットワークに与える影響として正しいものは?

  • スキップ結合の影響により勾配が伝播しやすくなる
  • パラメータが減る
  • 活性化関数が不要になる
  • 特徴量が削除される

正解!

不正解...

正解はスキップ結合の影響により勾配が伝播しやすくなるです。

スキップ結合により、深層ネットワークでも勾配が安定して伝播しやすくなります。

問題に戻る

スキップ結合における基本的な操作は?

  • スキップ結合は出力を次の層に足し合わせる
  • 出力を平均する
  • 出力を削除する
  • 出力を正則化する

正解!

不正解...

正解はスキップ結合は出力を次の層に足し合わせるです。

スキップ結合は、前の層の出力を後続層の出力に足し合わせることで残差を伝えます。

問題に戻る

スキップ結合を導入した結果、期待される効果は?

  • スキップ結合によって深層モデルの性能が向上する
  • 出力が滑らかになる
  • 勾配が消失する
  • 過学習が起きやすくなる

正解!

不正解...

正解はスキップ結合によって深層モデルの性能が向上するです。

スキップ結合は、深いネットワークでも性能を効果的に引き出すことが可能になります。

問題に戻る