19. 正規化層

正規化層がディープラーニングモデルにおいて果たす主な役割は?

  • 学習の安定化
  • モデルの複雑化
  • 勾配消失の促進
  • 過学習の促進

正解!

不正解...

正解は学習の安定化です。

正規化層は、学習を安定させ、収束を早めるために用いられます。

問題に戻る

各バッチの出力を正規化し、学習を安定させる手法は?

  • バッチ正規化
  • 勾配降下法
  • 活性化関数
  • 誤差逆伝播法

正解!

不正解...

正解はバッチ正規化です。

バッチ正規化は、各バッチ単位で出力を正規化することで、学習を安定させる代表的手法です。

問題に戻る

層全体の出力に対して正規化を行う手法は?

  • レイヤー正規化
  • バッチ正規化
  • ドロップアウト
  • プーリング

正解!

不正解...

正解はレイヤー正規化です。

レイヤー正規化は、層単位で正規化を行う手法で、小さなバッチサイズでも効果を発揮します。

問題に戻る

スタイル変換タスクなどで用いられる、個々のデータに対する正規化手法は?

  • インスタンス正規化
  • バッチ正規化
  • レイヤー正規化
  • グループ正規化

正解!

不正解...

正解はインスタンス正規化です。

インスタンス正規化は、主にスタイル変換などのタスクで使用される正規化手法です。

問題に戻る

チャネルをグループに分けて正規化する手法は?

  • グループ正規化
  • バッチ正規化
  • レイヤー正規化
  • インスタンス正規化

正解!

不正解...

正解はグループ正規化です。

グループ正規化は、チャネルをグループに分けて正規化する手法で、小規模バッチでも効果的です。

問題に戻る

正規化層で出力値の変換に用いられる操作は?

  • 活性化関数の非線形性
  • 重みのスケーリング
  • 出力のスケーリングとシフト
  • 勾配の逆伝播停止

正解!

不正解...

正解は出力のスケーリングとシフトです。

正規化層では、出力を一定の分布に変換し、スケーリングとシフトを加えることで表現力を維持します。

問題に戻る

正規化手法とバッチサイズの関係に関する説明で正しいものは?

  • バッチ正規化はバッチサイズの影響を受ける
  • レイヤー正規化はバッチサイズに依存しない
  • グループ正規化は中間的
  • すべて正しい

正解!

不正解...

正解はすべて正しいです。

各正規化手法は、バッチサイズへの依存度が異なります。

問題に戻る

正規化層の導入による効果として正しいものは?

  • 正規化層の導入により学習が早くなる
  • 勾配の流れが安定する
  • モデルが過学習しにくくなる
  • すべて正しい

正解!

不正解...

正解はすべて正しいです。

正規化層の効果として、学習の高速化・安定化・過学習の抑制が挙げられます。

問題に戻る

各正規化手法の特徴・挙動に関する説明として正しいものは?

  • バッチ正規化は訓練と推論で挙動が異なる
  • レイヤー正規化は常に一貫した挙動
  • グループ正規化はバッチサイズの影響を受けにくい
  • すべて正しい

正解!

不正解...

正解はすべて正しいです。

正規化手法ごとに挙動や特徴が異なり、タスクに応じて使い分けが重要です。

問題に戻る

正規化層の配置に関する正しい考え方は?

  • 正規化層は活性化関数の前に置く
  • 後に置く
  • タスクにより前後どちらでもよい
  • 常に最後に置く

正解!

不正解...

正解はタスクにより前後どちらでもよいです。

正規化層は通常、活性化関数の前または後に置かれますが、ネットワーク設計により異なります。

問題に戻る