個人的な Deep Learning の覚え書き。

ニューラルネットワーク

  • 何層かのニューロンで構成される。
    • ニューロンの式:
      • は出力、 は活性化関数、 は重み、 はバイアス。
    • 活性化関数
      • シグモイド関数:

全結合層

順伝播

  • 前層 In:x → Fully connected layer → Out:y 後続層
    • は出力、 は活性化関数、 は重み、 はバイアス。
  • 活性化関数
    • シグモイド関数:

逆伝播

  • 前層 dIn ← Fully connected layer ← dOut 後続層

重みの更新

Convolution(畳み込み層)

順伝播

  • 前層 In → Convolution → Out 後続層

逆伝播

  • 前層 dIn ← Convolution ← dOut 後続層

重みの更新

dB は Channel 毎の dOut の総和

YOLO9000

  • 顔認識
wget https://modeldepot.io/assets/uploads/models/models/2ab9c908-15c0-438d-905e-e75363c52c72_azFace.zip -O azFace.zip

データセット

半径 の円の面積は であり、球の体積は である。