こんにちは！
現役パラレルワーカー フクコです。
前回の記事↓に続き
来年の2月の試験に向けてE資格試験勉強中のため
ゼロつくシリーズでおなじみ
オーライリーから出版されている
ディープラーニングの本格的な入門書でよくおススメされる
「ゼロからつくる Deep Learning」本
この本↑を毎日5ページずつコツコツこなすと
約2か月間で今年中に終了するので
来年のE資格試験までにこれで基礎力をつけることにしました。(＾＾)
ついつい私は何もないとだらけてしまうので(笑)
毎日5ページ終わった後の記録とまとめを書いていこうと思います。
と、まとめに入る前に…
やる気を出すためのコトバをシェアします！！(主に私のやる気を出すために 笑）
「道を極めた者が辿り着く場所はいつも同じだ。
時代が変わろうとも そこに至るまでの道のりが違おうとも
必ず同じ場所に行きつく。」
by 継国縁壱（つぎくによりいち）
おなじみ私の大好きな「鬼滅の刃」から
継国縁壱（つぎくによりいち）の名言です。
鬼殺隊の核となった始まりの呼吸である「日の呼吸」の使い手です。
全ての鬼の元凶である鬼舞辻無惨を唯一追い詰めた存在です。
そう！日々精進！！
気がついたら極めている！E資格！！笑
縁壱さん、どうもありがとう！ （＾０＾）
今日もやる気が出てきました！
よし！！ 今日も頑張るぞ～！ お～！！
というコトで、縁壱さんのように道を極めるためにも、今日も私は淡々とノルマをこなしますよ！ 笑
ではでは、いい加減まとめに入ります。笑
その前に本の目次の紹介です。
ゼロつくディープラーニングは、下記↓の合計8章で構成されています。
本の目次
- 1章 Python入門
- 2章 パーセプトロン
- 3章 ニューラルネットワーク
- 4章 ニューラルネットワークの学習
- 5章 誤差伝播法
- 6章 学習に関するテクニック
- 7章 畳み込みニューラルネットワーク
- 8章 ディープラーニング
ちなみに…
ゼロつくディープラーニングの第1章はPython入門のセクション(20ページ分)なので、
とりあえず今回私は飛ばし、第2章からまとめています。
今回は第5章のつづきからでーす。
第5章 誤差逆伝播法のつづき
ココでは、
重みパラメータの勾配の計算を効率よく行える「誤差逆伝播法」について学ぶ。
5.2.2 連鎖率とは？
連鎖率について話すには、
まずは合成関数の説明から！
連鎖率とは
ある関数が合成関数で表される場合、その合成関数の微分は、合成関数を構成するそれぞれの関数の微分の積によってあらわすことができる。
次の式を例に連鎖率を考えてみる。
Z = t²
t = x + y
この式を数式で連鎖率を表すとこんな↓の感じ。
=
それでは、連鎖率を使って
↑の微分を求めてみる。
それにはまず、それぞれの偏微分を求める。
= 2t
= 1
したがって、
微分の答えは、
=
= 2t * 1 = 2(x + y)
となる。
5.3 逆伝播
計算グラフの逆伝播が連鎖率によって成り立つことを説明した。
