こんにちは！
現役パラレルワーカー フクコです。
前回の記事↓に続き
www.fukuko-parallel-work.com
来年の2月の試験に向けてE資格試験勉強中のため
E資格とは？の記事はコチラ↓
ゼロつくシリーズでおなじみ
オーライリーから出版されている
ディープラーニングの本格的な入門書でよくおススメされる
「ゼロからつくる Deep Learning」本
この本↑を毎日5ページずつコツコツこなすと
約2か月間で今年中に終了するので
来年のE資格試験までにこれで基礎力をつけることにしました。(＾＾)
ついつい私は何もないとだらけてしまうので(笑)
毎日5ページ終わった後の記録とまとめを書いていこうと思います。
と、まとめに入る前に…
やる気を出すためのコトバをシェアします！！(主に私のやる気を出すために 笑）
「俺はもうほんとずっと我慢してた！
すごい痛いのを我慢してた！
俺は長男だから我慢できたけど、
次男だったら我慢できなかった。」
ｂｙ炭治郎
私の大好きな「鬼滅の刃」から
炭治郎の名言です。
わかる～、わかるわ～、炭治郎。
私も長女なので、この気持ちわかります。(笑)
先に生まれた方が自分もつらくても、弟、妹の面倒を見ないといけない。
そして、周囲からオートで寄せられる、無言の期待感。(笑)
なので、つらくても、我慢しなきゃいけないのってあるなと思います。
ただ、その無言の長男への期待って良い方に働くこともあるんですよね。
たしかに、年少者に対して弱音を吐けないっていうのが年長者にはある
ので
ツライと思われがちですが
新しい知識を身につけるとか
未知のことに挑戦するとか
自分を高めるのって誰でも初めてのことだから、きついんですよ。
そうすると、
途中でやめたくなることも多々あるんですが、
そんな時
自分が年少者に見られていて、弱気になれないような
自分をふるいたたせないといけない立場にいる方が
結構ノリと勢いで乗り越えられたりすることってあるとおもうんですよね。
なので、
私も長女だから頑張ります！！(なんのこっちゃ 笑)
炭治郎、どうもありがとう！ （＾０＾）
今日もやる気が出てきました！
よし！！ 今日も頑張るぞ～！ お～！！
というコトで、
今日もコツコツ、私は長女なのでノルマをゼッタイこなしますよ！笑
ではでは、いい加減まとめに入ります。笑
その前に本の目次の紹介です。
ゼロつくディープラーニングは、下記↓の合計8章で構成されています。
本の目次
- 1章 Python入門
- 2章 パーセプトロン
- 3章 ニューラルネットワーク
- 4章 ニューラルネットワークの学習
- 5章 誤差伝播法
- 6章 学習に関するテクニック
- 7章 畳み込みニューラルネットワーク
- 8章 ディープラーニング
ちなみに…
ゼロつくディープラーニングの第1章はPython入門のセクション(20ページ分)なので、
とりあえず今回私は飛ばし、第2章からまとめています。
前回第7章が終わったので、今回から第８章 ディープラーニングで～す。
第8章 ディープラーニング のつづき
層を深くしたディープなニューラルネットワーク。
ディープラーニングの性質と課題、そして、可能性についてみていく。
8.2.4 ResNet
ResNetは、
Microsoftチームによって開発されたネットワーク。
ディープラーニングの層を深くすると学習が上手くいかない問題を
「スキップ構造」を導入することで解消した。
「スキップ構造」とは？
入力データの畳み込み層をまたいでスキップして、出力に合算する構造のこと。
「スキップ構造」を取り入れることで、
層を深くしても、効率よく学習することができる。
逆伝播の際に、「スキップ構造」によって信号が減衰することなく伝わってくる。
ーポイント！ー
「スキップ構造」は、入力データをそのまま流すだけ。
逆伝播のときも、上流からの勾配をそのまま下流に流す。
ResNetのネットワーク構造は↓のとおり。
8.3 ディープラーニングの高速化
ビッグデータとネットワークの大規模化により、
ディープラーニングでは大量の演算を行う必要がある。
8.3.1 取り組むべき問題
畳み込み層で行われる演算を以下に拘束に効率よく行うかという点が
常に課題となる。
