【3日目】平凡エンジニアがAIエンジニアになるまでの物語
目次
作業時間
2020/5/3
- 18:00-20:00(2H) 数学
- 24:00-25:00(1H) ブログ
作業報告
数学day2_微分
連鎖律
合成関数の微分を多変数関数へ拡張したもの。
連鎖律(多変数関数の合成関数の微分) | 高校数学の美しい物語
方向微分
ある点でのある方向への傾き。
方向微分の意味と求め方 - 具体例で学ぶ数学
勾配
傾斜の程度。
勾配ベクトル
その点で関数の最も変化する方向を示す。
勾配降下法
機械学習の目的は、INPUTからOUTPUTを予測する関数を作ること。 その関数の勾配が0になれば誤差がないということ。 だから、勾配を0にするために、下記の手順を行う。
- 誤差関数の初期値を設定
- 初期値の勾配を計算
- 勾配方向に沿って一定の距離だけ動き、その座標での関数の値を取得
- 2、3を繰り返して、勾配が0になるまで繰り返す
所感
掛け算の計算をミスる。ケアレスミスには気を付ける。
一転語
吾人はややもすると努力せずしてある事を成さんとするが如き考えを持つが、それは間違いきった話で、努力より他に吾人の未来を善くするものはなく、努力より他に吾人の過去を美したものはない。
努力は即ち生活の充実である。
努力は即ち各人自己の発展である。
努力は即ち生の意義である。
【努力論 p.92】