人工知能プログラミングのための数学がわかる本

本日読了。

人工知能プログラミングのための数学がわかる本

人工知能プログラミングのための数学がわかる本

良書。人工知能への応用における数学の意義がていねいに説明されている。

  • 微分をもとにした勾配急降下法はディープラーニングでの最小値をもとめるのに使う。
  • 最小二乗法でも、二次関数の最小値を求めるのに微分を使う。
  • シグモイド関数とReLU関数は非線形モデルを学習するのに使われる。誤差伝搬のために微分値が大きいReLU関数がよく使われる。
  • モデルの係数ベクトルのノルム(正規化項)を大きくしすぎないようにすることで、過学習を防ぐ。
  • コサイン類似度でベクトルで表現したデータ同士の類似度を見る。
  • ニューラルネットワークの計算の基本は、行列とベクトルの掛け算である線形変換である。
  • 教師なし学習でのデータセットの主成分分析として、固有ベクトルが使われる。また個々のデータの寄与率が固有値として表現される。

などなど。