シグモイド関数の微分を導出してみる


機械学習の本なんかでシグモイド関数(ロジスティック関数)の微分がたまに出てきます。

\(S(x)= \large\frac{1}{1+ \exp (-x)} \)

微分

\(S'(x)=S(x) \,\big(1\,-\,S(x)\big) \)

が、その導出法があまり載っていないので、メモ程度にまとめました。

- 目次 -

スポンサーリンク

逆数の微分

まず、逆数の微分公式を確認しておきます。

\(\large \left(\frac{1} {f} \right)’=\large \frac{- f’ } {f^{2}} \)   です。    くわしくは こちらで

シグモイド関数の微分

シグモイド関数は \(1+ \exp (-x)\) の逆数なので

\(S'(x)\large= \left( \frac{1}{1+ \exp (-x)}\right)’\)

\(\Large= \frac{-\big(1+ \exp (-x)\big)’}{\big(1+ \exp (-x)\big)^{2}}\)

\(\large= \frac{\exp (-x)}{\big(1+ \exp (-x)\big)^{2}}\)

\(\large= \frac{1}{1+ \exp (-x)}\, \frac{\exp (-x)}{1+ \exp (-x)}\)

\(\large= \frac{1}{1+ \exp (-x)} \, \left(\frac{1+ \exp (-x)}{1+ \exp (-x)} \,-\, \frac{1}{1+ \exp (-x)}\right)\)

\(\large= \large S(x) \,\big(1\,-\,S(x)\big)\)

スポンサーリンク

コメントはお気軽に