最尤推定についてのまとめ

最尤推定について自分用にまとめます。
（完全に個人用なので、ミスがあったらすみません）

はじめに

Youtubeでめちゃくちゃ分かりやすい動画あったのでその紹介。

作者に感謝。

最尤推定とは？

最尤推定は、ある母集団から取り出した標本から、その標本の通りになるような母集団を探索し、
最もそれらしい（尤もらしい）母数を推定すること。

例題

フリースローがpの確率で入る時、200回打ったら120回入った。
この時最尤推定を利用すると確率pは幾つになるか？

尤度関数

母数の確率pを任意に動かした時に、取り出した標本になる確率を尤度といい、尤度を求める関数を尤度関数と言う。
ここでは母集団と標本は以下のように定義できる。

尤度関数$L(p)$を式で表すと

$$ L(p) = {}{200} \mathrm{ C }\ p^{120}\ (p-1)^{80} $$

この関数に対しpの値を変化させた時、最も大きい値となるpを探す。

微分

尤度関数の最も大きい点を探すために微分を行う。
（微分して0になる点のうちいずれかが、最大になる値）

$$ \frac{d}{dp}L(p) = 0 $$

$L(p)$は単調増加関数なので対数尤度が0になる点を求めれば良い $$ \begin{align} \frac{d}{dp}\log L(p) &= \frac{d}{dp}\ \log {}{200} \mathrm{ C } + 120\log p + 80\log (1-p) \ &= 20p -12 = 0 \end{align}$$

よって、 $$p = \frac{3}{5}$$