この記事ではベイズの定理において事後分布がガンマ分布っぽいなと思った時にやるべきこと(?)を解説します。
ベイズの定理
\begin{align*} P(\theta \mid G) \propto P(G \mid \theta ) P(\theta) \end{align*}
を用いて、事後分布を考えている時、
明らかに事後分布が
\begin{align*} P(\theta \mid G) \propto \theta ^{\alpha – 1 }e^{-\beta \theta } \end{align*}
のように、ガンマ分布っぽい感じがしている時があるかと思います。
（\(\theta \geq 0\)の状況を考えていることにします。）
そういう時は、本当に事後分布はガンマ分布になります（当たり前ですが）。
実際、正規化定数を決めてやればいいわけなんですが、つまり
\begin{align*} \int_0^\infty \theta ^{\alpha – 1 }e^{-\beta \theta } \theta d\theta \end{align*}
を計算して、その逆数を正規化定数とすればいいことは明らかだと思いますが、実際計算してみましょう。
\begin{align*} \int_0^\infty \theta ^{\alpha – 1 }e^{-\beta \theta } \theta d\theta
&= \int_0^\infty \left(\frac{\varphi}{\beta } \right)^{\alpha – 1} e^{-\varphi} \frac{1}{\beta} d\varphi \quad (\beta \theta = \varphi \text{で変数変換})
\\&= \frac{1}{\beta ^\alpha} \int_0^\infty \varphi^{\alpha -1 } e^{-\varphi} d\varphi \end{align*}
です。ここで、ガンマ関数が
\begin{align*} \Gamma(\alpha) = \int_0^\infty \varphi^{\alpha -1 } e^{-\varphi} d\varphi \end{align*}
だったことを思い出してみると、
\begin{align*}\frac{1}{\beta ^\alpha} \int_0^\infty \varphi^{\alpha -1 } e^{-\varphi} d\varphi = \frac{\Gamma(\alpha)}{\beta ^{\alpha}} \end{align*}
となります。つまり、事後分布は当たり前ですが確かに
\begin{align*}P(\theta \mid G) = \frac{\beta^\alpha \theta^{\alpha – 1} e^{- \beta \theta }}{\Gamma(\alpha)} \end{align*}
となり、ガンマ分布
\begin{align*} \Gamma(\alpha, \beta) \end{align*}
に従うことがわかります。繰り返しますが、あたりまでした。
コメント