ベイズ統計学

平均が既知の場合

次のような平均が既知である確率変数を考える.

Yii.i.d.N(c, σ2)
モデル分布は,
m(yσ)=12πσ2exp[(yc)22σ2],  <y<
とする.観測値 y=(y1,y2,,yn) が与えられたときの尤度関数は,
l(σ2y)=i=1nm(yσ)i=1n1σexp[(yic)22σ2]=(1σ)nexp[12σ2i=0n(yic)2]=(σ2)n2exp[ns22σ2]
s2=1ni=1n(yic)2
事前分布として局所一様事前分布を用いるならば,フィッシャー情報量 I(σ2) は, u=σ2 とおいて,
I(σ2)=E[2u2lnm(yu)]=E[2u2ln(12πuexp[(yc)22u])]=E[2u2(12ln2π12lnu12u(yc)2)]=E[u(12u1+12(yc)2u2)]=E[(12u2(yc)2u3)]=E[12u2+(yc)2u3]=E[12u2]+E[(yc)2u3]=12u2+u3E[(yc)2]=12u2+u3u=12u2+u2=12u2=12(σ2)2
なので,
p(σ2)I(σ2)(σ2)2σ2
とすれば良い. また,σ2 に対する自然共役事前分布は,次のような形になっていれば良いことが知られている.
p(σ2)(σ2)(ν02+1)exp[λ02σ2]

一般に,確率変数 x が次の確率密度関数

p(x)=λν22ν2Γ(ν2)x(ν2+1)exp[λ2x],    0<x<
を持つとき,x は尺度母数 λ を持つ自由度 ν の逆カイ二乗分布に従うといい,
xχ2(ν,λ)
と略記される.逆カイ二乗分布とカイ二乗分布との関係は,
λxχ2(ν)

自然共役事前分布 p(σ2) のもとで σ2 の事後分布を求めると,

p(σ2y)=l(σ2y)p(σ2)(σ2)n2exp[ns22σ2](σ2)(ν02+1)exp[λ02σ2]=(σ2)(ν0+n2+1)exp[λ0+ns22σ2]=Dχ2(ν0+n, λ0+ns2)

事前分布として局所一様事前分布を用いるならば,

p(σ2y)=l(σ2y)p(σ2)(σ2)n2exp[ns22σ2]σ2=(σ2)(n2+1)exp[ns22σ2]=Dχ2(n, ns2)
これより,
ns2σ2χ2(n)

ところで,σ2 の事後分布が逆カイ二乗分布に従うとき,σ の事後分布は逆カイ分布に従う. このときの確率密度関数は,

p(σy)=λν22ν21Γ(ν2)σν1exp[λ2σ2]
であり.
σχ1(ν,λ)
と略記される.