最大事後確率
出典: フリー百科事典『ウィキペディア（Wikipedia）』
最大事後確率（英: Maximum a posteriori、MAP）推定は、統計学において、実測データに基づいて未知の量の点推定を行う手法である。ロナルド・フィッシャーの最尤法 (ML) に密接に関連するが、推定したい量の事前分布を利用して最適化された結果を得る。したがってMAP推定は、ML推定の正規化と見ることができる。
目次 |
[編集] 概要
x の観測に基づいて、未知の母集団パラメータ θ を推定したいとする。x の標本分布を f とすると、母集団パラメータを θ としたときの x の確率は f(x | θ) となる。すると
という関数は尤度関数であり、
は θ の最尤推定である。
ここで、θ の事前分布を g とする。すると、θ をベイズ推定における確率変数として扱える。θ の事後確率は次のようになる。
ここで g は θ の密度関数、Θ は g の定義域である。これはベイズの定理の直接的な応用である。
最大事後確率推定の手法では、次に θ をこの確率変数の事後分布の最頻値として推定する。
事後分布の分母は θ に依存していないので、最適化には何の役割も果たさない。θ のMAP推定の結果は、ML推定で事前分布 g が一様分布の場合に一致する。MAP推定は、一様損失関数におけるベイズ推定関数である。
MAP推定の計算方法はいくつか存在する。
- 閉形式で事前分布の最頻値が与えられるとき、解析的に解ける。この場合、共役事前分布を使う。
- 数値的最適値を得るには、共役勾配法やニュートン法がある。これには1次または2次の導関数が必要とされ、それを解析的または数値的に評価する必要がある。
- 期待値最大化法を変形して用いる。この場合、事後密度の導関数は不要である。
[編集] 例
ある並び 
の独立な確率変数 
があり、μ の事前分布は 
で与えられるとする。ここで μ のMAP推定を求める。
最大化すべき関数は次のようになる。
これは、次の式で μ を最小化することと等価である。
従って μ のMAP推定値は以下のようになる。
の場合を無情報事前分布（non-informative prior）と呼び、この例では 
である。
[編集] 関連項目
[編集] 参考文献
- M. DeGroot, Optimal Statistical Decisions, McGraw-Hill, (1970).
- Harold W. Sorenson, (1980) "Parameter Estimation: Principles and Problems", Marcel Dekker.
