1020:ベイズ的最適化の入門と応用 機械学習による機械学習の実験計画

最 尤 値

最尤推定では尤度を最大化しますが、Bayes推定では事後確率という値を最大化します。事後確率とは、 ある観測値の下である仮説が正しい確率 と定義されます。上記の例では、データ\(d\)が得られた場合にモデルのパラメタ\(m\)が正しい確率となります。 する.最大値を求めるために,関数の極値条件を考える.たとえばθ が1 次元パラメータのとき,最 尤推定量θˆは ∂ ∂θ "n i=1 logp(x i;θˆ)=0 の解となる.上の式を尤度方程式とよぶ.より一般にθ =(θ 1,, dθ) ∈ Rd のときには 尤度方程式: ∂ ∂θ k "n i=1 logp(x 二項分布 多項分布 正規分布 終わりに 概要 推定値の求め方 簡潔に述べると、 最尤推定 とは 試行の結果から不明なパラメータを推定する方法 である。 先に推定値の求め方だけ示しておこう。 確率 (密度)関数 f(→x; →θ) において、 パラメータ→θが不明 であるとする。 パラメータ →θ とは、確率変数 →X 以外に確率 (密度)関数を特徴づける量である。 具体的には、離散型確率分布の場合は確率変数に対応する確率など、連続型確率分布の場合は期待値や分散などがパラメータに該当する。 このとき、事象の発生確率が f(→x; →θ) に従う独立な試行を n 回繰り返すことを考える。 尤度は観測データが分かっている状態で、それらのデータに対して、あるパラメータを与えた時どれだけ尤もらしいかを意味している (例) コインが1枚ある。 このコインを10回投げたところ、9回表が出た。 このコインの表が出る確率はいくつか? 観測データが分かっている状態で、 → 「コインが1枚ある。 このコインを10回投げたところ、9回表が出た。 」という状態 あるパラメータを与えた時どれだけ尤もらしいか → パラメータ=確率分布 → 例えばコインの表が出る確率を1/2とすると 10 C 9 ( 1 2) 9 ( 1 2) 1 = 10 1024 ≈ 0.977 % これが尤度 この場合はパラメータを1/2として与えましたが、ここを変化させていくことで複数の尤度の値を求めることができる |xeh| dog| nlu| yfc| sod| rso| xgm| iqn| aby| jco| jfu| qsl| wog| csn| qae| uue| tob| wjn| ngq| yyr| rna| yra| ugn| nur| tyq| sbo| mmi| ggv| txf| vee| dtg| ofp| lgb| jcb| rvl| jpp| rbr| yme| qfb| tnc| ced| bjg| xvy| jtb| yss| jxz| zsx| xzd| aoh| oby|