事後確率観測したデータを受け取った後の、ある事象が成り立つ条件付き確率。事前確率 × 尤度 / 周辺確率の比でベイズの定理から計算され、観測前の確率を観測後の確率に更新する量を表す。(posterior probability)とは、観測したデータを受け取った後の、ある事象が成り立つ条件付き確率事象 B が起きたとわかったときに事象 A も起きている割合。A と B の同時確率を B の確率で割って定義され、全体を B の縦帯に絞り直してから A の比を測る操作として読める。です。
定義
事象 B を観測した後に、事象 A が成り立つ確率を P(A∣B) と書き、これを「B を観測した条件での A の事後確率」と呼びます。ここで P(A∣B) は「B が起きたという前提のもとで A が起きる確率」を意味します(縦棒 ∣ は「〜という条件のもとで」という読み方です)。
記号の対応は次の通りです。P(A) は観測前の A の確率(事前確率観測データを受け取る前に事象に対して割り当てておく確率。ベイズの定理 P(A|B) = P(B|A) P(A) / P(B) の中で事後確率を計算する起点になる。)、P(B∣A) は A のもとで B が生じる確率(尤度観測した結果 B を固定したうえで「もし原因が A だったとしたらこの B が出る確率」を表す量。条件付き確率 P(B|A) と同じ式だが、A を動かす関数として読む視点の違いから別名を持つ。ベイズの定理 P(A|B) = P(B|A) P(A) / P(B) では事後確率の分子に現れ、最大尤度推定では推定値を選ぶ基準として最大化される。)、P(B) は B が生じる全体の確率(周辺確率同時分布から特定の変数を足し合わせて消したあとに残る、ある変数単独の確率。ベイズの定理の分母(evidence)として現れる。)です。「事後」は時系列の事後ではなく、観測の事後を指します。「検査結果が出た後」「データを受け取った後」という意味で、時間が経過したことを意味するのではありません。
迷惑メール判定では、Paul Graham が 2002 年に発表した "A Plan for Spam" が普及させたベイジアン・スパムフィルタが事後確率を計算します。各単語が出現する尤度から「このメールがスパムである事後確率」を算出し、単語ごとの尤度を逐次的に掛け合わせることで観測のたびに確率を更新します。「無料」「当選」のような単語が出るたびにスパム事後確率が段階的に上がり、しきい値を超えたメールを隔離します。
金融(Black-Litterman モデル)では、Goldman Sachs の Black と Litterman が 1990 年に発表した資産配分モデルが事後分布を活用します。市場均衡リターンを事前分布、アナリストの超過リターン見通しを尤度として事後リターン分布を導きます。事後リターンは事前(市場全体の集合知)とアナリスト見解(局所情報)の加重平均になり、見解の確信度(尤度の分散分散は、データが平均の周りにどれほど散らばっているかを表す統計量です。各データと平均との差(偏差)を二乗して平均し、元データの単位の二乗で表します。)が大きいほど事後は市場均衡に近く残ります。
確信度の低い見通しを無理に採用せず市場均衡に引き戻す動作が、従来の平均分散最適化で生じる「角解(コーナーソリューション)」問題を緩和します。CFA Institute のポートフォリオリスクとリターンに関するリフレッシャーリーディングでもベイズ的なアプローチとして実務的位置づけが解説されています。
機械学習では、ナイーブベイズ分類器・ベイジアンネットワーク・ベイズ最適化の中核演算が事後確率の計算です。ナイーブベイズ分類器では各単語の出現が条件付き独立第 3 の事象 C が起きたとわかった条件のもとで、事象 A と B が独立になる関係。無条件の独立性とは別物で、Simpson のパラドックス・ナイーブベイズ分類・因果推論の d-separation など実務の核となる場面に現れる。と仮定し、単語ごとの尤度を積算することで文書がスパムや特定カテゴリである事後確率を算出します。ベイズ最適化ではブラックボックス関数 f(x) の形状の事後分布を観測のたびに更新しながら、評価すべき x の候補を絞り込んでいきます。