確率変数とは、試行を行う前の段階では値が定まっておらず、試行を行うと確率分布に従って値が一つ定まる量です。
定義
確率変数は大文字 X X X で表記します。試行前の段階では X X X の値は確定していません。試行を 1 回行って初めて具体的な値が決まり、その観測された値を実現値 と呼び、小文字 x x x で表します。
記法 P ( X = x i ) P(X = x_i) P ( X = x i ) は「確率変数 X X X が値 x i x_i x i を取る確率」を意味します。たとえばサイコロなら P ( X = 3 ) = 1 / 6 P(X = 3) = 1/6 P ( X = 3 ) = 1/6 と書きます。
厳密には、確率変数は標本空間(試行の結果として起こりうるすべての結果の集合)Ω \Omega Ω から実数 R \mathbb{R} R への関数 X : Ω → R X: \Omega \to \mathbb{R} X : Ω → R として定義されます。「変数」という名前が付いていますが、X X X は写像です。この定義の意味は後の深掘りセクションで詳しく扱います。
大文字 X X X と小文字 x x x の使い分けは慣習ではなく概念の違いです。X X X は試行前に存在する「仕組み」そのもの、x x x は試行後に手元に残る「結果の数値」です。
性質
試行前は値が定まらない : X X X そのものは 1 つの数ではなく、「試行のたびに値が変わる仕組み」です。試行後に実現値 x x x が確定します
確率分布と紐づく : 確率変数 X X X には対応する確率分布 P X P_X P X が定まります。同じ標本空間 Ω \Omega Ω から「目の数」と「目の偶奇」を別々に取り出せるように、1 つの標本空間の上に複数の確率変数を定義できます
離散型と連続型の 2 種類がある : 取りうる値が可算個(1, 2, 3, …)なら離散確率変数、取りうる値が連続的な範囲(実数区間)なら連続確率変数です
関数として扱える : Y = g ( X ) Y = g(X) Y = g ( X ) も確率変数です。たとえば Y = X 2 Y = X^2 Y = X 2 や Y = log X Y = \log X Y = log X のように確率変数に関数を合成した結果もまた確率変数になります
独立性 は同時分布 で定義される : 2 つの確率変数 X , Y X, Y X , Y が互いに独立 であることは、同時分布 が周辺分布 の積に分解できることと同値です(詳細は深掘り参照)
視覚的に見る
サイコロを 1 回振る試行を例に、「標本空間 Ω \Omega Ω から実数 R \mathbb{R} R への写像」としての確率変数を見てみましょう。
Ω = { ω 1 , ω 2 , ω 3 , ω 4 , ω 5 , ω 6 } \Omega = \{\omega_1, \omega_2, \omega_3, \omega_4, \omega_5, \omega_6\} Ω = { ω 1 , ω 2 , ω 3 , ω 4 , ω 5 , ω 6 } はサイコロの 6 面を表す標本点の集合です。確率変数 X X X (目の数)は各標本点 ω i \omega_i ω i を整数 i i i に対応させる関数 X ( ω i ) = i X(\omega_i) = i X ( ω i ) = i です。
確率変数 X: 標本空間 Ω から実数 R への写像(サイコロ) ω₁ ω₂ ω₃ ω₄ ω₅ ω₆ X(ω₃) = 3 1 2 3 4 5 6 実数 ℝ(目の数)
左の 6 点が標本空間 Ω \Omega Ω の各標本点(ω 1 \omega_1 ω 1 から ω 6 \omega_6 ω 6 )、横軸が実数直線です。青い矢印が確率変数 X X X による写像 X ( ω i ) = i X(\omega_i) = i X ( ω i ) = i を示しています。ω 3 \omega_3 ω 3 を入れると X ( ω 3 ) = 3 X(\omega_3) = 3 X ( ω 3 ) = 3 が返る、という関係が矢印で見えます。
同じ Ω \Omega Ω の上に別の確率変数 Y Y Y (目が偶数なら 1、奇数なら 0)を定義することもできます。X X X と Y Y Y は別の写像ですが、同じ標本空間 Ω \Omega Ω を共有しています。
実世界での使われ方
金融資産の日次リターン : 日経平均株価の 1 日分の変動率を確率変数 R R R として扱います。毎営業日に実現値 r t r_t r t (例: r 1 = + 0.012 r_1 = +0.012 r 1 = + 0.012 、r 2 = − 0.008 r_2 = -0.008 r 2 = − 0.008 のような値)が観測されます。日経平均株価の指数データ に収録されているのはすべて実現値 であり、「明日の変動率」は試行前の確率変数です。リスク管理や資産配分の計算では、この R R R の確率分布を推定することから始まります。
公的統計の標本抽出 : 総務省統計局の労働力調査 では約 4 万世帯を無作為に選び、各人の就業状態を記録します。抽出された 1 人の就業状態(就業中 = 1、非就業 = 0 など)は確率変数であり、観測値がその実現値 です。母集団の真の失業率 p p p は未知ですが、標本から推定量(標本比率という確率変数)を構成して推定します。
機械学習の予測モデル : 入力特徴量 X X X (住宅の広さ・築年数など)と出力ラベル Y Y Y (価格)をそれぞれ確率変数として扱います。両者の同時分布 P ( X , Y ) P(X, Y) P ( X , Y ) から条件付き分布 P ( Y ∣ X ) P(Y \mid X) P ( Y ∣ X ) を学習するのが回帰・分類の数理的な枠組みです。「入力が与えられたとき出力がどう分布するか」という問いを、2 つの確率変数の関係として捉えることで定式化できます。
実世界のデータはつねに実現値 (小文字 x x x )の集合です。確率変数(大文字 X X X )は「そのデータが従う仕組み」を表す抽象的な存在で、直接観測はできません。統計学の推定とは、実現値 の集まりから X X X の分布を推測する作業です。
深掘り
可測関数としての厳密定義は測度論の言葉で書かれており、L3(大卒理系)以上向けです。直感的な理解には必要ありません。
標本空間 Ω \Omega Ω 上の可測関数としての厳密定義
確率論の厳密な枠組みでは、確率空間を三つ組 ( Ω , F , P ) (\Omega, \mathcal{F}, P) ( Ω , F , P ) で表します。
Ω \Omega Ω : 標本空間(試行の結果として起こりうるすべての結果の集合)
F \mathcal{F} F : 事象族(確率を割り当てられる事象の集合族。Ω \Omega Ω の部分集合の集まり)
P P P : 確率測度(事象 A ∈ F A \in \mathcal{F} A ∈ F に確率 P ( A ) P(A) P ( A ) を割り当てる関数)
確率変数とは、この確率空間上の実数値関数 X : Ω → R X: \Omega \to \mathbb{R} X : Ω → R のうち、可測性 と呼ばれる条件を満たすものです。具体的には、任意の実数 a a a に対して
が成立することです。なぜこの条件が必要かというと、「X X X が a a a 以下を取る確率」を計算するには、その集合 { ω : X ( ω ) ≤ a } \{\omega : X(\omega) \le a\} { ω : X ( ω ) ≤ a } が F \mathcal{F} F に属していなければ確率を割り当てられないからです。可測性は「確率を計算できる関数」であることの数学的な保証です。
サイコロの例では Ω = { 1 , 2 , 3 , 4 , 5 , 6 } \Omega = \{1, 2, 3, 4, 5, 6\} Ω = { 1 , 2 , 3 , 4 , 5 , 6 } 、X ( ω ) = ω X(\omega) = \omega X ( ω ) = ω そのものが自然な確率変数です。F \mathcal{F} F は Ω \Omega Ω のすべての部分集合の集合族で、すべての事象に確率 1 / 6 1/6 1/6 が割り当てられます。
「変数」という名前から中学数学の x x x (方程式の未知数)や高校数学の f ( x ) f(x) f ( x ) の引数と同じものを想像しがちです。しかし確率変数は関数です。x x x が「数を格納する箱」なら、X X X は「ω \omega ω を入れると数値が出てくる装置」です。
誘導される確率分布
確率変数 X X X を通じて、実数直線 R \mathbb{R} R 上に確率分布 P X P_X P X が誘導されます。
これを短く P ( X ∈ B ) P(X \in B) P ( X ∈ B ) と書きます。「分布」という言葉が指すのは、この P X P_X P X です。確率変数の中核的な情報は分布 P X P_X P X に集約されており、標本空間 Ω \Omega Ω の具体的な形は問いません。
離散型 では、取りうる値 x 1 , x 2 , … x_1, x_2, \ldots x 1 , x 2 , … それぞれに確率 p X ( x i ) = P ( X = x i ) p_X(x_i) = P(X = x_i) p X ( x i ) = P ( X = x i ) が割り当てられます。この p X p_X p X を確率質量関数と呼びます。∑ i p X ( x i ) = 1 \sum_i p_X(x_i) = 1 ∑ i p X ( x i ) = 1 が成立します。
連続型 では、任意の 1 点の確率はゼロです(P ( X = x ) = 0 P(X = x) = 0 P ( X = x ) = 0 )。代わりに確率密度関数 f X ( x ) f_X(x) f X ( x ) を使い、
で区間上の確率を計算します。「連続型で P ( X = x ) = 0 P(X = x) = 0 P ( X = x ) = 0 」という性質は直感に反しますが、実数直線上の 1 点は長さゼロの区間であり、積分値がゼロになることから自然に導けます。連続型の確率密度関数と累積分布関数については stats-09 で詳しく展開します。
連続確率変数で P ( X = x ) = 0 P(X = x) = 0 P ( X = x ) = 0 が成立することは、「その値が絶対に出ない」という意味ではありません。実現値 は必ず何らかの 1 点に確定しますが、連続分布では特定の 1 点だけを「ねらい打ち」する確率はゼロになります。区間に対する確率だけが意味を持ちます。
2 つの確率変数 X , Y X, Y X , Y の関係を記述するには、同時分布 P ( X ∈ A , Y ∈ B ) P(X \in A, Y \in B) P ( X ∈ A , Y ∈ B ) が必要です。
X X X と Y Y Y が独立 であるとは、任意の集合 A , B A, B A , B に対して
が成立することです。離散型なら、すべての ( i , j ) (i, j) ( i , j ) の組み合わせで
が成立することと同値です。言い換えると、同時分布 が周辺分布 の積に分解できるとき X X X と Y Y Y は独立 です。
期待値の線形性 E [ X + Y ] = E [ X ] + E [ Y ] E[X + Y] = E[X] + E[Y] E [ X + Y ] = E [ X ] + E [ Y ] は独立性 を必要としません。しかし分散の加法性 V [ X + Y ] = V [ X ] + V [ Y ] V[X + Y] = V[X] + V[Y] V [ X + Y ] = V [ X ] + V [ Y ] は独立性 があって初めて成立します。
関連する用語
中央値 (確率変数の実現値 から計算する代表値 の一つ)
外れ値 (実現値 の分布から大きく外れた観測値)
順位統計量 (実現値 を並べ替えて順位を付けた統計量)
詳しくは
stats-06: 期待値。サイコロに 3.5 はないのに平均は 3.5 。確率変数 X X X と実現値 x x x の記号区別を物語で導入し、期待値 の定義 E [ X ] = ∑ i x i P ( X = x i ) E[X] = \sum_i x_i P(X = x_i) E [ X ] = ∑ i x i P ( X = x i ) と線形性 まで展開しています