第4章 モンテカルロ近似 — 乱数で積分・比較・予測・モデルチェックを行う

本章では、事後分布から乱数を生成し、その平均・割合・分位点を計算することによって、積分を数値的に近似する。たとえば「二つの集団の母平均はどちらが大きいか」「次に選んだ二人の子供数はどちらが多いか」「モデルが今回のデータの特徴を再現できるか」を、同じ仕組みから考える。

本ノートは、提供された第4章の本文・節構成・数式・例・文献案内をできるだけ保ち、難所の直後に解説を補ったものである。RコードはNumPy・SciPyによるPythonコードに置き換えた。本章は既知の事後分布から 独立な標本を直接生成する方法 を扱うため、この方法をそのまま実装する。教科書の図4.1〜4.6を付属コードの条件で再現し、補助グラフ7枚と、反復標本の作り方を示す説明図1枚を加えた。乱数生成方式や密度推定の設定が異なるので、教科書と個々の乱数や曲線の細部までは一致しない。

読み始める前に、三種類の「たくさんある値」を区別しておこう。

記号 何を表すか この章の例
y(1),…,y(n)y^{(1)},\ldots,y^{(n)} 実際に観測したデータ 44人の子供数、合計66人
θ[1],…,θ[S]\theta^{[1]},\ldots,\theta^{[S]} 事後分布からコンピュータで生成した母数の候補 母平均1.4、1.7、1.5など
y~[1],…,y~[S]\tilde y^{[1]},\ldots,\tilde y^{[S]} モデルから生成した未観測結果の候補 次の女性の子供数0、2、1など

nn は調査で集めたデータ数であり、 SS はコンピュータ内の計算回数である。 SS を増やしても、 現実の調査人数が増えるわけではない 。この違いは、後で「信用区間」と「モンテカルロ標準誤差」を読み分けるときの出発点になる。本章では長い条件を短く書くため、観測データ全体を並べたベクトルを ∣y⟩=(y(1),…,y(n))T\ket{y}=(y^{(1)},\ldots,y^{(n)})^{\mathsf{T}} とも表す。

記号の形は第7章・第8章と同じ規約に従う。細字はスカラー、ket ∣⋅⟩\ket{\cdot} は列ベクトルを表す。上付きの丸括弧 (i)^{(i)} は何番目の観測か(何人目の女性か)、上付きの角括弧 [s]^{[s]} はコンピュータで何回目に生成した標本かを表し、どちらも累乗ではない。下付きの 1,2_1,_2 はどの群かを表す。例えば y(3)y^{(3)} は3人目の女性の子供数、 θ[3]\theta^{[3]} は3回目に生成した母平均の候補、 y~1[s]\tilde y_1^{[s]} は ss 回目に生成した第1群の予測値である。調査人数 nn に対応する番号には丸括弧、計算回数 SS に対応する番号には角括弧を使うので、括弧の形を見れば「現実のデータ」か「計算上の標本」かを区別できる。

前章では、事前分布をうまく選ぶと、データを見た後の分布も同じ種類の分布になり、平均や分散を簡単に計算できた。このような事前分布を共役事前分布という。しかし、平均と分散がわかるだけでは、知りたい問いのすべてには答えられない。たとえば「平均子供数が1.75未満である確率」や「二つの集団の平均の比がどの範囲にありそうか」も知りたくなる。

こうした問いは、数式では Pr⁡(θ∈A∣∣y⟩)\Pr(\theta\in A\mid\ket{y}) や、 θ1−θ2\theta_1-\theta_2 、 θ1/θ2\theta_1/\theta_2 の分布として表される。ここで AA は、たとえば「1.75未満」のように、調べたい値の範囲である。複数の集団のうち最大の母平均を調べるなら、対象は max⁡{θ1,…,θm}\max\{\theta_1,\ldots,\theta_m\} になる。

これらを式だけで計算するには、難しい積分が必要になることがある。そこで、事後分布から母数の候補を多数生成し、候補ごとに差や比を計算する。条件を満たす割合を数えたり、計算結果を小さい順に並べたりすれば、求めたい確率や区間を近似できる。必要な条件のもとでは、計算回数を増やすことで近似の精度を上げられる。これが本章の基本方針である。

期待値の下付きで「どの分布を使って平均するか」を示す

本ノートでは、期待値の下付きに 平均に使う分布 を書く。角括弧の中は 平均したい量 である。たとえば、

Ep(θ∣∣y⟩)[g(θ)]=∫g(θ) p(θ∣∣y⟩) dθ\mathrm{E}_{p(\theta\mid\ket{y})}[g(\theta)] =\int g(\theta)\,p(\theta\mid\ket{y})\,d\theta

は「観測データ ∣y⟩\ket{y} を固定し、 θ\theta を事後分布 p(θ∣∣y⟩)p(\theta\mid\ket{y}) に従って動かして、 g(θ)g(\theta) を平均する」と読む。積分の重みとなる分布を、下付きにそのまま書いた形である。 ∣y⟩\ket{y} について平均するわけではない。 Eθ∼p(θ∣∣y⟩)[g(θ)]\mathrm{E}_{\theta\sim p(\theta\mid\ket{y})}[g(\theta)] と書いても同じ意味だが、本文では長さを抑えるため、密度の引数から変数がわかる場合は θ∼\theta\sim を省く。通常の E[g(θ)∣∣y⟩]\mathrm{E}[g(\theta)\mid\ket{y}] に相当するが、以降は平均に使う分布が見える表記を用いる。

後半で使う表記も、ここにまとめておく。 Y~\tilde Y は、これから観測する子供数である。

表記 動かすもの 固定するもの・分布の意味
Ep(θ)[g(θ)]\mathrm{E}_{p(\theta)}[g(\theta)] 母数 θ\theta 観測前の事前分布で平均
Ep(θ∣∣y⟩)[g(θ)]\mathrm{E}_{p(\theta\mid\ket{y})}[g(\theta)] 母数 θ\theta 観測データ ∣y⟩\ket{y} を固定し、事後分布で平均
Ep(y~∣θ)[h(Y~)]\mathrm{E}_{p(\tilde y\mid\theta)}[h(\tilde Y)] 将来の子供数 Y~\tilde Y 母数 θ\theta を固定し、条件付き分布で平均
Ep(y~∣∣y⟩)[h(Y~)]\mathrm{E}_{p(\tilde y\mid\ket{y})}[h(\tilde Y)] 将来の子供数 Y~\tilde Y データ ∣y⟩\ket{y} を固定し、母数の不確かさも含む事後予測分布で平均
EMC[θˉ]\mathrm{E}_{\mathrm{MC}}[\bar\theta] 計算に使う SS 個の乱数の組 データと SS を固定し、計算全体をやり直したときの分布で平均。後で定義する

分布名がわかっているときは Egamma⁡(68,45)[θ]\mathrm{E}_{\operatorname{gamma}(68,45)}[\theta] のようにも書く。分散にも同じ規則を使い、 Var⁡p(θ∣∣y⟩)(θ)\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta) は事後分布で測った母数の分散を表す。

4.1 モンテカルロ法

前提:この章で使うポアソン・ガンマモデル

まず、第3章を参照しなくても計算を追えるよう、モデルを確認する。 Y(i)Y^{(i)} は女性 ii の子供数、 θ\theta は対象集団の1人あたりの平均子供数である。ここでの「出生率」は、この平均子供数を指す。年間の出生件数を人口で割った率とは区別する。

Y(i)∣θ∼Poisson⁡(θ),p(y(i)∣θ)=θy(i)e−θy(i)!,y(i)=0,1,2,…Y^{(i)}\mid\theta\sim\operatorname{Poisson}(\theta),\qquad p(y^{(i)}\mid\theta)=\frac{\theta^{y^{(i)}}e^{-\theta}}{y^{(i)}!}, \qquad y^{(i)}=0,1,2,\ldots

θ\theta を与えたとき各観測は独立とし、事前分布は gamma⁡(a,b)\operatorname{gamma}(a,b) とする。本章の第2引数 bb は rate(率) である。

p(θ)=baΓ(a)θa−1e−bθ,Egamma⁡(a,b)[θ]=ab,Var⁡gamma⁡(a,b)(θ)=ab2.p(\theta)=\frac{b^a}{\Gamma(a)}\theta^{a-1}e^{-b\theta},\qquad \mathrm{E}_{\operatorname{gamma}(a,b)}[\theta]=\frac{a}{b},\qquad \operatorname{Var}_{\operatorname{gamma}(a,b)}(\theta)=\frac{a}{b^2}.

Γ(a)\Gamma(a) は密度の面積を1にするための定数に現れるガンマ関数であり、正の整数なら Γ(a)=(a−1)!\Gamma(a)=(a-1)! である。

事後分布を求める途中計算も確認しよう。条件付き独立なので、観測データ全体の尤度は、1人ずつの確率を掛けたものである。 ∏\prod は掛け算、 ∑\sum は足し算をまとめて書く記号である。

p(∣y⟩∣θ)=∏i=1nθy(i)e−θy(i)!=θy(1)+⋯+y(n)e−nθ∏i=1ny(i)!∝θ∑iy(i)e−nθ.\begin{aligned} p(\ket{y}\mid\theta) &=\prod_{i=1}^{n}\frac{\theta^{y^{(i)}}e^{-\theta}}{y^{(i)}!}\\ &=\frac{\theta^{y^{(1)}+\cdots+y^{(n)}}e^{-n\theta}}{\prod_{i=1}^{n}y^{(i)}!} \propto\theta^{\sum_i y^{(i)}}e^{-n\theta}. \end{aligned}

ここで ∝\propto は「 θ\theta によらない定数倍を除けば等しい」という意味である。観測済みの y(i)!y^{(i)}! は θ\theta を変えても変わらないため、分布の形を調べる段階では省ける。ベイズの定理に従って、この尤度に事前密度を掛けると

p(θ∣∣y⟩)∝θ∑iy(i)e−nθ θa−1e−bθ=θa+∑iy(i)−1e−(b+n)θp(\theta\mid\ket{y})\propto \theta^{\sum_i y^{(i)}}e^{-n\theta}\, \theta^{a-1}e^{-b\theta} =\theta^{a+\sum_i y^{(i)}-1}e^{-(b+n)\theta}

となる。ガンマ密度の θ\theta の指数は「shapeから1を引いた値」、 ee の指数は「 −rate×θ-\text{rate}\times\theta 」である。上の式と見比べると、新しいshapeは a+∑iy(i)a+\sum_i y^{(i)} 、新しいrateは b+nb+n と読み取れる。したがって、事後分布は gamma⁡(a+∑iy(i),b+n)\operatorname{gamma}(a+\sum_i y^{(i)},b+n) である。たとえば44人の子供数の合計が66なら、 a=2,b=1a=2,b=1 からshapeは 2+66=682+66=68 、rateは 1+44=451+44=45 となる。各群の計算をまとめると、次の表になる。

集団 人数 nn 子供数の合計 事後分布(shape, rate) 事後平均
学士号なし、 θ1\theta_1 111 217 gamma⁡(219,112)\operatorname{gamma}(219,112) 219/112=1.9554219/112=1.9554
学士号あり、 θ2\theta_2 44 66 gamma⁡(68,45)\operatorname{gamma}(68,45) 68/45=1.511168/45=1.5111

これらは付属データの「1990年以降・40歳・女性」を対象に、学位コード3以上を学士号ありとして集計した値である。学位と子供数の欠測は除く。二つの平均の推定値に差があっても、母数の不確かさは残る。そこで「差が正である確率」を求めたい、というのが以下の動機である。

前章で、女性の学士号の有無と出生率について次のような事後分布を得た。

以下の dgamma⁡(x,a,b)\operatorname{dgamma}(x,a,b) は、shapeが aa 、rateが bb のガンマ分布の密度を xx で評価した値を表す。分布そのものを表す gamma⁡(a,b)\operatorname{gamma}(a,b) と区別する。

p(θ1∣∑i=1111Y1(i)=217)=dgamma⁡(θ1,219,112),p\left(\theta_1\mid \sum_{i=1}^{111}Y^{(i)}_1=217\right) = \operatorname{dgamma}(\theta_1,219,112),
p(θ2∣∑i=144Y2(i)=66)=dgamma⁡(θ2,68,45).p\left(\theta_2\mid \sum_{i=1}^{44}Y^{(i)}_2=66\right) = \operatorname{dgamma}(\theta_2,68,45).

さらに、データが与えられたもとで θ1\theta_1 と θ2\theta_2 は条件付き独立であるとモデル化した。そこで、

Pr⁡(θ1>θ2∣∑Y1(i)=217,∑Y2(i)=66)=0.97\Pr\left(\theta_1>\theta_2\mid \sum Y^{(i)}_1=217,\sum Y^{(i)}_2=66\right)=0.97

なる主張をした。これはどのように計算したのであろうか。第2章より、

Pr⁡(θ1>θ2∣y1(1),…,y2(n2))=∫0∞∫0θ1p(θ1,θ2∣y1(1),…,y2(n2)) dθ2 dθ1\Pr(\theta_1>\theta_2\mid y^{(1)}_1,\ldots,y^{(n_2)}_2) =\int_0^\infty\int_0^{\theta_1} p(\theta_1,\theta_2\mid y^{(1)}_1,\ldots,y^{(n_2)}_2)\,d\theta_2\,d\theta_1
=∫0∞∫0θ1dgamma⁡(θ1,219,112)×dgamma⁡(θ2,68,45) dθ2 dθ1=\int_0^\infty\int_0^{\theta_1} \operatorname{dgamma}(\theta_1,219,112) \times \operatorname{dgamma}(\theta_2,68,45) \,d\theta_2\,d\theta_1
=1122194568Γ(219)Γ(68)∫0∞∫0θ1θ1218θ267e−112θ1−45θ2 dθ2 dθ1.=\frac{112^{219}45^{68}}{\Gamma(219)\Gamma(68)} \int_0^\infty\int_0^{\theta_1} \theta_1^{218}\theta_2^{67}e^{-112\theta_1-45\theta_2} \,d\theta_2\,d\theta_1.

となる。最後の行では、二つのガンマ密度に定義式を代入した。 θ1\theta_1 の指数が 219−1=218219-1=218 、 θ2\theta_2 の指数が 68−1=6768-1=67 になり、指数関数の積は e−112θ1e−45θ2=e−112θ1−45θ2e^{-112\theta_1}e^{-45\theta_2}=e^{-112\theta_1-45\theta_2} とまとめられる。母数によらない係数は積分の外へ出している。

この積分は、式を変形したり、数値積分のソフトウェアを使ったりして計算できる。ただし、モデルや求めたい量が変わると、別の計算方法が必要になることがある。そこで本章では、多くの問題に同じ手順で使えるモンテカルロ近似を考える。分布から乱数を生成できれば、積分を直接解かずに計算を進められる。

解説:二重積分で何を足しているのか

外側の積分は θ1\theta_1 の可能な値をすべて動かし、内側の積分は、その値より小さい θ2\theta_2 をすべて動かしている。つまり、 (θ1,θ2)(\theta_1,\theta_2) 平面のうち θ2<θ1\theta_2<\theta_1 となる領域の確率を集めているのである。二つの密度を掛けられるのは、データで条件付けた後にも両母数が独立であるという、この例のモデルの仮定による。

モンテカルロ法では、同時事後分布から候補の組を何組も生成し、「第1群の候補が大きい組の割合」を数える。たとえば説明用に5組が (1.9,1.5),(2.0,1.7),(1.8,1.9),(2.1,1.4),(1.7,1.6)(1.9,1.5),(2.0,1.7),(1.8,1.9),(2.1,1.4),(1.7,1.6) なら、4組で大小関係が成立するので近似値は 4/5=0.84/5=0.8 となる。この5組は仕組みを示す仮想値であり、実際のデータに対する十分な計算ではない。後ほど10,000組を生成し、約0.97になることを確認する。

ここからは、同じ考え方を一般的な記号で書く。 θ\theta は知りたい母数、 y(1),…,y(n)y^{(1)},\ldots,y^{(n)} はすでに観測した値である。このデータから得た事後分布から、母数の候補を独立に SS 個生成できたとする。

θ[1],…,θ[S]∼i.i.d. p(θ∣y(1),…,y(n)).\theta^{[1]},\ldots,\theta^{[S]}\sim \text{i.i.d. }p(\theta\mid y^{(1)},\ldots,y^{(n)}).

i.i.d. は「互いに独立で、同じ分布に従う」という意味である。毎回同じ事後分布を使い、前の生成結果に依存しない新しい候補を生成する。これは観測した女性たちが現実に独立かどうかというモデルの仮定とは別に、計算用標本の生成方法について述べている。

このとき {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} の経験分布は p(θ∣y(1),…,y(n))p(\theta\mid y^{(1)},\ldots,y^{(n)}) を近似しており、 SS を大きくすると近似はよくなることが知られている。 {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} の経験分布は p(θ∣y(1),…,y(n))p(\theta\mid y^{(1)},\ldots,y^{(n)}) のモンテカルロ近似(Monte Carlo approximation)と呼ばれる。コンピュータ言語とコンピュータ環境の多くは、これらのサンプルを生成するための方法を備えている。たとえば、PythonではNumPyの乱数生成器を用いて、本章に現れるガンマ分布・ベータ分布・ポアソン分布から独立同一標本を生成できる。

解説:経験分布は、一つひとつの標本に同じ重みを置く

θ[1],…,θ[S]\theta^{[1]},\ldots,\theta^{[S]} の経験分布とは、生成された各値に確率 1/S1/S を割り当てた分布である。 S=5S=5 なら各候補に 1/51/5 ずつ重みを置く。事後分布でありそうな範囲には多くの候補が生成されるので、その範囲には経験分布でも大きな確率が割り当てられる。

「分布から生成する」とは、たとえば [0,3][0,3] の値を一様に選ぶことではない。一様に生成した標本をそのまま平均しても、ガンマ事後分布の期待値にはならない。 近似したい分布に従って生成すること が必要である。

ヒストグラムは経験分布を区間ごとにまとめた図であり、カーネル密度推定(KDE)は各標本の周囲に小さな滑らかな山を置いて平均した図である。KDEの山の幅を帯域幅と呼ぶ。広すぎると特徴がならされ、狭すぎると凸凹が増える。標本数の増加と、描画上の平滑化は別の操作である。

図4.1は、ガンマ分布 gamma⁡(68,45)\operatorname{gamma}(68,45) の密度に対するモンテカルロ近似と、比較のための真の密度関数を示している。見るとわかるように、モンテカルロ標本の経験分布は、 SS が大きくなるにつれて、真の密度のよい近似を与えている。それに加えて、 g(θ)g(\theta) を θ\theta の任意の関数とし、 θ[1],…,θ[S]\theta^{[1]},\ldots,\theta^{[S]} を p(θ∣y(1),…,y(n))p(\theta\mid y^{(1)},\ldots,y^{(n)}) からの独立同一標本とすると、大数の法則により次が成り立つ。

1S∑s=1Sg(θ[s])→Ep(θ∣∣y⟩)[g(θ)]=∫g(θ)p(θ∣y(1),…,y(n)) dθ(S→∞).\frac{1}{S}\sum_{s=1}^{S}g(\theta^{[s]}) \to \mathrm{E}_{p(\theta\mid\ket{y})}[g(\theta)] = \int g(\theta)p(\theta\mid y^{(1)},\ldots,y^{(n)})\,d\theta \qquad (S\to\infty).

図4.1 gamma(68,45) 分布のモンテカルロ近似のヒストグラムとカーネル密度推定。灰色の曲線は真の密度関数を表す。

次の図では、標本数ごとのヒストグラム、KDE、理論密度を同じパネルに重ねる。3パネルの軸をそろえ、標本を増やすと分布の形をどの程度捉えられるかを比べる。

図4.1の再現。S=10、100、1,000のガンマ標本。ビン幅0.1、KDEはScottの帯域幅。灰色破線は理論密度。

標本が10個だけだと、ある区間に偶然集中する影響が大きい。1,000個では全体の山の形が読み取りやすくなる。ただし、標本を追加するたびに必ず誤差が小さくなるわけではない。縦軸は確率そのものではなく密度であり、ビンの「高さ×幅」がその区間の相対度数を表す。

解説:積分を平均に置き換えられる理由

gg は「生成した母数にどのような計算を施すか」を指定する関数である。 g(θ)=θg(\theta)=\theta ならそのまま平均を計算し、 g(θ)=1(θ<1.75)g(\theta)=1(\theta<1.75) なら条件を満たした標本を1、満たさない標本を0に変える。大数の法則は、この変換後の標本平均が変換後の期待値に近づくことを述べている。

なぜ平均するときに、さらに事後密度を掛けなくてよいのだろうか。これは、 どの値が何回現れるかに、すでに事後分布の重みが反映されている からである。たとえば、説明用の離散分布で1、2、3がそれぞれ確率0.2、0.5、0.3で現れるなら、期待値は 1×0.2+2×0.5+3×0.3=2.11\times0.2+2\times0.5+3\times0.3=2.1 である。この分布から1,000回生成すると、回数はおおむね200回、500回、300回になる。その単純平均は {1×200+2×500+3×300}/1000=2.1\{1\times200+2\times500+3\times300\}/1000=2.1 となる。連続分布の積分でも、この「重みに応じた出現頻度を使う」という仕組みは同じである。

たとえば説明用に θ=(1.2,1.4,1.6,1.8,2.0)\theta=(1.2,1.4,1.6,1.8,2.0) の5個を得たとする。平均は (1.2+1.4+1.6+1.8+2.0)/5=1.6(1.2+1.4+1.6+1.8+2.0)/5=1.6 である。一方、指示関数で変換すると (1,1,1,0,0)(1,1,1,0,0) となり、その平均は 3/5=0.63/5=0.6 である。したがって、同じ標本を使って、平均と確率という異なる量を計算できる。

Ep(θ∣∣y⟩)[1(θ<c)]=∫1(θ<c)p(θ∣∣y⟩) dθ=∫θ<cp(θ∣∣y⟩) dθ=Pr⁡(θ<c∣∣y⟩).\mathrm{E}_{p(\theta\mid\ket{y})}[1(\theta<c)] =\int 1(\theta<c)p(\theta\mid\ket{y})\,d\theta =\int_{\theta<c}p(\theta\mid\ket{y})\,d\theta =\Pr(\theta<c\mid\ket{y}).

このように、確率も「0か1になる関数の期待値」と書ける。なお、大数の法則による期待値の近似には Ep(θ∣∣y⟩)[∣g(θ)∣]<∞\mathrm{E}_{p(\theta\mid\ket{y})}[\lvert g(\theta)\rvert]<\infty が必要である。後で標準誤差に正規近似を用いる際には、さらに有限の分散が必要になる。本章の具体例ではこれらの条件を満たしている。

これより S→∞S\to\infty のとき、次のこともわかる。

  • θˉ=∑s=1Sθ[s]/S→Ep(θ∣∣y⟩)[θ]\bar\theta=\sum_{s=1}^{S}\theta^{[s]}/S \to \mathrm{E}_{p(\theta\mid\ket{y})}[\theta] 。
  • ∑s=1S(θ[s]−θˉ)2/(S−1)→Var⁡p(θ∣∣y⟩)(θ)\sum_{s=1}^{S}(\theta^{[s]}-\bar\theta)^2/(S-1) \to \operatorname{Var}_{p(\theta\mid\ket{y})}(\theta) 。
  • #(θ[s]≤c)/S→Pr⁡(θ≤c∣y(1),…,y(n))\#(\theta^{[s]}\le c)/S \to \Pr(\theta\le c\mid y^{(1)},\ldots,y^{(n)}) 。
  • {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} の経験分布 →p(θ∣y(1),…,y(n))\to p(\theta\mid y^{(1)},\ldots,y^{(n)}) 。
  • {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} のメディアン →θ1/2\to \theta_{1/2} 。
  • {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} の α\alpha 分位点 →θα\to \theta_{\alpha} 。

事後分布について関心ある統計量の多くは、十分な大きさのモンテカルロ標本を用いてほぼ正確に近似できる。

解説:分位点と「分布が近づく」の意味

まず、図で行う操作を二つに分けよう。「母平均が1.75以下である確率はいくらか」は、 値を決めて、そこまでの確率を読む 問いである。一方、「下から60%に当たる母平均はいくらか」は、 確率を決めて、それに対応する値を読む 問いである。後者で求める値が分位点である。同じ図を、逆の方向に読むのである。

1.階段の高さは「その値以下に入った個数の割合」である

説明用に、母平均の候補を5個得たとしよう。ここでは読み方を練習するために、次の値を用意する。実際のガンマ乱数の出力ではない。

1.2,1.4,1.6,1.8,2.0.1.2,\quad1.4,\quad1.6,\quad1.8,\quad2.0.

しきい値を c=1.75c=1.75 とすると、それ以下なのは 1.2,1.4,1.61.2,1.4,1.6 の3個である。したがって、標本の累積割合は 3/5=0.63/5=0.6 となる。「累積」は、左からその位置までに入ったものを全部数える、という意味である。

しきい値 cc cc 以下の候補 個数 累積割合
1.1 なし 0 0%
1.2 1.2 1 20%
1.5 1.2、1.4 2 40%
1.75 1.2、1.4、1.6 3 60%
2.0 全部 5 100%

この割合を、すべてのしきい値について描いたものが 経験累積分布関数 である。記号では次のように書く。

F^S(c)=1S∑s=1S1(θ[s]≤c).\widehat F_S(c)=\frac{1}{S}\sum_{s=1}^S1(\theta^{[s]}\le c).

帽子の付いた F^S\widehat F_S は、 SS 個の標本から作った近似である。しきい値を右へ動かして新しい候補を一つ通過するたびに、分子が1増える。だから5個なら一段の高さは 1/5=20%1/5=20\% であり、候補のない区間では高さが変わらない。横軸は標本番号でも計算回数でもなく、 比較の境界となる母平均の値 である。縦軸も密度ではなく、0〜100%の割合である。

次の図は、同じ5個の候補から作った階段を上下に描いている。矢印は読む順序である。上段では横軸の1.75から上へ進み、階段に当たったら左へ進む。下段では縦軸の60%から右へ進み、初めて階段に当たる位置から下へ進む。

同じ階段を二方向に読む。上段は値1.75から割合60%を読み、下段は割合60%から経験分布の分位点1.6を読む。候補は説明用の5個である。

上段の答えは60%、下段の答えは1.6であり、 答えの種類が異なる 。1.75以下には3個あり、1.6以下にも3個ある。両者の間に新しい候補がないので、階段は同じ高さのままである。

2.分位点は「累積確率から横軸へ戻って求める境界」である

本来の事後分布の累積分布関数を FF と書く。

F(c)=Pr⁡(θ≤c∣∣y⟩)=∫−∞cp(θ∣∣y⟩) dθ.F(c)=\Pr(\theta\le c\mid\ket{y}) =\int_{-\infty}^{c}p(\theta\mid\ket{y})\,d\theta.

この章のガンマ分布では、負の値の密度は0なので、正の cc については積分の下端を0としても同じである。密度の図では「左側の面積」で表した確率を、累積分布の図では「曲線の高さ」で表している。

連続で単調に増える累積分布なら、 α\alpha 分位点 θα\theta_\alpha は

F(θα)=αF(\theta_\alpha)=\alpha

を満たす値である。たとえば中央値は α=0.5\alpha=0.5 、すなわち左側の確率が50%となる境界である。95%等裾信用区間は、2.5%の高さから読んだ値と97.5%の高さから読んだ値の間である。

[θ0.025,θ0.975],0.975−0.025=0.95.[\theta_{0.025},\theta_{0.975}],\qquad 0.975-0.025=0.95.

ここで95%なのは 間に入る確率 であり、横軸の長さの95%という意味ではない。両端が平均から左右対称になるとも限らない。10,000個の候補を小さい順に並べたなら、下からおよそ250番目と9,750番目が両端の目安になる。

ただし、有限個の標本の階段には、ちょうど希望する高さがない場合もある。経験分布そのものの分位点は「累積割合が初めて α\alpha 以上になる値」と定義できる。上の図の60%分位点1.6は、この定義によるものである。一方、数値計算では、隣り合う候補の間を補間する推定法も使われる。本ノートの計算表はNumPyの既定の線形補間を用いるので、この5個の60%分位点を同じ方法で求めると、

1+(5−1)×0.6=3.4 番目,1.6+0.4×(1.8−1.6)=1.681+(5-1)\times0.6=3.4\text{ 番目},\qquad 1.6+0.4\times(1.8-1.6)=1.68

となる。図で読む経験分布の分位点1.6と、補間した推定値1.68は、有限標本での定義の違いである。どちらも本来の分位点を近似するために使えるが、少数標本では違いが目立つ。

3.「分布が近づく」とは、いろいろなしきい値で累積割合が合ってくることである

ここからは説明用の5個ではなく、実際に gamma⁡(68,45)\operatorname{gamma}(68,45) から生成した標本を使う。次の図では、実線が標本の累積割合 F^S(c)\widehat F_S(c) 、灰色破線が事後分布の累積確率 F(c)F(c) である。標本数を3パネルに分け、同じ横軸・縦軸で比較する。

まず縦の点線 c=1.75c=1.75 の位置を見よう。実線と破線の 高さの差が、確率を近似したときの誤差 である。この位置の理論値は F(1.75)=0.899829…F(1.75)=0.899829\ldots である。

標本数10、100、1,000の経験累積分布。実線は標本の割合、灰色破線はガンマ事後分布の確率である。縦の点線1.75で高さを比較し、次に曲線全体を比較する。乱数シード401。

この位置では、 S=10S=10 で 9/10=90%9/10=90\% 、 S=100S=100 で 89/100=89%89/100=89\% 、 S=1,000S=1,000 で 899/1,000=89.9%899/1,000=89.9\% である。10個でもこの一点だけは偶然よく合っている。しかし、ほかのしきい値にも目を移すと、10個の階段は大きく、分布全体の形を粗くしか表せない。ここでは標本数ごとに別の標本を生成しているため、各パネルは同じ標本列の途中経過ではない。

大数の法則によれば、固定した cc について、標本数を増やしたときに F^S(c)\widehat F_S(c) は F(c)F(c) に近づく。「経験分布が近づく」という説明では、このような累積確率の近さを考えている。今回のように独立同一分布から生成する場合は、累積分布全体の最大のずれも標本数とともに0へ近づく。しかし、 1個追加するたびに、すべての位置で必ず誤差が小さくなるわけではない 。また、有限個の点が連続密度と同じものに変化するわけでもない。

累積分布が近づけば、たとえば「50%の高さから横軸へ戻って読む位置」も近づくと期待できる。これが分位点を標本から近似できる理由である。分位点が一意に定まるなどの条件は必要だが、ここで扱うガンマ分布の0と1の間の分位点では満たされている。

数値的な評価

まず、モンテカルロ法の近似値を、他の方法で正確に(または、ほぼ正確に)計算できる事後要約統計量と比較することにより、モンテカルロ法が有効な方法であることを確認しよう。 Y(1),…,Y(n)∣θY^{(1)},\ldots,Y^{(n)}\mid\theta を互いに独立に Poisson⁡(θ)\operatorname{Poisson}(\theta) に従う標本、 θ\theta の事前分布を gamma⁡(a,b)\operatorname{gamma}(a,b) とする。 Y(1)=y(1),…,Y(n)=y(n)Y^{(1)}=y^{(1)},\ldots,Y^{(n)}=y^{(n)} を観測したときの事後分布は gamma⁡(a+∑y(i),b+n)\operatorname{gamma}(a+\sum y^{(i)},b+n) となる。いま、出生率のデータの学士号をもっている母集団に対して、 a=2,b=1,∑y(i)=66,n=44a=2,b=1,\sum y^{(i)}=66,n=44 とおく。

期待値:事後平均は

Ep(θ∣∣y⟩)[θ]=a+∑y(i)b+n=6845≈1.51\mathrm{E}_{p(\theta\mid\ket{y})}[\theta]=\frac{a+\sum y^{(i)}}{b+n}=\frac{68}{45}\approx1.51

となる。これに対するモンテカルロ近似は S∈{10,100,1000}S\in\{10,100,1000\} に対して、次のPythonコードで計算できる。

ここでPythonへ置き換える際の要点は、ガンマ分布の引数である。教科書はshapeとrateを使うが、NumPyの Generator.gamma はshapeとscaleを受け取るので、 scale=1/rate と指定する。たとえば scale=45 と書くと、平均は 68×45=306068\times45=3060 となり、求めたい 68/45=1.511168/45=1.5111 とはまったく異なる。これはNumPyの公式仕様に従う変換である。

import numpy as np
from scipy.stats import gamma

rng = np.random.default_rng(401)
a, b, sy, n = 2, 1, 66, 44
shape, rate = a + sy, b + n
samples = {s: rng.gamma(shape=shape, scale=1/rate, size=s)
           for s in (10, 100, 1000)}
for s, values in samples.items():
    print(s, values.mean())

もちろん結果は、乱数生成器の種(seed)によって変わることに注意する。

確率: {θ<1.75}\{\theta<1.75\} の事後確率はSciPyの累積分布関数 gamma.cdf(1.75, a=68, scale=1/45) を用いて計算できて、計算結果は 0.8998 となる。上で生成された θ\theta の値を用いると対応するモンテカルロ近似は以下のようになる。

posterior = gamma(a=68, scale=1/45)
print("理論値", posterior.cdf(1.75))
for s, values in samples.items():
    print(s, np.mean(values < 1.75))

分位点:分位点に基づく95%信用領域は、gamma.ppf([0.025, 0.975], a=68, scale=1/45) を用いて計算できて、計算結果は (1.173,1.891)(1.173,1.891) で与えられる区間となる。95%信用領域はモンテカルロ標本により求めることができる。

print("理論値", posterior.ppf([0.025, 0.975]))
for s, values in samples.items():
    print(s, np.quantile(values, [0.025, 0.975]))

Pythonでの実行結果をまとめる

上のコードは、最初の例で作った samples を平均・確率・分位点のすべてに再利用している。乱数シード401での結果は次のとおりである。教科書のRの出力をPythonの実行結果として転記するのではなく、実際に生成したPython標本から求めた値を示す。

標本数 SS 事後平均の近似 Pr⁡(θ<1.75∣∣y⟩)\Pr(\theta<1.75\mid\ket{y}) の近似 95%等裾信用区間の近似
10 1.544411 0.9000 (1.362799, 1.786390)
100 1.490190 0.8900 (1.155152, 1.897329)
1,000 1.509376 0.8990 (1.191031, 1.869302)
理論値 1.511111 0.899829 (1.173437, 1.890836)

この表では、 S=100S=100 の平均の近似が理論値より少し小さくなっている。 S=1,000S=1,000 の区間上端も理論値と完全には一致しない。このようなずれは乱数による計算誤差である。有限個の標本では、推定対象ごとに誤差の大きさも異なる。とくに2.5%分位点を10個の標本から求めると、分布の裾を支える値がほとんどないため、不安定になりやすい。

図4.2では、1,000個の標本を先頭から少しずつ使い、近似値がどのように変わるかを見る。ただし、線が落ち着いて見えるだけでは、十分な精度があるとは判断できない。そこで、乱数を生成し直したときに計算結果がどの程度変わりそうかを、モンテカルロ標準誤差で表す。

解説:モンテカルロ標準誤差は「計算をやり直したときの平均のばらつき」である

求めたいものを先に固定しよう。この例の目的は、母数 θ\theta そのものを乱数で当てることではなく、 事後分布の平均という一つの数 を計算することである。

μ=Ep(θ∣∣y⟩)[θ]=6845=1.511111…\mu=\mathrm{E}_{p(\theta\mid\ket{y})}[\theta]=\frac{68}{45}=1.511111\ldots

モデルと観測データ ∣y⟩\ket{y} を決めれば、この積分の答え μ\mu は固定される。この例では理論式で答えがわかるが、練習のために、乱数を使って近似する。複雑な問題では、この答えが事前にわからない。

一方、 SS 個の乱数から計算する平均

θˉ=θ[1]+⋯+θ[S]S\bar\theta=\frac{\theta^{[1]}+\cdots+\theta^{[S]}}{S}

は、使った乱数によって少し変わる。 モンテカルロ標準誤差(MCSE)とは、この計算を最初からやり直したときに、計算結果 θˉ\bar\theta がどの程度ばらつくかを表す標準偏差 である。「誤差」という名前だが、今回のずれ θˉ−μ\bar\theta-\mu そのものではない。

たとえば前の計算表では、100個の乱数の平均は1.490190だった。正確な答えを知っているので、今回の実際のずれは 1.490190−1.511111=−0.0209211.490190-1.511111=-0.020921 と計算できる。しかし一般には μ\mu がわからず、この引き算ができない。そこで、実際のずれを直接知る代わりに、 乱数によるずれの大きさの目安 をMCSEで見積もるのである。

具体的には、次の一連の計算を繰り返すと考える。

  1. 同じ事後分布 gamma⁡(68,45)\operatorname{gamma}(68,45) から、新しく SS 個生成する。
  2. その SS 個を平均し、計算結果を一つ記録する。
  3. 使った乱数を引き継がず、1へ戻って新しい計算結果を得る。

実際の44人の調査をやり直すのではない。データも事後分布も固定し、コンピュータ内の乱数だけを生成し直す。次の図は、この一連の計算を各 SS について200回行った結果である。 点一つが、母数候補一つではなく、 SS 個を平均した計算結果一つ を表す。縦軸はやり直しの番号であり、点の左右への広がりを見る。

各点は1回の計算で得たS個の乱数の平均。灰色破線は固定された目標値68/45である。各条件で200回計算し直した。横軸は共通で、Sが増えるほど平均の左右の散らばりが小さくなる。乱数シード407。

10個ずつ平均した上段に比べて、1,000個ずつ平均した下段は、目標値の周りに狭く集まる。この 平均の点群の横方向の標準偏差 がMCSEに対応する。実際の200個の平均から計算した標準偏差と、理論MCSEを並べると次のようになる。

1回に使う標本数 SS 200回分の平均の標準偏差 理論MCSE
10 0.06067 0.05795
100 0.01772 0.01832
1,000 0.00607 0.00579

200回だけの実験なので完全には一致しないが、散らばりの大きさをMCSEが捉えている。200回という回数は、ばらつきの意味を見せるための実験回数である。通常の計算では200回やり直す必要はなく、1回の計算で得た SS 個の標本からMCSEを見積もれる。その理由を次の式で確かめる。

解説:なぜ標準誤差は S\sqrt S で割るのか

ここでは、平均する対象が違う二種類の期待値を区別する。 Ep(θ∣∣y⟩)\mathrm{E}_{p(\theta\mid\ket{y})} は、母数候補 θ\theta を事後分布で平均する記号である。一方、 EMC\mathrm{E}_{\mathrm{MC}} は、 乱数の組を生成し直す実験全体 について平均する記号とする。その分布は、独立な生成という仮定から

pMC(θ[1],…,θ[S]∣∣y⟩)=∏s=1Sp(θ[s]∣∣y⟩)p_{\mathrm{MC}}(\theta^{[1]},\ldots,\theta^{[S]}\mid\ket{y}) =\prod_{s=1}^S p(\theta^{[s]}\mid\ket{y})

である。 Var⁡MC\operatorname{Var}_{\mathrm{MC}} もこの分布に関する分散を表す。 yy と SS は固定している。各候補を一つだけ見れば元の事後分布に従うが、その組から作る平均 θˉ\bar\theta は元の事後分布とは違う分布をもつ。

事後平均と事後分散を、それぞれ

μ=Ep(θ∣∣y⟩)[θ],σ2=Var⁡p(θ∣∣y⟩)(θ)\mu=\mathrm{E}_{p(\theta\mid\ket{y})}[\theta],\qquad \sigma^2=\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta)

と書こう。一つの候補の分散は σ2\sigma^2 であるが、候補の平均の分散は次のようになる。

EMC[θˉ]=1S∑s=1SEMC[θ[s]]=SμS=μ,Var⁡MC(θˉ)=1S2Var⁡MC ⁣(∑s=1Sθ[s])=1S2∑s=1SVar⁡MC(θ[s])=Sσ2S2=σ2S.\begin{aligned} \mathrm{E}_{\mathrm{MC}}[\bar\theta] &=\frac{1}{S}\sum_{s=1}^{S}\mathrm{E}_{\mathrm{MC}}[\theta^{[s]}] =\frac{S\mu}{S}=\mu,\\ \operatorname{Var}_{\mathrm{MC}}(\bar\theta) &=\frac{1}{S^2}\operatorname{Var}_{\mathrm{MC}}\!\left(\sum_{s=1}^{S}\theta^{[s]}\right)\\ &=\frac{1}{S^2}\sum_{s=1}^{S}\operatorname{Var}_{\mathrm{MC}}(\theta^{[s]}) =\frac{S\sigma^2}{S^2}=\frac{\sigma^2}{S}. \end{aligned}

最初の式は「計算を何度もやり直したときの平均は、目標値 μ\mu に一致する」という性質である。各回の結果が必ず μ\mu になるという意味ではない。二つ目の式では、独立な候補間の共分散が0なので、足し算の分散を分散の足し算にできる。

平均を作る際の係数 1/S1/S は、分散では二乗されて 1/S21/S^2 になる。一方、独立な SS 個の値を足した分散は Sσ2S\sigma^2 になる。この二つを合わせると σ2/S\sigma^2/S が残り、平方根を取れば標準偏差は σ/S\sigma/\sqrt S となる。この分散の計算自体は近似ではない。

さらに、 SS が十分大きければ、中心極限定理によって θˉ\bar\theta の分布を平均 μ\mu 、分散 σ2/S\sigma^2/S の正規分布で近似できる。ここで考えているのは、同じ観測データのもとで 乱数を生成し直したときの、計算結果のばらつき である。1個の母数候補が従う事後分布とは区別する。

したがって、理論上のMCSEは

MCSE(θˉ)=Var⁡MC(θˉ)=σS.\mathrm{MCSE}(\bar\theta) =\sqrt{\operatorname{Var}_{\mathrm{MC}}(\bar\theta)} =\frac{\sigma}{\sqrt S}.

たとえば S=100S=100 なら、 σ2=68/452=0.033580…\sigma^2=68/45^2=0.033580\ldots なので、平均の分散は 0.033580/100=0.000335800.033580/100=0.00033580 、その平方根は約0.01832である。候補一つの標準偏差0.18325が、100個を平均することで10分の1になる。

通常は σ2\sigma^2 自体もわからないため、生成した標本から分散を見積もる。

σ^2=∑(θ[s]−θˉ)2S−1\hat\sigma^2 =\frac{\sum(\theta^{[s]}-\bar\theta)^2}{S-1}

まずこの標本分散の平方根 σ^\hat\sigma で「候補一つずつの散らばり」を推定し、さらに S\sqrt S で割って「候補を平均した計算結果の散らばり」に換算する。

MCSE^(θˉ)=σ^S=σ^2S.\widehat{\mathrm{MCSE}}(\bar\theta) =\frac{\hat\sigma}{\sqrt S} =\sqrt{\frac{\hat\sigma^2}{S}}.

帽子はMCSE自体も標本から推定したことを示す。実務ではこの推定値も単にMCSEと呼ぶことが多い。二つの割り算の役割は異なる。標本分散の S−1S-1 は、一つずつの候補の分散を推定するためのものであり、その後の SS は、平均の分散へ換算するためのものである。

小さな手計算でも確認しよう。先ほどの説明用候補 1.2,1.4,1.6,1.8,2.01.2,1.4,1.6,1.8,2.0 の平均は1.6である。平均との差の二乗和は 0.16+0.04+0+0.04+0.16=0.400.16+0.04+0+0.04+0.16=0.40 なので、

σ^2=0.405−1=0.10,σ^=0.10=0.3162,MCSE^=0.105=0.1414.\hat\sigma^2=\frac{0.40}{5-1}=0.10,\qquad \hat\sigma=\sqrt{0.10}=0.3162,\qquad \widehat{\mathrm{MCSE}}=\sqrt{\frac{0.10}{5}}=0.1414.

これは公式の使い方を確認する架空例であり、5個で十分な精度が得られるという主張ではない。コードでは同じ計算を次のように書ける。

values = np.array([1.2, 1.4, 1.6, 1.8, 2.0])  # 手計算用の架空例
estimate = values.mean()
sd = values.std(ddof=1)                     # 候補一つずつの標準偏差
mcse = sd / np.sqrt(len(values))            # 平均の計算結果の標準誤差
print(estimate, sd, mcse)                    # 1.6, 0.3162..., 0.1414...
「計算値 ± 2 MCSE」は何を意味するか

SS が十分大きく正規近似が使えるとき、 θˉ−μ\bar\theta-\mu は平均0、標準偏差がおよそMCSEの分布に従う。正規分布では中心から標準偏差の約2倍以内に約95%が入るので、 θˉ±2MCSE^\bar\theta\pm2\widehat{\mathrm{MCSE}} を、 固定された目標値 μ\mu に対する計算誤差の近似信頼区間 として使える。厳密な標準正規分布の中央95%に対応する係数は約1.96だが、ここでは目安として2を使う。

この「約95%」は、同じデータで乱数計算を何度もやり直し、そのたびに区間を作ると、約95%の区間が固定された μ\mu を含む、という意味である。今回の実際の誤差がMCSEに等しいわけでも、必ず2 MCSE以内に入るわけでもない。また、未知の母数 θ\theta の95%信用区間とは対象が異なる。

たとえば計算値1.510、推定MCSEが0.006なら、計算誤差の区間は 1.510±0.012=[1.498,1.522]1.510\pm0.012=[1.498,1.522] となる。これは「事後分布の平均をどの程度正確に計算できたか」の目安である。「母数 θ\theta がこの狭い範囲にある」とは読めない。理論式で μ=68/45\mu=68/45 を直接計算できれば、この乱数由来の誤差はなくせるが、母数の事後分布の幅は残る。

たとえば、 S=100S=100 で標本分散が0.024となったとしよう。この場合の標準誤差は 0.024/100=0.01549…\sqrt{0.024/100}=0.01549\ldots である。計算誤差をおよそ95%の範囲で ±0.01\pm0.01 以内に収めたいなら、区間の半幅が0.01より小さくなるようにする。

20.024/S<0.01,2\sqrt{0.024/S}<0.01,

両辺は正なので、2で割り、二乗し、 SS について解けばよい。

0.024/S<0.0050.024/S<0.0052=0.000025S>0.0240.000025=960.\begin{aligned} \sqrt{0.024/S}&<0.005\\ 0.024/S&<0.005^2=0.000025\\ S&>\frac{0.024}{0.000025}=960. \end{aligned}

したがって、この分散の見積もりを使うなら S>960S>960 が目安となる。整数では961回以上であり、実際には1,000回などの切りのよい回数を選べる。分散が0.024だという見積もり自体にも誤差があるため、追加計算後にMCSEをもう一度確認する。

図4.2 モンテカルロ標本のサンプルサイズの関数としての事後平均、確率 Pr⁡(θ<1.75∣y(1),…,y(n))\Pr(\theta<1.75\mid y^{(1)},\ldots,y^{(n)}) 、97.5%事後分位点の収束の様子。灰色の横線は真の値を表す。

次の図では、同じ1,000個の標本を先頭から順に使い、累積的な推定値を計算する。横線は未知の母数そのものではなく、理論式で計算した各事後要約量である。

図4.2の再現。シード402の同じ標本列を順次使用する。3パネルは異なる量なので縦軸の単位と範囲が異なる。

標本を増やすと大きな変動は落ち着くが、途中で横線から遠ざかることもある。滑らかに見えることだけでは精度を保証できないため、数値としてのモンテカルロ標準誤差も併せて確認する。

解説:事後標準偏差とモンテカルロ標準誤差は何が違うか

gamma⁡(68,45)\operatorname{gamma}(68,45) の事後標準偏差は

σ=68452=0.183249…\sigma=\sqrt{\frac{68}{45^2}}=0.183249\ldots

である。これは「母平均 θ\theta が、データを見た後でもどの程度不確かか」を示す。一方、独立標本の平均のモンテカルロ標準誤差(MCSE)は、およそ σ/S\sigma/\sqrt S であり、「事後平均を乱数で計算したためにどの程度の計算誤差が出るか」を示す。

SS 理論分散を使った平均のMCSE 2×MCSE2\times\mathrm{MCSE}
10 0.05795 0.11590
100 0.01832 0.03665
1,000 0.00579 0.01159
10,000 0.00183 0.00366
比較するもの 事後標準偏差 モンテカルロ標準誤差
何のばらつきか 事後分布における母数候補 θ\theta 乱数を生成し直したときの平均 θˉ\bar\theta
答える問い 母数はどのくらい不確かか 事後平均をどのくらい正確に計算できたか
この例、 S=100S=100 約0.18325 約0.01832
同じデータで SS だけ増やすと 元の事後標準偏差は変わらない 1/S1/\sqrt S に比例して小さくなる

下の図では、母数の95%等裾信用区間を一番上に置き、その下に、累積計算で得た事後平均の近似値と ±2 MCSE\pm2\,\mathrm{MCSE} を並べる。同じ横軸でも、上段と下段で区間が対象にしているものが違う点を見る。

補助図:θ の95%等裾信用区間と、事後平均の計算値 ± 2 MCSE。後者は計算誤差についての正規近似区間であり、θ の信用区間ではない。

計算回数を増やすと、下の計算誤差の区間は狭くなる。一方、上の信用区間は同じ観測データと同じモデルから定まるので変わらない。信用区間を計算する誤差は減らせても、信用区間そのものを SS の増加だけで狭くすることはできない。

解説:必要な計算回数を決める

教科書の 0.0240.024 は、仮に得られた標本分散の例であり、ガンマ事後分布の理論分散 68/452=0.0335868/45^2=0.03358 そのものではない。前者を使えば S>960S>960 、後者を使えば

20.03358025/S<0.01⟺S>1343.212\sqrt{0.03358025/S}<0.01 \quad\Longleftrightarrow\quad S>1343.21

となり、整数なら少なくとも S=1344S=1344 が目安になる。ただし、これは中心極限定理に基づく「およそ95%の計算誤差の幅」を指定するものであり、誤差が必ず0.01未満になる保証ではない。 S=10S=10 のような少数標本では、推定MCSEや正規近似も慎重に読む必要がある。

平均する量が変われば、MCSEに使う分散も変わる

一般に Ep(θ∣∣y⟩)[g(θ)]\mathrm{E}_{p(\theta\mid\ket{y})}[g(\theta)] を近似するなら、使う分散も θ\theta の分散ではなく g(θ)g(\theta) の分散である。 gˉ=S−1∑sg(θ[s])\bar g=S^{-1}\sum_s g(\theta^{[s]}) を変換後の標本平均とすると、「変換後の不偏標本分散」をさらに SS で割り、平方根を取ればよい。

MCSE^(gˉ)=1S(S−1)∑s=1S(g(θ[s])−gˉ)2.\widehat{\mathrm{MCSE}}(\bar g) =\sqrt{\frac{1}{S(S-1)}\sum_{s=1}^{S} \left(g(\theta^{[s]})-\bar g\right)^2}.

確率を指示関数の平均で求める場合は、 p^\hat p を推定した確率として p^(1−p^)/S\sqrt{\hat p(1-\hat p)/S} がよく用いられる近似式である。たとえば p≈0.97,S=10,000p\approx0.97,S=10,000 ならMCSEは約 0.00170.0017 である。これは約0.17パーセントポイントの計算誤差に相当する。厳密な不偏標本分散から計算する式では、分母の SS が S−1S-1 になるが、大きな SS では差は小さい。

この式の p(1−p)p(1-p) が出てくる理由も確認できる。条件を満たすとき1、満たさないとき0になる値を II とし、1になる確率を pp とする。 この段落の pp は1になる確率という数であり、分布の密度を表す p(θ∣∣y⟩)p(\theta\mid\ket{y}) とは区別する。 II はベルヌーイ分布に従い、 I2=II^2=I なので、

EBernoulli⁡(p)[I]=p,Var⁡Bernoulli⁡(p)(I)=EBernoulli⁡(p)[I2]−EBernoulli⁡(p)[I]2=p−p2=p(1−p).\begin{aligned} \mathrm{E}_{\operatorname{Bernoulli}(p)}[I]&=p,\\ \operatorname{Var}_{\operatorname{Bernoulli}(p)}(I) &=\mathrm{E}_{\operatorname{Bernoulli}(p)}[I^2] -\mathrm{E}_{\operatorname{Bernoulli}(p)}[I]^2\\ &=p-p^2=p(1-p). \end{aligned}

独立な SS 個の指示関数の平均は、条件を満たした割合そのものである。その標準誤差は p(1−p)/S\sqrt{p(1-p)/S} となるが、求めたい pp は未知なので、計算した割合 p^\hat p を代入する。たとえば10,000回すべてで同じ結果が出ると、この代入式は0になる。しかし、それだけで真の確率が厳密に0または1と確定したわけではなく、まれな出来事では追加の計算が必要になりうる。

元の確率の例に戻ると、1,000個中899個が1.75未満だったので、 p^=0.899\hat p=0.899 である。

MCSE^(p^)≈0.899×(1−0.899)1000=0.009529.\widehat{\mathrm{MCSE}}(\hat p) \approx\sqrt{\frac{0.899\times(1-0.899)}{1000}} =0.009529.

これは約0.953パーセントポイントであり、平均 θˉ\bar\theta のMCSEとは単位も大きさも違う。確率の計算誤差の区間は 0.899±2×0.009529≈[0.880,0.918]0.899\pm2\times0.009529\approx[0.880,0.918] となる。ここでは0・1へ変換した候補を平均するため、母数 θ\theta 自体の分散 68/45268/45^2 は使わない。

MCSEを半分にするには、原則として標本数を4倍にする必要がある。これは σ/4S=12σ/S\sigma/\sqrt{4S}=\tfrac12\sigma/\sqrt S だからである。10倍の精度を目指すなら、標本数は100倍が目安になる。

分位点のMCSEは、割合の誤差を横軸の位置の誤差に換算する

分位点の標準誤差には、もう一つ考えることがある。分位点は「累積確率が α\alpha に達する横軸の位置」である。累積確率の誤差が同じでも、標本がまばらな場所では、その誤差を埋めるために境界を大きく動かす必要がある。分位点での連続密度 f(θα)f(\theta_\alpha) が正で、近傍で滑らかな場合、十分大きな SS での標準誤差は次で近似される。

SE(θ^α)≈α(1−α)/Sf(θα).\mathrm{SE}(\hat\theta_\alpha) \approx\frac{\sqrt{\alpha(1-\alpha)/S}}{f(\theta_\alpha)}.

分子は「その境界以下に入る割合」の標準誤差である。境界を小さく Δ\Delta 動かすと累積確率はおよそ f(θα)Δf(\theta_\alpha)\Delta だけ変わるので、割合の誤差を密度で割ると、境界の位置の誤差になる。これが分母の役割である。したがって、同じ α\alpha と SS なら、境界付近の密度が低いほど分位点の推定は不安定になる。

たとえばこのガンマ分布では、97.5%分位点は約1.890836、その位置での密度は約0.274933である。 S=1,000S=1,000 とすると、

0.975×0.0251000=0.004937,SE(θ^0.975)≈0.0049370.274933=0.01796.\sqrt{\frac{0.975\times0.025}{1000}}=0.004937,\qquad \mathrm{SE}(\hat\theta_{0.975})\approx\frac{0.004937}{0.274933}=0.01796.

左の0.004937は累積割合の縦方向の誤差である。それを曲線の傾きに相当する密度で割ることで、右の0.01796という分位点の横方向の誤差に換算している。したがって、95%信用区間の端点も乱数で計算する限りは揺れる。 SS を増やすと端点の計算誤差が減り、本来の端点へ近づくのであって、母数の信用区間自体が一点に縮むわけではない。実際の問題で分位点の位置や密度が未知なら、それらも標本から推定する必要がある。

本章のMCSEは 独立同一標本 を前提とする。後の章で扱うMCMCのように標本間に相関がある場合は、この式へ保存した標本数をそのまま代入せず、相関を考慮した有効標本数やMCSEを用いる。

4.2 任意の関数に対する事後推測

θ\theta の関数 g(θ)g(\theta) の事後分布に興味があるとしよう。たとえば、二項モデルでは、次で定義される対数オッズに関心があることがある。

log⁡odds⁡(θ)=log⁡θ1−θ=γ.\log\operatorname{odds}(\theta) =\log\frac{\theta}{1-\theta}=\gamma.

θ\theta の事後分布から {θ[1],θ[2],…}\{\theta^{[1]},\theta^{[2]},\ldots\} がサンプリングできれば、大数の法則により、 log⁡θ[s]1−θ[s]\log\frac{\theta^{[s]}}{1-\theta^{[s]}} の平均値は

Ep(θ∣∣y⟩) ⁣[log⁡θ1−θ]\mathrm{E}_{p(\theta\mid\ket{y})}\!\left[\log\frac{\theta}{1-\theta}\right]

に収束することがわかる。しかし、 γ=log⁡θ1−θ\gamma=\log\frac{\theta}{1-\theta} の事後分布に興味がある場合もあるだろう。これもモンテカルロ法を用いて計算できる。

各回で行う操作は共通なので、第 ss 回の手順をまとめて書く。

θ[s]∼p(θ∣∣y⟩),γ[s]=g(θ[s]),s=1,…,S.\theta^{[s]}\sim p(\theta\mid\ket{y}),\qquad \gamma^{[s]}=g(\theta^{[s]}),\qquad s=1,\ldots,S.

つまり「候補を1個生成する → その候補を変換する」を SS 回繰り返す。

これらを独立に実行する。これにより得られた {γ[1],…,γ[S]}\{\gamma^{[1]},\ldots,\gamma^{[S]}\} は p(γ∣y(1),…,y(n))p(\gamma\mid y^{(1)},\ldots,y^{(n)}) からの独立な標本になっており、 S→∞S\to\infty とすると先と同様に以下が成り立つ。

  • γˉ=∑s=1Sγ[s]/S→Ep(γ∣∣y⟩)[γ]\bar\gamma=\sum_{s=1}^{S}\gamma^{[s]}/S \to \mathrm{E}_{p(\gamma\mid\ket{y})}[\gamma] 。
  • ∑s=1S(γ[s]−γˉ)2/(S−1)→Var⁡p(γ∣∣y⟩)(γ)\sum_{s=1}^{S}(\gamma^{[s]}-\bar\gamma)^2/(S-1) \to \operatorname{Var}_{p(\gamma\mid\ket{y})}(\gamma) 。
  • {γ[1],…,γ[S]}\{\gamma^{[1]},\ldots,\gamma^{[S]}\} の経験分布 →p(γ∣y(1),…,y(n))\to p(\gamma\mid y^{(1)},\ldots,y^{(n)}) 。

解説:変換した標本が、そのまま変換後の分布の標本になる

分布全体を式で変換するには、逆関数やヤコビアンが必要になることがある。しかし、標本なら各値に同じ関数を適用するだけでよい。たとえば、説明用の確率の候補を 0.2,0.5,0.80.2,0.5,0.8 とすると、対応するオッズは 0.25,1,40.25,1,4 、対数オッズは約 −1.386,0,1.386-1.386,0,1.386 となる。

賛成確率 θ\theta 反対確率 1−θ1-\theta オッズ θ/(1−θ)\theta/(1-\theta) 対数オッズ
0.2 0.8 0.25 −1.386-1.386
0.5 0.5 1 0
0.8 0.2 4 1.386

オッズ4は「賛成の確率が反対の確率の4倍」という意味であり、賛成確率が4という意味ではない。対数を取ると、賛否を入れ替えたときの倍率の逆転が、正負の反転として表される。対数オッズ0は賛成確率50%、正なら50%超、負なら50%未満である。

なぜ標本の変換だけでよいのかを、まず対数オッズで考える。「対数オッズが0より大きい」という条件は、「元の確率が0.5より大きい」という条件と同じである。したがって、変換した標本で正の値を数えても、元の標本で0.5を超える値を数えても、該当する標本はまったく同じになる。

一般の変換でも、変換後に調べたい範囲を BB とすると、

Pr⁡(g(θ)∈B∣∣y⟩)=Pr⁡(θ∈{u:g(u)∈B}∣∣y⟩)\Pr(g(\theta)\in B\mid\ket{y}) =\Pr(\theta\in\{u:g(u)\in B\}\mid\ket{y})

と書ける。右辺の {u:g(u)∈B}\{u:g(u)\in B\} は「変換すると BB に入るような、元の値をすべて集めた集合」である。 uu はその元の値を表す仮の記号である。この集合に入った標本の割合は、変換後に BB に入った割合と必ず等しい。そのため、元の分布を標本で近似できれば、変換後の分布も同じ標本を変換して近似できる。元の異なる値が同じ値へ変換される場合でも、この数え方は使える。

ただし、 「変換してから平均する」と「平均してから変換する」は一般に異なる 。上の3候補で g(θ)=θ2g(\theta)=\theta^2 とすると、二乗してからの平均は (0.04+0.25+0.64)/3=0.31(0.04+0.25+0.64)/3=0.31 だが、平均してからの二乗は 0.52=0.250.5^2=0.25 となる。非線形の関数の期待値を求めたいなら、各標本を変換してから平均する。

例:対数オッズ

1998年の総合的社会調査の回答者の54%は、宗教的志向がプロテスタントであると回答し、非プロテスタントは少数派にとどまった。調査では、公立学校で経典を読むことを州または地方政府が要求することを禁止する最高裁判所の判決に同意するかどうかを尋ねられた。宗教的少数派(非プロテスタント)の n=860n=860 人のうち、 y=441y=441 (51%)が最高裁判所の判決に同意したのに対し、プロテスタントでは 1,011 人のうち 353 人(35%)が判決に同意した。

再現に用いる人数と付属データの相違

この例の計算と図4.3では、教科書本文の n=860,y=441n=860,y=441 を採用する。一方、配布された gss.RData に付属 chapter4.R と同じ1998年・宗教コード1か否かの分類を適用し、PRAYERの欠測を除くと、非プロテスタント側は806人中441人、プロテスタント側は976人中353人になる。賛成人数は一致するが、分母は一致しない。

集計の出典 非プロテスタント側 プロテスタント側
提供された教科書本文 860人中441人 1,011人中353人
付属ファイルの再集計 806人中441人 976人中353人

この相違の原因は、提供資料だけでは確定できない。そのため、付属ファイルから860人が再現できたとは扱わず、本文の例の再現とファイルの再集計を区別して保存する。後者の人数を採用すると事後分布は beta⁡(442,366)\operatorname{beta}(442,366) になり、以下の結果とは異なる。出生率の111人・44人の集計は、付属データから一致して再現できる。

少数派の母集団に対応する母比率を θ\theta とする。標本モデルとして二項分布を、事前分布として一様分布を用いると、 θ\theta の事後分布は beta⁡(442,420)\operatorname{beta}(442,420) となる。上記のモンテカルロアルゴリズムを用いて、 γ\gamma の事前分布と事後分布から、対数オッズ γ=log⁡θ1−θ\gamma=\log\frac{\theta}{1-\theta} の標本を得ることができる。Pythonでも、モンテカルロ法のアルゴリズムは短く実装できる。

import numpy as np
from scipy.special import logit

rng = np.random.default_rng(403)
theta_prior = rng.beta(a=1, b=1, size=10_000)
gamma_prior = logit(theta_prior)
n1, n0 = 441, 860 - 441
theta_post = rng.beta(a=1+n1, b=1+n0, size=10_000)
gamma_post = logit(theta_post)
print(gamma_post.mean())
print(np.quantile(gamma_post, [0.025, 0.975]))

SciPyの gaussian_kde() を用いると、図4.3に示すように、これらの分布のカーネル密度推定を図示することができる。

図4.3 対数オッズの事前分布と事後分布のモンテカルロ近似。教科書では左右、本ノートでは上下に配置する。

解説:一様事前分布と事後更新を数値で追う

一様事前分布は beta⁡(1,1)\operatorname{beta}(1,1) である。二項尤度により、賛成人数を第1引数に、非賛成人数を第2引数に足すので、

θ∣y∼beta⁡(1+441,1+860−441)=beta⁡(442,420)\theta\mid y\sim\operatorname{beta}(1+441,1+860-441) =\operatorname{beta}(442,420)

となる。事後平均は 442/(442+420)=0.512761442/(442+420)=0.512761 であり、対数オッズの事後平均のモンテカルロ近似は0.051596、95%等裾信用区間の近似は (−0.082964,0.183943)(-0.082964,0.183943) となった。

引数に人数を足す理由は、密度の指数を見ればわかる。賛成441人、非賛成 860−441=419860-441=419 人の二項尤度は、 θ\theta によらない係数を省くと θ441(1−θ)419\theta^{441}(1-\theta)^{419} である。一様な事前密度1を掛けても、この形は変わらない。ベータ密度の形は θa−1(1−θ)b−1\theta^{a-1}(1-\theta)^{b-1} なので、 a−1=441,b−1=419a-1=441,b-1=419 を満たす a=442,b=420a=442,b=420 が得られる。

ここで、 θ\theta の一様分布を変換しても、 γ\gamma は一様分布にはならない。理由は、対数オッズへの変換によって横軸の間隔が一様には伸び縮みしないからである。たとえば θ=0.50\theta=0.50 から0.51までの幅0.01は、対数オッズでは約0.040の幅になる。一方、 θ=0.98\theta=0.98 から0.99までの同じ幅0.01は、対数オッズでは約0.703の幅になる。一様事前分布ではどちらの区間も確率0.01だが、変換後はその確率が載る幅が異なるため、密度の高さも変わる。

密度の式で確かめたい場合は、まず対数オッズから確率へ戻す逆変換を求める。

γ=log⁡θ1−θ⟹eγ=θ1−θ⟹eγ=θ(1+eγ)⟹θ=eγ1+eγ.\begin{aligned} \gamma=\log\frac{\theta}{1-\theta} &\quad\Longrightarrow\quad e^\gamma=\frac{\theta}{1-\theta}\\ &\quad\Longrightarrow\quad e^\gamma=\theta(1+e^\gamma)\\ &\quad\Longrightarrow\quad \theta=\frac{e^\gamma}{1+e^\gamma}. \end{aligned}

この逆変換を微分すると、

dθdγ=eγ(1+eγ)−e2γ(1+eγ)2=eγ(1+eγ)2=θ(1−θ)\frac{d\theta}{d\gamma} =\frac{e^\gamma(1+e^\gamma)-e^{2\gamma}}{(1+e^\gamma)^2} =\frac{e^\gamma}{(1+e^\gamma)^2} =\theta(1-\theta)

となる。小さな区間の確率は変換しても同じなので、 pγ(γ∣y) dγ=pθ(θ∣y) dθp_\gamma(\gamma\mid y)\,d\gamma=p_\theta(\theta\mid y)\,d\theta となるように密度を調整する。つまり、元の密度に横軸の幅の変換率 dθ/dγd\theta/d\gamma を掛ければよい。この変換率を、1変数の変数変換ではヤコビアンの絶対値と呼ぶ。今回は微分が正なので、そのまま掛けられる。

pγ(γ∣y)=pθ(eγ1+eγ∣y)eγ(1+eγ)2.p_\gamma(\gamma\mid y) =p_\theta\left(\frac{e^\gamma}{1+e^\gamma}\mid y\right) \frac{e^\gamma}{(1+e^\gamma)^2}.

一様事前密度なら、右辺の最初の因子は1であるため、 pγ(γ)=eγ/(1+eγ)2p_\gamma(\gamma)=e^\gamma/(1+e^\gamma)^2 となる。以下ではこの理論密度と、変換した10,000標本のKDEを比較する。教科書の左右配置を上下配置に変え、共通の横軸で広がりを比べる。

図4.3の再現。上段は事前、下段は事後。横軸は共通の対数オッズ、縦軸は各段で異なる密度尺度。各曲線の全実数上の面積は1である。

事前では広い対数オッズが考えられていたが、観測後は0付近の狭い範囲に集中している。図は [−6,6][-6,6] を表示するため、事前分布の左右合計約0.49%は表示外である。下段のピークが高いのは、同じ総面積1が狭い範囲に集まったからであり、確率が1を超えたわけではない。

単調増加変換なので、理論上の等裾区間は、 θ\theta の分位点を対数オッズに変換しても求められる。その値は (−0.082475,0.184816)(-0.082475,0.184816) である。0を含むので、「少数派の母集団の過半数が賛成」と95%等裾区間で強く言い切れる状況ではない。より直接的には、 Pr⁡(γ>0∣y)=Pr⁡(θ>0.5∣y)=0.7733\Pr(\gamma>0\mid y)=\Pr(\theta>0.5\mid y)=0.7733 である。

比較用の理論値として、対数オッズの平均は ψ(442)−ψ(420)=0.051114\psi(442)-\psi(420)=0.051114 となる。ここで ψ(a)=dlog⁡Γ(a)/da\psi(a)=d\log\Gamma(a)/da はディガンマ関数である。この特殊関数を知らなくても標本の変換で平均を計算できる点が、モンテカルロ法の利点である。事後平均0.512761を先に対数オッズへ変換した0.051055とは、わずかだが異なる。

実装の logit はこの変換を要素ごとに計算する関数である。0や1を入力すると無限大になるため、端点を含む手入力データなどには注意が必要である。本例のベータ標本では端点は理論上確率0であり、実行結果にも現れていない。SciPyの公式仕様も参照できる。

例:二つのパラメータの関数

出生率の例における事前分布とデータに基づく、学歴に関する二つのグループに対する事後分布は次で与えられる。

{θ1∣y1(1),…,y1(n1)}∼gamma⁡(219,112)(学士号をもっていない女性),\{\theta_1\mid y^{(1)}_1,\ldots,y^{(n_1)}_1\} \sim \operatorname{gamma}(219,112) \qquad \text{(学士号をもっていない女性)},
{θ2∣y2(1),…,y2(n2)}∼gamma⁡(68,45)(学士号をもつ女性).\{\theta_2\mid y^{(1)}_2,\ldots,y^{(n_2)}_2\} \sim \operatorname{gamma}(68,45) \qquad \text{(学士号をもつ女性)}.

θ1\theta_1 と θ2\theta_2 の間の差異を表す方法は多く存在する。たとえば、

Pr⁡(θ1>θ2∣Y1(1)=y1(1),…,Y2(n2)=y2(n2))\Pr(\theta_1>\theta_2\mid Y^{(1)}_1=y^{(1)}_1,\ldots,Y^{(n_2)}_2=y^{(n_2)}_2)

の値あるいは、 θ1/θ2\theta_1/\theta_2 の事後分布などが挙げられる。これらの量はともにモンテカルロサンプリングにより得られる。

第 ss 回では、各群から一つずつ独立に生成する。

θ1[s]∼gamma⁡(219,112),θ2[s]∼gamma⁡(68,45),s=1,…,S.\theta_1^{[s]}\sim\operatorname{gamma}(219,112),\qquad \theta_2^{[s]}\sim\operatorname{gamma}(68,45),\qquad s=1,\ldots,S.

この2個で一組とし、組を生成する操作を独立に SS 回繰り返す。

得られた標本 {(θ1[1],θ2[1]),…,(θ1[S],θ2[S])}\{(\theta_1^{[1]},\theta_2^{[1]}),\ldots,(\theta_1^{[S]},\theta_2^{[S]})\} は θ1\theta_1 と θ2\theta_2 の同時事後分布からのサンプルサイズ SS の独立な標本となっており、興味のある事後統計量のモンテカルロ近似に用いることができる。たとえば、

Pr⁡(θ1>θ2∣∑i=1111Y1(i)=217,∑i=144Y2(i)=66)\Pr\left(\theta_1>\theta_2\mid \sum_{i=1}^{111}Y^{(i)}_1=217,\sum_{i=1}^{44}Y^{(i)}_2=66\right)

は

1S∑s=1S1(θ1[s]>θ2[s])\frac{1}{S}\sum_{s=1}^{S}1(\theta_1^{[s]}>\theta_2^{[s]})

により近似される。ただし、 1(x>y)1(x>y) は x>yx>y ならば1、そうでなければ0となる指示関数である。この近似のPythonによる計算は次のようになる。

import numpy as np

rng = np.random.default_rng(404)
theta1_mc = rng.gamma(shape=219, scale=1/112, size=10_000)
theta2_mc = rng.gamma(shape=68, scale=1/45, size=10_000)
probability = np.mean(theta1_mc > theta2_mc)
print(probability)  # 0.9716
ratio_mc = theta1_mc / theta2_mc
print(ratio_mc.mean())
print(np.quantile(ratio_mc, [0.025, 0.975]))

解説:同じ反復番号の組を比べる

一回の反復で二つの母数を生成し、その組から差や比、大小関係を計算する。今回は事後独立なので、各群から別々に独立に生成した配列を組み合わせればよい。共通の潜在変数をもつ階層モデルなどでは事後相関が生じるため、各群の周辺分布を別々に生成して組み合わせる方法では、正しい同時事後分布を再現できない場合がある。

今回の10,000組では、9,716組で θ1>θ2\theta_1>\theta_2 となった。したがって、近似値は0.9716、MCSEは約0.00166である。教科書の乱数例の0.9708と少し違っても不自然ではない。参考として、数値積分とベータ分布への変換の両方で計算すると、確率は0.972560となる。

補足:母平均の比較をベータ分布でも確認する

ここは、モンテカルロ近似の値を別の計算で確かめるための補足である。 U=112θ1,V=45θ2U=112\theta_1,V=45\theta_2 と置く。rateが112の変数を112倍するとrateは1になり、rateが45の変数を45倍した場合も同様である。たとえば指数関数の部分は e−112θ1=e−Ue^{-112\theta_1}=e^{-U} となる。よって、 U,VU,V はそれぞれshapeが219、68で、rateがともに1の独立なガンマ変数になる。

共通のrateをもつ独立ガンマ変数では、和に占める一方の割合がベータ分布になる。ここでは W=U/(U+V)∼beta⁡(219,68)W=U/(U+V)\sim\operatorname{beta}(219,68) である。この性質の理由を密度の形から見るには、和を T=U+VT=U+V と置き、 U=WT,V=(1−W)TU=WT,V=(1-W)T と戻す。幅の変換係数は TT なので、同時密度は、定数倍を除いて

p(w,t)∝(wt)218{(1−w)t}67e−t t=w219−1(1−w)68−1 t287−1e−t,0<w<1, t>0.\begin{aligned} p(w,t)&\propto(wt)^{218}\{(1-w)t\}^{67}e^{-t}\,t\\ &=w^{219-1}(1-w)^{68-1}\,t^{287-1}e^{-t}, \qquad 0<w<1,\ t>0. \end{aligned}

幅の変換係数 tt は、 u=wt,v=(1−w)tu=wt,v=(1-w)t の微分を並べた行列の行列式の絶対値 ∣t(−[1−w])−wt∣=t\lvert t(-[1-w])-wt\rvert=t である。 tt について積分すると ww によらない定数になるため、残る ww の部分は beta⁡(219,68)\operatorname{beta}(219,68) の密度になる。

あとは、比較したい条件を WW の条件へ書き換える。 U,VU,V は正なので、以下の掛け算や割り算で不等号の向きは変わらない。

θ1>θ2⟺U/112>V/45⟺45U>112V⟺157U>112(U+V)⟺W=UU+V>112157.\begin{aligned} \theta_1>\theta_2 &\quad\Longleftrightarrow\quad U/112>V/45\\ &\quad\Longleftrightarrow\quad 45U>112V\\ &\quad\Longleftrightarrow\quad 157U>112(U+V)\\ &\quad\Longleftrightarrow\quad W=\frac{U}{U+V}>\frac{112}{157}. \end{aligned}

したがって、ベータ分布で 112/157≈0.7134112/157\approx0.7134 より右側に入る確率を計算すれば、0.972560が得られる。前半の変数変換まで手で追わなくても、モンテカルロ法では候補の組を生成して大小を数えるだけで同じ確率を近似できる。

さらに、二つのグループの平均の比に興味がある場合は、 {θ1[1]/θ2[1],…,θ1[S]/θ2[S]}\{\theta_1^{[1]}/\theta_2^{[1]},\ldots,\theta_1^{[S]}/\theta_2^{[S]}\} の経験分布を用いることにより、 θ1/θ2\theta_1/\theta_2 の事後分布を近似することができる。この事後密度のモンテカルロ推定値を図4.4に示す。

図4.4 γ=θ1/θ2\gamma=\theta_1/\theta_2 の事後分布のモンテカルロ近似。

ここでの γ\gamma は母平均の比を表し、前の例の対数オッズとは別の量である。原文の図の説明は「事後予測分布」となっているが、未観測の子供数を生成しているわけではないので、ここでは 母数比の事後分布 と表記する。

次の図では、比1が「母平均が等しい」という基準になる。どれくらいの確率が1より右にあるかと、どれくらい大きな比までありそうかを分けて読む。

図4.4の再現。母平均の比 θ₁/θ₂ の事後密度。点線の比1は等しい母平均を表す。KDEに、尺度付きベータプライム分布の理論密度を重ねた。

比の平均のモンテカルロ近似は1.3112、95%等裾信用区間の近似は (0.9911,1.7142)(0.9911,1.7142) である。理論値は平均1.3133、区間 (0.9947,1.7171)(0.9947,1.7171) となる。比が1を上回る確率は約97.26%だが、等裾区間の下端は1より少し小さい。これは矛盾ではない。比が1以下である確率約2.744%が、下側の切り捨て確率2.5%より少し大きいからである。

また、母平均の事後平均同士を割ると 1.955357/1.511111=1.2939861.955357/1.511111=1.293986 となり、「比の事後平均」1.313300とは一致しない。今回の独立ガンマ分布では

Ep(θ1,θ2∣∣y⟩) ⁣[θ1θ2]=Ep(θ1∣∣y⟩)[θ1] Ep(θ2∣∣y⟩)[θ2−1]=2191124568−1=1.313300…\mathrm{E}_{p(\theta_1,\theta_2\mid\ket{y})}\!\left[\frac{\theta_1}{\theta_2}\right] =\mathrm{E}_{p(\theta_1\mid\ket{y})}[\theta_1]\, \mathrm{E}_{p(\theta_2\mid\ket{y})}[\theta_2^{-1}] =\frac{219}{112}\frac{45}{68-1} =1.313300\ldots

となる。最初の等号で期待値を掛け算に分けられるのは、二つの母数が事後独立だからである。また、 Ep(θ2∣∣y⟩)[θ2−1]\mathrm{E}_{p(\theta_2\mid\ket{y})}[\theta_2^{-1}] は 1/Ep(θ2∣∣y⟩)[θ2]1/\mathrm{E}_{p(\theta_2\mid\ket{y})}[\theta_2] とは異なる。

途中に現れる 45/(68−1)45/(68-1) を確認するため、一般に X∼gamma⁡(A,B)X\sim\operatorname{gamma}(A,B) とし、 A>1A>1 とする。密度に 1/x1/x を掛けると xx の指数が一つ減るので、shapeが A−1A-1 のガンマ密度が現れる。

EX∼gamma⁡(A,B)[X−1]=BAΓ(A)∫0∞xA−2e−Bx dx=BAΓ(A)Γ(A−1)BA−1=BA−1.\begin{aligned} \mathrm{E}_{X\sim\operatorname{gamma}(A,B)}[X^{-1}] &=\frac{B^A}{\Gamma(A)}\int_0^\infty x^{A-2}e^{-Bx}\,dx\\ &=\frac{B^A}{\Gamma(A)}\frac{\Gamma(A-1)}{B^{A-1}} =\frac{B}{A-1}. \end{aligned}

2行目の積分は、ガンマ密度の面積が1になることから求めている。最後は Γ(A)=(A−1)Γ(A−1)\Gamma(A)=(A-1)\Gamma(A-1) を使った。 A=68,B=45A=68,B=45 なら Ep(θ2∣∣y⟩)[1/θ2]=45/67\mathrm{E}_{p(\theta_2\mid\ket{y})}[1/\theta_2]=45/67 となる。

直感的には、分母が小さい候補で比が大きくなる影響を、母平均を先に求めると捉えられないのである。この比は集団間の関連を要約しており、学位取得による因果効果を表しているわけではない。

4.3 予測分布からのサンプリング

ここまでは「集団の母平均はいくつか」を考えてきた。この節では、「次に調べる1人の子供数はいくつか」という問いへ進む。まだ観測していない結果を Y~\tilde Y と書き、それぞれの結果がどれくらい起こりそうかを表す分布を予測分布という。

予測では、すでにわかっているデータを条件として使う。一方、未知の母数については、一つの値に決めつけず、ありうる値全体で予測を平均する。この平均を積分で書くことを「未知母数を積分消去する」という。

たとえば、大卒の40歳女性の母集団からサンプリングされた子供の数を Y~\tilde Y とする。もし、この母集団の真の平均出生率 θ\theta を知っていれば、 Y~\tilde Y についての不確かさを Poisson⁡(θ)\operatorname{Poisson}(\theta) により表現できる。

標本モデル:

Pr⁡(Y~=y~∣θ)=p(y~∣θ)=θy~e−θy~!.\Pr(\tilde Y=\tilde y\mid\theta) =p(\tilde y\mid\theta) =\frac{\theta^{\tilde y}e^{-\theta}}{\tilde y!}.

しかし、 θ\theta は実際には未知であるから、その値が既知である場合と同じように一つのポアソン分布を指定することはできない。この母集団からのサンプルを全くもっていない場合、予測分布は θ\theta に関して積分消去することにより得られる。

予測モデル:

Pr⁡(Y~=y~)=∫p(y~∣θ)p(θ) dθ.\Pr(\tilde Y=\tilde y)=\int p(\tilde y\mid\theta)p(\theta)\,d\theta.

θ∼gamma⁡(a,b)\theta\sim\operatorname{gamma}(a,b) を仮定すると、この積分から負の二項分布 negative binomial (a,b)(a,b) が得られる。導出はすぐ後で確認する。まだデータを使わず、事前分布に従って母数を平均した予測を、事前予測分布(prior predictive distribution)と呼ぶ。

事前予測分布を見ると、母数に置いた仮定が、実際の観測値についてどのような予想を意味するかがわかる。たとえば、平均子供数の事前分布だけでは妥当性を判断しにくくても、「この仮定では何人の子供をもつ女性が多く生成されるか」と考えると確かめやすい。教科書の演習問題7.4も、この観点を扱う。

データ Y(1)=y(1),…,Y(n)=y(n)Y^{(1)}=y^{(1)},\ldots,Y^{(n)}=y^{(n)} を観測した後は、事前分布を事後分布に置き換える。

Pr⁡(Y~=y~∣Y(1)=y(1),…,Y(n)=y(n))=∫p(y~∣θ,y(1),…,y(n))p(θ∣y(1),…,y(n)) dθ\Pr(\tilde Y=\tilde y\mid Y^{(1)}=y^{(1)},\ldots,Y^{(n)}=y^{(n)}) = \int p(\tilde y\mid\theta,y^{(1)},\ldots,y^{(n)}) p(\theta\mid y^{(1)},\ldots,y^{(n)})\,d\theta
=∫p(y~∣θ)p(θ∣y(1),…,y(n)) dθ.= \int p(\tilde y\mid\theta)p(\theta\mid y^{(1)},\ldots,y^{(n)})\,d\theta.

観測されたデータセットで条件付けているので、これを事後予測分布(posterior predictive distribution)と呼ぶ。ガンマ事前分布をもつポアソンモデルの場合、事後予測分布は負の二項分布 negative binomial (a+∑y(i),b+n)(a+\sum y^{(i)},b+n) になることは第3章で示した。

解説:「未知の量を積分消去する」とは、候補を重み付きで平均することである

θ\theta が既知なら、次の子供数の分布は一つのポアソン分布である。しかし実際には、 θ=1.3\theta=1.3 も1.5も1.8もありうる。そこで、それぞれの θ\theta での予測を、その θ\theta の事後のもっともらしさで重み付けして平均する。この操作が積分である。積分消去とは、不確かさを無視することではなく、 不確かさの全体を予測へ織り込むこと である。

上の2本の予測式が等しいのは、 θ\theta を与えると、新しい観測と過去の観測が条件付き独立だからである。この仮定のない時系列モデルなどでは、過去の観測への条件付けを同じようには省けない。

パラメータ表記の混同を避けるため、事後のshapeを AA 、rateを BB と書こう。積分を実行すると、

Pr⁡(Y~=k∣∣y⟩)=∫0∞θke−θk!BAΓ(A)θA−1e−Bθ dθ=BAΓ(A)k!∫0∞θA+k−1e−(B+1)θ dθ=BAΓ(A)k!Γ(A+k)(B+1)A+k=Γ(A+k)Γ(A)k!(BB+1)A(1B+1)k.\begin{aligned} \Pr(\tilde Y=k\mid\ket{y}) &=\int_0^\infty \frac{\theta^k e^{-\theta}}{k!} \frac{B^A}{\Gamma(A)}\theta^{A-1}e^{-B\theta}\,d\theta\\ &=\frac{B^A}{\Gamma(A)k!} \int_0^\infty\theta^{A+k-1}e^{-(B+1)\theta}\,d\theta\\ &=\frac{B^A}{\Gamma(A)k!}\frac{\Gamma(A+k)}{(B+1)^{A+k}}\\ &=\frac{\Gamma(A+k)}{\Gamma(A)k!} \left(\frac{B}{B+1}\right)^A \left(\frac{1}{B+1}\right)^k. \end{aligned}

2行目では、 θ\theta のべきと指数関数をそれぞれまとめ、 θ\theta によらない係数を外に出した。3行目では、任意の r,c>0r,c>0 に対する次の関係を使っている。

∫0∞crΓ(r)xr−1e−cx dx=1⟹∫0∞xr−1e−cx dx=Γ(r)cr.\int_0^\infty\frac{c^r}{\Gamma(r)}x^{r-1}e^{-cx}\,dx=1 \quad\Longrightarrow\quad \int_0^\infty x^{r-1}e^{-cx}\,dx=\frac{\Gamma(r)}{c^r}.

左辺はガンマ密度の面積が1になるという式である。これを r=A+k,c=B+1r=A+k,c=B+1 に当てはめればよい。最後は BA/(B+1)A+kB^A/(B+1)^{A+k} を {B/(B+1)}A{1/(B+1)}k\{B/(B+1)\}^A\{1/(B+1)\}^k に分けただけである。

たとえば、学士号あり群で「次の女性の子供数が2」という確率は、 A=68,B=45,k=2A=68,B=45,k=2 を代入して求められる。 Γ(70)/Γ(68)=69×68\Gamma(70)/\Gamma(68)=69\times68 と 2!=22!=2 を使うと、

Pr⁡(Y~=2∣∣y⟩)=69×682(4546)68(146)2≈0.248731.\Pr(\tilde Y=2\mid\ket{y}) =\frac{69\times68}{2}\left(\frac{45}{46}\right)^{68} \left(\frac{1}{46}\right)^2 \approx0.248731.

これは、SciPyでは nbinom(n=A, p=B/(B+1)) と指定する負の二項分布である。教科書のnegative binomial (A,B)(A,B) の第2引数 BB を、そのままSciPyの p へ渡してはいけない。SciPyの p は0〜1の確率だからである。SciPyの公式仕様と上の確率質量関数を照合すると、この対応を確認できる。

事前予測なら A=2,B=1A=2,B=1 なので、平均は2、分散は 2+2=42+2=4 である。学士号あり群の事後予測なら A=68,B=45A=68,B=45 なので、平均は 68/45=1.511168/45=1.5111 、分散は 68/45+68/452=1.544768/45+68/45^2=1.5447 となる。

モデリングを行う多くの状況で、 p(θ∣y(1),…,y(n))p(\theta\mid y^{(1)},\ldots,y^{(n)}) や p(y∣θ)p(y\mid\theta) からはサンプリングできるが、 p(y~∣y(1),…,y(n))p(\tilde y\mid y^{(1)},\ldots,y^{(n)}) からは直接サンプリングすることが難しい場合がある。そのような場合、モンテカルロ法により間接的に事後予測分布からのサンプリングを行うことができる。

p(y~∣y(1),…,y(n))=∫p(y~∣θ)p(θ∣y(1),…,y(n)) dθp(\tilde y\mid y^{(1)},\ldots,y^{(n)}) = \int p(\tilde y\mid\theta)p(\theta\mid y^{(1)},\ldots,y^{(n)})\,d\theta

より、 p(y~∣y(1),…,y(n))p(\tilde y\mid y^{(1)},\ldots,y^{(n)}) は p(y~∣θ)p(\tilde y\mid\theta) の事後期待値であることが確認できる。ここで平均しているのは θ\theta であり、調べたい予測値 y~\tilde y は固定している。

p(y~∣∣y⟩)=Ep(θ∣∣y⟩)[p(y~∣θ)].p(\tilde y\mid\ket{y})=\mathrm{E}_{p(\theta\mid\ket{y})}[p(\tilde y\mid\theta)].

Y~\tilde Y がある特定の値 y~\tilde y に等しいときの事後予測確率を得るには、前節のモンテカルロ法を適用するだけでよい。つまり、 p(θ∣y(1),…,y(n))p(\theta\mid y^{(1)},\ldots,y^{(n)}) から独立同一標本 θ[1],…,θ[S]\theta^{[1]},\ldots,\theta^{[S]} を生成し、

∑s=1Sp(y~∣θ[s])/S\sum_{s=1}^{S}p(\tilde y\mid\theta^{[s]})/S

により、 p(y~∣y(1),…,y(n))p(\tilde y\mid y^{(1)},\ldots,y^{(n)}) を近似すればよい。たとえば「次の女性の子供数がちょうど2である確率」を求めるなら、各母平均の候補で e−θθ2/2e^{-\theta}\theta^2/2 を計算して平均する。説明用の候補が 1,1.5,21,1.5,2 なら、それぞれ約0.18394、0.25102、0.27067であり、平均は約0.23521となる。これは3候補での説明用計算であり、実際には事後分布から多数生成した候補で平均する。

この手順は、 y∣θy\mid\theta が離散分布であり、 p(θ∣∣y⟩)p(\theta\mid\ket{y}) から簡単に計算できる量に関心がある場合にうまく機能する。しかし、一般には事後予測分布から Y~\tilde Y の標本を得ると便利である。この標本の取得は、次のように非常に簡単に行うことができる。

第 ss 回で、次の二段階を順番に行う。

θ[s]∼p(θ∣∣y⟩),y~[s]∼p(y~∣θ[s]),s=1,…,S.\theta^{[s]}\sim p(\theta\mid\ket{y}),\qquad \tilde y^{[s]}\sim p(\tilde y\mid\theta^{[s]}),\qquad s=1,\ldots,S.

毎回新しい母数候補を生成し、その候補を使って未観測結果を1個生成する。

得られたサンプル列 {(θ,y~)[1],…,(θ,y~)[S]}\{(\theta,\tilde y)^{[1]},\ldots,(\theta,\tilde y)^{[S]}\} は (θ,Y~)(\theta,\tilde Y) の同時事後分布からのサンプルサイズ SS の独立な標本であり、列 {y~[1],…,y~[S]}\{\tilde y^{[1]},\ldots,\tilde y^{[S]}\} は Y~\tilde Y の周辺事後分布、つまり事後予測分布からのサンプルサイズ SS の独立な標本である。

解説:二段階の生成で、なぜ予測分布から生成したことになるのか

母数と予測結果の組の同時密度・確率は

p(θ,y~∣∣y⟩)=p(y~∣θ)p(θ∣∣y⟩)p(\theta,\tilde y\mid\ket{y})=p(\tilde y\mid\theta)p(\theta\mid\ket{y})

である。まず右側の事後分布から θ\theta を生成し、その値で左側の条件付き分布から y~\tilde y を生成すれば、この積に従う組が得られる。そこから θ\theta の列を見ないことにすると、 y~\tilde y の分布は θ\theta を積分した周辺分布になる。これが事後予測分布である。

ここで、 θ[s]=1.5\theta^{[s]}=1.5 だったからといって、 y~[s]=1.5\tilde y^{[s]}=1.5 とするわけではない。子供数は整数であり、平均1.5のポアソン分布から0や1や2などが生成される。たとえば

Pr⁡(Y~=0∣θ=1.5)=e−1.5=0.22313,Pr⁡(Y~=2∣θ=1.5)=1.52e−1.52=0.25102.\Pr(\tilde Y=0\mid\theta=1.5)=e^{-1.5}=0.22313,\qquad \Pr(\tilde Y=2\mid\theta=1.5)=\frac{1.5^2e^{-1.5}}{2}=0.25102.

したがって、この二段階は「どの母平均が本当かわからない」という不確かさと、「母平均が決まっていても個人の子供数はばらつく」という不確かさを両方含む。

解説:事後平均を代入するだけでは、予測分散が小さくなる

ここで比べたいのは、 次の1人の子供数を予測するとき、母平均を一つの値に決めてよいか ということである。結論からいうと、このポアソンモデルでは、事後平均を代入する方法でも予測の平均は合う。しかし、母平均を推定する際の不確かさを省くため、予測の分散は小さくなる。順に確かめよう。

1.「平均を代入する」とは、何をすることか

記号をいったん言葉に戻す。 yy はすでに観測したデータ全体、 θ\theta は集団の平均子供数、 Y~\tilde Y は次に選ぶ1人の子供数である。 θ\theta は1.5などの小数でもよいが、 Y~\tilde Y は0、1、2、…という整数になる。

学士号あり群では、母平均の事後分布は gamma⁡(68,45)\operatorname{gamma}(68,45) であり、その平均は 68/45≈1.511168/45\approx1.5111 である。そこで、「平均子供数は1.5111と推定できたのだから、次の人の子供数は Poisson⁡(1.5111)\operatorname{Poisson}(1.5111) で予測すればよい」と考えたくなる。これが 事後平均を代入する予測 である。

この方法でも、全員の子供数を1.5111にするわけではない。ポアソン分布から0や1や2などが生じるので、個人の子供数のばらつきは残っている。ただし、 「本当の母平均が1.5111からずれているかもしれない」という不確かさは入っていない 。

予測の方法 母平均の扱い 次の1人の子供数の扱い
事後平均を代入する 毎回 θ=1.5111\theta=1.5111 に固定する 毎回同じ Poisson⁡(1.5111)\operatorname{Poisson}(1.5111) から生成する
事後予測分布を使う 毎回 gamma⁡(68,45)\operatorname{gamma}(68,45) から候補を生成する その回の候補を平均とするポアソン分布から生成する

後者で毎回違う θ\theta を生成するのは、現実の母平均が人ごとに変わると仮定したからではない。 同じ未知の母平均について、ありうる値を順に試し、予測に反映するため である。各回は「次の1人についての、別の予測シナリオ」にあたる。

2.母平均の候補が1と3だけなら、何が違うか

実際のガンマ分布を扱う前に、計算しやすい仮の例を考える。データを見た後でも、母平均は1か3のどちらかだとしかわからず、両方の可能性が半々だったとする。これは仕組みを理解するための例であり、上の学士号あり群の事後分布そのものではない。

母平均の候補 データを見た後の確率 その候補での子供数の平均 その候補での子供数の分散
θ=1\theta=1 1/21/2 1 1
θ=3\theta=3 1/21/2 3 3

最後の2列には、「ポアソン分布は平均も分散も θ\theta 」という性質を使った。母平均の事後平均は

m=12×1+12×3=2m=\frac12\times1+\frac12\times3=2

である。したがって、事後平均を代入する方法は Poisson⁡(2)\operatorname{Poisson}(2) を使い、予測の平均も分散も2になる。

一方、母平均の不確かさを含める方法では、平均1のポアソン分布と平均3のポアソン分布を半分ずつ混ぜる。この場合も予測全体の平均は2である。しかし、それぞれの分布の中心は1と3に離れている。したがって、それらを混ぜたときの広がりには、各分布の中のばらつきに加え、 中心の位置が異なる分だけのばらつき が加わる。

この違いは「子供数が0である確率」でも確認できる。ポアソン分布では、その確率は e−θe^{-\theta} なので、

事後平均を代入する場合:e−2≈0.1353,二つの候補での予測を平均する場合:12e−1+12e−3≈0.2088.\begin{aligned} \text{事後平均を代入する場合}&:\quad e^{-2}\approx0.1353,\\ \text{二つの候補での予測を平均する場合}&:\quad \frac12e^{-1}+\frac12e^{-3}\approx0.2088. \end{aligned}

つまり、同じ平均2の予測でも、0人になる確率は約13.5%と約20.9%で異なる。 母平均を先に平均してから予測する操作と、候補ごとに予測してから平均する操作は、同じではない 。

3.分散が「2+1=3」になる過程を追う

分散とは、「平均との差を二乗し、それを平均した量」である。この例では予測全体の平均は2なので、調べたいのは (Y~−2)2(\tilde Y-2)^2 の平均である。候補ごとに計算してから、半分ずつ足せばよい。

まず θ=1\theta=1 の場合は、平均との差を

Y~−2=(Y~−1)−1\tilde Y-2=(\tilde Y-1)-1

と分ける。これを二乗すると、

(Y~−2)2=(Y~−1)2−2(Y~−1)+1(\tilde Y-2)^2=(\tilde Y-1)^2-2(\tilde Y-1)+1

となる。平均1のポアソン分布では、 (Y~−1)2(\tilde Y-1)^2 の平均は分散の1であり、 Y~−1\tilde Y-1 の平均は0である。したがって、右辺を平均した結果は 1−2×0+1=21-2\times0+1=2 になる。

同様に θ=3\theta=3 の場合は、 Y~−2=(Y~−3)+1\tilde Y-2=(\tilde Y-3)+1 と分ける。今度は (Y~−3)2(\tilde Y-3)^2 の平均が3なので、二乗した式を平均すると 3+2×0+1=43+2\times0+1=4 になる。

母平均の候補 その候補の中心のまわりの分散 その中心と全体の平均2とのずれの二乗 全体の平均2からの二乗距離の平均
θ=1\theta=1 1 (1−2)2=1(1-2)^2=1 1+1=21+1=2
θ=3\theta=3 3 (3−2)2=1(3-2)^2=1 3+1=43+1=4
半分ずつ平均 2 1 3

したがって、予測全体の分散は

12×2+12×4=(12×1+12×3)⏟候補ごとの分散の平均:2+(12(1−2)2+12(3−2)2)⏟候補の中心のばらつき:1=3\frac12\times2+\frac12\times4 =\underbrace{\left(\frac12\times1+\frac12\times3\right)}_{\text{候補ごとの分散の平均:2}} +\underbrace{\left(\frac12(1-2)^2+\frac12(3-2)^2\right)}_{\text{候補の中心のばらつき:1}} =3

となる。事後平均2を代入したポアソン分布の分散は2だったので、中心の不確かさに対応する1が抜けていたとわかる。

数式で得た違いを、次の図で確かめよう。上段では、同じ子供数に並ぶ2本の棒を比べる。左の棒は母平均2を代入した予測、右の棒は候補1と3での予測を半分ずつ混ぜたものである。縦の点線は共通の平均2を示す。下段では、予測の分散を「個人のばらつき」と「母平均の不確かさ」に分けている。

補助図:平均が同じでも予測分散は異なる。母平均の候補1と3を半分ずつ混ぜる仮想例。上段は整数ごとの予測確率、下段は分散の内訳である。

混ぜた予測では、中心付近の1〜3人の確率が低くなり、0人や5人以上の確率が高くなっている。したがって、平均の位置は同じでも、全体として広く散らばる。下段の追加部分が、上で計算した母平均の事後分散1にあたる。 個人のばらつき2に、中心の不確かさ1を加える という対応を、上下の図で確認できる。

上段は0〜10人を表示している。11人以上の表示外確率は、平均を代入する予測で約0.00083%、混ぜた予測で約0.01462%である。表示範囲内で確率を割り直してはいない。下段の分散は表示外も含めた理論値である。

4.この足し算を一般的に書いたものが、全分散の公式である

候補が1と3だけでなく、連続的にいくつあっても、同じ分け方ができる。

予測全体の分散=母平均を固定したときの分散を、候補全体で平均した量+候補ごとの予測の中心が、どれくらいばらつくか.\begin{aligned} \text{予測全体の分散} &=\text{母平均を固定したときの分散を、候補全体で平均した量}\\ &\quad+\text{候補ごとの予測の中心が、どれくらいばらつくか}. \end{aligned}

これを分布の記号で書くと、全分散の公式になる。

Var⁡p(y~∣∣y⟩)(Y~)=Ep(θ∣∣y⟩) ⁣[Var⁡p(y~∣θ)(Y~)]+Var⁡p(θ∣∣y⟩) ⁣(Ep(y~∣θ)[Y~]).\begin{aligned} \operatorname{Var}_{p(\tilde y\mid\ket{y})}(\tilde Y) &=\mathrm{E}_{p(\theta\mid\ket{y})}\!\left[ \operatorname{Var}_{p(\tilde y\mid\theta)}(\tilde Y)\right]\\ &\quad+\operatorname{Var}_{p(\theta\mid\ket{y})}\!\left( \mathrm{E}_{p(\tilde y\mid\theta)}[\tilde Y]\right). \end{aligned}

長い式だが、内側から読むと意味を追える。第1項では、まず θ\theta を固定して子供数の分散を求める。次に、その値を θ\theta の事後分布で平均する。先ほどの表の「候補ごとの分散を半分ずつ平均」にあたる。第2項では、まず各候補での子供数の平均を求め、その平均同士のばらつきを測る。表の「中心と全体の平均とのずれの二乗を半分ずつ平均」にあたる。

ポアソンモデルでは、内側の分散も平均も θ\theta である。したがって、

Var⁡p(y~∣∣y⟩)(Y~)=Ep(θ∣∣y⟩)[θ]+Var⁡p(θ∣∣y⟩)(θ)\boxed{ \operatorname{Var}_{p(\tilde y\mid\ket{y})}(\tilde Y) =\mathrm{E}_{p(\theta\mid\ket{y})}[\theta] +\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta) }

と簡単になる。一方、 m=Ep(θ∣∣y⟩)[θ]m=\mathrm{E}_{p(\theta\mid\ket{y})}[\theta] を代入した Poisson⁡(m)\operatorname{Poisson}(m) の分散は mm だけである。両者の差は、母平均の事後分散そのものである。

一般の θ\theta についても、先ほどと同様に

Y~−m=(Y~−θ)+(θ−m)\tilde Y-m=(\tilde Y-\theta)+(\theta-m)

と分ければ、この足し算を確かめられる。 θ\theta を固定したとき、 Y~−θ\tilde Y-\theta の平均は0である。そのため、二乗して出てくる交差項 2(Y~−θ)(θ−m)2(\tilde Y-\theta)(\theta-m) は、その θ\theta のもとで平均すると0になる。残る二つの二乗の平均が、上の二つの分散成分になる。

なお、全分散の公式は他のモデルにも使えるが、「事後平均を代入した予測の分散との差が、母数の事後分散そのものになる」という結論には、ポアソン分布の平均と分散がともに θ\theta である性質を使っている。

5.実際の学士号あり群では、どれくらい違うか

ここで θ∣y∼gamma⁡(68,45)\theta\mid y\sim\operatorname{gamma}(68,45) に戻る。shapeが AA 、rateが BB のガンマ分布の平均は A/BA/B 、分散は A/B2A/B^2 なので、

Ep(θ∣∣y⟩)[θ]=6845=1.511111…,Var⁡p(θ∣∣y⟩)(θ)=68452=0.033580…\mathrm{E}_{p(\theta\mid\ket{y})}[\theta]=\frac{68}{45}=1.511111\ldots, \qquad \operatorname{Var}_{p(\theta\mid\ket{y})}(\theta)=\frac{68}{45^2}=0.033580\ldots

である。したがって、二つの予測を比べると次のようになる。

方法 予測の平均 予測の分散
事後平均を代入する 1.511111 1.511111
母平均の不確かさも含める 1.511111 1.511111+0.033580=1.5446911.511111+0.033580=1.544691

このデータでは、加わる分散は0.033580であり、差は比較的小さい。しかし、それは母平均についてすでにかなり情報を得ているからである。母平均の事後分布が広ければ、省いてしまう成分も大きくなる。

ここでの分散は、 次の1人の結果がどれくらいばらつくか を表す。乱数の生成回数 SS を増やしたときに小さくなるモンテカルロ計算の誤差とは別物である。 SS を増やすと分散1.544691をより正確に計算できるが、次の1人の不確かさ自体が小さくなるわけではない。

例:ポアソンモデル

1.何を予測したいのかを、先に決める

今度は二つの集団を比べる。学士号なし群を第1群、学士号あり群を第2群とし、各群から40歳の女性を新たに1人ずつ選ぶ。その2人について、 学士号なし群の1人のほうが、子供数が多い確率 を求めたい。

記号 意味 値の例
θ1,θ2\theta_1,\theta_2 二つの集団それぞれの母平均 1.9、1.5などの小数もとる
Y~1,Y~2\tilde Y_1,\tilde Y_2 各群から次に選ぶ1人ずつの子供数 0、1、2、…という整数

知りたいのは Pr⁡(Y~1>Y~2∣∣y⟩)\Pr(\tilde Y_1>\tilde Y_2\mid\ket{y}) である。母平均の順序を問う Pr⁡(θ1>θ2∣∣y⟩)\Pr(\theta_1>\theta_2\mid\ket{y}) とは区別する。たとえば母平均が1.9と1.5でも、選んだ2人の子供数が1と2になることはある。集団の平均が大きいことと、1人ずつ比べて必ず大きくなることは、別の話である。

計算の出発点も確認しておこう。両群の事前分布を独立な gamma⁡(2,1)\operatorname{gamma}(2,1) とし、各群で観測した人数と子供数の合計から更新すると、次の事後分布を得る。

群 観測人数 子供数の合計 母平均の事後分布
第1群:学士号なし 111 217 θ1∣y∼gamma⁡(2+217,1+111)=gamma⁡(219,112)\theta_1\mid y\sim\operatorname{gamma}(2+217,1+111)=\operatorname{gamma}(219,112)
第2群:学士号あり 44 66 θ2∣y∼gamma⁡(2+66,1+44)=gamma⁡(68,45)\theta_2\mid y\sim\operatorname{gamma}(2+66,1+44)=\operatorname{gamma}(68,45)

以下では観測済みデータ全体を yy と書き、人数や合計を毎回は書かない。このモデルでは、各群のデータはその群の母数だけに依存するので、事後分布でも二つの母数は独立である。

2.コンピュータの中で、各群から1人ずつ選ぶことを繰り返す

1回のシミュレーションでは、まず「二つの母平均はこの値だったとしたら」と候補を置く。そのうえで、それぞれの集団から1人分の子供数を生成して比べる。

  1. 第1群の母平均の候補 θ1[s]\theta_1^{[s]} を gamma⁡(219,112)\operatorname{gamma}(219,112) から生成する。
  2. 第2群の母平均の候補 θ2[s]\theta_2^{[s]} を gamma⁡(68,45)\operatorname{gamma}(68,45) から独立に生成する。
  3. Poisson⁡(θ1[s])\operatorname{Poisson}(\theta_1^{[s]}) から、子供数 y~1[s]\tilde y_1^{[s]} を1個生成する。
  4. Poisson⁡(θ2[s])\operatorname{Poisson}(\theta_2^{[s]}) から、子供数 y~2[s]\tilde y_2^{[s]} を1個生成する。
  5. y~1[s]>y~2[s]\tilde y_1^{[s]}>\tilde y_2^{[s]} なら1、そうでなければ0を記録する。

上付きの [s][s] は「第 ss 回」の生成である。毎回、手順1からやり直すことで、前の解説で確認した母平均の不確かさと個人のばらつきの両方を含められる。ここでは次の各群1人を予測するため、観測人数の111人や44人を生成する必要はない。

たとえば、後のコードで得られる最初の5回は次のとおりである。母平均の候補だけを小数第3位までに丸めて表示している。

回 ss θ1[s]\theta_1^{[s]} θ2[s]\theta_2^{[s]} y~1[s]\tilde y_1^{[s]} y~2[s]\tilde y_2^{[s]} 第1群のほうが多いか:1/0
1 2.005 1.522 2 0 1
2 2.013 2.036 1 2 0
3 1.992 1.616 1 3 0
4 1.992 1.663 0 1 0
5 1.766 1.529 1 1 0

3回目では、母平均の候補は第1群のほうが大きいのに、生成された子供数は第2群のほうが多い。5回目は同数なので、「第1群のほうが多い」には数えない。これが、母平均だけを比較する計算との違いである。

この5回だけなら割合は 1/5=0.21/5=0.2 だが、わずか5回では計算のばらつきが大きい。10,000回繰り返し、条件を満たした回数を10,000で割ることで、求めたい確率を近似する。

Pr⁡(Y~1>Y~2∣∣y⟩)≈1S∑s=1S1(y~1[s]>y~2[s]).\Pr(\tilde Y_1>\tilde Y_2\mid\ket{y}) \approx\frac{1}{S}\sum_{s=1}^{S} 1\bigl(\tilde y_1^{[s]}>\tilde y_2^{[s]}\bigr).

ここで 1(⋅)1(\cdot) は、括弧内が正しければ1、それ以外は0になる指示関数である。つまり、式全体は単に「第1群のほうが多かった回数 ÷ 全体の回数」を表している。

3.Pythonの各行を、上の手順に対応させる
import numpy as np

rng = np.random.default_rng(404)
S = 10_000

# 母平均の候補を、各群についてS個ずつ生成する。
# 本文はrate表記、NumPyはscale表記なので、scale = 1 / rate とする。
theta1_mc = rng.gamma(219, scale=1/112, size=S)
theta2_mc = rng.gamma(68, scale=1/45, size=S)

# 各候補を平均とするポアソン分布から、子供数を1個ずつ生成する。
y1_mc = rng.poisson(lam=theta1_mc)
y2_mc = rng.poisson(lam=theta2_mc)

# 同じ位置の値を1組として比較し、条件を満たす割合を求める。
print(np.mean(y1_mc > y2_mc))   # 0.4788:第1群のほうが多い
print(np.mean(y1_mc == y2_mc))  # 0.2120:同数
print(np.mean(y1_mc < y2_mc))   # 0.3092:第2群のほうが多い
diff_mc = y1_mc - y2_mc

配列 theta1_mc と theta2_mc は母平均の候補を、配列 y1_mc と y2_mc は1人ずつの子供数を保存している。すべて長さ10,000であり、同じ位置にある四つの値が、表の1行に対応する。コードでは配列をまとめて作っているが、各位置で行っていることは上の二段階の生成と同じである。

y1_mc > y2_mc は各組を比較して、True または False を並べた配列を返す。 np.mean はこれらを1と0として平均するので、条件を満たす割合になる。実際に第1群のほうが多かったのは4,788回であり、 4788/10000=0.47884788/10000=0.4788 である。この値は乱数による近似であり、真の予測確率が小数第4位まで0.4788と確定したという意味ではない。

4.二重無限和は、同じ確率を「組ごとの確率の足し算」で求めている

シミュレーションで何を数えているかがわかったところで、数式との対応を確認する。各群の予測確率を短く

q1(k)=Pr⁡(Y~1=k∣∣y⟩),q2(k)=Pr⁡(Y~2=k∣∣y⟩)q_1(k)=\Pr(\tilde Y_1=k\mid\ket{y}),\qquad q_2(k)=\Pr(\tilde Y_2=k\mid\ket{y})

と書く。たとえば q1(2)q_1(2) は「第1群の次の1人の子供数が2である確率」である。これらは、母平均の不確かさをすでに積分して含めた負の二項予測分布の確率である。

このモデルでは二群の予測は独立なので、ある組、たとえば (Y~1,Y~2)=(2,1)(\tilde Y_1,\tilde Y_2)=(2,1) の確率は掛け算で求められる。

Pr⁡(Y~1=2,Y~2=1∣∣y⟩)=q1(2)q2(1)≈0.269307×0.331642≈0.089314.\Pr(\tilde Y_1=2,\tilde Y_2=1\mid\ket{y}) =q_1(2)q_2(1) \approx0.269307\times0.331642 \approx0.089314.

ただし、約8.9%は「2対1」という一つの組の確率にすぎない。第1群が多くなる組には、1対0、2対0、3対0、3対1、…もある。それらを全部足す必要がある。

そこで、第2群の子供数ごとに場合分けする。

第2群の子供数 第1群が多くなる条件 その場合の確率
Y~2=0\tilde Y_2=0 Y~1=1,2,3,…\tilde Y_1=1,2,3,\ldots q2(0){q1(1)+q1(2)+⋯ }q_2(0)\{q_1(1)+q_1(2)+\cdots\}
Y~2=1\tilde Y_2=1 Y~1=2,3,4,…\tilde Y_1=2,3,4,\ldots q2(1){q1(2)+q1(3)+⋯ }q_2(1)\{q_1(2)+q_1(3)+\cdots\}
Y~2=2\tilde Y_2=2 Y~1=3,4,5,…\tilde Y_1=3,4,5,\ldots q2(2){q1(3)+q1(4)+⋯ }q_2(2)\{q_1(3)+q_1(4)+\cdots\}
⋯\cdots ⋯\cdots ⋯\cdots

同数を含めないので、第2群が jj 人なら、第1群は j+1j+1 人以上である。表の各行の中で足し、さらに行同士を足す。この「二段階の足し算」を、二つの和の記号で書くと

Pr⁡(Y~1>Y~2∣∣y⟩)=∑j=0∞∑k=j+1∞q1(k)q2(j)\Pr(\tilde Y_1>\tilde Y_2\mid\ket{y}) =\sum_{j=0}^{\infty}\sum_{k=j+1}^{\infty}q_1(k)q_2(j)

となる。 jj は第2群の子供数、 kk は第1群の子供数である。無限和になるのは、ポアソンモデルでは子供数として0以上のすべての整数を許しているからである。

実際の数値を使うと、表の最初の数行は次のようになる。

第2群の子供数 jj q2(j)q_2(j) 第1群が jj 人より多い確率 二つを掛けた寄与
0 0.224346 0.857253 0.192321
1 0.331642 0.580601 0.192552
2 0.248731 0.311294 0.077429
3 0.126168 0.135728 0.017125

たとえば1行目の約0.1923は、「第2群が0人で、かつ第1群が1人以上」の確率である。これらの寄与を j=4,5,…j=4,5,\ldots についても足すと、約0.482089となる。先ほどのシミュレーションによる0.4788は、この確率を近似していたのである。

今度は、足している組をマス目で見てみよう。上段の横軸は第1群の子供数 kk 、縦軸は第2群の子供数 jj であり、1マスが一つの組に対応する。色が濃いほど、その組の予測確率 q1(k)q2(j)q_1(k)q_2(j) が大きい。階段状の境界の右下が k>jk>j を満たすマスであり、対角線上の「×」は同数なので足さない。

補助図:二重和で足す組と、その確率。上段は各群1人ずつの子供数の組、下段は第2群の子供数ごとにまとめた確率の寄与である。実データに基づく負の二項事後予測分布から計算した。

たとえば、横軸2・縦軸1のマスは「第1群が2人、第2群が1人」であり、その確率は約8.93%である。そのマスだけでなく、同じ高さでさらに右にある3対1、4対1、…の確率も足すと、下段の「第2群が1人」の棒、約19.26%になる。これが二重和の内側の和にあたる。続いて下段のすべての棒を足すと、約48.21%になる。こちらが外側の和である。 1行の中で足し、次に行同士を足す という順序で、二つの和の記号を読み取れる。

上段は各群0〜7人の組を表示し、どちらかが8人以上となる組の確率、合計約0.1252%を省略している。色の尺度は0〜10%で、表示範囲内で確率を割り直してはいない。一方、下段では第1群が8人以上の組も含めて各行を集計し、第2群が8人以上の場合も最後の棒にまとめている。したがって、下段の合計は、上段の表示範囲に限った確率ではない。

本章の負の二項分布の表記で q1,q2q_1,q_2 を書き戻せば、教科書の式になる。

Pr⁡(Y~1>Y~2∣∣y⟩)=∑y~2=0∞∑y~1=y~2+1∞dnbinom⁡(y~1,219,112)dnbinom⁡(y~2,68,45).\Pr(\tilde Y_1>\tilde Y_2\mid\ket{y}) =\sum_{\tilde y_2=0}^{\infty} \sum_{\tilde y_1=\tilde y_2+1}^{\infty} \operatorname{dnbinom}(\tilde y_1,219,112) \operatorname{dnbinom}(\tilde y_2,68,45).

ここで dnbinom⁡(k,A,B)\operatorname{dnbinom}(k,A,B) は、本章の表記でshapeが AA 、rateが BB のガンマ分布とポアソン分布を組み合わせた予測における、「子供数が kk になる確率」を表す。関数名が長くても、行っていることは上の表の掛け算と足し算である。

求める確率は約48.2%である。ただし、残りの約51.8%がすべて「第2群のほうが多い」わけではない。同数になる場合もある。この点と、母平均の順序の確率との違いは、この後の「約97%と約48%は、異なる問いへの答えである」で、既存のグラフとともに確認する。

解説:同じ予測確率を二つの方法で近似する

ある特定の確率だけが欲しいなら、条件付き確率を平均する方法と、実際に予測値を生成して数える方法が使える。上のコードで生成した学士号あり群の標本を再利用し、 Pr⁡(Y~2=2∣∣y⟩)\Pr(\tilde Y_2=2\mid\ket{y}) を計算すると次のようになる。

from scipy.stats import poisson, nbinom

by_drawing = np.mean(y2_mc == 2)
by_averaging = np.mean(poisson.pmf(2, theta2_mc))
exact = nbinom.pmf(2, n=68, p=45/46)
print(by_drawing, by_averaging, exact)
方法 計算値 MCSE
生成した子供数が2かを数える 0.248400 0.004321
各母数候補での確率を平均する 0.248870 0.000152
負の二項分布の確率質量関数 0.248731 モンテカルロ誤差なし

条件付き確率を平均する方は、さらに0か1を生成する段階の乱数のばらつきを加えないため、この例では大幅に計算誤差が小さい。たとえば母平均の候補が1.5だった場合、「子供数が2か」を1回生成して確かめると結果は0か1になる。しかし、その段階の平均値が Pr⁡(Y~=2∣θ=1.5)=0.25102\Pr(\tilde Y=2\mid\theta=1.5)=0.25102 だと計算できるなら、初めから0.25102を使える。

式では、 I=1(Y~=2)I=1(\tilde Y=2) 、 q(θ)=Pr⁡(Y~=2∣θ)q(\theta)=\Pr(\tilde Y=2\mid\theta) と置くと、全分散の公式より

Var⁡p(y~∣∣y⟩)(I)=Ep(θ∣∣y⟩)[q(θ){1−q(θ)}]+Var⁡p(θ∣∣y⟩)(q(θ)).\operatorname{Var}_{p(\tilde y\mid\ket{y})}(I) =\mathrm{E}_{p(\theta\mid\ket{y})}[q(\theta)\{1-q(\theta)\}] +\operatorname{Var}_{p(\theta\mid\ket{y})}(q(\theta)).

右辺の第1項は、母平均が決まった後にも残る0・1のばらつきであり、0以上である。条件付き確率 q(θ)q(\theta) を使えば、この部分を加えずに済む。どちらの方法も同じ予測確率を目指すが、同じ回数の独立な母数標本を使うなら、確率を平均する方法の分散は大きくならない。この工夫をRao–Blackwell化と呼ぶ。一方、複雑な出来事やデータセット全体の特徴を調べたいときには、予測データ自体を生成する方が使いやすい。

事後予測分布からこれらのモンテカルロ標本を生成したら、それらを再度利用して、関心のある事後統計量を計算できる。たとえば、図4.5は、二つのグループのそれぞれからサンプリングされた2人の個人間の子供の数の差 D=(Y~1−Y~2)D=(\tilde Y_1-\tilde Y_2) の事後分布のモンテカルロ近似を示している。

図4.5 二つの教育に関する各母集団のそれぞれからランダムにサンプルされた2人の女性の子供の数の差 D=Y~1−Y~2D=\tilde Y_1-\tilde Y_2 の事後予測分布。

ここで「2人」とは、各群から1人ずつ、合計2人である。次の図の横軸は整数の差で、正なら学士号なし群の1人の子供数が多く、負なら学士号あり群の1人が多い。

図4.5の再現。各群1人の子供数の差。棒は10,000組の相対度数、菱形は負の二項予測分布から計算した確率。

確率は正側にも負側にも大きく広がり、同数である場合も少なくない。差の理論平均は0.4442人だが、標準偏差は1.8755人である。図は教科書と同じ −11≤D≤11-11\le D\le11 を示す。今回の標本はすべてその中にあり、理論分布の表示外確率は約 4.03×10−74.03\times10^{-7} である。理論値の無限和は20までで打ち切り、元の各群の裾確率の合計は 8.8×10−158.8\times10^{-15} 未満である。

解説:約97%と約48%は、異なる問いへの答えである

母平均についての問いは「集団全体の平均はどちらが大きいか」である。一方、事後予測についての問いは「各集団から次に選んだ1人は、どちらの子供数が多いか」である。集団の平均が少し違っても、個人同士のばらつきが大きければ順序はよく入れ替わる。

問い 数値積分・確率和による値 今回の10,000組による近似
θ1>θ2\theta_1>\theta_2 0.972560 0.9716
Y~1>Y~2\tilde Y_1>\tilde Y_2 0.482089 0.4788
Y~1=Y~2\tilde Y_1=\tilde Y_2 0.217675 0.2120
Y~1<Y~2\tilde Y_1<\tilde Y_2 0.300235 0.3092

予測で「大きい」確率が50%未満だからといって、大小関係が逆になったわけではない。「小さい」確率は約30%であり、残り約22%が同数だからである。同数を除いて条件付けた場合、「大きい」確率は 0.482089/(1−0.217675)≈0.61620.482089/(1-0.217675)\approx0.6162 となる。

次の図は、上段を母平均の差、下段を各群1人の子供数の差とし、横軸の範囲をそろえて広がりを比べる。上段は連続量の密度、下段は整数値の確率なので、縦の高さそのものを上下で比較しない。

補助図:母平均の差と、次の各群1人の子供数の差。横軸の尺度を共有し、母数の不確かさに個人の変動が加わることを示す。

上段では0より右にほとんどの確率が集中しているが、下段では0の両側へ大きく広がっている。モデルのもとで母平均の順序に確信があっても、個人の順序を同じ確信で予測できるわけではない。

4.4 事後予測分布によるモデルのチェック

学士号をもたない40歳の女性の標本を考えることにする。図4.6の上段にはこれらの女性の子供の数の経験分布と対応する事後予測分布が示されている。 n=111n=111 人の女性の標本において、ちょうど2人の子供をもつ女性の数は38であり、これは1人の子供をもつ女性の数の2倍である。対照的に、事後予測分布は、子供が2人の女性をサンプリングする確率が、子供が1人の女性をサンプリングする確率よりもわずかに低いことを示している(それぞれ0.27と0.28の確率)。よって、これらの二つの分布は対立しているように見える。観察されたデータでは2人の子供をもつ女性が1人の子供をもつ女性の2倍であるのに、予測では異なる結論を導くのはなぜだろうか。

2人の子供がいる女性の数が多いことの説明の一つとして、サンプリングのばらつきの結果であるということが挙げられる。つまり、サンプリングされたデータの経験分布は、一般にデータがサンプリングされた母集団の分布と正確に一致しない。サンプルサイズが小さい場合、経験分布の見た目が母集団分布とかなり異なる場合が実際にはある。滑らかな母集団分布から、非常に凸凹した経験分布が生成される可能性がある。このような場合、経験分布の凸凹をならすような予測分布が望ましいだろう。

もう一つの可能性は、子供2人の女性がとくに多いことが、この母集団の実際の特徴だということである。その場合、ポアソンモデルが各子供数の割合を十分に表せていないのかもしれない。ポアソン分布では、平均を決めると各人数の確率もすべて決まるため、「平均を約1.95に保ったまま、2人の確率だけを大きくする」という調整ができない。その制約を次で確認する。

解説:ポアソン分布は、各人数の割合を自由に変えられない

付属データから得た度数を確認すると、観測された特徴が見える。

子供数 0 1 2 3 4 5 6 合計
女性の人数 20 19 38 20 10 2 2 111

子供2人の女性は38人、1人の女性は19人であり、比は2である。一方、ポアソン分布では

Pr⁡(Y=2∣θ)Pr⁡(Y=1∣θ)=e−θθ2/2e−θθ=θ2\frac{\Pr(Y=2\mid\theta)}{\Pr(Y=1\mid\theta)} =\frac{e^{-\theta}\theta^2/2}{e^{-\theta}\theta} =\frac{\theta}{2}

となる。母平均を約1.95に合わせれば、この比も約0.98に決まってしまう。比だけを2にするには θ=4\theta=4 が必要だが、そうすると平均子供数も4になってしまい、観測の平均と合わない。

したがって、ここでの問題は単に母平均を少し変えることでは解決できない。1個の母数が平均も形も同時に制約しているのである。もっとも、111人程度の有限標本なら偶然比が2になる可能性は残る。その頻度を調べるのが以下の事後予測チェックである。

では、観測された比2は、111人をたまたま選んだことによるばらつきで説明できるだろうか。モデルに従う111人分の架空の調査を何度も作り、同じ比がどの程度現れるかを調べよう。データ全体を ∣y⟩=(y(1),…,y(111))T\ket{y}=(y^{(1)},\ldots,y^{(111)})^{\mathsf{T}} とし、その特徴を一つの数にまとめる関数を t(∣y⟩)t(\ket{y}) と書く。今回は、

t(∣y⟩)=∑i=11111(y(i)=2)∑i=11111(y(i)=1),t(∣yobs⟩)=3819=2.t(\ket{y})=\frac{\sum_{i=1}^{111}1(y^{(i)}=2)}{\sum_{i=1}^{111}1(y^{(i)}=1)},\qquad t(\ket{y_{\mathrm{obs}}})=\frac{38}{19}=2.

分子と分母の指示関数は、それぞれ子供2人、1人の女性を数えている。たとえば、ある架空の調査で2人の女性が30人、1人の女性が32人なら、 t=30/32=0.9375t=30/32=0.9375 となる。このような比を多数作って分布にし、実際の調査の比2がどの位置にあるかを確認する。分母が0の場合の扱いは、後のコードで明示する。

解説:反復するのは「1人」ではなく「111人の調査全体」である

モデルチェックでは、観測された111人と同じ規模のデータセットを繰り返し生成する。第 ss 回の反復では母平均を1個だけ生成し、その母平均を共有する111人の子供数を生成する。その後、111人の中で子供2人の女性と子供1人の女性を数える。

次の図では、各行が1回の反復である。人物は111人のうち先頭3人だけを模式的に示す。図中の母平均と子供数は、操作を追うための仮想値であり、実行結果ではない。矢印は生成の手順を表す。

反復1:θ = 1.8
事後分布から1個生成
0人2人1人… 計111人
全員を平均1.8のポアソン分布から生成し、比 t₁ を計算
反復2:θ = 2.1
母平均を新しく生成
3人1人2人… 計111人
全員を平均2.1のポアソン分布から生成し、比 t₂ を計算
同じ操作をS回繰り返す → S個の比を、観測の比2と比較する
説明図:一つの反復標本では母平均を共有し、別の反復では母平均を引き直す。各人物の横の数はその女性の子供数である。

同じ行の女性たちは、母平均を与えたもとで独立である。しかし、母平均を積分消去すると依存が残る。平均が高い反復では、同じ行の人々の子供数も全体に大きくなりやすいからである。人ごとに独立な母平均を引き直すと、この共有関係が消え、調査全体の予測分布が変わってしまう。

各 s∈{1,…,S}s\in\{1,\ldots,S\} に対して

  1. θ[s]∼p(θ∣∣Y⟩=∣yobs⟩)\theta^{[s]}\sim p(\theta\mid\ket{Y}=\ket{y_{\mathrm{obs}}}) を生成する。
  2. ∣Y~[s]⟩=(y~(1) [s],…,y~(n) [s])T\ket{\tilde Y^{[s]}}=(\tilde y^{(1)\,[s]},\ldots,\tilde y^{(n)\,[s]})^{\mathsf{T}} の各成分を p(y∣θ[s])p(y\mid\theta^{[s]}) から独立に生成する。
  3. t[s]=t(∣Y~[s]⟩)t^{[s]}=t(\ket{\tilde Y^{[s]}}) を計算する。

手順2の y~(i) [s]\tilde y^{(i)\,[s]} には、二種類の番号が並んでいる。丸括弧の (i)(i) は架空の調査の中で何人目か、角括弧の [s][s] は何回目の架空の調査かを表す。後のコードの配列 y_rep では、 [s][s] が行、 (i)(i) が列に対応する。

import numpy as np

rng = np.random.default_rng(406)
S, n = 10_000, 111
theta_mc = rng.gamma(shape=219, scale=1/112, size=S)
y_rep = rng.poisson(lam=theta_mc[:, None], size=(S, n))
count1 = (y_rep == 1).sum(axis=1)
count2 = (y_rep == 2).sum(axis=1)
t_mc = np.divide(count2, count1,
                 out=np.full(S, np.nan), where=count1 > 0)
t_mc[(count1 == 0) & (count2 > 0)] = np.inf
if np.isnan(t_mc).any():
    raise ValueError("0/0 の反復があるため、統計量の定義を見直す")

print(np.mean(t_mc > 2))   # 0.0038:厳密に上回る
print(np.mean(t_mc >= 2))  # 0.0047:同じ値も含む
print(np.sum(count1 == 0)) # 0:今回の乱数で分母ゼロはない

解説:配列の行と列に意味を持たせる

theta_mc は長さ10,000の配列である。 theta_mc[:, None] とすると形が (10,000,1)(10,000,1) になり、ポアソン乱数を生成するときに同じ行の111列へ同じ母平均が使われる。結果の y_rep は (10,000,111)(10,000,111) の配列で、行が反復番号、列が女性の番号である。 sum(axis=1) は各行の111人について数える操作である。

各反復の111人に同じ母平均を使う理由は、標本平均の予測分散でも確認できる。母平均 θ\theta を固定すると、 nn 人は独立で、1人の期待値も分散も θ\theta である。したがって、 nn 人の平均 Y~‾\overline{\tilde Y} の条件付き期待値は θ\theta 、条件付き分散は θ/n\theta/n となる。

ここで ∣y~⟩=(y~(1),…,y~(n))T\ket{\tilde y}=(\tilde y^{(1)},\ldots,\tilde y^{(n)})^{\mathsf{T}} は同じ母平均を共有する将来の nn 人分のデータである。分散の下付き p(∣y~⟩∣∣y⟩)p(\ket{\tilde y}\mid\ket{y}) は、このデータ全体の同時事後予測分布を表す。ここに全分散の公式を使うと、

Var⁡p(∣y~⟩∣∣y⟩)(Y~‾)=Ep(θ∣∣y⟩)[θ/n]+Var⁡p(θ∣∣y⟩)(θ)=Ep(θ∣∣y⟩)[θ]n+Var⁡p(θ∣∣y⟩)(θ).\begin{aligned} \operatorname{Var}_{p(\ket{\tilde y}\mid\ket{y})}(\overline{\tilde Y}) &=\mathrm{E}_{p(\theta\mid\ket{y})}[\theta/n]+\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta)\\ &=\frac{\mathrm{E}_{p(\theta\mid\ket{y})}[\theta]}{n}+\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta). \end{aligned}

個人差の項は nn で割られるが、共有する母平均の不確かさは nn で割られない。同じ調査の全員に共通する不確かさなので、人数分を平均しても打ち消せないからである。 n=111n=111 を代入すると、

Var⁡p(∣y~⟩∣∣y⟩)(Y~‾)=Ep(θ∣∣y⟩)[θ]111+Var⁡p(θ∣∣y⟩)(θ)=1.955357111+0.017459=0.035074.\operatorname{Var}_{p(\ket{\tilde y}\mid\ket{y})}(\overline{\tilde Y}) =\frac{\mathrm{E}_{p(\theta\mid\ket{y})}[\theta]}{111} +\operatorname{Var}_{p(\theta\mid\ket{y})}(\theta) =\frac{1.955357}{111}+0.017459 =0.035074.

1人ごとに独立な母平均を引き直すと、母平均の不確かさまで人ごとに独立になる。その場合は、1人の予測分散全体を111で割ることになり、 (1.955357+0.017459)/111=0.017773(1.955357+0.017459)/111=0.017773 に変わる。どちらも1人だけを見れば同じ負の二項分布に従うが、111人をまとめて見た性質は同じではない。

なお、分母となる「子供1人の女性」が0人になる可能性は、理論上はゼロではない。コードでは、分子が正なら +∞+\infty とし、分子も0の未定義な 0/00/0 はエラーとして気づけるようにした。未定義な値を黙って除外したり、分母を勝手に1へ置き換えたりしない。今回の10,000回および追加の100,000回の実行では、いずれも分母0は生じなかった。

このモンテカルロサンプリングの手順において、

  • {θ[1],…,θ[S]}\{\theta^{[1]},\ldots,\theta^{[S]}\} は θ\theta の事後分布からのサンプル、
  • {Y~[1],…,Y~[S]}\{\tilde Y^{[1]},\ldots,\tilde Y^{[S]}\} はそれぞれサイズ nn の事後予測データセット、
  • {t[1],…,t[S]}\{t^{[1]},\ldots,t^{[S]}\} は t(∣Y~⟩)t(\ket{\tilde Y}) の事後予測分布からのサンプル。

まず、上段で個人の子供数の分布を比べ、下段で標本全体の比 tt を比べる。同じ「予測」であっても、上段は1人の子供数、下段は111人の調査から計算した特徴の分布である。

図4.6の再現。上段は観測111人の相対度数と1人の予測確率。下段は111人ずつ生成した10,000標本の比 t の分布。縦破線は観測値2。

予測分布では子供1人の確率が0.276652、2人の確率が0.269307であり、その比は約0.97345である。下段の標本ごとの比にはばらつきがあるが、観測値2はその右の裾に位置する。上段は0〜9人を表示し、10人以上の予測確率約0.0000440は表示外である。棒を表示範囲内で再正規化してはいない。

原文の図4.6はこれらを左右に配置し、観測された比を短い縦線で示している。ここでは上下配置と縦破線に変え、比較対象は同じに保った。

t(∣Y~⟩)t(\ket{\tilde Y}) の分布のモンテカルロ近似は図4.6の下段に示されており、縦破線は t(∣yobs⟩)t(\ket{y_{\mathrm{obs}}}) の値を表している。教科書では、10,000回のモンテカルロデータセットの約0.5%しか観測された比以上になっていない。付属Rコードは「超える」ではなく >= による集計である。

解説:比が離散的なので、等号の扱いを区別する

比は整数の人数から作られるので、 t=2t=2 になる反復にも正の確率がある。今回のシード406による結果は次のとおりである。

反復数 t>2t>2 の回数と割合 t=2t=2 の回数 t≥2t\ge2 の回数と割合
10,000 38回、0.380% 9回 47回、0.470%
100,000 422回、0.422% 121回 543回、0.543%

本ノートの主図は10,000回の実行を用い、追加の100,000回は計算精度の確認として別に実行した。同じシードでも生成する配列のサイズが変わると、その後の乱数の使われ方が変わるため、この二つを同じ標本列の先頭部分とは扱わない。

t≥2t\ge2 の確率のMCSEは、10,000回では約0.000684、100,000回では約0.000232である。割合の単位では約0.0684、0.0232パーセントポイントとなる。したがって、教科書の0.5%という値を小数点以下まで一致させることが目的ではなく、この特徴をもつデータセットがモデルからはかなり生じにくい、という結論を確認する。

この結果は、観測された人数比を表すうえで、ポアソンモデルの仮定に問題があることを示している。つまり t(∣y⟩)t(\ket{y}) に関して観測されたデータセットに似たデータセットがほとんど見られないことを予測している。ここから先では、その不一致が推測の目的にとってどれほど問題になるかを考える。

子供が0人、1人、2人である割合をそれぞれ正確に知りたいなら、今回の不一致は問題になる。各人数の確率をより自由に選べる多項モデルなどを検討する理由がある。一方、知りたいのが平均子供数だけなら、ポアソンモデルが役立つ余地はある。分布の細かい形が違っても、平均の推定はうまくいく場合があるからである。

教科書では、仮定した分布が真の分布と異なる場合の推測について、White (1982)、Bunke and Milhaud (1998)、Kleijn and van der Vaart (2006)を挙げている。ここでは、その一般論を使う前に、「平均の推定値がどこへ近づくか」と「区間の幅が適切か」を分けて、今回の式で確認しよう。

解説:平均が合うことと、分布の形が合うことは別である

実際の標本平均は 217/111=1.954955217/111=1.954955 、不偏標本分散は1.897952である。両者が近いことは、ポアソンモデルが平均と分散の大きさを表すうえでは大きく外れていない可能性を示す。しかし、子供1人と2人の人数比という形の特徴まで表せる保証にはならない。

なぜ平均の推測だけはうまくいく場合があるのかを確認しよう。 yˉ=∑iy(i)/n\bar y=\sum_i y^{(i)}/n とすると、事後平均は

a+∑iy(i)b+n=a+nyˉb+n=ab+n+nyˉb+n=bb+nab+nb+nyˉ\begin{aligned} \frac{a+\sum_i y^{(i)}}{b+n} &=\frac{a+n\bar y}{b+n}\\ &=\frac{a}{b+n}+\frac{n\bar y}{b+n}\\ &=\frac{b}{b+n}\frac{a}{b} +\frac{n}{b+n}\bar y \end{aligned}

である。最初に ∑iy(i)=nyˉ\sum_i y^{(i)}=n\bar y と書き換え、事前に由来する aa とデータに由来する nyˉn\bar y を分けた。最後は a=b(a/b)a=b(a/b) と書き直している。すると、事後平均が「事前平均 a/ba/b 」と「観測の標本平均 yˉ\bar y 」の重み付き平均だとわかる。二つの重みは b/(b+n)+n/(b+n)=1b/(b+n)+n/(b+n)=1 になる。

今回の a=2,b=1,n=111,yˉ=217/111a=2,b=1,n=111,\bar y=217/111 を入れると、

1112×2+111112×217111=2+217112=1.955357…\frac{1}{112}\times2+\frac{111}{112}\times\frac{217}{111} =\frac{2+217}{112}=1.955357\ldots

であり、事前平均の重みは約0.9%、データの平均の重みは約99.1%である。事前分布の a,ba,b を固定したまま nn を増やすと、データ側の重みが1に近づく。さらに、観測値が独立同一分布で有限の平均をもつなら、真の分布がポアソンでなくても標本平均は真の平均に近づく。この「推定の中心が正しい値に近づく」性質に、母集団の平均と分散が等しいことは必須ではない。

一方、区間の幅については事情が異なる。真の平均を μ\mu 、真の分散を vv とすると、標本平均の標準誤差はおよそ v/n\sqrt{v/n} である。ポアソンモデルは μ/n\sqrt{\mu/n} を想定するため、 vv と μ\mu が大きく違えば区間の幅が適切でなくなりうる。今回、標本から計算した比較値は

1.897952/111=0.1308,1.954955/111=0.1327\sqrt{1.897952/111}=0.1308,\qquad \sqrt{1.954955/111}=0.1327

と近い。しかし、有限標本で近かったことだけを理由に、モデル全体の正しさや区間の被覆率を保証することはできない。

したがって、何を推測したいかによって評価は変わる。平均子供数が目的ならこのモデルが近似として役立つ可能性がある一方、子供数ごとの割合が目的なら、各カテゴリの確率をより自由に表せる多項モデルなどを検討する理由がある。平均・分散・ゼロの割合・特定人数のピークなど、目的に関係する複数の特徴を見ることが大切である。

4.5 補足と文献案内

モンテカルロ法の使用は、統計学やより一般的な科学の分野に広がってきている。Rubinstein and Kroese (2008) は、様々な統計問題のモンテカルロ法を網羅しており、Robert and Casella (2004) は、ベイズ統計への応用に関する部分をさらに広く網羅している(マルコフ連鎖モンテカルロ法も網羅している)。

事後予測分布を使用してモデルの適合性を評価することは、Guttman (1967) と Rubin (1984) によって提案され、現在では一般的な方法である。一部の問題では、パラメータと予測データに依存する関数を用いて適合度を評価すると便利である。これについては、Gelman et al. (1996) で取り上げられており、最近では Johnson (2007) でも議論が与えられている。これらのタイプの事後予測チェックは、事後予測 pp 値の概念を生み出した。これは、その名前にもかかわらず、一般に古典的な適合度検定に基づく pp 値と同じ頻度論的性質をもたない。この区別は、Bayarri and Berger (2000) で説明されており、彼らは頻度論的 pp 値の代わりとして機能するベイズ適合度確率を考えている。

解説:事後予測の小さな確率は「モデルが正しい確率」ではない

今回計算した量は、たとえば

pppc=Pr⁡{t(∣Y~⟩)≥t(∣yobs⟩)∣∣yobs⟩}p_{\mathrm{ppc}} =\Pr\{t(\ket{\tilde Y})\ge t(\ket{y_{\mathrm{obs}}})\mid\ket{y_{\mathrm{obs}}}\}

である。これは「観測データで更新した母数分布を使って、新しい同規模データを生成したとき、統計量が観測値以上になる確率」である。小さい値は、調べた特徴に関するモデルとの不一致を知らせる。しかし、 pppc=0.005p_{\mathrm{ppc}}=0.005 だから「モデルが正しい確率は0.5%」と解釈することはできない。

通常の頻度論的な pp 値と同じ性質をもたないのは、観測データを母数の事後分布の構成にも、比較する統計量の計算にも使っているからである。離散性の問題もあり、正しいモデルのもとでこの値が常に一様分布になるわけではない。また、データを見てから目立った特徴を統計量に選んだ場合、その探索の影響もある。事後予測チェックは、単一のしきい値で機械的に合否を決めるためだけの操作ではなく、モデルがどの特徴を再現し、どの特徴を再現できないかを理解するための方法である。

教科書の文献案内では、一般的なモンテカルロ法についてRubinstein and Kroese (2008)、ベイズ計算およびMCMCについてRobert and Casella (2004)を挙げている。事後予測チェックはGuttman (1967)、Rubin (1984)、母数にも依存する不一致尺度についてはGelman et al. (1996)、Johnson (2007)、頻度論的 pp 値との違いについてはBayarri and Berger (2000)が案内されている。本章で追加した解説は、まずここで提示された式と具体例を自分で追えるようにすることを目的としている。

4.6 手を動かして確認する

問1:指示関数と割合

説明用の母数標本が (1.3,1.6,1.8,1.5)(1.3,1.6,1.8,1.5) のとき、 Pr⁡(θ<1.75∣∣y⟩)\Pr(\theta<1.75\mid\ket{y}) のモンテカルロ近似を求めよ。

答え :指示関数の値は (1,1,0,1)(1,1,0,1) なので、近似値は 3/4=0.753/4=0.75 である。標本平均は1.55だが、この平均だけから上の確率を復元することはできない。

問2:計算を何倍にすればよいか

ある期待値のMCSEが、 S=2,500S=2,500 で0.004だった。MCSEを0.001にするための標本数の目安を求めよ。

答え :誤差を 1/41/4 にしたいので、標本数は 42=164^2=16 倍が必要である。したがって、 S=40,000S=40,000 が目安となる。観測データが増えるわけではないので、母数自体の事後の不確かさは変わらない。

問3:母数の比と予測結果の比

θ1/θ2\theta_1/\theta_2 と Y~1/Y~2\tilde Y_1/\tilde Y_2 は、どちらも同じように計算してよいか。

答え :推測対象が異なる。前者は母平均の比で、今回のガンマ母数は正なので分母は正である。後者は個人の子供数の比であり、 Y~2=0\tilde Y_2=0 が正の確率で起こるため、比が未定義になる場合を扱う必要がある。個人の比較では、差や大小関係を用いる方が目的に合うこともある。

問4:反復標本を作るときの母数

111人のデータセットを生成するのに、111個の独立な事後母数を生成して各人に一つずつ割り当てた。1人の分布が正しければ、モデルチェックにもそのまま使えるか。

答え :本章のモデルチェックにはそのまま使えない。同じ集団の111人は共通の母平均をもつというモデルだからである。1個の母数を引いて111人で共有する必要がある。独立な母数を割り当てると、同じ標本に属する人々の事後予測での依存を失い、標本全体の特徴の分布を変えてしまう。

4.7 再現用ファイルと計算条件

本文の主要な値は ch4_results.json に保存し、グラフは同じ分析関数が返す標本・要約量から生成している。本文中で仮想例と明記した少数の値は、仕組みを説明するための手計算用の値である。

ファイル 内容
output/ch4_monte_carlo.md 本ノート
output/ch4_examples.py 原データ集計、直接サンプリング、理論値との照合、計算結果保存
output/ch4_results.json 乱数シード、実行環境、主要数値、検証結果
output/ch4_plots.py 図4.1〜4.6と補助7図の作成
figs/plotly/ch4_*.html 埋め込み用の数値グラフ13枚

プロジェクトのルートで次を実行する。依存ライブラリは各スクリプト冒頭のPEP 723メタデータに記載している。

uv run output/ch4_examples.py
uv run output/ch4_plots.py
uv run python build.py

Python 3.14以上を使い、計算用にはNumPy 2.5.3、SciPy 1.18.1、rdata 1.1.0、作図用にはPlotly 7.1.0を指定した。乱数生成器には np.random.default_rng を使い、節ごとに401、402、403、404、406、407というシードを割り当てた。別の言語や別の乱数生成器で同じ整数のシードを指定しても、同じ標本になるとは限らない。図4.1の三つの標本は順次生成した別の標本、図4.2は一つの標本列の先頭からの累積計算である。

データの出典は、提供された docs/org/ch4.md と docs/data/Data-and-code-to-replicate-figures-and-numerical-results/ 内の chapter4.R、gss.RData である。出生率の集計を原データと照合し、母平均比較は数値積分とベータ分布への変換、予測確率はガンマ・ポアソン混合の数値積分と負の二項分布で照合した。乱数による主要確率は理論値との差をMCSEと比べて確認している。宗教調査の人数差、図4.4の分布名、モデルチェックの等号の扱いは、該当箇所に注記した。

グラフはサイトのテーマにかかわらず白い紙面で表示し、Plotly.jsをCDNから読み込むため、閲覧時にはネットワーク接続が必要である。