第1章 導入と例 — ベイズ推測を具体例から理解する

本ノートは、Peter Hoff『A First Course in Bayesian Statistical Methods』(日本語版『標準ベイズ統計学』)第1章の提供本文を土台として、節の順序と主要な説明を保ちながら、計算の途中・具体例・図の読み方を補ったものである。教科書を開き直さなくても学べるよう、必要な定義と式を本文に含めている。「補足」「手計算」「Python」と付いた小見出しは追加解説である。

この章で追いたい問いは、 「少ない観測から、まだ見ていない集団についてどこまでわかるか」 である。感染者が20人中0人だった場合と、342人から64個の回帰係数を推定する場合を通じて、事前情報とデータの組み合わせがどのように働くかを見る。

追加図A〜Fでは、条件を変えたときの変化や、平均だけではわからない分布の違いも確かめられる。ベイズ更新とlassoの追加図にはスライダーを付けている。

図1.1・1.2は数式から計算し、図1.3・1.4は付属データと著者の保存済み事後標本から再現した。図1.1の右側は密度を読みやすくするため初期表示を感染率0〜0.4に拡大したが、計算は0〜1全体で行っている。本文中の丸めた数値には原則として ≈\approx を用いた。提供本文の「65個の説明変数」は、64個の説明変数と65個の未知パラメータを区別するため64個に修正した。区間推定の式など、補足が必要な箇所はその場で説明する。

1.1 導入

確率 (probability) は、未知の量について人々のもつ情報や信念 (belief) を表すのに日常的に用いられる。その一方で、確率を用いた情報の表現を数学的な意味で正確に述べることもできる。確率は合理的な信念の集合を数値的に表すことができる。確率と情報との間には関係があり、ベイズルールは新たな情報によって信念を更新する合理的な手法である。これらのことは、厳密に数学的な意味で示すことができる。ベイズルールによる帰納的な学習の過程はベイズ推測 (Bayesian inference) と呼ばれる。

一般にベイズ法 (Bayesian methods) とはベイズ推測の原理から導出されたデータ分析のツールである。ベイズ法によってもたらされるのは、帰納の手法としての正確な解釈だけではなく、次のようなものがある。

  • 統計的に望ましい性質をもつパラメータの推定量。
  • 観測されたデータの簡潔な記述。
  • 欠損データの予測と、将来のデータの予想。
  • モデルの推定・選択・検証のための計算の枠組み。

このように、ベイズ法の用途は本来の目的である正確な帰納的学習にとどまらない。本書全体を通じて、われわれは様々な推測的・統計的な目的のためにベイズ法が幅広く用いられているのを見ていく。本章ではベイズ的学習の基本的な要素についての導入から始めて、実際にベイズ法が用いられる例を検討する。

ベイズ学習

補足:未知の値を「確率」で表すとは何か

ある町の感染率が仮に5%に決まっていても、調査前のわれわれはその値を知らない。このとき「感染率は5%前後だろうが、10%かもしれない」という 知識の不確かさ を、候補となる値に確率を割り当てることで表す。感染率そのものが調査のたびに変わると主張しているわけではない。

一方、同じ町から20人ずつ選べば、感染者数は0人、1人、2人などと変わりうる。こちらは 標本の変動 である。ベイズ法では、この二つをそれぞれ「パラメータに関する分布」と「パラメータを固定したときのデータの分布」で表し、観測後に結び付ける。

以下では、町全体の感染率を θ\theta 、標本で観測した感染者数を yy と書く。感染率は0〜1の割合なので、例えば θ=0.05\theta=0.05 は5%という意味である。

問い 何を固定し、何を動かすか 表す分布
調査前に感染率として何が考えられるか 感染率の候補を動かす 事前分布 p(θ)p(\theta)
感染率が5%なら20人中何人が感染するか θ=0.05\theta=0.05 を固定し、人数を動かす 標本モデル p(y∣θ)p(y\mid\theta)
実際に0人だった後、感染率として何が考えられるか y=0y=0 を固定し、感染率の候補を動かす 事後分布 p(θ∣y)p(\theta\mid y)

縦棒 ∣\mid は「右側の条件が与えられたもとで」という意味である。したがって、 p(y∣θ)p(y\mid\theta) と p(θ∣y)p(\theta\mid y) は、条件と対象が逆であり、同じ数値になるとは限らない。

統計的帰納とは、ある集団の一般的な特性について、その集団の一部の構成員を用いて学習する過程のことである。集団の特性は数値として表され、典型的にはパラメータ (parameter) θ\theta として表現される。集団の一部はデータ yy を構成し、数値的に表現される。データが得られる前では、集団の特性とデータの数値は不確定である。あるデータ yy が得られた後では、その情報が集団の特性に関するわれわれの不確実性 (uncertainty) を減らすことになる。この不確実性の変化を測ることがベイズ推測の目的である。

標本空間 (sample space) Y\mathcal{Y} とはすべてのデータの集合であり、実際のデータ yy はここから生じる。パラメータ空間 (parameter space) Θ\Theta とは、ありうるパラメータの値すべての集合であり、この中から母集団の真の特性を最もよく表す値を同定することが望まれる。理想化されたベイズ学習は、 yy と θ\theta に関する信念を同時に、 Y\mathcal{Y} と Θ\Theta 上の確率分布によって表現することで始まる。

  1. 各 θ∈Θ\theta \in \Theta について、われわれの事前分布 (prior distribution) p(θ)p(\theta) は、 θ\theta が母集団の真の特性を表すとわれわれがどれだけ信じているかを表している。
  2. 各 θ∈Θ\theta \in \Theta と y∈Yy \in \mathcal{Y} について、われわれの標本モデル (sampling model) p(y∣θ)p(y\mid\theta) は、もし θ\theta が真の値であると知っているならば実験の結果は yy になるだろう、とわれわれがどれだけ信じているかを表している。

ひとたびデータ yy が得られると、最後のステップとして、 θ\theta に関するわれわれの信念を更新する。

  1. 各 θ∈Θ\theta \in \Theta について、われわれの事後分布 (posterior distribution) p(θ∣y)p(\theta\mid y) は、データ yy を観測した後に、 θ\theta が真の値であるとわれわれがどれだけ信じているかを表している。

事後分布はベイズルール (Bayes’ rule) に従って事前分布と標本モデルから得られる。

p(θ∣y)=p(y∣θ)p(θ)∫Θp(y∣θ~)p(θ~) dθ~p(\theta\mid y) =\frac{p(y\mid\theta)p(\theta)}{\int_{\Theta}p(y\mid\tilde{\theta})p(\tilde{\theta})\,d\tilde{\theta}}

ベイズルールが主張しているのは事後分布がどうあるべきかではなく、新たな情報を得たときに事後分布はどう変化すべきかである。この点は重要である。

補足:ベイズルールの分子と分母を分けて読む

データを観測した後では yy は固定される。そのうえで、候補 θ\theta に対して p(y∣θ)p(y\mid\theta) を評価する関数を 尤度(ゆうど) という。分子 p(y∣θ)p(θ)p(y\mid\theta)p(\theta) は、「事前にどのくらい考えられた候補か」に「その候補なら今回のデータがどのくらい出やすいか」を掛けた重みである。

分母は、この重みをすべての候補について足し合わせたものだ。連続した候補を足すため積分を使っている。 θ~\tilde{\theta} は、分子の候補 θ\theta と区別するための積分用の記号であり、別の未知パラメータではない。分母を p(y)p(y) と書けば、

p(θ∣y)=p(y∣θ)p(θ)p(y),p(y)=∫Θp(y∣θ~)p(θ~) dθ~.p(\theta\mid y)=\frac{p(y\mid\theta)p(\theta)}{p(y)}, \qquad p(y)=\int_\Theta p(y\mid\tilde{\theta})p(\tilde{\theta})\,d\tilde{\theta}.

したがって、分母は事後分布の全体の面積を1にそろえる 正規化定数 である。 θ\theta の候補間で共通なので、候補どうしの相対的な重みだけを考える際には、

p(θ∣y)∝p(y∣θ)p(θ)p(\theta\mid y)\propto p(y\mid\theta)p(\theta)

と書ける。記号 ∝\propto は「比例する」という意味である。

手計算:感染率の候補が二つだけなら

積分の前に、感染率の候補が5%と20%の二つだけという説明用のモデルで考える。事前には各候補の確率を 1/21/2 とする。20人を調べて0人だった場合、後で使う二項モデルより、

Pr⁡(Y=0∣θ=0.05)=0.9520≈0.358486,Pr⁡(Y=0∣θ=0.20)=0.8020≈0.011529.\Pr(Y=0\mid\theta=0.05)=0.95^{20}\approx0.358486, \qquad \Pr(Y=0\mid\theta=0.20)=0.80^{20}\approx0.011529.
候補 事前確率 尤度 掛けた重み
θ=0.05\theta=0.05 0.5 0.358486 0.179243
θ=0.20\theta=0.20 0.5 0.011529 0.005765

重みの合計は約0.185008である。したがって、

Pr⁡(θ=0.05∣Y=0)=0.1792430.179243+0.005765≈0.96884.\Pr(\theta=0.05\mid Y=0) =\frac{0.179243}{0.179243+0.005765} \approx0.96884.

感染率20%の候補の事後確率は残りの約0.03116である。0人という観測は、5%の候補でも20%の候補でも起こりうる。しかし、5%なら約31倍起こりやすい。そのため、 0人という同じ観測を説明しやすい候補に、事後の重みが移る のである。この二候補の例は計算法の説明であり、後述する連続的なベータ事前分布とは別のモデルである。

補足:連続分布では「点の確率」と「密度」が異なる

連続分布の p(θ)p(\theta) は、厳密には確率密度である。例えば p(0.05)=8p(0.05)=8 でも、感染率が5%である確率が800%という意味ではない。幅0.001の小さな区間なら、密度がほぼ8のとき面積は 8×0.001=0.0088\times0.001=0.008 、すなわち確率は約0.8%となる。

連続分布では通常 Pr⁡(θ=0.05)=0\Pr(\theta=0.05)=0 である一方、 Pr⁡(0.04<θ<0.06)\Pr(0.04<\theta<0.06) は正になりうる。密度曲線は高さそのものではなく、 区間の下の面積を確率として読む 必要がある。

1.2 なぜベイズか

コックス (Cox 1946, 1961) とサヴェッジ (Savage 1954, 1972) が数学的に証明した結果によると、もし p(θ)p(\theta) と p(y∣θ)p(y\mid\theta) が合理的な個人の信念を表すならば、新たな情報 yy に基づいて当人の θ\theta に関する信念を更新する方法として最適なものはベイズルールである。これにより、ベイズルールは量的学習の手段として理論的に正当化される。しかし、実際のデータ分析では、信念というものを数学の形で正確に表すことは難しく、単に計算の簡単のために、 p(θ)p(\theta) をアドホックな方法で選ぶことが多い。それではベイズ的データ分析とは、どのように正当化されるのか。

標本モデルに関する有名な格言がある。「あらゆるモデルは誤りであるが、いくつかは有用である。」(Box and Draper, 1987, pg. 424) 事前分布についても同じように、事前の信念を正確に表現しない p(θ)p(\theta) は「誤り」と見られるかもしれないが、それでも p(θ∣y)p(\theta\mid y) が役に立たないとは限らない。もし p(θ)p(\theta) がわれわれの信念の近似であるならば、 p(θ∣y)p(\theta\mid y) が p(θ)p(\theta) のもとで最適であるという事実から、 p(θ∣y)p(\theta\mid y) もわれわれの事後の信念のあるべき姿をよく近似しているはずであろう。興味のある信念がわれわれのものではないこともある。そのような場合にはむしろ、異なる意見をもつ様々な人々の信念がデータによってどのように更新されるかを知るために、ベイズルールを用いたいと思うかもしれない。事前の情報をあまりもっていない人の事後の信念に興味があることもある。それが動機となり、パラメータ空間の広い範囲に均等に確率を割り振る「漠然とした」事前分布が用いられるようになった。

また、複雑な統計的問題では、推定・推測のための非ベイズ的な方法は自明ではないことが多い。そのような場合でも、ベイズルールを用いれば推定の手順を構成することができ、その性能を非ベイズ的な基準で評価することもできる。多くの場合、ベイズ的または近似的にベイズ的な手順は、非ベイズ的な目的においても非常にうまくいくことが示されている。

次に、二つの例を通じて、事前分布によって自分や他人の信念をおおまかにしか表せない場合でも、ベイズ推測がいかに統計的推論において広く有用になりうることを示す。計算に関する数学の詳細は後の章で扱う。

補足:「合理的」と「正しいモデル」は別の条件である

ここでの理論的な正当化は、信念や選好について一定の整合性の公理を満たすことを前提とする。どんな人の直感でも無条件に正しい、あるいはベイズ法なら現実に必ずよい予測をする、という意味ではない。

ベイズルールは、選んだ事前分布と標本モデルのもとでの更新方法を定める。しかし、標本が偏っていたり、標本モデルが現実を十分に表していなかったりすれば、更新後の結果にもその影響が残る。そこで、事前分布を変えたときの結果を調べる 感度分析 や、未使用のデータによる 予測性能の確認 が必要になる。この章の二つの例は、それぞれその役割も示している。

また、広い範囲で一様な事前分布を置けば、あらゆる意味で無情報になるわけではない。感染率 θ\theta に一様な分布を置いても、その対数オッズ log⁡{θ/(1−θ)}\log\{\theta/(1-\theta)\} は一様にはならない。どの尺度で情報を弱くするかも、モデルの選択の一部である。

1.2.1 稀な事象の確率の推定

ある小さな町における、ある感染症の有病率に関心があるとしよう。有病率が高いほど、公衆衛生上の注意喚起をより多く行うべきであろう。20人の町民に対して感染の検査を行い、小さな無作為標本を構成する。

パラメータ空間と標本空間

関心があるのは、町で感染した人の割合 θ\theta である。おおまかにいえば、パラメータ空間は0と1の間のすべての値からなる。データ yy は標本における感染した人の総数である。したがって、パラメータ空間と標本空間は次のようになる。

Θ=[0,1],Y={0,1,…,20}.\Theta=[0,1],\qquad \mathcal{Y}=\{0,1,\ldots,20\}.

標本モデル

標本を得る前では、標本の何人が感染しているかはわからない。のちに判明することになるこの値を YY と書く。仮に θ\theta の値がわかっているならば、 YY の標本モデルとして妥当なのは二項分布 binomial⁡(20,θ)\operatorname{binomial}(20,\theta) であろう。

Y∣θ∼binomial⁡(20,θ).Y\mid\theta\sim\operatorname{binomial}(20,\theta).

図1.1の左の図は θ\theta が0.05、0.10、0.20のときの二項分布を示している。仮に真の感染率が0.05であったとすると、標本に感染者がいない ( Y=0Y=0 ) 確率は36%になる。もし真の感染率が0.10または0.20であれば、 Y=0Y=0 となる確率はそれぞれ12%、1%となる。

図1.1の左では、各人数の棒を感染率5%、10%、20%の順に並べ、それぞれシアン、ローズ、ゴールドで示す。左で感染率を固定して人数の分布を比較し、右で観測前後の感染率の密度を比較する。右側の詳しい計算は、続く事前分布・事後分布の節で扱う。

図: 1.1 二項分布と、感染者0人を観測する前後のベータ密度。右は感染率0〜40%を拡大表示し、密度は0〜100%全体で面積が1となる。事前は破線、事後は実線である。

左図の0人の棒は、どの感染率でも正の高さがある。右図では、0人という情報を得た後に低い感染率へ重みが移るが、分布全体がゼロの一点になるわけではない。

手計算:二項分布で「0人」を計算する

町民ごとに感染している確率が共通に θ\theta であり、選ばれた人どうしの感染状態を θ\theta のもとで独立と近似する。検査結果が感染状態を正しく表すと仮定すると、20人中の感染者数は二項分布で表せる。

Pr⁡(Y=y∣θ)=(20y)θy(1−θ)20−y,y=0,1,…,20.\Pr(Y=y\mid\theta) =\binom{20}{y}\theta^y(1-\theta)^{20-y}, \qquad y=0,1,\ldots,20.

(20y)\binom{20}{y} は、20人のうち誰が感染者となるかの組み合わせの数である。例えば感染者が1人なら候補の人は20人いるので、 (201)=20\binom{20}{1}=20 となる。感染率が5%なら、

Pr⁡(Y=1∣θ=0.05)=20×0.05×0.9519≈0.377354.\Pr(Y=1\mid\theta=0.05) =20\times0.05\times0.95^{19} \approx0.377354.

0人なら全員が非感染者であるため、組み合わせの数は1である。よって、

Pr⁡(Y=0∣θ)=(1−θ)20.\Pr(Y=0\mid\theta)=(1-\theta)^{20}.
真の感染率として仮定する値 20人中0人となる確率 20人中の感染者数の期待値
5% 0.9520≈35.85%0.95^{20}\approx35.85\% 20×0.05=120\times0.05=1 人
10% 0.9020≈12.16%0.90^{20}\approx12.16\% 20×0.10=220\times0.10=2 人
20% 0.8020≈1.15%0.80^{20}\approx1.15\% 20×0.20=420\times0.20=4 人

期待値が1人でも、必ず1人いるわけではない。繰り返し標本を取ったときの平均が1人という意味であり、個々の標本では0人も十分に起こりうる。

なお、町の人口に対して20人が無視できない大きさなら、復元しない無作為抽出には超幾何分布が自然になる。また、検査に見逃しがあれば「検査陽性率」と「真の感染率」は異なる。ここでは、教科書の二項モデルの仮定に沿って計算する。

事前分布

各地で行われた他の調査によれば、似たような町での有病率は0.05から0.20の間にあり、有病率の平均は0.10であるという。この事前の情報によれば、われわれの用いる事前分布 p(θ)p(\theta) は確率のほとんどを区間 (0.05,0.20)(0.05,0.20) 上にもち、 θ\theta の p(θ)p(\theta) での期待値は0.10に近い。しかし、そのような条件を満たす確率分布は無数にあり、限られた事前の情報でそれらを識別できるかは定かではない。したがって、われわれは上記の特性をもつ事前分布 p(θ)p(\theta) の中で、計算の簡便さのために特定の数学的な表現をもつものを選ぶことにする。具体的には、ベータ分布族を用いて事前の情報を表すのである。ベータ分布は aa と bb で表される二つのパラメータをもつ。もし θ\theta が beta⁡(a,b)\operatorname{beta}(a,b) に従うならば、その平均は a/(a+b)a/(a+b) であり、最もありうる θ\theta の値(最頻値)は (a−1)/(a−1+b−1)(a-1)/(a-1+b-1) である。先ほどの問題では θ\theta は感染率である。われわれは θ\theta に関する事前の信念を beta⁡(2,20)\operatorname{beta}(2,20) で表すことにする。記号で書くと、次のようになる。

θ∼beta⁡(2,20).\theta\sim\operatorname{beta}(2,20).

図1.1の右の図ではこの分布がグレーの破線で示されている。この事前分布のもとでの θ\theta の期待値は約0.09である。事前分布の曲線が最も高くなるのは θ=0.05\theta=0.05 であり、曲線下部の面積のうちの3分の2が区間 (0.05,0.20)(0.05,0.20) 上にある。感染率が0.10を下回る事前確率は64%である。

E[θ]≈0.09,\mathrm{E}[\theta]\approx0.09,
mode[θ]=0.05,\mathrm{mode}[\theta]=0.05,
Pr⁡(θ<0.10)≈0.64,\Pr(\theta<0.10)\approx0.64,
Pr⁡(0.05<θ<0.20)≈0.66.\Pr(0.05<\theta<0.20)\approx0.66.

補足:なぜベータ分布を使うのか

ベータ分布は0〜1の値をとる量を表す分布であり、感染率のような割合に使いやすい。密度は、

p(θ)=1B(a,b)θa−1(1−θ)b−1,0<θ<1,p(\theta)=\frac{1}{B(a,b)}\theta^{a-1}(1-\theta)^{b-1},\qquad 0<\theta<1,
B(a,b)=∫01ta−1(1−t)b−1 dtB(a,b)=\int_0^1t^{a-1}(1-t)^{b-1}\,dt

で与えられる。 B(a,b)B(a,b) は面積を1にするための値である。 a,ba,b は正の数ならよく、整数に限られない。平均は a/(a+b)a/(a+b) 、内部の最頻値が (a−1)/(a+b−2)(a-1)/(a+b-2) となるのは a>1,b>1a>1,b>1 の場合である。後者の条件を満たさない場合には端に山が来ることもあるため、最頻値の公式を機械的に使ってはいけない。

今回の a=2,b=20a=2,b=20 では、

E[θ]=222≈0.090909,mode[θ]=120=0.05.\mathrm{E}[\theta]=\frac{2}{22}\approx0.090909, \qquad \mathrm{mode}[\theta]=\frac{1}{20}=0.05.

平均と最頻値が違うのは、分布が左右対称ではないからである。最も密度が高い場所は5%だが、右側にも裾が伸びているため、平均は約9.1%になる。

また、 Pr⁡(0.05<θ<0.20)≈0.65933\Pr(0.05<\theta<0.20)\approx0.65933 であり、この範囲の外にも約34%の確率が残る。したがって、この事前分布は「感染率は必ず5〜20%」という制約ではなく、他の町の情報を大まかに表現している。平均も10%ちょうどではない点に注意する。

事後分布

第3章で見るように、もし Y∣θ∼binomial⁡(n,θ)Y\mid\theta\sim\operatorname{binomial}(n,\theta) かつ θ∼beta⁡(a,b)\theta\sim\operatorname{beta}(a,b) ならば、 YY の値として yy を観測したときの事後分布は beta⁡(a+y,b+n−y)\operatorname{beta}(a+y,b+n-y) となる。仮に、われわれの調査では Y=0Y=0 、つまり標本に感染者はいなかったとすると、 θ\theta の事後分布は beta⁡(2,40)\operatorname{beta}(2,40) となる。

θ∣{Y=0}∼beta⁡(2,40).\theta\mid\{Y=0\}\sim\operatorname{beta}(2,40).

手計算:足し算で更新できる理由

ここでは、事後分布の形を決める θ\theta を含む部分だけ取り出す。ベータ事前分布と二項尤度を掛けると、

p(θ∣y)∝θy(1−θ)n−y⏟二項尤度のうち必要な部分θa−1(1−θ)b−1⏟ベータ事前密度のうち必要な部分=θa+y−1(1−θ)b+n−y−1.\begin{aligned} p(\theta\mid y) &\propto \underbrace{\theta^y(1-\theta)^{n-y}}_{\text{二項尤度のうち必要な部分}} \underbrace{\theta^{a-1}(1-\theta)^{b-1}}_{\text{ベータ事前密度のうち必要な部分}}\\ &=\theta^{a+y-1}(1-\theta)^{b+n-y-1}. \end{aligned}

これは beta⁡(a+y,b+n−y)\operatorname{beta}(a+y,b+n-y) の密度と同じ形である。事前と事後が同じ分布族にとどまる性質を 共役性 という。今回のデータには感染者が0人、非感染者が20人いるので、

(a,b)=(2,20)⟶(a+y,b+n−y)=(2+0,20+20)=(2,40).(a,b)=(2,20) \quad\longrightarrow\quad (a+y,b+n-y)=(2+0,20+20)=(2,40).

もし感染者が3人だったなら、同じ事前分布から beta⁡(5,37)\operatorname{beta}(5,37) へ更新し、事後平均は 5/42≈0.119055/42\approx0.11905 となる。「データを見れば必ず感染率の推定が下がる」のではなく、観測に応じて上にも下にも動く。

この事後分布の密度は図1.1の右の図にシアンの実線で描かれている。この密度は事前分布よりも左側に位置しており、より尖っている。なぜ左側なのかといえば、 Y=0Y=0 を観測し、 θ\theta の値は低いという証拠を得たからである。尖っているのは、データと事前分布の情報を組み合わせた結果、事前分布だけの場合よりも多くの情報をもったからである。曲線の頂点は0.025にあり、事後分布での θ\theta の期待値は0.048である。また、 θ<0.10\theta<0.10 となる事後確率は93%である。

E[θ∣Y=0]≈0.048,\mathrm{E}[\theta\mid Y=0]\approx0.048,
mode[θ∣Y=0]=0.025,\mathrm{mode}[\theta\mid Y=0]=0.025,
Pr⁡(θ<0.10∣Y=0)≈0.93.\Pr(\theta<0.10\mid Y=0)\approx0.93.

事後分布 p(θ∣Y=0)p(\theta\mid Y=0) は、町全域での感染率に関する学習のモデルを与える。理論的な観点からいえば、 θ\theta に関する事前の信念が beta⁡(2,20)\operatorname{beta}(2,20) で表される合理的な個人は、新たに信念を beta⁡(2,40)\operatorname{beta}(2,40) としたわけである。実践上の観点からいえば、事前の情報を表すものとして beta⁡(2,20)\operatorname{beta}(2,20) を妥当とするならば、われわれにとって beta⁡(2,40)\operatorname{beta}(2,40) は事後の情報を表すものとして妥当である。

補足:事後分布から何を報告するか

感染者0人を観測した後、次の三つは異なる問いに答えている。

問い 事後分布から読む量 今回の値
感染率を一つの数で要約すると 事後平均 2/422/42 約4.762%
密度が最大になる感染率は 事後最頻値 1/401/40 2.5%
感染率が10%未満である確率は Pr⁡(θ<0.1∣y)\Pr(\theta<0.1\mid y) 約92.610%

事後平均を一つの推定値として使う理由の一つは、二乗誤差を損失とすると、事後期待損失を最小にするからである。任意の推定値 cc に対して、

E[(θ−c)2∣y]=Var(θ∣y)+{E[θ∣y]−c}2\mathrm{E}[(\theta-c)^2\mid y] =\mathrm{Var}(\theta\mid y)+\{\mathrm{E}[\theta\mid y]-c\}^2

となるため、 c=E[θ∣y]c=\mathrm{E}[\theta\mid y] とすれば右側の二つ目の項が0になる。ただし、損失の選び方が変われば、適した要約値も変わりうる。

さらに、事後分布の下側2.5%点から上側97.5%点までをとると、 95%等裾信用区間 が得られる。このモデルのもとでは、今回の区間は約 [0.00596,0.12855][0.00596,0.12855] 、すなわち約0.60〜12.85%である。事後平均が約4.8%でも、10%を超える可能性が完全に消えるわけではない。

今回、事後分布の標準偏差は事前分布より小さくなる。ただし、データを一度観測するたびに、あらゆる事前分布で必ず不確実性が小さくなるという一般則ではない。事前と意外に食い違う観測が出た場合などは、個々の事後分布の広がりが大きくなることもある。

観測結果を変えて、更新の向きを確かめる。 教科書の図1.1は感染者0人という一つの結果を示していた。次の図では、事前分布を beta⁡(2,20)\operatorname{beta}(2,20) 、調査人数を20人に固定し、感染者数 yy だけをスライダーで切り替えられる。各設定は「もし、その人数を観測していたら」という別の仮想データであり、前の設定のデータに新しい感染者を追加する操作ではない。

上段は候補となる感染率ごとの尤度、下段は事前・事後の密度である。下段の塗った部分は θ<0.1\theta<0.1 の領域に対応し、その面積が「感染率10%未満」の事後確率になる。横軸は同じ感染率でも、上段の高さはデータの出やすさ、下段の高さは密度なので、上下の縦軸の数値を直接比べるものではない。

図: 追加図A 感染者数による更新。上段は尤度、下段は事前・事後の密度。シアンの面積は感染率10%未満の事後確率である。スライダーは別々の仮想観測を切り替える。

まず y=0y=0 から y=3y=3 に切り替えると、尤度が高い場所が右へ移り、事後分布も右へ動く。事後平均は約4.76%から11.90%へ上がり、塗った面積は約92.61%から39.16%へ小さくなる。すなわち、 観測した感染者が多いほど、低い感染率に割り当てる事後の重みが減る ことを、式だけでなく面積として確認できる。

次に y=20y=20 にすると、標本の感染者割合は100%だが、事後平均は 22/42≈52.38%22/42\approx52.38\% である。これは元の事前分布の重みがまだ残るためだ。このように事前とデータが大きく食い違う場合には、更新を計算するだけでなく、事前情報や無作為抽出の仮定が妥当だったかも検討する。

手計算:次の20人について予測する

YnewY_{\mathrm{new}} を、次に独立に調べる20人の感染者数とする。予測では、未知の感染率を一つの値に決め打ちせず、事後分布で平均する。

Pr⁡(Ynew=0∣Y=0)=∫01(1−θ)20p(θ∣Y=0) dθ=B(2,60)B(2,40)=40×4160×61≈0.44809.\Pr(Y_{\mathrm{new}}=0\mid Y=0) =\int_0^1(1-\theta)^{20}p(\theta\mid Y=0)\,d\theta =\frac{B(2,60)}{B(2,40)} =\frac{40\times41}{60\times61} \approx0.44809.

これは「次の20人も0人になる確率は約44.8%」という意味である。一方、次に調べる1人が感染している確率は E[θ∣Y=0]=2/42\mathrm{E}[\theta\mid Y=0]=2/42 となり、次の20人の感染者数の期待値は 20×2/42≈0.9523820\times2/42\approx0.95238 人となる。 母集団の特性を推定することと、将来の観測を予測することは、事後分布を介してつながっている。

平均が同じでも、予測分布は同じではない。 前の計算では、感染率のさまざまな候補を事後分布で平均した。これに対して、感染率を事後平均 θ^=2/42\hat\theta=2/42 に固定して binomial⁡(20,θ^)\operatorname{binomial}(20,\hat\theta) で予測する方法も考えられる。後者をここでは「平均に固定する予測」と呼ぶ。

両者を比べるため、0人だけでなく、次の感染者数 k=0,1,…,20k=0,1,\ldots,20 の確率を計算する。感染率の不確実性を含める方は、

Pr⁡(Ynew=k∣y=0)=(20k)B(2+k,40+20−k)B(2,40)\Pr(Y_{\mathrm{new}}=k\mid y=0) =\binom{20}{k}\frac{B(2+k,40+20-k)}{B(2,40)}

となり、これを ベータ二項分布 という。平均に固定する方は通常の二項分布の式を使う。次の図では、同じ人数のところにある二つの棒を比較してほしい。初期表示は0〜8人だが、確率は0〜20人全体で計算している。

図: 追加図B 次の20人の予測。シアンは感染率の不確実性を含むベータ二項分布、ローズは事後平均に固定した二項分布。0〜8人を拡大表示している。
予測から読む量 感染率の不確実性を含める 感染率を平均に固定する
感染者数の期待値 0.95238 人 0.95238 人
0人となる確率 44.81% 37.69%
3人以上となる確率 9.88% 6.72%
感染者数の分散 1.30781 人² 0.90703 人²

不確実性を含めると、感染率が平均より低い候補も高い候補も残る。その結果、この例では0人と3人以上の両側に、平均に固定した場合より多くの確率が割り当てられる。平均は同じ約0.95人でも、結果の散らばりは大きい。

ここで大切なのは「ベイズ予測なら何でも広くなる」ということではなく、 平均だけへの置き換えでは、パラメータの不確実性が予測に伝わらない という点である。ベータ二項モデルでは、 μ=2/42\mu=2/42 とすると分散は、

Var(Ynew∣y=0)=20μ(1−μ)(1+1943)≈1.30781\mathrm{Var}(Y_{\mathrm{new}}\mid y=0) =20\mu(1-\mu)\left(1+\frac{19}{43}\right) \approx1.30781

であり、平均に固定した二項分布の分散 20μ(1−μ)≈0.9070320\mu(1-\mu)\approx0.90703 に対して約1.44倍となる。

Python:ベータ二項モデルをそのまま計算する

この例は事後分布が解析的にわかるため、MCMCを使わずに計算できる。SciPyの pdf は密度、cdf はその値以下の確率、ppf は指定した累積確率に対応する値を返す。SciPyのベータ分布の公式リファレンスにも各関数の定義がある。

from scipy.stats import beta, binom

n, y = 20, 0
prior = beta(a=2, b=20)
posterior = beta(a=2 + y, b=20 + n - y)

print(binom.pmf(0, n=20, p=0.05))  # 0.3584859224...
print(prior.mean())               # 0.0909090909...
print(posterior.mean())           # 0.0476190476...
print(posterior.cdf(0.10))        # 0.9260955853...
print(posterior.ppf([0.025, 0.975]))

Rの dbinom 、dbeta 、pbeta 、qbeta は、それぞれPythonでは binom.pmf 、beta.pdf 、beta.cdf 、beta.ppf に対応する。完全な再現コードは output/ch1_examples.py にある。

感度分析

調査の結果について町の保健当局のグループと議論する状況を考えよう。様々な人と調査結果について議論を深めるには、様々な事前分布を用いて事後分布を記述するのが有益かもしれない。そこで事前の信念として、 beta⁡(a,b)\operatorname{beta}(a,b) で表されるもののうち、 (a,b)(a,b) の値が (2,20)(2,20) でないものも考えよう。先ほど述べたように、もし θ∼beta⁡(a,b)\theta\sim\operatorname{beta}(a,b) ならば、 Y=yY=y のもとでの θ\theta の事後分布は beta⁡(a+y,b+n−y)\operatorname{beta}(a+y,b+n-y) である。事後分布の期待値は、

E[θ∣Y=y]=a+ya+b+n=na+b+nyn+a+ba+b+naa+b=nw+nyˉ+ww+nθ0\begin{aligned} \mathrm{E}[\theta\mid Y=y] &=\frac{a+y}{a+b+n}\\ &=\frac{n}{a+b+n}\frac{y}{n}+\frac{a+b}{a+b+n}\frac{a}{a+b}\\ &=\frac{n}{w+n}\bar{y}+\frac{w}{w+n}\theta_0 \end{aligned}

となる。ただし、 θ0=a/(a+b)\theta_0=a/(a+b) は θ\theta の事前平均で、 w=a+bw=a+b である。この式から、事後平均とは標本平均 yˉ\bar{y} と事前平均 θ0\theta_0 の加重平均であることがわかる。 θ\theta の推定という観点からいえば、 θ0\theta_0 は真の値 θ\theta に対するわれわれの事前の予想の値を表し、 ww はその予想に対する自信のほどを、サンプルサイズと同じ尺度で表している。

手計算:事後平均の「重み」を数値で確かめる

この節の yˉ=y/n\bar y=y/n は、感染者数そのものではなく、0か1で表した各人の感染状態の標本平均、すなわち感染者割合である。 a=2,b=20,n=20,y=0a=2,b=20,n=20,y=0 を代入すると、

θ0=222,w=22,yˉ=0,\theta_0=\frac{2}{22},\qquad w=22,\qquad\bar y=0,
E[θ∣y]=2042×0+2242×222=242≈0.047619.\mathrm{E}[\theta\mid y] =\frac{20}{42}\times0+\frac{22}{42}\times\frac{2}{22} =\frac{2}{42}\approx0.047619.

標本には約47.6%、事前平均には約52.4%の重みが付く。この二つの重みは合計で1となる。ここでの w=22w=22 は、実際に別の22人を観測したという意味ではない。 このベータ二項モデルにおいて、事前情報が平均の更新に与える重みを、標本数と同じ尺度で表した量 である。ベータ密度の指数が a−1,b−1a-1,b-1 であることから、疑似観測の数え方には別の慣習もあるが、この加重平均では w=a+bw=a+b を用いる。

平均を θ0\theta_0 に固定すると、事前分散は、

Var(θ)=ab(a+b)2(a+b+1)=θ0(1−θ0)w+1\mathrm{Var}(\theta)=\frac{ab}{(a+b)^2(a+b+1)} =\frac{\theta_0(1-\theta_0)}{w+1}

となる。そのため、同じ事前平均でも ww が大きいほど分布は狭くなり、データで平均が動きにくくなる。

もし誰かが事前の予想 θ0\theta_0 と自信の程度 ww を提示するならば、その人のもつ θ\theta に関する事前の信念をパラメータ a=wθ0a=w\theta_0 と b=w(1−θ0)b=w(1-\theta_0) のベータ分布で近似することができる。その人の近似的な事後の信念は beta⁡(wθ0+y,w(1−θ0)+n−y)\operatorname{beta}(w\theta_0+y,w(1-\theta_0)+n-y) で表される。この事後分布を様々な θ0\theta_0 と ww の値について計算することで、事前の意見の相違によって事後の情報がどのような影響を受けるかを調べる。つまり感度分析 (sensitivity analysis) を行うことができる。図1.2では二つの等高線を通じて、 θ0\theta_0 と ww の事後分布への影響が検討されている。左の図の等高線は事後期待値 E[θ∣Y=0]\mathrm{E}[\theta\mid Y=0] に関するもので、右の図は Pr⁡(θ<0.10∣Y=0)\Pr(\theta<0.10\mid Y=0) という事後確率の等高線である。後者が有用になるのは、たとえば、市の職員が市民にワクチン接種を推奨するかを判断する際に、もし現在の感染率が0.10より小さいと十分に確信しているならば、接種を推奨しないとする場合である。図によれば、事前の信念が弱い( ww の値が小さい)もしくは事前の期待値が低い人々は、およそ90%以上の確度で感染率は0.10以下だとしている。しかし、それが高い確度(97.5%など)となるのは、もとより感染率は他の町の平均より低いと考えていた人たちに限られる。

図1.2は、横軸の ww と縦軸の θ0\theta_0 を変えたとき、感染者0人という同じデータからどのような事後結果が得られるかを示す。等高線上では、左なら事後平均、右なら「感染率10%未満」の事後確率が等しい。「元の事前」と示したローズ色の×印は元の beta⁡(2,20)\operatorname{beta}(2,20) に対応する。

図: 1.2 事前分布の感度分析。左は事後平均、右は感染率10%未満の事後確率。等高線の数値は0〜1の割合で、×印は元のBeta(2,20)を示す。

左図では事前平均が高いほど、またその高い平均への自信が強いほど、事後平均も高くなる。右図は平均だけではわからない、分布の裾まで含めた確率を表す。例えば次のようになる。 w=100w=100 の行は図の横軸範囲外だが、強い事前情報の影響を見るために追加した。

事前平均 θ0\theta_0 強さ ww 事後平均 Pr⁡(θ<0.1∣y=0)\Pr(\theta<0.1\mid y=0)
0.09091 22 0.04762 0.92610
0.10 2 0.00909 0.99065
0.10 20 0.05000 0.91241
0.20 20 0.10000 0.55628
0.10 100 0.08333 0.76245
0.50 2 0.04545 0.89058

例えば θ0=0.2,w=20\theta_0=0.2,w=20 なら a=4,b=16a=4,b=16 であり、事後分布は beta⁡(4,36)\operatorname{beta}(4,36) になる。平均はちょうど10%だが、「10%未満である確率」は1ではない。平均と閾値以下の確率を区別する必要がある。

教科書の「97.5%のような高い確度になるのは、もともと感染率を低く考えていた人に限られる」という説明は、上の数式全体に対する一般的な命題としては成り立たない。表の事前平均0.10、強さ2でも事後確率は約99.1%となる。これは、低い感染率に強く重みを置く事前分布の形と、0人という観測が組み合わさるためである。事前平均だけでなく、分布の形と強さも併せて読む必要がある。

また、 θ0=0.1,w=2\theta_0=0.1,w=2 では a=0.2,b=1.8a=0.2,b=1.8 となり、事前密度は0に近づくと発散する。 ww が小さいことを「平らな事前分布」と同一視してはいけない。実際、0〜1で一様な分布は beta⁡(1,1)\operatorname{beta}(1,1) なので、事前平均は0.5、 w=2w=2 である。

教科書のワクチンの話は、閾値確率が意思決定の材料になるという例である。厳密に行動を選ぶには、接種の利益・負担などを損失としてモデル化する必要がある。例えば二つの行動 dd を比較するなら、 E[L(d,θ)∣y]\mathrm{E}[L(d,\theta)\mid y] が小さい方を選ぶ。この節だけでは、その損失までは指定していない。

非ベイズ的手法との比較

母集団比率 θ\theta の推定値として標準的なものは、標本平均 yˉ=y/n\bar{y}=y/n 、つまり標本における感染者の割合である。われわれの標本では y=0y=0 であるから、この推定値は当然ゼロになる。よって yˉ\bar{y} を用いるならば、市中に感染者はいないと推論される。仮にこの推定値を医者や保健当局の職員に報告するならば、サンプリングに伴う不確実性について付記して注意したいと思うだろう。この不確実性を表現する方法の一つは、区間推定によるものである。母集団比率 θ\theta の95%信頼区間はワルド区間 (Wald interval) とも呼ばれ、

yˉ±1.96yˉ(1−yˉ)/n\bar{y}\pm1.96\sqrt{\bar{y}(1-\bar{y})/n}

で与えられる。この区間は頻度論の意味で漸近的に正確な被覆 (correct asymptotic frequentist coverage) をもつ。つまり、 nn が大きいとき、およそ95%の確率で、 YY は上記の区間が θ\theta を含むような値 yy をとる。残念ながら、これは nn が小さいときには成り立たない。 nn が20程度のとき、区間が θ\theta を含む確率は80%ほどでしかない (Agresti and Coull, 1998)。いずれにせよ、われわれの標本では yˉ=0\bar{y}=0 であるから、ワルド信頼区間はゼロのただ一点のみからなる。実は、99.9%ワルド区間も同様にゼロの一点である。99.9%の確度で調査結果から市中に感染者無しと結論するのはためらわれるだろう。

補足:「点推定が0」と「感染率が0だと確信」は異なる

yˉ=0\bar y=0 は、観測した標本の感染者割合が0だったことを正確に記述する。しかし、母集団の感染率まで0だと断定する根拠にはならない。この区別は、ベイズ法だけに特有のものではない。ここで教科書が問題にしているのは、点推定と、それを代入する単純なワルド区間の組み合わせである。

実際、 yˉ=0\bar y=0 を代入すると、推定標準誤差も、

0×(1−0)20=0\sqrt{\frac{0\times(1-0)}{20}}=0

となる。区間の中心も幅も0となるため、 [0,0][0,0] しか得られない。95%を99.9%に変えて係数を大きくしても、0を掛ける点は変わらない。

また、 95%信頼区間の95%は、同じ手順を繰り返したときの被覆率 である。固定した真の θ\theta に対して、標本を取り直すたびに動く区間が、約95%の割合で真の値を覆う、という性質を指す。一方、ベイズの95%信用区間は、指定したモデル・事前分布と今回のデータのもとで、その区間に事後確率の95%が入る、という意味である。

教科書にある「 n=20n=20 で80%ほど」という記述は概略であり、被覆率は nn だけでなく真の θ\theta にも依存する。例えば θ=0.1\theta=0.1 でワルド区間が真の値を覆うのは Y=1,…,6Y=1,\ldots,6 の場合なので、

Pr⁡θ=0.1{0.1∈C(Y)}=∑y=16(20y)0.1y0.920−y≈0.87604.\Pr_{\theta=0.1}\{0.1\in C(Y)\} =\sum_{y=1}^{6}\binom{20}{y}0.1^y0.9^{20-y} \approx0.87604.

ここで C(Y)C(Y) は観測人数から作るワルド区間である。真の θ\theta を変えたときの全体像は、次の追加図で確認する。

ワルド区間のこのような振る舞いを回避したいと、様々な代案が提起されてきた。非ベイズ的な基準でよく機能するものの一つは、Agresti and Coull (1998) による「調整」ワルド区間であり、

θ^±1.96θ^(1−θ^)/n,\hat{\theta}\pm1.96\sqrt{\hat{\theta}(1-\hat{\theta})/n},
θ^=nn+4yˉ+4n+412\hat{\theta}=\frac{n}{n+4}\bar{y}+\frac{4}{n+4}\frac{1}{2}

で与えられる。本来の意図は別として、この区間は明らかにベイズ推論と関係している。ここに表れる θ^\hat{\theta} の値は、事前分布 beta⁡(2,2)\operatorname{beta}(2,2) のもとでの θ\theta の事後平均に等しい。この事前分布は θ=1/2\theta=1/2 を中心にした弱い事前の情報を表している。

補足:教科書の調整式と一般的な plus-four の違い

教科書の式で n=20,y=0n=20,y=0 とすると、中心は、

θ^=2024×0+424×12=224=112≈0.083333\hat\theta=\frac{20}{24}\times0+\frac{4}{24}\times\frac12 =\frac{2}{24}=\frac1{12}\approx0.083333

となる。これが beta⁡(2,2)\operatorname{beta}(2,2) から更新した事後平均に一致する。

ただし、提供本文と付属Rコードの区間の分母は nn である。一般的な調整ワルド区間は、 z=1.96z=1.96 とすると、 n~=n+z2\tilde n=n+z^2 、 y~=y+z2/2\tilde y=y+z^2/2 、 p~=y~/n~\tilde p=\tilde y/\tilde n を使って、

p~±zp~(1−p~)n~\tilde p\pm z\sqrt{\frac{\tilde p(1-\tilde p)}{\tilde n}}

と書く。 z2≈4z^2\approx4 として成功2件・失敗2件を足す plus-four 近似なら、分母も n+4n+4 にする。これは教科書の nn の式と数値が異なるため、混同せずに示す。NISTの調整ワルド区間の定義にも、補正後の標本数を使う式が記載されている。

方法 y=0,n=20y=0,n=20 での区間(丸め値)
元のワルド区間 [0,0][0,0]
教科書の調整式:分母 nn [−0.03780,0.20446][-0.03780,0.20446]
plus-four近似:分母 n+4n+4 [−0.02724,0.19391][-0.02724,0.19391]
事前 beta⁡(2,2)\operatorname{beta}(2,2) の95%等裾信用区間 [0.01071,0.21949][0.01071,0.21949]

負の下限は感染率として意味を持たないため、報告上は0に切ることがある。表は式の差を明確にするため、切る前の値を示した。なお、区間の中心がベイズの事後平均に一致しても、正規近似による区間全体がベイズの信用区間に一致するわけではない。

次の図はシミュレーションではなく、各感染率について Y=0,…,20Y=0,\ldots,20 の全21通りを足し合わせた正確な被覆率である。横軸は評価のために仮定する真の感染率であり、事後分布の横軸とは役割が異なる。

図: 追加図 n=20における区間推定の被覆率。黒い一点鎖線は目標95%。真の感染率0〜50%を拡大表示している。

感染率が0や1に近い領域では、元のワルド区間の被覆率が大きく落ちる。調整によってかなり改善するが、あらゆる感染率でちょうど95%になるわけではない。曲線が細かく上下するのは、感染者数が整数しかとらず、区間に真の値が入る場合の組み合わせが離散的に変わるためである。

母集団平均の推定の一般論

母集団からランダムサンプリングされた nn 個の観測値を所与として、母集団平均 θ\theta の推定値は通常、 yˉ\bar{y} で与えられる。サンプルサイズが大きい場合には yˉ\bar{y} は信頼できる推定値であるが、先ほどの例で見たように、小さい nn に対しては統計的に信用ならないこともある。その場合、 yˉ\bar{y} は θ\theta の精密な推定量というよりむしろ、標本データの要約として用いられる。

標本データの要約よりも θ\theta の推定に興味がある場合には、次のような形の推定量が考えられる。

θ^=nn+wyˉ+wn+wθ0.\hat{\theta}=\frac{n}{n+w}\bar{y}+\frac{w}{n+w}\theta_0.

ただし、 θ0\theta_0 は真の値 θ\theta の「最善の予想」を表し、 ww は予想の確度を表す。サンプルサイズが大きければ、 yˉ\bar{y} は信用できる θ\theta の推定量である。推定量 θ^\hat{\theta} はその利を活かすために、 nn が大きくなるにつれ yˉ\bar{y} の重みを1に、 θ0\theta_0 の重みを0に近づける。しかし、小さな nn に対しては yˉ\bar{y} のばらつきが θ0\theta_0 の不確実性を上回ることもある。その場合には θ^\hat{\theta} を使うことで、データに事前の予想を組み合わせて θ\theta の推定を安定させることができる。

大小の nn に関するこれらの性質により、 θ^\hat{\theta} は様々な nn の値に対して有用な推定量であることが示唆される。5.4節ではこの事実を確かめるため、ある条件のもとで、すべての nn の値に対して、 θ\theta の推定量として θ^\hat{\theta} は yˉ\bar{y} より優れていることを証明する。感染率の例や後の章で見られるように、 θ^\hat{\theta} は特定の事前分布のクラスを用いた場合のベイズ推定量として解釈できる。もし特定の事前分布 p(θ)p(\theta) が事前の情報を正確に表していないとしても、対応する事後分布 p(θ∣y)p(\theta\mid y) は依然として有用であり、サンプルサイズが小さい状況でも安定した推論と推定を供する有効な手段となる。

手計算:縮小による安定化と、その限界

標本平均を事前の予想に近づける操作を 縮小(shrinkage) という。例えば θ0=0.1,w=20\theta_0=0.1,w=20 のまま、感染者割合が0.05となる二つの標本を比べる。

n=20, y=1:θ^=2040×0.05+2040×0.1=0.075,n=200, y=10:θ^=200220×0.05+20220×0.1≈0.05455.\begin{aligned} n=20,\ y=1:&\quad\hat\theta=\frac{20}{40}\times0.05+\frac{20}{40}\times0.1=0.075,\\ n=200,\ y=10:&\quad\hat\theta=\frac{200}{220}\times0.05+\frac{20}{220}\times0.1\approx0.05455. \end{aligned}

同じ観測割合でも、観測人数が多い方が標本の情報を重く見る。 ww を固定して nn を大きくすれば、推定値は標本平均に近づく。

この関係を、20〜400人の仮想データで続けて見る。どの標本でも感染者割合を5%にそろえ、 n=20n=20 なら y=1y=1 、 n=200n=200 なら y=10y=10 とする。実際の調査では観測割合も変動するが、この図では 標本数だけの影響を分けて見るため、割合を固定している 。

事前情報の強さは共通に w=20w=20 とし、事前平均を1%、10%、30%に変えた三つの場合を比べる。上段のシアンの帯は、事前平均10%の場合だけに付けた95%等裾信用区間である。下段は同じ計算を、標本と事前平均への重みに分解して示す。

図: 追加図C 観測割合5%を固定した仮想標本。上段は事前平均別の事後平均、シアンの帯は事前平均10%の場合の95%等裾信用区間。下段は標本と事前の重みである。

20人の段階では、事前と標本の重みはそれぞれ50%である。そのため、事前平均が1%、10%、30%なら、事後平均はそれぞれ3%、7.5%、17.5%となる。200人になると標本への重みは約90.9%になり、三つの事後平均はそれぞれ約4.64%、5.45%、7.27%へ近づく。

上段の帯も狭くなるため、 標本数が増えると、中心が観測割合に近づくことと、残る不確実性が小さくなることの両方が起きる と読める。ただし、帯は異なる事前分布の結果全体を囲んだものではない。あくまで、事前平均10%のモデル一つの事後確率95%を含む区間である。

しかし、縮小がどんな真の値に対しても有利とは限らない。このことを、二項モデルで二乗誤差を使って確かめる。 c=n/(n+w)c=n/(n+w) と置くと、固定した真の値 θ\theta のもとで、

Eθ[(θ^−θ)2]=c2θ(1−θ)n+(1−c)2(θ0−θ)2.\mathrm{E}_\theta[(\hat\theta-\theta)^2] =c^2\frac{\theta(1-\theta)}{n}+(1-c)^2(\theta_0-\theta)^2.

第一項は分散、第二項は偏りの二乗である。 n=w=20,θ0=0.1n=w=20,\theta_0=0.1 なら c=1/2c=1/2 である。

仮定する真の値 標本平均の二乗誤差の期待値 縮小推定の二乗誤差の期待値
θ=0.1\theta=0.1 0.1×0.9/20=0.00450.1\times0.9/20=0.0045 0.25×0.0045=0.0011250.25\times0.0045=0.001125
θ=0.5\theta=0.5 0.5×0.5/20=0.01250.5\times0.5/20=0.0125 0.25×0.0125+0.25×0.42=0.0431250.25\times0.0125+0.25\times0.4^2=0.043125

事前の予想が真の値に近ければ、分散を抑える利点が大きい。大きく外れていれば、偏りが増える不利益が勝つ場合がある。教科書が後の章で述べる優越性も「ある条件のもとで」の結果であり、任意の事前分布が任意の真の値で標本平均を上回る、という意味ではない。

二つの真の値だけでなく、真の感染率を0〜1の範囲で動かして、縮小が有利になる範囲を見てみよう。次の図では n=20,w=20,θ0=0.1n=20,w=20,\theta_0=0.1 を固定し、各感染率のもとで標本を何度も取り直した場合の平均二乗誤差を描く。横軸は 観測から推定した値ではなく、性能評価のために仮定する真の値 である。

上段の薄い帯は、縮小推定の平均二乗誤差が標本平均より小さい範囲を示す。下段は縮小推定の誤差を分散と偏りの二乗に分けている。上下の縦軸の範囲は同じなので、二つの成分が合計にどれほど寄与するかも比べられる。10%付近の差と50%での例を読み取りやすくするため、初期表示は感染率0〜60%に拡大している。計算自体は0〜100%全体で行っている。

図: 追加図D 縮小推定の利点と限界。上段はMSEの比較、下段は縮小推定のMSEの分解。薄い帯は縮小推定が有利な範囲、縦の点線は事前平均10%。感染率0〜60%を拡大表示している。

この設定では、真の感染率が約3.19〜27.24%の範囲にあれば縮小推定が有利であり、その外側では標本平均が有利である。この範囲は、二つの平均二乗誤差が等しくなる方程式から求めている。

例えば真の感染率が10%なら、縮小先がちょうど正解なので偏りは0となり、分散だけが小さくなる。ところが真の感染率が50%なら、10%へ引き寄せることで生じる偏りの二乗が0.04となり、分散を減らす利点を上回る。これが、 予測を安定させる工夫にも、事前の予想が外れた場合の代償がある という意味である。

1.2.2 予測モデルの構成

第9章では予測モデルの構成を目的として、次の一例を議論する。糖尿病の進行度を、年齢や性別、BMI(ボディマス指数)などの64の説明変数の関数として表現するのである。その概要を簡潔に述べておこう。まず、342人の患者から得た測定値からなる「訓練」データを用いて、回帰モデルのパラメータを推定する。次に、別の100人の患者からなる「テスト」データによって、推定された回帰モデルの予測性能を評価するのである。

標本モデルとパラメータ空間

この節からはベクトルと行列が現れるので、記号の形で種類が分かるように次の規約で書く。細字はスカラー(数)、ket ∣x⟩\ket{x} は列ベクトル、bra ⟨x∣\bra{x} はその転置である行ベクトル、太字の大文字 X\mathbf{X} は行列を表す。実数ベクトルだけを扱うので、bra は ket の単なる転置 ⟨a∣=∣a⟩T\bra{a}=\ket{a}^{\mathsf{T}} であり、内積 ⟨a∣b⟩=∑jajbj\braket{a|b}=\sum_ja_jb_j は1個の数になる。添え字は位置で意味を分け、上付きの (i)^{(i)} は何番目の患者か、下付きの j_j は何番目の説明変数(ベクトルの成分)かを表す。例えば xj(i)x^{(i)}_j は患者 ii の第 jj 説明変数の値である。

Y(i)Y^{(i)} を患者 ii の糖尿病の進行度、 ∣x(i)⟩=(x1(i),…,x64(i))T\ket{x^{(i)}}=(x^{(i)}_1,\ldots,x^{(i)}_{64})^{\mathsf{T}} を説明変数とし、以下の線形モデルを考察する。

Y(i)=β1x1(i)+β2x2(i)+⋯+β64x64(i)+σϵ(i).Y^{(i)}=\beta_1x^{(i)}_1+\beta_2x^{(i)}_2+\cdots+\beta_{64}x^{(i)}_{64}+\sigma\epsilon^{(i)}.

このモデルには未知のパラメータが65個あり、回帰係数のベクトル ∣β⟩=(β1,…,β64)T\ket{\beta}=(\beta_1,\ldots,\beta_{64})^{\mathsf{T}} と、誤差項の標準偏差 σ\sigma からなる。パラメータ空間は、 ∣β⟩\ket{\beta} については64次元のユークリッド空間であり、 σ\sigma については正の半実数直線である。

補足:行列と係数を、患者1人から読む

この例の442人は、訓練用342人とテスト用100人に分けられる。訓練データは係数を求めるために使い、テストデータはその係数による予測を評価するために使う。訓練時点でテストの正解を見て係数を調整すると、未知の患者への予測性能を正しく評価できなくなる。

付属データでは64列は「64種類の独立した検査」ではない。10個の基本変数に、性別以外の9個の二乗項と、10個から二つを選ぶ45個の交互作用項を加えたものである。

10+9+(102)=10+9+45=64.10+9+\binom{10}{2}=10+9+45=64.

例えばBMIと年齢の積を説明変数に加えると、BMIと進行度の関係が年齢によって違うようなパターンも表せる。基本変数から派生した列が多いため、列どうしが似た情報を持つこともある。

∣β⟩\ket{\beta} と ∣x(i)⟩\ket{x^{(i)}} はどちらも64次元の列ベクトルなので、患者 ii の予測に使う和は二つの内積として書ける。

⟨β∣x(i)⟩=∑j=164βjxj(i)\braket{\beta|x^{(i)}}=\sum_{j=1}^{64}\beta_j x^{(i)}_j

「係数と説明変数を成分ごとに掛けて足す」という操作が、記号 ⟨β∣x(i)⟩\braket{\beta|x^{(i)}} の一つで表されている。 X\mathbf X は各患者の ⟨x(i)∣\bra{x^{(i)}} を行に並べた 342×64342\times64 行列である。したがって、パラメータ空間は、

Θ=R64×(0,∞)\Theta=\mathbb R^{64}\times(0,\infty)

であり、最後の正の値が誤差の標準偏差 σ\sigma を表す。

例えば説明用に3変数だけを取り出し、ある患者の値を ∣x(i)⟩=(1,−0.5,2)T\ket{x^{(i)}}=(1,-0.5,2)^{\mathsf{T}} 、係数を ∣β⟩=(0.4,0,−0.1)T\ket{\beta}=(0.4,0,-0.1)^{\mathsf{T}} とすると、

⟨β∣x(i)⟩=0.4×1+0×(−0.5)+(−0.1)×2=0.2.\braket{\beta|x^{(i)}} =0.4\times1+0\times(-0.5)+(-0.1)\times2 =0.2.

第2変数の係数が0なので、その患者の第2変数の値は予測に影響しない。ここでの0.2は説明用の標準化された予測値であり、実際の患者の結果ではない。もし σ=0.5,ϵ(i)=−1\sigma=0.5,\epsilon^{(i)}=-1 という誤差が実現すれば、観測値は 0.2+0.5×(−1)=−0.30.2+0.5\times(-1)=-0.3 となる。誤差は予測で確定できない部分を表す。

線形モデルの式だけでは誤差の分布までは決まらない。付属の計算では、 ϵ(i)\epsilon^{(i)} が独立な標準正規分布に従う正規線形回帰を用いている。すると、 E[Y(i)∣∣x(i)⟩,∣β⟩,σ]=⟨β∣x(i)⟩\mathrm E[Y^{(i)}\mid\ket{x^{(i)}},\ket{\beta},\sigma]=\braket{\beta|x^{(i)}} 、条件付き分散は σ2\sigma^2 となる。

標準化に関する再現上の注意。 著者のRコードは、442人全体の平均と標本標準偏差で目的変数と説明変数を標準化してから分割し、切片を置かないモデルを当てはめている。本ノートの再現もその処理に一致させた。新たな予測実験では、前処理の平均・標準偏差も訓練データだけで求め、その値をテストデータに適用する。とくに目的変数の標準化にテストの正解を使う処理は、厳密な未使用テスト評価とは区別する必要がある。

事前分布

多くの場合、事前の信念を正確に表すように65個のパラメータの同時分布を定めるのはほぼ不可能である。代わりに、事前の信念のいくつかの側面のみを表現した事前分布が用いられる。特に表現したい信念は、64個の説明変数のほとんどは糖尿病の進行には何も影響しないだろう、というものである。つまり、回帰係数のほとんどはゼロだという信念である。第9章では、この信念をおおまかに表現するような ∣β⟩\ket{\beta} の事前分布について論じる。それは、各回帰係数について、50%の確率で係数がゼロとなるような事前分布である。

補足:係数が「ちょうど0」になる事前分布

正規分布のような連続分布では、一つの値に正の確率は付かない。そのため、単に0を中心とした正規事前分布を使っても、 Pr⁡(βj=0)=0.5\Pr(\beta_j=0)=0.5 とはならない。

そこで、説明変数 jj を採用するかを表す指標 Zj∈{0,1}Z_j\in\{0,1\} を導入する。 Zj=0Z_j=0 なら係数を0に固定し、 Zj=1Z_j=1 なら連続分布から係数を考える。

Pr⁡(Zj=1)=12,βj={0,Zj=0,連続分布に従う値,Zj=1.\Pr(Z_j=1)=\frac12, \qquad \beta_j= \begin{cases} 0,&Z_j=0,\\ \text{連続分布に従う値},&Z_j=1. \end{cases}

このように0への集中と広がった分布を組み合わせる考え方を スパイク・アンド・スラブ と呼ぶ。実際の付属コードでは、採用した係数全体に、説明変数間の関係を反映した同時正規事前分布を置く。

各係数の採用確率が事前に1/2なら、採用数の期待値は 64×1/2=3264\times1/2=32 個である。「ほとんどがゼロ」という期待を最初から非常に強く課しているというより、 ゼロになる可能性を明示的に許し、データで採用確率を更新する 仕組みと読むと正確である。各採用を事前に独立とすると、組み合わせは 264=18,446,744,073,709,551,6162^{64}=18,446,744,073,709,551,616 通りに達する。したがって、全組み合わせの愚直な列挙は現実的ではなく、付属コードはMCMCで組み合わせを探索している。

事後分布

データ ∣y⟩=(y(1),…,y(342))T\ket{y}=(y^{(1)},\ldots,y^{(342)})^{\mathsf{T}} と、第 ii 行が ⟨x(i)∣\bra{x^{(i)}} である X\mathbf{X} のもとで、事後分布 p(∣β⟩∣∣y⟩,X)p(\ket{\beta}\mid\ket{y},\mathbf{X}) が計算され、各 jj の回帰係数について Pr⁡(βj≠0∣∣y⟩,X)\Pr(\beta_j\neq0\mid\ket{y},\mathbf{X}) が得られる。この確率は図1.3に表示されている。各係数は事前分布では五分五分の確率で非ゼロであるが、 Pr⁡(βj≠0∣∣y⟩,X)≥0.5\Pr(\beta_j\neq0\mid\ket{y},\mathbf{X})\geq0.5 となる βj\beta_j は64個中たった6個しかない。残りの大多数の係数は高い事後確率でゼロである。ゼロとなる係数の個数の期待値が劇的に増加したのは、データのもつ情報による。ただし、そもそも係数がゼロとなる可能性を許したのは事前分布である。

図1.3は、各変数をモデルに含める確率を示す。横軸の番号は64列の順序に対応し、点や棒にカーソルを合わせると変数名がわかる。0.5の破線と各棒の高さを比べてほしい。

図: 1.3 著者の10,000個の保存済み標本から計算した、各係数が非ゼロになる事後確率。50%以上の変数をローズ色で強調した。

0.5以上となった列は次の6個である。ここでは保存済み標本における割合を表示しているため、厳密な事後確率ではなくモンテカルロ近似値である。

変数番号 付属データの列名 非ゼロの事後確率
2 sex 0.7197
3 bmi 1.0000
4 map 0.9872
5 tc 0.5781
9 ltg 0.9988
20 age:sex 0.8281

なお、0.5以上の変数が6個あることと、採用される変数の個数の事後期待値は異なる。後者は64個の採用確率の和であり、保存標本では約12.1759個である。0.5未満の多数の変数も、それぞれ小さい確率で採用されるためである。

この違いは「候補モデル一つに何個の変数が入るか」の分布にすると見やすい。採用された変数の個数を K=∑j=164ZjK=\sum_{j=1}^{64}Z_j と置く。事前に各変数を独立に確率1/2で採用するなら、 K∼binomial⁡(64,1/2)K\sim\operatorname{binomial}(64,1/2) であり、事前平均は32個である。事後については、著者の10,000行の標本それぞれで KK を数え、その頻度を集計する。

図: 追加図E 一つのモデルに採用される変数数の事前・事後分布。グレーは事前、シアンは事後。採用確率50%以上の変数数とは異なる量である。

データを観測した後には、含める変数の個数が少ないモデルへ重みが移っている。ただし、右から左へ動いた分布が6個の一点に集中しているわけではない。6という数は各変数の採用確率を50%で区切って数えたものであり、この分布の平均でも、各MCMC標本で必ず採用される個数でもない。

例えば、別々の標本でそれぞれ異なる補助変数が採用されれば、個々の補助変数の採用確率は低くても、各モデルには一定数の補助変数が入りうる。 「どの変数が選ばれるか」と「合計で何個選ばれるか」は、関連しているが異なる問い なのである。なお、事後の採用状態には変数間の依存があるため、事後平均を64で割った値を使う単純な二項分布で、この事後分布を置き換えてはいない。

この確率は「その変数が病気の原因である確率」ではない。今回の候補変数・事前分布・回帰モデルのもとで係数を非ゼロとする事後確率である。強く似た変数どうしでは、複数のモデルが説明力を分け合うこともある。

補足:50%で切って一つのモデルを作ることと、モデル平均は異なる

図の0.5の線は採用の傾向を見る基準だが、次に計算する予測は、0.5以上の6変数だけに限定して当てはめ直したものではない。係数の事後平均は、ゼロである場合も含めて、すべての標本を平均して求める。

E[βj∣∣y⟩,X]=Pr⁡(Zj=1∣∣y⟩,X)E[βj∣Zj=1,∣y⟩,X].\mathrm{E}[\beta_j\mid\ket{y},\mathbf X] =\Pr(Z_j=1\mid\ket{y},\mathbf X) \mathrm{E}[\beta_j\mid Z_j=1,\ket{y},\mathbf X].

例えば採用される確率が0.2、採用された場合の係数の平均が0.5なら、係数の事後平均は 0.2×0.5=0.10.2\times0.5=0.1 である。採用確率が0.5未満だからといって、予測における係数が必ず0になるわけではない。

次の図では、説明用に候補モデルを二つに絞る。患者Aは両方で同じ人であり、BMI・年齢の値も同じである。図の分岐は、時間変化や治療の違いではなく、予測に使う変数の組み合わせの違いを表す。

同じ患者A
BMI・年齢の値は共通
モデルM₁:BMIだけ
BMI:採用年齢:不採用
患者Aの予測 0.6 / 事後確率 0.7
モデルM₂:BMIと年齢
BMI:採用年齢:採用
患者Aの予測 1.0 / 事後確率 0.3
0.7 × 0.6 + 0.3 × 1.0 = 0.72
患者Aのモデル平均による予測
図: 説明用の二つの候補モデル。同じ患者の予測を、モデルの事後確率で重み付けして平均する。

最も確率が高いモデル M1M_1 だけを使えば予測は0.6だが、モデル平均なら0.72となる。どの変数の組み合わせがよいかについての不確実性を、予測に残す方法が ベイズモデル平均(BMA) である。実際の64変数の計算でも、基本的な考え方は同じだ。

予測の性能と非ベイズ的方法との比較

モデルの性能はテストデータの予測によって評価することができる。 ∣β⟩\ket{\beta} の事後期待値を ∣β^Bayes⟩=E[∣β⟩∣∣y⟩,X]\ket{\hat\beta_{\mathrm{Bayes}}}=\mathrm{E}[\ket{\beta}\mid\ket{y},\mathbf{X}] とし、100人の患者のテストデータをまとめた 100×64100\times64 行列を Xtest\mathbf{X}_{\mathrm{test}} とする。テストデータの100人に関する予測値は、等式

∣y^test⟩=Xtest∣β^Bayes⟩\ket{\hat{y}_{\mathrm{test}}}=\mathbf{X}_{\mathrm{test}}\ket{\hat\beta_{\mathrm{Bayes}}}

によって計算できる。予測値は実際の観測値 ∣ytest⟩\ket{y_{\mathrm{test}}} と比較される。図1.4の左の図では ∣ytest⟩\ket{y_{\mathrm{test}}} が ∣y^test⟩\ket{\hat{y}_{\mathrm{test}}} に対して示されており、 ∣β^Bayes⟩\ket{\hat\beta_{\mathrm{Bayes}}} が基準となる変数を用いて糖尿病の進行度を予測できているかが示されている。

図1.4は、各点をテスト患者1人として、横軸に実測値、縦軸に予測値を置いたものである。両側の軸の範囲と、縦横の1単位の長さをそろえている。予測が完全に合えば点は対角線上にあり、対角線からの縦方向のずれが予測誤差となる。

図: 1.4 同じ100人のテストデータに対する予測。左はベイズ法、右は最小二乗法。共通の軸範囲と縦横比で比較し、破線は実測と予測の一致を示す。

ベイズ法の点は、このテスト集合では最小二乗法より小さい二乗誤差を示す。標準化された値なので、負の進行度は「進行度が物理的に負」という意味ではなく、全体平均を下回る値である。

∣β⟩\ket{\beta} のベイズ推定量は非ベイズ的なアプローチと比べて優れているだろうか。回帰係数ベクトルの推定量として最もよく使われるのは最小二乗 (ordinary least squares, OLS) 推定量であり、ほとんどの統計分析ソフトウェアで利用可能である。回帰係数 ∣β⟩\ket{\beta} の最小二乗推定量 ∣β^ols⟩\ket{\hat\beta_{\mathrm{ols}}} とは、観測値に対する残差平方和 (the sum of squares of the residuals, SSR) を最小にする値、すなわち

SSR(∣β⟩)=∑i=1n(y(i)−⟨β∣x(i)⟩)2\mathrm{SSR}(\ket{\beta})=\sum_{i=1}^{n}\left(y^{(i)}-\braket{\beta|x^{(i)}}\right)^2

を最小にする値であり、 ∣β^ols⟩=(XTX)−1XT∣y⟩\ket{\hat\beta_{\mathrm{ols}}}=(\mathbf{X}^{\mathsf{T}}\mathbf{X})^{-1}\mathbf{X}^{\mathsf{T}}\ket{y} で表される。この推定量をもとにしたテストデータの予測値は Xtest∣β^ols⟩\mathbf{X}_{\mathrm{test}}\ket{\hat\beta_{\mathrm{ols}}} であり、実際の観測値に対して図1.4の右の図でプロットされている。予測値と実際の観測値の関係は、 ∣β^Bayes⟩\ket{\hat\beta_{\mathrm{Bayes}}} よりも ∣β^ols⟩\ket{\hat\beta_{\mathrm{ols}}} を使ったときの方が弱いことに注意しよう。この関係はそれぞれの予測において平方予測誤差の平均 ∑i(ytest(i)−y^test(i))2/100\sum_i(y^{(i)}_{\mathrm{test}}-\hat{y}^{(i)}_{\mathrm{test}})^2/100 によって数値的に測ることができる。最小二乗法の予測誤差は0.67であり、ベイズ推定値による予測誤差0.45より50%ほど大きい。この例では ∣β⟩\ket{\beta} の事前分布はアドホックで、事前の信念の基本的な構造(つまり、多くの係数はゼロだろうということ)しか捉えていないにもかかわらず、最小二乗推定量よりも予測の性能を大幅に改善するのに十分である。

手計算:訓練誤差とテスト誤差を分ける

最小二乗法は、訓練データに対する残差平方和を最小化する。しかし、訓練データで一番よく合う係数が、別の患者に最もよく合うとは限らない。偶然生じた関係まで追いかけると、テスト誤差は大きくなりうる。この現象が 過学習 である。

例えば説明用に3人の実測値を (1,0,−1)(1,0,-1) 、予測値を (0.8,0.1,−0.5)(0.8,0.1,-0.5) とすると、平均二乗誤差は、

MSE=(1−0.8)2+(0−0.1)2+(−1+0.5)23=0.04+0.01+0.253=0.1.\mathrm{MSE}=\frac{(1-0.8)^2+(0-0.1)^2+(-1+0.5)^2}{3} =\frac{0.04+0.01+0.25}{3}=0.1.

今回の100人では、付属データからの再計算結果は次のようになる。

推定法 テストMSE テストRMSE(MSEの平方根)
ベイズモデル平均 0.451642 0.672043
最小二乗法 0.670749 0.818993

比をとると、

0.6707490.451642−1≈0.48513.\frac{0.670749}{0.451642}-1\approx0.48513.

したがって、最小二乗法のMSEはベイズ法より約48.5%大きく、教科書の「50%ほど」に対応する。一方、最小二乗法を基準に改善率を計算すれば、 1−0.451642/0.670749≈32.7%1-0.451642/0.670749\approx32.7\% である。どちらを分母にするかで百分率が異なる。

なお、これはこの分割・モデルで得られた結果であり、ベイズ法が任意のデータで常に勝つという証明ではない。説明変数の数だけでなく、標本数、変数どうしの相関、雑音の大きさなども予測の安定性に影響する。

Python:保存済み標本から予測を再現する

完全な読み込み処理は ch1_examples.py にまとめてある。そこで data から訓練・テスト行列を読み込み、著者の事後標本を平均すると、核心となる計算は次の数行である。

import numpy as np
import rdata
from ch1_examples import FIG_DATA, load_diabetes

data = load_diabetes()
saved = rdata.read_rda(FIG_DATA / "diabetesBMA.RData")
beta_bma = np.asarray(saved["BETA"]).mean(axis=0)
pip = np.asarray(saved["Z"]).mean(axis=0)
beta_ols = np.linalg.lstsq(data["X"], data["y"], rcond=None)[0]

for name, coefficients in [("BMA", beta_bma), ("OLS", beta_ols)]:
    prediction = data["X_test"] @ coefficients
    mse = np.mean((data["y_test"] - prediction) ** 2)
    print(name, mse)
# BMA 0.45164222734789844
# OLS 0.6707489170594062

BETA と Z はいずれも 10000×6410000\times64 行列である。各行はMCMCで得た1回の標本、各列は一つの係数に対応する。mean(axis=0) は行方向に平均して、64個の要約値を返す。Rの apply(BETA, 2, mean) に対応する。

rdata.read_rda はRを起動せずに .RData をPythonのオブジェクトへ変換する関数である。rdata公式リファレンスを参照できる。ここではRの推定コードを実行しておらず、図の再現には著者が計算済みの数値を利用している。

また、理論式の (XTX)−1XT∣y⟩(\mathbf X^{\mathsf{T}}\mathbf X)^{-1}\mathbf X^{\mathsf{T}}\ket{y} は、 X\mathbf X が列フルランクの場合の表現である。Python実装では逆行列を明示的に作らず、np.linalg.lstsq で最小二乗問題を解いている。

最小二乗法の性能が低いのは、サンプルサイズが小さく回帰係数を正確に推定できないという事態が、いつ起こっているかを判別できないことに由来する。そのような状況でデータにおける ∣y⟩\ket{y} と X\mathbf{X} の間の線形な関係性を ∣β^ols⟩\ket{\hat\beta_{\mathrm{ols}}} によって測ってしまうと、母集団の関係性の表現として不正確であることが多い。この問題の標準的な解決方法の一つは「スパースな」回帰モデルを当てはめることである。すなわち、回帰係数のうちのいくつか、または多くをゼロにするのである。ゼロにする係数を選ぶ方法の一つはすでに述べたベイズ法である。別の方法で有名なものは Tibshirani (1996) で導入された “lasso” で、多くの研究がなされている。 ∣β⟩\ket{\beta} の lasso 推定量 ∣β^lasso⟩\ket{\hat\beta_{\mathrm{lasso}}} とは、変形された残差平方和 SSR(∣β⟩:λ)\mathrm{SSR}(\ket{\beta}:\lambda) を最小にする値であり、 SSR(∣β⟩:λ)\mathrm{SSR}(\ket{\beta}:\lambda) は

SSR(∣β⟩:λ)=∑i=1n(y(i)−⟨β∣x(i)⟩)2+λ∑j=1p∣βj∣\mathrm{SSR}(\ket{\beta}:\lambda) =\sum_{i=1}^{n}\left(y^{(i)}-\braket{\beta|x^{(i)}}\right)^2 +\lambda\sum_{j=1}^{p}\lvert\beta_j\rvert

で与えられる。いいかえれば、lassoとは ∣βj∣\lvert\beta_j\rvert が大きくなるのを罰する手順である。 λ\lambda の大きさにも依存するが、この罰則により ∣β^lasso⟩\ket{\hat\beta_{\mathrm{lasso}}} のいくつかの要素はゼロとなる。lassoの方法は非ベイズ的な文脈で考案・研究されてきたが、実は、特定の事前分布を用いたベイズ推定量に対応する。その事前分布とは各 βj\beta_j に対して、 βj=0\beta_j=0 において鋭い峰をもった確率分布として知られる二重指数分布である。

補足:lassoとベイズ法は、どの推定値でつながるか

lassoが特定の事前分布に対応するという主張は、正規誤差の回帰で σ2\sigma^2 を固定したとき、 事後分布の最頻値(MAP推定値) がlasso解に一致するという意味である。事後平均がlasso解になるわけではない。

各係数に独立なラプラス分布(二重指数分布)を置く。その密度を、

p(βj)=12bexp⁡(−∣βj∣b),b>0p(\beta_j)=\frac{1}{2b}\exp\left(-\frac{\lvert\beta_j\rvert}{b}\right),\qquad b>0

とする。正規尤度と掛け、その負の対数を取ると、係数に依存しない定数を除いて、

−log⁡p(∣β⟩∣∣y⟩,X,σ2)=SSR(∣β⟩)2σ2+1b∑j∣βj∣+定数-\log p(\ket{\beta}\mid\ket{y},\mathbf X,\sigma^2) =\frac{\mathrm{SSR}(\ket{\beta})}{2\sigma^2} +\frac1b\sum_j\lvert\beta_j\rvert+\text{定数}

となる。これを最小化することは、 2σ22\sigma^2 倍した、

SSR(∣β⟩)+λ∑j∣βj∣,λ=2σ2b\mathrm{SSR}(\ket{\beta})+\lambda\sum_j\lvert\beta_j\rvert, \qquad \lambda=\frac{2\sigma^2}{b}

を最小化することと同じである。係数に大きい絶対値を許しにくい小さな bb は、大きな罰則 λ\lambda に対応する。

手計算:絶対値の罰則が係数を0にする理由

説明変数が一つで、その nn 人分の値を並べたベクトル ∣x⟩=(x(1),…,x(n))T\ket{x}=(x^{(1)},\ldots,x^{(n)})^{\mathsf{T}} が ⟨x∣x⟩=∑i(x(i))2=1\braket{x|x}=\sum_i(x^{(i)})^2=1 を満たすとする。最小二乗解を t=⟨x∣y⟩=∑ix(i)y(i)t=\braket{x|y}=\sum_i x^{(i)}y^{(i)} と書けば、最小化すべき式は定数を除いて、

(β−t)2+λ∣β∣(\beta-t)^2+\lambda\lvert\beta\rvert

となる。 β>0\beta>0 の領域で微分すると 2(β−t)+λ=02(\beta-t)+\lambda=0 、 β<0\beta<0 の領域では 2(β−t)−λ=02(\beta-t)-\lambda=0 となる。0の折れ曲がりも考えると、解は、

β^lasso=sign⁡(t)max⁡(∣t∣−λ2,0).\hat\beta_{\mathrm{lasso}} =\operatorname{sign}(t)\max\left(\lvert t\rvert-\frac\lambda2,0\right).

λ=0.4\lambda=0.4 なら閾値は0.2である。したがって、

t=0.1⇒β^=0,t=0.8⇒β^=0.6,t=−0.8⇒β^=−0.6.t=0.1\Rightarrow\hat\beta=0, \qquad t=0.8\Rightarrow\hat\beta=0.6, \qquad t=-0.8\Rightarrow\hat\beta=-0.6.

小さい係数はちょうど0、大きい係数は0の方向へ縮む。Pythonなら次のように確かめられる。

import numpy as np

t = np.array([0.1, 0.8, -0.8])
lam = 0.4
print(np.sign(t) * np.maximum(np.abs(t) - lam / 2, 0))
# [ 0.   0.6 -0.6]

次の図で、罰則の強さ λ\lambda を変えたときの最小化を確かめる。上段は本文と同じ t=0.1t=0.1 を固定して、係数の候補 β\beta ごとに当てはまりの損失、罰則、その合計を描いたものである。ローズ色のひし形が合計を最小にする係数である。下段では tt をさまざまな値に変え、そのときのlasso解との対応を描いている。

図: 追加図F lassoの最小化。上段は損失と罰則の合計、下段はOLS解からlasso解への対応。ひし形は合計の最小点。スライダーで罰則の強さを切り替える。

最初の λ=0.4\lambda=0.4 では、下段の線は −0.2≤t≤0.2-0.2\leq t\leq0.2 の範囲で水平な0になる。これが「小さい係数をちょうど0にする」範囲である。上段の t=0.1t=0.1 もその範囲に入り、合計の最小点は0となる。一方、下段で t=0.8t=0.8 を見れば、lasso解は0.6であり、0まで消えずに小さくなる。

スライダーを λ=0\lambda=0 に戻すと罰則がなくなり、上段の最小点は0.1、下段の対応は対角線になる。逆に λ\lambda を大きくすると、上段では0から離れる費用が増え、下段では0になる水平区間が広がる。こうして、 絶対値の折れ曲がりが、単なる緩やかな縮小だけでなく、正確な0を生む ことを確認できる。

ただし、これは1変数、または直交した説明変数の場合に使える形である。一般の相関がある多変数のlassoを、OLS係数にこの処理を一度かけるだけで解けるわけではない。

最後に、ラプラス事前分布は連続分布なので、事前にも事後にも通常 Pr⁡(βj=0)=0\Pr(\beta_j=0)=0 である。それでも密度の山の位置が0になることはある。したがって「lassoのMAP解が0」と、図1.3のような「係数が0である事後確率が高い」は別の性質である。

1.3 本書の構成

以上の例が示すように、ベイズ法の使途は極めて広範である。これまでに見てきたように、ベイズ的アプローチは以下の目的に供される。

  • 合理的な量的学習に対するモデル
  • サンプルサイズの大小によらず機能する推定量
  • 複雑な問題における統計分析の手順を生成する方法

ベイズ法の利点と限界に関する理解は、経験によってもたらされる。以下の章では、これらの方法に習熟するため、多くの統計的な問題やデータ分析の例にベイズ法を適用していく。第2章で確率論を復習したのち、第3章と第4章ではベイズ的なデータ分析と計算方法の基礎を、パラメータが一つの単純な統計モデルの文脈で学ぶ。第5、6、7章では正規分布、および多変量正規分布におけるベイズ推測について論じる。正規モデルはそれ自体重要であることに加えて、階層モデルや回帰モデル、変数選択や混合効果モデルなどのより複雑な統計モデルの構成要素となる。これらの発展的なトピックやその他の事項は第8章から第12章にかけて扱われる。

1.4 再現コードと学習の手引き(追加)

実行方法とファイルの役割

リポジトリのルートで、次を順番に実行すれば数値と図を再生成できる。各スクリプトの先頭にPythonの依存を記載しているため、 uv が実行環境を用意する。

uv run output/ch1_examples.py
uv run output/ch1_plots.py
uv run python build.py
ファイル 内容
output/ch1_introduction.md 本ノート
output/ch1_examples.py ベータ二項モデル、感度分析、区間の被覆率、BMAとOLSの再現、Python MCMC
output/ch1_plots.py 教科書の4図と追加7図を、分析関数の同じ数値から生成
output/ch1_extra_plots.py 追加図A〜Fの作図。単独でも実行できる
output/ch1_extra_results.json 追加図A〜Fの本文で使う数値
output/ch1_results.json 本文で使った計算値を、丸める前の精度で保存
output/ch1_resample_results.json Pythonで取り直した2本のMCMCの要約
figs/plotly/ch1_fig1_1.html 〜 ch1_fig1_4.html 教科書の4図の再現
figs/plotly/ch1_wald_coverage.html ワルド区間の被覆率の追加図
figs/plotly/ch1_extra_*.html ベイズ更新、予測、標本数、縮小の誤差、採用変数数、lassoの追加6図

グラフはPlotlyのJavaScriptをCDNから読むため、表示にはネットワーク接続が必要である。静的サイトではiframeが埋め込まれる。一般のMarkdownビューアでは埋め込み図を表示しない場合がある。

使用した付属データと再現の範囲

数値図用の chapter1.R と regression_gprior.R は、計算式と処理の確認に使った。Python版は次のファイルを読む。

docs/data/ 以下の場所 用途
Data-and-code-for-inline-examples/yX.diabetes.train 訓練342人の標準化済み目的変数1列と説明変数64列
Data-and-code-for-inline-examples/yX.diabetes.test テスト100人の同じ65列
Data-and-code-to-replicate-figures-and-numerical-results/diabetes.RData 元の442人・64変数と列名。前処理と分割の照合
Data-and-code-to-replicate-figures-and-numerical-results/diabetesBMA.RData 著者の係数標本 BETA と採用指標 Z 、各10,000行

分割済みデータの全行が、元データを著者の方法で標準化した442人に一対一で一致することをコードで確認している。そのため、現在のPythonで乱数シードを同じ「1」にするだけでは再現できないRの標本分割に依存せず、著者と同じ訓練・テスト集合を使える。

図1.3・1.4の「再現」とは、保存済みの10,000標本を著者と同様にすべて使い、同じ要約と予測をPythonで計算することを指す。この処理から、元のMCMCの収束まで確認できたと主張することはできない。

Pythonで事後標本を取り直す

Rの推定処理自体に対応するPython実装は、 ch1_examples.py の sample_bma 関数である。新たな標本を取るには次を実行する。

uv run output/ch1_examples.py --resample --draws 2000 --warmup 500

MCMCとは、目標の事後分布を長期的に訪れるように確率的な更新を繰り返し、その標本で平均や確率を近似する方法である。ここでは各変数の採用・不採用を1個ずつ更新する。 ∣z−j⟩\ket{z_{-j}} は jj 番目以外の採用状態を並べたベクトル、 m1,m0m_1,m_0 はその状態を固定して jj 番目をそれぞれ採用・不採用にしたモデルの周辺尤度とする。事前採用確率が1/2なら、

Pr⁡(Zj=1∣∣z−j⟩,∣y⟩,X)=m1m0+m1=11+exp⁡{−(log⁡m1−log⁡m0)}.\Pr(Z_j=1\mid\ket{z_{-j}},\ket{y},\mathbf X) =\frac{m_1}{m_0+m_1} =\frac{1}{1+\exp\{-(\log m_1-\log m_0)\}}.

例えば m1/m0=4m_1/m_0=4 なら採用確率は 4/(1+4)=0.84/(1+4)=0.8 となる。Pythonでは指数の計算を安定に行う scipy.special.expit を使う。

from scipy.special import expit

prob_active = expit(log_m1 - log_m0)
z[j] = rng.random() < prob_active

採用状態を更新した後、採用された係数を条件付き事後分布から生成し、不採用の係数を0とする。これを繰り返して BETA と Z を作る。最初の500回は初期状態の影響を弱めるために捨て、その後2,000回を保存する設定である。乱数を変えた2本を計算し、それぞれの要約を保存する。

今回の実行では、テストMSEはそれぞれ 0.45166、0.45265 だった。元の保存標本による0.45164とは、乱数と保存する標本数が異なるので完全には一致しない。2本のMSEが近いことは動作確認の一つになるが、全係数の収束保証にはならない。実際の推論では、トレース、実効標本数、複数連鎖の比較なども確認する必要がある。

発展:付属コードにある事前分布の具体形

S={j:Zj=1}S=\{j:Z_j=1\} を採用した変数の集合、 k=∣S∣k=\lvert S\rvert をその個数、 XS\mathbf X_S を採用した列だけの行列とする。著者のコードは、 g=ng=n とする次の gg 事前分布を使う( ∣0⟩\ket{0} は零ベクトルである)。

∣βS⟩∣σ2,S∼Nk(∣0⟩,gσ2(XSTXS)−1).\ket{\beta_S}\mid\sigma^2,S \sim\mathrm N_k\left(\ket{0},g\sigma^2(\mathbf X_S^{\mathsf{T}}\mathbf X_S)^{-1}\right).

誤差分散には、形状 ν0/2\nu_0/2 、尺度 ν0s02/2\nu_0s_0^2/2 の逆ガンマ分布を使い、 ν0=1\nu_0=1 とする。 s02s_0^2 は各候補モデルのOLS残差平方和を n−kn-k で割った値であり、空モデルでは ⟨y∣y⟩/n=∑i(y(i))2/n\braket{y|y}/n=\sum_i(y^{(i)})^2/n とする。これは著者のコードに合わせた データ依存の事前スケール であり、データを見る前に全ハイパーパラメータを固定した純粋な事前指定とは区別する。

この場合、 q=ν0s02+⟨y∣y⟩−gg+1⟨y∣XS(XSTXS)−1XST∣y⟩q=\nu_0s_0^2+\braket{y|y}-\frac{g}{g+1}\bra{y}\mathbf X_S(\mathbf X_S^{\mathsf{T}}\mathbf X_S)^{-1}\mathbf X_S^{\mathsf{T}}\ket{y} と置くと、

σ2∣∣y⟩,S∼InvGamma⁡(ν0+n2,q2),\sigma^2\mid\ket{y},S\sim\operatorname{InvGamma}\left(\frac{\nu_0+n}{2},\frac q2\right),
∣βS⟩∣σ2,∣y⟩,S∼Nk(gg+1∣β^S,ols⟩,σ2gg+1(XSTXS)−1).\ket{\beta_S}\mid\sigma^2,\ket{y},S \sim\mathrm N_k\left( \frac{g}{g+1}\ket{\hat\beta_{S,\mathrm{ols}}}, \sigma^2\frac{g}{g+1}(\mathbf X_S^{\mathsf{T}}\mathbf X_S)^{-1} \right).

g/(g+1)g/(g+1) 倍の平均は、選んだモデル内でもOLS係数を少し0へ縮める。 g=342g=342 では係数は 342/343≈0.99708342/343\approx0.99708 であり、この例の大きな改善はそれだけでなく、変数を採用しない可能性とモデル平均によってもたらされている。

ここまでの式は発展的な内容であり、第1章の理解に暗記は不要である。事後分布がわかる部分を解析的に扱うことで、元のRと同じモデルをNumPy・SciPyで実装できる。このため、本例では別の事前分布のPyMCモデルに置き換えるのではなく、元の共役計算と変数選択更新を直接Python化した。

理解を確かめる小問

  1. 20人中0人だったとき、 Pr⁡(Y=0∣θ=0.1)\Pr(Y=0\mid\theta=0.1) と Pr⁡(θ<0.1∣Y=0)\Pr(\theta<0.1\mid Y=0) は同じか。
  2. 事前分布 beta⁡(2,20)\operatorname{beta}(2,20) から、20人中2人の感染者を観測したら事後分布と事後平均はどうなるか。
  3. ある係数の採用確率が0.3、採用時の係数平均が −0.4-0.4 なら、係数の事後平均はいくらか。
  4. lassoの推定値が0なら、ラプラス事前分布のもとで「係数がちょうど0の事後確率が高い」と言えるか。

解答。 1は異なる。前者は感染率を固定した標本の確率で約0.12158、後者は観測後の感染率についての確率で、今回の事前分布なら約0.92610である。2は beta⁡(4,38)\operatorname{beta}(4,38) 、平均は 4/42≈0.095244/42\approx0.09524 である。3は 0.3×(−0.4)=−0.120.3\times(-0.4)=-0.12 となる。4は言えない。lassoの0はMAPの位置であり、連続な事後分布における点の確率とは異なる。