第四章 多次元確率変数の分布

この章で目指すこと

これまでの章では、主に1つの確率変数 $X$ の分布を見てきました。 しかし、実際の薬学・生命科学データでは、複数の量を同時に観測します。

• 血中濃度 $X$ と薬効指標 $Y$
• 遺伝子発現量 $X_1,\ldots,X_p$
• 細胞の表現型カテゴリ別の個数 $N_1,\ldots,N_k$
• 施設、患者、測定時点という階層をもつ反復データ
• 複数の潜在集団が混ざったバイオマーカー分布

多次元確率分布を学ぶと、「それぞれの変数がどう分布するか」に加えて、次を考えられるようになります。

1. 2つ以上の変数がどのように一緒に変動するか
2. ある変数の値が分かったとき、別の変数の分布がどう変わるか
3. 複数の変数を足す、割る、線形結合することで分布がどう変わるか
4. 観測されていない群や個体差を含むモデルをどう組み立てるか

この章では、初歩的な確率表から始め、統計検定1級で頻出する導出と、応用統計の医薬生物分野で重要なモデルまでつなげます。

1. 多次元確率変数

同じ標本空間 $\Omega$ 上で定義された確率変数

$$X_1,\ldots,X_p$$

をまとめて、

$$\mathbf X= \begin{pmatrix} X_1\\ \vdots\\ X_p \end{pmatrix}$$

と書き、$p$ 次元確率変数、または確率ベクトルと呼びます。

例えば、1人の患者から、

$$\mathbf X= \begin{pmatrix} \mathrm{AUC}\\ C_{\max}\\ \text{薬効スコア} \end{pmatrix}$$

を観測するなら、3次元確率変数です。 重要なのは、3つの1変量分布を別々に考えるだけでは、変数間の関係を表せないことです。

2. 同時確率分布

離散型の同時確率関数

離散型確率変数 $X,Y$ に対して、

$$p_{X,Y}(x,y)=P(X=x,Y=y)$$

を同時確率関数といいます。 次の2条件を満たします。

$$p_{X,Y}(x,y)\geq0$$ $$\sum_x\sum_y p_{X,Y}(x,y)=1$$

例えば、バイオマーカー陽性を $X=1$、陰性を $X=0$、治療反応ありを $Y=1$、なしを $Y=0$ とします。 同時確率が次の表で与えられたとします。

	$Y=0$ 反応なし	$Y=1$ 反応あり	行和
$X=0$ 陰性	0.42	0.08	0.50
$X=1$ 陽性	0.18	0.32	0.50
列和	0.60	0.40	1.00

表の各セルが同時確率です。 例えば、

$$P(X=1,Y=1)=0.32$$

は「バイオマーカー陽性かつ治療反応あり」の割合です。

連続型の同時確率密度関数

連続型確率変数 $X,Y$ に対して、関数 $f_{X,Y}(x,y)$ が、

$$f_{X,Y}(x,y)\geq0$$ $$\int_{-\infty}^{\infty} \int_{-\infty}^{\infty} f_{X,Y}(x,y)\,dx\,dy=1$$

を満たし、領域 $A$ に入る確率が、

$$P\{(X,Y)\in A\} = \iint_A f_{X,Y}(x,y)\,dx\,dy$$

で与えられるとき、$f_{X,Y}$ を同時確率密度関数といいます。

1変量では曲線の下の面積が確率でした。 2変量では、密度曲面の下で、平面上の領域 $A$ の上にある体積が確率になります。

台を先に確認する

多次元分布では、式だけでなく、どの $(x,y)$ が取りうるかという台が特に重要です。 例えば、

$$f_{X,Y}(x,y)=c \qquad(0<x<y<1)$$

とします。台は単位正方形全体ではなく、直線 $y=x$ より上の三角形です。 三角形の面積は $1/2$ なので、

$$1=\int_0^1\int_0^y c\,dx\,dy =c\int_0^1y\,dy =\frac{c}{2}$$

より、

$$c=2$$

です。

同時分布関数

離散型・連続型をまとめて、

$$F_{X,Y}(x,y)=P(X\leq x,Y\leq y)$$

を同時分布関数といいます。 連続型では、

$$F_{X,Y}(x,y) =\int_{-\infty}^x\int_{-\infty}^y f_{X,Y}(u,v)\,dv\,du$$

です。十分滑らかなら、

$$f_{X,Y}(x,y) =\frac{\partial^2}{\partial x\,\partial y} F_{X,Y}(x,y)$$

として密度を復元できます。

3. 周辺分布

同時分布から一部の変数だけを見る操作を周辺化といいます。 離散型では、不要な変数について足し合わせます。

$$p_X(x)=\sum_y p_{X,Y}(x,y)$$ $$p_Y(y)=\sum_x p_{X,Y}(x,y)$$

先ほどの表では、

$$P(X=1)=0.18+0.32=0.50$$ $$P(Y=1)=0.08+0.32=0.40$$

です。

連続型では、不要な変数について積分します。

$$f_X(x)=\int_{-\infty}^{\infty}f_{X,Y}(x,y)\,dy$$ $$f_Y(y)=\int_{-\infty}^{\infty}f_{X,Y}(x,y)\,dx$$

三角形の台で $f_{X,Y}(x,y)=2$ なら、固定した $x$ に対して $y$ は $x<y<1$ を動くので、

$$f_X(x)=\int_x^1 2\,dy=2(1-x) \qquad(0<x<1)$$

です。一方、固定した $y$ に対して $x$ は $0<x<y$ を動くので、

$$f_Y(y)=\int_0^y2\,dx=2y \qquad(0<y<1)$$

です。 積分する変数だけでなく、台から積分範囲を決めることが得点の分かれ目になります。

4. 独立性

$X,Y$ が独立であるとは、すべての適切な $x,y$ について、同時分布が周辺分布の積に分解できることです。

離散型では、

$$p_{X,Y}(x,y)=p_X(x)p_Y(y)$$

連続型では、

$$f_{X,Y}(x,y)=f_X(x)f_Y(y)$$

です。 同時分布関数を使えば、

$$F_{X,Y}(x,y)=F_X(x)F_Y(y)$$

とも表せます。

先ほどのバイオマーカー表では、独立なら、

$$P(X=1,Y=1) =P(X=1)P(Y=1) =0.50\times0.40 =0.20$$

のはずです。しかし実際は0.32なので、独立ではありません。

5. 条件付き確率分布

離散型

$p_X(x)>0$ のとき、

$$p_{Y\mid X}(y\mid x) =P(Y=y\mid X=x) =\frac{p_{X,Y}(x,y)}{p_X(x)}$$

です。 バイオマーカー陽性者に限った治療反応率は、

$$P(Y=1\mid X=1) =\frac{0.32}{0.50} =0.64$$

です。全体の反応率0.40より高く、$X$ の情報を得ることで $Y$ の分布が変わっています。

連続型

$f_X(x)>0$ のとき、

$$f_{Y\mid X}(y\mid x) =\frac{f_{X,Y}(x,y)}{f_X(x)}$$

です。 三角形の例で $Y=y$ を固定すると、

$$f_{X\mid Y}(x\mid y) =\frac{2}{2y} =\frac1y \qquad(0<x<y)$$

となります。 つまり $Y=y$ が分かった後では、$X$ は区間 $(0,y)$ 上の一様分布です。

連鎖律

条件付き分布の定義を変形すると、

$$p_{X,Y}(x,y) =p_X(x)p_{Y\mid X}(y\mid x)$$

です。3変数なら、

$$p(x,y,z) =p(x)p(y\mid x)p(z\mid x,y)$$

と分解できます。 一般に、

$$p(x_1,\ldots,x_p) =p(x_1)\prod_{j=2}^p p(x_j\mid x_1,\ldots,x_{j-1})$$

です。 階層モデルやベイズモデルは、この条件付き分布の積としてモデルを組み立てます。

6. 条件付き期待値

離散型では、

$$E[Y\mid X=x] =\sum_y y\,p_{Y\mid X}(y\mid x)$$

連続型では、

$$E[Y\mid X=x] =\int_{-\infty}^{\infty} y f_{Y\mid X}(y\mid x)\,dy$$

です。

ここで大切なのは、$E[Y\mid X=x]$ は固定した $x$ に対する数ですが、

$$E[Y\mid X]$$

は $X$ の値によって変わる確率変数だという点です。

先ほどの二値データでは、

$$E[Y\mid X=0]=P(Y=1\mid X=0)=\frac{0.08}{0.50}=0.16$$ $$E[Y\mid X=1]=P(Y=1\mid X=1)=0.64$$

です。したがって、

$$E[Y\mid X] = \begin{cases} 0.16 & (X=0)\\ 0.64 & (X=1) \end{cases}$$

という確率変数になります。

反復期待値の法則

条件付き期待値をさらに平均すると、もとの期待値に戻ります。

$$\boxed{E\{E[Y\mid X]\}=E[Y]}$$

離散型で導出すると、

$$\begin{aligned} E\{E[Y\mid X]\} &=\sum_x E[Y\mid X=x]p_X(x)\\ &=\sum_x\sum_y y\,p_{Y\mid X}(y\mid x)p_X(x)\\ &=\sum_x\sum_y y\,p_{X,Y}(x,y)\\ &=\sum_y y\,p_Y(y)\\ &=E[Y] \end{aligned}$$

です。 バイオマーカー例では、

$$0.50\times0.16+0.50\times0.64=0.40$$

となり、全体の反応率と一致します。

全分散の公式

全体のばらつきは、各層の内部のばらつきと、層ごとの平均の違いに分けられます。

$$\boxed{ \mathrm{Var}(Y) =E\{\mathrm{Var}(Y\mid X)\} +\mathrm{Var}\{E[Y\mid X]\} }$$

導出では、

$$Y-E[Y] =\{Y-E[Y\mid X]\} +\{E[Y\mid X]-E[Y]\}$$

と分解して二乗します。 交差項の条件付き期待値は、

$$E\left[ \{Y-E[Y\mid X]\} \{E[Y\mid X]-E[Y]\} \mid X \right]=0$$

なので消えます。

医薬生物データでは、全体のばらつきを次のように分解できます。

全体のばらつき	条件付き分散	条件付き平均の分散
患者のAUCのばらつき	同じ遺伝子型内の個体差	遺伝子型間の平均差
ウェルの発現量のばらつき	同じプレート内の測定差	プレート間差
細胞発現量のばらつき	同じ細胞型内の差	細胞型間の平均差

この分解が、階層モデルや分散分析の基本的な考え方になります。

7. 共分散と相関係数

共分散

$X,Y$ の共分散を、

$$\mathrm{Cov}(X,Y) =E[(X-E[X])(Y-E[Y])]$$

と定義します。 展開すると、

$$\begin{aligned} \mathrm{Cov}(X,Y) &=E[XY-XE[Y]-E[X]Y+E[X]E[Y]]\\ &=E[XY]-E[X]E[Y] \end{aligned}$$

なので、

$$\boxed{\mathrm{Cov}(X,Y)=E[XY]-E[X]E[Y]}$$

です。

• 正：$X$ が大きいとき $Y$ も大きい傾向
• 負：$X$ が大きいとき $Y$ は小さい傾向
• 0：線形な連動がない

独立なら、

$$E[XY]=E[X]E[Y]$$

なので共分散は0です。 逆は一般には成り立ちません。 例えば $X$ が原点対称な分布に従い、$Y=X^2$ とすれば、強い依存関係があっても $\mathrm{Cov}(X,Y)=E[X^3]=0$ となることがあります。

相関係数

単位に依存しないよう共分散を標準化したものが相関係数です。

$$\rho_{X,Y} =\mathrm{Corr}(X,Y) =\frac{\mathrm{Cov}(X,Y)} {\sqrt{\mathrm{Var}(X)\mathrm{Var}(Y)}}$$

コーシー・シュワルツの不等式から、

$$-1\leq\rho_{X,Y}\leq1$$

です。 $|\rho|=1$ なら、確率1で $Y=aX+b$ という完全な線形関係があります。

共分散行列

$p$ 次元確率ベクトル $\mathbf X$ の平均ベクトルと共分散行列を、

$$\boldsymbol\mu=E[\mathbf X]$$ $$\boldsymbol\Sigma =E[(\mathbf X-\boldsymbol\mu) (\mathbf X-\boldsymbol\mu)^\mathsf T]$$

と定義します。 第 $(i,j)$ 成分は、

$$\Sigma_{ij}=\mathrm{Cov}(X_i,X_j)$$

です。対角成分は各変数の分散です。

任意のベクトル $\mathbf a$ に対して、

$$\mathbf a^\mathsf T\boldsymbol\Sigma\mathbf a =\mathrm{Var}(\mathbf a^\mathsf T\mathbf X) \geq0$$

なので、共分散行列は半正定値です。 これは共分散行列として許される数値の組み合わせに制約があることを意味します。

INTERACTIVE

多次元分布を動かして理解する

相関、和、潜在集団、乱数変換を切り替え、式が表す形を確認します。

同時・条件付き畳み込み混合分布Box–Muller

相関係数 ρ

0.60

条件 X=x

1.00

条件付き平均

条件付き分散

独立性

相関係数 $\rho$ を0に近づけると、二変量正規分布の等高線は円に近づきます。 $|\rho|$ を大きくすると楕円が細くなり、$X=x$ を固定した後の $Y$ の条件付き分散 $1-\rho^2$ は小さくなります。

8. 確率変数の和と畳み込み

離散型の畳み込み

独立な離散型確率変数 $X,Y$ の和を、

$$S=X+Y$$

とします。$S=s$ が起こる組み合わせをすべて足すと、

$$\begin{aligned} P(S=s) &=\sum_x P(X=x,Y=s-x)\\ &=\sum_x P(X=x)P(Y=s-x) \end{aligned}$$

です。したがって、

$$\boxed{ p_S(s)=\sum_x p_X(x)p_Y(s-x) }$$

となります。この演算を畳み込みといいます。

例えば、独立なベルヌーイ変数 $X,Y\sim\mathrm{Bernoulli}(p)$ の和は、

$$P(S=0)=(1-p)^2$$ $$P(S=1)=2p(1-p)$$ $$P(S=2)=p^2$$

なので、

$$S\sim\mathrm{Bin}(2,p)$$

です。

連続型の畳み込み

連続型では、$S=X+Y$ の分布関数を、

$$\begin{aligned} F_S(s) &=P(X+Y\leq s)\\ &=\int_{-\infty}^{\infty} \int_{-\infty}^{s-x} f_{X,Y}(x,y)\,dy\,dx \end{aligned}$$

と書きます。 独立なら $f_{X,Y}(x,y)=f_X(x)f_Y(y)$ なので、$s$ で微分して、

$$\boxed{ f_S(s) =\int_{-\infty}^{\infty} f_X(x)f_Y(s-x)\,dx }$$

を得ます。

母関数で和を見る

独立なら積率母関数は、

$$\begin{aligned} M_{X+Y}(t) &=E[e^{t(X+Y)}]\\ &=E[e^{tX}e^{tY}]\\ &=M_X(t)M_Y(t) \end{aligned}$$

です。この積が同じ分布族の母関数になると、再生性が分かります。

$X,Y$ の分布	必要な条件	$X+Y$ の分布
ポアソン	独立	平均母数を足したポアソン
正規	独立でなくても同時正規なら可	平均を足し、共分散を含めて分散を計算した正規
ガンマ	独立かつ尺度母数が同じ	形状母数を足したガンマ
二項	独立かつ成功確率が同じ	試行回数を足した二項

薬物曝露を複数時点の寄与の和として近似する場合や、複数区間のイベント数を足す場合に、この考え方を使います。 ただし、同一患者内の反復測定は独立でないことが多く、分散には共分散項が必要です。

$$\mathrm{Var}(X+Y) =\mathrm{Var}(X)+\mathrm{Var}(Y) +2\mathrm{Cov}(X,Y)$$

9. 多次元の変数変換とヤコビアン

なぜ行列式が必要か

1変量の変数変換では、長さの伸縮を、

$$\left|\frac{dx}{dy}\right|$$

で補正しました。 2変量では、微小な長方形の面積が変換によってどれだけ伸縮するかを、ヤコビアンの行列式で補正します。

$$\begin{pmatrix} U\\V \end{pmatrix} = \begin{pmatrix} g_1(X,Y)\\g_2(X,Y) \end{pmatrix}$$

が1対1で逆変換

$$X=x(u,v),\qquad Y=y(u,v)$$

をもつとします。このとき、

$$f_{U,V}(u,v) =f_{X,Y}\{x(u,v),y(u,v)\} \left| \frac{\partial(x,y)}{\partial(u,v)} \right|$$

です。ただし、

$$\frac{\partial(x,y)}{\partial(u,v)} = \begin{vmatrix} \dfrac{\partial x}{\partial u} & \dfrac{\partial x}{\partial v}\\ \dfrac{\partial y}{\partial u} & \dfrac{\partial y}{\partial v} \end{vmatrix}$$

です。

和の分布を変数変換で導く

$$S=X+Y,\qquad T=X$$

とおきます。逆変換は、

$$X=T,\qquad Y=S-T$$

です。ヤコビアンは、

$$\left| \frac{\partial(x,y)}{\partial(s,t)} \right| = \left| \begin{matrix} 0&1\\ 1&-1 \end{matrix} \right| =1$$

なので、

$$f_{S,T}(s,t)=f_{X,Y}(t,s-t)$$

です。$T$ を積分して消せば、

$$f_S(s)=\int f_{X,Y}(t,s-t)\,dt$$

となり、独立なら畳み込み公式が得られます。

線形変換

$$\mathbf Y=\mathbf A\mathbf X+\mathbf b$$

なら、

$$E[\mathbf Y] =\mathbf A\boldsymbol\mu+\mathbf b$$ $$\mathrm{Cov}(\mathbf Y) =\mathbf A\boldsymbol\Sigma\mathbf A^\mathsf T$$

です。 この公式は、複数バイオマーカーの加重スコア、対比、主成分、線形予測量の平均と分散を計算する基本になります。

10. Box–Muller変換

Box–Muller変換は、独立な一様乱数から独立な標準正規乱数を作る方法です。

$$U_1,U_2\overset{\mathrm{iid}}{\sim}U(0,1)$$

に対して、

$$R=\sqrt{-2\log U_1}, \qquad \Theta=2\pi U_2$$

とおき、

$$Z_1=R\cos\Theta, \qquad Z_2=R\sin\Theta$$

と変換します。

導出

二変量標準正規分布の同時密度は、

$$f_{Z_1,Z_2}(z_1,z_2) =\frac{1}{2\pi} \exp\left\{-\frac{z_1^2+z_2^2}{2}\right\}$$

です。極座標、

$$z_1=r\cos\theta,\qquad z_2=r\sin\theta$$

へ変換すると、ヤコビアンの絶対値は $r$ なので、

$$f_{R,\Theta}(r,\theta) =\frac{1}{2\pi}re^{-r^2/2} \qquad(r>0,\ 0<\theta<2\pi)$$

です。これは、

$$f_R(r)=re^{-r^2/2}$$

と、

$$f_\Theta(\theta)=\frac{1}{2\pi}$$

の積に分かれるため、$R$ と $\Theta$ は独立です。

さらに、

$$P(R\leq r)=1-e^{-r^2/2}$$

なので、逆関数法から、

$$R=\sqrt{-2\log U_1}$$

を得ます。角度は $(0,2\pi)$ 上の一様分布なので、

$$\Theta=2\pi U_2$$

です。

Box–Muller変換は、モンテカルロ法、検定統計量のシミュレーション、薬物動態モデルの仮想患者生成などで、正規乱数を作る原理の1つです。 実務の乱数ライブラリでは別の高速アルゴリズムが使われることもありますが、変数変換とヤコビアンを理解する教材として非常に重要です。

11. 多項分布

二項分布から多項分布へ

1回の試行の結果が $k$ 個のカテゴリのいずれかに入り、カテゴリ $j$ の確率を $p_j$ とします。

$$p_j\geq0, \qquad \sum_{j=1}^k p_j=1$$

$n$ 回の独立な試行で、カテゴリ $j$ に入った回数を $N_j$ とすると、

$$N_1+\cdots+N_k=n$$

です。この個数ベクトルが、

$$(N_1,\ldots,N_k) \sim\mathrm{Multinomial}(n;p_1,\ldots,p_k)$$

に従うといいます。

確率関数は、

$$P(N_1=n_1,\ldots,N_k=n_k) = \frac{n!}{n_1!\cdots n_k!} \prod_{j=1}^k p_j^{n_j}$$

です。ただし、

$$n_j=0,1,\ldots,n, \qquad \sum_{j=1}^k n_j=n$$

です。

多項係数が現れる理由

特定の並び、例えば最初の $n_1$ 回がカテゴリ1、次の $n_2$ 回がカテゴリ2という1つの並びの確率は、

$$\prod_{j=1}^k p_j^{n_j}$$

です。 同じ個数 $(n_1,\ldots,n_k)$ を生む並び方は、

$$\frac{n!}{n_1!\cdots n_k!}$$

通りあるため、両者を掛けます。

多項定理

多項定理は、

$$(x_1+\cdots+x_k)^n = \sum_{\substack{n_1+\cdots+n_k=n\\n_j\geq0}} \frac{n!}{n_1!\cdots n_k!} \prod_{j=1}^k x_j^{n_j}$$

です。 $x_j=p_j$ とおけば、

$$(p_1+\cdots+p_k)^n=1$$

なので、多項分布の確率を全個数パターンについて足すと1になることが分かります。

平均・分散・共分散の導出

試行 $i$ がカテゴリ $j$ なら1、それ以外なら0となる指示変数を、

$$I_{ij} = \begin{cases} 1 & (\text{試行 }i\text{ がカテゴリ }j)\\ 0 & (\text{それ以外}) \end{cases}$$

とします。すると、

$$N_j=\sum_{i=1}^n I_{ij}$$

です。各 $I_{ij}$ はベルヌーイ分布なので、

$$E[N_j]=np_j$$ $$\mathrm{Var}(N_j)=np_j(1-p_j)$$

です。

$j\neq\ell$ について、同じ試行が2つのカテゴリに同時に入ることはないので、

$$I_{ij}I_{i\ell}=0$$

です。したがって、

$$\begin{aligned} \mathrm{Cov}(I_{ij},I_{i\ell}) &=E[I_{ij}I_{i\ell}] -E[I_{ij}]E[I_{i\ell}]\\ &=-p_jp_\ell \end{aligned}$$

となり、独立な試行間の共分散は0なので、

$$\boxed{ \mathrm{Cov}(N_j,N_\ell) =-np_jp_\ell \qquad(j\neq\ell) }$$

です。 1カテゴリの個数が増えれば、合計 $n$ が固定されているため、別カテゴリの個数は減ります。この制約が負の共分散を生みます。

周辺化・統合・条件付け

1カテゴリだけ見れば、

$$N_j\sim\mathrm{Bin}(n,p_j)$$

です。 複数カテゴリをまとめた個数も、確率を足した二項分布になります。 例えば、

$$N_A+N_B \sim\mathrm{Bin}(n,p_A+p_B)$$

です。

また、カテゴリ1と2の合計が $m$ だと分かったとき、

$$N_1\mid(N_1+N_2=m) \sim \mathrm{Bin}\left( m,\frac{p_1}{p_1+p_2} \right)$$

です。

医薬生物分野では、細胞を複数表現型に分類した個数、患者の有害事象グレード、遺伝子型の個数、シーケンスリードのカテゴリ別個数などに現れます。 ただし、細胞やリードに過分散・クラスタリングがある場合、単純な多項分布では分散を過小評価することがあります。

12. 多変量正規分布

$p$ 次元確率ベクトル $\mathbf X$ が平均ベクトル $\boldsymbol\mu$、正定値共分散行列 $\boldsymbol\Sigma$ をもつ多変量正規分布に従うとき、

$$\mathbf X\sim N_p(\boldsymbol\mu,\boldsymbol\Sigma)$$

と書きます。 密度は、

$$f(\mathbf x) = \frac{1} {(2\pi)^{p/2}|\boldsymbol\Sigma|^{1/2}} \exp\left[ -\frac12 (\mathbf x-\boldsymbol\mu)^\mathsf T \boldsymbol\Sigma^{-1} (\mathbf x-\boldsymbol\mu) \right]$$

です。

マハラノビス距離

指数部分の、

$$D^2 =(\mathbf x-\boldsymbol\mu)^\mathsf T \boldsymbol\Sigma^{-1} (\mathbf x-\boldsymbol\mu)$$

をマハラノビス距離の二乗といいます。 通常のユークリッド距離と違い、各変数の分散と変数間の相関を考慮します。

$$D^2=c$$

を満たす点は、2次元では楕円、3次元では楕円体を作ります。 共分散行列の固有ベクトルが楕円の向き、固有値の平方根が各軸方向の広がりを決めます。

多変量正規分布なら、

$$D^2\sim\chi^2_p$$

なので、確率 $\gamma$ を含む楕円領域は、

$$D^2\leq\chi^2_{p,\gamma}$$

で作れます。 複数バイオマーカーを同時に見た外れ値検出の基礎になります。

線形結合は正規分布

任意の定数ベクトル $\mathbf a$ に対して、

$$\mathbf a^\mathsf T\mathbf X \sim N\left( \mathbf a^\mathsf T\boldsymbol\mu, \mathbf a^\mathsf T\boldsymbol\Sigma\mathbf a \right)$$

です。 さらに行列 $\mathbf A$ とベクトル $\mathbf b$ に対して、

$$\mathbf A\mathbf X+\mathbf b \sim N_q\left( \mathbf A\boldsymbol\mu+\mathbf b, \mathbf A\boldsymbol\Sigma\mathbf A^\mathsf T \right)$$

です。

周辺分布

多変量正規分布の一部を取り出した周辺分布も正規分布です。 平均ベクトルと共分散行列を、

$$\boldsymbol\mu= \begin{pmatrix} \boldsymbol\mu_1\\ \boldsymbol\mu_2 \end{pmatrix}, \qquad \boldsymbol\Sigma= \begin{pmatrix} \boldsymbol\Sigma_{11}&\boldsymbol\Sigma_{12}\\ \boldsymbol\Sigma_{21}&\boldsymbol\Sigma_{22} \end{pmatrix}$$

と分割すれば、

$$\mathbf X_1\sim N(\boldsymbol\mu_1,\boldsymbol\Sigma_{11})$$

です。

条件付き分布

多変量正規分布では条件付き分布も正規分布です。

$$\mathbf X_1\mid\mathbf X_2=\mathbf x_2 \sim N(\boldsymbol\mu_{1\mid2},\boldsymbol\Sigma_{1\mid2})$$

ただし、

$$\boldsymbol\mu_{1\mid2} = \boldsymbol\mu_1 +\boldsymbol\Sigma_{12} \boldsymbol\Sigma_{22}^{-1} (\mathbf x_2-\boldsymbol\mu_2)$$ $$\boldsymbol\Sigma_{1\mid2} = \boldsymbol\Sigma_{11} -\boldsymbol\Sigma_{12} \boldsymbol\Sigma_{22}^{-1} \boldsymbol\Sigma_{21}$$

です。

標準化された2変量正規分布、

$$\begin{pmatrix}X\\Y\end{pmatrix} \sim N_2\left[ \begin{pmatrix}0\\0\end{pmatrix}, \begin{pmatrix}1&\rho\\\rho&1\end{pmatrix} \right]$$

なら、

$$Y\mid X=x \sim N(\rho x,1-\rho^2)$$

です。 相関が強いほど $X$ の情報から $Y$ を狭い範囲に予測できます。

医薬生物分野での使い方

• AUC、$C_{\max}$、クリアランスの対数値を同時にモデル化する
• 複数バイオマーカーの同時分布と予測区間を作る
• 線形混合モデルのランダム効果に多変量正規分布を置く
• 遺伝子発現の低次元表現や判別分析の基礎分布として使う

現実のオミクスデータは歪み、外れ値、群の混在を含むため、多変量正規性を仮定する前に散布図、変換、ロバスト性を確認します。

13. 混合分布

観測値が複数の潜在集団のどれかから生じると考えます。 潜在クラスを $Z\in\{1,\ldots,K\}$ とし、

$$P(Z=k)=\pi_k, \qquad \sum_{k=1}^K\pi_k=1$$

とします。$Z=k$ のときの条件付き密度を $f_k(x)$ とすれば、全確率の公式から、

$$f_X(x)=\sum_{k=1}^K\pi_k f_k(x)$$

です。これを有限混合分布といいます。

混合分布の平均と分散

反復期待値の法則から、

$$E[X] =\sum_{k=1}^K\pi_k\mu_k$$

ただし $\mu_k=E[X\mid Z=k]$ です。

全分散の公式から、

$$\mathrm{Var}(X) =\sum_{k=1}^K\pi_k\sigma_k^2 +\sum_{k=1}^K\pi_k(\mu_k-\mu)^2$$

です。 第1項は群内分散、第2項は群間平均の違いによる分散です。 全体分布の分散が大きくても、各群の内部が大きくばらついているとは限りません。

薬剤感受性細胞と耐性細胞が混在する場合、レスポンダーとノンレスポンダーが混在する場合、複数細胞型の発現量をまとめて見る場合に、混合分布が候補になります。

14. 階層モデル

階層モデルは、条件付き分布を積み重ねてデータ生成過程を表します。 例えば患者 $i$ の測定値 $Y_i$ について、

$$Y_i\mid\theta_i\sim p(y_i\mid\theta_i)$$ $$\theta_i\sim p(\theta_i\mid\eta)$$

とします。 $\theta_i$ は患者ごとの潜在パラメータ、$\eta$ は集団レベルのパラメータです。

混合分布との関係

潜在変数を積分して消すと、

$$p(y_i\mid\eta) =\int p(y_i\mid\theta_i) p(\theta_i\mid\eta)\,d\theta_i$$

となり、周辺分布は混合分布です。 したがって両者は数学的に密接ですが、視点が異なります。

視点	階層モデル	混合分布
主な目的	個体・施設・バッチなどの多段階構造を表す	潜在集団の混在を表す
潜在変数	連続ランダム効果も多い	離散クラスが典型
重視する量	群内・群間変動、部分プーリング	成分比、成分ごとの分布
医薬例	患者別PK、施設別反応率、プレート差	応答群と非応答群、細胞型混在

ベータ二項モデル

患者群・施設・ウェルごとに成功確率が異なる状況を考えます。

$$P\sim\mathrm{Beta}(\alpha,\beta)$$ $$Y\mid P=p\sim\mathrm{Bin}(n,p)$$

とします。$P$ を積分して消すと、$Y$ はベータ二項分布に従います。

$$P(Y=y) = \binom ny \frac{B(\alpha+y,\beta+n-y)} {B(\alpha,\beta)}$$

平均を $\mu=\alpha/(\alpha+\beta)$、集中度を $\kappa=\alpha+\beta$ とすると、

$$E[Y]=n\mu$$ $$\mathrm{Var}(Y) =n\mu(1-\mu) \times\frac{\kappa+n}{\kappa+1}$$

です。 通常の二項分布の分散 $n\mu(1-\mu)$ より大きくなり、群ごとの成功確率の違いによる過分散を表せます。

同じ群に属する2つのベルヌーイ結果の相関は、

$$\rho=\frac{1}{\kappa+1}$$

です。$\kappa$ が小さいほど群間の不均一性が大きく、同じ群内の観測が似やすくなります。

ポアソン・ガンマ混合

$$Y\mid\Lambda=\lambda\sim\mathrm{Poisson}(\lambda)$$ $$\Lambda\sim\mathrm{Gamma}(\alpha,\text{rate } \beta)$$

とします。$\Lambda$ を積分すると、

$$P(Y=y) = \frac{\Gamma(\alpha+y)} {\Gamma(\alpha)y!} \left(\frac{\beta}{\beta+1}\right)^\alpha \left(\frac{1}{\beta+1}\right)^y$$

となり、負の二項分布です。

$$E[Y]=\frac{\alpha}{\beta}$$ $$\mathrm{Var}(Y) =\frac{\alpha}{\beta} +\frac{\alpha}{\beta^2}$$

なので、分散が平均を上回ります。 細胞ごとの発現カウントやコロニー数に個体差がある場合、単純ポアソンより柔軟です。

部分プーリング

階層モデルでは、各群の推定値を完全に別々に推定するのでも、全群を同じとみなすのでもなく、集団平均へ適度に縮小します。 標本数の少ない施設やバッチほど集団情報を強く借り、標本数の多い群は自身のデータを強く反映します。 この部分プーリングは、小標本群の極端な推定を抑える利点があります。

15. 医薬生物分野で何を学べるか

観測する情報	モデル化する分布	学べること	主な注意点
バイオマーカーと薬効	同時・条件付き分布	マーカー値を知った後の反応分布	交絡、選択バイアス
AUCと$C_{\max}$	多変量正規・対数変換	曝露指標の共変動、同時予測	外れ値、非線形性
表現型別細胞数	多項分布	各表現型割合とカテゴリ間共分散	過分散、細胞の独立性
患者別反復測定	階層モデル	個体内変動と個体間変動	欠測、時間相関
レスポンダー混在	混合分布	潜在群の割合と群別分布	成分数、検証可能性
コロニー・発現カウント	ポアソン・ガンマ階層	平均発生率と不均一性	ゼロ過剰、ライブラリサイズ
シミュレーション	Box–Muller・多変量正規	仮想データ、検定力、予測分布	乱数種、モデル仮定

scRNA-seqでの注意

細胞を独立な標本として扱うと、同一個体由来細胞の相関を無視します。 個体が実験単位なら、個体内に細胞が入れ子になった階層を意識する必要があります。 細胞型割合は合計1の組成データなので、カテゴリ間に機械的な負の依存が生じます。 多項分布・ディリクレ多項分布・ロジスティック正規分布などが候補になります。

薬物動態での注意

同一患者の濃度時系列は、同じクリアランスや分布容積を共有するため相関します。 母集団薬物動態では、個体パラメータを集団分布から生じるランダム効果として扱い、測定誤差と個体間変動を分けます。 単純な相関係数だけでなく、時間、用量、共変量、個体階層を含むモデルが必要です。

16. 統計検定1級で優先する論点

1. 同時分布の台を図示し、正規化する
2. 周辺分布は不要な変数について和・積分を取る
3. 条件付き分布は同時分布を周辺分布で割る
4. 反復期待値と全分散の公式を使えるようにする
5. 共分散を $E[XY]-E[X]E[Y]$ で計算する
6. 独立と無相関を区別する
7. 和の分布を畳み込みまたは母関数で求める
8. 多次元変換では台、逆変換、ヤコビアンをセットで書く
9. 多項分布の負の共分散を指示変数から導く
10. 多変量正規分布の線形結合と条件付き分布を使う
11. 混合分布の分散を群内と群間に分解する
12. 階層を無視した疑似反復を見抜く

17. 数理統計問題

問題1：同時確率表

同時確率が次で与えられます。

	$Y=0$	$Y=1$
$X=0$	0.42	0.08
$X=1$	0.18	0.32

次を求めてください。

1. $P(X=1)$ と $P(Y=1)$
2. $P(Y=1\mid X=1)$
3. $X,Y$ は独立か
4. $\mathrm{Cov}(X,Y)$ と相関係数

解答1

周辺確率は行・列を足して、

$$P(X=1)=0.18+0.32=0.50$$ $$P(Y=1)=0.08+0.32=0.40$$

です。条件付き確率は、

$$P(Y=1\mid X=1) =\frac{0.32}{0.50} =0.64$$

です。独立なら $P(X=1,Y=1)=0.50\times0.40=0.20$ ですが、実際は0.32なので独立ではありません。

二値変数なので、

$$E[XY]=P(X=1,Y=1)=0.32$$

です。したがって、

$$\mathrm{Cov}(X,Y) =0.32-0.50\times0.40 =0.12$$

です。また、

$$\mathrm{Var}(X)=0.5(1-0.5)=0.25$$ $$\mathrm{Var}(Y)=0.4(1-0.4)=0.24$$

なので、

$$\mathrm{Corr}(X,Y) =\frac{0.12}{\sqrt{0.25\times0.24}} \approx0.490$$

です。

問題2：三角形の台

$$f_{X,Y}(x,y)=c \qquad(0<x<y<1)$$

が同時密度となるように $c$ を定め、周辺密度 $f_X(x),f_Y(y)$ と条件付き密度 $f_{X\mid Y}(x\mid y)$ を求めてください。

解答2

正規化より、

$$1=\int_0^1\int_0^y c\,dx\,dy =\frac c2$$

なので $c=2$ です。

$$f_X(x)=\int_x^1 2\,dy=2(1-x) \qquad(0<x<1)$$ $$f_Y(y)=\int_0^y2\,dx=2y \qquad(0<y<1)$$

です。したがって、

$$f_{X\mid Y}(x\mid y) =\frac{2}{2y} =\frac1y \qquad(0<x<y)$$

です。

問題3：条件付き期待値

問題1の表について、$E[Y\mid X]$ と $E\{E[Y\mid X]\}$ を求めてください。

解答3

$$E[Y\mid X=0] =P(Y=1\mid X=0) =\frac{0.08}{0.50} =0.16$$ $$E[Y\mid X=1]=0.64$$

です。したがって、

$$E\{E[Y\mid X]\} =0.50\times0.16+0.50\times0.64 =0.40$$

となり、$E[Y]=P(Y=1)=0.40$ と一致します。

問題4：全分散の公式

問題1の表について、全分散の公式を使って $\mathrm{Var}(Y)$ を求めてください。

解答4

条件付き分散は、

$$\mathrm{Var}(Y\mid X=0) =0.16(1-0.16) =0.1344$$ $$\mathrm{Var}(Y\mid X=1) =0.64(1-0.64) =0.2304$$

です。よって、

$$E\{\mathrm{Var}(Y\mid X)\} =0.5(0.1344)+0.5(0.2304) =0.1824$$

です。条件付き平均は0.16と0.64で、全体平均は0.40なので、

$$\mathrm{Var}\{E[Y\mid X]\} =0.5(0.16-0.40)^2 +0.5(0.64-0.40)^2 =0.0576$$

です。したがって、

$$\mathrm{Var}(Y)=0.1824+0.0576=0.24$$

となり、ベルヌーイ分散 $0.4(1-0.4)$ と一致します。

問題5：線形結合の平均と分散

$$E[X]=2,\quad E[Y]=3,$$ $$\mathrm{Var}(X)=4,\quad \mathrm{Var}(Y)=9,\quad \mathrm{Cov}(X,Y)=3$$

とします。$S=2X-Y$ の平均と分散を求めてください。

解答5

$$E[S]=2E[X]-E[Y]=4-3=1$$

です。分散は、

$$\begin{aligned} \mathrm{Var}(2X-Y) &=4\mathrm{Var}(X) +\mathrm{Var}(Y) -4\mathrm{Cov}(X,Y)\\ &=4\times4+9-4\times3\\ &=13 \end{aligned}$$

です。係数の積 $2\times(-1)$ を2倍して、共分散項が $-4\mathrm{Cov}(X,Y)$ となる点に注意します。

問題6：離散畳み込み

独立な確率変数 $X,Y$ が、

$$P(X=0)=P(Y=0)=\frac12, \qquad P(X=1)=P(Y=1)=\frac12$$

を満たします。$S=X+Y$ の分布を求めてください。

解答6

$$P(S=0)=P(X=0,Y=0)=\frac14$$ $$P(S=1) =P(0,1)+P(1,0) =\frac14+\frac14 =\frac12$$ $$P(S=2)=P(1,1)=\frac14$$

です。したがって $S\sim\mathrm{Bin}(2,1/2)$ です。

問題7：一様分布の和

$X,Y$ は独立に $U(0,1)$ に従います。$S=X+Y$ の密度を求めてください。

解答7

畳み込みより、

$$f_S(s)=\int f_X(x)f_Y(s-x)\,dx$$

です。積分される値が1になるには、

$$0<x<1, \qquad 0<s-x<1$$

が必要です。

$0<s<1$ では $0<x<s$ なので、

$$f_S(s)=\int_0^s1\,dx=s$$

です。$1\leq s<2$ では $s-1<x<1$ なので、

$$f_S(s)=\int_{s-1}^1 1\,dx=2-s$$

です。したがって、

$$f_S(s) = \begin{cases} s & (0<s<1)\\ 2-s & (1\leq s<2)\\ 0 & (\text{otherwise}) \end{cases}$$

です。

問題8：指数分布の和

$X,Y$ は独立に率 $\lambda$ の指数分布に従います。$S=X+Y$ の密度を畳み込みで求めてください。

解答8

$s>0$ で、

$$\begin{aligned} f_S(s) &=\int_0^s \lambda e^{-\lambda x} \lambda e^{-\lambda(s-x)}\,dx\\ &=\lambda^2e^{-\lambda s} \int_0^s1\,dx\\ &=\lambda^2s e^{-\lambda s} \end{aligned}$$

です。これは形状2、率 $\lambda$ のガンマ分布です。

問題9：和と比への変換

$X,Y$ は独立に率1の指数分布に従います。

$$S=X+Y,\qquad U=\frac{X}{X+Y}$$

とします。$(S,U)$ の同時密度を求め、$S,U$ が独立であることを示してください。

解答9

逆変換は、

$$X=SU,\qquad Y=S(1-U)$$

です。台は、

$$s>0,\qquad0<u<1$$

です。ヤコビアンは、

$$\left| \frac{\partial(x,y)}{\partial(s,u)} \right| = \left| \begin{matrix} u&s\\ 1-u&-s \end{matrix} \right| =s$$

です。したがって、

$$\begin{aligned} f_{S,U}(s,u) &=e^{-su}e^{-s(1-u)}s\\ &=se^{-s} \end{aligned}$$

です。これは、

$$\{se^{-s}\}\times1$$

と分解できるので、

$$S\sim\mathrm{Gamma}(2,\text{rate }1), \qquad U\sim U(0,1)$$

であり、$S,U$ は独立です。

問題10：Box–Muller変換

$$U_1=e^{-1}, \qquad U_2=\frac18$$

をBox–Muller変換した $Z_1,Z_2$ を求めてください。

解答10

$$R=\sqrt{-2\log(e^{-1})}=\sqrt2$$ $$\Theta=2\pi\times\frac18=\frac{\pi}{4}$$

なので、

$$Z_1=\sqrt2\cos\frac{\pi}{4}=1$$ $$Z_2=\sqrt2\sin\frac{\pi}{4}=1$$

です。

問題11：多項分布の確率

細胞の表現型がA、B、Cに分類される確率を、

$$(p_A,p_B,p_C)=(0.5,0.3,0.2)$$

とします。独立に10細胞を観察したとき、個数が $(5,3,2)$ となる確率を求めてください。

解答11

$$P(N_A=5,N_B=3,N_C=2) = \frac{10!}{5!3!2!} (0.5)^5(0.3)^3(0.2)^2$$

です。多項係数は、

$$\frac{10!}{5!3!2!}=2520$$

なので、

$$2520(0.5)^5(0.3)^3(0.2)^2 \approx0.0851$$

です。

問題12：多項分布の共分散

問題11で、$E[N_A]$、$\mathrm{Var}(N_A)$、$\mathrm{Cov}(N_A,N_B)$ を求めてください。

解答12

$$E[N_A]=np_A=10\times0.5=5$$ $$\mathrm{Var}(N_A) =np_A(1-p_A) =10\times0.5\times0.5 =2.5$$ $$\mathrm{Cov}(N_A,N_B) =-np_Ap_B =-10\times0.5\times0.3 =-1.5$$

です。合計細胞数が固定されているため、カテゴリ間の共分散は負です。

問題13：多変量正規分布の線形結合

$$\begin{pmatrix}X\\Y\end{pmatrix} \sim N_2\left[ \begin{pmatrix}10\\20\end{pmatrix}, \begin{pmatrix}4&3\\3&9\end{pmatrix} \right]$$

とします。$S=X+2Y$ の分布を求めてください。

解答13

平均は、

$$E[S]=10+2\times20=50$$

です。$\mathbf a=(1,2)^\mathsf T$ とすると、

$$\begin{aligned} \mathrm{Var}(S) &=\mathbf a^\mathsf T \boldsymbol\Sigma\mathbf a\\ &=1^2\times4 +2^2\times9 +2\times1\times2\times3\\ &=52 \end{aligned}$$

です。したがって、

$$S\sim N(50,52)$$

です。

問題14：二変量正規の条件付き分布

$X,Y$ は平均0、分散1、相関係数 $\rho=0.8$ の二変量正規分布に従います。 $X=1.5$ のときの $Y$ の条件付き分布を求めてください。

解答14

$$E[Y\mid X=1.5] =\rho x =0.8\times1.5 =1.2$$ $$\mathrm{Var}(Y\mid X=1.5) =1-\rho^2 =1-0.64 =0.36$$

なので、

$$Y\mid X=1.5\sim N(1.2,0.36)$$

です。

問題15：2成分混合分布

確率0.7で $N(0,1)$、確率0.3で $N(4,1)$ から値を生成します。 混合分布の平均と分散を求めてください。

解答15

平均は、

$$\mu=0.7\times0+0.3\times4=1.2$$

です。群内分散の平均は、

$$0.7\times1+0.3\times1=1$$

です。群間平均による分散は、

$$0.7(0-1.2)^2+0.3(4-1.2)^2 =3.36$$

です。したがって、

$$\mathrm{Var}(X)=1+3.36=4.36$$

です。

18. 医薬・生物統計問題

問題16：バイオマーカー層別と全分散

患者の30%がバイオマーカー陽性です。 陽性群の薬効スコアの平均・分散はそれぞれ8、4、陰性群ではそれぞれ5、9とします。 全患者での平均と分散を求めてください。

解答16

陽性を $Z=1$ とすると、

$$E[Y] =0.3\times8+0.7\times5 =5.9$$

です。群内分散の平均は、

$$E\{\mathrm{Var}(Y\mid Z)\} =0.3\times4+0.7\times9 =7.5$$

です。群間平均の分散は、

$$\begin{aligned} \mathrm{Var}\{E[Y\mid Z]\} &=0.3(8-5.9)^2+0.7(5-5.9)^2\\ &=1.89 \end{aligned}$$

です。したがって、

$$\mathrm{Var}(Y)=7.5+1.89=9.39$$

です。

問題17：有害事象グレードの多項分布

100人の患者について、有害事象なし、軽度、中等度、重度の確率が、

$$(0.55,0.25,0.15,0.05)$$

とします。

1. 重度の人数 $N_4$ の平均と分散
2. 中等度以上の人数 $N_3+N_4$ の分布
3. 軽度と重度の人数の共分散

を求めてください。

解答17

重度の人数の周辺分布は、

$$N_4\sim\mathrm{Bin}(100,0.05)$$

なので、

$$E[N_4]=5, \qquad \mathrm{Var}(N_4)=100(0.05)(0.95)=4.75$$

です。

中等度以上の確率は、

$$0.15+0.05=0.20$$

なので、

$$N_3+N_4\sim\mathrm{Bin}(100,0.20)$$

です。軽度と重度の共分散は、

$$\mathrm{Cov}(N_2,N_4) =-100(0.25)(0.05) =-1.25$$

です。

問題18：階層構造と疑似反復

薬剤群3匹、対照群3匹のマウスから、それぞれ100細胞を測定しました。 600細胞を独立標本として2群比較する解析の問題点を説明し、適切な解析単位とモデル案を示してください。

解答18

同じマウス由来の100細胞は、遺伝背景、処置、組織環境、標本作製条件を共有するため独立ではありません。 600細胞を独立標本とみなすと、実際の独立単位より標本数を過大に数え、標準誤差を過小評価する疑似反復になります。

処置がマウスに割り付けられているなら、処置効果の独立な反復単位は基本的にマウスです。 解析案としては、

• マウスごとに細胞測定値を要約し、$n=3$ 対 $n=3$ として比較する
• 細胞をレベル1、マウスをレベル2とする混合効果モデルを用いる
• 細胞型やバッチがあるなら、研究目的とデザインに応じて追加階層を組み込む

ことが考えられます。 細胞数を増やすことは各マウス内の推定精度を高めますが、マウス数を増やすことと同じではありません。

問題19：ベータ二項分布の過分散

施設ごとの有害事象発現確率が、

$$P\sim\mathrm{Beta}(4,16)$$

に従い、各施設で $n=20$ 人を観察するとします。 施設ごとの発現人数 $Y$ の平均と分散を求め、成功確率を固定した二項分布と比較してください。

解答19

$$\mu=\frac{4}{4+16}=0.2, \qquad \kappa=20$$

です。平均は、

$$E[Y]=n\mu=20\times0.2=4$$

です。ベータ二項分布の分散は、

$$\begin{aligned} \mathrm{Var}(Y) &=n\mu(1-\mu) \times\frac{\kappa+n}{\kappa+1}\\ &=20(0.2)(0.8) \times\frac{20+20}{20+1}\\ &\approx6.095 \end{aligned}$$

です。一方、成功確率を0.2に固定した二項分布の分散は、

$$20(0.2)(0.8)=3.2$$

です。施設ごとの発現確率の違いにより、分散が約1.90倍になっています。

問題20：多変量バイオマーカーの条件付き予測

標準化した2つのバイオマーカー $X,Y$ が相関0.6の二変量正規分布に従うとします。

1. $X=2$ の患者における $Y$ の条件付き平均と分散
2. 条件付け前後で分散が何%減少するか

を求めてください。

解答20

$$Y\mid X=2 \sim N(0.6\times2,1-0.6^2) =N(1.2,0.64)$$

です。したがって条件付き平均は1.2、分散は0.64です。 条件付け前の分散は1なので、分散の減少率は、

$$\frac{1-0.64}{1}\times100=36\%$$

です。 これは相関があるとき、$X$ の情報が $Y$ の予測不確実性を減らすことを表します。 ただし、予測精度の評価には、正規性、線形性、外部検証、測定誤差も確認する必要があります。

まとめ

この章では、複数の確率変数を同時に扱うための考え方を整理しました。

• 同時分布は複数変数の組み合わせ全体を記述する
• 周辺分布は不要な変数を足す・積分することで得る
• 条件付き分布は、得られた情報によって分布を更新する
• 反復期待値と全分散の公式は、層別・階層構造の理解につながる
• 共分散と相関は線形な連動を要約するが、独立性や因果性とは異なる
• 独立な和の分布は畳み込みで求め、母関数の積でも理解できる
• 多次元変換では逆変換、台、ヤコビアンを必ず確認する
• 多項分布はカテゴリ別個数を扱い、合計制約からカテゴリ間に負の共分散が生じる
• 多変量正規分布は線形変換、周辺化、条件付けで閉じている
• 混合分布は潜在集団、階層モデルは個体・施設・バッチなどの構造を表す
• 医薬生物データでは、観測数と独立な実験単位を区別する

多次元分布の本質は、変数を増やすことではありません。 「何を同時に観測し、何を条件として固定し、どのばらつきを分離したいか」を数式で明確にすることです。