この章で目指すこと

母集団の分布そのものは、普通は見えません。手元にあるのは、そこから得た有限個の標本です。 そこで統計学では、標本から計算した量が、標本を取り直すたびにどのように変動するかを考えます。これが標本分布です。

「同じ実験を何度もやり直す」頭の中の実験

独立なマウス5匹の反応量から平均を計算したとします。 得られた平均が10だったとしても、別の5匹を選べば9.4や10.8になるかもしれません。 この標本抽出を何度も繰り返し、そのたびに得られる平均を並べた分布が、標本平均の標本分布です。

区別するもの中身
母集団分布個体レベルの値の分布すべての対象個体のAUC
1回の標本実際に集めた有限個の値今回測定した5匹のAUC
標本分布同じ方法で標本を取り直したときの統計量の分布5匹の平均AUCを繰り返し計算した分布

標本分布は「手元の5個の値を描いたヒストグラム」ではありません。 平均、分散、比率など、標本から計算した量そのものの不確実性を表します。

この章を学ぶと、次の「情報から何を学べるか」がつながります。

手元にある情報使う考え方学べること
標本平均と標本数標本平均の分布・中心極限定理母平均の推定精度、信頼区間、検定統計量
標本分散カイ二乗分布母分散の推定、測定精度の不確実性
小標本の平均と標本分散tt 分布母分散未知でも母平均を推測する方法
2群の標本分散FF 分布分散比、モデル比較、分散分析の基礎
標本数を増やしたときの統計量収束・大数の法則・中心極限定理推定量が正しい値へ近づく条件と近似分布
比率、対数、比などの非線形な量連続写像定理・Slutsky・デルタ法変換後の標準誤差と近似信頼区間
最小値、中央値、最大値順序統計量・極値理論分位点、最悪値、ピーク値の確率評価
初めて読むときの順番

まず統計量と標本分布、標本平均、標本分散を読みます。次に正規母集団で厳密に成り立つカイ二乗・t・F分布へ進み、その後で大数の法則と中心極限定理を学びます。Slutsky、デルタ法、極値理論、Lindeberg条件は3周目でも構いません。

例えば、薬物動態試験の平均AUCを計算しただけでは、「別の被験者を集めたら平均がどれだけ動くか」は分かりません。 標本分布を使うと、観測された平均を母平均へ橋渡しできます。

有限標本平均・分散を統計量として計算
正規標本なら厳密に →
χ2\chi^2ttFF小標本でも使える標本分布
標本数を増やすと →
大数の法則・CLT一致性と正規近似
関数へ広げる →
Slutsky・デルタ法複雑な統計量の近似分布

1. 統計量と標本分布

1.1 母集団、無作為標本、実現値

母集団分布を FF とし、そこから独立に同じ分布で得られる確率変数を、

X1,X2,,XniidFX_1,X_2,\ldots,X_n\overset{\mathrm{iid}}{\sim}F

と書きます。iid は independent and identically distributed、すなわち独立同一分布の略です。

標本を得る前の XiX_i は確率変数です。一方、実際に観測された数値は、

x1,x2,,xnx_1,x_2,\ldots,x_n

と小文字で書きます。

独立同一分布は便利ですが、薬学・生命科学データでは自動的に成立しません。 同じマウスから得た500細胞、同じ患者の反復採血、同じプレート内のウェルは互いに依存しうるため、見かけの観測数をそのまま nn としてはいけません。

1.2 統計量とは

統計量は、未知母数を含まず、標本だけから計算できる関数です。

T=T(X1,,Xn)T=T(X_1,\ldots,X_n)

代表例は、標本平均、標本分散、標本比率です。

Xˉ=1ni=1nXi\bar X=\frac{1}{n}\sum_{i=1}^nX_i S2=1n1i=1n(XiXˉ)2S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2 p^=1ni=1nI(Xi=1)\hat p=\frac{1}{n}\sum_{i=1}^n I(X_i=1)

観測前には TT も確率変数なので、分布をもちます。この分布が標本分布です。

  • 推定量:観測前の確率変数としての Xˉ\bar X
  • 推定値:データから得た具体的な数値としての xˉ\bar x
  • 標本分布:標本を取り直したときの推定量の分布

ここを区別すると、「標本のヒストグラム」と「標本平均の標本分布」の混同を防げます。

1.3 標本平均の平均と分散

E[Xi]=μE[X_i]=\muVar(Xi)=σ2\operatorname{Var}(X_i)=\sigma^2 とします。期待値の線形性から、

E[Xˉ]=E[1ni=1nXi]=1ni=1nE[Xi]=1nnμ=μ\begin{aligned} E[\bar X] &=E\left[\frac{1}{n}\sum_{i=1}^nX_i\right]\\ &=\frac{1}{n}\sum_{i=1}^nE[X_i]\\ &=\frac{1}{n}\cdot n\mu\\ &=\mu \end{aligned}

です。したがって Xˉ\bar Xμ\mu の不偏推定量です。

独立性を使うと、

Var(Xˉ)=Var(1ni=1nXi)=1n2Var(i=1nXi)=1n2i=1nVar(Xi)=nσ2n2=σ2n\begin{aligned} \operatorname{Var}(\bar X) &=\operatorname{Var}\left(\frac{1}{n}\sum_{i=1}^nX_i\right)\\ &=\frac{1}{n^2}\operatorname{Var}\left(\sum_{i=1}^nX_i\right)\\ &=\frac{1}{n^2}\sum_{i=1}^n\operatorname{Var}(X_i)\\ &=\frac{n\sigma^2}{n^2}\\ &=\frac{\sigma^2}{n} \end{aligned}

となります。標準偏差を取った、

SE(Xˉ)=σn\operatorname{SE}(\bar X)=\frac{\sigma}{\sqrt n}

が標本平均の標準誤差です。

標本数を4倍にしても標準誤差は 1/21/2 にしかなりません。標準誤差を 1/101/10 にするには、独立な標本数を100倍にする必要があります。

頻出ポイント

分散の計算で共分散項を消したのは独立性を仮定したからです。依存がある場合は、2i<jCov(Xi,Xj)2\sum_{i<j}\operatorname{Cov}(X_i,X_j) が残ります。

1.4 なぜ標本分散は n1n-1 で割るのか

まず恒等式、

i=1n(XiXˉ)2=i=1n(Xiμ)2n(Xˉμ)2\sum_{i=1}^n(X_i-\bar X)^2 = \sum_{i=1}^n(X_i-\mu)^2-n(\bar X-\mu)^2

を導きます。

XiXˉ=(Xiμ)(Xˉμ)X_i-\bar X=(X_i-\mu)-(\bar X-\mu) と置いて展開すると、

i=1n(XiXˉ)2=i=1n{(Xiμ)(Xˉμ)}2=i=1n(Xiμ)22(Xˉμ)i=1n(Xiμ)+n(Xˉμ)2.\begin{aligned} \sum_{i=1}^n(X_i-\bar X)^2 &=\sum_{i=1}^n\{(X_i-\mu)-(\bar X-\mu)\}^2\\ &=\sum_{i=1}^n(X_i-\mu)^2 -2(\bar X-\mu)\sum_{i=1}^n(X_i-\mu) +n(\bar X-\mu)^2. \end{aligned}

ここで、

i=1n(Xiμ)=n(Xˉμ)\sum_{i=1}^n(X_i-\mu)=n(\bar X-\mu)

なので、中央の項と最後の項をまとめると上の恒等式になります。両辺の期待値を取れば、

E[i=1n(XiXˉ)2]=nσ2nVar(Xˉ)=nσ2nσ2n=(n1)σ2.\begin{aligned} E\left[\sum_{i=1}^n(X_i-\bar X)^2\right] &=n\sigma^2-n\operatorname{Var}(\bar X)\\ &=n\sigma^2-n\frac{\sigma^2}{n}\\ &=(n-1)\sigma^2. \end{aligned}

よって、

E[S2]=E[1n1i=1n(XiXˉ)2]=σ2E[S^2] =E\left[\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2\right] =\sigma^2

です。平均を標本から推定したため、偏差 XiXˉX_i-\bar X には、

i=1n(XiXˉ)=0\sum_{i=1}^n(X_i-\bar X)=0

という1本の制約が入ります。自由に動ける偏差が n1n-1 個になることが、自由度 n1n-1 の直感です。

1.5 薬学での読み方

ある条件で独立な6匹のマウスから得た反応量の平均が10、標本標準偏差が2なら、平均の推定標準誤差は、

SE^(Xˉ)=260.816\widehat{\operatorname{SE}}(\bar X)=\frac{2}{\sqrt6}\approx0.816

です。一方、各マウスから100細胞を測って600点に増えても、処置を独立に受けた単位が6匹なら、処置効果の標本数を600とみなすのは擬似反復です。

2. 図を動かして全体像をつかむ

下の図では、同じテーマを5つの視点から確認できます。

  • 標本平均:歪んだ母集団でも、標本数とともに標準化平均が正規分布へ近づく
  • ttχ2\chi^2FF:自由度で裾や歪みがどう変わるか
  • 大数の法則:標本平均の経路とChebyshev上界
  • デルタ法:比率を変換すると標準誤差がどう変わるか
  • 順序・極値:最小値、kk 番目、最大値の分布

INTERACTIVE

標本分布と極限定理を動かして理解する

標本数や自由度を変え、有限標本の分布がどのように安定し、極限分布へ近づくかを比較します。

理論上の E(標本平均)
標準誤差
シミュレーション歪度
標準化した標本平均の標本分布母集団と標本数を変え、標準化した標本平均のシミュレーション分布を標準正規密度と比較する。

シミュレーションは定理の証明ではありません。しかし、定理の条件と結論を視覚的に切り分ける助けになります。

3. 正規母集団からの代表的な標本分布

以降、

X1,,XniidN(μ,σ2)X_1,\ldots,X_n\overset{\mathrm{iid}}{\sim}N(\mu,\sigma^2)

とします。正規母集団では、標本数が小さくても次の結果が厳密に成立します。

XˉN(μ,σ2n)\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right) (n1)S2σ2χn12\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1} Xˉ  S2\bar X\ \perp\ S^2

最後の記号 \perp は独立を表します。

3.1 標本平均の分布の導出

正規分布の積率母関数は、

MX(t)=exp(μt+σ2t22)M_X(t)=\exp\left(\mu t+\frac{\sigma^2t^2}{2}\right)

です。独立な確率変数の和の積率母関数は積になるので、

MXˉ(t)=E[etXˉ]=E[exp(tni=1nXi)]=i=1nMXi(tn)=[exp(μtn+σ2t22n2)]n=exp(μt+σ2t22n).\begin{aligned} M_{\bar X}(t) &=E[e^{t\bar X}]\\ &=E\left[\exp\left(\frac{t}{n}\sum_{i=1}^nX_i\right)\right]\\ &=\prod_{i=1}^nM_{X_i}\left(\frac{t}{n}\right)\\ &=\left[\exp\left(\frac{\mu t}{n}+\frac{\sigma^2t^2}{2n^2}\right)\right]^n\\ &=\exp\left(\mu t+\frac{\sigma^2t^2}{2n}\right). \end{aligned}

これは N(μ,σ2/n)N(\mu,\sigma^2/n) の積率母関数なので、結論が得られます。

3.2 カイ二乗分布

独立な標準正規確率変数 Z1,,ZνZ_1,\ldots,Z_\nu に対して、

V=j=1νZj2V=\sum_{j=1}^{\nu}Z_j^2

と置くと、VV は自由度 ν\nu のカイ二乗分布に従います。

Vχν2V\sim\chi^2_\nu

密度関数は、

f(v)=12ν/2Γ(ν/2)vν/21ev/2,v>0f(v) =\frac{1}{2^{\nu/2}\Gamma(\nu/2)} v^{\nu/2-1}e^{-v/2}, \qquad v>0

です。これは形状母数 ν/2\nu/2、尺度母数2のガンマ分布です。

積率母関数から平均と分散を導く

カイ二乗分布の積率母関数は、

MV(t)=(12t)ν/2,t<12M_V(t)=(1-2t)^{-\nu/2},\qquad t<\frac12

です。微分すると、

MV(t)=ν(12t)ν/21M_V'(t)=\nu(1-2t)^{-\nu/2-1}

なので、

E[V]=MV(0)=ν.E[V]=M_V'(0)=\nu.

もう一度微分すると、

MV(t)=ν(ν+2)(12t)ν/22M_V''(t)=\nu(\nu+2)(1-2t)^{-\nu/2-2}

より、

E[V2]=MV(0)=ν(ν+2).E[V^2]=M_V''(0)=\nu(\nu+2).

したがって、

Var(V)=E[V2]{E[V]}2=ν(ν+2)ν2=2ν.\begin{aligned} \operatorname{Var}(V) &=E[V^2]-\{E[V]\}^2\\ &=\nu(\nu+2)-\nu^2\\ &=2\nu. \end{aligned}

独立なカイ二乗変数は自由度を足せます。

V1χν12,V2χν22,V1V2V_1\sim\chi^2_{\nu_1},\quad V_2\sim\chi^2_{\nu_2},\quad V_1\perp V_2

なら、

V1+V2χν1+ν22.V_1+V_2\sim\chi^2_{\nu_1+\nu_2}.

3.3 標本分散のカイ二乗分布

正規標本では、

(n1)S2σ2=1σ2i=1n(XiXˉ)2χn12\frac{(n-1)S^2}{\sigma^2} =\frac{1}{\sigma^2}\sum_{i=1}^n(X_i-\bar X)^2 \sim\chi^2_{n-1}

です。

発展:直交分解とCochranの定理

標準化したベクトルを、

Z=1σ(X1μXnμ)Nn(0,In)\mathbf Z =\frac{1}{\sigma} \begin{pmatrix} X_1-\mu\\ \vdots\\ X_n-\mu \end{pmatrix} \sim N_n(\mathbf0,I_n)

とします。Z\mathbf Z を、全成分が同じ方向、

e=1n(1,,1)\mathbf e=\frac{1}{\sqrt n}(1,\ldots,1)^\top

への射影と、それに直交する残差へ分けます。

Z=(eZ)e+{Inee}Z\mathbf Z=(\mathbf e^\top\mathbf Z)\mathbf e+\{I_n-\mathbf e\mathbf e^\top\}\mathbf Z

最初の成分は標本平均に対応し、

eZ=n(Xˉμ)σN(0,1)\mathbf e^\top\mathbf Z =\frac{\sqrt n(\bar X-\mu)}{\sigma} \sim N(0,1)

です。残差空間は n1n-1 次元なので、そこでの長さの2乗は、

{Inee}Z2=(n1)S2σ2χn12\left\|\{I_n-\mathbf e\mathbf e^\top\}\mathbf Z\right\|^2 =\frac{(n-1)S^2}{\sigma^2} \sim\chi^2_{n-1}

となります。これはCochranの定理の基本例です。

3.4 標本平均と標本分散の独立性

上の分解で、平均方向と残差方向は直交しています。多変量正規分布では、直交する線形成分は無相関であるだけでなく独立です。 したがって、

XˉS2\bar X\perp S^2

が得られます。

この独立性は、一般の母集団では通常成立しません。例えば強く歪んだ母集団では、極端な値が標本平均と標本分散を同時に押し上げるため、両者が依存しやすくなります。

答案での使い分け

E[S2]=σ2E[S^2]=\sigma^2 は有限分散があれば導けます。一方、(n1)S2/σ2χn12(n-1)S^2/\sigma^2\sim\chi^2_{n-1}XˉS2\bar X\perp S^2 には正規母集団の仮定が必要です。

4. tt 分布

4.1 定義

ZN(0,1)Z\sim N(0,1)Vχν2V\sim\chi^2_\nu が独立であるとき、

T=ZV/νT=\frac{Z}{\sqrt{V/\nu}}

は自由度 ν\nutt 分布に従います。

TtνT\sim t_\nu

標準正規分布を、推定された標準偏差で割るため、分母の不確実性の分だけ正規分布より裾が厚くなります。

密度関数は、

f(t)=Γ{(ν+1)/2}νπΓ(ν/2)(1+t2ν)(ν+1)/2,<t<f(t)= \frac{\Gamma\{(\nu+1)/2\}} {\sqrt{\nu\pi}\,\Gamma(\nu/2)} \left(1+\frac{t^2}{\nu}\right)^{-(\nu+1)/2}, \qquad -\infty<t<\infty

です。

4.2 1標本 tt 統計量

正規標本では、

Z=n(Xˉμ)σN(0,1)Z=\frac{\sqrt n(\bar X-\mu)}{\sigma}\sim N(0,1)

かつ、

V=(n1)S2σ2χn12V=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}

であり、ZZVV は独立です。したがって、

ZV/(n1)=n(Xˉμ)/σ{(n1)S2/σ2}/(n1)=n(Xˉμ)/σS/σ=XˉμS/ntn1.\begin{aligned} \frac{Z}{\sqrt{V/(n-1)}} &= \frac{\sqrt n(\bar X-\mu)/\sigma} {\sqrt{\{(n-1)S^2/\sigma^2\}/(n-1)}}\\ &= \frac{\sqrt n(\bar X-\mu)/\sigma}{S/\sigma}\\ &= \frac{\bar X-\mu}{S/\sqrt n} \sim t_{n-1}. \end{aligned}

これが母分散未知の平均推測に tt 分布を使う理由です。

4.3 積率と自由度

tt 分布は0を中心に対称です。ただし、積率は常に存在するわけではありません。

性質条件
平均ν>1\nu>100
分散ν>2\nu>2ν/(ν2)\nu/(\nu-2)
4次積率ν>4\nu>43ν2/{(ν2)(ν4)}3\nu^2/\{(\nu-2)(\nu-4)\}

自由度1の tt 分布は標準Cauchy分布です。平均も分散も存在しません。 自由度が大きくなると、

tνdN(0,1)t_\nu\xrightarrow{d}N(0,1)

となります。

4.4 小標本の薬物動態例

独立な8人の被験者で、対数AUCの平均が4.20、標本標準偏差が0.30だったとします。母平均の95%信頼区間は、t7,0.975=2.365t_{7,0.975}=2.365 を用いて、

xˉ±t7,0.975sn=4.20±2.3650.308=4.20±0.251\begin{aligned} \bar x\pm t_{7,0.975}\frac{s}{\sqrt n} &=4.20\pm2.365\frac{0.30}{\sqrt8}\\ &=4.20\pm0.251 \end{aligned}

です。対数尺度での区間は (3.949,4.451)(3.949,4.451) です。元の尺度へ戻すなら単に中心と幅を指数変換するのではなく、両端を指数変換して、

(e3.949,e4.451)(e^{3.949},e^{4.451})

とします。

5. FF 分布

5.1 定義

独立な、

Uχν12,Vχν22U\sim\chi^2_{\nu_1},\qquad V\sim\chi^2_{\nu_2}

に対して、

F=U/ν1V/ν2F=\frac{U/\nu_1}{V/\nu_2}

は自由度 (ν1,ν2)(\nu_1,\nu_2)FF 分布に従います。

FFν1,ν2F\sim F_{\nu_1,\nu_2}

密度関数は、

f(x)=1B(ν1/2,ν2/2)(ν1ν2)ν1/2xν1/21(1+ν1ν2x)(ν1+ν2)/2,x>0f(x)= \frac{1}{B(\nu_1/2,\nu_2/2)} \left(\frac{\nu_1}{\nu_2}\right)^{\nu_1/2} x^{\nu_1/2-1} \left(1+\frac{\nu_1}{\nu_2}x\right)^{-(\nu_1+\nu_2)/2}, \quad x>0

です。

5.2 重要な性質

FFν1,ν21FFν2,ν1F\sim F_{\nu_1,\nu_2} \quad\Longrightarrow\quad \frac{1}{F}\sim F_{\nu_2,\nu_1}

また、

TtνT2F1,νT\sim t_\nu \quad\Longrightarrow\quad T^2\sim F_{1,\nu}

です。後者は、

T2=Z2/1V/νT^2=\frac{Z^2/1}{V/\nu}

であり、Z2χ12Z^2\sim\chi^2_1 だから分かります。

平均と分散は、

E[F]=ν2ν22,ν2>2E[F]=\frac{\nu_2}{\nu_2-2},\qquad \nu_2>2 Var(F)=2ν22(ν1+ν22)ν1(ν22)2(ν24),ν2>4\operatorname{Var}(F) =\frac{2\nu_2^2(\nu_1+\nu_2-2)} {\nu_1(\nu_2-2)^2(\nu_2-4)}, \qquad \nu_2>4

です。

5.3 2つの分散の比

独立な2つの正規標本について、

(n11)S12σ12χn112,(n21)S22σ22χn212\frac{(n_1-1)S_1^2}{\sigma_1^2}\sim\chi^2_{n_1-1}, \qquad \frac{(n_2-1)S_2^2}{\sigma_2^2}\sim\chi^2_{n_2-1}

なので、

S12/σ12S22/σ22Fn11,n21.\frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F_{n_1-1,n_2-1}.

帰無仮説 σ12=σ22\sigma_1^2=\sigma_2^2 のもとでは、

S12S22Fn11,n21\frac{S_1^2}{S_2^2}\sim F_{n_1-1,n_2-1}

です。ただし、分散比検定は非正規性に敏感です。測定値が強く歪む場合や外れ値を含む場合は、変換、Levene検定、Brown–Forsythe検定、またはモデルに応じた頑健法を検討します。

ここからは「標本数を増やしたらどうなるか」を考えます

添字 nn は標本数に応じて統計量が変わることを表します。矢印の右側は「有限の nn で完全に等しい」という意味ではなく、nn を大きくしたときの近づき方です。まず確率収束を「大きな誤差が出る確率が0へ近づく」、分布収束を「分布の形が近づく」と読んでください。

6. 確率変数の収束

標本数 nn とともに変わる確率変数列 X1,X2,X_1,X_2,\ldots を考えます。「収束」には複数の意味があり、何を同じ確率空間上で比較するかが異なります。

6.1 確率収束

任意の ε>0\varepsilon>0 に対して、

P(XnX>ε)0P(|X_n-X|>\varepsilon)\to0

となるとき、XnX_nXX に確率収束するといいます。

XnpXX_n\xrightarrow{p}X

「大きなずれが生じる確率が0へ近づく」という意味です。推定量 θ^n\hat\theta_n が真値 θ\theta に確率収束するとき、θ^n\hat\theta_n は一致推定量です。

6.2 分布収束

FnF_nFF をそれぞれ XnX_nXX の分布関数とします。FF のすべての連続点 xx で、

Fn(x)F(x)F_n(x)\to F(x)

となるとき、XnX_nXX に分布収束するといいます。

XndXX_n\xrightarrow{d}X

分布収束は確率収束より弱い概念です。例えば、各 XnX_n が独立に N(0,1)N(0,1) に従うなら、分布は最初から N(0,1)N(0,1) なので、

XndN(0,1)X_n\xrightarrow{d}N(0,1)

と書けます。しかし、XnX_n 同士は独立に動き続けるため、同じ確率変数へ確率収束するわけではありません。

6.3 概収束

P(limnXn=X)=1P\left(\lim_{n\to\infty}X_n=X\right)=1

のとき、XnX_nXX に概収束、またはほとんど確実に収束するといいます。

Xna.s.XX_n\xrightarrow{a.s.}X

これは、確率1で、標本経路を固定して見たときに最終的に XX へ近づくという強い主張です。

6.4 平均二乗収束

E[(XnX)2]0E[(X_n-X)^2]\to0

のとき、平均二乗収束といいます。

XnL2XX_n\xrightarrow{L^2}X

Chebyshevの不等式により、

P(XnX>ε)E[(XnX)2]ε20P(|X_n-X|>\varepsilon) \leq\frac{E[(X_n-X)^2]}{\varepsilon^2} \to0

なので、平均二乗収束は確率収束を導きます。

収束関係をまとめると、

Xna.s.XXnpXXndXX_n\xrightarrow{a.s.}X \Longrightarrow X_n\xrightarrow{p}X \Longrightarrow X_n\xrightarrow{d}X

および、

XnL2XXnpXX_n\xrightarrow{L^2}X \Longrightarrow X_n\xrightarrow{p}X

です。逆向きは一般には成立しません。

7. Chebyshevの不等式と大数の弱法則

7.1 Markovの不等式から導く

非負確率変数 YYa>0a>0 に対して、

P(Ya)E[Y]aP(Y\geq a)\leq\frac{E[Y]}{a}

がMarkovの不等式です。

Y=(Xμ)2Y=(X-\mu)^2a=ε2a=\varepsilon^2 と置くと、

P(Xμε)=P{(Xμ)2ε2}E[(Xμ)2]ε2=σ2ε2.\begin{aligned} P(|X-\mu|\geq\varepsilon) &=P\{(X-\mu)^2\geq\varepsilon^2\}\\ &\leq\frac{E[(X-\mu)^2]}{\varepsilon^2}\\ &=\frac{\sigma^2}{\varepsilon^2}. \end{aligned}

これがChebyshevの不等式です。分布の形を仮定せず、平均と分散だけで裾確率を抑えられます。

7.2 大数の弱法則

X1,X2,X_1,X_2,\ldots が独立同一分布で、

E[Xi]=μ,Var(Xi)=σ2<E[X_i]=\mu,\qquad \operatorname{Var}(X_i)=\sigma^2<\infty

とします。標本平均にChebyshevの不等式を使うと、

P(Xˉnμε)Var(Xˉn)ε2=σ2nε20.\begin{aligned} P(|\bar X_n-\mu|\geq\varepsilon) &\leq\frac{\operatorname{Var}(\bar X_n)}{\varepsilon^2}\\ &=\frac{\sigma^2}{n\varepsilon^2}\\ &\to0. \end{aligned}

よって、

Xˉnpμ.\bar X_n\xrightarrow{p}\mu.

これが大数の弱法則です。

注意すべき点は、有限の nnXˉn=μ\bar X_n=\mu になるとは言っていないことです。また、Chebyshev上界はしばしば粗く、1を超える場合は確率の上界として実質的な情報を与えません。

7.3 薬学的な意味

独立な個体から薬物応答を集め、同じ母集団からの標本とみなせるなら、標本平均は母平均へ近づきます。しかし、施設構成が nn とともに変わる、選択基準が変わる、測定法に系統誤差がある場合、単に標本数を増やしても目的とする母平均へ近づく保証はありません。

大数の法則が抑えるのは確率的なばらつきです。選択バイアス、測定バイアス、交絡は別に検討する必要があります。

8. 中心極限定理

8.1 iid中心極限定理

X1,X2,X_1,X_2,\ldots が独立同一分布で、

E[Xi]=μ,0<Var(Xi)=σ2<E[X_i]=\mu,\qquad 0<\operatorname{Var}(X_i)=\sigma^2<\infty

なら、

i=1nXinμσn=n(Xˉnμ)σdN(0,1).\frac{\sum_{i=1}^nX_i-n\mu}{\sigma\sqrt n} = \frac{\sqrt n(\bar X_n-\mu)}{\sigma} \xrightarrow{d}N(0,1).

したがって、nn が十分大きいとき、

Xˉn ˙ N(μ,σ2n)\bar X_n\ \dot\sim\ N\left(\mu,\frac{\sigma^2}{n}\right)

と近似できます。記号 ˙\dot\sim は近似的に従うという意味です。

母集団が正規分布なら、この分布は任意の nn で厳密です。母集団が非正規なら、大標本での近似です。

8.2 特性関数による導出の骨格

標準化した、

Yi=XiμσY_i=\frac{X_i-\mu}{\sigma}

を考えます。E[Yi]=0E[Y_i]=0E[Yi2]=1E[Y_i^2]=1 です。特性関数を φY(t)=E[eitY]\varphi_Y(t)=E[e^{itY}] とすると、t=0t=0 周りのTaylor展開から、

φY(t)=1t22+o(t2)\varphi_Y(t)=1-\frac{t^2}{2}+o(t^2)

です。ここで o(t2)o(t^2) は、t2t^2 で割ると0へ近づく剰余項です。

標準化和、

Zn=1ni=1nYiZ_n=\frac{1}{\sqrt n}\sum_{i=1}^nY_i

の特性関数は独立性から、

φZn(t)={φY(tn)}n={1t22n+o(1n)}net2/2.\begin{aligned} \varphi_{Z_n}(t) &=\left\{\varphi_Y\left(\frac{t}{\sqrt n}\right)\right\}^n\\ &=\left\{1-\frac{t^2}{2n}+o\left(\frac1n\right)\right\}^n\\ &\to e^{-t^2/2}. \end{aligned}

et2/2e^{-t^2/2} は標準正規分布の特性関数なので、Lévyの連続性定理から ZndN(0,1)Z_n\xrightarrow{d}N(0,1) が得られます。

この導出で、特性関数の一意性とLévyの連続性定理は大学数学の内容です。統計検定1級では、特性関数の展開から正規分布の特性関数へ近づく流れを説明できるようにします。

8.3 二項分布の正規近似

YBin(n,p)Y\sim\operatorname{Bin}(n,p) は独立なBernoulli変数の和なので、

Ynpnp(1p) ˙ N(0,1)\frac{Y-np}{\sqrt{np(1-p)}}\ \dot\sim\ N(0,1)

です。

例えば、YBin(100,0.2)Y\sim\operatorname{Bin}(100,0.2) に対して P(Y25)P(Y\leq25) を近似します。離散分布を連続分布で近似するため連続補正を使い、

P(Y25)P(Z25.52016)=P(Z1.375).P(Y\leq25)\approx P\left( Z\leq\frac{25.5-20}{\sqrt{16}} \right) =P(Z\leq1.375).

標準正規分布表から約0.915です。

8.4 中心極限定理を使えない・注意が必要な場面

  • 分散が存在しないほど裾が重い分布
  • 強い依存がある時系列、空間データ、同一個体内の反復測定
  • 極端に歪んだ分布で標本数が小さい場合
  • nn が大きくても、まれな事象で npnp または n(1p)n(1-p) が小さい場合
  • 観測数は多いが、独立なクラスター数が少ない場合

n30n\geq30 なら必ず正規近似できる」という定理はありません。必要な nn は歪度、裾の重さ、求めたい裾確率、依存構造によって変わります。

9. 連続写像定理とSlutskyの定理

9.1 連続写像定理

XnpXX_n\xrightarrow{p}X で、関数 ggXX の取りうる点で連続なら、

g(Xn)pg(X)g(X_n)\xrightarrow{p}g(X)

です。分布収束版もあり、適切な連続性のもとで、

XndXg(Xn)dg(X)X_n\xrightarrow{d}X \quad\Longrightarrow\quad g(X_n)\xrightarrow{d}g(X)

となります。

例えば、θ^npθ\hat\theta_n\xrightarrow{p}\theta かつ θ>0\theta>0 なら、

logθ^nplogθ,θ^npθ.\log\hat\theta_n\xrightarrow{p}\log\theta, \qquad \sqrt{\hat\theta_n}\xrightarrow{p}\sqrt\theta.

9.2 Slutskyの定理

XndX,YnpcX_n\xrightarrow{d}X, \qquad Y_n\xrightarrow{p}c

で、cc が定数なら、

Xn+YndX+cX_n+Y_n\xrightarrow{d}X+c XnYndcXX_nY_n\xrightarrow{d}cX

さらに c0c\neq0 なら、

XnYndXc\frac{X_n}{Y_n}\xrightarrow{d}\frac{X}{c}

です。

中心極限定理から、

n(Xˉμ)σdN(0,1)\frac{\sqrt n(\bar X-\mu)}{\sigma}\xrightarrow{d}N(0,1)

であり、大数の法則から SpσS\xrightarrow{p}\sigma です。したがって、

n(Xˉμ)S=n(Xˉμ)σσSdN(0,1)\frac{\sqrt n(\bar X-\mu)}{S} = \frac{\sqrt n(\bar X-\mu)}{\sigma}\cdot\frac{\sigma}{S} \xrightarrow{d}N(0,1)

となります。母分散を標本分散で置き換えられる漸近的な根拠です。

10. デルタ法

10.1 Taylor展開から導く

n(θ^nθ)dN(0,τ2)\sqrt n(\hat\theta_n-\theta) \xrightarrow{d}N(0,\tau^2)

とします。ggθ\theta で微分可能なら、1次のTaylor展開により、

g(θ^n)=g(θ)+g(θ)(θ^nθ)+Rng(\hat\theta_n) =g(\theta)+g'(\theta)(\hat\theta_n-\theta)+R_n

です。剰余項 RnR_n が1次項より十分小さい、すなわち、

Rn=op(θ^nθ)R_n=o_p(|\hat\theta_n-\theta|)

なら、

n{g(θ^n)g(θ)}=g(θ)n(θ^nθ)+op(1).\sqrt n\{g(\hat\theta_n)-g(\theta)\} =g'(\theta)\sqrt n(\hat\theta_n-\theta)+o_p(1).

Slutskyの定理から、

n{g(θ^n)g(θ)}dN(0,{g(θ)}2τ2).\sqrt n\{g(\hat\theta_n)-g(\theta)\} \xrightarrow{d} N\left(0,\{g'(\theta)\}^2\tau^2\right).

これが1変数のデルタ法です。

近似分散として書けば、

Var{g(θ^n)}{g(θ)}2Var(θ^n).\operatorname{Var}\{g(\hat\theta_n)\} \approx \{g'(\theta)\}^2\operatorname{Var}(\hat\theta_n).

10.2 対数変換の例

Xˉ\bar X が正の母平均 μ\mu を推定し、

n(Xˉμ)dN(0,σ2)\sqrt n(\bar X-\mu)\xrightarrow{d}N(0,\sigma^2)

とします。g(x)=logxg(x)=\log x なら g(x)=1/xg'(x)=1/x なので、

n{logXˉlogμ}dN(0,σ2μ2).\sqrt n\{\log\bar X-\log\mu\} \xrightarrow{d}N\left(0,\frac{\sigma^2}{\mu^2}\right).

したがって、

SE(logXˉ)σμn.\operatorname{SE}(\log\bar X) \approx\frac{\sigma}{\mu\sqrt n}.

右辺は平均に対する標準偏差の比、すなわち変動係数に対応します。薬物動態量の幾何平均比や倍率変化を扱うときに重要です。

10.3 比のデルタ法

2つの推定量を θ^=(θ^1,θ^2)\hat\theta=(\hat\theta_1,\hat\theta_2)^\top とし、

n(θ^θ)dN2(0,Σ)\sqrt n(\hat\theta-\theta)\xrightarrow{d}N_2(\mathbf0,\Sigma)

とします。g(θ1,θ2)=θ1/θ2g(\theta_1,\theta_2)=\theta_1/\theta_2 の勾配は、

g(θ)=(1/θ2θ1/θ22)\nabla g(\theta) = \begin{pmatrix} 1/\theta_2\\ -\theta_1/\theta_2^2 \end{pmatrix}

です。多変量デルタ法から、

n{g(θ^)g(θ)}dN(0,g(θ)Σg(θ)).\sqrt n\{g(\hat\theta)-g(\theta)\} \xrightarrow{d} N\left(0,\nabla g(\theta)^\top\Sigma\nabla g(\theta)\right).

共分散を無視すると、比の標準誤差を過大または過小評価する可能性があります。対応のある薬効・毒性指標や同一患者のベースライン比では特に重要です。

発展:1次項が消える場合の2次デルタ法

g(θ)=0g'(\theta)=0 なら1次デルタ法の分散が0になってしまいます。このとき2次Taylor展開、

g(θ^n)g(θ)12g(θ)(θ^nθ)2g(\hat\theta_n)-g(\theta) \approx\frac12g''(\theta)(\hat\theta_n-\theta)^2

を使います。例えば、n(θ^nθ)dZ\sqrt n(\hat\theta_n-\theta)\xrightarrow{d}Z なら、

n{g(θ^n)g(θ)}d12g(θ)Z2.n\{g(\hat\theta_n)-g(\theta)\} \xrightarrow{d}\frac12g''(\theta)Z^2.

極限分布は一般に正規分布ではなく、正規変数の2乗を含む分布になります。

11. 分散安定化変換

11.1 考え方

推定量 TT の分散が母数 θ\theta によって、

Var(T)v(θ)n\operatorname{Var}(T)\approx\frac{v(\theta)}{n}

のように変わるとします。デルタ法から、

Var{g(T)}{g(θ)}2v(θ)n\operatorname{Var}\{g(T)\} \approx \{g'(\theta)\}^2\frac{v(\theta)}{n}

です。これを θ\theta に依存しない定数 C/nC/n にしたければ、

{g(θ)}2v(θ)=C\{g'(\theta)\}^2v(\theta)=C

となるように、

g(θ)=Cv(θ)g'(\theta)=\frac{\sqrt C}{\sqrt{v(\theta)}}

を選びます。積分して、

g(θ)=C1v(θ)dθg(\theta)=\sqrt C\int\frac{1}{\sqrt{v(\theta)}}\,d\theta

を求めるのが分散安定化変換の基本です。

11.2 二項比率の逆正弦平方根変換

YBin(n,p)Y\sim\operatorname{Bin}(n,p)p^=Y/n\hat p=Y/n なら、

Var(p^)=p(1p)n.\operatorname{Var}(\hat p)=\frac{p(1-p)}{n}.

v(p)=p(1p)v(p)=p(1-p) なので、

g(p)=1p(1p)g'(p)=\frac{1}{\sqrt{p(1-p)}}

を積分します。p=sin2up=\sin^2u と置くと、

dp=2sinucosududp=2\sin u\cos u\,du

かつ、

p(1p)=sinucosu\sqrt{p(1-p)}=\sin u\cos u

なので、

1p(1p)dp=2du=2u+C=2arcsinp+C.\int\frac{1}{\sqrt{p(1-p)}}\,dp =\int2\,du =2u+C =2\arcsin\sqrt p+C.

したがって、g(p)=arcsinpg(p)=\arcsin\sqrt p と定数倍を省いて選べます。このとき、

g(p)=12p(1p)g'(p)=\frac{1}{2\sqrt{p(1-p)}}

なので、

Var{arcsinp^}14p(1p)p(1p)n=14n.\operatorname{Var}\{\arcsin\sqrt{\hat p}\} \approx \frac{1}{4p(1-p)}\frac{p(1-p)}{n} =\frac{1}{4n}.

母比率 pp にほぼ依存しない分散が得られます。

ただし、現代の二項データ解析では、ロジスティック回帰や二項分布に基づく区間推定を直接使える場合が多く、逆正弦平方根変換を機械的に第一選択にする必要はありません。試験では導出を理解し、実務では目的とモデルを優先します。

11.3 Poisson分布の平方根変換

YPoisson(λ)Y\sim\operatorname{Poisson}(\lambda) なら、

E[Y]=λ,Var(Y)=λ.E[Y]=\lambda,\qquad \operatorname{Var}(Y)=\lambda.

v(λ)=λv(\lambda)=\lambda なので、

g(λ)=1λg'(\lambda)=\frac{1}{\sqrt\lambda}

を積分すると、

g(λ)=2λ+C.g(\lambda)=2\sqrt\lambda+C.

デルタ法で、

Var(2Y)(1λ)2λ=1\operatorname{Var}(2\sqrt Y) \approx \left(\frac{1}{\sqrt\lambda}\right)^2\lambda=1

です。同値に Y\sqrt Y の近似分散は 1/41/4 です。

発展:Anscombe変換

Poisson計数が小さいと、単純な平方根変換にはバイアスが残ります。よく知られた補正は、

2Y+382\sqrt{Y+\frac38}

です。ただし、低カウントや過分散、ゼロ過剰がある生命科学データでは、Poissonまたは負の二項分布に基づく一般化線形モデルを直接使う方が解釈しやすい場合があります。

11.4 変換の薬学的な使いどころ

  • 発現陽性細胞率、奏効率:二項比率の分散が pp に依存する
  • コロニー数、イベント数:Poisson計数の分散が平均とともに増える
  • AUC、濃度、蛍光強度:変動係数がほぼ一定なら対数変換が候補

変換は分布を必ず正規化する魔法ではありません。変換後も外れ値、依存、平均分散関係、解釈可能性を確認します。

12. 順序統計量

12.1 定義

連続分布からの標本を小さい順に並べ、

X(1)X(2)X(n)X_{(1)}\leq X_{(2)}\leq\cdots\leq X_{(n)}

と書きます。

  • X(1)X_{(1)}:最小値
  • X(n)X_{(n)}:最大値
  • X(k)X_{(k)}kk 番目の順序統計量
  • 奇数標本の中央の順序統計量:標本中央値

順序統計量は、元の観測値を並べ替えて得る統計量です。分位点、閾値、最大曝露、最小有効濃度などを確率的に扱えます。

12.2 最小値と最大値の分布

母分布関数を F(x)F(x) とします。最大値 X(n)X_{(n)} について、

P(X(n)x)=P(X1x,,Xnx)=i=1nP(Xix)=F(x)n.\begin{aligned} P(X_{(n)}\leq x) &=P(X_1\leq x,\ldots,X_n\leq x)\\ &=\prod_{i=1}^nP(X_i\leq x)\\ &=F(x)^n. \end{aligned}

したがって、

FX(n)(x)=F(x)n.F_{X_{(n)}}(x)=F(x)^n.

密度が存在するなら微分して、

fX(n)(x)=nF(x)n1f(x).f_{X_{(n)}}(x)=nF(x)^{n-1}f(x).

最小値では補集合を使います。

P(X(1)>x)=P(X1>x,,Xn>x)={1F(x)}n.\begin{aligned} P(X_{(1)}>x) &=P(X_1>x,\ldots,X_n>x)\\ &=\{1-F(x)\}^n. \end{aligned}

よって、

FX(1)(x)=1{1F(x)}nF_{X_{(1)}}(x)=1-\{1-F(x)\}^n

および、

fX(1)(x)=n{1F(x)}n1f(x)f_{X_{(1)}}(x)=n\{1-F(x)\}^{n-1}f(x)

です。

12.3 kk 番目の密度の導出

X(k)X_{(k)}xx の近くにあるためには、概略として、

  1. k1k-1 個が xx より小さい
  2. 1個が幅 dxdx の区間 [x,x+dx][x,x+dx] に入る
  3. 残り nkn-k 個が xx より大きい

必要があります。標本の割り当て方は、

n!(k1)!1!(nk)!\frac{n!}{(k-1)!1!(n-k)!}

通りです。したがって微小確率は、

n!(k1)!(nk)!F(x)k1f(x)dx{1F(x)}nk.\frac{n!}{(k-1)!(n-k)!} F(x)^{k-1}f(x)dx\{1-F(x)\}^{n-k}.

dxdx で割ると、

fX(k)(x)=n!(k1)!(nk)!F(x)k1{1F(x)}nkf(x).f_{X_{(k)}}(x) =\frac{n!}{(k-1)!(n-k)!} F(x)^{k-1}\{1-F(x)\}^{n-k}f(x).

これが一般の順序統計量の密度です。

12.4 一様分布との関係

U1,,UniidUnif(0,1)U_1,\ldots,U_n\overset{\mathrm{iid}}{\sim}\operatorname{Unif}(0,1) なら、F(u)=uF(u)=uf(u)=1f(u)=1 なので、

fU(k)(u)=n!(k1)!(nk)!uk1(1u)nk,0<u<1.f_{U_{(k)}}(u) =\frac{n!}{(k-1)!(n-k)!} u^{k-1}(1-u)^{n-k}, \qquad0<u<1.

これは、

U(k)Beta(k,nk+1)U_{(k)}\sim\operatorname{Beta}(k,n-k+1)

を意味します。したがって、

E[U(k)]=kn+1E[U_{(k)}]=\frac{k}{n+1} Var(U(k))=k(nk+1)(n+1)2(n+2).\operatorname{Var}(U_{(k)}) =\frac{k(n-k+1)}{(n+1)^2(n+2)}.

特に、

E[U(1)]=1n+1,E[U(n)]=nn+1.E[U_{(1)}]=\frac{1}{n+1}, \qquad E[U_{(n)}]=\frac{n}{n+1}.

標本数が増えるほど最小値は0へ、最大値は1へ近づきます。

12.5 確率積分変換

連続な分布関数 FF に対して、

Ui=F(Xi)Unif(0,1)U_i=F(X_i)\sim\operatorname{Unif}(0,1)

です。単調性から、

F(X(k))=U(k)Beta(k,nk+1).F(X_{(k)})=U_{(k)}\sim\operatorname{Beta}(k,n-k+1).

この関係により、一般の母分布の順序統計量を一様分布とベータ分布へ移して考えられます。

発展:標本分位点の漸近分布

母分布の pp 分位点を、

ξp=F1(p)\xi_p=F^{-1}(p)

とします。f(ξp)>0f(\xi_p)>0 などの正則条件のもとで、標本 pp 分位点 ξ^p\hat\xi_p は、

n(ξ^pξp)dN(0,p(1p)f(ξp)2).\sqrt n(\hat\xi_p-\xi_p) \xrightarrow{d} N\left(0,\frac{p(1-p)}{f(\xi_p)^2}\right).

密度 f(ξp)f(\xi_p) が小さい、すなわち分布が分位点の近くで平坦なら、分位点推定の分散は大きくなります。 中央値では p=1/2p=1/2 なので、

Var(ξ^0.5)14nf(ξ0.5)2.\operatorname{Var}(\hat\xi_{0.5}) \approx\frac{1}{4n f(\xi_{0.5})^2}.

薬物濃度の95パーセンタイルや安全性指標の上位分位点は、中央値より裾の情報が少なく、通常は推定が不安定です。

13. 極値分布

13.1 なぜ最大値には別の理論が必要か

中心極限定理は和や平均の理論です。最大値、

Mn=max(X1,,Xn)M_n=\max(X_1,\ldots,X_n)

は、標本数が増えるほど分布の端へ移動するため、そのままでは非退化な極限分布をもちません。 そこで定数 an>0,bna_n>0,b_n を使って、

Mnbnan\frac{M_n-b_n}{a_n}

を標準化します。

13.2 Fisher–Tippett–Gnedenko定理

適切な an,bna_n,b_n に対して標準化最大値が非退化な分布へ収束するなら、その極限は本質的に次の3型のいずれかです。

裾の特徴典型的な母分布
Gumbel型指数的に減衰する裾正規、指数、Gumbel
Fréchet型べき乗で減衰する重い裾Pareto
Weibull型有限の上端点をもつ一様、上端をもつBeta

3型は一般化極値分布、

G(z)=exp[(1+ξz)1/ξ],1+ξz>0G(z)= \exp\left[-\left(1+\xi z\right)^{-1/\xi}\right], \qquad1+\xi z>0

にまとめられます。

  • ξ=0\xi=0 の極限:Gumbel型
  • ξ>0\xi>0:Fréchet型
  • ξ<0\xi<0:Weibull型

ここでいうWeibull型は、寿命分布として使う通常のWeibull分布そのものと同一という意味ではありません。極値分布の分類名です。

13.3 指数分布の最大値

XiExp(1)X_i\sim\operatorname{Exp}(1) なら、x0x\geq0F(x)=1exF(x)=1-e^{-x} です。最大値の分布は、

P(Mnx)=(1ex)n.P(M_n\leq x)=(1-e^{-x})^n.

x=logn+zx=\log n+z と置くと、

P(Mnlognz)=(1e(logn+z))n=(1ezn)nexp(ez).\begin{aligned} P(M_n-\log n\leq z) &=\left(1-e^{-(\log n+z)}\right)^n\\ &=\left(1-\frac{e^{-z}}{n}\right)^n\\ &\to\exp(-e^{-z}). \end{aligned}

これは標準Gumbel分布です。

13.4 医薬生物分野での応用と注意

  • 製造バッチ内の最大不純物濃度
  • 多数の患者における最大QT延長
  • 長時間観測した最大血中濃度や最大反応
  • 高スループットスクリーニングの極端な活性値

最大値は観測回数に強く依存します。採血時点が多い群、追跡期間が長い群、測定項目が多い群ほど、偶然に大きな最大値が出やすくなります。

また、同一患者内の時系列は独立でないため、iidの極値理論をそのまま使えないことがあります。観測設計、依存、欠測、測定誤差、閾値選択を明示します。

14. 大数の強法則

独立同一分布の確率変数について、適切な条件のもとで、

Xˉna.s.μ\bar X_n\xrightarrow{a.s.}\mu

が成り立ちます。これが大数の強法則です。

弱法則は、固定した nn で大きく外れる確率が0へ近づくと述べます。強法則は、ほとんどすべての無限標本経路で、標本平均が最終的に母平均へ収束すると述べます。

法則結論見方
大数の弱法則Xˉnpμ\bar X_n\xrightarrow{p}\munn で外れる確率を見る
大数の強法則Xˉna.s.μ\bar X_n\xrightarrow{a.s.}\mu1本の無限標本経路を追う

発展:Borel–Cantelli補題との関係

事象 AnA_n が無限回起こることを An i.o.A_n\ \mathrm{i.o.} と書きます。第1 Borel–Cantelli補題は、

n=1P(An)<P(An i.o.)=0\sum_{n=1}^{\infty}P(A_n)<\infty \quad\Longrightarrow\quad P(A_n\ \mathrm{i.o.})=0

と述べます。

An={Xˉnμ>ε}A_n=\{|\bar X_n-\mu|>\varepsilon\} とすれば、逸脱確率の総和が有限になるような上界を作ることで、「大きな逸脱は有限回しか起こらない」を示し、概収束へつなげられます。

単純にChebyshev上界を足すと 1/n\sum 1/n が発散するため、それだけでは強法則の証明になりません。部分列や切断など、追加の工夫が必要です。

15. 独立だが同一分布でない場合の中心極限定理

臨床・薬学データでは、患者ごと、施設ごと、用量群ごとに分散が異なることがあります。独立でも同一分布とは限らないため、より一般的な中心極限定理が必要です。

15.1 三角配列

nn について、

Xn1,Xn2,,XnknX_{n1},X_{n2},\ldots,X_{nk_n}

という1行を考えます。行内では独立とし、

E[Xnj]=μnj,Var(Xnj)=σnj2E[X_{nj}]=\mu_{nj}, \qquad \operatorname{Var}(X_{nj})=\sigma_{nj}^2

とします。行全体の分散を、

sn2=j=1knσnj2s_n^2=\sum_{j=1}^{k_n}\sigma_{nj}^2

と置きます。

15.2 Lindeberg–Fellerの中心極限定理

任意の ε>0\varepsilon>0 に対して、

1sn2j=1knE[(Xnjμnj)2I{Xnjμnj>εsn}]0\frac{1}{s_n^2} \sum_{j=1}^{k_n} E\left[ (X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\} \right] \to0

が成り立つことをLindeberg条件といいます。

この条件の意味は、全体の標準偏差 sns_n と比べて極端に大きい1観測が、総分散を支配しないことです。この条件のもとで、

j=1kn(Xnjμnj)sndN(0,1).\frac{ \sum_{j=1}^{k_n}(X_{nj}-\mu_{nj}) }{s_n} \xrightarrow{d}N(0,1).

15.3 Lyapunovの中心極限定理

ある δ>0\delta>0 に対して、

1sn2+δj=1knE[Xnjμnj2+δ]0\frac{1}{s_n^{2+\delta}} \sum_{j=1}^{k_n} E\left[|X_{nj}-\mu_{nj}|^{2+\delta}\right] \to0

なら、標準化和は標準正規分布へ収束します。これがLyapunov条件です。

Lyapunov条件はLindeberg条件より強いですが、絶対積率を計算して確認しやすいことがあります。

15.4 Lyapunov条件がLindeberg条件を導く理由

Xnjμnj>εsn|X_{nj}-\mu_{nj}|>\varepsilon s_n の領域では、

Xnjμnjδ>(εsn)δ|X_{nj}-\mu_{nj}|^\delta>(\varepsilon s_n)^\delta

です。したがって、

(Xnjμnj)2I{Xnjμnj>εsn}Xnjμnj2+δ(εsn)δ.\begin{aligned} &(X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\}\\ &\qquad\leq \frac{|X_{nj}-\mu_{nj}|^{2+\delta}} {(\varepsilon s_n)^\delta}. \end{aligned}

両辺の期待値を取り、sn2s_n^2 で割って和を取ると、

1sn2jE[(Xnjμnj)2I{Xnjμnj>εsn}]1εδ1sn2+δjE[Xnjμnj2+δ]0.\begin{aligned} &\frac{1}{s_n^2}\sum_j E\left[(X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\}\right]\\ &\qquad\leq \frac{1}{\varepsilon^\delta} \frac{1}{s_n^{2+\delta}} \sum_jE[|X_{nj}-\mu_{nj}|^{2+\delta}] \to0. \end{aligned}

よってLyapunov条件はLindeberg条件を導きます。

15.5 医薬生物データでの読み方

多施設研究で各患者のアウトカムが独立でも、施設、背景、用量によって分散が異なることがあります。Lindeberg条件は、特定の患者や施設が総分散をほぼ単独で支配しないことを要求します。

ただし、同一施設内の患者が相関するなら、独立性そのものが崩れます。その場合はクラスター単位の中心極限定理、混合モデル、GEE、クラスター頑健標準誤差などが必要です。

Lindeberg–Feller定理は「異質性があっても何でも正規近似できる」という定理ではありません。独立性、総分散の増大、1項による支配がないことを確認します。

16. 何を見て、何を判断するか

目的観測・確認する情報主な理論判断できること
母平均の精度n,xˉ,sn,\bar x,s、分布形tt 分布、CLT標準誤差、信頼区間
測定精度の比較各群の標本分散、正規性χ2,F\chi^2,F 分布母分散、分散比
大標本推定量の妥当性一致性、漸近分散WLLN、Slutsky未知量のプラグインが可能か
比、対数、比率の精度元の推定量の共分散デルタ法変換後の近似標準誤差
ばらつきの均一化平均と分散の関係分散安定化変換変換候補、モデル選択
上位分位点・最大値標本数、裾、依存順序統計量、極値理論閾値超過、最悪値の確率
異質な観測の和各項の分散と高次積率Lindeberg–Feller、Lyapunov正規近似が成立する条件

17. 統計検定1級でよく問われる接続

  1. E[Xˉ]=μE[\bar X]=\muVar(Xˉ)=σ2/n\operatorname{Var}(\bar X)=\sigma^2/n を導く
  2. E[S2]=σ2E[S^2]=\sigma^2 を偏差平方和の恒等式から示す
  3. 正規標本で Xˉ\bar XS2S^2 が独立であることを使う
  4. カイ二乗変数の和、tt の定義、T2FT^2\sim F を結ぶ
  5. Chebyshevの不等式から大数の弱法則を示す
  6. CLTで和や二項確率を正規近似し、連続補正を行う
  7. 一致推定量と漸近正規性をSlutskyの定理で組み合わせる
  8. Taylor展開からデルタ法の近似分散を求める
  9. FX(n)(x)=F(x)nF_{X_{(n)}}(x)=F(x)^n から極値の分布を求める
  10. Lindeberg条件とLyapunov条件の違いを説明する
答案の型

近似問題では、(1) 元の統計量、(2) 中心化、(3) 尺度化、(4) 使う定理と条件、(5) 極限分布、(6) 元の尺度への戻し方、の順に書くと論理が崩れにくくなります。

18. 数理統計の問題

問題1:標本平均の標本分布

X1,,X25X_1,\ldots,X_{25} は平均12、分散9の母集団からの独立同一分布標本とします。

  1. E[Xˉ]E[\bar X]Var(Xˉ)\operatorname{Var}(\bar X) を求めてください。
  2. 母集団が正規分布なら、P(11.4Xˉ12.6)P(11.4\leq\bar X\leq12.6) を求めてください。

解答1

期待値と分散は、

E[Xˉ]=12E[\bar X]=12 Var(Xˉ)=925=0.36\operatorname{Var}(\bar X)=\frac{9}{25}=0.36

です。したがって標準誤差は、

SE(Xˉ)=0.36=0.6\operatorname{SE}(\bar X)=\sqrt{0.36}=0.6

です。正規母集団なら、

XˉN(12,0.36).\bar X\sim N(12,0.36).

よって、

P(11.4Xˉ12.6)=P(11.4120.6Z12.6120.6)=P(1Z1)0.6827.\begin{aligned} P(11.4\leq\bar X\leq12.6) &=P\left( \frac{11.4-12}{0.6}\leq Z\leq \frac{12.6-12}{0.6} \right)\\ &=P(-1\leq Z\leq1)\\ &\approx0.6827. \end{aligned}

問題2:不偏標本分散

X1,,XnX_1,\ldots,X_n は平均 μ\mu、分散 σ2\sigma^2 の独立同一分布標本です。

Sn2=1ni=1n(XiXˉ)2S_n^2=\frac1n\sum_{i=1}^n(X_i-\bar X)^2

と置くとき、E[Sn2]E[S_n^2] を求めてください。

解答2

偏差平方和の期待値は、

E[i=1n(XiXˉ)2]=(n1)σ2E\left[\sum_{i=1}^n(X_i-\bar X)^2\right]=(n-1)\sigma^2

でした。したがって、

E[Sn2]=1n(n1)σ2=n1nσ2.\begin{aligned} E[S_n^2] &=\frac1n(n-1)\sigma^2\\ &=\frac{n-1}{n}\sigma^2. \end{aligned}

nn で割る標本分散は母分散を過小評価します。n1n-1 で割ることで不偏になります。

問題3:母分散の信頼区間

正規母集団からの大きさ10の標本で s2=4.0s^2=4.0 を得ました。自由度9のカイ二乗分布について、

χ9,0.0252=2.700,χ9,0.9752=19.023\chi^2_{9,0.025}=2.700,\qquad \chi^2_{9,0.975}=19.023

とします。母分散 σ2\sigma^2 の95%信頼区間を求めてください。

解答3

(n1)S2σ2χn12\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}

なので、

P(2.7009S2σ219.023)=0.95.P\left( 2.700\leq\frac{9S^2}{\sigma^2}\leq19.023 \right)=0.95.

正の量について不等号を解くと、

P(9S219.023σ29S22.700)=0.95.P\left( \frac{9S^2}{19.023}\leq\sigma^2\leq \frac{9S^2}{2.700} \right)=0.95.

s2=4.0s^2=4.0 を代入して、

(3619.023,362.700)(1.89,13.33).\left( \frac{36}{19.023}, \frac{36}{2.700} \right) \approx(1.89,13.33).

分散の区間は非対称になります。

問題4:tt 統計量

正規母集団から大きさ16の標本を取り、xˉ=52\bar x=52s=8s=8 を得ました。H0:μ=48H_0:\mu=48 を検定する1標本 tt 統計量を求めてください。

解答4

t=xˉμ0s/n=52488/16=42=2.\begin{aligned} t &=\frac{\bar x-\mu_0}{s/\sqrt n}\\ &=\frac{52-48}{8/\sqrt{16}}\\ &=\frac4{2}\\ &=2. \end{aligned}

自由度は n1=15n-1=15 です。両側検定なら t|t|t15t_{15} の両側臨界値と比較します。

問題5:ttFF の関係

Tt12T\sim t_{12} とします。T2T^2 の分布を導いてください。

解答5

定義から、独立な ZN(0,1)Z\sim N(0,1)Vχ122V\sim\chi^2_{12} を使って、

T=ZV/12T=\frac{Z}{\sqrt{V/12}}

と書けます。両辺を2乗すると、

T2=Z2/1V/12.T^2=\frac{Z^2/1}{V/12}.

Z2χ12Z^2\sim\chi^2_1 なので、FF 分布の定義から、

T2F1,12.T^2\sim F_{1,12}.

問題6:Chebyshev上界

平均100、分散64の母集団から独立に64個を抽出します。P(Xˉ1002)P(|\bar X-100|\geq2) のChebyshev上界を求めてください。

解答6

標本平均の分散は、

Var(Xˉ)=6464=1.\operatorname{Var}(\bar X)=\frac{64}{64}=1.

したがって、

P(Xˉ1002)122=0.25.P(|\bar X-100|\geq2) \leq\frac{1}{2^2}=0.25.

これは分布形を使わない保証であり、実際の確率と一致するとは限りません。

問題7:大数の弱法則

XiiidBernoulli(p)X_i\overset{\mathrm{iid}}{\sim}\operatorname{Bernoulli}(p) とします。標本比率 p^n\hat p_npp に確率収束することを示してください。

解答7

Bernoulli分布の平均と分散は、

E[Xi]=p,Var(Xi)=p(1p).E[X_i]=p,\qquad\operatorname{Var}(X_i)=p(1-p).

p^n=Xˉn\hat p_n=\bar X_n なので、Chebyshevの不等式から、

P(p^npε)p(1p)nε20.P(|\hat p_n-p|\geq\varepsilon) \leq\frac{p(1-p)}{n\varepsilon^2} \to0.

よって、

p^npp.\hat p_n\xrightarrow{p}p.

問題8:二項分布の正規近似

YBin(200,0.4)Y\sim\operatorname{Bin}(200,0.4) とします。P(Y90)P(Y\geq90) を連続補正付き正規近似で表してください。

解答8

平均と分散は、

E[Y]=200(0.4)=80E[Y]=200(0.4)=80 Var(Y)=200(0.4)(0.6)=48.\operatorname{Var}(Y)=200(0.4)(0.6)=48.

Y90Y\geq90 には下側境界89.5を使うので、

P(Y90)P(Z89.58048)=P(Z1.371).\begin{aligned} P(Y\geq90) &\approx P\left(Z\geq\frac{89.5-80}{\sqrt{48}}\right)\\ &=P(Z\geq1.371). \end{aligned}

標準正規分布表から約0.085です。

問題9:Slutskyの定理

n(θ^nθ)dN(0,τ2),τ^npτ>0\sqrt n(\hat\theta_n-\theta)\xrightarrow{d}N(0,\tau^2), \qquad \hat\tau_n\xrightarrow{p}\tau>0

とします。n(θ^nθ)/τ^n\sqrt n(\hat\theta_n-\theta)/\hat\tau_n の極限分布を求めてください。

解答9

まず、

n(θ^nθ)τdN(0,1).\frac{\sqrt n(\hat\theta_n-\theta)}{\tau} \xrightarrow{d}N(0,1).

また、連続写像定理から、

ττ^np1.\frac{\tau}{\hat\tau_n}\xrightarrow{p}1.

積に分けると、

n(θ^nθ)τ^n=n(θ^nθ)τττ^n.\frac{\sqrt n(\hat\theta_n-\theta)}{\hat\tau_n} = \frac{\sqrt n(\hat\theta_n-\theta)}{\tau} \frac{\tau}{\hat\tau_n}.

Slutskyの定理より、

n(θ^nθ)τ^ndN(0,1).\frac{\sqrt n(\hat\theta_n-\theta)}{\hat\tau_n} \xrightarrow{d}N(0,1).

問題10:デルタ法によるオッズの分散

p^\hat p が、

n(p^p)dN(0,p(1p))\sqrt n(\hat p-p)\xrightarrow{d}N(0,p(1-p))

を満たすとします。推定オッズ p^/(1p^)\hat p/(1-\hat p) の漸近分散を求めてください。

解答10

g(p)=p1pg(p)=\frac{p}{1-p}

と置くと、

g(p)=(1p)+p(1p)2=1(1p)2.g'(p)=\frac{(1-p)+p}{(1-p)^2} =\frac{1}{(1-p)^2}.

デルタ法から、

n{p^1p^p1p}dN(0,p(1p)3).\sqrt n\left\{ \frac{\hat p}{1-\hat p}-\frac{p}{1-p} \right\} \xrightarrow{d} N\left(0, \frac{p}{(1-p)^3} \right).

したがって推定オッズ自体の近似分散は、

Var(p^1p^)pn(1p)3.\operatorname{Var}\left(\frac{\hat p}{1-\hat p}\right) \approx\frac{p}{n(1-p)^3}.

問題11:分散安定化変換

YPoisson(λ)Y\sim\operatorname{Poisson}(\lambda) とします。g(Y)=Yg(Y)=\sqrt Y の近似分散をデルタ法で求めてください。

解答11

g(λ)=1/(2λ)g'(\lambda)=1/(2\sqrt\lambda) なので、

Var(Y){g(λ)}2Var(Y)=14λλ=14.\begin{aligned} \operatorname{Var}(\sqrt Y) &\approx\{g'(\lambda)\}^2\operatorname{Var}(Y)\\ &=\frac{1}{4\lambda}\lambda\\ &=\frac14. \end{aligned}

近似分散は λ\lambda に依存しません。

問題12:最大値の分布

X1,,XniidExp(λ)X_1,\ldots,X_n\overset{\mathrm{iid}}{\sim}\operatorname{Exp}(\lambda) とし、Mn=X(n)M_n=X_{(n)} とします。

  1. MnM_n の分布関数を求めてください。
  2. P(Mnm)=0.95P(M_n\leq m)=0.95 となる mm を求めてください。

解答12

指数分布の分布関数は、x0x\geq0 で、

F(x)=1eλxF(x)=1-e^{-\lambda x}

です。したがって、

FMn(m)={1eλm}n.F_{M_n}(m)=\{1-e^{-\lambda m}\}^n.

95%点は、

{1eλm}n=0.95\{1-e^{-\lambda m}\}^n=0.95

を解きます。

1eλm=0.951/n1-e^{-\lambda m}=0.95^{1/n} eλm=10.951/ne^{-\lambda m}=1-0.95^{1/n}

より、

m=1λlog{10.951/n}.m=-\frac1\lambda\log\{1-0.95^{1/n}\}.

問題13:一様分布の順序統計量

U1,,U9iidUnif(0,1)U_1,\ldots,U_9\overset{\mathrm{iid}}{\sim}\operatorname{Unif}(0,1) とします。標本中央値 U(5)U_{(5)} の分布、平均、分散を求めてください。

解答13

一様分布の順序統計量より、

U(5)Beta(5,5).U_{(5)}\sim\operatorname{Beta}(5,5).

平均は、

E[U(5)]=55+5=12.E[U_{(5)}]=\frac{5}{5+5}=\frac12.

分散は、

Var(U(5))=55(5+5)2(5+5+1)=251100=144.\begin{aligned} \operatorname{Var}(U_{(5)}) &=\frac{5\cdot5}{(5+5)^2(5+5+1)}\\ &=\frac{25}{1100}\\ &=\frac1{44}. \end{aligned}

問題14:収束様式

UUnif(0,1)U\sim\operatorname{Unif}(0,1) とし、Xn=U/nX_n=U/n とします。XnX_n の概収束、確率収束、平均二乗収束を調べてください。

解答14

任意の標本点で 0U10\leq U\leq1 なので、

0Xn=Un1n0.0\leq X_n=\frac Un\leq\frac1n\to0.

したがって、すべての標本点で Xn0X_n\to0 であり、

Xna.s.0.X_n\xrightarrow{a.s.}0.

また、

E[(Xn0)2]=E[U2]n2=13n20E[(X_n-0)^2] =\frac{E[U^2]}{n^2} =\frac{1}{3n^2} \to0

なので、

XnL20.X_n\xrightarrow{L^2}0.

どちらからも確率収束が従い、

Xnp0.X_n\xrightarrow{p}0.

問題15:Lyapunov条件

nn で独立な確率変数 Xn1,,XnnX_{n1},\ldots,X_{nn} が、E[Xnj]=0E[X_{nj}]=0Var(Xnj)=1\operatorname{Var}(X_{nj})=1、さらに一様に、

E[Xnj3]CE[|X_{nj}|^3]\leq C

を満たすとします。δ=1\delta=1 のLyapunov条件を確認してください。

解答15

総分散は、

sn2=j=1n1=ns_n^2=\sum_{j=1}^n1=n

なので、sn3=n3/2s_n^3=n^{3/2} です。したがって、

1sn3j=1nE[Xnj3]nCn3/2=Cn0.\begin{aligned} \frac{1}{s_n^3}\sum_{j=1}^nE[|X_{nj}|^3] &\leq\frac{nC}{n^{3/2}}\\ &=\frac{C}{\sqrt n}\\ &\to0. \end{aligned}

よってLyapunov条件が成り立ち、

1nj=1nXnjdN(0,1).\frac{1}{\sqrt n}\sum_{j=1}^nX_{nj} \xrightarrow{d}N(0,1).

問題16:tt 分布と FF 分布の積率・存在条件

独立な確率変数

ZN(0,1),Vχν2Z\sim N(0,1), \qquad V\sim\chi_\nu^2

から、

T=ZV/νT=\frac{Z}{\sqrt{V/\nu}}

を定義します。

  1. TT の平均と分散、およびそれらが存在する自由度の条件を求めてください。
  2. 独立な Uχm2U\sim\chi_m^2Vχn2V\sim\chi_n^2 に対し、F=(U/m)/(V/n)F=(U/m)/(V/n) とします。E[Fr]E[F^r] と、その存在条件を求めてください。

解答16

TT は自由度 ν\nutt 分布に従います。分布は0について対称なので、絶対可積分である ν>1\nu>1 のとき、

E[T]=0E[T]=0

です。ν1\nu\leq1 では平均は存在しません。

ν>2\nu>2 のとき、独立性より、

E[T2]=E[Z2]νE[V1]=1×ν×1ν2=νν2.\begin{aligned} E[T^2] &=E[Z^2]\,\nu E[V^{-1}]\\ &=1\times\nu\times\frac{1}{\nu-2}\\ &=\frac{\nu}{\nu-2}. \end{aligned}

平均が0なので、

Var(T)=νν2(ν>2)\operatorname{Var}(T)=\frac{\nu}{\nu-2}\quad(\nu>2)

です。1<ν21<\nu\leq2 では平均は存在しますが、分散は存在しません。

次に、

Fr=(nm)rUrVrF^r=\left(\frac{n}{m}\right)^rU^rV^{-r}

です。独立性とカイ二乗分布の積率公式から、

E[Ur]=2rΓ(m/2+r)Γ(m/2),E[U^r] =2^r\frac{\Gamma(m/2+r)}{\Gamma(m/2)}, E[Vr]=2rΓ(n/2r)Γ(n/2).E[V^{-r}] =2^{-r}\frac{\Gamma(n/2-r)}{\Gamma(n/2)}.

よって、

E[Fr]=(nm)rΓ(m/2+r)Γ(n/2r)Γ(m/2)Γ(n/2)E[F^r] =\left(\frac{n}{m}\right)^r \frac{\Gamma(m/2+r)\Gamma(n/2-r)} {\Gamma(m/2)\Gamma(n/2)}

です。存在条件は、

m2<r<n2-\frac m2<r<\frac n2

です。特に r=1r=1 とすれば、n>2n>2 のとき、

E[F]=nn2E[F]=\frac{n}{n-2}

を得ます。

答案で気をつけること

平均・分散の値だけでなく、存在する自由度の範囲を書きます。対称性だけでは平均0とはいえず、絶対可積分性が必要です。FF 分布の高次積率の存在条件は分母側の自由度 nn が支配します。

問題17:標本分散の漸近正規性

X1,,XnX_1,\ldots,X_n は平均 μ\mu、分散 σ2\sigma^2 の母集団からのi.i.d.標本で、

μ4=E[(X1μ)4]<\mu_4=E[(X_1-\mu)^4]<\infty

とします。不偏標本分散

Sn2=1n1i=1n(XiXˉn)2S_n^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X_n)^2

に対して、

n(Sn2σ2)dN(0,μ4σ4)\sqrt n(S_n^2-\sigma^2) \xrightarrow{d}N(0,\mu_4-\sigma^4)

を示してください。

解答17

恒等式

i=1n(XiXˉn)2=i=1n(Xiμ)2n(Xˉnμ)2\sum_{i=1}^n(X_i-\bar X_n)^2 =\sum_{i=1}^n(X_i-\mu)^2-n(\bar X_n-\mu)^2

より、

Sn2=nn1{1ni=1n(Xiμ)2(Xˉnμ)2}.S_n^2 =\frac{n}{n-1} \left\{ \frac1n\sum_{i=1}^n(X_i-\mu)^2-(\bar X_n-\mu)^2 \right\}.

Yi=(Xiμ)2Y_i=(X_i-\mu)^2 とおくと、

E[Yi]=σ2,Var(Yi)=μ4σ4.E[Y_i]=\sigma^2, \qquad \operatorname{Var}(Y_i)=\mu_4-\sigma^4.

中心極限定理より、

n(1ni=1nYiσ2)dN(0,μ4σ4).\sqrt n\left(\frac1n\sum_{i=1}^nY_i-\sigma^2\right) \xrightarrow{d}N(0,\mu_4-\sigma^4).

一方、Xˉnμ=Op(n1/2)\bar X_n-\mu=O_p(n^{-1/2}) なので、

n(Xˉnμ)2=Op(n1/2)p0.\sqrt n(\bar X_n-\mu)^2=O_p(n^{-1/2})\xrightarrow{p}0.

また、n/(n1)1n/(n-1)\to1 であり、不偏化による差 nσ2/(n1)\sqrt n\,\sigma^2/(n-1) も0へ収束します。したがってSlutskyの定理より、

n(Sn2σ2)dN(0,μ4σ4).\sqrt n(S_n^2-\sigma^2) \xrightarrow{d}N(0,\mu_4-\sigma^4).

正規母集団では μ4=3σ4\mu_4=3\sigma^4 なので、極限分散は 2σ42\sigma^4 です。

答案で気をつけること

標本分散をそのまま扱わず、真の平均まわりの2次モーメントと標本平均の補正に分解します。OpO_p の項を消すときは、Xˉnμ=Op(n1/2)\bar X_n-\mu=O_p(n^{-1/2}) から二乗の次数を明記します。

問題18:デルタ法と境界事象の処理

KnBin(n,p)K_n\sim\operatorname{Bin}(n,p)0<p<10<p<1 とし、p^n=Kn/n\hat p_n=K_n/n とします。Kn1K_n\geq1 のとき Yn=logp^nY_n=\log\hat p_nKn=0K_n=0 のとき Yn=0Y_n=0 と定義します。次を示してください。

YnplogpY_n\xrightarrow{p}\log p n(Ynlogp)dN(0,1pp)\sqrt n(Y_n-\log p) \xrightarrow{d}N\left(0,\frac{1-p}{p}\right)

解答18

大数の法則より、

p^npp.\hat p_n\xrightarrow{p}p.

p>0p>0g(x)=logxg(x)=\log x は連続なので、連続写像定理から、通常は logp^nplogp\log\hat p_n\xrightarrow{p}\log p といえます。ここでは p^n=0\hat p_n=0 で対数が定義できませんが、

P(Kn=0)=(1p)n0P(K_n=0)=(1-p)^n\to0

です。したがって、0回成功のときだけ別の値を割り当てても確率極限は変わりません。

二項分布の中心極限定理より、

n(p^np)dN(0,p(1p)).\sqrt n(\hat p_n-p) \xrightarrow{d}N(0,p(1-p)).

g(p)=1/pg'(p)=1/p なので、デルタ法により、

n{g(p^n)g(p)}dN(0,{g(p)}2p(1p))=N(0,1pp).\begin{aligned} \sqrt n\{g(\hat p_n)-g(p)\} &\xrightarrow{d} N\left(0,\{g'(p)\}^2p(1-p)\right)\\ &=N\left(0,\frac{1-p}{p}\right). \end{aligned}

Kn=0K_n=0 の事象の確率は0へ収束するため、同じ極限が YnY_n にも成り立ちます。

答案で気をつけること

対数変換では0が定義域外になる問題を無視しません。「その事象の確率が0へ行くため、任意の値で補っても極限分布は変わらない」と説明します。デルタ法では導関数と元の極限分散を別々に書くと計算ミスを防げます。

問題19:指数分布の最大値とGumbel分布

X1,,XnX_1,\ldots,X_n は率 λ\lambda の指数分布に従うi.i.d.確率変数とし、

Mn=max(X1,,Xn)M_n=\max(X_1,\ldots,X_n)

とします。次を示してください。

λMnlogndG,\lambda M_n-\log n \xrightarrow{d}G,

ただし GG の分布関数は、

P(Gx)=exp(ex)P(G\leq x)=\exp(-e^{-x})

です。

解答19

固定した実数 xx に対し、十分大きな nn では (logn+x)/λ>0(\log n+x)/\lambda>0 です。独立性より、

P(λMnlognx)=P(Mnlogn+xλ)=i=1nP(Xilogn+xλ)={1exp[(logn+x)]}n=(1exn)n.\begin{aligned} P(\lambda M_n-\log n\leq x) &=P\left(M_n\leq\frac{\log n+x}{\lambda}\right)\\ &=\prod_{i=1}^n P\left(X_i\leq\frac{\log n+x}{\lambda}\right)\\ &=\left\{1-\exp[-(\log n+x)]\right\}^n\\ &=\left(1-\frac{e^{-x}}{n}\right)^n. \end{aligned}

nn\to\infty とすると、(1a/n)nea(1-a/n)^n\to e^{-a} より、

P(λMnlognx)exp(ex).P(\lambda M_n-\log n\leq x) \to\exp(-e^{-x}).

よってGumbel分布への分布収束が示されました。

答案で気をつけること

最大値の分布は P(Mnx)=F(x)nP(M_n\leq x)=F(x)^n から始めます。正規化は「中心化 logn\log n」と「尺度 1/λ1/\lambda」の両方が必要です。極限分布のCDFが0から1へ増加する向きも確認します。

問題20:重み付き平均の大数の法則

X1,X2,X_1,X_2,\ldots は平均 μ\mu、分散 σ2<\sigma^2<\infty のi.i.d.確率変数とします。

Tn=2n(n+1)j=1njXjT_n=\frac{2}{n(n+1)}\sum_{j=1}^n jX_j

に対して、TnpμT_n\xrightarrow{p}\mu を示してください。

解答20

重みの総和は、

2n(n+1)j=1nj=1\frac{2}{n(n+1)}\sum_{j=1}^n j=1

なので、

E[Tn]=μE[T_n]=\mu

です。独立性より、

Var(Tn)=4σ2n2(n+1)2j=1nj2=4σ2n2(n+1)2n(n+1)(2n+1)6=2σ2(2n+1)3n(n+1)0.\begin{aligned} \operatorname{Var}(T_n) &=\frac{4\sigma^2}{n^2(n+1)^2}\sum_{j=1}^n j^2\\ &=\frac{4\sigma^2}{n^2(n+1)^2} \frac{n(n+1)(2n+1)}{6}\\ &=\frac{2\sigma^2(2n+1)}{3n(n+1)}\\ &\to0. \end{aligned}

したがって、任意の ε>0\varepsilon>0 に対してChebyshevの不等式から、

P(Tnμε)Var(Tn)ε20.P(|T_n-\mu|\geq\varepsilon) \leq\frac{\operatorname{Var}(T_n)}{\varepsilon^2} \to0.

よって TnpμT_n\xrightarrow{p}\mu です。

答案で気をつけること

重み付き平均では、重みの総和が1か、最大の重みが0へ行くかを確認します。独立性がない場合は分散に共分散項が加わるため、この計算をそのまま使えません。

発展問題21:Chernoff境界をポアソン分布で最適化する

積率母関数 MX(t)=E[etX]M_X(t)=E[e^{tX}] が存在するとき、t>0t>0 に対して、

P(Xa)etaMX(t)P(X\geq a)\leq e^{-ta}M_X(t)

を示してください。さらに、XPoisson(λ)X\sim\operatorname{Poisson}(\lambda)a>λa>\lambda のとき、右辺を tt について最小化してください。

解答21

t>0t>0 なら xetxx\mapsto e^{tx} は単調増加なので、

{Xa}={etXeta}.\{X\geq a\}=\{e^{tX}\geq e^{ta}\}.

非負確率変数 etXe^{tX} にMarkovの不等式を適用すると、

P(Xa)E[etX]eta=etaMX(t).P(X\geq a) \leq\frac{E[e^{tX}]}{e^{ta}} =e^{-ta}M_X(t).

ポアソン分布の積率母関数は、

MX(t)=exp{λ(et1)}M_X(t)=\exp\{\lambda(e^t-1)\}

なので、上界の対数は、

q(t)=ta+λ(et1)q(t)=-ta+\lambda(e^t-1)

です。微分すると、

q(t)=a+λet,q(t)=λet>0.q'(t)=-a+\lambda e^t, \qquad q''(t)=\lambda e^t>0.

a>λa>\lambda より、最小点は正の値

t=logaλt^*=\log\frac{a}{\lambda}

です。これを代入して、

P(Xa)exp{alogaλ+aλ}P(X\geq a) \leq \exp\left\{-a\log\frac{a}{\lambda}+a-\lambda\right\}

を得ます。

答案で気をつけること

上側確率では t>0t>0、下側確率では通常 t<0t<0 を使います。最適化では対数を取ってから微分し、停留点が許された範囲に入ることと2階微分が正であることを確認します。

19. 医薬・生物統計の問題

問題1:独立単位と標準誤差

対照群6匹、処置群6匹のマウスから、それぞれ1匹当たり200細胞を測定しました。細胞レベルの測定値を使って処置効果を比較したいとします。

  1. 処置効果の独立な標本数を各群1200と考えてよいですか。
  2. どのような解析単位またはモデルが候補ですか。

解答1

各群1200とは考えられません。処置はマウスに割り付けられ、同じマウス内の細胞は共通の生物学的背景、処置、調製、測定バッチを共有するため依存します。

目的に応じて、次が候補です。

  • マウスごとに細胞測定を要約し、各群 n=6n=6 として比較する
  • 細胞をレベル1、マウスをレベル2とする階層モデルを使う
  • 遺伝子発現なら、個体単位のpseudobulkを作る

細胞数を増やすと各マウス内の要約精度は上がりますが、個体間変動を推定する独立単位は増えません。

問題2:小標本の薬効指標

独立な10例で、投与前後差の平均が 4.0-4.0、標本標準偏差が5.0でした。差が正規分布に従うと仮定し、母平均差の95%信頼区間を求めてください。t9,0.975=2.262t_{9,0.975}=2.262 とします。

解答2

対応差を1標本として扱います。標準誤差は、

sn=5101.581.\frac{s}{\sqrt n}=\frac5{\sqrt{10}}\approx1.581.

したがって、

dˉ±t9,0.975sn=4.0±2.262(1.581)=4.0±3.576.\begin{aligned} \bar d\pm t_{9,0.975}\frac{s}{\sqrt n} &=-4.0\pm2.262(1.581)\\ &=-4.0\pm3.576. \end{aligned}

95%信頼区間は、

(7.58,0.42)(-7.58,-0.42)

です。0を含まないことは統計的な差を示しますが、臨床的意義は効果量、評価尺度、事前に定めた重要差と合わせて判断します。

問題3:2つの測定法の精度

同じ濃度水準で、測定法Aを11回、測定法Bを9回独立に測定し、標本分散がそれぞれ sA2=1.8s_A^2=1.8sB2=0.9s_B^2=0.9 でした。正規性と独立性を仮定します。

  1. 分散比統計量を求めてください。
  2. 帰無仮説のもとでの分布を書いてください。
  3. 実務上の注意を述べてください。

解答3

分散比は、

F=sA2sB2=1.80.9=2.0.F=\frac{s_A^2}{s_B^2}=\frac{1.8}{0.9}=2.0.

H0:σA2=σB2H_0:\sigma_A^2=\sigma_B^2 のもとで、

FF10,8.F\sim F_{10,8}.

ただし、測定日の違い、試料調製、装置バッチ、濃度依存の不均一分散、外れ値を確認します。同一試料を両測定法で測ったなら結果は対応しており、独立2標本の単純な分散比だけでは設計を十分に表せません。

問題4:有害事象割合とデルタ法

独立な400例中、80例で有害事象が観測されました。

  1. 標本比率とその近似標準誤差を求めてください。
  2. g(p)=log{p/(1p)}g(p)=\log\{p/(1-p)\} の近似標準誤差を求めてください。

解答4

標本比率は、

p^=80400=0.20.\hat p=\frac{80}{400}=0.20.

近似標準誤差は、

SE^(p^)=0.2(0.8)400=0.02.\widehat{\operatorname{SE}}(\hat p) =\sqrt{\frac{0.2(0.8)}{400}} =0.02.

ロジット関数の微分は、

g(p)=1p+11p=1p(1p).g'(p)=\frac1p+\frac1{1-p} =\frac{1}{p(1-p)}.

したがって、

SE^{g(p^)}1p^(1p^)SE^(p^)=0.020.2(0.8)=0.125.\begin{aligned} \widehat{\operatorname{SE}}\{g(\hat p)\} &\approx \frac{1}{\hat p(1-\hat p)} \widehat{\operatorname{SE}}(\hat p)\\ &=\frac{0.02}{0.2(0.8)}\\ &=0.125. \end{aligned}

比率が0または1に近い場合、単純な正規近似やロジット変換は不安定になるため、二項尤度に基づく方法を検討します。

問題5:コロニー数と平方根変換

ある培養条件で、1視野当たりのコロニー数を YPoisson(25)Y\sim\operatorname{Poisson}(25) と近似します。

  1. YY の標準偏差を求めてください。
  2. Y\sqrt Y の近似標準偏差を求めてください。
  3. データ解析でPoisson仮定以外に確認すべきことを挙げてください。

解答5

Poisson分布では分散が平均に等しいため、

SD(Y)=25=5.\operatorname{SD}(Y)=\sqrt{25}=5.

平方根変換後の近似分散は 1/41/4 なので、

SD(Y)12.\operatorname{SD}(\sqrt Y)\approx\frac12.

解析では、過分散、ゼロ過剰、視野面積の違い、同一培養皿内の視野間相関、検出限界を確認します。過分散があるなら負の二項分布、階層構造があるならランダム効果を含む計数モデルが候補です。

問題6:最大QT延長の解釈

同じ分布から独立に得られるQT延長量を考えます。試験Aは各患者1時点、試験Bは各患者20時点で測定し、各患者の最大値を報告しました。試験Bの最大値が大きい傾向を示しました。

この結果だけから試験Bの薬剤が危険だと結論できますか。

解答6

結論できません。MnM_n の分布関数は、

P(Mnx)=F(x)nP(M_n\leq x)=F(x)^n

なので、同じ母分布でも観測回数 nn が多いほど最大値は大きくなりやすいからです。

少なくとも、測定時点数、時間窓、ベースライン補正、同一患者内相関、欠測、心拍補正法、併用薬をそろえて比較します。最大値だけでなく、事前指定時点、時間平均、閾値超過、濃度QTモデルなどを検討します。

問題7:多施設データとLindeberg条件

多数の独立患者について治療効果の和を考えます。患者ごとに分散が異なりますが、各患者の寄与は有界で、総分散は患者数とともに増加するとします。

  1. iid中心極限定理をそのまま引用してよいですか。
  2. Lindeberg条件を薬学的に説明してください。

解答7

同一分布ではないため、iid中心極限定理をそのまま引用するのは不十分です。独立非同一分布のLindeberg–Feller定理などの条件を確認します。

薬学的には、特定の1患者の極端な反応や極端に大きな分散が、研究全体のばらつきを支配しないことを要求します。有界な寄与と増大する総分散はLindeberg条件を満たしやすくします。

ただし、施設内相関がある場合は患者間独立性が崩れるため、施設をクラスターとして扱う必要があります。

問題8:上位分位点のバイオマーカー

バイオマーカー分布の95%分位点を正常上限として推定したいとします。標本中央値より大きな標本数が必要になりやすい理由を、順序統計量と漸近分散から説明してください。

解答8

95%分位点は並べた標本の上端近くにあり、それより大きい観測は全体の約5%しかありません。したがって、実質的に利用できる裾の情報が少なくなります。

漸近分散は、

Var(ξ^p)p(1p)nf(ξp)2\operatorname{Var}(\hat\xi_p) \approx \frac{p(1-p)}{n f(\xi_p)^2}

です。上側裾では密度 f(ξ0.95)f(\xi_{0.95}) が小さいことが多く、分母が小さくなるため分散が大きくなります。

正常上限を設定するには、対象集団の定義、年齢・性別などの層別、測定誤差、外れ値、必要な信頼度を踏まえて標本数を設計します。

問題9:薬物動態量の比

同じ被験者で測定したAUCと CmaxC_{\max} の推定量を θ^1,θ^2\hat\theta_1,\hat\theta_2 とし、その比 R=θ1/θ2R=\theta_1/\theta_2 の標準誤差をデルタ法で求めたいとします。共分散を無視してよいでしょうか。

解答9

同じ被験者から得たAUCと CmaxC_{\max} は通常相関するため、共分散を無視すべきではありません。勾配、

g=(1/θ2θ1/θ22)\nabla g= \begin{pmatrix} 1/\theta_2\\ -\theta_1/\theta_2^2 \end{pmatrix}

と共分散行列 Σ\Sigma を用いて、

Var(R^)1ngΣg\operatorname{Var}(\hat R) \approx \frac1n\nabla g^\top\Sigma\nabla g

と評価します。共分散項の符号によって、独立と仮定した計算より分散が大きくも小さくもなります。

20. まとめ

  • 統計量は標本の関数であり、標本を取り直すと変動するため標本分布をもつ
  • 標本平均は母平均の不偏推定量で、分散は σ2/n\sigma^2/n である
  • 正規標本では、標本平均、標本分散、χ2\chi^2ttFF 分布が厳密につながる
  • Xˉ\bar XS2S^2 の独立性は正規性に依存する重要な結果である
  • Chebyshevの不等式から大数の弱法則を導ける
  • 中心極限定理は標準化した和の分布収束であり、大数の法則とは結論が異なる
  • 連続写像定理とSlutskyの定理は、一致推定量を複雑な統計量へ広げる
  • デルタ法はTaylor展開によって変換後の近似分散を与える
  • 分散安定化変換は平均とともに変わる分散をそろえる考え方である
  • 順序統計量は分位点、最小値、最大値を扱い、極値理論は標準化最大値の極限を扱う
  • 概収束は確率収束より強く、大数の強法則は標本経路ごとの収束を述べる
  • Lindeberg–FellerとLyapunovの定理は、独立だが同一分布でない和の正規近似を支える

標本分布と極限定理の役割は、「標本数が多ければ何とかなる」と言うことではありません。 どの統計量を使い、どの独立性・分布・積率条件のもとで、何が厳密で何が近似なのかを明らかにすることです。