この章で目指すこと

母集団の分布そのものは、普通は見えません。手元にあるのは、そこから得た有限個の標本です。 そこで統計学では、標本から計算した量が、標本を取り直すたびにどのように変動するかを考えます。これが標本分布です。

「同じ実験を何度もやり直す」頭の中の実験

独立なマウス5匹の反応量から平均を計算したとします。 得られた平均が10だったとしても、別の5匹を選べば9.4や10.8になるかもしれません。 この標本抽出を何度も繰り返し、そのたびに得られる平均を並べた分布が、標本平均の標本分布です。

区別するもの中身
母集団分布個体レベルの値の分布すべての対象個体のAUC
1回の標本実際に集めた有限個の値今回測定した5匹のAUC
標本分布同じ方法で標本を取り直したときの統計量の分布5匹の平均AUCを繰り返し計算した分布

標本分布は「手元の5個の値を描いたヒストグラム」ではありません。 平均、分散、比率など、標本から計算した量そのものの不確実性を表します。

この章を学ぶと、次の「情報から何を学べるか」がつながります。

手元にある情報使う考え方学べること
標本平均と標本数標本平均の分布・中心極限定理母平均の推定精度、信頼区間、検定統計量
標本分散カイ二乗分布母分散の推定、測定精度の不確実性
小標本の平均と標本分散tt 分布母分散未知でも母平均を推測する方法
2群の標本分散FF 分布分散比、モデル比較、分散分析の基礎
標本数を増やしたときの統計量収束・大数の法則・中心極限定理推定量が正しい値へ近づく条件と近似分布
比率、対数、比などの非線形な量連続写像定理・Slutsky・デルタ法変換後の標準誤差と近似信頼区間
最小値、中央値、最大値順序統計量・極値理論分位点、最悪値、ピーク値の確率評価
初めて読むときの順番

まず統計量と標本分布、標本平均、標本分散を読みます。次に正規母集団で厳密に成り立つカイ二乗・t・F分布へ進み、その後で大数の法則と中心極限定理を学びます。Slutsky、デルタ法、極値理論、Lindeberg条件は3周目でも構いません。

例えば、薬物動態試験の平均AUCを計算しただけでは、「別の被験者を集めたら平均がどれだけ動くか」は分かりません。 標本分布を使うと、観測された平均を母平均へ橋渡しできます。

有限標本平均・分散を統計量として計算
正規標本なら厳密に →
χ2\chi^2ttFF小標本でも使える標本分布
標本数を増やすと →
大数の法則・CLT一致性と正規近似
関数へ広げる →
Slutsky・デルタ法複雑な統計量の近似分布

1. 統計量と標本分布

1.1 母集団、無作為標本、実現値

母集団分布を FF とし、そこから独立に同じ分布で得られる確率変数を、

X1,X2,,XniidFX_1,X_2,\ldots,X_n\overset{\mathrm{iid}}{\sim}F

と書きます。iid は independent and identically distributed、すなわち独立同一分布の略です。

標本を得る前の XiX_i は確率変数です。一方、実際に観測された数値は、

x1,x2,,xnx_1,x_2,\ldots,x_n

と小文字で書きます。

独立同一分布は便利ですが、薬学・生命科学データでは自動的に成立しません。 同じマウスから得た500細胞、同じ患者の反復採血、同じプレート内のウェルは互いに依存しうるため、見かけの観測数をそのまま nn としてはいけません。

1.2 統計量とは

統計量は、未知母数を含まず、標本だけから計算できる関数です。

T=T(X1,,Xn)T=T(X_1,\ldots,X_n)

代表例は、標本平均、標本分散、標本比率です。

Xˉ=1ni=1nXi\bar X=\frac{1}{n}\sum_{i=1}^nX_i S2=1n1i=1n(XiXˉ)2S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2 p^=1ni=1nI(Xi=1)\hat p=\frac{1}{n}\sum_{i=1}^n I(X_i=1)

観測前には TT も確率変数なので、分布をもちます。この分布が標本分布です。

  • 推定量:観測前の確率変数としての Xˉ\bar X
  • 推定値:データから得た具体的な数値としての xˉ\bar x
  • 標本分布:標本を取り直したときの推定量の分布

ここを区別すると、「標本のヒストグラム」と「標本平均の標本分布」の混同を防げます。

1.3 標本平均の平均と分散

E[Xi]=μE[X_i]=\muVar(Xi)=σ2\operatorname{Var}(X_i)=\sigma^2 とします。期待値の線形性から、

E[Xˉ]=E[1ni=1nXi]=1ni=1nE[Xi]=1nnμ=μ\begin{aligned} E[\bar X] &=E\left[\frac{1}{n}\sum_{i=1}^nX_i\right]\\ &=\frac{1}{n}\sum_{i=1}^nE[X_i]\\ &=\frac{1}{n}\cdot n\mu\\ &=\mu \end{aligned}

です。したがって Xˉ\bar Xμ\mu の不偏推定量です。

独立性を使うと、

Var(Xˉ)=Var(1ni=1nXi)=1n2Var(i=1nXi)=1n2i=1nVar(Xi)=nσ2n2=σ2n\begin{aligned} \operatorname{Var}(\bar X) &=\operatorname{Var}\left(\frac{1}{n}\sum_{i=1}^nX_i\right)\\ &=\frac{1}{n^2}\operatorname{Var}\left(\sum_{i=1}^nX_i\right)\\ &=\frac{1}{n^2}\sum_{i=1}^n\operatorname{Var}(X_i)\\ &=\frac{n\sigma^2}{n^2}\\ &=\frac{\sigma^2}{n} \end{aligned}

となります。標準偏差を取った、

SE(Xˉ)=σn\operatorname{SE}(\bar X)=\frac{\sigma}{\sqrt n}

が標本平均の標準誤差です。

標本数を4倍にしても標準誤差は 1/21/2 にしかなりません。標準誤差を 1/101/10 にするには、独立な標本数を100倍にする必要があります。

頻出ポイント

分散の計算で共分散項を消したのは独立性を仮定したからです。依存がある場合は、2i<jCov(Xi,Xj)2\sum_{i<j}\operatorname{Cov}(X_i,X_j) が残ります。

1.4 なぜ標本分散は n1n-1 で割るのか

まず恒等式、

i=1n(XiXˉ)2=i=1n(Xiμ)2n(Xˉμ)2\sum_{i=1}^n(X_i-\bar X)^2 = \sum_{i=1}^n(X_i-\mu)^2-n(\bar X-\mu)^2

を導きます。

XiXˉ=(Xiμ)(Xˉμ)X_i-\bar X=(X_i-\mu)-(\bar X-\mu) と置いて展開すると、

i=1n(XiXˉ)2=i=1n{(Xiμ)(Xˉμ)}2=i=1n(Xiμ)22(Xˉμ)i=1n(Xiμ)+n(Xˉμ)2.\begin{aligned} \sum_{i=1}^n(X_i-\bar X)^2 &=\sum_{i=1}^n\{(X_i-\mu)-(\bar X-\mu)\}^2\\ &=\sum_{i=1}^n(X_i-\mu)^2 -2(\bar X-\mu)\sum_{i=1}^n(X_i-\mu) +n(\bar X-\mu)^2. \end{aligned}

ここで、

i=1n(Xiμ)=n(Xˉμ)\sum_{i=1}^n(X_i-\mu)=n(\bar X-\mu)

なので、中央の項と最後の項をまとめると上の恒等式になります。両辺の期待値を取れば、

E[i=1n(XiXˉ)2]=nσ2nVar(Xˉ)=nσ2nσ2n=(n1)σ2.\begin{aligned} E\left[\sum_{i=1}^n(X_i-\bar X)^2\right] &=n\sigma^2-n\operatorname{Var}(\bar X)\\ &=n\sigma^2-n\frac{\sigma^2}{n}\\ &=(n-1)\sigma^2. \end{aligned}

よって、

E[S2]=E[1n1i=1n(XiXˉ)2]=σ2E[S^2] =E\left[\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2\right] =\sigma^2

です。平均を標本から推定したため、偏差 XiXˉX_i-\bar X には、

i=1n(XiXˉ)=0\sum_{i=1}^n(X_i-\bar X)=0

という1本の制約が入ります。自由に動ける偏差が n1n-1 個になることが、自由度 n1n-1 の直感です。

1.5 薬学での読み方

ある条件で独立な6匹のマウスから得た反応量の平均が10、標本標準偏差が2なら、平均の推定標準誤差は、

SE^(Xˉ)=260.816\widehat{\operatorname{SE}}(\bar X)=\frac{2}{\sqrt6}\approx0.816

です。一方、各マウスから100細胞を測って600点に増えても、処置を独立に受けた単位が6匹なら、処置効果の標本数を600とみなすのは擬似反復です。

2. 図を動かして全体像をつかむ

下の図では、同じテーマを5つの視点から確認できます。

  • 標本平均:歪んだ母集団でも、標本数とともに標準化平均が正規分布へ近づく
  • ttχ2\chi^2FF:自由度で裾や歪みがどう変わるか
  • 大数の法則:標本平均の経路とChebyshev上界
  • デルタ法:比率を変換すると標準誤差がどう変わるか
  • 順序・極値:最小値、kk 番目、最大値の分布

INTERACTIVE

標本分布と極限定理を動かして理解する

標本数や自由度を変え、有限標本の分布がどのように安定し、極限分布へ近づくかを比較します。

理論上の E(標本平均)
標準誤差
シミュレーション歪度
標準化した標本平均の標本分布母集団と標本数を変え、標準化した標本平均のシミュレーション分布を標準正規密度と比較する。

シミュレーションは定理の証明ではありません。しかし、定理の条件と結論を視覚的に切り分ける助けになります。

3. 正規母集団からの代表的な標本分布

以降、

X1,,XniidN(μ,σ2)X_1,\ldots,X_n\overset{\mathrm{iid}}{\sim}N(\mu,\sigma^2)

とします。正規母集団では、標本数が小さくても次の結果が厳密に成立します。

XˉN(μ,σ2n)\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right) (n1)S2σ2χn12\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1} Xˉ  S2\bar X\ \perp\ S^2

最後の記号 \perp は独立を表します。

3.1 標本平均の分布の導出

まず、仮定と結論を分けて書きます。

X1,,XniidN(μ,σ2)X_1,\ldots,X_n \overset{\mathrm{iid}}{\sim} N(\mu,\sigma^2)

とは、次の2つを同時に仮定するという意味です。

  1. XiX_i が同じ正規分布 N(μ,σ2)N(\mu,\sigma^2) に従う
  2. X1,,XnX_1,\ldots,X_n が互いに独立である

このとき示したい結論は、

XˉN(μ,σ2n)\boxed{ \bar X \sim N\left(\mu,\frac{\sigma^2}{n}\right) }

です。

導出1:標準化した正規変数の和として見る

XiX_i を標準化して、

Zi=XiμσZ_i=\frac{X_i-\mu}{\sigma}

と置きます。すると、

Z1,,ZniidN(0,1)Z_1,\ldots,Z_n \overset{\mathrm{iid}}{\sim}N(0,1)

です。元の変数は、

Xi=μ+σZiX_i=\mu+\sigma Z_i

と書けます。これを標本平均へ代入します。

Xˉ=1ni=1nXi=1ni=1n(μ+σZi)=1n(nμ+σi=1nZi)=μ+σni=1nZi.\begin{aligned} \bar X &=\frac1n\sum_{i=1}^nX_i\\ &=\frac1n\sum_{i=1}^n(\mu+\sigma Z_i)\\ &=\frac1n\left(n\mu+\sigma\sum_{i=1}^nZ_i\right)\\ &=\mu+\frac{\sigma}{n}\sum_{i=1}^nZ_i. \end{aligned}

ここで、和を標準偏差1になるように調整した、

Z=1ni=1nZiZ=\frac1{\sqrt n}\sum_{i=1}^nZ_i

を考えます。期待値は、

E[Z]=1ni=1nE[Zi]=0E[Z] =\frac1{\sqrt n}\sum_{i=1}^nE[Z_i] =0

です。独立性を使うと分散は、

Var(Z)=Var(1ni=1nZi)=1ni=1nVar(Zi)=1nn=1.\begin{aligned} \operatorname{Var}(Z) &=\operatorname{Var}\left( \frac1{\sqrt n}\sum_{i=1}^nZ_i \right)\\ &=\frac1n\sum_{i=1}^n\operatorname{Var}(Z_i)\\ &=\frac1n\cdot n\\ &=1. \end{aligned}

さらに、独立な正規確率変数の線形結合は正規分布に従うため、

ZN(0,1)Z\sim N(0,1)

です。したがって、

i=1nZi=nZ\sum_{i=1}^nZ_i=\sqrt n Z

を先ほどの式へ戻すと、

Xˉ=μ+σnnZ=μ+σnZ.\begin{aligned} \bar X &=\mu+\frac{\sigma}{n}\sqrt n Z\\ &=\mu+\frac{\sigma}{\sqrt n}Z. \end{aligned}

ZN(0,1)Z\sim N(0,1) に定数を掛けて位置をずらした形なので、

XˉN(μ,σ2n)\bar X \sim N\left(\mu,\frac{\sigma^2}{n}\right)

を得ます。

nn で割るのに、標準偏差が 1/n1/n にならない理由

独立な nn 個の和の分散は nσ2n\sigma^2 です。その和を nn で割ると、分散には係数の2乗 1/n21/n^2 が掛かります。したがって分散は nσ2/n2=σ2/nn\sigma^2/n^2=\sigma^2/n、標準偏差はその平方根の σ/n\sigma/\sqrt n です。

導出2:積率母関数で分布そのものを確認する

上の導出で使った「正規変数の線形結合は正規分布」という性質を、積率母関数から確かめます。

積率母関数の定義は、

MX(t)=E[etX]M_X(t)=E[e^{tX}]

です。XN(μ,σ2)X\sim N(\mu,\sigma^2) なら、密度を代入して、

MX(t)=etx12πσexp[(xμ)22σ2]dxM_X(t) =\int_{-\infty}^{\infty} e^{tx} \frac1{\sqrt{2\pi}\sigma} \exp\left[-\frac{(x-\mu)^2}{2\sigma^2}\right]dx

となります。指数部分を平方完成します。

tx(xμ)22σ2={x(μ+σ2t)}22σ2+μt+σ2t22.tx-\frac{(x-\mu)^2}{2\sigma^2} = -\frac{\{x-(\mu+\sigma^2t)\}^2}{2\sigma^2} +\mu t+\frac{\sigma^2t^2}{2}.

したがって、xx に依存しない部分を積分の外へ出すと、

MX(t)=exp(μt+σ2t22)×12πσexp[{x(μ+σ2t)}22σ2]dx.\begin{aligned} M_X(t) &=\exp\left(\mu t+\frac{\sigma^2t^2}{2}\right)\\ &\quad\times \int_{-\infty}^{\infty} \frac1{\sqrt{2\pi}\sigma} \exp\left[ -\frac{\{x-(\mu+\sigma^2t)\}^2}{2\sigma^2} \right]dx. \end{aligned}

後半の積分は、平均 μ+σ2t\mu+\sigma^2t、分散 σ2\sigma^2 の正規密度を全範囲で積分したものなので1です。よって、正規分布の積率母関数は、

MX(t)=exp(μt+σ2t22)M_X(t)=\exp\left(\mu t+\frac{\sigma^2t^2}{2}\right)

と導けました。

次に標本平均の積率母関数を計算します。

MXˉ(t)=E[etXˉ]=E[exp(tni=1nXi)]=E[i=1nexp(tnXi)].\begin{aligned} M_{\bar X}(t) &=E[e^{t\bar X}]\\ &=E\left[\exp\left(\frac{t}{n}\sum_{i=1}^nX_i\right)\right]\\ &=E\left[\prod_{i=1}^n \exp\left(\frac{t}{n}X_i\right)\right]. \end{aligned}

ここで独立性を使います。独立な確率変数の関数の積について、積の期待値を期待値の積へ分けられるので、

MXˉ(t)=i=1nMXi(tn)=[exp(μtn+σ2t22n2)]n=exp(μt+σ2t22n).\begin{aligned} M_{\bar X}(t) &=\prod_{i=1}^nM_{X_i}\left(\frac{t}{n}\right)\\ &=\left[\exp\left(\frac{\mu t}{n}+\frac{\sigma^2t^2}{2n^2}\right)\right]^n\\ &=\exp\left(\mu t+\frac{\sigma^2t^2}{2n}\right). \end{aligned}

最後の式を、一般の正規分布の積率母関数、

exp(at+b2t22)\exp\left(at+\frac{b^2t^2}{2}\right)

と比較すると、

a=μ,b2=σ2na=\mu, \qquad b^2=\frac{\sigma^2}{n}

です。積率母関数が0の近くで存在する場合、積率母関数は分布を一意に定めるため、

XˉN(μ,σ2n)\bar X\sim N\left(\mu,\frac{\sigma^2}{n}\right)

と結論できます。

数値例:標本数25なら標準偏差は5分の1

個体ごとの測定値が、

XiN(12,32)X_i\sim N(12,3^2)

に従うとします。独立な25個体の平均なら、

XˉN(12,3225)=N(12,0.36)\bar X \sim N\left(12,\frac{3^2}{25}\right) =N(12,0.36)

です。標本平均の標準偏差、すなわち標準誤差は、

325=0.6\frac3{\sqrt{25}}=0.6

です。個体値の標準偏差3に比べ、25個体の平均は標準偏差0.6まで集中します。

正規母集団でない場合は何が変わるか

XiX_i が正規分布でなくても、独立同一分布で平均 μ\mu、有限な分散 σ2\sigma^2 を持てば、

E[Xˉ]=μ,Var(Xˉ)=σ2nE[\bar X]=\mu, \qquad \operatorname{Var}(\bar X)=\frac{\sigma^2}{n}

は有限の nn でも厳密に成立します。

一方、分布の形が正規分布になることは有限の nn では一般に成立しません。中心極限定理により、nn\to\infty で、

n(Xˉμ)σdN(0,1)\frac{\sqrt n(\bar X-\mu)}{\sigma} \xrightarrow{d}N(0,1)

となるため、大きな nn では、

XˉN(μ,σ2n)\bar X \approx N\left(\mu,\frac{\sigma^2}{n}\right)

と近似します。

母集団E[Xˉ]E[\bar X]Var(Xˉ)\operatorname{Var}(\bar X)Xˉ\bar X の分布
正規分布厳密任意の nn で厳密に正規分布
非正規・有限分散厳密大標本で正規近似
強い依存がある共分散項が必要単純なiidの結論は使えない
分散が存在しないσ2/n\sigma^2/n と書けない通常の中心極限定理をそのまま使えない

独立でないと分散は σ2/n\sigma^2/n にならない

一般には、

Var(Xˉ)=1n2{i=1nVar(Xi)+2i<jCov(Xi,Xj)}\operatorname{Var}(\bar X) =\frac1{n^2}\left\{ \sum_{i=1}^n\operatorname{Var}(X_i) +2\sum_{i<j}\operatorname{Cov}(X_i,X_j) \right\}

です。各変数の分散が σ2\sigma^2、異なる2変数の相関がすべて ρ\rho なら、

Var(Xˉ)=σ2n{1+(n1)ρ}\operatorname{Var}(\bar X) =\frac{\sigma^2}{n} \{1+(n-1)\rho\}

となります。ρ>0\rho>0 なら、独立と仮定した σ2/n\sigma^2/n より分散は大きくなります。

同じ患者の反復測定や同じマウス由来の多数細胞では、この共分散項を無視できません。観測数が多くても、独立な情報量が同じ割合で増えるとは限らないためです。

答案で最初に書くこと

「独立同一分布な正規標本だから、標本平均は正規分布に従う」と仮定を明示します。一般母集団なら、平均と分散は厳密に計算し、分布の形については中心極限定理による近似だと区別します。

3.2 カイ二乗分布

独立な標準正規確率変数 Z1,,ZνZ_1,\ldots,Z_\nu に対して、

V=j=1νZj2V=\sum_{j=1}^{\nu}Z_j^2

と置くと、VV は自由度 ν\nu のカイ二乗分布に従います。

Vχν2V\sim\chi^2_\nu

密度関数は、

f(v)=12ν/2Γ(ν/2)vν/21ev/2,v>0f(v) =\frac{1}{2^{\nu/2}\Gamma(\nu/2)} v^{\nu/2-1}e^{-v/2}, \qquad v>0

です。これは形状母数 ν/2\nu/2、尺度母数2のガンマ分布です。

積率母関数から平均と分散を導く

カイ二乗分布の積率母関数は、

MV(t)=(12t)ν/2,t<12M_V(t)=(1-2t)^{-\nu/2},\qquad t<\frac12

です。微分すると、

MV(t)=ν(12t)ν/21M_V'(t)=\nu(1-2t)^{-\nu/2-1}

なので、

E[V]=MV(0)=ν.E[V]=M_V'(0)=\nu.

もう一度微分すると、

MV(t)=ν(ν+2)(12t)ν/22M_V''(t)=\nu(\nu+2)(1-2t)^{-\nu/2-2}

より、

E[V2]=MV(0)=ν(ν+2).E[V^2]=M_V''(0)=\nu(\nu+2).

したがって、

Var(V)=E[V2]{E[V]}2=ν(ν+2)ν2=2ν.\begin{aligned} \operatorname{Var}(V) &=E[V^2]-\{E[V]\}^2\\ &=\nu(\nu+2)-\nu^2\\ &=2\nu. \end{aligned}

独立なカイ二乗変数は自由度を足せます。

V1χν12,V2χν22,V1V2V_1\sim\chi^2_{\nu_1},\quad V_2\sim\chi^2_{\nu_2},\quad V_1\perp V_2

なら、

V1+V2χν1+ν22.V_1+V_2\sim\chi^2_{\nu_1+\nu_2}.

3.3 標本分散のカイ二乗分布

正規標本では、

(n1)S2σ2=1σ2i=1n(XiXˉ)2χn12\frac{(n-1)S^2}{\sigma^2} =\frac{1}{\sigma^2}\sum_{i=1}^n(X_i-\bar X)^2 \sim\chi^2_{n-1}

です。

直交分解とCochranの定理

ここで知りたいのは、次の2つです。

  1. なぜ全体のばらつきを「標本平均のずれ」と「平均まわりの残差」へ分けられるのか
  2. なぜ分けた2つが、それぞれ自由度1と n1n-1 のカイ二乗分布になり、しかも独立なのか

先に図で全体像を見てから、式を導きます。

INTERACTIVE

平均方向と残差平面への直交分解

3個の標準化観測値を動かし、ベクトルと平方和が同じ2成分へ分かれることを確かめます。

標本平均 z̄
全平方和 ‖z‖²
平均成分 ‖Pz‖²
残差成分 ‖Mz‖²
3次元データベクトルの直交分解データベクトルを平均方向への射影と、平均方向に直交する残差平面上の成分に分解する。
破線の残差ベクトルは残差平面上にあります。実線の橙矢印は、ベクトル和を示すため同じ残差を平均成分の先へ平行移動したものです。
平方和の分解全平方和が平均成分の平方和と残差成分の平方和の和になることを棒グラフで示す。
直角三角形の三平方の定理が、平方和の分解に対応します。
内積 ⟨Pz, Mz⟩ = なので交差項が消えます。
全体 z平均成分 Pz残差成分 Mz(実線は平行移動)

図の青いベクトルが観測データ全体、緑が全標本に共通する平均成分、橙が個々の観測値に残る残差成分です。緑と橙が直角なので、長さの2乗には三平方の定理が使えます。

1級対策として先に押さえる結論

平均方向への射影を PZP\mathbf Z、残差方向への射影を MZM\mathbf Z とすると、Z=PZ+MZ\mathbf Z=P\mathbf Z+M\mathbf Z かつ両者の内積は0です。自由度は平均方向の1と残差方向の n1n-1 に分かれ、Cochranの定理から平均成分と残差平方和の独立性が得られます。

射影行列を単変量と「影」で読む

単変量なら、方向が1つしかないので射影は P=1P=1、残差側は M=0M=0 です。多標本では Z\mathbf Z を空間上の矢印とみなし、PZP\mathbf Z は平均方向に落とした影、MZ=(IP)ZM\mathbf Z=(I-P)\mathbf Z は影を引いた残りです。

  1. PZP\mathbf Z で平均に共通する成分を取り出す。
  2. MZ=ZPZM\mathbf Z=\mathbf Z-P\mathbf Z で残差成分を求める。
  3. (PZ)T(MZ)=0(P\mathbf Z)^T(M\mathbf Z)=0 を確認し、三平方の定理で平方和を分ける。

厳密な行列計算とCochranの定理の証明は、直後の★★★★★欄に折りたたんであります。

射影行列による厳密な導出

1段階目:データを1本のベクトルとして見る

正規標本を標準化したベクトルを、

Z=1σ(X1μXnμ)Nn(0,In)\mathbf Z =\frac{1}{\sigma} \begin{pmatrix} X_1-\mu\\ \vdots\\ X_n-\mu \end{pmatrix} \sim N_n(\mathbf0,I_n)

とします。Zi=(Xiμ)/σZ_i=(X_i-\mu)/\sigma なので、Z\mathbf Z は「各観測値が母平均から何標準偏差離れたか」を縦に並べたものです。

全成分が同じ方向を向く単位ベクトルを、

e=1n(1,,1)\mathbf e=\frac{1}{\sqrt n}(1,\ldots,1)^\top

と置きます。例えば n=3n=3 なら、e\mathbf e(1,1,1)(1,1,1) 方向です。この方向へ進むと3個の値が同じ量だけ増減するため、平均だけを動かす方向だと解釈できます。

2段階目:平均方向へ射影する

Z\mathbf Z の平均方向への射影は、

PZ=(ee)Z=(eZ)e\begin{aligned} P\mathbf Z &=(\mathbf e\mathbf e^\top)\mathbf Z\\ &=(\mathbf e^\top\mathbf Z)\mathbf e \end{aligned}

です。ここで、

P=eeP=\mathbf e\mathbf e^\top

を平均方向への射影行列と呼びます。係数を計算すると、

eZ=1ni=1nXiμσ=n(Xˉμ)σ\begin{aligned} \mathbf e^\top\mathbf Z &=\frac1{\sqrt n}\sum_{i=1}^n\frac{X_i-\mu}{\sigma}\\ &=\frac{\sqrt n(\bar X-\mu)}{\sigma} \end{aligned}

なので、

PZ=Xˉμσ(11)P\mathbf Z =\frac{\bar X-\mu}{\sigma} \begin{pmatrix}1\\ \vdots\\ 1\end{pmatrix}

となります。つまり、射影後の各成分はすべて (Xˉμ)/σ(\bar X-\mu)/\sigma です。図の緑のベクトルがこの部分です。

3段階目:射影で説明できなかった残差を取り出す

残差成分は、元のベクトルから平均成分を引いて、

MZ=(InP)Z,M=InPM\mathbf Z=(I_n-P)\mathbf Z, \qquad M=I_n-P

と書けます。第 ii 成分は、

XiμσXˉμσ=XiXˉσ\frac{X_i-\mu}{\sigma} -\frac{\bar X-\mu}{\sigma} =\frac{X_i-\bar X}{\sigma}

です。したがって、図の橙のベクトルには、標本平均を引いた後の個体差だけが残ります。

以上から、データベクトルは、

Z=PZ+MZ\boxed{ \mathbf Z=P\mathbf Z+M\mathbf Z }

と分解されます。

4段階目:なぜ「直交」しているのか

平均成分と残差成分の内積を取ります。平均成分の各要素は同じ値なので、

(PZ)(MZ)=Xˉμσi=1nXiXˉσ=Xˉμσ2i=1n(XiXˉ)=0=0.\begin{aligned} (P\mathbf Z)^\top(M\mathbf Z) &=\frac{\bar X-\mu}{\sigma} \sum_{i=1}^n\frac{X_i-\bar X}{\sigma}\\ &=\frac{\bar X-\mu}{\sigma^2} \underbrace{\sum_{i=1}^n(X_i-\bar X)}_{=0}\\ &=0. \end{aligned}

内積が0なので、2つのベクトルは直交しています。行列では、

PM=P(InP)=PP2=0PM=P(I_n-P)=P-P^2=0

とも確認できます。射影行列は同じ射影を2回行っても結果が変わらないため、P2=PP^2=P です。 PP は対称行列でもあり、P=PP^\top=P です。同様に、M=MM^\top=MM2=MM^2=M が成り立ちます。

5段階目:直交すると平方和が足し算になる

直交する2つのベクトルには三平方の定理が成り立つので、

Z2=PZ2+MZ2\|\mathbf Z\|^2 =\|P\mathbf Z\|^2+\|M\mathbf Z\|^2

です。各項を元の変数で書くと、

1σ2i=1n(Xiμ)2=n(Xˉμ)2σ2+1σ2i=1n(XiXˉ)2\boxed{ \frac1{\sigma^2}\sum_{i=1}^n(X_i-\mu)^2 = \frac{n(\bar X-\mu)^2}{\sigma^2} + \frac1{\sigma^2}\sum_{i=1}^n(X_i-\bar X)^2 }

となります。最後の項は標本分散の定義から、

1σ2i=1n(XiXˉ)2=(n1)S2σ2\frac1{\sigma^2}\sum_{i=1}^n(X_i-\bar X)^2 =\frac{(n-1)S^2}{\sigma^2}

です。したがって平方和の分解は、

1σ2i=1n(Xiμ)2全体:自由度 n=n(Xˉμ)2σ2平均:自由度 1+(n1)S2σ2残差:自由度 n1\underbrace{\frac1{\sigma^2}\sum_{i=1}^n(X_i-\mu)^2}_{\text{全体:自由度 }n} = \underbrace{\frac{n(\bar X-\mu)^2}{\sigma^2}}_{\text{平均:自由度 }1} + \underbrace{\frac{(n-1)S^2}{\sigma^2}}_{\text{残差:自由度 }n-1}

と書けます。

左辺は独立な標準正規変数の二乗和なので、

Z2=i=1nZi2χn2\|\mathbf Z\|^2 =\sum_{i=1}^n Z_i^2 \sim\chi^2_n

です。Cochranの定理は、この自由度 nn の全平方和が、直交する部分空間の次元に応じて 1+(n1)1+(n-1) へ分かれることを保証します。

6段階目:Cochranの定理で分布と独立性を得る

Cochranの定理を、この場面で必要な形に絞って述べます。

ZNn(0,In)\mathbf Z\sim N_n(\mathbf0,I_n) を、互いに直交する部分空間へ射影する。各射影行列を AjA_j とし、Aj=AjA_j^\top=A_jAj2=AjA_j^2=A_jAjAk=0 (jk)A_jA_k=0\ (j\ne k)jAj=In\sum_jA_j=I_n が成り立つとする。このとき、二次形式 ZAjZ\mathbf Z^\top A_j\mathbf Z は互いに独立で、それぞれ χrank(Aj)2\chi^2_{\operatorname{rank}(A_j)} に従う。

今回の射影行列は PPM=InPM=I_n-P です。

成分射影先行列の階数二次形式分布
平均成分span(e)\operatorname{span}(\mathbf e)1ZPZ=n(Xˉμ)2/σ2\mathbf Z^\top P\mathbf Z=n(\bar X-\mu)^2/\sigma^2χ12\chi^2_1
残差成分e\mathbf e に直交する空間n1n-1ZMZ=(n1)S2/σ2\mathbf Z^\top M\mathbf Z=(n-1)S^2/\sigma^2χn12\chi^2_{n-1}

PP の射影先は1本の直線なので階数1です。一方、nn 次元空間から平均方向の1次元を使った残りが残差空間なので、MM の階数は n1n-1 です。この「使える独立な方向の数」が自由度です。

よってCochranの定理から、

n(Xˉμ)2σ2χ12,(n1)S2σ2χn12\frac{n(\bar X-\mu)^2}{\sigma^2}\sim\chi^2_1, \qquad \frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}

を得ます。さらに、この2つの二次形式は独立です。

標本平均と標本分散の独立性を結論するときは、もう一歩だけ丁寧に考えます。正規ベクトルを直交射影した PZP\mathbf ZMZM\mathbf Z は、共分散が0の同時正規ベクトルなので互いに独立です。平均成分そのものは、

eZ=n(Xˉμ)σN(0,1)\mathbf e^\top\mathbf Z =\frac{\sqrt n(\bar X-\mu)}{\sigma} \sim N(0,1)

です。Xˉ\bar XPZP\mathbf Z だけから決まり、S2S^2MZM\mathbf Z だけから決まるため、

XˉS2\bar X\perp S^2

と結論できます。

自由度を図から読む

n=3n=3 の図では、平均成分が動けるのは緑の直線上の1方向だけです。残差には「3成分の和が0」という制約が1本あるため、動けるのは平面上の2方向です。一般の nn でも、n=1+(n1)n=1+(n-1) と分かれます。

答案で書く順番

P=eeP=\mathbf e\mathbf e^\topM=InPM=I_n-P と置き、P+M=InP+M=I_nPM=0PM=0rank(P)=1\operatorname{rank}(P)=1rank(M)=n1\operatorname{rank}(M)=n-1 を確認します。その後でCochranの定理を適用し、各二次形式のカイ二乗分布と独立性を結論します。

3.4 標本平均と標本分散の独立性

上の分解で、平均方向と残差方向は直交しています。多変量正規分布では、直交する線形成分は無相関であるだけでなく独立です。 したがって、

XˉS2\bar X\perp S^2

が得られます。

この独立性は、一般の母集団では通常成立しません。例えば強く歪んだ母集団では、極端な値が標本平均と標本分散を同時に押し上げるため、両者が依存しやすくなります。

答案での使い分け

E[S2]=σ2E[S^2]=\sigma^2 は有限分散があれば導けます。一方、(n1)S2/σ2χn12(n-1)S^2/\sigma^2\sim\chi^2_{n-1}XˉS2\bar X\perp S^2 には正規母集団の仮定が必要です。

4. tt 分布

4.1 定義

ZN(0,1)Z\sim N(0,1)Vχν2V\sim\chi^2_\nu が独立であるとき、

T=ZV/νT=\frac{Z}{\sqrt{V/\nu}}

は自由度 ν\nutt 分布に従います。

TtνT\sim t_\nu

標準正規分布を、推定された標準偏差で割るため、分母の不確実性の分だけ正規分布より裾が厚くなります。

密度関数は、

f(t)=Γ{(ν+1)/2}νπΓ(ν/2)(1+t2ν)(ν+1)/2,<t<f(t)= \frac{\Gamma\{(\nu+1)/2\}} {\sqrt{\nu\pi}\,\Gamma(\nu/2)} \left(1+\frac{t^2}{\nu}\right)^{-(\nu+1)/2}, \qquad -\infty<t<\infty

です。

4.2 1標本 tt 統計量

正規標本では、

Z=n(Xˉμ)σN(0,1)Z=\frac{\sqrt n(\bar X-\mu)}{\sigma}\sim N(0,1)

かつ、

V=(n1)S2σ2χn12V=\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}

であり、ZZVV は独立です。したがって、

ZV/(n1)=n(Xˉμ)/σ{(n1)S2/σ2}/(n1)=n(Xˉμ)/σS/σ=XˉμS/ntn1.\begin{aligned} \frac{Z}{\sqrt{V/(n-1)}} &= \frac{\sqrt n(\bar X-\mu)/\sigma} {\sqrt{\{(n-1)S^2/\sigma^2\}/(n-1)}}\\ &= \frac{\sqrt n(\bar X-\mu)/\sigma}{S/\sigma}\\ &= \frac{\bar X-\mu}{S/\sqrt n} \sim t_{n-1}. \end{aligned}

これが母分散未知の平均推測に tt 分布を使う理由です。

4.3 積率と自由度

tt 分布は0を中心に対称です。ただし、積率は常に存在するわけではありません。

性質条件
平均ν>1\nu>100
分散ν>2\nu>2ν/(ν2)\nu/(\nu-2)
4次積率ν>4\nu>43ν2/{(ν2)(ν4)}3\nu^2/\{(\nu-2)(\nu-4)\}

自由度1の tt 分布は標準Cauchy分布です。平均も分散も存在しません。 自由度が大きくなると、

tνdN(0,1)t_\nu\xrightarrow{d}N(0,1)

となります。

4.4 小標本の薬物動態例

独立な8人の被験者で、対数AUCの平均が4.20、標本標準偏差が0.30だったとします。母平均の95%信頼区間は、t7,0.975=2.365t_{7,0.975}=2.365 を用いて、

xˉ±t7,0.975sn=4.20±2.3650.308=4.20±0.251\begin{aligned} \bar x\pm t_{7,0.975}\frac{s}{\sqrt n} &=4.20\pm2.365\frac{0.30}{\sqrt8}\\ &=4.20\pm0.251 \end{aligned}

です。対数尺度での区間は (3.949,4.451)(3.949,4.451) です。元の尺度へ戻すなら単に中心と幅を指数変換するのではなく、両端を指数変換して、

(e3.949,e4.451)(e^{3.949},e^{4.451})

とします。

5. FF 分布

5.1 定義

独立な、

Uχν12,Vχν22U\sim\chi^2_{\nu_1},\qquad V\sim\chi^2_{\nu_2}

に対して、

F=U/ν1V/ν2F=\frac{U/\nu_1}{V/\nu_2}

は自由度 (ν1,ν2)(\nu_1,\nu_2)FF 分布に従います。

FFν1,ν2F\sim F_{\nu_1,\nu_2}

密度関数は、

f(x)=1B(ν1/2,ν2/2)(ν1ν2)ν1/2xν1/21(1+ν1ν2x)(ν1+ν2)/2,x>0f(x)= \frac{1}{B(\nu_1/2,\nu_2/2)} \left(\frac{\nu_1}{\nu_2}\right)^{\nu_1/2} x^{\nu_1/2-1} \left(1+\frac{\nu_1}{\nu_2}x\right)^{-(\nu_1+\nu_2)/2}, \quad x>0

です。

5.2 重要な性質

FFν1,ν21FFν2,ν1F\sim F_{\nu_1,\nu_2} \quad\Longrightarrow\quad \frac{1}{F}\sim F_{\nu_2,\nu_1}

また、

TtνT2F1,νT\sim t_\nu \quad\Longrightarrow\quad T^2\sim F_{1,\nu}

です。後者は、

T2=Z2/1V/νT^2=\frac{Z^2/1}{V/\nu}

であり、Z2χ12Z^2\sim\chi^2_1 だから分かります。

平均と分散は、

E[F]=ν2ν22,ν2>2E[F]=\frac{\nu_2}{\nu_2-2},\qquad \nu_2>2 Var(F)=2ν22(ν1+ν22)ν1(ν22)2(ν24),ν2>4\operatorname{Var}(F) =\frac{2\nu_2^2(\nu_1+\nu_2-2)} {\nu_1(\nu_2-2)^2(\nu_2-4)}, \qquad \nu_2>4

です。

5.3 2つの分散の比

独立な2つの正規標本について、

(n11)S12σ12χn112,(n21)S22σ22χn212\frac{(n_1-1)S_1^2}{\sigma_1^2}\sim\chi^2_{n_1-1}, \qquad \frac{(n_2-1)S_2^2}{\sigma_2^2}\sim\chi^2_{n_2-1}

なので、

S12/σ12S22/σ22Fn11,n21.\frac{S_1^2/\sigma_1^2}{S_2^2/\sigma_2^2} \sim F_{n_1-1,n_2-1}.

帰無仮説 σ12=σ22\sigma_1^2=\sigma_2^2 のもとでは、

S12S22Fn11,n21\frac{S_1^2}{S_2^2}\sim F_{n_1-1,n_2-1}

です。ただし、分散比検定は非正規性に敏感です。測定値が強く歪む場合や外れ値を含む場合は、変換、Levene検定、Brown–Forsythe検定、またはモデルに応じた頑健法を検討します。

ここからは「標本数を増やしたらどうなるか」を考えます

添字 nn は標本数に応じて統計量が変わることを表します。矢印の右側は「有限の nn で完全に等しい」という意味ではなく、nn を大きくしたときの近づき方です。まず確率収束を「大きな誤差が出る確率が0へ近づく」、分布収束を「分布の形が近づく」と読んでください。

6. 確率変数の収束

標本数 nn とともに変わる確率変数列 X1,X2,X_1,X_2,\ldots を考えます。「収束」には複数の意味があり、何を同じ確率空間上で比較するかが異なります。

6.1 確率収束

任意の ε>0\varepsilon>0 に対して、

P(XnX>ε)0P(|X_n-X|>\varepsilon)\to0

となるとき、XnX_nXX に確率収束するといいます。

XnpXX_n\xrightarrow{p}X

「大きなずれが生じる確率が0へ近づく」という意味です。推定量 θ^n\hat\theta_n が真値 θ\theta に確率収束するとき、θ^n\hat\theta_n は一致推定量です。

6.2 分布収束

FnF_nFF をそれぞれ XnX_nXX の分布関数とします。FF のすべての連続点 xx で、

Fn(x)F(x)F_n(x)\to F(x)

となるとき、XnX_nXX に分布収束するといいます。

XndXX_n\xrightarrow{d}X

分布収束は確率収束より弱い概念です。例えば、各 XnX_n が独立に N(0,1)N(0,1) に従うなら、分布は最初から N(0,1)N(0,1) なので、

XndN(0,1)X_n\xrightarrow{d}N(0,1)

と書けます。しかし、XnX_n 同士は独立に動き続けるため、同じ確率変数へ確率収束するわけではありません。

6.3 概収束

P(limnXn=X)=1P\left(\lim_{n\to\infty}X_n=X\right)=1

のとき、XnX_nXX に概収束、またはほとんど確実に収束するといいます。

Xna.s.XX_n\xrightarrow{a.s.}X

これは、確率1で、標本経路を固定して見たときに最終的に XX へ近づくという強い主張です。

6.4 平均二乗収束

E[(XnX)2]0E[(X_n-X)^2]\to0

のとき、平均二乗収束といいます。

XnL2XX_n\xrightarrow{L^2}X

Chebyshevの不等式により、

P(XnX>ε)E[(XnX)2]ε20P(|X_n-X|>\varepsilon) \leq\frac{E[(X_n-X)^2]}{\varepsilon^2} \to0

なので、平均二乗収束は確率収束を導きます。

収束関係をまとめると、

Xna.s.XXnpXXndXX_n\xrightarrow{a.s.}X \Longrightarrow X_n\xrightarrow{p}X \Longrightarrow X_n\xrightarrow{d}X

および、

XnL2XXnpXX_n\xrightarrow{L^2}X \Longrightarrow X_n\xrightarrow{p}X

です。逆向きは一般には成立しません。

7. Chebyshevの不等式と大数の弱法則

7.1 Markovの不等式から導く

非負確率変数 YYa>0a>0 に対して、

P(Ya)E[Y]aP(Y\geq a)\leq\frac{E[Y]}{a}

がMarkovの不等式です。

Y=(Xμ)2Y=(X-\mu)^2a=ε2a=\varepsilon^2 と置くと、

P(Xμε)=P{(Xμ)2ε2}E[(Xμ)2]ε2=σ2ε2.\begin{aligned} P(|X-\mu|\geq\varepsilon) &=P\{(X-\mu)^2\geq\varepsilon^2\}\\ &\leq\frac{E[(X-\mu)^2]}{\varepsilon^2}\\ &=\frac{\sigma^2}{\varepsilon^2}. \end{aligned}

これがChebyshevの不等式です。分布の形を仮定せず、平均と分散だけで裾確率を抑えられます。

7.2 大数の弱法則

X1,X2,X_1,X_2,\ldots が独立同一分布で、

E[Xi]=μ,Var(Xi)=σ2<E[X_i]=\mu,\qquad \operatorname{Var}(X_i)=\sigma^2<\infty

とします。標本平均にChebyshevの不等式を使うと、

P(Xˉnμε)Var(Xˉn)ε2=σ2nε20.\begin{aligned} P(|\bar X_n-\mu|\geq\varepsilon) &\leq\frac{\operatorname{Var}(\bar X_n)}{\varepsilon^2}\\ &=\frac{\sigma^2}{n\varepsilon^2}\\ &\to0. \end{aligned}

よって、

Xˉnpμ.\bar X_n\xrightarrow{p}\mu.

これが大数の弱法則です。

注意すべき点は、有限の nnXˉn=μ\bar X_n=\mu になるとは言っていないことです。また、Chebyshev上界はしばしば粗く、1を超える場合は確率の上界として実質的な情報を与えません。

7.3 薬学的な意味

独立な個体から薬物応答を集め、同じ母集団からの標本とみなせるなら、標本平均は母平均へ近づきます。しかし、施設構成が nn とともに変わる、選択基準が変わる、測定法に系統誤差がある場合、単に標本数を増やしても目的とする母平均へ近づく保証はありません。

大数の法則が抑えるのは確率的なばらつきです。選択バイアス、測定バイアス、交絡は別に検討する必要があります。

8. 中心極限定理

8.1 iid中心極限定理

X1,X2,X_1,X_2,\ldots が独立同一分布で、

E[Xi]=μ,0<Var(Xi)=σ2<E[X_i]=\mu,\qquad 0<\operatorname{Var}(X_i)=\sigma^2<\infty

なら、

i=1nXinμσn=n(Xˉnμ)σdN(0,1).\frac{\sum_{i=1}^nX_i-n\mu}{\sigma\sqrt n} = \frac{\sqrt n(\bar X_n-\mu)}{\sigma} \xrightarrow{d}N(0,1).

したがって、nn が十分大きいとき、

Xˉn ˙ N(μ,σ2n)\bar X_n\ \dot\sim\ N\left(\mu,\frac{\sigma^2}{n}\right)

と近似できます。記号 ˙\dot\sim は近似的に従うという意味です。

母集団が正規分布なら、この分布は任意の nn で厳密です。母集団が非正規なら、大標本での近似です。

8.2 Lévyの連続性定理:特性関数から分布収束を読む

Lévy(レヴィ)の連続性定理は、確率分布の収束を、特性関数の収束へ翻訳する定理です。 中心極限定理の証明では、複雑な「和の分布」を直接求める代わりに、特性関数を掛け算して極限を調べます。

まず、特性関数は何を表すか

確率変数 XX の特性関数を、

φX(t)=E[eitX]=E[cos(tX)]+iE[sin(tX)],tR\varphi_X(t)=E[e^{itX}] =E[\cos(tX)]+iE[\sin(tX)],\qquad t\in\mathbb R

と定義します。i2=1i^2=-1 です。実部は E[cos(tX)]E[\cos(tX)]、虚部は E[sin(tX)]E[\sin(tX)] であり、分布をさまざまな「周波数 tt」で調べた結果だと考えられます。

特性関数には次の利点があります。

性質なぜ重要か
常に存在するeitX=1\lvert e^{itX}\rvert=1 なので、裾の重い分布でも期待値が定義できる
分布を一意に決めるすべての tt に対する φX(t)\varphi_X(t) が同じなら、分布も同じ
独立な和を積へ変えるX,YX,Y が独立なら φX+Y(t)=φX(t)φY(t)\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)
原点では1φX(0)=E[1]=1\varphi_X(0)=E[1]=1

積率母関数 MX(t)=E[etX]M_X(t)=E[e^{tX}] は存在しない場合がありますが、特性関数は常に存在します。そのため、一般的な分布収束を扱うときに強力です。

定理の正確な主張

XnX_n の特性関数を φn\varphi_n とします。Lévyの連続性定理は、次の2方向を結びます。

XndXφn(t)φX(t) for every t\boxed{ X_n\xrightarrow{d}X \quad\Longleftrightarrow\quad \varphi_n(t)\to\varphi_X(t)\ \text{for every }t }

ただし、右から左へ進むときには、点ごとの極限

φ(t)=limnφn(t)\varphi(t)=\lim_{n\to\infty}\varphi_n(t)

t=0t=0 で連続であることを確認します。すると、φ\varphi はある確率変数 XX の特性関数となり、XndXX_n\xrightarrow{d}X が成り立ちます。

一言でいうと

分布の形を直接追いかけなくても、特性関数を各 tt で収束させ、極限が原点で連続だと確認すれば、確率分布そのものの収束が分かります。

「分布収束なら特性関数収束」の証明

分布収束 XndXX_n\xrightarrow{d}X には、「任意の有界連続関数 gg に対して E[g(Xn)]E[g(X)]E[g(X_n)]\to E[g(X)]」という同値な特徴づけがあります。

固定した tt に対して、gt(x)=eitxg_t(x)=e^{itx} は連続であり、gt(x)=1|g_t(x)|=1 なので有界です。したがって、

E[eitXn]E[eitX],E[e^{itX_n}]\to E[e^{itX}],

すなわち、

φn(t)φX(t)\varphi_n(t)\to\varphi_X(t)

が得られます。こちらの方向は「分布収束の定義に、有界連続関数 eitxe^{itx} を代入しただけ」です。

なぜ「原点で連続」が必要なのか

XaU(a,a)X_a\sim U(-a,a) とします。この特性関数は、密度 1/(2a)1/(2a) を積分して、

φa(t)=12aaaeitxdx=eitaeita2ait=sin(at)at\begin{aligned} \varphi_a(t) &=\frac{1}{2a}\int_{-a}^{a}e^{itx}\,dx\\ &=\frac{e^{ita}-e^{-ita}}{2ait}\\ &=\frac{\sin(at)}{at} \end{aligned}

です。ただし t=0t=0 では φa(0)=1\varphi_a(0)=1 とします。

aa\to\infty のとき、固定した t0t\ne0 では sin(at)/(at)0\sin(at)/(at)\to0 ですが、t=0t=0 では常に1です。したがって、点ごとの極限は、

φ(t)={1,t=0,0,t0\varphi(t)= \begin{cases} 1,&t=0,\\ 0,&t\ne0 \end{cases}

となり、原点で不連続です。これは確率分布の特性関数にはなれません。U(a,a)U(-a,a) の確率の質量が左右の無限遠へ広がり、実数上に極限分布が残らないことに対応します。

下の「正規分布へ収束」では、P(Yi=1)=P(Yi=1)=1/2P(Y_i=1)=P(Y_i=-1)=1/2 とした標準化和 n1/2iYin^{-1/2}\sum_iY_i を表示します。「質量が無限遠へ逃げる」では、上の一様分布の反例を表示します。

INTERACTIVE

特性関数の極限を目で確かめる

曲線の各点での収束と、原点での連続性が果たす役割を比較します。

t = 1 での差
原点での値
結論
特性関数の点ごとの収束標準化された対称二点分布の和、または区間が広がる一様分布の特性関数を、その点ごとの極限と比較する。
φₙ(t) = [cos(t/√n)]ⁿ極限 e⁻ᵗ²⁄²
ここで混同しやすい点

必要なのは、各固定 tt における点ごとの収束です。有限区間全体で一様に収束することは要求していません。一方、極限関数の原点での連続性は省略できません。

発展:逆向きの証明は、なぜ成り立つか

「特性関数が収束すれば分布も収束する」という逆向きが難しい部分です。骨格は、原点付近の情報で確率が無限遠へ逃げるのを防ぎ、収束部分列を取り出すことです。

手順1:原点付近の特性関数で裾確率を抑える

T>0T>0 とします。x2/T|x|\ge 2/T なら Tx2|Tx|\ge2 なので、

1sin(Tx)Tx121-\frac{\sin(Tx)}{Tx}\ge\frac12

です。これを XnX_n に適用すると、

P(Xn2T)E[2{1sin(TXn)TXn}]=1TTT{1Reφn(t)}dt.\begin{aligned} P\left(|X_n|\ge\frac2T\right) &\le E\left[2\left\{1-\frac{\sin(TX_n)}{TX_n}\right\}\right]\\ &=\frac1T\int_{-T}^{T}\{1-\operatorname{Re}\varphi_n(t)\}\,dt. \end{aligned}

最後の等号は、積分と期待値を交換し、

1TTTcos(tx)dt=2sin(Tx)Tx\frac1T\int_{-T}^{T}\cos(tx)\,dt =2\frac{\sin(Tx)}{Tx}

を使ったものです。

手順2:原点での連続性から、右辺を小さくする

φn(t)φ(t)\varphi_n(t)\to\varphi(t) なので、固定した TT に対して右辺は、

1TTT{1Reφ(t)}dt\frac1T\int_{-T}^{T}\{1-\operatorname{Re}\varphi(t)\}\,dt

へ近づきます。φ(0)=1\varphi(0)=1 で、φ\varphi が0で連続なら、TT を小さくすることでこの値をいくらでも小さくできます。

これは、十分大きい R=2/TR=2/T を選べば、すべての大きな nn について P(Xn>R)P(|X_n|>R) を小さくできるということです。この性質を緊密性といいます。

手順3:部分列の極限を一意に定める

緊密な分布列からは、分布収束する部分列を取り出せます。これをHellyの選出定理、より一般にはProkhorovの定理で保証します。

部分列の極限を XX とすると、すでに証明した正方向から、その特性関数は φ\varphi です。特性関数は分布を一意に決めるので、どの収束部分列を選んでも同じ分布に到達します。したがって、列全体がその分布へ収束します。

8.3 Lévyの連続性定理から中心極限定理を導く

ここから、Lévyの連続性定理を中心極限定理へ実際に使います。標準化変数を、

Yi=XiμσY_i=\frac{X_i-\mu}{\sigma}

とすると、E[Yi]=0E[Y_i]=0E[Yi2]=1E[Y_i^2]=1 です。

手順1:原点付近で特性関数を展開する

実数 vv に対して、Taylor展開の積分形から、

eiv=1+ivv201(1s)eisvdse^{iv}=1+iv-v^2\int_0^1(1-s)e^{isv}\,ds

と書けます。したがって、v=uYiv=uY_i を代入し期待値を取ると、

φY(u)=1+iuE[Yi]u2E[Yi201(1s)eisuYids].\varphi_Y(u) =1+iuE[Y_i]-u^2E\left[Y_i^2\int_0^1(1-s)e^{isuY_i}\,ds\right].

u0u\to0 なら積分部分は 01(1s)ds=1/2\int_0^1(1-s)ds=1/2 へ近づきます。また、その絶対値は常に 1/21/2 以下なので、E[Yi2]<E[Y_i^2]<\infty のもとで極限と期待値を交換できます。よって、

φY(u)=1+iuE[Yi]u22E[Yi2]+o(u2)=1u22+o(u2).\varphi_Y(u) =1+iuE[Y_i]-\frac{u^2}{2}E[Y_i^2]+o(u^2) =1-\frac{u^2}{2}+o(u^2).

一次の項が消えるのは E[Yi]=0E[Y_i]=0、二次の係数が 1/2-1/2 になるのは E[Yi2]=1E[Y_i^2]=1 だからです。

手順2:独立な和を積へ変える

標準化和を、

Zn=1ni=1nYiZ_n=\frac{1}{\sqrt n}\sum_{i=1}^nY_i

とします。独立性から、

φZn(t)=i=1nφY(tn)={φY(tn)}n={1t22n+o(1n)}n.\begin{aligned} \varphi_{Z_n}(t) &=\prod_{i=1}^n\varphi_Y\left(\frac{t}{\sqrt n}\right)\\ &=\left\{\varphi_Y\left(\frac{t}{\sqrt n}\right)\right\}^n\\ &=\left\{1-\frac{t^2}{2n}+o\left(\frac1n\right)\right\}^n. \end{aligned}

手順3:極限を既知の特性関数と照合する

(1+c/n)nec(1+c/n)^n\to e^c と同じ形なので、各固定 tt に対して、

φZn(t)et2/2.\varphi_{Z_n}(t)\to e^{-t^2/2}.

et2/2e^{-t^2/2}N(0,1)N(0,1) の特性関数で、もちろん原点で連続です。Lévyの連続性定理により、

Zn=n(Xˉnμ)σdN(0,1)Z_n=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\xrightarrow{d}N(0,1)

が得られます。

よく出る別例:二項分布からポアソン分布

BnBin(n,λ/n)B_n\sim\operatorname{Bin}(n,\lambda/n) とします。1回のBernoulli試行の特性関数は 1+(λ/n)(eit1)1+(\lambda/n)(e^{it}-1) なので、

φBn(t)={1+λn(eit1)}nexp{λ(eit1)}.\begin{aligned} \varphi_{B_n}(t) &=\left\{1+\frac{\lambda}{n}(e^{it}-1)\right\}^n\\ &\to\exp\{\lambda(e^{it}-1)\}. \end{aligned}

右辺は Poisson(λ)\operatorname{Poisson}(\lambda) の特性関数で、原点で連続です。したがって、

Bin(n,λ/n)dPoisson(λ)\operatorname{Bin}(n,\lambda/n)\xrightarrow{d}\operatorname{Poisson}(\lambda)

となります。「多数回の試行で、1回の発生確率は小さい」という希少事象の近似です。

答案の5行テンプレート
  1. 対象となる確率変数の特性関数を書く。
  2. 独立な和なら、特性関数を積へ変える。
  3. 各固定 tt で極限を計算する。
  4. 極限を既知の分布の特性関数と照合し、原点での連続性を確認する。
  5. Lévyの連続性定理より分布収束、と結論する。

医薬・生命科学・機械学習での読み方

  • 薬効測定の平均:個体ごとの測定誤差が独立で分散有限なら、平均応答の誤差は正規分布へ近づきます。
  • 希少な有害事象:対象者数が多く、各人の発生確率が小さい状況では、二項分布からポアソン分布への極限が件数モデルを支えます。
  • ミニバッチ学習:各データ点の勾配寄与が独立に近く、極端な裾を持たなければ、ミニバッチ平均の揺らぎを正規近似する発想につながります。

ただし、同一個体からの反復測定、施設内相関、時系列依存、非常に裾の重い誤差では独立性や有限分散が崩れます。Lévyの定理自体が壊れるのではなく、中心極限定理へ至る途中の仮定が満たされているかを見直します。

8.4 二項分布の正規近似

YBin(n,p)Y\sim\operatorname{Bin}(n,p) は独立なBernoulli変数の和なので、

Ynpnp(1p) ˙ N(0,1)\frac{Y-np}{\sqrt{np(1-p)}}\ \dot\sim\ N(0,1)

です。

例えば、YBin(100,0.2)Y\sim\operatorname{Bin}(100,0.2) に対して P(Y25)P(Y\leq25) を近似します。離散分布を連続分布で近似するため連続補正を使い、

P(Y25)P(Z25.52016)=P(Z1.375).P(Y\leq25)\approx P\left( Z\leq\frac{25.5-20}{\sqrt{16}} \right) =P(Z\leq1.375).

標準正規分布表から約0.915です。

8.5 中心極限定理を使えない・注意が必要な場面

  • 分散が存在しないほど裾が重い分布
  • 強い依存がある時系列、空間データ、同一個体内の反復測定
  • 極端に歪んだ分布で標本数が小さい場合
  • nn が大きくても、まれな事象で npnp または n(1p)n(1-p) が小さい場合
  • 観測数は多いが、独立なクラスター数が少ない場合

n30n\geq30 なら必ず正規近似できる」という定理はありません。必要な nn は歪度、裾の重さ、求めたい裾確率、依存構造によって変わります。

9. 連続写像定理とSlutskyの定理

9.1 連続写像定理

XnpXX_n\xrightarrow{p}X で、関数 ggXX の取りうる点で連続なら、

g(Xn)pg(X)g(X_n)\xrightarrow{p}g(X)

です。分布収束版もあり、適切な連続性のもとで、

XndXg(Xn)dg(X)X_n\xrightarrow{d}X \quad\Longrightarrow\quad g(X_n)\xrightarrow{d}g(X)

となります。

例えば、θ^npθ\hat\theta_n\xrightarrow{p}\theta かつ θ>0\theta>0 なら、

logθ^nplogθ,θ^npθ.\log\hat\theta_n\xrightarrow{p}\log\theta, \qquad \sqrt{\hat\theta_n}\xrightarrow{p}\sqrt\theta.

9.2 Slutskyの定理

XndX,YnpcX_n\xrightarrow{d}X, \qquad Y_n\xrightarrow{p}c

で、cc が定数なら、

Xn+YndX+cX_n+Y_n\xrightarrow{d}X+c XnYndcXX_nY_n\xrightarrow{d}cX

さらに c0c\neq0 なら、

XnYndXc\frac{X_n}{Y_n}\xrightarrow{d}\frac{X}{c}

です。

中心極限定理から、

n(Xˉμ)σdN(0,1)\frac{\sqrt n(\bar X-\mu)}{\sigma}\xrightarrow{d}N(0,1)

であり、大数の法則から SpσS\xrightarrow{p}\sigma です。したがって、

n(Xˉμ)S=n(Xˉμ)σσSdN(0,1)\frac{\sqrt n(\bar X-\mu)}{S} = \frac{\sqrt n(\bar X-\mu)}{\sigma}\cdot\frac{\sigma}{S} \xrightarrow{d}N(0,1)

となります。母分散を標本分散で置き換えられる漸近的な根拠です。

10. デルタ法

デルタ法は、漸近正規な推定量を滑らかな関数で変換したとき、変換後の標準誤差と極限分布を求める方法です。

例えば、母平均 μ\mu の推定量 Xˉ\bar X があっても、実際に知りたい量が logμ\log\muμ2\mu^2、オッズ μ/(1μ)\mu/(1-\mu)、2つの母数の比 θ1/θ2\theta_1/\theta_2 であることがあります。デルタ法を使うと、元の推定量の分散から変換後の分散を近似できます。

分かっている情報デルタ法へ入れるもの得られるもの
θ^\hat\theta の漸近分布変換 gg と導関数 g(θ)g'(\theta)g(θ^)g(\hat\theta) の漸近分布
θ^\hat\theta の標準誤差局所的な傾き g(θ)\lvert g'(\theta)\rvertg(θ^)g(\hat\theta) の近似標準誤差
複数推定量の共分散行列勾配 g(θ)\nabla g(\theta)比、差、予測値などの近似分散
最初に持つイメージ

推定値は真値 θ\theta の近くで小さく揺れます。その狭い範囲では、曲線 y=g(x)y=g(x)θ\theta における接線で近似できます。傾きが2なら揺らぎは約2倍、傾きが0.2なら約0.2倍になります。

10.1 連続写像定理との違い

連続写像定理から、

θ^npθg(θ^n)pg(θ)\hat\theta_n\xrightarrow{p}\theta \quad\Longrightarrow\quad g(\hat\theta_n)\xrightarrow{p}g(\theta)

までは分かります。しかし、これは「変換後の推定量がどこへ近づくか」だけで、どのくらいの速さ・ばらつきで近づくかを教えません。

デルタ法は、さらに、

n{g(θ^n)g(θ)}\sqrt n\{g(\hat\theta_n)-g(\theta)\}

の極限分布を与えます。したがって、標準誤差、信頼区間、Wald検定まで作れるようになります。

INTERACTIVE

曲線を接線で近似する

推定値の揺らぎを導関数で拡大・縮小する、デルタ法の中身を図示します。

変換後の中心 g(θ)
局所的な傾き g′(θ)
デルタ法の標準誤差
変換関数と接線による一次近似変換関数の曲線、中心における接線、元の推定量の95パーセント範囲とデルタ法で近似した変換後の範囲を表示する。
接線による対称近似
元尺度の区間端点を変換
変換関数 g(x)θ における接線元の推定量の約95%範囲

図の青線が本当の変換、赤い破線が一次Taylor近似です。標準誤差 ss を大きくすると黄色の範囲が広がり、曲線と接線の差が大きくなります。これは、小標本や強い非線形性のもとでデルタ法の精度が落ちる理由です。

10.2 Taylor展開から1変量デルタ法を導く

推定量が、

n(θ^nθ)dN(0,τ2)\sqrt n(\hat\theta_n-\theta) \xrightarrow{d}N(0,\tau^2)

を満たすとします。これは、大まかには、

θ^nθ=Op(n1/2)\hat\theta_n-\theta=O_p(n^{-1/2})

すなわち「推定誤差の大きさが 1/n1/\sqrt n 程度」という意味です。

手順1:曲線を接線で近似する

ggθ\theta で微分可能なら、1次Taylor展開により、

g(θ^n)=g(θ)+g(θ)(θ^nθ)+Rng(\hat\theta_n) =g(\theta) +g'(\theta)(\hat\theta_n-\theta) +R_n

と書けます。RnR_n は曲線と接線のずれを表す剰余項です。

手順2:n\sqrt n を掛ける

両辺から g(θ)g(\theta) を引いて n\sqrt n を掛けると、

n{g(θ^n)g(θ)}=g(θ)n(θ^nθ)+nRn.\sqrt n\{g(\hat\theta_n)-g(\theta)\} =g'(\theta)\sqrt n(\hat\theta_n-\theta) +\sqrt nR_n.

微分可能性から Rn=op(θ^nθ)R_n=o_p(\lvert\hat\theta_n-\theta\rvert) であり、

nRn=op(1)\sqrt nR_n=o_p(1)

となります。したがって、漸近的には、

n{g(θ^n)g(θ)}g(θ)n(θ^nθ)\sqrt n\{g(\hat\theta_n)-g(\theta)\} \approx g'(\theta)\sqrt n(\hat\theta_n-\theta)

です。

手順3:正規分布の倍率を変える

もし ZN(0,τ2)Z\sim N(0,\tau^2) なら、定数 aa に対して、

aZN(0,a2τ2)aZ\sim N(0,a^2\tau^2)

です。Slutskyの定理を使うと、

n{g(θ^n)g(θ)}dN(0,{g(θ)}2τ2)\boxed{ \sqrt n\{g(\hat\theta_n)-g(\theta)\} \xrightarrow{d} N\left(0,\{g'(\theta)\}^2\tau^2\right) }

が得られます。これが1変量デルタ法です。

元の推定量の近似分散が τ2/n\tau^2/n なら、

Var{g(θ^n)}{g(θ)}2τ2n={g(θ)}2Var(θ^n).\operatorname{Var}\{g(\hat\theta_n)\} \approx \frac{\{g'(\theta)\}^2\tau^2}{n} = \{g'(\theta)\}^2\operatorname{Var}(\hat\theta_n).

標準偏差では絶対値を取るので、

SE{g(θ^n)}g(θ)SE(θ^n).\operatorname{SE}\{g(\hat\theta_n)\} \approx \lvert g'(\theta)\rvert\operatorname{SE}(\hat\theta_n).

発展:剰余項が消えることの確認

微分可能性の定義から、h0h\to0 のとき、

g(θ+h)g(θ)=g(θ)h+hε(h),ε(h)0g(\theta+h)-g(\theta) =g'(\theta)h+h\varepsilon(h), \qquad \varepsilon(h)\to0

と書けます。h=θ^nθh=\hat\theta_n-\theta とすると、漸近正規性から θ^npθ\hat\theta_n\xrightarrow{p}\theta なので、

ε(θ^nθ)p0.\varepsilon(\hat\theta_n-\theta)\xrightarrow{p}0.

また、n(θ^nθ)=Op(1)\sqrt n(\hat\theta_n-\theta)=O_p(1) です。よって、

nRn=n(θ^nθ)ε(θ^nθ)=Op(1)op(1)=op(1).\sqrt nR_n = \sqrt n(\hat\theta_n-\theta) \varepsilon(\hat\theta_n-\theta) =O_p(1)o_p(1) =o_p(1).

この積が消えるため、一次項だけが極限分布へ残ります。

10.3 実際の標準誤差を計算する5手順

実務では θ\thetaτ\tauΣ\Sigma は未知です。そこで一致推定量を代入します。

  1. 元の推定量の漸近分布を確認する。
  2. 目的量を g(θ)g(\theta) として書く。
  3. g(θ)g'(\theta)、多変量なら g(θ)\nabla g(\theta) を計算する。
  4. 未知母数を θ^\hat\theta、未知分散を推定値で置き換える。
  5. 近似標準誤差と信頼区間を作る。

1変量なら、プラグイン標準誤差は、

SE^{g(θ^)}=g(θ^)SE^(θ^)\widehat{\operatorname{SE}}\{g(\hat\theta)\} = \lvert g'(\hat\theta)\rvert \widehat{\operatorname{SE}}(\hat\theta)

です。導関数を真値 θ\theta ではなく推定値 θ^\hat\theta で評価しても、θ^pθ\hat\theta\xrightarrow{p}\theta とSlutskyの定理により漸近的には同じです。

答案で外さない3点

元の極限分散、導関数、最後の 1/n1/n を混ぜないことが重要です。n\sqrt n を付けた極限分散が τ2\tau^2 なら、推定量そのものの近似分散は τ2/n\tau^2/n です。標準誤差では導関数の絶対値を取ります。

10.4 例1:対数変換を途中計算から

X1,,XnX_1,\ldots,X_n が独立同一分布で、

E[Xi]=μ>0,Var(Xi)=σ2E[X_i]=\mu>0,\qquad \operatorname{Var}(X_i)=\sigma^2

とします。中心極限定理から、

n(Xˉμ)dN(0,σ2).\sqrt n(\bar X-\mu)\xrightarrow{d}N(0,\sigma^2).

g(x)=logxg(x)=\log x と置くと、

g(μ)=1μ.g'(\mu)=\frac1\mu.

したがってデルタ法より、

n{logXˉlogμ}dN(0,σ2μ2).\sqrt n\{\log\bar X-\log\mu\} \xrightarrow{d} N\left(0,\frac{\sigma^2}{\mu^2}\right).

logXˉ\log\bar X 自体の近似分散と標準誤差は、

Var(logXˉ)σ2nμ2,SE(logXˉ)σμn.\operatorname{Var}(\log\bar X) \approx\frac{\sigma^2}{n\mu^2}, \qquad \operatorname{SE}(\log\bar X) \approx\frac{\sigma}{\mu\sqrt n}.

実際には μ,σ\mu,\sigma が未知なので、

SE^(logXˉ)=SXˉn\widehat{\operatorname{SE}}(\log\bar X) =\frac{S}{\bar X\sqrt n}

と推定します。右辺は「変動係数を n\sqrt n で割ったもの」です。

例えば Xˉ=120\bar X=120S=30S=30n=36n=36 なら、

SE^(logXˉ)=3012036=307200.0417.\widehat{\operatorname{SE}}(\log\bar X) =\frac{30}{120\sqrt{36}} =\frac{30}{720} \approx0.0417.

薬物動態量の倍率変化では、対数尺度で標準誤差を評価し、最後に指数変換で元の倍率尺度へ戻す考え方につながります。ただし、この例は「標本平均を取ってから対数変換」しています。生物学的同等性試験では通常、各被験者のAUCや CmaxC_{\max} を先に対数変換してからモデル化するため、両者を同じ計算だと考えてはいけません。

10.5 多変量デルタ法

kk 個の推定量をまとめたベクトル θ^\hat{\boldsymbol\theta} が、

n(θ^θ)dNk(0,Σ)\sqrt n(\hat{\boldsymbol\theta}-\boldsymbol\theta) \xrightarrow{d} N_k(\mathbf0,\Sigma)

を満たすとします。g:RkRg:\mathbb R^k\to\mathbb R を微分可能とすると、一次Taylor展開は、

g(θ^)g(θ)g(θ)(θ^θ)g(\hat{\boldsymbol\theta})-g(\boldsymbol\theta) \approx \nabla g(\boldsymbol\theta)^\top (\hat{\boldsymbol\theta}-\boldsymbol\theta)

です。したがって、

n{g(θ^)g(θ)}dN(0,g(θ)Σg(θ))\boxed{ \sqrt n\{g(\hat{\boldsymbol\theta})-g(\boldsymbol\theta)\} \xrightarrow{d} N\left( 0, \nabla g(\boldsymbol\theta)^\top \Sigma \nabla g(\boldsymbol\theta) \right) }

となります。勾配は「各入力を少し動かしたとき、出力がどれだけ動くか」を並べたベクトルです。

多変量デルタ法を単変量と成分表示へ戻す

k=1k=1 なら、極限分散は {g(θ)}2σ2\{g'(\theta)\}^2\sigma^2 で、通常のデルタ法です。2変量で勾配を (g1,g2)T(g_1,g_2)^T とすると、行列による式は g12σ11+g22σ22+2g1g2σ12g_1^2\sigma_{11}+g_2^2\sigma_{22}+2g_1g_2\sigma_{12} へ展開できます。

  1. gg を各パラメータで偏微分し、勾配を作る。
  2. Σg\Sigma\nabla g を計算して、各推定量の分散・共分散を感度で重み付けする。
  3. 左から (g)T(\nabla g)^T を掛けて1個の分散へ合計する。
  4. θ^\hat{\boldsymbol\theta} 自体の分散が必要なら、最後に nn で割る。

θ1/θ2\theta_1/\theta_2 の分散

g(θ1,θ2)=θ1θ2g(\theta_1,\theta_2)=\frac{\theta_1}{\theta_2}

なら、

g(θ)=(1/θ2θ1/θ22).\nabla g(\boldsymbol\theta) = \begin{pmatrix} 1/\theta_2\\ -\theta_1/\theta_2^2 \end{pmatrix}.

共分散行列を、

Σ=(σ11σ12σ12σ22)\Sigma= \begin{pmatrix} \sigma_{11}&\sigma_{12}\\ \sigma_{12}&\sigma_{22} \end{pmatrix}

とすると、n\sqrt n を付けた比の極限分散は、

σ11θ22+θ12σ22θ242θ1σ12θ23.\frac{\sigma_{11}}{\theta_2^2} +\frac{\theta_1^2\sigma_{22}}{\theta_2^4} -\frac{2\theta_1\sigma_{12}}{\theta_2^3}.

したがって、比の推定量そのものの近似分散は、この式を nn で割ったものです。同一被験者からAUCと CmaxC_{\max} を計算する場合や、投与前後の比を扱う場合、σ12\sigma_{12} を0と決めつけてはいけません。

薬学例:pEC50の標準誤差

θ=EC50>0\theta=\mathrm{EC}_{50}>0 とし、

g(θ)=log10θg(\theta)=-\log_{10}\theta

でpEC50へ変換します。底の変換公式 log10θ=logθ/log10\log_{10}\theta=\log\theta/\log 10 より、

g(θ)=1θlog10.g'(\theta)=-\frac{1}{\theta\log 10}.

したがって、

SE(pEC^50)SE(EC^50)EC^50log10.\operatorname{SE}(\widehat{\mathrm{pEC}}_{50}) \approx \frac{\operatorname{SE}(\widehat{\mathrm{EC}}_{50})} {\widehat{\mathrm{EC}}_{50}\log 10}.

pEC50として解釈するときは、EC50を mol/L\mathrm{mol/L} で表します。ただし、用量反応曲線の非線形回帰では、EC50を後から変換するより、対数EC50を直接パラメータ化して推定する方が数値的に安定する場合があります。また、曲線が十分に飽和していない場合、局所的なWald近似自体が不安定です。

10.6 信頼区間はどの尺度で作るか

変換尺度でWald型95%信頼区間を作るなら、

g(θ^)±1.96SE^{g(θ^)}g(\hat\theta) \pm 1.96\, \widehat{\operatorname{SE}}\{g(\hat\theta)\}

です。gg が単調で逆関数 g1g^{-1} をもつなら、両端を逆変換して元の尺度へ戻せます。

対数変換なら、

[exp{g(θ^)1.96SE^},exp{g(θ^)+1.96SE^}]\left[ \exp\{g(\hat\theta)-1.96\,\widehat{\operatorname{SE}}\}, \exp\{g(\hat\theta)+1.96\,\widehat{\operatorname{SE}}\} \right]

となります。元の尺度では左右非対称になりますが、正の量に対して下限が負にならない利点があります。

「元の尺度で対称な区間を作ってから変換する方法」と「変換尺度で対称な区間を作って逆変換する方法」は一般に一致しません。どの尺度で正規近似が妥当か、どの尺度で解釈したいかを明示します。

10.7 デルタ法が危ない場面

状況何が起こるか対応
g(θ)=0g'(\theta)=01次項が消え、通常のデルタ法では分散0になる2次デルタ法
ggθ\theta で微分不能接線が一意に定まらない別の極限定理、直接導出
分母が0に近い比導関数が非常に大きく、分布が強く歪むFieller法、プロファイル法、ブートストラップ
母数が境界に近い正規近似区間が定義域をはみ出す適切なリンク関数、尤度法
標準誤差が大きい曲線と接線が広い範囲で離れる標本数、シミュレーション、ブートストラップを確認
元の推定量が漸近正規でないデルタ法の出発点が成立しない元の極限分布から変換を導く

ブートストラップは非線形性を数値的に反映できますが、万能ではありません。境界、極端な比、クラスタ構造、希少事象では再標本化の単位と推定量の正則性を確認します。デルタ法は高速で解析的、ブートストラップは計算的という違いがあり、両者の結果を比較すると近似の弱さを発見できます。

発展:1次項が消える場合の2次デルタ法

g(θ)=0g'(\theta)=0 なら、2次Taylor展開を使います。

g(θ^n)g(θ)=12g(θ)(θ^nθ)2+op{(θ^nθ)2}.g(\hat\theta_n)-g(\theta) = \frac12g''(\theta)(\hat\theta_n-\theta)^2 +o_p\{(\hat\theta_n-\theta)^2\}.

n(θ^nθ)dZ\sqrt n(\hat\theta_n-\theta)\xrightarrow{d}Z なら、両辺に nn を掛けて、

n{g(θ^n)g(θ)}d12g(θ)Z2.n\{g(\hat\theta_n)-g(\theta)\} \xrightarrow{d} \frac12g''(\theta)Z^2.

極限分布は一般に正規分布ではありません。

例えば、XˉN(0,σ2/n)\bar X\sim N(0,\sigma^2/n)g(x)=x2g(x)=x^2 とします。g(0)=0g'(0)=0g(0)=2g''(0)=2 なので、

nXˉ2dσ2χ12.n\bar X^2 \xrightarrow{d} \sigma^2\chi_1^2.

1次デルタ法で「分散0」と結論してはいけません。収束速度が n\sqrt n から nn に変わり、極限もカイ二乗型になります。

11. 分散安定化変換

11.1 考え方

推定量 TT の分散が母数 θ\theta によって、

Var(T)v(θ)n\operatorname{Var}(T)\approx\frac{v(\theta)}{n}

のように変わるとします。デルタ法から、

Var{g(T)}{g(θ)}2v(θ)n\operatorname{Var}\{g(T)\} \approx \{g'(\theta)\}^2\frac{v(\theta)}{n}

です。これを θ\theta に依存しない定数 C/nC/n にしたければ、

{g(θ)}2v(θ)=C\{g'(\theta)\}^2v(\theta)=C

となるように、

g(θ)=Cv(θ)g'(\theta)=\frac{\sqrt C}{\sqrt{v(\theta)}}

を選びます。積分して、

g(θ)=C1v(θ)dθg(\theta)=\sqrt C\int\frac{1}{\sqrt{v(\theta)}}\,d\theta

を求めるのが分散安定化変換の基本です。

11.2 二項比率の逆正弦平方根変換

YBin(n,p)Y\sim\operatorname{Bin}(n,p)p^=Y/n\hat p=Y/n なら、

Var(p^)=p(1p)n.\operatorname{Var}(\hat p)=\frac{p(1-p)}{n}.

v(p)=p(1p)v(p)=p(1-p) なので、

g(p)=1p(1p)g'(p)=\frac{1}{\sqrt{p(1-p)}}

を積分します。p=sin2up=\sin^2u と置くと、

dp=2sinucosududp=2\sin u\cos u\,du

かつ、

p(1p)=sinucosu\sqrt{p(1-p)}=\sin u\cos u

なので、

1p(1p)dp=2du=2u+C=2arcsinp+C.\int\frac{1}{\sqrt{p(1-p)}}\,dp =\int2\,du =2u+C =2\arcsin\sqrt p+C.

したがって、g(p)=arcsinpg(p)=\arcsin\sqrt p と定数倍を省いて選べます。このとき、

g(p)=12p(1p)g'(p)=\frac{1}{2\sqrt{p(1-p)}}

なので、

Var{arcsinp^}14p(1p)p(1p)n=14n.\operatorname{Var}\{\arcsin\sqrt{\hat p}\} \approx \frac{1}{4p(1-p)}\frac{p(1-p)}{n} =\frac{1}{4n}.

母比率 pp にほぼ依存しない分散が得られます。

ただし、現代の二項データ解析では、ロジスティック回帰や二項分布に基づく区間推定を直接使える場合が多く、逆正弦平方根変換を機械的に第一選択にする必要はありません。試験では導出を理解し、実務では目的とモデルを優先します。

11.3 Poisson分布の平方根変換

YPoisson(λ)Y\sim\operatorname{Poisson}(\lambda) なら、

E[Y]=λ,Var(Y)=λ.E[Y]=\lambda,\qquad \operatorname{Var}(Y)=\lambda.

v(λ)=λv(\lambda)=\lambda なので、

g(λ)=1λg'(\lambda)=\frac{1}{\sqrt\lambda}

を積分すると、

g(λ)=2λ+C.g(\lambda)=2\sqrt\lambda+C.

デルタ法で、

Var(2Y)(1λ)2λ=1\operatorname{Var}(2\sqrt Y) \approx \left(\frac{1}{\sqrt\lambda}\right)^2\lambda=1

です。同値に Y\sqrt Y の近似分散は 1/41/4 です。

発展:Anscombe変換

Poisson計数が小さいと、単純な平方根変換にはバイアスが残ります。よく知られた補正は、

2Y+382\sqrt{Y+\frac38}

です。ただし、低カウントや過分散、ゼロ過剰がある生命科学データでは、Poissonまたは負の二項分布に基づく一般化線形モデルを直接使う方が解釈しやすい場合があります。

11.4 変換の薬学的な使いどころ

  • 発現陽性細胞率、奏効率:二項比率の分散が pp に依存する
  • コロニー数、イベント数:Poisson計数の分散が平均とともに増える
  • AUC、濃度、蛍光強度:変動係数がほぼ一定なら対数変換が候補

変換は分布を必ず正規化する魔法ではありません。変換後も外れ値、依存、平均分散関係、解釈可能性を確認します。

12. 順序統計量

12.1 定義

独立同一な連続分布から得た標本を、小さい順に並べます。

X(1)X(2)X(n)X_{(1)}\leq X_{(2)}\leq\cdots\leq X_{(n)}

括弧付き添字 (k)(k) は、kk 回目に観測した値ではなく、小さい方から kk 番目の値を表します。

  • X(1)X_{(1)}:最小値
  • X(n)X_{(n)}:最大値
  • X(k)X_{(k)}kk 番目の順序統計量
  • 奇数標本の中央の順序統計量:標本中央値

例えば観測値が、

4.2,1.1,3.0,5.4,2.34.2,\quad1.1,\quad3.0,\quad5.4,\quad2.3

なら、並べ替えた値は、

1.1,2.3,3.0,4.2,5.41.1,\quad2.3,\quad3.0,\quad4.2,\quad5.4

なので、

X(1)=1.1,X(3)=3.0,X(5)=5.4X_{(1)}=1.1,\qquad X_{(3)}=3.0,\qquad X_{(5)}=5.4

です。標本を取り直せばこれらの値も変わるため、各 X(k)X_{(k)} は確率変数であり、それぞれ標本分布をもちます。

手元にある情報選ぶ順序統計量学べること
最も小さい観測値X(1)X_{(1)}最小反応、最短待ち時間、最小検出値
中央付近の観測値X((n+1)/2)X_{((n+1)/2)}外れ値に比較的頑健な中心
上位 5%5\% 付近の観測値X(0.95n)X_{(\lceil0.95n\rceil)} 付近高曝露、正常上限、リスク閾値
最も大きい観測値X(n)X_{(n)}最大毒性値、ピーク、最悪値

INTERACTIVE

標本を並べて、k番目を追いかける

元の観測順と小さい順を比較し、選んだ順位の標本分布までつなげます。

選択中
今回の値
母集団内の平均的位置
観測順の標本を小さい順に並べ替える上段に観測された順の値、下段に小さい順へ並べた値を表示し、k番目の順序統計量を強調する。
上段の添字 i は観測された順番、下段の括弧付き添字 (k) は値の小さい順です。同じ値を並べ替えただけで、データを捨ててはいません。
選んだ X(k)
個が x より小さい確率因子 F(x)
1個が [x, x+dx]確率因子 f(x)dx
個が x より大きい確率因子 [1−F(x)]
パーセンタイル尺度に直したk番目の順序統計量Fを適用したk番目の順序統計量が従うベータ分布の密度と平均位置を表示する。
U(k) の密度平均 k/(n+1)
図の読み方

kk を1にすると最小値、k=nk=n にすると最大値です。下の青い密度は実測値そのものではなく、U(k)=F(X(k))U_{(k)}=F(X_{(k)})、つまり「母集団の何パーセント地点に kk 番目が来るか」の分布です。

12.2 一般の分布関数:二項分布へ言い換える

X(k)xX_{(k)}\leq x という事象は、「nn 個のうち、少なくとも kk 個が xx 以下」と同じです。

そこで、

Nx=i=1nI(Xix)N_x=\sum_{i=1}^n I(X_i\leq x)

と置きます。各指示変数は確率 F(x)F(x) のBernoulli変数なので、

NxBin{n,F(x)}.N_x\sim\operatorname{Bin}\{n,F(x)\}.

したがって、

FX(k)(x)=P(X(k)x)=P(Nxk)=j=kn(nj)F(x)j{1F(x)}nj.\begin{aligned} F_{X_{(k)}}(x) &=P(X_{(k)}\leq x)\\ &=P(N_x\geq k)\\ &=\sum_{j=k}^{n} \binom nj F(x)^j\{1-F(x)\}^{n-j}. \end{aligned}

これが一般の kk 番目の順序統計量の分布関数です。

試験で強い言い換え

X(k)xX_{(k)}\leq x は「少なくとも kk 個が xx 以下」、X(k)>xX_{(k)}>x は「xx 以下が高々 k1k-1 個」です。順序統計量を二項カウントへ変えると、分布関数を組み立てやすくなります。

12.3 最小値と最大値の分布

母分布関数を F(x)F(x) とします。最大値 X(n)X_{(n)} について、

P(X(n)x)=P(X1x,,Xnx)=i=1nP(Xix)=F(x)n.\begin{aligned} P(X_{(n)}\leq x) &=P(X_1\leq x,\ldots,X_n\leq x)\\ &=\prod_{i=1}^nP(X_i\leq x)\\ &=F(x)^n. \end{aligned}

したがって、

FX(n)(x)=F(x)n.F_{X_{(n)}}(x)=F(x)^n.

密度が存在するなら微分して、

fX(n)(x)=nF(x)n1f(x).f_{X_{(n)}}(x)=nF(x)^{n-1}f(x).

最小値では補集合を使います。

P(X(1)>x)=P(X1>x,,Xn>x)={1F(x)}n.\begin{aligned} P(X_{(1)}>x) &=P(X_1>x,\ldots,X_n>x)\\ &=\{1-F(x)\}^n. \end{aligned}

よって、

FX(1)(x)=1{1F(x)}nF_{X_{(1)}}(x)=1-\{1-F(x)\}^n

および、

fX(1)(x)=n{1F(x)}n1f(x)f_{X_{(1)}}(x)=n\{1-F(x)\}^{n-1}f(x)

です。

最大値では「全員が xx 以下」、最小値の生存関数では「全員が xx より大きい」と考えるのがポイントです。

数値例:5個中2番目が閾値以下

母集団で閾値 cc 以下となる確率が F(c)=0.2F(c)=0.2 とします。5個の測定値のうち2番目 X(2)X_{(2)}cc 以下である確率は、「少なくとも2個が cc 以下」なので、

P(X(2)c)=1P(Nc=0)P(Nc=1)=10.85(51)(0.2)(0.8)4=10.327680.40960=0.26272.\begin{aligned} P(X_{(2)}\leq c) &=1-P(N_c=0)-P(N_c=1)\\ &=1-0.8^5-\binom51(0.2)(0.8)^4\\ &=1-0.32768-0.40960\\ &=0.26272. \end{aligned}

「2番目の値の分布」を直接想像するより、閾値以下の個数を数える方が簡単です。

12.4 kk 番目の密度の導出

X(k)X_{(k)}xx の近くにあるためには、概略として、

  1. k1k-1 個が xx より小さい
  2. 1個が幅 dxdx の区間 [x,x+dx][x,x+dx] に入る
  3. 残り nkn-k 個が xx より大きい

必要があります。標本の割り当て方は、

n!(k1)!1!(nk)!\frac{n!}{(k-1)!1!(n-k)!}

通りです。中央の1個を選び、そのほかを左側と右側へ割り当てる多項係数です。

3領域へ入る確率は、それぞれ、

P(X<x)=F(x),P(xXx+dx)=f(x)dx+o(dx),P(X<x)=F(x),\qquad P(x\leq X\leq x+dx)=f(x)dx+o(dx), P(X>x+dx)=1F(x)+o(1)P(X>x+dx)=1-F(x)+o(1)

です。一次の dxdx まで残すと、微小確率は、

n!(k1)!(nk)!F(x)k1f(x)dx{1F(x)}nk.\frac{n!}{(k-1)!(n-k)!} F(x)^{k-1}f(x)dx\{1-F(x)\}^{n-k}.

dxdx で割ると、

fX(k)(x)=n!(k1)!(nk)!F(x)k1{1F(x)}nkf(x).f_{X_{(k)}}(x) =\frac{n!}{(k-1)!(n-k)!} F(x)^{k-1}\{1-F(x)\}^{n-k}f(x).

これが一般の順序統計量の密度です。

各因子には次の意味があります。

因子図で表した領域
F(x)k1F(x)^{k-1}左側へ入る k1k-1
f(x)dxf(x)dx中央の細い区間へ入る1個
{1F(x)}nk\{1-F(x)\}^{n-k}右側へ入る nkn-k
n!/{(k1)!(nk)!}n!/\{(k-1)!(n-k)!\}観測値を3領域へ割り当てる方法の数
答案で気をつけること

密度公式だけを暗記せず、「左に k1k-1 個、中央に1個、右に nkn-k 個」と最初に書きます。指数が kknk+1n-k+1 へずれるミスを防げます。

12.5 一様分布との関係

U1,,UniidUnif(0,1)U_1,\ldots,U_n\overset{\mathrm{iid}}{\sim}\operatorname{Unif}(0,1) なら、F(u)=uF(u)=uf(u)=1f(u)=1 なので、

fU(k)(u)=n!(k1)!(nk)!uk1(1u)nk,0<u<1.f_{U_{(k)}}(u) =\frac{n!}{(k-1)!(n-k)!} u^{k-1}(1-u)^{n-k}, \qquad0<u<1.

これは、

U(k)Beta(k,nk+1)U_{(k)}\sim\operatorname{Beta}(k,n-k+1)

を意味します。したがって、

E[U(k)]=kn+1E[U_{(k)}]=\frac{k}{n+1} Var(U(k))=k(nk+1)(n+1)2(n+2).\operatorname{Var}(U_{(k)}) =\frac{k(n-k+1)}{(n+1)^2(n+2)}.

特に、

E[U(1)]=1n+1,E[U(n)]=nn+1.E[U_{(1)}]=\frac{1}{n+1}, \qquad E[U_{(n)}]=\frac{n}{n+1}.

標本数が増えるほど最小値は0へ、最大値は1へ近づきます。

12.6 確率積分変換:一般の分布を一様分布へ移す

連続な分布関数 FF に対して、

Ui=F(Xi)Unif(0,1)U_i=F(X_i)\sim\operatorname{Unif}(0,1)

です。単調性から、

F(X(k))=U(k)Beta(k,nk+1).F(X_{(k)})=U_{(k)}\sim\operatorname{Beta}(k,n-k+1).

この関係により、一般の母分布の順序統計量を一様分布とベータ分布へ移して考えられます。

期待値、

E[F(X(k))]=kn+1E[F(X_{(k)})]=\frac{k}{n+1}

は、kk 番目の値が平均的に母集団の k/(n+1)k/(n+1) 分位付近へ来ることを示します。k/nk/n ではなく k/(n+1)k/(n+1) である点は頻出です。

医薬・生命科学での読み方

  • 基準範囲:健康集団の上位95%点を推定し、検査値の正常上限候補を考える
  • 薬物曝露:AUCや CmaxC_{\max} の上位順序統計量から高曝露個体を記述する
  • 毒性スクリーニング:複数化合物・濃度条件の最大反応や上位反応を評価する
  • 生存・待ち時間:最短イベント時間や長時間側の分位点を扱う
  • 機械学習:検証損失の中央値、上位分位点、最悪群性能を要約する

ただし、同一個体由来の反復測定や同一患者由来の多数細胞は独立標本ではありません。また、離散データや測定丸めで同順位が生じる場合、ここで示した連続分布の密度導出をそのまま適用できないことがあります。

発展:標本分位点の漸近分布

母分布の pp 分位点を、

ξp=F1(p)\xi_p=F^{-1}(p)

とします。f(ξp)>0f(\xi_p)>0 などの正則条件のもとで、標本 pp 分位点 ξ^p\hat\xi_p は、

n(ξ^pξp)dN(0,p(1p)f(ξp)2).\sqrt n(\hat\xi_p-\xi_p) \xrightarrow{d} N\left(0,\frac{p(1-p)}{f(\xi_p)^2}\right).

密度 f(ξp)f(\xi_p) が小さい、すなわち分布が分位点の近くで平坦なら、分位点推定の分散は大きくなります。 中央値では p=1/2p=1/2 なので、

Var(ξ^0.5)14nf(ξ0.5)2.\operatorname{Var}(\hat\xi_{0.5}) \approx\frac{1}{4n f(\xi_{0.5})^2}.

薬物濃度の95パーセンタイルや安全性指標の上位分位点は、中央値より裾の情報が少なく、通常は推定が不安定です。

13. 極値分布

13.1 なぜ最大値には別の理論が必要か

中心極限定理は和や平均の理論です。最大値、

Mn=max(X1,,Xn)M_n=\max(X_1,\ldots,X_n)

は、標本数が増えるほど分布の端へ移動するため、そのままでは非退化な極限分布をもちません。 そこで定数 an>0,bna_n>0,b_n を使って、

Mnbnan\frac{M_n-b_n}{a_n}

を標準化します。

13.2 Fisher–Tippett–Gnedenko定理

適切な an,bna_n,b_n に対して標準化最大値が非退化な分布へ収束するなら、その極限は本質的に次の3型のいずれかです。

裾の特徴典型的な母分布
Gumbel型指数的に減衰する裾正規、指数、Gumbel
Fréchet型べき乗で減衰する重い裾Pareto
Weibull型有限の上端点をもつ一様、上端をもつBeta

3型は一般化極値分布、

G(z)=exp[(1+ξz)1/ξ],1+ξz>0G(z)= \exp\left[-\left(1+\xi z\right)^{-1/\xi}\right], \qquad1+\xi z>0

にまとめられます。

  • ξ=0\xi=0 の極限:Gumbel型
  • ξ>0\xi>0:Fréchet型
  • ξ<0\xi<0:Weibull型

ここでいうWeibull型は、寿命分布として使う通常のWeibull分布そのものと同一という意味ではありません。極値分布の分類名です。

13.3 指数分布の最大値

XiExp(1)X_i\sim\operatorname{Exp}(1) なら、x0x\geq0F(x)=1exF(x)=1-e^{-x} です。最大値の分布は、

P(Mnx)=(1ex)n.P(M_n\leq x)=(1-e^{-x})^n.

x=logn+zx=\log n+z と置くと、

P(Mnlognz)=(1e(logn+z))n=(1ezn)nexp(ez).\begin{aligned} P(M_n-\log n\leq z) &=\left(1-e^{-(\log n+z)}\right)^n\\ &=\left(1-\frac{e^{-z}}{n}\right)^n\\ &\to\exp(-e^{-z}). \end{aligned}

これは標準Gumbel分布です。

13.4 医薬生物分野での応用と注意

  • 製造バッチ内の最大不純物濃度
  • 多数の患者における最大QT延長
  • 長時間観測した最大血中濃度や最大反応
  • 高スループットスクリーニングの極端な活性値

最大値は観測回数に強く依存します。採血時点が多い群、追跡期間が長い群、測定項目が多い群ほど、偶然に大きな最大値が出やすくなります。

また、同一患者内の時系列は独立でないため、iidの極値理論をそのまま使えないことがあります。観測設計、依存、欠測、測定誤差、閾値選択を明示します。

14. 大数の強法則

独立同一分布の確率変数について、適切な条件のもとで、

Xˉna.s.μ\bar X_n\xrightarrow{a.s.}\mu

が成り立ちます。これが大数の強法則です。

弱法則は、固定した nn で大きく外れる確率が0へ近づくと述べます。強法則は、ほとんどすべての無限標本経路で、標本平均が最終的に母平均へ収束すると述べます。

法則結論見方
大数の弱法則Xˉnpμ\bar X_n\xrightarrow{p}\munn で外れる確率を見る
大数の強法則Xˉna.s.μ\bar X_n\xrightarrow{a.s.}\mu1本の無限標本経路を追う

発展:Borel–Cantelli補題との関係

事象 AnA_n が無限回起こることを An i.o.A_n\ \mathrm{i.o.} と書きます。第1 Borel–Cantelli補題は、

n=1P(An)<P(An i.o.)=0\sum_{n=1}^{\infty}P(A_n)<\infty \quad\Longrightarrow\quad P(A_n\ \mathrm{i.o.})=0

と述べます。

An={Xˉnμ>ε}A_n=\{|\bar X_n-\mu|>\varepsilon\} とすれば、逸脱確率の総和が有限になるような上界を作ることで、「大きな逸脱は有限回しか起こらない」を示し、概収束へつなげられます。

単純にChebyshev上界を足すと 1/n\sum 1/n が発散するため、それだけでは強法則の証明になりません。部分列や切断など、追加の工夫が必要です。

15. 独立だが同一分布でない場合の中心極限定理

臨床・薬学データでは、患者ごと、施設ごと、用量群ごとに分散が異なることがあります。独立でも同一分布とは限らないため、より一般的な中心極限定理が必要です。

15.1 三角配列

nn について、

Xn1,Xn2,,XnknX_{n1},X_{n2},\ldots,X_{nk_n}

という1行を考えます。行内では独立とし、

E[Xnj]=μnj,Var(Xnj)=σnj2E[X_{nj}]=\mu_{nj}, \qquad \operatorname{Var}(X_{nj})=\sigma_{nj}^2

とします。行全体の分散を、

sn2=j=1knσnj2s_n^2=\sum_{j=1}^{k_n}\sigma_{nj}^2

と置きます。

15.2 Lindeberg–Fellerの中心極限定理

任意の ε>0\varepsilon>0 に対して、

1sn2j=1knE[(Xnjμnj)2I{Xnjμnj>εsn}]0\frac{1}{s_n^2} \sum_{j=1}^{k_n} E\left[ (X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\} \right] \to0

が成り立つことをLindeberg条件といいます。

この条件の意味は、全体の標準偏差 sns_n と比べて極端に大きい1観測が、総分散を支配しないことです。この条件のもとで、

j=1kn(Xnjμnj)sndN(0,1).\frac{ \sum_{j=1}^{k_n}(X_{nj}-\mu_{nj}) }{s_n} \xrightarrow{d}N(0,1).

15.3 Lyapunovの中心極限定理

ある δ>0\delta>0 に対して、

1sn2+δj=1knE[Xnjμnj2+δ]0\frac{1}{s_n^{2+\delta}} \sum_{j=1}^{k_n} E\left[|X_{nj}-\mu_{nj}|^{2+\delta}\right] \to0

なら、標準化和は標準正規分布へ収束します。これがLyapunov条件です。

Lyapunov条件はLindeberg条件より強いですが、絶対積率を計算して確認しやすいことがあります。

15.4 Lyapunov条件がLindeberg条件を導く理由

Xnjμnj>εsn|X_{nj}-\mu_{nj}|>\varepsilon s_n の領域では、

Xnjμnjδ>(εsn)δ|X_{nj}-\mu_{nj}|^\delta>(\varepsilon s_n)^\delta

です。したがって、

(Xnjμnj)2I{Xnjμnj>εsn}Xnjμnj2+δ(εsn)δ.\begin{aligned} &(X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\}\\ &\qquad\leq \frac{|X_{nj}-\mu_{nj}|^{2+\delta}} {(\varepsilon s_n)^\delta}. \end{aligned}

両辺の期待値を取り、sn2s_n^2 で割って和を取ると、

1sn2jE[(Xnjμnj)2I{Xnjμnj>εsn}]1εδ1sn2+δjE[Xnjμnj2+δ]0.\begin{aligned} &\frac{1}{s_n^2}\sum_j E\left[(X_{nj}-\mu_{nj})^2 I\{|X_{nj}-\mu_{nj}|>\varepsilon s_n\}\right]\\ &\qquad\leq \frac{1}{\varepsilon^\delta} \frac{1}{s_n^{2+\delta}} \sum_jE[|X_{nj}-\mu_{nj}|^{2+\delta}] \to0. \end{aligned}

よってLyapunov条件はLindeberg条件を導きます。

15.5 医薬生物データでの読み方

多施設研究で各患者のアウトカムが独立でも、施設、背景、用量によって分散が異なることがあります。Lindeberg条件は、特定の患者や施設が総分散をほぼ単独で支配しないことを要求します。

ただし、同一施設内の患者が相関するなら、独立性そのものが崩れます。その場合はクラスター単位の中心極限定理、混合モデル、GEE、クラスター頑健標準誤差などが必要です。

Lindeberg–Feller定理は「異質性があっても何でも正規近似できる」という定理ではありません。独立性、総分散の増大、1項による支配がないことを確認します。

情報科学・機械学習との接続

機械学習では、訓練データで得た性能が、まだ見ていないデータでも再現するかを知りたいと考えます。 精度、感度、AUC、平均損失などは、有限個のテスト標本から計算した統計量です。 したがって、モデル評価にも標本分布と独立単位の考え方が必要です。

テスト精度にも標本分布がある

独立なテスト標本で、各予測が正しければ Ii=1I_i=1、誤れば Ii=0I_i=0 とします。 正解確率を pp とすれば、

IiBernoulli(p)I_i\sim\operatorname{Bernoulli}(p)

であり、accuracyは、

p^=1ni=1nIi\widehat p=\frac1n\sum_{i=1}^nI_i

です。独立同一分布なら、

E[p^]=p,Var(p^)=p(1p)nE[\widehat p]=p, \qquad \operatorname{Var}(\widehat p)=\frac{p(1-p)}{n}

となります。 テスト標本が少ないと、accuracyが高く見えても不確実性は大きくなります。

患者内に複数画像、マウス内に複数切片、ドナー内に多数細胞がある場合、画像・切片・細胞を独立な IiI_i として扱うことはできません。独立単位を数え直す必要があります。

経験リスクの収束と汎化は同じではない

固定した予測器 ff に対して、独立同一分布の損失、

Li=L{Yi,f(Xi)}L_i=L\{Y_i,f(X_i)\}

の平均は、大数の法則により、

1ni=1nLipE[Li]\frac1n\sum_{i=1}^nL_i \xrightarrow{p} E[L_i]

と収束します。

ただし、同じデータを使って多数のモデルから最も成績の良いものを選ぶと、選択による楽観バイアスが入ります。 大数の法則だけでは、複雑なモデルをデータに合わせて選んだ後の汎化を自動的に保証しません。

そのため、訓練、検証、最終テストを分けます。

  • 訓練データ:母数・重みを学習する
  • 検証データ:ハイパーパラメータやモデルを選ぶ
  • テストデータ:選択後の性能を最後に評価する

データ漏洩は独立性の破れとして考える

同一患者の別時点が訓練とテストへ分かれると、モデルは患者固有の情報を利用できます。 このときテスト誤差は、未知患者への誤差を表しません。

予測したい対象分割すべき単位
新しい画像画像。ただし同一患者依存に注意
新しい患者患者単位
新しい施設施設を丸ごと外部検証
新しいドナードナー単位
新しい実験日・プレート日・プレート単位の検証も行う

ランダム分割の前に、「将来どの単位へ汎化したいか」を決めます。

ミニバッチ勾配は標本平均である

1標本の勾配を gi(θ)\boldsymbol g_i(\boldsymbol\theta) とし、バッチサイズを BB とすると、ミニバッチ勾配は、

g^B=1Bi=1Bgi\widehat{\boldsymbol g}_B =\frac1B\sum_{i=1}^B\boldsymbol g_i

です。独立で分散が有限なら、バッチサイズが増えるほど分散はおおむね 1/B1/B に減ります。

ベクトルのミニバッチ平均を単変量へ戻す

パラメータが1個なら、各標本の微分 gig_i を足して BB で割る普通の標本平均です。ベクトルでは、1番目のパラメータの勾配どうし、2番目のパラメータの勾配どうし、というように成分ごとに同じ平均を計算します。

中心極限定理は、ミニバッチ勾配の揺らぎを近似的に正規分布として理解する入口になります。

ただし、クラス不均衡、患者ごとのクラスタ、時系列依存があると単純な独立同一分布の近似は崩れます。

デルタ法は評価指標の標準誤差に使える

感度と特異度の差、リスク比、オッズ比、対数変換した誤差などは、基本統計量の非線形関数です。 推定量 θ^\widehat{\boldsymbol\theta} が漸近正規なら、関数 gg に対して、

Var{g(θ^)}g(θ)TCov(θ^)g(θ)\operatorname{Var}\{g(\widehat{\boldsymbol\theta})\} \approx \nabla g(\boldsymbol\theta)^T \operatorname{Cov}(\widehat{\boldsymbol\theta}) \nabla g(\boldsymbol\theta)

と近似できます。 複数指標が同じ症例から計算される場合、共分散を0と置かないことが重要です。

評価指標の分散公式を成分ごとに読む

指標の元になる推定量が1個ならVar{g(θ^)}{g(θ)}2Var(θ^)\operatorname{Var}\{g(\hat\theta)\}\approx\{g'(\theta)\}^2\operatorname{Var}(\hat\theta) です。複数なら、各推定量の不確実性だけでなく、同じ症例から計算された推定量どうしの共分散も足します。

分布シフトでは標本数を増やしても直らない

訓練分布 Ptrain(X,Y)P_{\mathrm{train}}(X,Y) と運用分布 Ptarget(X,Y)P_{\mathrm{target}}(X,Y) が異なると、訓練標本を増やしても、対象集団の期待損失へ収束するとは限りません。

薬学・医療AIでは、施設、測定機器、患者背景、前処理、時期による変化を確認します。 内部交差検証の標準誤差が小さくても、外部集団へのバイアスは別問題です。

「データ数」と「独立な情報量」を区別します。

100万細胞があってもドナーが3人なら、未知ドナーへの一般化を支える独立単位は主に3人です。深層学習でも、標本分布、階層、分布シフトの問題は消えません。

16. 何を見て、何を判断するか

目的観測・確認する情報主な理論判断できること
母平均の精度n,xˉ,sn,\bar x,s、分布形tt 分布、CLT標準誤差、信頼区間
測定精度の比較各群の標本分散、正規性χ2,F\chi^2,F 分布母分散、分散比
大標本推定量の妥当性一致性、漸近分散WLLN、Slutsky未知量のプラグインが可能か
比、対数、比率の精度元の推定量の共分散デルタ法変換後の近似標準誤差
ばらつきの均一化平均と分散の関係分散安定化変換変換候補、モデル選択
上位分位点・最大値標本数、裾、依存順序統計量、極値理論閾値超過、最悪値の確率
異質な観測の和各項の分散と高次積率Lindeberg–Feller、Lyapunov正規近似が成立する条件

17. 統計検定1級でよく問われる接続

  1. E[Xˉ]=μE[\bar X]=\muVar(Xˉ)=σ2/n\operatorname{Var}(\bar X)=\sigma^2/n を導く
  2. E[S2]=σ2E[S^2]=\sigma^2 を偏差平方和の恒等式から示す
  3. 正規標本で Xˉ\bar XS2S^2 が独立であることを使う
  4. カイ二乗変数の和、tt の定義、T2FT^2\sim F を結ぶ
  5. Chebyshevの不等式から大数の弱法則を示す
  6. CLTで和や二項確率を正規近似し、連続補正を行う
  7. 一致推定量と漸近正規性をSlutskyの定理で組み合わせる
  8. Taylor展開からデルタ法の近似分散を求める
  9. FX(n)(x)=F(x)nF_{X_{(n)}}(x)=F(x)^n から極値の分布を求める
  10. Lindeberg条件とLyapunov条件の違いを説明する
答案の型

近似問題では、(1) 元の統計量、(2) 中心化、(3) 尺度化、(4) 使う定理と条件、(5) 極限分布、(6) 元の尺度への戻し方、の順に書くと論理が崩れにくくなります。

18. 数理統計の問題

試験答案として解くとき

総合問題集の模範解答版では、全問を「中心化・尺度化 → 使う定理と条件 → 計算 → 結論 → 注意」の順に整えています。近似・収束の問題では、標準化と定理の条件を必ず書きます。

問題1:標本平均の標本分布

X1,,X25X_1,\ldots,X_{25} は平均12、分散9の母集団からの独立同一分布標本とします。

  1. E[Xˉ]E[\bar X]Var(Xˉ)\operatorname{Var}(\bar X) を求めてください。
  2. 母集団が正規分布なら、P(11.4Xˉ12.6)P(11.4\leq\bar X\leq12.6) を求めてください。

解答1

期待値と分散は、

E[Xˉ]=12E[\bar X]=12 Var(Xˉ)=925=0.36\operatorname{Var}(\bar X)=\frac{9}{25}=0.36

です。したがって標準誤差は、

SE(Xˉ)=0.36=0.6\operatorname{SE}(\bar X)=\sqrt{0.36}=0.6

です。正規母集団なら、

XˉN(12,0.36).\bar X\sim N(12,0.36).

よって、

P(11.4Xˉ12.6)=P(11.4120.6Z12.6120.6)=P(1Z1)0.6827.\begin{aligned} P(11.4\leq\bar X\leq12.6) &=P\left( \frac{11.4-12}{0.6}\leq Z\leq \frac{12.6-12}{0.6} \right)\\ &=P(-1\leq Z\leq1)\\ &\approx0.6827. \end{aligned}

問題2:不偏標本分散

X1,,XnX_1,\ldots,X_n は平均 μ\mu、分散 σ2\sigma^2 の独立同一分布標本です。

Sn2=1ni=1n(XiXˉ)2S_n^2=\frac1n\sum_{i=1}^n(X_i-\bar X)^2

と置くとき、E[Sn2]E[S_n^2] を求めてください。

解答2

偏差平方和の期待値は、

E[i=1n(XiXˉ)2]=(n1)σ2E\left[\sum_{i=1}^n(X_i-\bar X)^2\right]=(n-1)\sigma^2

でした。したがって、

E[Sn2]=1n(n1)σ2=n1nσ2.\begin{aligned} E[S_n^2] &=\frac1n(n-1)\sigma^2\\ &=\frac{n-1}{n}\sigma^2. \end{aligned}

nn で割る標本分散は母分散を過小評価します。n1n-1 で割ることで不偏になります。

問題3:母分散の信頼区間

正規母集団からの大きさ10の標本で s2=4.0s^2=4.0 を得ました。自由度9のカイ二乗分布について、

χ9,0.0252=2.700,χ9,0.9752=19.023\chi^2_{9,0.025}=2.700,\qquad \chi^2_{9,0.975}=19.023

とします。母分散 σ2\sigma^2 の95%信頼区間を求めてください。

解答3

(n1)S2σ2χn12\frac{(n-1)S^2}{\sigma^2}\sim\chi^2_{n-1}

なので、

P(2.7009S2σ219.023)=0.95.P\left( 2.700\leq\frac{9S^2}{\sigma^2}\leq19.023 \right)=0.95.

正の量について不等号を解くと、

P(9S219.023σ29S22.700)=0.95.P\left( \frac{9S^2}{19.023}\leq\sigma^2\leq \frac{9S^2}{2.700} \right)=0.95.

s2=4.0s^2=4.0 を代入して、

(3619.023,362.700)(1.89,13.33).\left( \frac{36}{19.023}, \frac{36}{2.700} \right) \approx(1.89,13.33).

分散の区間は非対称になります。

問題4:tt 統計量

正規母集団から大きさ16の標本を取り、xˉ=52\bar x=52s=8s=8 を得ました。H0:μ=48H_0:\mu=48 を検定する1標本 tt 統計量を求めてください。

解答4

t=xˉμ0s/n=52488/16=42=2.\begin{aligned} t &=\frac{\bar x-\mu_0}{s/\sqrt n}\\ &=\frac{52-48}{8/\sqrt{16}}\\ &=\frac4{2}\\ &=2. \end{aligned}

自由度は n1=15n-1=15 です。両側検定なら t|t|t15t_{15} の両側臨界値と比較します。

問題5:ttFF の関係

Tt12T\sim t_{12} とします。T2T^2 の分布を導いてください。

解答5

定義から、独立な ZN(0,1)Z\sim N(0,1)Vχ122V\sim\chi^2_{12} を使って、

T=ZV/12T=\frac{Z}{\sqrt{V/12}}

と書けます。両辺を2乗すると、

T2=Z2/1V/12.T^2=\frac{Z^2/1}{V/12}.

Z2χ12Z^2\sim\chi^2_1 なので、FF 分布の定義から、

T2F1,12.T^2\sim F_{1,12}.

問題6:Chebyshev上界

平均100、分散64の母集団から独立に64個を抽出します。P(Xˉ1002)P(|\bar X-100|\geq2) のChebyshev上界を求めてください。

解答6

標本平均の分散は、

Var(Xˉ)=6464=1.\operatorname{Var}(\bar X)=\frac{64}{64}=1.

したがって、

P(Xˉ1002)122=0.25.P(|\bar X-100|\geq2) \leq\frac{1}{2^2}=0.25.

これは分布形を使わない保証であり、実際の確率と一致するとは限りません。

問題7:大数の弱法則

XiiidBernoulli(p)X_i\overset{\mathrm{iid}}{\sim}\operatorname{Bernoulli}(p) とします。標本比率 p^n\hat p_npp に確率収束することを示してください。

解答7

Bernoulli分布の平均と分散は、

E[Xi]=p,Var(Xi)=p(1p).E[X_i]=p,\qquad\operatorname{Var}(X_i)=p(1-p).

p^n=Xˉn\hat p_n=\bar X_n なので、Chebyshevの不等式から、

P(p^npε)p(1p)nε20.P(|\hat p_n-p|\geq\varepsilon) \leq\frac{p(1-p)}{n\varepsilon^2} \to0.

よって、

p^npp.\hat p_n\xrightarrow{p}p.

問題8:二項分布の正規近似

YBin(200,0.4)Y\sim\operatorname{Bin}(200,0.4) とします。P(Y90)P(Y\geq90) を連続補正付き正規近似で表してください。

解答8

平均と分散は、

E[Y]=200(0.4)=80E[Y]=200(0.4)=80 Var(Y)=200(0.4)(0.6)=48.\operatorname{Var}(Y)=200(0.4)(0.6)=48.

Y90Y\geq90 には下側境界89.5を使うので、

P(Y90)P(Z89.58048)=P(Z1.371).\begin{aligned} P(Y\geq90) &\approx P\left(Z\geq\frac{89.5-80}{\sqrt{48}}\right)\\ &=P(Z\geq1.371). \end{aligned}

標準正規分布表から約0.085です。

問題9:Slutskyの定理

n(θ^nθ)dN(0,τ2),τ^npτ>0\sqrt n(\hat\theta_n-\theta)\xrightarrow{d}N(0,\tau^2), \qquad \hat\tau_n\xrightarrow{p}\tau>0

とします。n(θ^nθ)/τ^n\sqrt n(\hat\theta_n-\theta)/\hat\tau_n の極限分布を求めてください。

解答9

まず、

n(θ^nθ)τdN(0,1).\frac{\sqrt n(\hat\theta_n-\theta)}{\tau} \xrightarrow{d}N(0,1).

また、連続写像定理から、

ττ^np1.\frac{\tau}{\hat\tau_n}\xrightarrow{p}1.

積に分けると、

n(θ^nθ)τ^n=n(θ^nθ)τττ^n.\frac{\sqrt n(\hat\theta_n-\theta)}{\hat\tau_n} = \frac{\sqrt n(\hat\theta_n-\theta)}{\tau} \frac{\tau}{\hat\tau_n}.

Slutskyの定理より、

n(θ^nθ)τ^ndN(0,1).\frac{\sqrt n(\hat\theta_n-\theta)}{\hat\tau_n} \xrightarrow{d}N(0,1).

問題10:デルタ法によるオッズの分散

p^\hat p が、

n(p^p)dN(0,p(1p))\sqrt n(\hat p-p)\xrightarrow{d}N(0,p(1-p))

を満たすとします。推定オッズ p^/(1p^)\hat p/(1-\hat p) の漸近分散を求めてください。

解答10

g(p)=p1pg(p)=\frac{p}{1-p}

と置くと、

g(p)=(1p)+p(1p)2=1(1p)2.g'(p)=\frac{(1-p)+p}{(1-p)^2} =\frac{1}{(1-p)^2}.

デルタ法から、

n{p^1p^p1p}dN(0,p(1p)3).\sqrt n\left\{ \frac{\hat p}{1-\hat p}-\frac{p}{1-p} \right\} \xrightarrow{d} N\left(0, \frac{p}{(1-p)^3} \right).

したがって推定オッズ自体の近似分散は、

Var(p^1p^)pn(1p)3.\operatorname{Var}\left(\frac{\hat p}{1-\hat p}\right) \approx\frac{p}{n(1-p)^3}.

問題11:分散安定化変換

YPoisson(λ)Y\sim\operatorname{Poisson}(\lambda) とします。g(Y)=Yg(Y)=\sqrt Y の近似分散をデルタ法で求めてください。

解答11

g(λ)=1/(2λ)g'(\lambda)=1/(2\sqrt\lambda) なので、

Var(Y){g(λ)}2Var(Y)=14λλ=14.\begin{aligned} \operatorname{Var}(\sqrt Y) &\approx\{g'(\lambda)\}^2\operatorname{Var}(Y)\\ &=\frac{1}{4\lambda}\lambda\\ &=\frac14. \end{aligned}

近似分散は λ\lambda に依存しません。

問題12:最大値の分布

X1,,XniidExp(λ)X_1,\ldots,X_n\overset{\mathrm{iid}}{\sim}\operatorname{Exp}(\lambda) とし、Mn=X(n)M_n=X_{(n)} とします。

  1. MnM_n の分布関数を求めてください。
  2. P(Mnm)=0.95P(M_n\leq m)=0.95 となる mm を求めてください。

解答12

指数分布の分布関数は、x0x\geq0 で、

F(x)=1eλxF(x)=1-e^{-\lambda x}

です。したがって、

FMn(m)={1eλm}n.F_{M_n}(m)=\{1-e^{-\lambda m}\}^n.

95%点は、

{1eλm}n=0.95\{1-e^{-\lambda m}\}^n=0.95

を解きます。

1eλm=0.951/n1-e^{-\lambda m}=0.95^{1/n} eλm=10.951/ne^{-\lambda m}=1-0.95^{1/n}

より、

m=1λlog{10.951/n}.m=-\frac1\lambda\log\{1-0.95^{1/n}\}.

問題13:一様分布の順序統計量

U1,,U9iidUnif(0,1)U_1,\ldots,U_9\overset{\mathrm{iid}}{\sim}\operatorname{Unif}(0,1) とします。標本中央値 U(5)U_{(5)} の分布、平均、分散を求めてください。

解答13

一様分布の順序統計量より、

U(5)Beta(5,5).U_{(5)}\sim\operatorname{Beta}(5,5).

平均は、

E[U(5)]=55+5=12.E[U_{(5)}]=\frac{5}{5+5}=\frac12.

分散は、

Var(U(5))=55(5+5)2(5+5+1)=251100=144.\begin{aligned} \operatorname{Var}(U_{(5)}) &=\frac{5\cdot5}{(5+5)^2(5+5+1)}\\ &=\frac{25}{1100}\\ &=\frac1{44}. \end{aligned}

問題14:収束様式

UUnif(0,1)U\sim\operatorname{Unif}(0,1) とし、Xn=U/nX_n=U/n とします。XnX_n の概収束、確率収束、平均二乗収束を調べてください。

解答14

任意の標本点で 0U10\leq U\leq1 なので、

0Xn=Un1n0.0\leq X_n=\frac Un\leq\frac1n\to0.

したがって、すべての標本点で Xn0X_n\to0 であり、

Xna.s.0.X_n\xrightarrow{a.s.}0.

また、

E[(Xn0)2]=E[U2]n2=13n20E[(X_n-0)^2] =\frac{E[U^2]}{n^2} =\frac{1}{3n^2} \to0

なので、

XnL20.X_n\xrightarrow{L^2}0.

どちらからも確率収束が従い、

Xnp0.X_n\xrightarrow{p}0.

問題15:Lyapunov条件

nn で独立な確率変数 Xn1,,XnnX_{n1},\ldots,X_{nn} が、E[Xnj]=0E[X_{nj}]=0Var(Xnj)=1\operatorname{Var}(X_{nj})=1、さらに一様に、

E[Xnj3]CE[|X_{nj}|^3]\leq C

を満たすとします。δ=1\delta=1 のLyapunov条件を確認してください。

解答15

総分散は、

sn2=j=1n1=ns_n^2=\sum_{j=1}^n1=n

なので、sn3=n3/2s_n^3=n^{3/2} です。したがって、

1sn3j=1nE[Xnj3]nCn3/2=Cn0.\begin{aligned} \frac{1}{s_n^3}\sum_{j=1}^nE[|X_{nj}|^3] &\leq\frac{nC}{n^{3/2}}\\ &=\frac{C}{\sqrt n}\\ &\to0. \end{aligned}

よってLyapunov条件が成り立ち、

1nj=1nXnjdN(0,1).\frac{1}{\sqrt n}\sum_{j=1}^nX_{nj} \xrightarrow{d}N(0,1).

問題16:tt 分布と FF 分布の積率・存在条件

独立な確率変数

ZN(0,1),Vχν2Z\sim N(0,1), \qquad V\sim\chi_\nu^2

から、

T=ZV/νT=\frac{Z}{\sqrt{V/\nu}}

を定義します。

  1. TT の平均と分散、およびそれらが存在する自由度の条件を求めてください。
  2. 独立な Uχm2U\sim\chi_m^2Vχn2V\sim\chi_n^2 に対し、F=(U/m)/(V/n)F=(U/m)/(V/n) とします。E[Fr]E[F^r] と、その存在条件を求めてください。

解答16

TT は自由度 ν\nutt 分布に従います。分布は0について対称なので、絶対可積分である ν>1\nu>1 のとき、

E[T]=0E[T]=0

です。ν1\nu\leq1 では平均は存在しません。

ν>2\nu>2 のとき、独立性より、

E[T2]=E[Z2]νE[V1]=1×ν×1ν2=νν2.\begin{aligned} E[T^2] &=E[Z^2]\,\nu E[V^{-1}]\\ &=1\times\nu\times\frac{1}{\nu-2}\\ &=\frac{\nu}{\nu-2}. \end{aligned}

平均が0なので、

Var(T)=νν2(ν>2)\operatorname{Var}(T)=\frac{\nu}{\nu-2}\quad(\nu>2)

です。1<ν21<\nu\leq2 では平均は存在しますが、分散は存在しません。

次に、

Fr=(nm)rUrVrF^r=\left(\frac{n}{m}\right)^rU^rV^{-r}

です。独立性とカイ二乗分布の積率公式から、

E[Ur]=2rΓ(m/2+r)Γ(m/2),E[U^r] =2^r\frac{\Gamma(m/2+r)}{\Gamma(m/2)}, E[Vr]=2rΓ(n/2r)Γ(n/2).E[V^{-r}] =2^{-r}\frac{\Gamma(n/2-r)}{\Gamma(n/2)}.

よって、

E[Fr]=(nm)rΓ(m/2+r)Γ(n/2r)Γ(m/2)Γ(n/2)E[F^r] =\left(\frac{n}{m}\right)^r \frac{\Gamma(m/2+r)\Gamma(n/2-r)} {\Gamma(m/2)\Gamma(n/2)}

です。存在条件は、

m2<r<n2-\frac m2<r<\frac n2

です。特に r=1r=1 とすれば、n>2n>2 のとき、

E[F]=nn2E[F]=\frac{n}{n-2}

を得ます。

答案で気をつけること

平均・分散の値だけでなく、存在する自由度の範囲を書きます。対称性だけでは平均0とはいえず、絶対可積分性が必要です。FF 分布の高次積率の存在条件は分母側の自由度 nn が支配します。

問題17:標本分散の漸近正規性

X1,,XnX_1,\ldots,X_n は平均 μ\mu、分散 σ2\sigma^2 の母集団からのi.i.d.標本で、

μ4=E[(X1μ)4]<\mu_4=E[(X_1-\mu)^4]<\infty

とします。不偏標本分散

Sn2=1n1i=1n(XiXˉn)2S_n^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X_n)^2

に対して、

n(Sn2σ2)dN(0,μ4σ4)\sqrt n(S_n^2-\sigma^2) \xrightarrow{d}N(0,\mu_4-\sigma^4)

を示してください。

解答17

恒等式

i=1n(XiXˉn)2=i=1n(Xiμ)2n(Xˉnμ)2\sum_{i=1}^n(X_i-\bar X_n)^2 =\sum_{i=1}^n(X_i-\mu)^2-n(\bar X_n-\mu)^2

より、

Sn2=nn1{1ni=1n(Xiμ)2(Xˉnμ)2}.S_n^2 =\frac{n}{n-1} \left\{ \frac1n\sum_{i=1}^n(X_i-\mu)^2-(\bar X_n-\mu)^2 \right\}.

Yi=(Xiμ)2Y_i=(X_i-\mu)^2 とおくと、

E[Yi]=σ2,Var(Yi)=μ4σ4.E[Y_i]=\sigma^2, \qquad \operatorname{Var}(Y_i)=\mu_4-\sigma^4.

中心極限定理より、

n(1ni=1nYiσ2)dN(0,μ4σ4).\sqrt n\left(\frac1n\sum_{i=1}^nY_i-\sigma^2\right) \xrightarrow{d}N(0,\mu_4-\sigma^4).

一方、Xˉnμ=Op(n1/2)\bar X_n-\mu=O_p(n^{-1/2}) なので、

n(Xˉnμ)2=Op(n1/2)p0.\sqrt n(\bar X_n-\mu)^2=O_p(n^{-1/2})\xrightarrow{p}0.

また、n/(n1)1n/(n-1)\to1 であり、不偏化による差 nσ2/(n1)\sqrt n\,\sigma^2/(n-1) も0へ収束します。したがってSlutskyの定理より、

n(Sn2σ2)dN(0,μ4σ4).\sqrt n(S_n^2-\sigma^2) \xrightarrow{d}N(0,\mu_4-\sigma^4).

正規母集団では μ4=3σ4\mu_4=3\sigma^4 なので、極限分散は 2σ42\sigma^4 です。

答案で気をつけること

標本分散をそのまま扱わず、真の平均まわりの2次モーメントと標本平均の補正に分解します。OpO_p の項を消すときは、Xˉnμ=Op(n1/2)\bar X_n-\mu=O_p(n^{-1/2}) から二乗の次数を明記します。

問題18:デルタ法と境界事象の処理

KnBin(n,p)K_n\sim\operatorname{Bin}(n,p)0<p<10<p<1 とし、p^n=Kn/n\hat p_n=K_n/n とします。Kn1K_n\geq1 のとき Yn=logp^nY_n=\log\hat p_nKn=0K_n=0 のとき Yn=0Y_n=0 と定義します。次を示してください。

YnplogpY_n\xrightarrow{p}\log p n(Ynlogp)dN(0,1pp)\sqrt n(Y_n-\log p) \xrightarrow{d}N\left(0,\frac{1-p}{p}\right)

解答18

大数の法則より、

p^npp.\hat p_n\xrightarrow{p}p.

p>0p>0g(x)=logxg(x)=\log x は連続なので、連続写像定理から、通常は logp^nplogp\log\hat p_n\xrightarrow{p}\log p といえます。ここでは p^n=0\hat p_n=0 で対数が定義できませんが、

P(Kn=0)=(1p)n0P(K_n=0)=(1-p)^n\to0

です。したがって、0回成功のときだけ別の値を割り当てても確率極限は変わりません。

二項分布の中心極限定理より、

n(p^np)dN(0,p(1p)).\sqrt n(\hat p_n-p) \xrightarrow{d}N(0,p(1-p)).

g(p)=1/pg'(p)=1/p なので、デルタ法により、

n{g(p^n)g(p)}dN(0,{g(p)}2p(1p))=N(0,1pp).\begin{aligned} \sqrt n\{g(\hat p_n)-g(p)\} &\xrightarrow{d} N\left(0,\{g'(p)\}^2p(1-p)\right)\\ &=N\left(0,\frac{1-p}{p}\right). \end{aligned}

Kn=0K_n=0 の事象の確率は0へ収束するため、同じ極限が YnY_n にも成り立ちます。

答案で気をつけること

対数変換では0が定義域外になる問題を無視しません。「その事象の確率が0へ行くため、任意の値で補っても極限分布は変わらない」と説明します。デルタ法では導関数と元の極限分散を別々に書くと計算ミスを防げます。

問題19:指数分布の最大値とGumbel分布

X1,,XnX_1,\ldots,X_n は率 λ\lambda の指数分布に従うi.i.d.確率変数とし、

Mn=max(X1,,Xn)M_n=\max(X_1,\ldots,X_n)

とします。次を示してください。

λMnlogndG,\lambda M_n-\log n \xrightarrow{d}G,

ただし GG の分布関数は、

P(Gx)=exp(ex)P(G\leq x)=\exp(-e^{-x})

です。

解答19

固定した実数 xx に対し、十分大きな nn では (logn+x)/λ>0(\log n+x)/\lambda>0 です。独立性より、

P(λMnlognx)=P(Mnlogn+xλ)=i=1nP(Xilogn+xλ)={1exp[(logn+x)]}n=(1exn)n.\begin{aligned} P(\lambda M_n-\log n\leq x) &=P\left(M_n\leq\frac{\log n+x}{\lambda}\right)\\ &=\prod_{i=1}^n P\left(X_i\leq\frac{\log n+x}{\lambda}\right)\\ &=\left\{1-\exp[-(\log n+x)]\right\}^n\\ &=\left(1-\frac{e^{-x}}{n}\right)^n. \end{aligned}

nn\to\infty とすると、(1a/n)nea(1-a/n)^n\to e^{-a} より、

P(λMnlognx)exp(ex).P(\lambda M_n-\log n\leq x) \to\exp(-e^{-x}).

よってGumbel分布への分布収束が示されました。

答案で気をつけること

最大値の分布は P(Mnx)=F(x)nP(M_n\leq x)=F(x)^n から始めます。正規化は「中心化 logn\log n」と「尺度 1/λ1/\lambda」の両方が必要です。極限分布のCDFが0から1へ増加する向きも確認します。

問題20:重み付き平均の大数の法則

X1,X2,X_1,X_2,\ldots は平均 μ\mu、分散 σ2<\sigma^2<\infty のi.i.d.確率変数とします。

Tn=2n(n+1)j=1njXjT_n=\frac{2}{n(n+1)}\sum_{j=1}^n jX_j

に対して、TnpμT_n\xrightarrow{p}\mu を示してください。

解答20

重みの総和は、

2n(n+1)j=1nj=1\frac{2}{n(n+1)}\sum_{j=1}^n j=1

なので、

E[Tn]=μE[T_n]=\mu

です。独立性より、

Var(Tn)=4σ2n2(n+1)2j=1nj2=4σ2n2(n+1)2n(n+1)(2n+1)6=2σ2(2n+1)3n(n+1)0.\begin{aligned} \operatorname{Var}(T_n) &=\frac{4\sigma^2}{n^2(n+1)^2}\sum_{j=1}^n j^2\\ &=\frac{4\sigma^2}{n^2(n+1)^2} \frac{n(n+1)(2n+1)}{6}\\ &=\frac{2\sigma^2(2n+1)}{3n(n+1)}\\ &\to0. \end{aligned}

したがって、任意の ε>0\varepsilon>0 に対してChebyshevの不等式から、

P(Tnμε)Var(Tn)ε20.P(|T_n-\mu|\geq\varepsilon) \leq\frac{\operatorname{Var}(T_n)}{\varepsilon^2} \to0.

よって TnpμT_n\xrightarrow{p}\mu です。

答案で気をつけること

重み付き平均では、重みの総和が1か、最大の重みが0へ行くかを確認します。独立性がない場合は分散に共分散項が加わるため、この計算をそのまま使えません。

発展問題21:Chernoff境界をポアソン分布で最適化する

積率母関数 MX(t)=E[etX]M_X(t)=E[e^{tX}] が存在するとき、t>0t>0 に対して、

P(Xa)etaMX(t)P(X\geq a)\leq e^{-ta}M_X(t)

を示してください。さらに、XPoisson(λ)X\sim\operatorname{Poisson}(\lambda)a>λa>\lambda のとき、右辺を tt について最小化してください。

解答21

t>0t>0 なら xetxx\mapsto e^{tx} は単調増加なので、

{Xa}={etXeta}.\{X\geq a\}=\{e^{tX}\geq e^{ta}\}.

非負確率変数 etXe^{tX} にMarkovの不等式を適用すると、

P(Xa)E[etX]eta=etaMX(t).P(X\geq a) \leq\frac{E[e^{tX}]}{e^{ta}} =e^{-ta}M_X(t).

ポアソン分布の積率母関数は、

MX(t)=exp{λ(et1)}M_X(t)=\exp\{\lambda(e^t-1)\}

なので、上界の対数は、

q(t)=ta+λ(et1)q(t)=-ta+\lambda(e^t-1)

です。微分すると、

q(t)=a+λet,q(t)=λet>0.q'(t)=-a+\lambda e^t, \qquad q''(t)=\lambda e^t>0.

a>λa>\lambda より、最小点は正の値

t=logaλt^*=\log\frac{a}{\lambda}

です。これを代入して、

P(Xa)exp{alogaλ+aλ}P(X\geq a) \leq \exp\left\{-a\log\frac{a}{\lambda}+a-\lambda\right\}

を得ます。

答案で気をつけること

上側確率では t>0t>0、下側確率では通常 t<0t<0 を使います。最適化では対数を取ってから微分し、停留点が許された範囲に入ることと2階微分が正であることを確認します。

問題22:Lévyの連続性定理によるPoisson極限

λ>0\lambda>0 を固定し、

XnBin(n,λn)X_n\sim\operatorname{Bin}\left(n,\frac{\lambda}{n}\right)

とします。特性関数とLévyの連続性定理を用いて、

XndPoisson(λ)X_n\xrightarrow{d}\operatorname{Poisson}(\lambda)

を示してください。

解答22

二項分布の特性関数は、Bernoulli変数の特性関数を nn 乗して、

φXn(t)={1λn+λneit}n={1+λ(eit1)n}n\begin{aligned} \varphi_{X_n}(t) &=\left\{1-\frac{\lambda}{n} +\frac{\lambda}{n}e^{it}\right\}^n\\ &=\left\{1+\frac{\lambda(e^{it}-1)}{n}\right\}^n \end{aligned}

です。固定した tt に対して (1+z/n)nez(1+z/n)^n\to e^z を使うと、

φXn(t)exp{λ(eit1)}.\varphi_{X_n}(t) \longrightarrow \exp\{\lambda(e^{it}-1)\}.

右辺は Poisson(λ)\operatorname{Poisson}(\lambda) の特性関数で、t=0t=0 で連続です。したがってLévyの連続性定理より、

XndPoisson(λ)X_n\xrightarrow{d}\operatorname{Poisson}(\lambda)

です。

答案で気をつけること

極限を計算しただけで終わらず、(1) 極限関数が既知の確率分布の特性関数であること、(2) 0で連続であること、(3) したがってLévyの連続性定理を使えること、まで書きます。

問題23:順序統計量とBeta分布

X1,,XnX_1,\ldots,X_n は連続分布関数 FF をもつi.i.d.標本で、X(k)X_{(k)} を小さい方から kk 番目の順序統計量とします。

  1. X(k)X_{(k)} の密度を求めてください。
  2. U(k)=F(X(k))U_{(k)}=F(X_{(k)}) の分布と平均を求めてください。

解答23

X(k)X_{(k)}xx の近くに入るには、k1k-1 個が xx より小さく、1個が幅 dxdx に入り、残り nkn-k 個が xx より大きい必要があります。どの標本が各役割を持つかを数えると、

fX(k)(x)=n!(k1)!(nk)!F(x)k1{1F(x)}nkf(x)f_{X_{(k)}}(x) =\frac{n!}{(k-1)!(n-k)!} F(x)^{k-1}\{1-F(x)\}^{n-k}f(x)

です。

u=F(x)u=F(x) と変換すると du=f(x)dxdu=f(x)dx なので、

fU(k)(u)=n!(k1)!(nk)!uk1(1u)nk,0<u<1.f_{U_{(k)}}(u) =\frac{n!}{(k-1)!(n-k)!} u^{k-1}(1-u)^{n-k}, \qquad 0<u<1.

これは、

U(k)Beta(k,nk+1)U_{(k)}\sim\operatorname{Beta}(k,n-k+1)

を表します。したがって、

E[U(k)]=kn+1E[U_{(k)}] =\frac{k}{n+1}

です。元の分布が何であっても、分布関数で確率尺度へ移すと同じBeta分布になる点が重要です。

答案で気をつけること

係数は n!/{(k1)!(nk)!}n!/\{(k-1)!(n-k)!\} です。k!k! としないよう、「下に k1k-1 個、点の近くに1個、上に nkn-k 個」と役割を言葉で確認します。変換では du=f(x)dxdu=f(x)dx が密度の f(x)f(x) を打ち消します。

問題24:多変量デルタ法と対数比

正のパラメータ θ1,θ2\theta_1,\theta_2 の推定量が、

n{(θ^1θ^2)(θ1θ2)}dN2(0,(σ11σ12σ12σ22))\sqrt n \left\{ \begin{pmatrix}\hat\theta_1\\\hat\theta_2\end{pmatrix} - \begin{pmatrix}\theta_1\\\theta_2\end{pmatrix} \right\} \xrightarrow{d} N_2\left( \mathbf0, \begin{pmatrix} \sigma_{11}&\sigma_{12}\\ \sigma_{12}&\sigma_{22} \end{pmatrix} \right)

を満たすとします。g(θ1,θ2)=log(θ1/θ2)g(\theta_1,\theta_2)=\log(\theta_1/\theta_2) の漸近分散を求めてください。

解答24

対数比は、

g(θ1,θ2)=logθ1logθ2g(\theta_1,\theta_2)=\log\theta_1-\log\theta_2

なので、勾配は、

g=(1/θ11/θ2)\nabla g = \begin{pmatrix} 1/\theta_1\\ -1/\theta_2 \end{pmatrix}

です。多変量デルタ法より、n{g(θ^)g(θ)}\sqrt n\{g(\hat{\boldsymbol\theta})-g(\boldsymbol\theta)\} の極限分散は、

(g)TΣg=σ11θ12+σ22θ222σ12θ1θ2.\begin{aligned} (\nabla g)^T\Sigma\nabla g &= \frac{\sigma_{11}}{\theta_1^2} +\frac{\sigma_{22}}{\theta_2^2} -\frac{2\sigma_{12}}{\theta_1\theta_2}. \end{aligned}

したがって、対数比の推定量自体の近似分散は、

Var{logθ^1θ^2}1n(σ11θ12+σ22θ222σ12θ1θ2)\operatorname{Var}\left\{\log\frac{\hat\theta_1}{\hat\theta_2}\right\} \approx \frac1n \left( \frac{\sigma_{11}}{\theta_1^2} +\frac{\sigma_{22}}{\theta_2^2} -\frac{2\sigma_{12}}{\theta_1\theta_2} \right)

です。

この行列計算を掛け算3個へほどく

単変量なら{g(θ)}2σ2\{g'(\theta)\}^2\sigma^2 です。2変量では、1番目の分散の寄与、2番目の分散の寄与、2つが一緒に動く共分散の寄与、の3個を足します。勾配の2成分の符号が逆なので、正の共分散は対数比の分散を小さくします。

答案で気をつけること

行列表記だけで終えず、成分表示まで展開します。問題で与えられた Σ\Sigman\sqrt n を付けた極限分散なら、推定量自体の近似分散では最後に nn で割ります。

発展問題25:1階微分が0になる2次デルタ法

n(Tnθ)dN(0,τ2)\sqrt n(T_n-\theta)\xrightarrow{d}N(0,\tau^2)

とし、gg は2回微分可能で g(θ)=0g'(\theta)=0g(θ)0g''(\theta)\neq0 とします。n{g(Tn)g(θ)}n\{g(T_n)-g(\theta)\} の極限分布を求めてください。

解答25

θ\theta のまわりで2次までTaylor展開すると、ある θ~n\tilde\theta_n に対して、

g(Tn)g(θ)=g(θ)(Tnθ)+12g(θ~n)(Tnθ)2.g(T_n)-g(\theta) =g'(\theta)(T_n-\theta) +\frac12g''(\tilde\theta_n)(T_n-\theta)^2.

g(θ)=0g'(\theta)=0 なので1次項は消えます。一致性から θ~npθ\tilde\theta_n\xrightarrow{p}\theta であり、

n{g(Tn)g(θ)}=12g(θ~n){n(Tnθ)}2.n\{g(T_n)-g(\theta)\} =\frac12g''(\tilde\theta_n) \{\sqrt n(T_n-\theta)\}^2.

標準正規変数を ZZ とすると、連続写像定理とSlutskyの定理より、

n{g(Tn)g(θ)}d12g(θ)τ2Z2=12g(θ)τ2χ12\boxed{ n\{g(T_n)-g(\theta)\} \xrightarrow{d} \frac12g''(\theta)\tau^2 Z^2 =\frac12g''(\theta)\tau^2\chi_1^2 }

です。通常の n\sqrt n 尺度ではなく nn 尺度になり、極限分布も一般には正規分布ではありません。

答案で気をつけること

g(θ)=0g'(\theta)=0 のとき通常のデルタ法を使うと分散0という退化した結論になります。そこでTaylor展開を2次まで残し、尺度を n\sqrt n から nn へ変えます。

19. 医薬・生物統計の問題

試験答案として解くとき

臨床・生物統計の問題も、総合問題集の模範解答版で実戦用の解答形式にしています。近似の妥当性は、標本サイズだけでなく独立な観測単位や分布の裾も確認します。

問題1:独立単位と標準誤差

対照群6匹、処置群6匹のマウスから、それぞれ1匹当たり200細胞を測定しました。細胞レベルの測定値を使って処置効果を比較したいとします。

  1. 処置効果の独立な標本数を各群1200と考えてよいですか。
  2. どのような解析単位またはモデルが候補ですか。

解答1

各群1200とは考えられません。処置はマウスに割り付けられ、同じマウス内の細胞は共通の生物学的背景、処置、調製、測定バッチを共有するため依存します。

目的に応じて、次が候補です。

  • マウスごとに細胞測定を要約し、各群 n=6n=6 として比較する
  • 細胞をレベル1、マウスをレベル2とする階層モデルを使う
  • 遺伝子発現なら、個体単位のpseudobulkを作る

細胞数を増やすと各マウス内の要約精度は上がりますが、個体間変動を推定する独立単位は増えません。

問題2:小標本の薬効指標

独立な10例で、投与前後差の平均が 4.0-4.0、標本標準偏差が5.0でした。差が正規分布に従うと仮定し、母平均差の95%信頼区間を求めてください。t9,0.975=2.262t_{9,0.975}=2.262 とします。

解答2

対応差を1標本として扱います。標準誤差は、

sn=5101.581.\frac{s}{\sqrt n}=\frac5{\sqrt{10}}\approx1.581.

したがって、

dˉ±t9,0.975sn=4.0±2.262(1.581)=4.0±3.576.\begin{aligned} \bar d\pm t_{9,0.975}\frac{s}{\sqrt n} &=-4.0\pm2.262(1.581)\\ &=-4.0\pm3.576. \end{aligned}

95%信頼区間は、

(7.58,0.42)(-7.58,-0.42)

です。0を含まないことは統計的な差を示しますが、臨床的意義は効果量、評価尺度、事前に定めた重要差と合わせて判断します。

問題3:2つの測定法の精度

同じ濃度水準で、測定法Aを11回、測定法Bを9回独立に測定し、標本分散がそれぞれ sA2=1.8s_A^2=1.8sB2=0.9s_B^2=0.9 でした。正規性と独立性を仮定します。

  1. 分散比統計量を求めてください。
  2. 帰無仮説のもとでの分布を書いてください。
  3. 実務上の注意を述べてください。

解答3

分散比は、

F=sA2sB2=1.80.9=2.0.F=\frac{s_A^2}{s_B^2}=\frac{1.8}{0.9}=2.0.

H0:σA2=σB2H_0:\sigma_A^2=\sigma_B^2 のもとで、

FF10,8.F\sim F_{10,8}.

ただし、測定日の違い、試料調製、装置バッチ、濃度依存の不均一分散、外れ値を確認します。同一試料を両測定法で測ったなら結果は対応しており、独立2標本の単純な分散比だけでは設計を十分に表せません。

問題4:有害事象割合とデルタ法

独立な400例中、80例で有害事象が観測されました。

  1. 標本比率とその近似標準誤差を求めてください。
  2. g(p)=log{p/(1p)}g(p)=\log\{p/(1-p)\} の近似標準誤差を求めてください。

解答4

標本比率は、

p^=80400=0.20.\hat p=\frac{80}{400}=0.20.

近似標準誤差は、

SE^(p^)=0.2(0.8)400=0.02.\widehat{\operatorname{SE}}(\hat p) =\sqrt{\frac{0.2(0.8)}{400}} =0.02.

ロジット関数の微分は、

g(p)=1p+11p=1p(1p).g'(p)=\frac1p+\frac1{1-p} =\frac{1}{p(1-p)}.

したがって、

SE^{g(p^)}1p^(1p^)SE^(p^)=0.020.2(0.8)=0.125.\begin{aligned} \widehat{\operatorname{SE}}\{g(\hat p)\} &\approx \frac{1}{\hat p(1-\hat p)} \widehat{\operatorname{SE}}(\hat p)\\ &=\frac{0.02}{0.2(0.8)}\\ &=0.125. \end{aligned}

比率が0または1に近い場合、単純な正規近似やロジット変換は不安定になるため、二項尤度に基づく方法を検討します。

問題5:コロニー数と平方根変換

ある培養条件で、1視野当たりのコロニー数を YPoisson(25)Y\sim\operatorname{Poisson}(25) と近似します。

  1. YY の標準偏差を求めてください。
  2. Y\sqrt Y の近似標準偏差を求めてください。
  3. データ解析でPoisson仮定以外に確認すべきことを挙げてください。

解答5

Poisson分布では分散が平均に等しいため、

SD(Y)=25=5.\operatorname{SD}(Y)=\sqrt{25}=5.

平方根変換後の近似分散は 1/41/4 なので、

SD(Y)12.\operatorname{SD}(\sqrt Y)\approx\frac12.

解析では、過分散、ゼロ過剰、視野面積の違い、同一培養皿内の視野間相関、検出限界を確認します。過分散があるなら負の二項分布、階層構造があるならランダム効果を含む計数モデルが候補です。

問題6:最大QT延長の解釈

同じ分布から独立に得られるQT延長量を考えます。試験Aは各患者1時点、試験Bは各患者20時点で測定し、各患者の最大値を報告しました。試験Bの最大値が大きい傾向を示しました。

この結果だけから試験Bの薬剤が危険だと結論できますか。

解答6

結論できません。MnM_n の分布関数は、

P(Mnx)=F(x)nP(M_n\leq x)=F(x)^n

なので、同じ母分布でも観測回数 nn が多いほど最大値は大きくなりやすいからです。

少なくとも、測定時点数、時間窓、ベースライン補正、同一患者内相関、欠測、心拍補正法、併用薬をそろえて比較します。最大値だけでなく、事前指定時点、時間平均、閾値超過、濃度QTモデルなどを検討します。

問題7:多施設データとLindeberg条件

多数の独立患者について治療効果の和を考えます。患者ごとに分散が異なりますが、各患者の寄与は有界で、総分散は患者数とともに増加するとします。

  1. iid中心極限定理をそのまま引用してよいですか。
  2. Lindeberg条件を薬学的に説明してください。

解答7

同一分布ではないため、iid中心極限定理をそのまま引用するのは不十分です。独立非同一分布のLindeberg–Feller定理などの条件を確認します。

薬学的には、特定の1患者の極端な反応や極端に大きな分散が、研究全体のばらつきを支配しないことを要求します。有界な寄与と増大する総分散はLindeberg条件を満たしやすくします。

ただし、施設内相関がある場合は患者間独立性が崩れるため、施設をクラスターとして扱う必要があります。

問題8:上位分位点のバイオマーカー

バイオマーカー分布の95%分位点を正常上限として推定したいとします。標本中央値より大きな標本数が必要になりやすい理由を、順序統計量と漸近分散から説明してください。

解答8

95%分位点は並べた標本の上端近くにあり、それより大きい観測は全体の約5%しかありません。したがって、実質的に利用できる裾の情報が少なくなります。

漸近分散は、

Var(ξ^p)p(1p)nf(ξp)2\operatorname{Var}(\hat\xi_p) \approx \frac{p(1-p)}{n f(\xi_p)^2}

です。上側裾では密度 f(ξ0.95)f(\xi_{0.95}) が小さいことが多く、分母が小さくなるため分散が大きくなります。

正常上限を設定するには、対象集団の定義、年齢・性別などの層別、測定誤差、外れ値、必要な信頼度を踏まえて標本数を設計します。

問題9:薬物動態量の比

同じ被験者で測定したAUCと CmaxC_{\max} の推定量を θ^1,θ^2\hat\theta_1,\hat\theta_2 とし、その比 R=θ1/θ2R=\theta_1/\theta_2 の標準誤差をデルタ法で求めたいとします。共分散を無視してよいでしょうか。

解答9

同じ被験者から得たAUCと CmaxC_{\max} は通常相関するため、共分散を無視すべきではありません。勾配、

g=(1/θ2θ1/θ22)\nabla g= \begin{pmatrix} 1/\theta_2\\ -\theta_1/\theta_2^2 \end{pmatrix}

と共分散行列 Σ\Sigma を用いて、

Var(R^)1ngΣg\operatorname{Var}(\hat R) \approx \frac1n\nabla g^\top\Sigma\nabla g

と評価します。共分散項の符号によって、独立と仮定した計算より分散が大きくも小さくもなります。

問題10:EC50からpEC50への変換

ある受容体作動薬の EC^50\widehat{\mathrm{EC}}_{50} が30 nM、その標準誤差が6 nMでした。局所的な正規近似が妥当と仮定します。

  1. pEC^50\widehat{\mathrm{pEC}}_{50} を求めてください。
  2. デルタ法で標準誤差を求めてください。
  3. pEC50尺度の95%信頼区間を作り、EC50尺度へ戻してください。

解答10

pEC50では濃度をmol/Lで表すので、30 nM=30×109 M30\ \mathrm{nM}=30\times10^{-9}\ \mathrm{M} です。したがって、

pEC^50=log10(30×109)7.523.\widehat{\mathrm{pEC}}_{50} =-\log_{10}(30\times10^{-9}) \approx7.523.

g(θ)=log10θg(\theta)=-\log_{10}\theta の微分は、

g(θ)=1θlog10g'(\theta)=-\frac1{\theta\log 10}

なので、単位をそろえれば、

SE(pEC^50)630log100.087.\operatorname{SE}(\widehat{\mathrm{pEC}}_{50}) \approx \frac6{30\log 10} \approx0.087.

pEC50尺度の95%信頼区間は、

7.523±1.96(0.087)=(7.353,7.693)7.523\pm1.96(0.087) =(7.353,7.693)

です。EC50=10pEC50 M\mathrm{EC}_{50}=10^{-\mathrm{pEC}_{50}}\ \mathrm{M} で戻すと、向きが反転して、およそ、

(20.3,44.4) nM(20.3,44.4)\ \mathrm{nM}

です。

答案で気をつけること

pEC50では必ずmol/Lへ換算します。負の対数なので、pEC50の上限はEC50の下限へ移ります。また、この区間は局所的なWald近似であり、用量反応曲線が飽和していない場合にはprofile likelihoodやbootstrapも検討します。

問題11:相関したPK指標の比

同じ被験者データから得た推定値が、AUC^=100\widehat{\mathrm{AUC}}=100C^max=80\widehat C_{\max}=80 で、推定量の共分散行列が、

Σ^=(25669)\widehat\Sigma = \begin{pmatrix} 25&6\\ 6&9 \end{pmatrix}

でした。R=AUC/CmaxR=\mathrm{AUC}/C_{\max} の推定値とデルタ法による標準誤差を求めてください。

解答11

比の推定値は、

R^=10080=1.25\widehat R=\frac{100}{80}=1.25

です。g(x,y)=x/yg(x,y)=x/y の勾配を推定値で評価すると、

g=(1/80100/802).\nabla g = \begin{pmatrix} 1/80\\ -100/80^2 \end{pmatrix}.

行列表記を成分へ展開すると、

Var^(R^)25802+10029804210068030.003760.\begin{aligned} \widehat{\operatorname{Var}}(\widehat R) &\approx \frac{25}{80^2} +\frac{100^2\cdot9}{80^4} -\frac{2\cdot100\cdot6}{80^3}\\ &\approx0.003760. \end{aligned}

したがって、

SE^(R^)0.0037600.0613\widehat{\operatorname{SE}}(\widehat R) \approx\sqrt{0.003760} \approx0.0613

です。

この2行2列の計算を単変量の誤差伝播へ戻す

AUCだけが不確実なら、分散は (1/Cmax)2Var(AUC^)(1/C_{\max})^2\operatorname{Var}(\widehat{\mathrm{AUC}}) です。2変量では CmaxC_{\max} の不確実性と共分散項も加えます。今回は2つの偏微分の符号が逆で共分散が正なので、共分散項は分散を小さくする向きに働きます。

答案で気をつけること

与えられた行列が各観測値の共分散か、推定量そのものの共分散かを確認します。この問題では推定量の共分散なので、さらに nn で割りません。共分散項の係数2と符号を落とさないようにします。

問題12:非母数的な95%基準上限と順序統計量

健康参照集団から連続型バイオマーカーを独立に199例測定し、小さい順に X(1),,X(199)X_{(1)},\ldots,X_{(199)} と並べました。分布形を仮定せず、95%分位点に対応する観測値を選びたいとします。

  1. E[F(X(k))]=k/(n+1)E[F(X_{(k)})]=k/(n+1) を使い、対応する順位 kk を求めてください。
  2. その1点だけを確定的な正常上限としてよいか説明してください。

解答12

n=199n=199 なので、

kn+1=k2000.95\frac{k}{n+1}=\frac{k}{200}\approx0.95

より、

k=190k=190

です。したがって X(190)X_{(190)} が95%分位点に対応する自然な候補です。

ただし、X(190)X_{(190)} 自体も標本を取り直せば変動します。95%分位点より下に入る観測数は二項分布で表せるため、順序統計量を2個選んで分位点の信頼区間を作れます。さらに、参照集団の選択、年齢・性別・腎機能などの層別、測定誤差、外れ値、検出限界も評価します。

答案で気をつけること

0.95n0.95n0.95(n+1)0.95(n+1) では順位が異なる場合があります。どの標本分位点の定義を使ったかを明記します。また、推定値と信頼限界を区別し、「190番目だから真の95%点」と断定しません。

20. まとめ

  • 統計量は標本の関数であり、標本を取り直すと変動するため標本分布をもつ
  • 標本平均は母平均の不偏推定量で、分散は σ2/n\sigma^2/n である
  • 正規標本では、標本平均、標本分散、χ2\chi^2ttFF 分布が厳密につながる
  • Xˉ\bar XS2S^2 の独立性は正規性に依存する重要な結果である
  • Chebyshevの不等式から大数の弱法則を導ける
  • 中心極限定理は標準化した和の分布収束であり、大数の法則とは結論が異なる
  • 連続写像定理とSlutskyの定理は、一致推定量を複雑な統計量へ広げる
  • デルタ法はTaylor展開によって変換後の近似分散を与える
  • 分散安定化変換は平均とともに変わる分散をそろえる考え方である
  • 順序統計量は分位点、最小値、最大値を扱い、極値理論は標準化最大値の極限を扱う
  • 概収束は確率収束より強く、大数の強法則は標本経路ごとの収束を述べる
  • Lindeberg–FellerとLyapunovの定理は、独立だが同一分布でない和の正規近似を支える

標本分布と極限定理の役割は、「標本数が多ければ何とかなる」と言うことではありません。 どの統計量を使い、どの独立性・分布・積率条件のもとで、何が厳密で何が近似なのかを明らかにすることです。