样本均值和样本方差
首先对于样本$x_1…x_n$来说,他们的均值为与方差分别为:
$\bar{x} = \frac{1}{n}\sum\limits_{i=1}^{n}x_i$
$s^2 = \frac{\sum\limits_{i=1}^{n} (x_i – \bar{x})^2}{n-1}$
要证明样本方差的无偏性,首先要计算样本均值的方差。
样本均值的方差
$D(\bar{x}) = D(\frac{\sum\limits_{i=1}^{n}x_i}{n}) = \frac{1}{n^2}\sum\limits_{i=1}^{n}D(x_i) = \frac{1}{n^2}\sum\limits_{i=1}^{n}\sigma^2 = \frac{\sigma^2}{n}$
样本均值和样本方差的无偏性证明
$E(\bar{x}) = E(\frac{1}{n}\sum\limits_{i=1}^{n}x_i) = \frac{1}{n}\sum\limits_{i=1}^{n}E(x_i) = \frac{1}{n}\sum\limits_{i=1}^{n}\mu = \mu$
$E(s^2)$
$= E(\frac{\sum\limits_{i=1}^{n} (x_i – \bar{x})^2}{n-1})$
$= \frac{1}{n-1}\sum\limits_{i=1}^{n}E(x_i^2 + \bar{x}^2 – 2x_i\bar{x}) $
$= \frac{1}{n-1}\sum\limits_{i=1}^{n}[D(x) + E(x)^2 + D(\bar{x}) + E(\bar{x})^2 – 2E((x_i^2 + x_ix_1 + … + x_ix_{i-1} + x_ix_{i+1} + … + x_ix_n)/n)]$
$\xlongequal[]{E(x_ix_j) = E(x_i)E(x_j)} \frac{1}{n-1}\sum\limits_{i=1}^{n}[\sigma^2 + \mu^2 + \sigma^2/n + \mu^2 – 2(\sigma^2 + \mu^2 + (n-1)\mu^2)/n]$
$= \frac{1}{n-1}\sum\limits_{i=1}^{n}(\frac{n – 1}{n}\sigma^2)$
$= \sigma^2$
样本方差的方差
如果总体$X \sim N(\mu, \sigma^2)$,那它的样本方差有:
$\frac{(n-1)s^2}{\sigma^2} \sim \chi^2(n – 1)$.
由于$\chi^2$分布的方差为两倍的自由度,得:
$D(\frac{(n-1)s^2}{\sigma^2}) = 2(n – 1)$
$D(s^2) = \frac{2\sigma^4}{n – 1}$