Несмещённая оце́нка в математической статистике — это точечная оценка, математическое ожидание которой равно оцениваемому параметру.
Определение
Пусть
— выборка из распределения, зависящего от параметра
. Тогда оценка
называется несмещённой, если
,
где
В противном случае оценка называется смещённой, и случайная величина
называется её смеще́нием.
Примеры
- Выборочное среднее
является несмещённой оценкой математического ожидания
, так как если
,
, то
.
- Пусть независимые случайные величины
имеют конечную дисперсию
. Построим оценки
— выборочная дисперсия,
и
— исправленная выборочная дисперсия.
Тогда
является смещённой, а
несмещённой оценками параметра
. Смещённость
можно доказать следующим образом.
Пусть
и
— среднее и его оценка соответственно, тогда:
![{\displaystyle \operatorname {E} [S_{n}^{2}]=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\overline {X}})^{2}{\bigg ]}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/50da850b727d47c9fe8b12ec37bea937a78ba124)
Добавив и отняв
, а затем сгрупировав слагаемые, получим:
![{\displaystyle \operatorname {E} [S_{n}^{2}]=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}{\big (}(X_{i}-\mu )-({\overline {X}}-\mu ){\big )}^{2}{\bigg ]}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/8b153364de0d94302ae870f48cc2b34b550de330)
Возведём в квадрат и получим:
![{\displaystyle \operatorname {E} [S_{n}^{2}]=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}-2({\overline {X}}-\mu ){\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )+{\frac {n}{n}}({\overline {X}}-\mu )^{2}{\bigg ]}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/882aba5f44a55098075770ebb439aa3e322a8dbf)
Заметив, что
, получим:
![{\displaystyle \operatorname {E} [S_{n}^{2}]=\operatorname {E} {\bigg [}{\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-\mu )^{2}-({\overline {X}}-\mu )^{2}{\bigg ]}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/514273e8c6fbe946eaf54fd37b4e372b453bdc02)
Учитывая, что
(свойство математического ожидания);
— дисперсия;
, т.к.
, учитывая, что
и
независимые и
, т.е.
,
получим:
![{\displaystyle {\begin{aligned}\operatorname {E} [S_{n}^{2}]&=\sigma ^{2}-\operatorname {E} {\big [}({\overline {X}}-\mu )^{2}{\big ]}=\\&=\sigma ^{2}-{\frac {1}{n}}\sigma ^{2}=\\&={\frac {n-1}{n}}\sigma ^{2}<\sigma ^{2}.\end{aligned}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5a0baf68f30f0b093fbb5a695eabf281da2b8513)
Литература и некоторые ссылки
- M. G. Kendall. "The advanced theory of statistics (vol. I). Distribution theory (2nd edition)". Charles Griffin & Company Limited, 1945.
- M. G. Kendall and A. Stuart. "The advanced theory of statistics (vol. II). Inference and relationship (2nd edition)". Charles Griffin & Company Limited, 1967.
- A. Papoulis. Probability, random variables, and stochastic processes (3rd edition). McGrow-Hill Inc., 1991.
- G. Saporta. "Probabilités, analyse des données et statistiques". Éditions Technip, Paris, 1990.
- J. F. Kenney and E. S. Keeping. Mathematics of Statistics. Part I & II. D. Van Nostrand Company, Inc., 1961, 1959.
- I. V. Blagouchine and E. Moreau: "Unbiased Adaptive Estimations of the Fourth-Order Cumulant for Real Random Zero-Mean Signal", IEEE Transactions on Signal Processing, vol. 57, no. 9, pp. 3330–3346, September 2009.
- An Illuminating Counterexample