Математическая статистика – наука о математических методах, позволяющих по статистическим данным сформулировать выводы о свойствах изучаемого массового явления.

На практике редко доступна полная информация о модели изучаемого явления, описываемого в терминах некоторой случайной величины X. Чаще о законе распределения X имеется лишь частичная информация либо никакой априорной информации о распределении X вообще нет. В этом случае возникают задачи восстановления параметров или вида неизвестного распределения F_X или определения его свойств.

Задачи математической статистики являются, в некотором смысле, обратными к задачам теории вероятностей. Если теория вероятностей позволяет при заданной вероятностной модели вычислить вероятности тех или иных случайных событий, то математическая статистика по результатам проводимых наблюдений (по исходам эксперимента) уточняет структуру вероятностной модели изучаемого явления.

Математическая статистика решает следующие задачи:

1) систематизация полученного статистического материала (этап описания массового явления);

2) выявление свойств и закономерностей изучаемого явления (этап анализа и прогноза).

Первой задачей занимается раздел математической статистики, называемый описательной (дескриптивной) статистикой. Описательная статистика предоставляет методы первичной обработки эмпирических данных, их наглядного представления в форме графиков и таблиц, а также их количественного описания посредством основных статистических показателей. Методы описательной статистики, как правило, не требуют предположений о вероятностной природе данных.

Решению второй задачи посвящены теория оценивания и теория проверки статистических гипотез. В основе этих теорий лежат методы построения математических моделей наблюдений и статистических закономерностей.

Точечное оценивание – вычисление приближённых значений характеристик статистических закономерностей по результатам наблюдений.

Интервальное оценивание – построение случайных множеств, называемых доверительными, которые с заданной вероятностью содержат оцениваемые характеристики.

Проверка статистических гипотез – принятие или отклонение по реализации наблюдений априорного предположения о неизвестных характеристиках статистических закономерностей.

С особенностями различных постановок задач оценивания связаны и различия соответствующих статистических исследований.

Центральным понятием математической статистики является выборка. Выборка понимается следующим образом. Пусть случайная величина X наблюдается в эксперименте с комплексом условий G. Результатом этого эксперимента будет некоторое случайное число x – реализация случайной величины X. Повторим эксперимент n раз с неизменным комплексом условий. Результатом такого эксперимента будет случайный вектор (x₁,…,x_n), где x_j – реализация случайной величины X в j-м эксперименте. С другой стороны, вектор (x₁,…,x_n) можно рассматривать как единственную реализацию случайного вектора (X₁,…,X_n), где случайные величины X₁,…,X_n независимы в совокупности и каждая из которых имеет тот же закон распределения, что и случайная величина X.

Совокупность всех наблюдений случайной величины X, которые могли бы быть сделаны при данном комплексе условий, называется генеральной совокупностью случайной величины X, или просто генеральной совокупностью X. Распределение случайной величины X называется распределением генеральной совокупности. Число элементов, входящих в генеральную совокупность, называют объёмом генеральной совокупности. Объём генеральной совокупности может быть как конечным, так и бесконечным.

Совокупность независимых случайных величин X₁,…,X_n, каждая из которых имеет то же распределение, что и наблюдаемая случайная величина X, называется случайной выборкой из генеральной совокупности X. При этом число n называют объёмом случайной выборки, а случайные величины X₁,…,X_n – элементами случайной выборки. Любую реализацию x₁,…,x_n случайной выборки X₁,…,X_n будем называть выборкой из генеральной совокупности X, или выборочной совокупностью. Выборка из генеральной совокупности X представляет собой некоторое подмножество этой генеральной совокупности.

Пример 1. Эксперимент состоит в подбрасывании правильной игральной кости. Случайная величина X – число очков, выпавшее на верхней грани, возможные значения случайной величины X: 1,…,6. В результате эксперимента получаем случайное число x – реализацию случайной величины X, $x\in\{1,...,6\}$. При повторении эксперимента n раз получаем выборку x₁,…,x_n наблюдений случайной величины X, $x_i \in \{1,...,6\}$, $i=\overline{1,n}$, или, что то же самое, единственное наблюдение случайной выборки X₁,…,X_n объёма n. Генеральная совокупность случайной величины X содержит бесконечное число значений 1,…,6 в равных пропорциях.

Пример 2. Исследуется качество партии выпущенных предприятием изделий. Случайная величина X – индикатор брака в изделии – принимает значение 1, если изделие оказалось бракованным, и 0 – в противном случае. В результате наблюдения случайной величины X (выбирая случайным образом изделие) получаем её реализацию x (0 или 1). Обследуя n изделий, получаем выборку наблюдений x₁,…,x_n, $x_i \in \{0,1\}$, $i=\overline{1,n}$. Объём генеральной совокупности определяется объёмом партии выпущенных изделий. Объём выборки n не может превышать объём генеральной совокупности.

Понятие выборки может быть обобщено на случай, когда в результате эксперимента с некоторым комплексом условий G наблюдается несколько случайных величин. Например, пусть (x, y) – наблюдение двумерного случайного вектора (X, Y). Тогда случайная выборка объёма n представляет собой последовательность (X₁, Y₁),…,(X_n, Y_n) случайных векторов, а её реализация – последовательность векторов (x₁, y₁),…,(x_n, y_n).

Результаты наблюдений x₁,…,x_n генеральной совокупности X, записанные в порядке их регистрации, обычно труднообозримы и неудобны для дальнейшего анализа. Одной из задач описательной статистики является получение такого представления выборки, которое позволит выявить характерные особенности совокупности исходных данных.

Одним из самых простых преобразований статистических данных является их упорядочивание по величине. Вариационным рядом выборки x₁,…,x_n называется способ её записи, при котором элементы упорядочиваются по возрастанию, т.е. вариационный ряд выборки – это последовательность чисел

${{x}_{(1)}},...,{{x}_{(i)}},...,{{x}_{(n)}}$,

удовлетворяющих условию ${{x}_{(1)}}\le ...\le {{x}_{(i)}}\le ...\le {{x}_{(n)}}$.

Вариационный ряд ${{x}_{(1)}},...,{{x}_{(i)}},...,{{x}_{(n)}}$ выборки x₁,…,x_n можно рассматривать как реализацию вариационного ряда ${{X}_{(1)}},...,{{X}_{(i)}},...,{{X}_{(n)}}$ случайной выборки X₁,…,X_n. Случайную величину X_(i) называют i-й порядковой статистикой (ith order statistic). Число x_(i) называют i-м членом вариационного ряда, или реализацией i-й порядковой статистики. Крайние члены X₍₁₎ и X _(n) вариационного ряда называются экстремальными порядковыми статистиками. Для любой выборки реализации экстремальных порядковых статистик – это её минимальное и максимальное значения.

Можно показать, что функции распределения экстремальных порядковых статистик имеют вид:

$P({{X}_{(1)}}<x)=1-{{\left( 1-{{F}_{X}}(x) \right)}^{n}}$,

(1)

$P({{X}_{(n)}}<x)=F_{X}^{n}(x)$.

(2)

Эти соотношения позволяют оценить неизвестную функцию распределения F_X(x) генеральной совокупности X, имея в эксперименте лишь минимальные и максимальные значения выборок.

Разность между максимальным и минимальным элементами выборки x_(n) – x₍₁₎ называется размахом выборки (range of a sample).

Различные значения случайной величины X называются вариантами.

Пусть выборка x₁,…, x_n случайной величины X содержит k вариантов z₁,…,z_k, причём вариант z_i встречается n_i раз (i = 1,…,k). Число n_i называется частотой варианта z_i. Очевидно, что сумма частот всех вариантов равна объёму выборки, $\sum\limits_{i=1}^{k}{{{n}_{i}}=n}$.

Статистическим рядом называется последовательность пар (z_i, n_i), i = 1,…,k. Обычно статистический ряд записывается в виде таблицы, первая строка которой содержит варианты z_i, а вторая – частоты n_i (табл. 1.1), при этом варианты записываются в порядке возрастания.

Таблица 1.1

Статистический ряд выборки

Варианты, zi	z1	...	zi	...	zk
Частоты, ni	n1	...	ni	...	nk

В частном случае, если все элементы выборки различны, то k = n, а частоты всех вариантов равны единице.

Пример 1

При большом числе вариантов (например, при наблюдении случайной величины непрерывного типа с высокой точностью измерений) выборка может быть представлена в виде группированного статистического ряда. Для этого отрезок [x₍₁₎; x_(n)], содержащий все элементы выборки, разбивается на k непересекающихся интервалов J₁ = [α₀ = x₍₁₎; α₁), J₂ = [α₁; α₂),…, J_k = [α_k-1; α_k = x_(n)], как правило, одинаковой ширины h. Правые границы всех интервалов, за исключением последнего, задаются открытыми, чтобы исключить попадание граничных точек в соседний интервал.

Число интервалов k выбирают, как правило, в зависимости от объёма выборки. Для ориентировочной оценки числа k можно воспользоваться формулой Стерджесса (Herbert Sturges, 1926):

$k\approx [1+{{\log }_{2}}n]$,

где оператор $[\cdot]$ означает взятие целой части.

Например, при n = 100 оценка числа интервалов по формуле Стерджесса даёт k ≈ 7, при n = 1000: k ≈ 10.

Ширина группировочных интервалов и число групп связаны формулой

$h=\frac{{{x}_{(n)}}-{{x}_{(1)}}}{k}$.

(3)

Более теоретически обоснованный подход к выбору ширины группировочных интервалов дают формула Скотта (David Scott, 1979):

$h\approx 3.5s{{n}^{-1/3}}$,

и формула Фридмана (David Freedman, 1981):

$h\approx 2\Delta {{n}^{-1/3}}$,

где s – среднеквадратичное отклонение выборки, Δ – интерквартильный размах выборки. Число группировочных интервалов k определяется из (3).

В случае если распределение генеральной совокупности существенно отличается от нормального, число интервалов может быть увеличено. С уменьшением числа интервалов k происходит потеря статистической информации, содержащейся в исходной выборке.

Группированным статистическим рядом называется последовательность пар (J_i, n_i), i = 1,…,k. Группированный статистический ряд записывается в виде таблицы, первая строка которой содержит интервалы J_i, а вторая – частоты n_i. Иногда в группированном статистическом ряде в первой строке таблицы вместо интервалов J₁,…,J_k записывают середины интервалов c₁,…,c_k, где ${{c}_{i}}=({{\alpha }_{i-1}}+{{\alpha }_{i}})/2$ – середина i-го интервала.

Наряду с частотами n_i, i = 1,…,k, попадания выборочных значений в группировочные интервалы рассматриваются также:

– относительные частоты n_i / n;

– накопленные (cumulative) частоты ${{m}_{i}}=\sum\limits_{j=1}^{i}{{{n}_{j}}}$;

– относительные накопленные частоты m_i / n.

Полученные результаты сводятся в таблицу, называемую таблицей частот группированной выборки (табл. 1.2).

Таблица 1.2

Таблица частот группированной выборки

Номер интервала, i	Границы интервала	Середина интервала, ci	Частота, ni	Накопленная частота, mi	Относительная частота, ni / n	Накопленная относительная частота, mi / n
1	[α0; α1)	c1	n1	m1	n1/n	m1/n
...	...	...	...	...	...	...
k	[αk-1; αk]	ck	nk	mk = n	nk/n	mk/n = 1

Визуально таблица частот может быть представлена с помощью гистограмм и полигонов частот. Выделяют 4 типа гистограмм (полигонов) частот:

1) гистограмма (полигон) абсолютных частот;

2) гистограмма (полигон) относительных частот;

3) гистограмма (полигон) накопленных частот;

4) гистограмма (полигон) относительных накопленных частот.

Гистограмма частот представляет собой кусочно-постоянную функцию, принимающую постоянные значения внутри интервалов группировки. В зависимости от типа гистограммы это значение может быть абсолютной частотой, относительной частотой, накопленной частотой или относительной накопленной частотой.

Полигоны абсолютных и относительных частот строятся следующим образом: если построена соответствующая гистограмма частот, то ординаты, соответствующие средним точкам интервалов, последовательно соединяются отрезками прямых.

Полигоны накопленных частот и относительных накопленных частот строятся так: если построена соответствующая гистограмма частот, то ординаты, соответствующие правым точкам интервалов, последовательно соединяются отрезками прямых.

Пример 2

Пусть x₁,…,x_n – выборка наблюдений случайной величины X, имеющей распределение F_X(x). Пусть выборка содержит k вариантов z₁,…,z_k, причём вариант z_i встречается с частотой n_i, $i=\overline{1,k}$.

Введём случайную величину дискретного типа $X_{n}^{*}$, принимающую значения z₁,…,z_k с вероятностями, равными соответствующим относительным частотам n₁/n,…,n_k/n, т.е. $P(X_{n}^{*}={{x}_{i}})={{n}_{i}}/n$, $i=\overline{1,k}$. Относительные частоты принадлежат отрезку [0; 1], причём их сумма равна единице, т.е. для относительных частот выполнены все требования, предъявляемые к вероятности распределения. Распределение случайной величины $X_{n}^{*}$ называется распределением выборки x₁,…,x_n (табл. 1.3).

Таблица 1.3

Распределение выборки

Значения, zi	z1	...	zi	...	zk
Вероятности, pi	nj / n	...	ni / n	...	nk / n

В связи с тем, что в выборке может присутствовать лишь конечное (или счётное) число вариантов наблюдаемой случайной величины X, распределение случайной величины $X_{n}^{*}$ всегда является дискретным.

Функция распределения случайной величины $X_{n}^{*}$ называется эмпирической (выборочной) функцией распределения (ЭФР ) и обозначается $F_{n}^{*}(x)$:

$F_{n}^{*}(x)={{F}_{X_{n}^{*}}}(x)=P(X_{n}^{*}<x)=\sum\limits_{{{z}_{i}}<x}{\frac{{{n}_{i}}}{n}}=\frac{1}{n}\sum\limits_{{{z}_{i}}<x}{{{n}_{i}}}$.

Как известно, функция распределения случайной величины дискретного типа представляет собой кусочно-постоянную функцию. График ЭФР для выборки x₁,…,x_n с вариантами z₁,…,z_k приведён на рисунке ниже. Несложно показать, что ЭФР может принимать лишь значения, равные накопленным относительным частотам вариантов z₁,…,z_k либо равняться нулю:

$F_{n}^{*}(x)= \begin{cases} 0,\ \ \ \ x\le {{z}_{1}}, \\ {{n}_{1}}/n={{m}_{1}}/n,\ \ \ \ {{z}_{1}}<x\le {{z}_{2}}, \\ ({{n}_{1}}+{{n}_{2}})/n={{m}_{2}}/n,\ \ \ \ {{z}_{2}}<x\le {{z}_{3}}, \\ ... \\ 1={{m}_{k}},\ \ \ \ x>{{z}_{k}}. \end{cases}$

(1)

В точках z₁,…,z_k ЭФР претерпевает разрыв непрерывности и является, как и любая функция распределения, непрерывной слева.

Поскольку ЭФР выборки x₁,…,x_n является функцией распределения дискретной случайной величины $X_{n}^{*}$, то для неё справедливы все свойства функции распределения дискретной случайной величины.

Эмпирическую функцию распределения $F_{n}^{*}(x)$ выборки x₁,…,x_n можно рассматривать как реализацию случайной эмпирической функции распределения $\mathcal{F}_{n}^{*}(x)$ соответствующей случайной выборки X₁,…,X_n. При каждой конкретной реализации случайной выборки получаем соответствующую ей реализацию случайной ЭФР.

Пример 1

Выборочными (эмпирическими) числовыми характеристиками называются числовые характеристики случайной величины $X_{n}^{*}$. К таким характеристикам относятся, например, моменты случайной величины. Напомним, что зная функцию распределения f_X(x) случайной величины X (или распределение вероятностей p₁,…,p_k для случайной величины дискретного типа), математическое ожидание элементарной действительной функции ξ(X) случайной величины X рассчитывается по формулам:

$\text{M}[\xi (X)]=\int\limits_{-\infty }^{\infty }{\xi (x)f(x)dx}$

и

$\text{M}[\xi (X)]=\sum\limits_{i=1}^{k}{\xi ({{x}_{i}}){{p}_{i}}}$

(2)

для непрерывного и дискретного случаев соответственно.

Учитывая (2), запишем выражение для расчёта выборочного начального момента r-го порядка. Все выборочные числовые характеристики будем обозначать с верхним знаком «звёздочки»:

$\alpha _{r}^{*}=\text{M}\left[ {{(X_{n}^{*})}^{r}}\right]=\sum\limits_{i=1}^{k}{z_{i}^{r}{{p}_{i}}}=\sum\limits_{i=1}^{k}{z_{i}^{r}\frac{{{n}_{i}}}{n}}=\frac{1}{n}\sum\limits_{i=1}^{k}{z_{i}^{r}{{n}_{i}}}$.

(3)

В связи с тем, что каждый вариант z_i встречается в выборке x₁,…,x_n с соответствующей частотой n_i, $i=\overline{1,k}$, каждое произведение $z_{i}^{r}{{n}_{i}}$ может быть записано как сумма n_i одинаковых элементов выборки, равных варианту z_i. Таким образом, выражение (3) примет вид:

$\alpha _{r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{x_{i}^{r}}$.

(4)

Выражение (3) называется взвешенной формой записи выборочного начального момента r-го порядка, а выражение (4) – невзвешенной.

Взвешенная форма записи выборочного начального момента r-го порядка представляет собой среднее арифметическое различных элементов (вариантов) выборки, возведённых в r-ю степень и взвешенных их частотами. Из невзвешенной формы записи видно, что выборочный начальный момент r-го порядка представляет собой простое среднее арифметическое элементов выборки, возведённых в r-ю степень. В связи с этим нередко выборочный начальный момент r-го порядка обозначается через $\overline{{{x}^{r}}}$.

Выборочный начальный момент первого порядка $\alpha _{1}^{*}$ называется выборочным математическим ожиданием и представляет собой простое среднее арифметическое элементов выборки, в связи с чем нередко обозначается через $\bar{x}$:

$m_{X}^{*}=\alpha _{1}^{*}=\text{M}[X_{n}^{*}]=\frac{1}{n}\sum\limits_{i=1}^{k}{{{z}_{i}}{{n}_{i}}}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{x}_{i}}}=\bar{x}$.

(5)

Нижний индекс ‘_X’ в обозначении выборочного математического ожидания и других выборочных характеристик определяется случайной величиной, наблюдениями которой являются рассматриваемые выборочные значения x₁,…,x_n.

Операция центрирования выборки состоит в смещении её значений на $\bar{x}$:

${{\varepsilon }_{i}}={{x}_{i}}-\bar{x},\ \ \ i=\overline{1,n}$.

Выборочное математическое ожидание (среднее) центрированной выборки ε₁,…,ε_n равно нулю:

$\bar{\varepsilon }=\frac{1}{n}\sum\limits_{i=1}^{n}{{{\varepsilon}_{i}}}=\frac{1}{n}\sum\limits_{i=1}^{n}{({{x}_{i}}-\bar{x})}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{x}_{i}}}-\bar{x}=0$.

Учитывая определение центрального момента r-го порядка случайной величины дискретного типа, запишем выражение для расчёта выборочного центрального момента r-го порядка:

$\mu _{r}^{*}=\text{M}\left[ {{(X_{n}^{*}-\bar{x})}^{r}}\right]=\sum\limits_{i=1}^{k}{{{({{z}_{i}}-\bar{x})}^{r}}\frac{{{n}_{i}}}{n}}=\frac{1}{n}\sum\limits_{i=1}^{k}{{{({{z}_{i}}-\bar{x})}^{r}}{{n}_{i}}}$.

(6)

Выражение (6) является взвешенной формой записи. Невзвешенная форма получается из взвешенной заменой произведений ${{({{z}_{i}}-\bar{x})}^{r}}{{n}_{i}}$, $i=\overline{1,k}$, на сумму n_i одинаковых слагаемых:

$\mu _{r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{x}_{i}}-\bar{x})}^{r}}}$.

Выборочный центральный момент второго порядка $\mu _{2}^{*}$ называется выборочной дисперсией:

$d_{X}^{*}=\mu_{2}^{*}=\frac{1}{n}\sum\limits_{i=1}^{k}{{{({{z}_{i}}-\bar{x})}^{2}}{{n}_{i}}}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{x}_{i}}-\bar{x})}^{2}}}$.

(7)

Выборочная дисперсия является мерой рассеяния выборочных значений x₁,…,x_n относительно их среднего арифметического $\bar{x}$.

Выборочное среднеквадратичное отклонение (с.к.о.) $\sigma _{X}^{*}$ выборки x₁,…,x_n определяется как квадратный корень из выборочной дисперсии $d_{X}^{*}$:

$\sigma _{X}^{*}=\sqrt{d_{X}^{*}}$.

Для выборочных начального и центрального моментов применимы все тождества, справедливые для начального и центрального моментов случайной величины дискретного типа. В частности, полезное на практике соотношение между выборочной дисперсией и выборочным начальным моментом второго порядка:

$d_{X}^{*}=\overline{{{x}^{2}}}-{{\bar{x}}^{2}}$.

(8)

Это равенство следует читать как «выборочная дисперсия равна разности между средним квадратом и квадратом среднего».

Выборочный коэффициент асимметрии $\gamma _{X}^{*}$ (skewness) и выборочный эксцесс $\varepsilon _{X}^{*}$ (kurtosis) – это коэффициент асимметрии и эксцесс случайной величины $X_{n}^{*}$:

$\gamma _{X}^{*}=\frac{\mu _{3}^{*}}{{{(\sigma _{X}^{*})}^{3}}}$,

$\varepsilon _{X}^{*}=\frac{\mu _{4}^{*}}{{{(\sigma _{X}^{*})}^{4}}}-3$,

Выборочный коэффициент асимметрии характеризует степень асимметрии, а эксцесс – степень «плосковершинности» распределения выборки.

Пример 2

Выборочные характеристики могут быть рассчитаны для группированной выборки. Пусть проведена группировка выборочных данных x₁,…,x_n на k интервалов [α₀; α₁), [α₁; α₂),…, [α_k-1; α_k]; n_i – частота попадания выборочных значений в i-й интервал, ${{c}_{i}}~=~({{\alpha}_{i}}_{-\text{1}}+{{\alpha }_{i}})~/2$ – середина i-го интервала, $i=\overline{1,k}$.

При расчёте выборочных характеристик группированной выборки предполагается, что все элементы выборки, попавшие в i-й интервал, находятся в середине интервала. Таким образом, выборочный начальный момент r-го порядка рассчитывается как среднее арифметическое взвешенное середин интервалов, возведённых в r-ю степень, а выборочный центральный момент r-го порядка – как среднее арифметическое взвешенное центрированных середин интервалов, возведённых в r-ю степень. В обоих случаях взвешивание проводится частотами попадания в интервалы:

$\alpha _{r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{k}{c_{i}^{r}{{n}_{i}}}$.

(9)

$\mu _{r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{k}{{{({{c}_{i}}-\bar{x})}^{r}}{{n}_{i}}}$.

(10)

Пример 3

Выборочной квантилью на уровне вероятности p (или порядка p) выборки x₁,…, x_n называется квантиль случайной величины $X_{n}^{*}$ на уровне вероятности p. Напомним, квантилью случайной величины X называется точная верхняя граница x_p множества значений x, для которых выполнено условие:

$F(x)=P(X<x)=p$.

Для дискретной случайной величины, в частности, для случайной величины $X_{n}^{*}$, точная верхняя граница этого множества не может быть определена однозначно. В связи с этим для расчёта выборочной квантили $x_{p}^{*}$ на практике используются следующие правила.

1. Значение i-го элемента вариационного ряда x_(i) является выборочной квантилью порядка p_i = (i – 0,5) / n. Таким образом, соответствие между элементами вариационного ряда и порядком квантилей устанавливается таблицей

Выборочная квантиль, $x_{p}^{*}$	x(1)	...	x(i)	...	x(n)
Порядок, p	0,5 / n	..	(i – 0,5) / n	..	(n – 0,5) / n

2. Для расчёта квантили произвольного порядка p, 0 ≤ p ≤ 1 используется линейная интерполяция значений, приведённых в таблице выше.

Выборочной медианой выборки x₁,…, x_n называется выборочная квантиль $x_{0,5}^{*}$ на уровне p = 0,5. Из правил расчёта выборочных квантилей следуют правила расчёта выборочной медианы.

1. Если объём выборки n – нечётный, то, разрешая уравнение (i – 0,5) / n = 0,5 относительно i, получаем номер $i=\frac{n+1}{2}$ элемента вариационного ряда, являющегося медианой, т.е.

$x_{0,5}^{*}={{x}_{((n+1)/2)}}$.

2. Если объём выборки n – чётный, то выборочная медиана определяется путём линейной интерполяции элементов вариационного ряда с номерами $\frac{n}{2}$ и $\frac{n}{2}+1$, имеющих порядки квантилей $0,5-\frac{1}{n}$ и $0,5+\frac{1}{n}$ соответственно. Результатом этой интерполяции будет среднее значение

$x_{0,5}^{*}=\frac{{{x}_{(n/2)}}+{{x}_{(n/2+1)}}}{2}$.

(11)

Выборочные квантили $x_{0,25}^{*}$ и $x_{0,75}^{*}$ на уровнях 0,25 и 0,75 называют выборочными нижней и верней квартилями соответственно. Разность Δ между верней и нижней квартилями называется интерквартильным интервалом:

$\Delta =x_{0,75}^{*}-x_{0,25}^{*}$.

Интерквартильный интервал является характеристикой разброса выборочных значений и является, в некотором смысле, аналогом дисперсии.

Выборочные квантили $x_{0,1}^{*}$,…,$x_{0,9}^{*}$ на уровнях, кратных 0,1, называются выборочными децилями, а выборочные квантили $x_{0,01}^{*}$,…,$x_{0,99}^{*}$ на уровнях, кратных 0,01, – выборочными процентилями.

Выборочной модой выборки x₁,…, x_n с вариантами z₁,…,z_k называется вариант z_i, $i\in \{1,...,k\}$, частота n_i которого максимальна.

Пример 4

Выборочные характеристики можно ввести и для выборок из многомерных генеральных совокупностей. Пусть (x₁, y₁),…,(x_n, y_n) – выборка наблюдений двумерного случайного вектора (X, Y), имеющего распределение F_XY(x, y). Пусть выборка содержит k различных пар наблюдений (вариантов) z₁,…,z_k, ${{z}_{i}}=({{x}_{i}},{{y}_{i}})$, причём вариант z_i встречается с частотой n_i, $i=\overline{1,k}$.

По аналогии с одномерным случаем введём случайный вектор дискретного типа $(X_{n}^{*},Y_{n}^{*})$, принимающий значения z₁,…,z_k с вероятностями, равными соответствующим относительным частотам, n₁ / n,…, n_k / n, т.е. $P\left( (X_{n}^{*}={{x}_{i}})\bigcap (Y_{n}^{*}={{y}_{i}}) \right)={{n}_{i}}/n$, $i=\overline{1,k}$.

Распределение случайного вектора $(X_{n}^{*},Y_{n}^{*})$ называется распределением двумерной выборки. Предварительное представление о распределении выборки можно получить, изображая элементы выборки точками на плоскости координат xOy. Это представление выборки называется диаграммой рассеяния (scatter plot).

Выборочными числовыми характеристиками двумерной выборки (x₁, y₁),…, (x_n, y_n) называются числовые характеристики случайного вектора $(X_{n}^{*},Y_{n}^{*})$. К таким характеристикам относятся, например, моменты случайного вектора.

Выборочный смешанный начальный момент порядка (q + r) равен:

$\alpha _{q,r}^{*}=\text{M}\left[ {{(X_{n}^{*})}^{q}}{{(Y_{n}^{*})}^{r}} \right]=\sum\limits_{i=1}^{k}{x_{i}^{q}y_{i}^{r}{{p}_{i}}}$,

(1)

где ${{p}_{i}}=P\left( (X_{n}^{*}={{x}_{i}})\bigcap (Y_{n}^{*}={{y}_{i}}) \right)$, а суммирование проводится по всем вариантам случайного вектора $(X_{n}^{*},Y_{n}^{*})$.

Учитывая, что случайный вектор $(X_{n}^{*},Y_{n}^{*})$ принимает вариант (x_i, y_i) с вероятностью, равной относительной частоте n_i этого наблюдения в выборке, и, представляя произведения $x_{i}^{q}y_{i}^{r}{{n}_{i}}$ как суммы n_i одинаковых слагаемых $x_{i}^{q}y_{i}^{r}$, $i=\overline{1,k}$, формула (1) может быть записана в виде:

$\alpha _{q,r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{x_{i}^{q}y_{i}^{r}}$.

Аналогично, выборочный смешанный центральный момент порядка (q + r) определяется формулой:

$\mu _{q,r}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{x}_{i}}-\bar{x})}^{q}}{{({{y}_{i}}-\bar{y})}^{r}}}$.

Наиболее часто используемой числовой характеристикой двумерного вектора является коэффициент корреляции. Напомним, что для случайного вектора дискретного типа (X, Y) коэффициент корреляции r_XY определяется следующим образом:

${{r}_{XY}}=\frac{{{k}_{XY}}}{{{\sigma }_{X}}{{\sigma }_{Y}}}$,

(2)

где k_XY – ковариационный момент, по определению ${{k}_{XY}}=\mu _{1,1}^{(X,Y)}$.

Учитывая (2), определим выражение для выборочного коэффициента корреляции $\rho _{XY}^{*}$:

$\rho _{XY}^{*}=\frac{k_{XY}^{*}}{\sigma _{X}^{*}\sigma _{Y}^{*}}$,

где $k_{XY}^{*}$ – выборочный ковариационный момент:

$k_{XY}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{({{x}_{i}}-\bar{x})({{y}_{i}}-\bar{y})}$.

Для выборочных ковариационного момента и коэффициента корреляции применимы все тождества, справедливые для ковариационного момента и коэффициента корреляции случайного вектора дискретного типа. В частности, полезное на практике соотношение между выборочным ковариационным моментом и выборочным смешанным начальным моментом второго порядка:

$k_{XY}^{*}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{x}_{i}}{{y}_{i}}-\bar{x}\cdot \bar{y}}=\overline{xy}-\bar{x}\cdot \bar{y}$.

(3)

Это равенство следует читать как «выборочный ковариационный момент равен разности между средним произведением и произведением средних».

Пример 1

Двумерная выборка может быть представлена в виде корреляционной таблицы. Корреляционная таблица (табл. 1.4) является аналогом группированного статистического ряда для одномерной выборки.

Для построения корреляционной таблицы отрезок [x₍₁₎; x_(n)], содержащий все наблюдения случайной величины X, разбивается на l непересекающихся интервалов [α₀ = x₍₁₎; α₁), [α₁; α₂),…, [α_l-1; α_l = x_(n)], как правило, одинаковой ширины h₁. Аналогично отрезок [y₍₁₎; y_(n)], содержащий все наблюдения случайной величины Y, разбивается на m непересекающихся интервалов [β₀ = β₍₁₎; β₁), [β₁; β₂),…, [β_m-1; β_m = y_(n)], как правило, одинаковой ширины h₂. Правые границы всех интервалов, за исключением последнего, задаются открытыми, чтобы исключить попадание граничных точек в соседний интервал.

Процедуру группировки двумерных выборочных наблюдений можно выполнить непосредственно по диаграмме рассеяния, нанеся на неё сетку горизонтальных и вертикальных прямых, взятых с постоянными шагами h₁ и h₂ и рассчитав частоты n_ij попадания выборочных точек в каждый прямоугольник.

${{G}_{ij}}=\{(x,y)|{{\alpha }_{i-1}}\le x<{{\alpha }_{i}};{{\beta }_{j-1}}\le y<{{\beta }_{j}}\}$, $i=\overline{1,l}$, $j=\overline{1,m}$.

Таблица 1.4

Корреляционная таблица

	[β0; β1)	...	[βj-1; βj)	...	[βm-1; βm]
[α0; α1)	n11	...	n1j	...	n1l
...	...	...	...	...	...
[αi-1; αi)	ni1	...	nij	...	nil
...	...	...	...	...	...
[αl-1; αl]	nl1	...	nlj	...	nlm

Очевидно, что сумма всех частот в корреляционной таблице равна объёму выборки $\sum\limits_{i}^{l}{\sum\limits_{j}^{m}{{{n}_{ij}}}}=n$.

Пусть x₁,...,x_n – выборка наблюдений случайной величины X, имеющей распределение F_X(x). При проведении ряда статистических исследований вид функции распределения наблюдаемой случайной величины зачастую предполагается известным (например, случайная величина имеет нормальное или биномиальное распределение). Неизвестными же являются параметры этого распределения.

Одной из задач математической статистики является оценка неизвестных параметров распределения наблюдаемой случайной величины X по выборке x₁,..., x_n её наблюдений.

Параметром θ&in;Θ распределения F_X(x) случайной величины X называется любая числовая характеристика этой случайной величины (математическое ожидание, дисперсия и т.п.) или любая константа, явно входящая в выражение для функции распределения F_X(x).

В общем случае будем считать, что распределение F_X(x) характеризуется вектором параметров $\theta =({{\theta}_{1}},...,{{\theta }_{k}})$.

Например, пусть масса деталей, изготавливаемых станком, в силу присутствия неточности работы станка является случайной величиной X, имеющей нормальное распределение, но его параметры ${{\theta }_{1}}={{m}_{X}}$ и ${{\theta }_{2}}={{\sigma }_{X}}$ неизвестны. Требуется найти приближённое значение этих параметров по выборке наблюдений x₁,..., x_n масс n изготовленных станком деталей.

Напомним, что любая выборка наблюдений x₁,...,x_n является реализацией случайной выборки X₁,...,X_n. Статистикой Z в математической статистике называется произвольная функция случайной выборки, не зависящая от неизвестных параметров распределения:

$Z=\varphi ({{X}_{1}},...,{{X}_{n}})$.

В связи с тем, что статистика Z является функцией случайных аргументов, Z является случайной величиной. Для каждой реализации x₁,...,x_n случайной выборки X₁,...,X_n получим соответствующую ей реализацию z статистики Z:

$z=\varphi ({{x}_{1}},...,{{x}_{n}})$,

называемую выборочным значением статистики Z.

Точечной оценкой ${{\tilde{\theta }}_{n}}$ неизвестного параметра θ&in;Θ (или вектора параметров) распределения F_X(x) называется произвольная статистика ${{\tilde{\theta }}_{n}}$, построенная по случайной выборке X₁,...,X_n из генеральной совокупности X и принимающая значения из множества Θ:

${{\tilde{\theta }}_{n}}=\tilde{\theta }({{X}_{1}},...,{{X}_{n}})$.

(1)

Точечная оценка ${{\tilde{\theta }}_{n}}$ является случайной величиной. Для выборки x₁,..., x_n может быть рассчитана реализация точечной оценки, или выборочное значение точечной оценки, неизвестного параметра θ&in;Θ. Далее точечную оценку и её выборочное значение будем обозначать одинаково через ${{\tilde{\theta }}_{n}}$, при необходимости дополнительно оговаривая, является ли ${{\tilde{\theta}}_{n}}$ случайной величиной или её реализацией.

В соответствии с определением (1) существует бесконечно много точечных оценок неизвестного параметра θ. Формально точечная оценка ${{\tilde{\theta }}_{n}}$ может не иметь ничего общего с интересующим нас параметром θ. Её полезность для получения практически приемлемых оценок вытекает из статистических свойств, которыми она обладает.

Основные свойства точечных оценок.

1. Состоятельность (Consistency)

Точечная оценка ${{\tilde{\theta }}_{n}}=\tilde{\theta }({{X}_{1}},...,{{X}_{n}})$ называется состоятельной оценкой параметра θ, если последовательность случайных величин ${{\tilde{\theta }}_{1}},{{\tilde{\theta }}_{2}},...,{{\tilde{\theta }}_{n}},...$ сходится по вероятности к оцениваемому параметру θ при $n\to \infty$, т.е.

$\forall \varepsilon >0\ \ \ P\left( \left| {{{\tilde{\theta }}}_{n}}-\theta \right|<\varepsilon \right)\to 1$.

Иными словами, для состоятельной оценки вероятность её отклонения от оцениваемого параметра θ на любую малую величину e при увеличении объёма выборки стремится к нулю. Это свойство оценки является очень важным, ибо несостоятельная оценка практически бесполезна. Для несостоятельной оценки её значение, рассчитанное даже для выборки очень большого объёма, может существенно отличаться от значения параметра θ, а увеличение объёма выборки может не улучшать её качество.

Состоятельность оценки может быть проверена, используя достаточное условие состоятельности: если $\text{M}[{{\tilde{\theta }}_{n}}]\to \theta$ и $\text{D}[{{\tilde{\theta }}_{n}}]\to 0$ при $n\to \infty$, то оценка ${{\tilde{\theta }}_{n}}$ является состоятельной.

Доказательство этого утверждения следует из второго неравенства Чебышева, согласно которому

$\forall \varepsilon >0\ \ \ P\left( \left| {{{\tilde{\theta }}}_{n}}-\text{M}[{{{\tilde{\theta }}}_{n}}] \right|\ge \varepsilon \right)\le\frac{\text{D}[{{{\tilde{\theta }}}_{n}}]}{{{\varepsilon }^{2}}}$.

Переходя к пределу при $n\to \infty$ получаем

$\forall \varepsilon >0\ \ \ P\left( \left| {{{\tilde{\theta }}}_{n}}-\theta \right|\ge \varepsilon \right)\to 0$,

из чего следует состоятельность оценки ${{\tilde{\theta }}_{n}}$.

2. Несмещённость (Bias)

Точечная оценка ${{\tilde{\theta }}_{n}}=\tilde{\theta }({{X}_{1}},...,{{X}_{n}})$ называется несмещённой оценкой параметра θ&in;Θ, если её математическое ожидание равно оцениваемому параметру θ, т.е.

$\text{M}[{{\tilde{\theta }}_{n}}]=\theta$.

(2)

Разность ${{b}_{n}}\text{(}\theta \text{)=M}[{{\tilde{\theta }}_{n}}]-\theta$ называется смещением точечной оценки ${{\tilde{\theta }}_{n}}$.

Статистика $\tilde{\theta }$ называется несмещённой оценкой параметра θ, если условие (2) выполнено для любого фиксированного объёма выборки n.

Статистика $\tilde{\theta }$ называется асимптотически несмещённой оценкой параметра θ&in;Θ, если числовая последовательность математических ожиданий $\text{M}[{{\tilde{\theta }}_{1}}],\text{M}[{{\tilde{\theta }}_{2}}],...,\text{M}[{{\tilde{\theta }}_{n}}],...$ сходится к оцениваемому параметру θ при $n\to \infty$, т.е.

$\text{M}[{{\tilde{\theta }}_{n}}]\to \theta$.

Несмещённость оценки ${{\tilde{\theta }}_{n}}$ означает, что реализации этой оценки, рассчитанные для различных реализаций случайной выборки X₁,...,X_n объёма n, будут группироваться в среднем около оцениваемого параметра θ.

Реализации несмещённой точечной оценки $\tilde{\theta }$ группируются около оцениваемого параметра θ, а реализации смещённой оценки $\hat{\theta }$ – около величины θ + b_n(θ).

3. Эффективность (Efficiency)

Для оценки параметра θ может быть предложено несколько несмещённых оценок. Вследствие несмещённости различные реализации этих оценок будут группироваться относительно их математического ожидания, равного θ, однако разброс этих значений может быть различным. Как известно, мерой разброса значений случайной величины относительно математического ожидания является её дисперсия.

Пусть ${{\tilde{\theta }}_{n}}=\tilde{\theta }({{X}_{1}},...,{{X}_{n}})$ и ${{\hat{\theta }}_{n}}=\hat{\theta }({{X}_{1}},...,{{X}_{n}})$ – две несмещённые оценки параметра q по выборке объёма n. Оценка ${{\tilde{\theta }}_{n}}$ называется более эффективной, чем оценка ${{\hat{\theta }}_{n}}$, если её дисперсия меньше, т.е.

$\text{D}[{{\tilde{\theta }}_{n}}]<\text{D}[{{\hat{\theta }}_{n}}]$.

(3)

Статистика $\tilde{\theta }$ называется более эффективной оценкой параметра θ&in;Θ, чем статистика $\hat{\theta }$, если условие (3) выполнено для любого фиксированного объёма выборки n.

Если оценка ${{\tilde{\theta }}_{n}}$ более эффективна, чем оценка ${{\hat{\theta }}_{n}}$, то это означает, что реализации оценки ${{\tilde{\theta}}_{n}}$, рассчитанные для различных реализаций случайной выборки X₁,...,X_n объёма n, будут иметь меньший разброс около оцениваемого параметра θ, чем реализации менее эффективной оценки ${{\hat{\theta }}_{n}}$.

Оценка параметра θ, имеющая минимально возможную дисперсию среди всех оценок, называется эффективной оценкой параметра θ. В математической статистике наряду с термином «эффективная оценка» используют и другие: «несмещённая оценка с минимальной дисперсией», «оптимальная оценка».

Для того чтобы ответить на вопрос, является ли статистика $\tilde{\theta }$ эффективной оценкой параметра θ, используется неравенство Рао-Крамера (Calyampudi Radhakrishna Rao, Harald Cramer, 1945):

$\text{D}[\tilde{\theta }]\ge \frac{1}{{{I}_{n}}(\theta )}$,

согласно которому любая оценка $\tilde{\theta }$ параметра θ ограничена снизу величиной $\frac{1}{{{I}_{n}}(\theta )}$ при выполнении некоторых условий регулярности (выполнены практически для всех используемых на практике оценок), где I_n(θ) – количество информации по Фишеру о параметре θ, содержащееся в выборке объёма n.

Таким образом, критерием эффективности оценки $\tilde{\theta }$ является обращение для неё в равенство неравенства Рао-Крамера.

Эффективностью оценки $\tilde{\theta }$ параметра θ называется отношение

$e({\tilde{\theta }})=\frac{1/{{I}_{n}}(\theta )}{\text{D}[\tilde{\theta }]}$.

Согласно неравенству Рао-Крамера эффективность любой точечной оценки ограничена сверху единицей, а для эффективных оценок $e({\tilde{\theta }})=1$.

При выполнении условий регулярности каждый элемент независимой случайной выборки X₁,...,X_n вносит равный вклад в информацию Фишера I_n(θ), т.е.

${{I}_{n}}(\theta )=nI(\theta )$,

(4)

где I(θ) – количество информации по Фишеру о параметре θ, содержащееся в одном выборочном наблюдении.

Величина информации по Фишеру зависит от вида распределения генеральной совокупности X. Так, выборки, полученные из генеральных совокупностей с разными распределениями (например, нормальным и биномиальным) будут содержать различное количество информации о неизвестных математическом ожидании или дисперсии.

Чем больше информации по Фишеру о параметре θ содержится в выборочных наблюдениях, тем меньший разброс имеют реализации эффективной оценки этого параметра, а следовательно, являются более точными.

Формально информация по Фишеру о параметре θ, содержащаяся в одном выборочном наблюдении из генеральной совокупности с функцией плотности распределения f_X(x, θ), рассчитывается по формуле

$I(\theta )=\text{M}\left[ U{{(X,\theta )}^{2}} \right]$,

(5)

где функция

$U(x,\theta )=\frac{\partial }{\partial \theta }\ln {{f}_{X}}(x,\theta )$

называется вкладом выборки.

В случае дискретной генеральной совокупности с распределением вероятностей P(x, θ), $\sum\limits_{x}{P(x,\theta )}=1$, вклад выборки определяется как

$U(x,\theta )=\frac{\partial }{\partial \theta }\ln P(x,\theta )$.

(6)

Статистика $\tilde{\theta }$ является асимптотически эффективной оценкой параметра θ, если последовательность дисперсий $\text{D}[{{\tilde{\theta }}_{1}}],\text{D}[{{\tilde{\theta }}_{2}}],...,\text{D}[{{\tilde{\theta }}_{n}}],...$ сходится к величине, обратной информации Фишера при $n\to \infty$, т.е.

$\text{D}[{{\tilde{\theta }}_{n}}]\to \frac{1}{{{I}_{n}}(\theta )}$.

Пример 1

Пример 2

Пример 3

Пример 4

Точечной оценкой неизвестного параметра θ, вообще говоря, может являться любая статистика. Однако на практике интерес представляют лишь наиболее «качественные» оценки, для которых вероятность того, что при реализации случайной выборки они примут значение максимально близкое к неизвестному значению θ наибольшая. Такие оценки должны быть несмещёнными, состоятельными и эффективными. Возникает вопрос, как получить качественную оценку для произвольного параметра θ наблюдаемой случайной величины X?

1. Метод подстановки

Метод подстановки является наиболее простым методом получения точечных оценок. Метод состоит в том, что в качестве оценки $\tilde{\theta }$ неизвестного параметра θ выбирается соответствующая выборочная числовая характеристика:

$\tilde{\theta }={{\theta }^{*}}$.

Например, согласно методу подстановки оценкой математического ожидания будет выборочное среднее, а оценкой дисперсии – выборочная дисперсия.

Все оценки, рассчитанные по методу подстановки, являются состоятельными, однако их несмещённость и эффективность не гарантированы. Примером смещённой оценки, рассмотренной ранее, является выборочная дисперсия.

2. Метод моментов

Пусть x₁,…,x_n – выборка наблюдений случайной величины X, имеющей распределение F_X(x, θ) с вектором неизвестных параметров $\theta =({{\theta }_{1}},...,{{\theta }_{k}})$. Предположим, что для этого распределения могут быть рассчитаны начальные ${{\alpha }_{r}}={{\alpha }_{r}}({{\theta }_{1}},...,{{\theta }_{k}})$ и центральные ${{\mu }_{r}}={{\mu }_{r}}({{\theta}_{1}},...,{{\theta }_{k}})$ моменты некоторых порядков r. Эти моменты являются функциями неизвестных параметров θ₁,…,θ_k. С другой стороны, для выборки могут быть рассчитаны выборочные начальные $\alpha _{r}^{*}$ и центральные $\mu _{r}^{*}$ моменты тех же порядков r.

Метод моментов состоит нахождении такого вектора параметров θ, при котором теоретические моменты равны выборочным моментам, т.е. в разрешении системы уравнений вида:

$\begin{cases} {{\alpha }_{{{r}_{i}}}}({{\theta }_{1}},...,{{\theta }_{k}})=\alpha _{{{r}_{i}}}^{*},\ \ \ i=1,2,... \\ {{\mu }_{{{r}_{j}}}}({{\theta }_{1}},...,{{\theta }_{k}})=\mu _{{{r}_{j}}}^{*},\ \ \ j=1,2,... \end{cases}$

(1)

Число уравнений в системе (1) равно числу неизвестных параметров k. Для получения оценок по методу моментов, вообще говоря, могут быть выбраны любые моменты произвольных порядков, однако, как правило, на практике используют лишь моменты низших порядков.

Все оценки, рассчитанные по методу моментов, являются состоятельными, однако их несмещённость и эффективность, так же, как и в случае метода подстановки, не гарантированы.

Точечные оценки, полученные по методу моментов, называются ММ-оценками.

Пример 1

3. Метод максимального правдоподобия

Метод максимального правдоподобия (maximum likelihood estimation, MLE) является наиболее популярным методом оценивания неизвестных параметров распределений.

Пусть x₁,…,x_n – выборка наблюдений случайной величины X, имеющей распределение F_X(x, θ) с вектором неизвестных параметров $\theta =({{\theta }_{1}},...,{{\theta }_{k}})$. Функцией правдоподобия выборки x₁,…, x_n из генеральной совокупности X называется совместная функция плотности распределения случайного вектора $X=({{X}_{1}},...,{{X}_{n}})$ при условии, что его реализация $x=({{x}_{1}},...,{{x}_{n}})$:

$L({{x}_{1}},...,{{x}_{n}};\theta )={{f}_{{{X}_{1}}...{{X}_{n}}}}({{x}_{1}},...,{{x}_{n}};\theta )$.

Учитывая, что компоненты X₁,…, X_n случайной выборки, реализациями которых являются выборочные значения x ₁,…,x_n, независимы, многомерная функция плотности есть произведение одномерных функций плотностей:

$L({{x}_{1}},...,{{x}_{n}};\theta )=\prod\limits_{i=1}^{n}{{{f}_{{{X}_{i}}}}({{x}_{i}};\theta )}=\prod\limits_{i=1}^{n}{{{f}_{X}}({{x}_{i}};\theta )}$.

(2)

В (2) учтено, что все компоненты X₁,…, X_n имеют одинаковое распределение, совпадающее с распределением генеральной совокупности X.

Функция правдоподобия выборки x₁,…, x_n является функцией только вектора неизвестных параметров θ.

Аналогично определяется функция правдоподобия для случая дискретной генеральной совокупности с распределением вероятностей P(x, θ), $\sum\limits_{x}{P(x,\theta )}=1$:

$L({{x}_{1}},...,{{x}_{n}};\theta )=\prod\limits_{i=1}^{n}{P({{X}_{i}}={{x}_{i}};\theta )}=\prod\limits_{i=1}^{n}{P({{x}_{i}};\theta )}$.

Метод максимального правдоподобия состоит в том, что в качестве оценки вектора неизвестных параметров $\theta =({{\theta }_{1}},...,{{\theta }_{k}})$ принимается вектор $\tilde{\theta }=({{\tilde{\theta }}_{1}},...,{{\tilde{\theta }}_{k}})$, доставляющий максимум функции правдоподобия, т.е.

$\tilde{\theta }=\arg \underset{\theta }{\mathop{\max }}\,L({{x}_{1}},...,{{x}_{n}};\theta )$.

Иными словами, метод максимального правдоподобия состоит в отыскании такого вектора параметров $\tilde{\theta }$, при котором данная реализация x₁,…, x_n случайной выборки X₁,…,X_n была бы наиболее вероятной.

Запишем необходимое условие экстремума функции правдоподобия:

$\frac{\partial L({{x}_{1}},...,{{x}_{n}};\theta )}{\partial {{\theta }_{i}}}=0,\ \ \ i=\overline{1,k}$.

(3)

Это система k уравнений с k неизвестными θ₁,…,θ_k, решая которую, получаем оценки ${{\tilde{\theta}}_{1}},...,{{\tilde{\theta }}_{k}}$ неизвестных параметров распределения.

На практике бывает удобно вместо системы уравнений (3) составить систему уравнений

$\frac{\partial \ln L({{x}_{1}},...,{{x}_{n}};\theta )}{\partial {{\theta }_{i}}}=0,\ \ \ i=\overline{1,k}$,

которая имеет те же решения. Функция $\ln L({{x}_{1}},...,{{x}_{n}};\theta )$ называется логарифмической функцией правдоподобия.

Все оценки, рассчитанные по методу максимального правдоподобия, являются состоятельными и, по крайней мере, асимптотически несмещёнными и асимптотически эффективными. Если для неизвестного параметра существует эффективная оценка, то метод максимального правдоподобия даёт именно эту оценку.

Точечные оценки, полученные по методу максимального правдоподобия, называются МП-оценками.

Пример 2

1. Оценки математического ожидания

1) Оптимальной оценкой математического ожидания является выборочное среднее

$\tilde{m}=\bar{X}$.

Оценка является несмещённой, состоятельной, эффективной.

2) На практике нередко возникает необходимость быстрой оценки математического ожидания. Такой оценкой может быть

$\tilde{m}=\frac{{{X}_{\min }}+{{X}_{\max }}}{2}$.

Оценка является состоятельной и, по крайней мере, асимптотически несмещённой и асимптотически эффективной.

3) В качестве оценки математического ожидания симметричного распределения может быть использована выборочная медиана

$\tilde{m}=x_{0,5}^{*}$.

Можно показать, что при больших объёмах выборки распределение статистики $X_{0,5}^{*}$ аппроксимируется нормальным распределением $N\left( m,\sigma\sqrt{\frac{\pi }{2n}} \right)$. Таким образом, эффективность выборочной медианы как оценки математического ожидания равна

$e(X_{0,5}^{*})=\frac{1/{{I}_{n}}(m)}{\pi {{\sigma }^{2}}/2n}=\frac{{{\sigma }^{2}}/n}{\pi {{\sigma }^{2}}/2n}=\frac{2}{\pi }\approx 64 \%$.

Оценка является состоятельной, несмещённой, но неэффективной.

4) Рассмотрим две выборки объёмов n₁ и n₂ из одной генеральной совокупности. Пусть ${{\bar{X}}_{1}}$ и ${{\bar{X}}_{2}}$ – выборочные средние. Тогда агрегированная оценка математического ожидания генеральной совокупности:

$\tilde{m}=\frac{{{n}_{1}}{{{\bar{X}}}_{1}}+{{n}_{2}}{{{\bar{X}}}_{2}}}{{{n}_{1}}+{{n}_{2}}}$

является несмещённой, состоятельной, эффективной.

2. Оценки дисперсии

1) Оптимальной оценкой дисперсии является исправленная выборочная дисперсия:

${{\tilde{\sigma }}^{2}}=\frac{1}{n-1}\sum\limits_{i=1}^{n}{{{({{X}_{i}}-\bar{X})}^{2}}}$.

Оценка является несмещённой, состоятельной, эффективной.

2) Выборочная дисперсия

${{\tilde{\sigma }}^{2}}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{X}_{i}}-\bar{X})}^{2}}}$.

Оценка является асимптотически несмещённой, состоятельной, асимптотически эффективной.

3) На практике нередко возникает необходимость быстрой оценки дисперсии. Такой оценкой может быть

${{\tilde{\sigma }}^{2}}={{\left( \frac{{{X}_{\max }}-{{X}_{\min }}}{5} \right)}^{2}}$.

Оценка является грубой, для большинства распределений смещённой и неэффективной.

4) В случае если известно математическое ожидание m генеральной совокупности, оптимальной оценкой дисперсии является статистика:

${{\tilde{\sigma }}^{2}}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{X}_{i}}-m)}^{2}}}$.

Оценка является несмещённой, состоятельной, эффективной.

5) Рассмотрим две выборки объёмов n₁ и n₂ из одной генеральной совокупности. Пусть $S_{1}^{2}$ и $S_{2}^{2}$ – исправленные выборочные дисперсии. Тогда агрегированная оценка дисперсии генеральной совокупности

${{\tilde{\sigma }}^{2}}=\frac{({{n}_{1}}-1)S_{1}^{2}+({{n}_{2}}-1)S_{2}^{2}}{{{n}_{1}}+{{n}_{2}}-2}$

является несмещённой, состоятельной, эффективной.

Точечная оценка $\tilde{\theta }$ неизвестного параметра θ является случайной величиной, определяемой как некоторая функция случайной выборки X₁,…,X_n. Это означает, что для каждой новой реализации x₁,…,x_n этой выборки точечная оценка $\tilde{\theta }$ каждый раз будет иметь новое значение. Использование точечных оценок не даёт ответа на вопрос, насколько для данной выборки x₁,…, x_n рассчитанная реализация точечной оценки $\tilde{\theta }$ близка к значению оцениваемого параметра θ. Ответ на этот вопрос могут дать интервальные оценки. Интервальная оценка позволяет получить вероятностную характеристику точности оценивания неизвестного параметра θ.

Пусть X₁,…,X_n – случайная выборка объёма n из генеральной совокупности X с функцией распределения F_X(x; θ), зависящей от параметра θ, значение которого неизвестно. Доверительным интервалом для параметра θ называется интервал (θ₁; θ₂), содержащий (накрывающий) истинное значение θ с заданной вероятностью γ, т.е.

$P({{\theta }_{1}}<\theta <{{\theta }_{2}})=\gamma$,

(1)

где ${{\theta }_{1}}={{\theta }_{1}}({{X}_{1}},...,{{X}_{n}})$ и ${{\theta }_{2}}={{\theta }_{2}}({{X}_{1}},...,{{X}_{n}})$ – некоторые статистики. Вероятность γ называется доверительной вероятностью, а вероятность $\alpha =1-\gamma$ – уровнем значимости. Доверительный интервал с доверительной вероятностью γ называют также γ-доверительным интервалом, или γ-доверительной интервальной оценкой параметра θ. Статистики θ₁ и θ₂ называются нижней и верхней границами доверительного интервала соответственно.

Доверительный интервал – это интервал со случайными границами θ₁ и θ₂. Для каждой новой реализации x₁,…,x_n случайной выборки X₁,…,X_n эти случайные величины, а следовательно, и случайные величины θ₁, θ₂ будут принимать новые значения. Однако, согласно определению, для данной реализации x₁,…,x_n рассчитанная реализация доверительного интервала (θ₁; θ₂) накроет истинное значение неизвестного параметра θ с заданной вероятностью γ. Это означает, что доля реализаций случайной выборки X₁,…,X_n, для которых доверительный интервал (θ₁; θ₂) накроет θ, в среднем равна доверительной вероятности γ.

Пример. Исследуется качество партии выпускаемых предприятием изделий. Пусть θ – доля бракованных изделий в партии, которую оценивают независимо друг от друга в N различных лабораториях по результатам обследования нескольких случайно выбранных деталей из партии. Иначе говоря, долю бракованных изделий в партии в каждой лаборатории оценивают по «своей» выборке деталей из партии, и в каждой лаборатории получают свои значения верхней и нижней границ γ-доверительного интервала.

Возможны случаи, когда γ-доверительный интервал не накрывает истинного значения θ. Если M – число таких случаев, то их доля будет стремиться к уровню значимости α при увеличении N, т.е. $\frac{M}{N}\to \alpha$ при $N\to \infty$.

Ширина доверительного интервала, характеризующая точность интервального оценивания, зависит от объёма выборки n и доверительной вероятности γ: при увеличении объёма выборки ширина доверительного интервала уменьшается. Причина этого состоит в том, что в выборке большего объёма содержится больше информации об оцениваемом параметре, что позволяет более точно определить область, в которой он находится. При увеличении доверительной вероятности предъявляется более «жёсткое» требование к вероятности нахождения неизвестного параметра внутри доверительного интервала, вследствие чего его ширина увеличивается.

Границы доверительного интервала θ₁ и θ₂ могут быть выбраны множеством способов. Единственное требование, предъявляемое к этим статистикам – это выполнение условия (1). Однако на практике, как правило, эти статистики выбирают, исходя из некоторых соображений симметрии, которые будут рассмотрены далее.

Иногда требуется оценить параметр θ только снизу или только сверху. При этом, если

$P({{\theta }_{1}}<\theta )=\gamma$,

то доверительный интервал (θ₁; ∞) называется правосторонним, а статистика ${{\theta }_{1}}={{\theta }_{1}}({{X}_{1}},...,{{X}_{n}})$ – односторонней нижней границей доверительного интервала.

Если же

$P(\theta <{{\theta }_{2}})=\gamma$,

то доверительный интервал (-∞; θ₂) называется левосторонним, а статистика ${{\theta }_{2}}={{\theta }_{2}}({{X}_{1}},...,{{X}_{n}})$ – односторонней верхней границей доверительного интервала.

Пусть X₁,…,X_n – случайная выборка объёма n из генеральной совокупности X с функцией распределения F_X(x; θ), зависящей от параметра θ, значение которого неизвестно. Наиболее простым и популярным методом построения доверительного интервала (θ₁; θ₂) для неизвестного параметра θ является метод, основанный на использовании так называемой центральной статистики.

Центральной статистикой случайной выборки X₁,…,X_n называется любая статистика $Z=Z({{X}_{1}},...,{{X}_{n}};\theta )$, зависящая от неизвестного параметра θ, удовлетворяющая следующим свойствам:

1. закон распределения F_Z(z) статистики Z известен и не зависит от θ;

2. статистика Z непрерывна и строго монотонна по θ.

Из определения квантиля следует, что для любой случайной величины, в том числе, и для статистики $Z=Z({{X}_{1}},...,{{X}_{n}};\theta )$ справедливо равенство:

$P\left( {{z}_{\alpha /2}}<Z({{X}_{1}},...,{{X}_{n}};\theta )<{{z}_{1-\alpha /2}} \right)=1-\alpha$,

(1)

где ${{z}_{\alpha /2}}$ и ${{z}_{1-\alpha /2}}$ – квантили случайной величины Z на уровнях α/2 и (1­–α/2) соответственно.

При построении односторонних доверительных интервалов рассматриваются другие равенства:

$P\left( {{z}_{\alpha }}<Z({{X}_{1}},...,{{X}_{n}};\theta ) \right)=1-\alpha$,

(2)

$P\left( Z({{X}_{1}},...,{{X}_{n}};\theta )<{{z}_{1-\alpha }} \right)=1-\alpha$.

(3)

Задача нахождения доверительного интервала состоит в разрешении неравенства, стоящего под знаком вероятности в выражении (1) (или выражениях (2), (3)), относительно неизвестного параметра θ. В результате получим эквивалентное выражение:

$P\left( {{\theta }_{1}}({{X}_{1}},...,{{X}_{n}})<\theta <{{\theta }_{2}}({{X}_{1}},...,{{X}_{n}}) \right)=1-\alpha$,

из которого следует, что интервал $\left( {{\theta }_{1}}({{X}_{1}},...,{{X}_{n}});{{\theta }_{2}}({{X}_{1}},...,{{X}_{n}}) \right)$ является доверительным.

Таким образом, алгоритм построения доверительного интервала для неизвестного параметра θ на основе случайной выборки X₁,…,X_n состоит в следующем.

1. Выбор центральной статистики $Z=Z({{X}_{1}},...,{{X}_{n}};\theta )$ и определение её закона распределения F_Z(z). Знание закона распределения необходимо для расчёта квантилей ${{z}_{\alpha /2}}$ и ${{z}_{1-\alpha /2}}$ (или z_α и z_1-α).

2. Разрешение неравенства под знаком вероятности в выражении (1) (или выражениях (2), (3)) относительно θ.

Очевидно, что для случайной выборки X₁,…, X_n в общем случае может быть построено бесконечно много центральных статистик Z. Возникает вопрос, какую центральную статистику выбрать, чтобы полученный с её помощью доверительный интервал был бы наиболее узким, а следовательно, наиболее точным, при фиксированной доверительной вероятности $\gamma =1-\alpha$?

Как правило, центральные статистики связывают с некоторой точечной оценкой $\tilde{\theta }$ неизвестного параметра θ. Чем меньше дисперсия точечной оценки $\tilde{\theta }$, тем меньшей дисперсией будет обладать и центральная статистика Z, построенная на основе $\tilde{\theta }$. А для случайной величины с меньшей дисперсией интервал $({{z}_{\alpha /2}};{{z}_{1-\alpha /2}})$ будет ýже при прочих равных условиях. Учитывая монотонность зависимости центральной статистики Z от параметра θ, заключаем, что чем ýже интервал $({{z}_{\alpha /2}};{{z}_{1-\alpha /2}})$, тем ýже доверительный интервал (θ₁; θ₂). Таким образом, из вышесказанного следует, что центральную статистику $Z({{X}_{1}},...,{{X}_{n}};\theta )$ целесообразно выбирать связанной с эффективной оценкой $\tilde{\theta}({{X}_{1}},...,{{X}_{n}})$ неизвестного параметра θ.

Пример 1

Пусть X₁,…,X_n – случайная выборка объёма n из нормально распределённой генеральной совокупности N(m, σ). Для вывода выражений для доверительных интервалов найдём законы распределения некоторых статистик, которые могут быть выбраны как центральные.

1. Статистика $\bar{X}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{X}_{i}}}$ (среднее арифметическое).

В силу композиционной устойчивости нормального распределения статистика $\bar{X}$ имеет распределение $N\left( m,\frac{\sigma }{\sqrt{n}} \right)$.

2. Статистика $U=\frac{\bar{X}-m}{{\sigma }/{\sqrt{n}}\;}$ (стандартизованное среднее арифметическое при известной дисперсии).

Статистика имеет распределение $U\sim{\ }N\left( 0,1 \right)$.

3. Статистика $S_{0}^{2}=\frac{1}{n}\sum\limits_{i=1}^{n}{{{({{X}_{i}}-m)}^{2}}}$ (оценка дисперсии при известном математическом ожидании).

Для вывода закона распределения домножим и разделим каждое слагаемое на σ²:

$S_0^2=\frac{1}{n}{\sigma^2}\sum\limits_{i=1}^n{{{\left( \frac{X_i-m}{\sigma } \right)}^2}}=\frac{1}{n}{{\sigma}^{2}}\sum\limits_{i=1}^n{U_i^2}$,

где случайные величины U_i, $i=\overline{1,n}$, независимы и имеют стандартизованное нормальное распределение N(0, 1). По определению закона распределения хи-квадрат, случайная величина $\frac{n}{{{\sigma }^{2}}}S_{0}^{2}\sim{\ }{{\chi }^{2}}(n)$. Далее будем записывать, что статистика $S_{0}^{2}\sim{\ }\frac{{{\sigma }^{2}}}{n}{{\chi }^{2}}(n)$.

4. Статистика ${{S}^{2}}=\frac{1}{n-1}\sum\limits_{i=1}^{n}{{{({{X}_{i}}-\bar{X})}^{2}}}$ (оценка дисперсии при неизвестном математическом ожидании).

Теорема Фишера. Пусть X₁,…, X_n – независимые случайные величины, имеющие нормальное распределение N(m, σ). Тогда случайные величины $\bar{X}$ и S² независимы, и случайная величина ${{S}^{2}}\sim{\ }\frac{{{\sigma }^{2}}}{n-1}{{\chi}^{2}}(n-1)$.

5. Статистика $T=\frac{\bar{X}-m}{{S}/{\sqrt{n}}\;}$ (стандартизованное среднее арифметическое при неизвестной дисперсии).

Применяя выражение для статистики U, запишем

$T=\frac{\sigma }{S}\frac{\bar{X}-m}{{\sigma }/{\sqrt{n}}\;}=\frac{\sigma U}{S}=\frac{\sigma U}{\sigma \sqrt{{}^{{{\chi}^{2}}(n-1)}/{}_{n-1}}}=\frac{U}{\sqrt{{}^{{{\chi }^{2}}(n-1)}/{}_{n-1}}}$.

По определению закона распределения Стьюдента статистика $T\sim{\ }T(n-1)$.

Запишем теперь законы распределения некоторых статистик, связанных с двумя случайными выборками. Пусть ${{X}_{11}},...,{{X}_{1,{{n}_{1}}}}$ и ${{X}_{21}},...,{{X}_{2,{{n}_{2}}}}$ – случайные выборки объёмов n₁ и n₂ из нормально распределённых генеральных совокупностей N(m₁, σ₁) и N(m₂, σ₂) соответственно.

6. Статистика $\bar{X}=\frac{{{n}_{1}}{{{\bar{X}}}_{1}}+{{n}_{2}}{{{\bar{X}}}_{2}}}{{{n}_{1}}+{{n}_{2}}}$ (агрегированное среднее).

Средние арифметические выборок имеют нормальные распределения ${{\bar{X}}_{1}}\sim{\ }N\left( {{m}_{1}},\frac{{{\sigma }_{1}}}{\sqrt{{{n}_{1}}}} \right)$ и ${{\bar{X}}_{2}}\sim{\ }N\left( {{m}_{2}},\frac{{{\sigma }_{2}}}{\sqrt{{{n}_{2}}}} \right)$. В связи с композиционной устойчивостью нормального распределения статистика $\bar{X}$ также будет иметь нормальное распределение. Применяя свойства операторов математического ожидания и дисперсии, находим его параметры:

$\text{M}[\bar{X}]=\frac{1}{{{n}_{1}}+{{n}_{2}}}\left( {{n}_{1}}\text{M}[{{{\bar{X}}}_{1}}]+{{n}_{2}}\text{M}[{{{\bar{X}}}_{2}}]\right)=\frac{{{n}_{1}}{{m}_{1}}+{{n}_{2}}{{m}_{2}}}{{{n}_{1}}+{{n}_{2}}}$,

$\text{D}[\bar{X}]=\frac{1}{{{({{n}_{1}}+{{n}_{2}})}^{2}}}\left( n_{1}^{2}\text{D}[{{{\bar{X}}}_{1}}]+n_{2}^{2}\text{D}[{{{\bar{X}}}_{2}}]\right)=\frac{{{n}_{1}}\sigma _{1}^{2}+{{n}_{2}}\sigma _{2}^{2}}{{{({{n}_{1}}+{{n}_{2}})}^{2}}}$.

7. Статистика $U=\frac{{{n}_{1}}({{{\bar{X}}}_{1}}-{{m}_{1}})+{{n}_{2}}({{{\bar{X}}}_{2}}-{{m}_{2}})}{\sqrt{{{n}_{1}}\sigma _{1}^{2}+{{n}_{2}}\sigma_{2}^{2}}}$ (стандартизованное агрегированное среднее арифметическое при известной дисперсии).

Статистика имеет распределение $U\sim{\ }N\left( 0,1 \right)$.

8. Статистика $S_{0}^{2}=\frac{{{n}_{1}}S_{01}^{2}+{{n}_{2}}S_{02}^{2}}{{{n}_{1}}+{{n}_{2}}}$ (агрегированная оценка дисперсии при известном математическом ожидании).

Если ${{\sigma }_{1}}={{\sigma }_{2}}=\sigma$, то статистика имеет распределение $S_{0}^{2}\sim{\ }\frac{{{\sigma }^{2}}}{{{n}_{1}}+{{n}_{2}}}{{\chi}^{2}}({{n}_{1}}+{{n}_{2}})$.

9. Статистика ${{S}^{2}}=\frac{({{n}_{1}}-1)S_{1}^{2}+({{n}_{2}}-1)S_{2}^{2}}{{{n}_{1}}+{{n}_{2}}-2}$ (агрегированная оценка дисперсии при неизвестном математическом ожидании).

Если ${{\sigma }_{1}}={{\sigma }_{2}}=\sigma$, то статистика имеет распределение ${{S}^{2}}\sim{\ }\frac{{{\sigma}^{2}}}{{{n}_{1}}+{{n}_{2}}-2}{{\chi }^{2}}({{n}_{1}}+{{n}_{2}}-2)$.

10. Статистика $\Delta ={{\bar{X}}_{1}}-{{\bar{X}}_{2}}$ (разность средних при известных дисперсиях).

В связи с композиционной устойчивостью нормального распределения статистика Δ будет иметь нормальное распределение. Применяя свойства операторов математического ожидания и дисперсии, находим его параметры:

$\text{M}[\Delta ]=\text{M}[{{\bar{X}}_{1}}]-\text{M}[{{\bar{X}}_{2}}]={{m}_{1}}-{{m}_{2}}$,

$\text{D}[\Delta ]=\text{D}[{{\bar{X}}_{1}}]+\text{D}[{{\bar{X}}_{2}}]=\frac{\sigma _{1}^{2}}{{{n}_{1}}}+\frac{\sigma _{2}^{2}}{{{n}_{2}}}$.

11. Статистика $U=\frac{({{{\bar{X}}}_{1}}-{{{\bar{X}}}_{2}})-({{m}_{1}}-{{m}_{2}})}{\sqrt{\frac{\sigma _{1}^{2}}{{{n}_{1}}}+\frac{\sigma_{2}^{2}}{{{n}_{2}}}}}$ (стандартизованная разность средних при известных дисперсиях).

Статистика имеет распределение $U\sim{\ }N\left( 0,1 \right)$.

В частном случае, если ${{\sigma }_{1}}={{\sigma }_{2}}=\sigma$, то

$U=\frac{({{{\bar{X}}}_{1}}-{{{\bar{X}}}_{2}})-({{m}_{1}}-{{m}_{2}})}{\sigma \sqrt{\frac{1}{{{n}_{1}}}+\frac{1}{{{n}_{2}}}}}$.

12. Статистика $T=\frac{({{{\bar{X}}}_{1}}-{{{\bar{X}}}_{2}})-({{m}_{1}}-{{m}_{2}})}{S\sqrt{\frac{1}{{{n}_{1}}}+\frac{1}{{{n}_{2}}}}}$ (стандартизованная разность средних при неизвестных дисперсиях).

Если ${{\sigma }_{1}}={{\sigma }_{2}}=\sigma$, то

$T=\frac{\sigma }{S}\frac{({{{\bar{X}}}_{1}}-{{{\bar{X}}}_{2}})-({{m}_{1}}-{{m}_{2}})}{\sigma\sqrt{\frac{1}{{{n}_{1}}}+\frac{1}{{{n}_{2}}}}}=\frac{\sigma U}{S}=$

$=\frac{\sigma U}{\sqrt{\frac{\sigma^2}{n_1+n_2-2}\chi^2(n_1+n_2-2)}}=\frac{U}{\sqrt{\frac{\chi^2(n_1+n_2-2)}{n_1+n_2-2}}}$.

По определению закона распределения Стьюдента статистика $T\sim{\ }T({{n}_{1}}+{{n}_{2}}-2)$.

13. Статистика ${{F}_{0}}=\frac{S_{01}^{2}/\sigma _{1}^{2}}{S_{02}^{2}/\sigma _{2}^{2}}$ (стандартизованное отношение дисперсий при известном математическом ожидании).

Применяя выражение для статистики $S_{0}^{2}$, запишем:

${{F}_{0}}=\frac{\frac{\sigma _{1}^{2}}{{{n}_{1}}}{{\chi }^{2}}({{n}_{1}})/\sigma _{1}^{2}}{\frac{\sigma _{2}^{2}}{{{n}_{2}}}{{\chi}^{2}}({{n}_{2}})/\sigma _{2}^{2}}=\frac{{{\chi }^{2}}({{n}_{1}})/{{n}_{1}}}{{{\chi }^{2}}({{n}_{2}})/{{n}_{2}}}$ .

По определению закона распределения Фишера статистика ${{F}_{0}}\sim{\ }F({{n}_{1}},{{n}_{2}})$.

14. Статистика $F=\frac{S_{1}^{2}/\sigma _{1}^{2}}{S_{2}^{2}/\sigma _{2}^{2}}$ (стандартизованное отношение дисперсий при не известном математическом ожидании).

Применяя выражение для статистики $S_{{}}^{2}$ (см. п.4), запишем:

$F=\frac{\frac{\sigma _{1}^{2}}{{{n}_{1}}-1}{{\chi }^{2}}({{n}_{1}}-1)/\sigma _{1}^{2}}{\frac{\sigma _{2}^{2}}{{{n}_{2}}-1}{{\chi}^{2}}({{n}_{2}}-1)/\sigma _{2}^{2}}=\frac{{{\chi }^{2}}({{n}_{1}}-1)/({{n}_{1}}-1)}{{{\chi }^{2}}({{n}_{2}}-1)/({{n}_{2}}-1)}$ .

По определению закона распределения Фишера статистика $F\sim{\ }F({{n}_{1}}-1,{{n}_{2}}-1)$.