Максимального правдоподобия метод - метод оценивания неизвестных параметров для распределения
случайной величины c по наблюдению её реализаций при параметрич.
анализе данных. M. п. м. был предложен P. Э. Фишером (R. A. Fisher) в
1912 и формулируется след, образом. Пусть плотность вероятности величины х есть где
- вектор неизвестных параметров. Определим функцию правдоподобия выражением
к-рое в отличие от плотности вероятности
рассматривают как функцию вектора а при
заданном векторе c реализовавшихся значений.
Оценкой M. п. м. паз. вектор
отвечающий максимуму выражения (1) и принадлежащий допустимой области значений
Часто ищут максимум выражения
что упрощает задачу поискадля
экспоненциальных распределений. Идея M. п. м. заключается в том, что данная
реализация вектора
должна отвечать наиболее вероятному значению,
а потому при заданном
выражение
должно принимать макс, значение. Напр., время жизни г нестабильных частиц подчиняется
распределению
где- неизвестный
параметр, характерный для каждой частицы. Пусть измерены времена жизнидля
N распадов. Если пренебречь ошибками измерений
то функция правдоподобия равна
Оценка M. п. м.получается
из решения ур-ния правдоподобия
и равна
С M. п. м. связано неравенство Крамера - Рао:
дисперсия D (а)оценки параметра а, полученной любым методом,
удовлетворяет неравенству
где
наз. смещением оценки
наз. кол-вом информации во
параметре а. В случае вектора параметровнеравенство
(2) обобщается след, образом. Если ввести ср. значения
ковариационную матрицу
матрицуи
информац. матрицу
то справедливо неравенство
где I -единичная матрица, т означает транспонирование.
Если оценки являются
несмещёнными, то для дисперсийкак
это следует из (3), выполняется неравенство
Неравенство Крамера - Рао полезно тем, что позволяет
ещё на стадии планирования эксперимента оценить достижимую точность "измерения"
параметров изучаемых распределений.
При нек-рых ограничениях на можно показать, что оценка M. п. м. состоятельна, т. е. при один из корней ур-ния правдоподобия, стремится к точному значению а. Оценка M. п. м. асимптотически распределена по нормальному закону с нулевым ср. значением и дисперсией, равной .
При конечных N оценка M. п. м., вообще говоря, является смещённой. Оптим. свойством оценки M. п. м. при конечных N оказывается то, что при нек-рых условиях достигает нижней границы, задаваемой неравенством Крамера - Рао (2). В общем случае свойства оценки M. п. м. можно изучить при помощи Монте-Карло метода: задавая значение a из области возможных значений, получают выборку находят оценкуи строят её среднее значение и ковариационную матрицу. Другое оптимальное свойство оценки M. п. м.: оценкафункции /(а) равна. В этом её преимущества перед оценкой по наименьших квадратов методу.
В. П. Жигунов