Аппроксимация функции плотности распределения

Александрович · **Добавлено:** Пт май 03, 2019 1:29 am

Александр Иванович, здравствуйте. Проконсультируйте пожалуйста по следующему вопросу: Правомочно ли использование МНК при подгонке функций плотности распределения вероятностей. Спасибо.

Проф.А.И.Орлов · **Добавлено:** Пт май 03, 2019 10:20 pm

Здравствуйте!
Неясно, что имеется в виду в словах: "Правомочно ли использование МНК при подгонке функций плотности распределения вероятностей". Каковы исходные данные, как выглядит оптимизируемая функция...
Для оценки функций плотности распределения вероятностей обычно используют два подхода.
Параметрический.
Оценивают параметры распределения и подставляют в известную функцию, задающую плотность.
Непараметрический.
Используют те или иные непараметрические оценки плотности - ядерные, Фикс-Ходжеса и др.
Введение в непараметрический подход дано в моем учебнике "Прикладная статистика" http://ibm.bmstu.ru/nil/biblio.html#books-09-prikstat

Александрович · **Добавлено:** Сб май 04, 2019 3:12 am

Проф.А.И.Орлов писал(а):

Для оценки функций плотности распределения вероятностей обычно используют два подхода.
Параметрический.

Он и имелся в виду. Вид функции известен. Параметры находятся по минимуму суммы квадратов невязок между гистограммой и гипотетической плотностью как для обычной функции. Но ведь измерения неравноточные. Можно ли в этом случае применять МНК?

Проф.А.И.Орлов · **Добавлено:** Сб май 04, 2019 12:28 pm

Применять МНК можно, но оценки будут не самые лучшие. Оценки максимального правдоподобия или одношаговые оценки - лучше. Поэтому не ясно, зачем применять МНК.
Неравноточность можно учесть в МНК.

Александрович · **Добавлено:** Сб май 04, 2019 1:05 pm

Проф.А.И.Орлов писал(а):

Неравноточность можно учесть в МНК.

Взвешенный МНК?

Проф.А.И.Орлов · **Добавлено:** Сб май 04, 2019 1:38 pm

Да.

Александрович · **Добавлено:** Сб май 04, 2019 3:36 pm

Если минимизируется хи-квадрат это МВНК?

Проф.А.И.Орлов · **Добавлено:** Сб май 04, 2019 5:25 pm

Метод наименьших квадратов используют для восстановления зависимости, хи-квадрат - для проверки гипотез. А не для оценивания параметров.
Поэтому, строго говоря, всё, что обсуждается выше - это не МНК и не хи-квадрат. Но - всего лишь аналоги.

Александрович · **Добавлено:** Пн май 06, 2019 12:29 am

А как применяется ММП в случае сгруппированной выборки?

Проф.А.И.Орлов · **Добавлено:** Пн май 06, 2019 11:28 am

Так же, как и в случае обычной выборки. Вместо оценок максимального правдоподобия лучше использовать одношаговые оценки.

Александрович · **Добавлено:** Пн май 06, 2019 3:29 pm

Проф.А.И.Орлов писал(а):

Так же, как и в случае обычной выборки.

Всем значениям св в интервале присваивается среднее значение интервала?

Проф.А.И.Орлов · **Добавлено:** Пн май 06, 2019 5:08 pm

Не понимаю, о чем речь.

Александрович · **Добавлено:** Вт май 14, 2019 3:51 am

Проф.А.И.Орлов писал(а):

хи-квадрат - для проверки гипотез. А не для оценивания параметров.

Хотелось бы проконсультироваться по поводу этого высказывания:

Цитата:

Как оценить параметры модели? Есть много разных способов оценки – “метод максимального правдоподобия”, “метод моментов”, “метод подстановки”. Однако можно не привлекать никаких дополнительных средств и найти оценки параметров минимизируя расстояние Пирсона. В докомпьютерную эпоху такой подход использовался редко: при ручных расчетах он неудобен и, как правило, не поддается аналитическому решению. При расчетах на компьютере численная минимизация обычно легко осуществляется, а преимуществом такого способа является его универсальность. Итак, согласно “методу минимизации хи-квадрат”, мы подбираем значения неизвестных параметров так, чтобы расстояние Пирсона стало наименьшим.

Проф.А.И.Орлов · **Добавлено:** Вт май 14, 2019 12:55 pm

Цитируете невежду в математической статистике. Не знает основ теории математической статистики.
Метод максимального правдоподобия и его современный аналог - метод одношаговых оценок - заведомо лучше. Дисперсия меньше. Доказано.
И еще одно темное место - что такое "расстояние Пирсона"?

Александрович · **Добавлено:** Ср май 15, 2019 1:13 am

О невежде и расстоянии здесь:
http://bioinformatics.ru/Data-Analysis/ ... tance.html

Проф.А.И.Орлов · **Добавлено:** Ср май 15, 2019 8:56 am

Пятницкий А.М., Российский Государственный Медицинский Университет, - невежда.

Александрович · **Добавлено:** Пт дек 10, 2021 12:04 pm

Проф.А.И.Орлов писал(а):

И еще одно темное место - что такое "расстояние Пирсона"?

См. Ивченко Г.И., Медведев Ю.М. Введение в математическую статистику 2010, стр. 241.

Проф.А.И.Орлов · **Добавлено:** Сб дек 11, 2021 3:52 pm

Вы думаете, что я буду разыскивать эту книгу?

Александрович · **Добавлено:** Сб дек 11, 2021 4:08 pm

Метод минимума хи-квадрат также применяется для построения оценок, как и другие (ММ, ММП). Почему это проявление невежества не понимаю.

Проф.А.И.Орлов · **Добавлено:** Сб дек 11, 2021 7:59 pm

Потому что "метод минимума хи-квадрат" заведомо проигрывает другим методам. Пропагандировать заведомо плохой метод может только тот, кто не знаком с современной статистической теорией, т.е. невежда.
Повторю сказанное в одном из предыдущих постов:
"Метод максимального правдоподобия и его современный аналог - метод одношаговых оценок - заведомо лучше. Дисперсия меньше. Доказано."

Высокие статистические технологии

Аппроксимация функции плотности распределения

Кто сейчас на форуме