Высокие статистические технологии

Предварительное заключение по делу Лемешко Б.Ю.,
обвиняемого в совершении деяний, несовместимых со статусом
научного работника и преподавателя

Хорошо известно, что в литературе, связанной со статистическими методами, имеется большое число ошибок. Это относится и к «грифованным» учебникам по «Общей теории статистики», и к ГОСТам по статистическим методам управления качеством. См., например:
Орлов А.И. Распространенная ошибка при использовании критериев Колмогорова и омега-квадрат. – Журнал «Заводская лаборатория».1985. Т.51. No.1. С.60-62;
Орлов А.И. Сертификация и статистические методы (обобщающая статья). – Журнал «Заводская лаборатория». 1997. Т.63. No.3. С. 55-62.
Данный документ посвящен делу Лемешко Б.Ю. Почему мы тратим ресурсы на разбор деяний этого лица? Дело в том, что благодаря именно моей поддержке статьи Лемешко Б.Ю. неоднократно публиковались в журнале «Заводская лаборатория». Ошибки в этих статьях нанесли ущерб репутации журнала. Поэтому мне как одному из руководителей журнала (члену редколлегии) следует самокритично проанализировать ситуацию и принять необходимые меры для исправления положения. С этой целью составлено настоящее «предварительное заключение». Оно состоит из трех частей. В части 1 описано развитие ситуации. Часть 2 содержит теоретический анализ типовых ошибок при вхождении в научную область «Прикладная статистика». В часть 3 включены пять рецензий на последние две статьи Лемешко Б.Ю., представленные в журнал «Заводская лаборатория».

1. Развитие ситуации

Низкая квалификация Лемешко Б.Ю. мне давно и хорошо известно. Надо объяснить, почему я так долго его поддерживал. И защиту диссертации, и публикации в "Заводской лаборатории".
Его сочинения появились в большом количестве в 90-е, когда наука стремительно разваливалась. В журнале постоянно шла речь о нехватке статей. И я сильно обрадовался, что появился новый активный автор. Тем более, что он действовал в духе моих работ по применению статистического моделирования для изучения свойств статистик. См., например:
Камень Ю.Э., Камень Я.Э., Орлов А.И. Реальные и номинальные уровни значимости в задачах проверки статистических гипотез. - Журнал «Заводская лаборатория». 1986. Т.52. No.12. С.55-57.
Однако в отличие от меня Лемешко Б.Ю. поставил дело на промышленную основу - сделал программный продукт, который позволял изучать одну задачу за другой путем стандартного статистического моделирования.
Результаты моделирования мы печатали. Статьи шли через меня как члена редколлегии. Должен с сожалением признать, что при этом я закрывал глаза на вопиющее невежество Лемешко Б.Ю. в прикладной статистике.
Например, хорошо известна ошибка при применении критериев типа Колмогорова, когда при проверке принадлежности функции распределения выборки параметрическому семейству применяют те же критические значения, что и при проверке совпадения функции распределения выборки с заданной:
Орлов А.И. Распространенная ошибка при использовании критериев Колмогорова и омега-квадрат. – Журнал «Заводская лаборатория».1985. Т.51. No.1. С.60-62.
Никак не удавалось вдолбить нерадивому Лемешко Б.Ю. суть ошибки, заставить его исправить эту ошибку в своих писаниях. Пришлось пойти на беспрецедентный шаг: вместе с очередной статьей Лемешко Б.Ю. напечатать статью
Орлов А.И. О критериях согласия с параметрическим семейством. – Журнал «Заводская лаборатория». 1997. Т.63. No.5. С. 49-50,
в которой ошибка в очередной раз разъяснялась. И в тексте от редакции пояснить - мы печатаем статью Лемешко Б.Ю., в которой есть принципиальная ошибка, и эта ошибка разбирается рядом.
Только после этого публичного сечения Лемешко Б.Ю. перестал настаивать на указанной ошибке.
Это вселило надежду на то, что Лемешко Б.Ю. может развиваться, повышать свой научный уровень, и со временем из него выработается полезный научный деятель. Увы, надежды не оправдались.
Поток статей не иссякал, в каждой имелись многочисленные "ляпы", Лемешко Б.Ю. яростно отстаивал свои ошибки, и поэтому исправить их все не удавалось, несмотря на огромное время, потраченное на рецензии.
И закономерный финал - на ошибки в статье о критериях хи-квадрат обратил внимание один из профессионалов, проф. В.Г. Воинов:
Воинов В. Г. Об оптимальных свойствах критерия Рао - Робсон – Никулина. - Журнал «Заводская лаборатория». 2006. Т.72. N 3. С.65-70.
Мне стыдно, что сам я эти ошибки просмотрел, поскольку боролся с другими - лежащими на поверхности - ошибками Лемешко Б.Ю. и не заглянул глубже. В результате в нашем журнале появилась статья Б.Ю. Лемешко с ошибками, что нанесло ущерб репутации журнала.
За прошедшие годы Лемешко Б.Ю., опираясь, в частности, на поддержку ведущего центрального журнала «Заводская лаборатория», пролез в доктора наук, профессора, деканы, обнаглел и поверил в то. что он действительно что-то представляет в научном мире. Об этом свидетельствует его возмутительные реплики на форуме http://forum.orlovs.pp.ru/viewtopic.php?t=97 сайта «Высокие статистические технологии». Никакого раскаяния!
Мораль этой истории для меня проста: невежд поддерживать нельзя.
Вряд ли Лемешко Б.Ю. снова посмеет появиться в нашем журнале. Очередной позор нам не нужен.
Но интересно, каков он как декан. Было бы лучше, чтобы он покинул этот пост, или нет? Знакомых с ситуацией просим высказаться.
* * *
Интересно подискутировать на тему об отношении к шарлатану (в терминах части 2 настоящего заключения) Лемешко Б.Ю.
Только что обсудили отрицательную сторону его деятельности - проталкивание ошибочных результатов, снижение научного уровня в популяции публикаций по прикладной статистике, причем это касается всего клана сотрудников и учеников. Шарлатан порождает новых шарлатанов. Например, в 2004 г. защищалась кандидатская диссертация Помадина С.С., выполненная под руководством Лемешко Б.Л. Я написал Лемешко Б.Ю.: «По моему мнению, диссертация не соответствует требованиям», в серии писем подробно обосновав свое мнение. Лемешко Б.Ю. проигнорировал критику. К сожалению, я проявил беспринципность, ограничившись перепиской с научным руководителем и не сообщив свое мнение диссертационному совету и ВАК. Пожалел молодого человека – он же не виноват, что у него такой неквалифицированный научный руководитель.
Однако в деятельности Лемешко Б.Ю. есть и положительная сторона. Растет популяция публикаций по прикладной статистике (хотя и содержащих ошибки), в результате обыватели узнают о существовании этой науки. Сотрудники и ученики занимаются квазинаучной деятельностью, а не биржевыми спекуляциями.
Что перевешивает?
В условиях роста советской науки в 60-70-е годы ответ был ясен - шарлатанов надо гнать из науки и преподавания.
А сейчас?
Что лучше - пустота или шарлатаны?
Я все же думаю, что пустота лучше.
Если бы Лемешко Б.Ю. с подельниками был сразу дан достойный отлуп в «Заводской лаборатории», то журнал бы только выиграл. По крайней мере, сроки публикации статей сократились бы.
* * *
Теперь, знаю глубину невежества и аморальности Лемешко Б.Ю., я думаю - почему же я его поддерживал?
И вот психологический ответ.
В 70-е и 80-е я выполнил несколько работ, в которых автивно использовалось статистическое моделирование (метод Монте-Карло):
Карякин Р.Н., Орлов А.И., Адамов С.Ю. Вероятностная теория высших гармоник помех, создаваемых электровозами. – В сб.: Прикладной многомерный статистический анализ. Ученые записки по статистике, т.33. - М.: Наука, 1978. С.376-380;
Камень Ю.Э., Камень Я.Э., Орлов А.И. Реальные и номинальные уровни значимости в задачах проверки статистических гипотез. - Журнал «Заводская лаборатория». 1986. Т.52. No.12. С.55-57;
Орлов А.И., Камень Я.Э., Камень Ю.Э., Фомин В.Н. Сравнение критериев однородности двух выборок методом статистических испытаний. - В сб.: Тезисы докладов III Всесоюзной школы-семинара "Программно-алгоритмическое обеспечение прикладного многомерного статистического анализа". - М.: ЦЭМИ АН СССР, 1987. С. 200-201.
Были еще диссертация моей аспирантки Г.В. Рыдановой и дискуссия по датчикам случайных чисел, в том числе публикации:
Орлов А.И. Комментарий II к статье В.Г. Алексеева «Об одном методе проверки датчика псевдослучайных чисел». – Журнал «Заводская лаборатория». 1990. Т.56. No.3. С.86-87;
Орлов А.И. Комментарий к статье С.М.Ермакова «О датчиках случайных чисел». – Журнал «Заводская лаборатория». 1993. Т.59. No.7. С.51-51.
Для выполнения работ по применению метода Монте-Карло необходимы программные системы, которые делали и эксплуатировали мои соавторы.
Но в 90-е под рукой не было нужной программной системы.
А тут - Лемешко Б.Ю. с той программной базой, которая нужна для работ такого типа. Видимо, я обрадовался возможности поддержать направление отечественных исследований по прикладной статистике, связанное с методом Монте-Карло.
И стал поддерживать Лемешко Б.Ю., стараясь путем подробных рецензий поднять его научный уровень и довести статьи до возможности публикации.
Увы, правильно сказано в Библии:
"Не мечите бисер перед свиньями".

2. Типовые ошибки при вхождении в научную область
«Прикладная статистика»

Входящих в научную область для простоты изложения назовем профанами.
1. Профаны часто не подозревают, что прикладная статистика опирается на глубоко развитую научную дисциплину «теория вероятностей и математическая статистика». Они пытаются заниматься прикладной статистикой, не имея соответствующей математической подготовки.
2. В результате не понимают, какие утверждения обоснованы на научном уровне, а какие являются субъективными мнениями отдельных публикаторов. Как следствие, их собственным формулировкам верить нельзя.
3. Рискну заявить, что из публикаций по «теории вероятностей и математической статистике» наиболее важными для прикладной статистики являются «Таблицы математической статистики» член-корр. АН СССР Л.Н. Большева и член-корр. АН СССР Н.В. Смирнова (3-е изд., 1983) и энциклопедия «Вероятность и математическая статистика» (1999, гл. ред. - акад. АН СССР Ю.В. Прохоров). Приходится констатировать, что профаны обычно игнорируют эти публикации. По этому признаку профанов можно диагностировать.
4. Проявляется легкомысленное отношение к накопленным наукой знаниям, в частности, в отсутствии в текстах профанов ссылок на источники тех или иных сведений. А также использование многозначных терминов, например, «робастность», без раскрытия их смысла.
5. Другое проявление легкомысленного отношения к накопленным наукой знаниям - отсутствие достаточных знаний о развитии прикладной статистики и, как отягчающее обстоятельство, отсутствие желания получить эти знания. Следствием являются попытки опубликовать результаты, которые уже были задолго до того получены квалифицированными авторами, причем в гораздо более продвинутом виде.
6. Примерами являются работы Б.Ю. Лемешко (с соавторами), который методом Монте-Карло пытался найти функции распределения статистик типа омега-квадрат. О точности своих алгоритмов Б.Ю. Лемешко, несмотря на многолетние требования, так ничего внятного и не сообщил. Судя по тому, что он писал о 2000 испытаниях, точность мала. А между тем еще в 1970-х годах, т.е. на 20 лет раньше, эти распределения были точными методами найдены Г.В. Мартыновым в его известной книге «Критерии омега-квадрат». Ранее понадобилась публикация специальной статьи:
Орлов А.И. О критериях согласия с параметрическим семейством. – Журнал «Заводская лаборатория». 1997. Т.63. No.5. С. 49-50,
чтобы заставить Б.Ю. Лемешко перестать допускать давно известную ошибку, связанную с неправомерным использованием распределений Колмогорова и омега-квадрат при проверке нормальности. Эта ошибка разобрана, например, в статье:
Орлов А.И. Распространенная ошибка при использовании критериев Колмогорова и омега-квадрат. – Журнал «Заводская лаборатория».1985. Т.51. No.1. С.60-62.
Третья ошибка связана с критерием типа хи-квадрат. Эта ошибка разоблачается в статье В.Г. Воинова, опубликованной в журнале «Заводская лаборатория» в N 3 за 2006 г.
Я сожалею, что поддерживал деятельность Б.Ю. Лемешко. Именно «с моей подачи» в журнале «Заводская лаборатория» опубликован длинный ряд его статей. Я надеялся, что он будет работать над повышением своего профессионального уровня. К сожалению, эти надежды не оправдались.
7. Ошибки профанов не всегда легко продемонстрировать. Приведем один вопиющий случай.
В работах В.П.Л. (фамилию не будем сейчас раскрывать, поскольку подготовка заключения о деятельности этого лица еще не закончена), например:
Применение статистики в статьях и диссертациях по медицине и биологии. Часть I. Описание методов статистического анализа в статьях и диссертациях // Международный журнал медицинской практики. http:// www.mediasphera.ru/mjmp/98/4/r4-98con.htm
большое число медиков ошибочно обвинено в ошибках при обработке статистических данных. Однако проблема в том, что авторы процитированной работы сами являются малоквалифицированными в области применения статистики. Например, им неизвестно, что критерий Стьюдента вполне можно использовать, не проверяя условий нормальности и равенства дисперсий, если две сравниваемые выборки имеют одинаковые достаточно большие объемы. Более того, проверять условия применимости критерия Стьюдента гораздо труднее, чем проверять однородность. Речь идет о соображениях, давно опубликованных. Более того, В.П.Л. на своем сайте ссылается на мою статью
Орлов А.И. О применении статистических методов в медико-биологических исследованиях // Вестник Академии медицинских наук СССР. 1987. № 2. С. 88 – 94.
Если бы он ее еще и прочел, то понял бы, что требовать от медиков проверки условий применимости критерия Стьюдента (нормальность распределения результатов наблюдений и равенство дисперсий) нет необходимости, так что их (медиков) расчеты вполне обоснованы. Приходится констатировать, что деятельность В.П. Л. приводит к дискредитации применения статистических методов в научных медицинских исследованиях и потому вредна.
8. Характерно внимание, уделяемое профанами проверке нормальности. Прежде всего отметим, что профаны, как правило, недостаточно знакомы с классическими результатами, в частности, приведенными в уже упомянутых «Таблицах математической статистики» Л.Н. Большева и Н.В. Смирнова. И уж конечно им неизвестны результаты работы:
Селезнев В.Д., Денисов К.С. Исследование свойств критериев согласия функций распределения данных с гауссовой методом Монте-Карло для малых выборок. – Журнал «Заводская лаборатория». 2005. Т.71. No.1,
в которой показано, что по выборкам объемов 6 - 50, как правило, не удается отличить нормальное распределение от других видов распределений. Таким образом, популярный у профанов раздел программного обеспечения «Проверка нормальности» практического значения, как правило, не имеет.
9. Медленно доходит до создания профанов и тот экспериментальный факт, что распределения реальных данных, как правило, не являются гауссовыми (нормальными) и не могут быть приближены гауссовскими распределениями. Этот факт подробно разбирается в учебниках на нашем сайте http://orlovs.pp.ru. Он делает ненужными работы по проверке нормальности и обосновывает использование непараметрических методов.
10. Удивляет готовность профанов вкладывать большие ресурсы в программистскую работу, в развитие и использование компьютерных систем при нежелании изучать существующую теорию. Возможно, это связано с тем, что профаны используют прикладную статистику для выбивания средств для «достойного существования».
11. Перед каждым профаном, находящимся у входа в научную область «Прикладная статистика», имеется три пути.
Первый - стать специалистом. Первый шаг на этом пути - изучить учебник «Прикладная статистика», помещенный на сайте http://orlovs.pp.ru.
Второй - признать прикладную статистику не своей, но соседней областью, применять ее в своей профессиональной работе, консультируясь с профессионалами.
Третий - стать шарлатаном, эксплуатирующим терминологию статистических методов неадекватно и обычно во вненаучных целях.
Вряд ли надо пояснять, что первые два пути соответствуют нормам человеческого общежития, а третий путь преступен.

3. Избранные рецензии на статьи Б.Ю. Лемешко

Предлагаем познакомиться с рецензиями на сочинения Лемешко Б.Ю., чтобы составить представление о научном уровне этого декана.
С текстами Лемешко Б.Ю. в секции «Математические методы исследования» редколлегии журнала «Заводская лаборатория» шла долгая работа, имевшая целью извлечь жемчужное зерно и представить его читателю.
После четырех переработок в соответствии с четырьмя последовательными рецензиями (приводятся третья и четвертая) статья Б.Ю. Лемешко, Е.В. Чимитовой № 867 «Оптимальные L-оценки параметров сдвига и масштаба распределений по выборочным квантилям» была опубликована в N 1 за 2004 год.
Статья Б.Ю. Лемешко, С.Б. Лемешко №1517 «Сравнительный анализ критериев проверки нормальности одномерных величин, включенных в ГОСТ Р ИСО 5479-2002» (новое название: «Сравнительный анализ критериев проверки отклонения распределения от нормального закона») после трех рецензий (прилагаются) была окончательно отвергнута.
Каждый, кто познакомится с рецензиями, сможет убедиться, как настойчиво Б.Л. Лемешко пробивал свои опусы и каков был их научный уровень.

Третья рецензия на статью Б.Ю. Лемешко, Е.В. Чимитовой N 867
«Оптимальные L-оценки параметров сдвига и масштаба распределений по выборочным квантилям» (второй исправленный вариант от 01.03.02)

Во второй коллективной рецензии было четыре замечания: 1) о необходимости указать точность численных результатов, полученных с помощью метода статистических испытаний; 2) о числе операций при сортировке; 3) о качестве датчика псевдослучайных чисел; 4) о сравнении с другими методами оценивания. Анализ доработанного текста показывает, что учтены два замечания – второе (изменены неудачные фразы) и третье (добавлен раздел о датчиках и их свойствах). Однако первое и четвертое замечания остаются.
Авторы статьи уже во второй раз уходят от ответа на естественный вопрос о точности численных результатов, полученных с помощью метода статистических испытаний. Так, на рис.1 (стр.6) приведены графики плотностей распределений, построенных по выборкам объема 2000. Очевидно, эмпирическая плотность отличается от теоретической. Насколько? Именно на этот вопрос авторы не желают отвечать. Кроме того, неясно, как оценивается плотность по результатам 2000 статистических испытаний (как сглаживается эмпирическая функция распределения). Неясно, зачем проводится усреднение по 100 экспериментам (с.6). На с.7 сравниваются оценки параметров, а не сами распределения или плотности – это уход от ответа на рассматриваемый вопрос.
Некорректно проводится сравнение с другими методами оценивания.
Так, неоднократно подчеркивается асимптотическая оптимальность рассматриваемых оценок, однако она имеет место лишь при заданном группировании.
Термин «робастность» в статье не имеет точного определения, поэтому неясно, что такое «существенное преимущество в робастности». А если L-оценки сравнить с оценками типа усеченного среднего? Конкретно (к стр.12) – какова плата за группировку, т.е. на сколько процентов увеличивается среднее квадратическое отклонение?
Подчеркивается, что для нахождения L-оценок не нужно применять итерационные процедуры, в отличие от оценок максимального правдоподобия. Хорошо известно, что в практике вместо оценок максимального правдоподобия (ОМП) целесообразно использовать одношаговые оценки (ОШО), для нахождения ОШО также не нужно применять итерационные процедуры. Так что авторы статьи сравнивают L-оценки с заведомо слабым соперником, игнорируя более сильного. Кроме того, для нахождения L-оценок итерационного процесса не надо, но нужны таблицы.
Приходится констатировать, что вопрос о целесообразности использования L-оценок при статистическом анализе результатов измерений остается открытым. Например, десятилетия назад их рекомендовали использовать при экспресс-анализе данных (они относились к т.н. «быстрым методам» статистического анализа). Однако в настоящее время, как отмечают авторы рецензируемой статьи, в связи с широким распространением компьютеров саму необходимость быстрых методов можно поставить под сомнение. Читателям «Заводской лаборатории» нужны рекомендации: когда использовать L-оценки, а когда – другие методы оценивания. Сколько интервалов группирования использовать
Есть отдельные недостатки в изложении материала.
На с.6 без определения используется термин «модель закона распределения».
Непонятна смысловая нагрузка рис.2. Он демонстрирует состоятельность оценок?
Критерий омега-квадрат – это не критерий Мизеса, а критерий Смирнова-Мизеса (с.9).
На с.11 (начало) рассматривается гипотеза, а не строго доказанное утверждение.
Авторам статьи неизвестна классическая книга по L-оценкам:
Благовещенский Ю.Н., Самсонова В.П., Дмитриев Е.А. Непараметрические методы в почвенных исследованиях. – М.: Наука, 1987.

2002-06-08

Четвертая рецензия на статью Б.Ю. Лемешко, Е.В. Чимитовой N 867 «Оптимальные L-оценки параметров сдвига и масштаба распределений по выборочным квантилям» (очередной исправленный вариант от 21.01.03)

Авторы существенно доработали текст. Однако есть замечания, в том числе по доработанным разделам статьи.

1. В табл. 6 (с. все критерии – типа Колмогорова, типа омега-квадрат (при проверке согласия с простой гипотезой его обычно именуют критерием Крамера-Мизеса-Смирнова или Мизеса-Смирнова) и др. На с. 12 критерии именуются уже иначе, чем на с.8 (см. рис.4 и абзац под рис.4). На с.15 – новый вариант.
2. В табл. 9 на с.15 все критерии – это критерии типа Колмогорова, типа омега-квадрат… В нынешнем варианте авторы фактически провоцируют читателей на совершение распространенной ошибки, состоящей в использовании распределений статистик критериев согласия с фиксированным распределением при проверке сложных гипотез. См. об этом:
Орлов А.И. Распространенная ошибка при использовании критериев Колмогорова и омега-квадрат. – Журнал «Заводская лаборатория».1985. Т.51. No.1. С.60-62;
Орлов А.И. О критериях согласия с параметрическим семейством. – Журнал «Заводская лаборатория». 1997. Т.63. No.5. С. 49-50.
3. На с.16 осталось некорректное сравнение L-оценок с другими видами оценок. Надо отметить, что группировка приводит к потере информации, указать величину потерь. В третьем абзаце сверху надо включить в перечень одношаговые оценки. См. о них, например:
Орлов А.И. О нецелесообразности использования итеративных процедур нахождения оценок максимального правдоподобия. – Журнал «Заводская лаборатория», 1986, т.52, No.5, с.67-69.
В конце третьего абзаца отредактировать: «… выгодно отличаются от перечисленных, кроме одношаговых оценок, тем …».
В сопроводительном письме к статье есть необоснованные утверждения о сравнении ОМП и ОШО. Частный случай, не вполне корректно рассмотренный, не дает оснований для общих выводов. Странным утверждением кончается первая страница сопроводительного письма – различение сложных гипотез (о принадлежности к тому или иному семейству распределений) никак не может быть более надежным, чем различение простых (два распределения из того и другого семейства). Разбор других утверждений в сопроводительном письме не входит в задачу рецензента.

2003-06-30

К сожалению, секция «Математические методы исследования» редколлегии журнала «Заводская лаборатория» по моему предложению рекомендовала статью к печати. Честно говоря, потратив массу времени на четыре рецензии, хотелось завершить эту деятельность публикацией. Психологически трудно самому направить свой долгий труд в архив отклоненных статей.

Рецензия на статью Б.Ю. Лемешко, С.Б. Лемешко N 1517
«Сравнительный анализ критериев проверки нормальности одномерных величин, включенных в ГОСТ Р ИСО 5479-2002»

Название не вполне соответствует содержанию. Рассматриваются не только критерии из указанного стандарта, но и иные. Анализ проводится только методом статистических испытаний.
К статье имеется много конкретных замечаний.
1. Что такое «проверка нормальности», не определено. Обычно (см., например, «Заводская лаборатория», 1985, №1, с. 60-62) рассматривают три гипотезы: проверка согласия с нормальным семейством распределения вероятностей с неизвестным математическим ожиданием, проверка согласия с нормальным семейством с неизвестной дисперсией, проверка согласия с нормальным семейством с двумя неизвестными параметрами. Какая из них имеется в виду в тех или иных местах рецензируемой статье, не ясно.
2. Вопреки мнению авторов (с.1 статьи), в настоящее время нет необходимости проверять нормальность результатов распределений измерений (наблюдений, испытаний, опытов, анализов), поскольку непараметрические статистические методы, не предполагающие нормальности, позволяют решать все практически важные задачи статистического анализа данных. Большое число статей раздела «Математические методы исследования» ЗЛ посвящено непараметрическим методам.
Однако, к сожалению, существует ГОСТ Р ИСО 5479-2002, имеющий рекомендательный характер и посвященный проверке нормальности. Критический анализ этого текста может представлять интерес для отдельных читателей ЗЛ.
3. Вопреки мнению авторов (с.2 статьи), в отечественной литературе многократно и подробно рассматривались проблемы проверки нормальности (всех трех гипотез, сформулированных в п.1 рецензии). Из статей в ЗЛ достаточно сослаться на работы Л.А. Золотухиной и Е.В. Винник (1985, №1, с.51-55), А.И.Орлова (1985, №1 с.60-62; 1997, №5, с. 49-50) и др. Критериям нормальности уделено большое внимание в «Таблицах математической статистики» Л.Н. Большева и Н.В. Смирнова (1966, 1968, 1983), монографиях Ю.Н. Тюрина, Г.В. Мартынова и др.
Практически в любом учебном издании по статистическим методам рассматриваются вопросы проверки нормальности. Это - один из наиболее популярных сюжетов в статистической литературе.
4. Критерии на основе выборочных коэффициентов асимметрии и эксцесса (с.2-4) являются классическими. См., например, упомянутые «Таблицы...» Л.Н. Большева и Н.В. Смирнова, в которых также описаны результаты исследования скорости сходимости распределений статистик к соответствующим предельным распределениям. В рецензируемой статье не отражены результаты предыдущих исследований и не обоснована необходимость проведения статистического моделирования. Конкретный вид критериев в рецензируемой статье не указан. Можно предположить, что вид рис.1 (с.3 статьи) и рис.4 (с.6 статьи) обусловлен отсутствием нормирования статистик путем деления на стандартное отклонение.
5. Вопреки с.7 статьи, нельзя на основе выборочных коэффициентов асимметрии и эксцесса делать заключение «о принадлежности нормальному закону». Проверяется лишь то, что теоретическая асимметрия и теоретический эксцесс принимают определенные значения, а именно, 0 и 3.
6. Рис.8 (стр.9) вводит читателя в заблуждение, поскольку построен без использования нормировки, обеспечивающей невырожденность предельного распределения критерия Шапиро-Уилка.
7. Мощность критерия Шапиро-Уилка исследовалась неоднократно, в частности, авторами этого критерия, Л.А. Золотухиной и Е.В. Винник (ЗЛ, .1985, №1, с.51-55). Как полученные в работах предшественников результаты соотносятся с результатами авторов рецензируемой статьи? Ответ на этот вопрос необходим, прежде всего, потому, что предшественники подчеркивают, что наибольшую мощность имеет критерий Шапиро-Уилка, а в аннотации к рецензируемой статье утверждается, что наиболее предпочтительным является критерий D’Agostino.
8. На с.21-22 неверно утверждение о том, что с помощью формулы (7) осуществляется «преобразование коэффициента асимметрии в стандартную нормальную величину». Может идти речь лишь об улучшении приближения.
9. Та же ошибка на с.23. Неверно утверждение о том, что с помощью формулы (8) осуществляется «преобразование коэффициента эксцесса в стандартную нормальную величину». Может идти речь лишь об улучшении приближения.
10. Заявленное в аннотации к рецензируемой статье утверждение, что наиболее предпочтительным критерием при проверке нормальности является критерий, предложенный D’Agostino, не находит подтверждения в тексте статьи. Более того, это утверждение является грубо ошибочным, поскольку указанный критерий - вообще не критерий нормальности. Он является функцией от выборочных коэффициентов асимметрии и эксцесса. На его основе нельзя делать заключение «о принадлежности нормальному закону». Проверяется лишь то, что теоретическая асимметрия и теоретический эксцесс принимают определенные значения, а именно, 0 и 3. Этот вопрос уже обсуждался в ЗЛ (1989, Т.55, №10, с.90-93).
11. Инструмент исследования - система статистического моделирования - не описана. Неизвестен датчик псевдослучайных чисел, число статистических испытаний, точность оценивания функций распределения.
12. В качестве альтернатив нормальности рассматриваются экспоненциальное семейство распределений, распределение Лапласа и логистическое распределение. Выбор именно этих распределений в качестве альтернатив ничем не обоснован. Не проанализированы альтернативные гипотезы, рассмотренные предшественниками.

Выводы
Авторами статьи проведены многочисленные расчеты. Однако не все эти расчеты и графики представляют интерес для читателей ЗЛ. Тем более, что не проанализированы классические публикации по рассматриваемой тематике.
Из-за многочисленных неточностей и ошибок, нерациональной подачи материала публикация статьи в настоящем ее виде представляется нецелесообразной.
Можно посоветовать авторам переработать статью на основе приведенных выше замечаний, учесть предшествующие публикации, сжато описать свои результаты и представить работу объемом до 10 стр.

Примечание (для читателей рассылки). В разделе «Математические методы исследования» в N 1 за 2005 г. опубликована статья Селезнева В.Д. и Денисова К.С. «Исследование свойств критериев согласия функции распределения данных с гауссовой методом Монте-Карло для малых выборок», в которой показано, что при объеме выборки n < 50 проверять нормальность вообще нецелесообразно.

Вторая рецензия - рецензия на доработанный вариант статьи Б.Ю. Лемешко, С.Б. Лемешко N 1517 «Сравнительный анализ критериев проверки нормальности одномерных величин, включенных в ГОСТ Р ИСО 5479-2002»

Новое название: «Сравнительный анализ критериев проверки отклонения распределения от нормального закона»

Новый вариант вдвое сокращен по сравнению с предыдущим. Однако для того, чтобы работа соответствовала требованиям «Заводской лаборатории», ее необходимо сократить еще вдвое.
Из 12 замечаний первой рецензии учтены 2 (NN 8,9) и частично учтены еще 2 ( NN 3,6). С возражениями одного из авторов по поводу замечаний первой рецензии нельзя согласиться.
Статья подписана только одним из авторов.
Из сказанного ясно, что публикация статьи в настоящем ее виде представляется нецелесообразной.

Можно посоветовать авторам переработать статью на основе замечаний первой рецензии и приведенных ниже замечаний, учесть предшествующие публикации, сжато описать свои результаты и представить работу объемом до 10 стр.
Основное требование к авторам - поднять изложение на современный научный уровень.
С целью повышения научного уровня статей в «Заводской лаборатории» была опубликована сводка «Термины и определения в области вероятностно-статистических методов» (1999. Т.65. No.7. С.46-54). К сожалению, рецензируемая статья не соответствует этим общепринятым требованиям.
Например, необходимо различать теоретические и выборочные моменты. Между тем, в рецензируемой статье такое различие зачастую игнорируется (с.2 и др.). Даже в неполной средней школе за запись «квадратный корень из некоторого числа < 0» поставили бы «два». Распределение статистики (1), очевидно, не всегда является симметричным. Процентные точки зависят от распределения. Короче, «критерий проверки на симметричность» не описан. Согласно с.2-3 нулевая и альтернативные гипотезы - простые. И т.д., и т.п. Рис.2, очевидно, может быть построен на основании справочника Большева и Смирнова и более ранних публикаций. Очевидно, авторы рецензируемой статьи поленились их найти. Как только начнешь вчитываться в статью, сразу обнаруживаешь много «ляпов».
В статье речь идет о критериях проверки статистических гипотез. С 30-х годов ХХ в. среди специалистов общепринято описывать проверяемые гипотезы - нулевую и альтернативную. К сожалению, при чтении рецензируемой статьи зачастую приходится только догадываться, о проверке каких гипотез идет речь.
Такая характеристика статистического критерия, как мощность, зависит от конкретной альтернативной гипотезы. Мощность - это не число, а функция. Поэтому не являются научными попытки сравнения по мощности тех или иных критериев без указания конкретных альтернатив (см. стр.7 и др. доработанного варианта статьи). Хорошо известно, что для любого из распространенных непараметрических критериев можно указать такое распределение на множестве альтернатив, что рассматриваемый критерий оказывается наиболее мощным среди всех возможных (Никитин Я.Ю. Асимптотическая эффективность непараметрических критериев. - М.: Наука, 1995. - 240 с.).
Речь идет не о терминологических или теоретических проблемах. Авторы рецензируемой статьи приходят к нелепой рекомендации по использованию несостоятельного критерия (8). Очевидно, этот критерий не имеет отношения к проверке нормальности, он позволяет лишь установить, имеют ли асимметрия и эксцесс те же значения, что и для нормального распределения.
Как же авторы пришли к столь нелепому выводу? Путем специально организованного подбора альтернатив (с.3). Никакого научного обоснования этого подбора они не дают. Однако именно подбор альтернатив обеспечивает вывод о преимуществе критерия (8) перед критерием Шапиро-Уилка. Предыдущие авторы с помощью аналогичного подхода (также основанного на методе Монте-Карло, но с другим набором альтернатив) доказали преимущество критерия Шапиро-Уилка. Авторы рецензируемой статьи уходят от естественного (со стороны всех специалистов) вопроса о том, почему их выводы кардинально отличаются от выводов предшественников.
Необходимо описать и систему статистического моделирования. В прежних публикациях говорилось, что каждый эксперимент - это 2000 испытаний. Т.е. согласно теореме Колмогорова любую кривую на рисунках статьи надо заменить полосой полуширины 1,358/(квадратный корень из 2000) = 0,06. Ясно, что при этом целый ряд кривых на рисунках статьи сливается межу собой.
Точность данных в таблицах также следует указывать.
На с.10-11 рассматривается случай нескольких выборок. Ради сокращения объема его можно выделить из рецензируемой статьи.

2004-05-23

Третья рецензия - О невозможности публикации статьи
Б.Ю. Лемешко, С.Б. Лемешко N 1517
«Сравнительный анализ критериев проверки отклонения распределения от нормального закона»

В предыдущей рецензии (от 23 мая 2004 г.) сказано: «Публикация статьи в настоящем ее виде представляется нецелесообразной». Основания для такого заключения приведены в ранее составленных рецензиях.
Как подчеркнуто в письме в редакцию первого из авторов от 18.08.04, авторы не считают нужным перерабатывать статью. Более того, указанное письмо демонстрирует дополнительные недостатки в понимании авторами существа рассматриваемой проблемы и подходе к устранению пробелов. В частности, авторы статьи не пожелали даже прочитать соответствующие страницы классической монографии Л.Н. Большева и Н.В. Смирнова «Таблицы математической статистики», не понимают смысл критерия Колмогорова. И, более того, даже не прочитали те ими же написанные пассажи в статье, которые были подвергнуты критике в предыдущей рецензии.
Приходится констатировать, что на предыдущие рецензии не дано адекватного ответа, замечания не учтены.
Статья не соответствует научному уровню, принятому в журнале, публикация ее невозможна.

2004-11-27

Из приведенных рецензий совершенно очевидно, что научный уровень авторов не соответствует требованиям, общепринятым для возможности осуществления научной и преподавательской деятельности. Особенно впечатляет нежелание учитывать и даже реагировать на замечания рецензентов.

Подведем итоги. Приведенные выше факты свидетельствуют, что Лемешко Б.Л. совершил ряд деяний, несовместимых со статусом научного работника и преподавателя. При этом Лемешко Б.Л. не проявляет никаких признаков раскаяния. Напротив, он написал бездоказательный донос на имя главного редактора журнала «Заводская лаборатория». Его, видите ли, «оскорбляют», рассказывая описанных выше деяниях.
Полагаю, что лучший способ разобраться в ситуации – гласность.
Для начала настоящее предварительное заключение публикуется в рассылке «Эконометрика» и здесь, на форуме. Просим высказаться о его содержании и обоснованности на форуме сайта «Высокие статистические технологии» http://orlovs.pp.ru (в данной теме) до 01 октября 2006 г. По итогам обсуждения будут предприняты дальнейшие необходимые действия.

Президент Российской ассоциации статистических методов
А.И.Орлов

На сегодня, 30 сентября 2006 г., отмечено 147 просмотров данной темы. Она также включена в рассылку от 4 сентября (1270 подписчиков).
Никаких откликов на "Лемешкиаду" не поступило.
Считаю целесообразным продлить срок обсуждения до 01 ноября, после чего перейти к следующим этапам осуждения гр-на Лемешко Б.Ю.

И навряд ли поступит. Все просто, уверяю Вас. Откликаться тут не на что.

Вы сами читали вдумчиво то, что Вы изволили изложить в так называемом "предварительном заключении"? Никакой самокритичности там нет и в помине.

Вы изволите использовать такие речевые обороты, которые по моему личному убеждению непозволительны для профессора. То есть, Ваше поведение несовместимо со статусом научного работника. Это раз.

Вы в этом занятном тексте расписываетесь в собственной некомпетентности как член редколлегии. Это два.

О какой гласности Вы изволите говорить? Так называемая "Лемешкиада" проводится Вами только и исключительно с подконтрольной территории (модерируемых Вами же форумов и рассылок, в том числе, надо полагать, несанкционированных). Боитесь открытых пространств?

Вы несете полнейшую чушь - если Вы считаете себя научным работником, то у Вас нет ни малейшего оправдания за пропуск заведомо ошибочных (по Вашему мнению, опять же) сведений в печать. И на этой мысли вы обязаны были закончить свой опус.

Пустой треп - никаких аргументов.

Статьи Лемешко с грубыми ошибками, описанными выше в этой теме, продолжают висеть на сайте НГТУ.
Поэтому необходимо продолжать работу по разоблачению ошибок Лемешко, дискредитирующего отечественную науку.

Из письма ко мне:

Случайно нашел публикацию по критерию Фишера: www.ami.nstu.ru/~headrd/seminar/Kontrol_Q/bartlett.htm
Приведу вывод из этой публикации:

Именно в этом случае предельным распределением статистики (8 ) является – распределение Фишера. Как ведет себя функция распределения статистики (8 ) при нарушении предположения о нормальности иллюстрирует рис. 8, на котором представлены функции распределения статистики (8 ) при наблюдаемых законах нормальном, логистическом, логнормальном и Лапласа при различных объемах выборок. Визуально при одном и том же объеме выборок полученные распределения практически не отличаются. Применение критериев согласия также позволяет утверждать, что значимого изменения распределений статистик из-за нарушений предположений о нормальности не происходит. То есть F-критерий оказывается очень устойчивым, и его применение с опорой на предельное - распределение Фишера остается корректным и в тех случаях, когда наблюдаемый закон существенно отличается от нормального.

Я уже Вас спрашивал и Вы однозначно сказали, что критерий Фишера чувствителен к закону распределения. Так как мои познания в статистике сильно ограничены, мне хотелось бы понять в чем ошибки этой публикации. Если Вас, это не затруднит, Александр Иванович, то не могли бы, Вы, указать наиболее общие ошибки публикации. Возможно, постановка вопроса некорректная... Но мне хотелось бы попробовать в будущем научиться анализировать правильность и корректность информации по статистическим методам. Я прекрасно понимаю, что для этого необходимо хорошо владеть базовыми знаниями.
Возможно, что допущения, наложенные в этой публикации, привели к частному случаю? Вызывают сомнения построенные графики, так как не приведено фактической информации, на основании которой они построены...

Из моего ответа:

Вы цитируете статью Лемешко Б.Ю. Общая (крайне негативная) оценка деятельности этого лица дана в теме "Лемешкиада" на форуме моего сайта:
http://forum.orlovs.pp.ru/viewtopic.php?t=426
Разбирать очередной опус нет желания и, главное, времени. На рецензии текстов Лемешко, в том числе, приведенные в "Лемешкиаде", я и так потратил столько времени, сколько хватило бы на несколько собственных работ.
Но несколько слов напишу.
1. Утверждение о неустойчивости распределения Фишера к отклонениям от нормальности - общее место в публикациях, начиная (для меня) с книги Шеффе "Дисперсионный анализ".
2. Судя по всему, Лемешко взял те распределения, на которых заведомо нельзя обнаружить неустойчивость. Хорошо известно, что логистическое распределение мало отличается от нормального (расстояние между функцией логистического распределения и подходящей (ближайшей) функцией нормального распределения не превосходит 0,01 – см., например, «Математическая энциклопедия», т.3, с.414). Весьма близко к нормальному и распределение Лапласа. Единственное из рассмотренных Лемешко распределений, о которым нельзя сразу сделать вывод - логарифмически нормальное.
3. Неустойчивость следует искать среди распределений, значительно отличающихся от нормального при больших значениях аргумента (как говорят, "на хвостах"). Если бы Лемешко взял распределение Коши, то его утверждение об устойчивости распределения Фишера получило бы аргумент в свою пользу.
4. Сам МЕТОД ЛЕМЕШКО ПОРОЧЕН. ОН БЕРЕТ ОТДЕЛЬНЫЕ ПРИМЕРЫ, А НАДО - ДОКАЗЫВАТЬ ДЛЯ ВСЕХ ВОЗМОЖНЫХ ОТКЛОНЕНИЙ.
В рассматриваемой статье Лемешко взял примеры, негодность большинства из которых видна сразу (см. выше). Сделал он это по глупости или с целью обмануть читателей?
5. Знаменитый вопрос: ЧТО ЭТО - ГЛУПОСТЬ ИЛИ ПРЕСТУПЛЕНИЕ?
Судя по опыту контактов с Лемешко и его текстами, может быть и то, и другое.
Вы можете спросить: в чем смысл преступления? Ответ прост: Лемешко надеется, что большинство читателей его текста поверит Лемешко и восхитится его достижениями - опроверг титанов. Есть и финансовый интерес: Лемешко собирает слушателей на платные семинары, среди материалов которых - рассматриваемая статья.

Вредительская деятельность Лемешко продолжается...

Ваше письмо - очередное свидетельства вреда, наносимого присутствием в Интернете ошибочных публикаций Лемешко. Конечно, он - не единственный вредитель, о других см. тему "Профессора-невежды готовят себе на смену новых невежд" http://forum.orlovs.pp.ru/viewtopic.php?t=548.
К сожалению, борьба с вредителями входит в мой круг обязанностей как президента Российской ассоциации статистических методов. Приходится тратить время…

Уважаемый Александр Иванович!

В 1988 г. нами была опубликована «брошюра, 70 с.» «Анализ и прогноз временных рядов методом главных компонент» (Новосибирск, Наука СО).
В ней есть на стр. 15-19 глава 1.7 "Достоверность. датчики случайных чисел". Мне представляется, что она имеет отношение к Вашим научным интересам, а также к оценке деятельности Б.Ю. Лемешко. Брошюра полностью выставлена в Интернете:
Нелинейный метод главных компонент – http://pca.narod.ru/
Главные многообразия для визуализации и анализа данных. А. Горбань, Б. Кегль, Д. Вунш, А. Зиновьев (ред.), Шпрингер, 2007. (Первая в мировой научной литературе монография, посвященная методу главных многообразий.)
См. Дополнительный материал: 24) Ефимов В.М., Галактионов Ю.К., Шушпанова Н.Ф., Анализ и прогноз временных рядов методом главных компонент. – Новосибирск: Наука. Сиб. отд-ние, 1988. – 70с. Небольшая книга с описанием базового алгоритма и примерами анализа (ряды урожайности, динамика численности и т.п.). Читать и скачивать: PDF в двух частях (PDF, Часть 1 ~ 1.6M http://pca.narod.ru/EfimovPart1.pdf ), (PDF, Часть 2 ~ 2.2M), или DjVu (вся КНИГА ~3.6M).

С уважением,
Юрий Константинович Галактионов
29.VII.2010

Уважаемый Александр Иванович!

Пытаясь найти статьи о законах распределения погрешностей измерения, обнаружила на Вашем форуме раздел, посвященный проф. Б. Ю. Лемешко.

Очень все это огорчает !

Уважаемый Александр Иванович, ответьте, пожалуйста: прочитав статьи в каком-либо из авторитетнейших журналов ("Измерительная техника", "Метрология", "Заводская лаборатория" и др. - а именно там публикуется интересующая меня информация), должна ли я критично относиться к полученным в них результатам?

Не являясь специалистом в области математической статистики, но представляя многочисленную группу "потребителей" этой науки, хотела бы иметь возможность принимать выводы специалистов "на веру"!

Критично относиться к результатам, формулам всегда полезно. Свой вклад в распространение чуши вносят не только авторы, но и редакторы, а также иные издательские работники.

В "Заводской Лаборатории" мы стараемся поддерживать высокий научный уровень публикаций. Именно поэтому мы изгнали Лемешко (и ряд других), после долгой борьбы за качество статей, описанной в известной Вам теме форума.

Нашел в сети работу
http://www.postovalov.net/science/diss/ ... v_diss.pdf
Постовалов. Статистический анализ интервальных наблюдений одномерных непрерывных случайных величин. Научный руководитель Лемешко.

Можно пользоваться этими результатами?

Ошибки руководителя обычно повторяет ученик.
Пользоваться не рекомендую.

Статистика интервальных данных рассмотрена в наших учебниках "Прикладная статистика", "Теория принятия решений", "Нечисловая статистика"

Наши Интернет-ресурсы: сайты с книгами и статьями в открытом доступе:
«Высокие статистические технологии» http://orlovs.pp.ru/ ,
«Лаборатория экономико-математических методов в контроллинге МГТУ им. Н.Э. Баумана» http://ibm.bmstu.ru/nil/biblio.html ,
еженедельник «Эконометрика» http://subscribe.ru/catalog/science.hum ... onometrika
Конкретные вопросы, связанные с нашей деятельностью, можно обсудить на форуме http://forum.orlovs.pp.ru/
Персональная страница на сайте МГТУ им.Н.Э. Баумана http://www.bmstu.ru/ps/~orlov/
Википедия: http://ru.wikipedia.org/ статья «Орлов, Александр Иванович (учёный)»

К сожалению возможно уже идёт лавинообразное накопление ошибок. Это не вопрос отдельных авторов, а общая ситуация. Срочно нужна книжка, а не статья для специалистов (!), в которой бы были описаны типичные ошибки и причины их возникновения, описаны широко используемые критерии, откуда они берутся и как их правильно применять, возможно без формального доказательства. В большинстве учебников эти вопросы не раскрыты, что усугубляет ситуацию. Для неспециалистов в статистике, практически её применяющих, "какие следует использовать критические значения?" вопрос без ответа.

Учебники по прикладной статистике указаны выше.

Да, конечно. Но основная масса о них не знает.

Так расскажите!

Ошибки невежды продолжают вредить следующим поколениям.

Много я потратил времени на разоблачение научных ошибок Б.Ю. Лемешко. Но он не устыдился, продолжал извергать мутный поток безграмотных публикаций, быть деканом факультета прикладной математики и информатики НГТУ, добиваться разных наград. Единственно, чего я добился - закрыл для него журнал "Заводская лаборатория".

Невежда Лемешко Б.Ю. продолжает отравлять информационное пространство.

Доброго времени суток, Александр Иванович!

Интересует Ваше мнение о книге:

Лемешко Б.Ю. [и др.]. Статистический анализ данных. Моделирование и исследование вероятностных закономерностей. Компьютерный подход. Новосибирск, Изд-во НГТУ, 2011.

В ней всё ещё присутствуют какие-то ошибки, и если да, то какие именно?


И какую справочную литературу, сравнимую с этой книгой по охвату, и с меньшим количеством ошибок, вы можете порекомендовать для практиков? Интересует именно справочник, а не учебник. На русском или английском языке.
В книжных магазинах не могу найти ничего серьёзного по ТВиМС.


Заранее спасибо за ответ!

Книгу невежды Лемешко с сотнями ошибок анализировать незачем. Времени жалко. Выше о многих ошибках сказано выше.
Если невежда, такой, как Айвазян, Кобзарь или Лемешко, выпустил толстый опус, то это означает, что указанный невежда нанес большой вред потенциальным читателям.

Адекватных книг много.
"Таблицы математической статистики" Большева и Смирнова.
"Непараметрические методы статистики" Холлендера и Вулфа.
Мои книги "Прикладная статистика", "Статистические методы анализа данных" и др.

Наши Интернет-ресурсы: сайты с книгами и статьями в открытом доступе:
«Высокие статистические технологии» http://orlovs.pp.ru/ ,
«Лаборатория экономико-математических методов в контроллинге МГТУ им. Н.Э. Баумана» http://ibm.bmstu.ru/nil/biblio.html ,
еженедельник «Эконометрика» http://subscribe.ru/catalog/science.hum ... onometrika
Конкретные вопросы, связанные с нашей деятельностью, можно обсудить на форуме http://forum.orlovs.pp.ru/
Персональная страница на сайте МГТУ им.Н.Э. Баумана http://www.bmstu.ru/ps/~orlov/
Википедия: http://ru.wikipedia.org/ статья «Орлов, Александр Иванович (учёный)»

Деятельность невежды Лемешко Б.Ю. наносит большой вред нашей стране, поскольку отравляет сознание специалистов.

Добрый день. Лемешко в интернете везде вылезает просто ужас какой-то. Махинатор он страшный, просто жулик под прикрытием науки. Все его статьи и работы просто невежественны.

Но тут я натолкнулся на его монографию. Читать этот бред смысла нет никакого, но попалось мне на глаза особенное.
Монография называется так :
"Статистический анализ данных, моделирование и исследование вероятностных закономерностей. Компьютерный подход: монография / Б. Ю. Лемешко, С. Б. Лемешко, С. Н. Постовалов, Е. В. Чимитова. 2011 (http://ami.nstu.ru/~headrd/seminar/publ ... alysis.pdf)
Там есть на стр. 509-512 описывается как моделировать на компьютере нормальные случайные величины. Он (Лемешко) описывает метод Преобразование Бокса — Мюллера:
"В такой ситуации иногда предлагается упрощенные процедуры. Например, для стандартного нормального закона пара псевдослучайных чисел, распределенных генерируется по формулам:
Z1=(-2*lnY1)^0.5*sin(2*Pi*Y2)
Z2=(-2*lnY1)^0.5*cos(2*Pi*Y2)
"
Далее на стр. 512 он приводит график смоделированных этим методом точек на плоскости с двумерным нормальным и пишет следующее:
"Исследование процедуры моделирования показало, что при моделировании больших объемов многомерных случайных векторов с использованием формулы (12.1(те что выше я написал)) для формирования совокупности Zi оказываются неудовлетворительными. Например на рисунке 12.1 явно видно появление РЕГУЛЯРНЫХ!! структур уже в двумерном случае, что может приводить к искажению результатов исследований, опирающихся на такую процедуру моделирования."

Лемешко сам хоть понимает, что тем самым разоблачил себя. У него что-то не так с датчиком случайных чисел по всей видимости, поскольку метод указанный выше, который иногда называют методом Бокса — Мюллера он точный метод и он просто стандартный для моделирования норм. и дает всегда удовлетворительный результат если датчик хороший. Даже в экселе получается нормальное поле разброса без всякиз регулярных структур как у него на рисунке. ТО есть эти товарищи просто дурят голову всем - сами не понимая, что они делают. Датчик у них выдает просто не рэндомные числа иначе это не объяснить. Ибо метод этот стандартный и всегда и везде используется.

1. Про метод на основе преобразования Бокса — Мюллера ничего не знаю.

2. На основе Вашего поста можно написать статью в рамках дискуссии по статистическому моделированию, которую мы начинаем в журнале "Заводская лаборатория. Диагностика материалов" (с № 7 (июль) этого года).

3. Сейчас составляю обращение о начале дискуссии. Примерно так:

Уважаемые коллеги!

Начинаем дискуссию о современном состоянии и перспективах развития статистического моделирования, т.е. теории и практики применения метода статистических испытаний (Монте-Карло), различных вариантов имитационного моделирования. Предлагаем обсудить математические методы исследования, использующие датчики псевдослучайных чисел. В нашем журнале дискуссия о свойствах таких датчиков была проведена в 1985 - 1993 гг.
В настоящем номере публикуем две "затравочные статьи" дискуссии (Ю. Д. Григорьева и А.И. Орлова). Предлагаем специалистам, развивающим и/или применяющим метода статистических испытаний (Монте-Карло), участвовать в дискуссии, рассказать о возникших проблемах и полученных научных результатах.

А вас не смутило то, что для того же самого датчика, на соседнем рисунке (методом обратных функций) вполне себе приятная картинка?

Меня? Это их должно смущать авторов. Возьмите эксцель возьмите метот как описан и посмотрите получится идеальная рассеянная картинка никаких линий как у них на левом рисунке. Это говорит о том что авторы делают что то не так.

Взял все, что вы сказали. При различном числе точек на диаграмме и их размере увидеть можно много чего.
Давно известно, что ГСЧ в Экселе один из самых грязных.

Утверждаю, что Лемешко не прав.
Вот ссылка на метод который он считает неудовлетворительным:

https://ru.wikipedia.org/wiki/%D0%9F%D1 ... 1%80%D0%B0

Это классический способ генерации случайный чисел нормальных, а он пишет про регулярные структуры. Тут явная ошибка - в этом методе не должно ничего подобного получаться.

Если я туплю и ошибаюсь - поправьте меня.

По Rnd Excel >2003 данные ваши подтвердите пожалуйста ссылками. Мой опыт работы удовлетворителен сверял со стандартными таблицами свои результаты Монте-Карло.

Дополнительная информация
Функция RAND предыдущих версий Excel использовала алгоритм генерации псведослучайных чисел, качество которого по результатам стандартных тестов случайности было недостаточным. Хотя это, по-видимому, затрагивает только тех пользователей, которым приходится делать много вызовов функции RAND (миллион и более вызовов) и не должно быть пролемой для почти каждого пользователя, алгоритм генерации псевдослучайных чисел, описанный здесь, впервые был реализован в Excel 2003. Он проходит тот же набор стандартных тестов.

Набор тестов называется Diehard (см. примечание 1). Реализованный в Excel 2003 алгоритм был разработан учеными Б.А. Вичманом (B.A. Wichman) и и И.Д. Хиллом (I.D. Hill) (см. примечания 2 и 3). Этот генератор случайных чисел также используется в пакете программ RAT-STATS, распространяемом управлением генерального инспектора Министерства здравоохранения и социального обеспечения США. Как показано Роцем с сотрудниками (см . примечание 4), он проходит тесты DIEHARD и дополнительные тесты, разработанные в Национальном институте стандартов и технологий (NUST, бывшее Национальное бюро стандартов).
Примечания

Тесты были разработаны профессором Джорджем Марсалья (George Marsaglia) с кафедры статистики университета штата Флорида и доступны на следующем веб-узле:
http://www.csis.hku.hk/~diehard
Wichman, B.A. and I.D. Hill, Algorithm AS 183: An Efficient and Portable Pseudo-Random Number Generator, Applied Statistics, 31, 188-190, 1982.
Wichman, B.A. and I.D. Hill, Building a Random-Number Generator, BYTE, pp. 127-128, March 1987.
Rotz, W. and E. Falk, D. Wood, and J. Mulrow, A Comparison of Random Number Generators Used in Business, presented at Joint Statistical Meetings, Atlanta, GA, 2001.

В таком случае источником ошибки могут быть:
а) собственно ГСЧ, о котором в монографии вроде бы ни слова (но, похоже, явно не Эксель);
б) арифметические действия в методе Бокса - Мюллера:
- неудачно извлекли квадратный корень;
- криво взяли логарифм;
- плохо вычислили синус;
- совсем плохо - косинус.

На что будем грешить?

P.S. Я некогда просматривал эту монографию, но сейчас не вспомню, приводят ли авторы технические детали типа в каком пакете генерировались (псевдо)случ. числа а перелопачивать вновь 890 с. мне недосуг.

Ситуация мне видится так.
Лемешко и его ученик Постовалов (спец по программированию на 1С) создали некую программу, которая призвана решать ряд статистических задач - там в описании программы чего только нет. Ок. Хорошее дело. Надо порадоваться. Однако, могут ли быть верифицированы результаты, которые они выдают на-гора? Боюсь что нет. Если доверие к полученным результатам? Боюсь, что у вменяемого специалиста доверия к результатам полученным какой-то самопальной программой с закрытым кодом нет. Ок, можно было бы опереться на научный авторитет авторов, но его тоже нет.

Я не в коем случае не утверждаю, что результаты Лемешко фальсифицированы или ошибочны, отнюдь. Но я просто не вижу практического смысла опираться на его результаты, поскольку, во-первых, они плохо поддаются верификации, а во-вторых любой студент сейчас может проделать подобные моделирования за пол-часа например на бесплатной R с открытым кодом, который может быть проверен любым человеком в мире (благо сейчас язык R например достаточно популярен в научных центрах по всему миру.)

Что касается идей Лемешко по поводу хи-квадрата оптимальной группировки, тут я ничего не могу сказать. Интуитивно - чушь. Но надо заметить, что Воинов упоминает исследования Лемешко по хи-квадрату, но что и как там разбираться недосуг.
Chi-Squared Goodness of Fit Tests with Applications Voinov V., Nikulin M., Balakrishnan N.

Все это, конечно, так, но с вопросом почему один и тот же ГСЧ в методе обратных функций работает нормально, а в Боксе - Мюллере облажался яснее не стало.



Мне доводилось видеть статью, в которой черным по белому было сказано, что то, что Лемешко и соавт. называют асимптотически оптимальным группированием, на самом деле таковым не является (вопреки заявлениям Лемешко).

Ссылкой, увы, угостить не могу.

Ну мы не будем заниматься гаданием, а авторы вряд ли нам ответят. )

Лемешко Б.Ю. нанес большой вред отечественной науке. И продолжает наносить.