Эконометрика   к теории и практике обработки информации   теория иерархий   к экон. информатике   к комп. моделированию  

Эконометрика

Проблемы устойчивости эконометрических процедур

            В настоящей главе после обсуждения актуальности проблем изучения устойчивости в различных эконометрических задачах и разбора общей схемы такого изучения рассматриваются три конкретные направления - робастность статистических процедур, устойчивость отношению к объему выборки и устойчивость по отношению к горизонту планирования.

 

10.1. Общая схема устойчивости

 

            Проблемам познания, в том числе в социально-экономической области, посвящено огромное количество работ. Однако это не значит, что обо всем в этой области уже все сказано. А о некоторых положениях целесообразно говорить еще и еще раз, пока они ни станут общеизвестными.

            В настоящей книге предлагаются, изучаются и обсуждаются эконометрические модели социально-экономических явлений и процессов, а также рассматриваются общие требования, которые естественно предъявлять к подобным моделям. В идеале каждую такую модель следовало бы рассматривать как аксиоматическую теорию. В этом идеальном случае создание и использование модели происходит в соответствии с известной триадой "практика - теория - практика". А именно, сначала вводятся некоторые математические объекты, соответствующие интересующим исследователя реальным объектам, и на основе представлений о свойствах реальных объектов формулируются необходимые для успешного моделирования свойства математических объектов, которые и принимаются в качестве аксиом. Затем аксиоматическая теория развивается как часть математики, вне связи с представлениями о реальных объектах. На заключительном этапе полученные в математической теории результаты интерпретируются содержательно. Получаются утверждения о реальных объектах, являющиеся следствиями тех и только тех их свойств, которые ранее были аксиоматизированы.

            Рассматриваемые в настоящей книге эконометрические модели также выражены на математическом языке, исследование их ведется средствами математики без привлечения содержательных социально-экономических соображений, а выводы интерпретируются на языке соответствующей предметной области, т.е. содержательно.

            После построения математической модели реального явления или процесса встает вопрос о ее адекватности. Иногда ответ на этот вопрос может дать эксперимент. Рассогласование модельных и экспериментальных данных следует интерпретировать как признак неадекватности некоторых из принятых аксиом. Однако для проверки адекватности социально-экономических моделей зачастую невозможно поставить решающий эксперимент в отличие, скажем, от физических моделей. С другой стороны, для одного и того же социально-экономического явления или процесса, как правило, можно составить много возможных моделей, если угодно, много разновидностей одной базовой модели. Поэтому необходимы какие-то дополнительные условия, которые позволяли бы их множества возможных моделей и эконометрических методов анализа данных выбрать наиболее подходящие. В настоящей главе в качестве одного из подобных условий выдвигается требование устойчивости модели и метода анализа данных относительно допустимых отклонений исходных данных и предпосылок модели или условий применимости метода.

            Отметим, что в большинстве случаев исследователей и практических работников интересуют не столько сами модели и методы, сколько решения, которые с их помощью принимаются. Ведь модели и методы для того и разрабатываются, чтобы подготавливать решения. Вместе с тем очевидно, что решения, как правило, принимаются в условиях неполноты информации. Так, любые числовые параметры известны лишь с некоторой точностью. Введение в рассмотрение возможных неопределенностей исходных данных требует каких-то заключений относительно устойчивости принимаемых решений по отношению к этим допустимым неопределенностям.

            Введем основные понятия согласно монографии [1].. Будем считать, что имеются исходные данные, на основе которых принимаются решения. Способ переработки (отображения) исходных данных в решение назовем моделью. Таким образом, с общей точки зрения модель - это функция, переводящая исходные данные в решение, т.е. способ перехода значения не имеет. Очевидно, любая рекомендуемая для практического использования модель должна быть исследована на устойчивость относительно допустимых отклонений исходных данных. Укажем некоторые возможные применения результатов подобного исследования:

            - заказчик научно-исследовательской работы получает представление о точности предлагаемого решения;

            - удается выбрать из многих моделей наиболее адекватную;

            - по известной точности определения отдельных параметров модели удается указать необходимую точность нахождения остальных параметров;

- переход к случаю "общего положения" позволяет получать более сильные с математической точки зрения результаты.

            Примеры. По каждому из четырех перечисленных возможных применений в настоящей книге уже приведены различные примеры. В эконометрике точность предлагаемого решения связана с разбросом исходных данных и с объемом выборки, и способы оценки точности решения для различных задач расписаны выше. Выбору наиболее адекватной модели посвящены многие рассмотрения в главах 4 и 5, связанные с обсуждением моделей однородности и регрессии. Рациональный объем выборки в статистике интервальных данных (глава 9) исходит из принципа уравнивания погрешностей, основанного на том, что по известной точности определения отдельных параметров модели удается указать необходимую точность нахождения остальных параметров. Другим примером применения той же концепции является нахождение необходимой точности оценивания параметров в моделях логистики, рассмотренных в главе 5 монографии [1]. Наконец, переходом  к случаю "общего положения" в эконометрике является, в частности, переход к непараметрической статистике, необходимый из-за невозможности обосновать принадлежность результатов наблюдений к тем или иным параметрическим семействам.

Специалисты по моделированию и теории управления считают устойчивость одной из важных характеристик социально-экономических моделей. Достаточно глубокие исследования ведутся по ряду направлений.

            Первоначальное изучение влияния малого изменения одного параметра обычно называют анализом чувствительности. Оно обычно описывается значением частной производной. Если модель задается дифференцируемой функцией, то итог анализа чувствительности - вектор значений частных производных в анализируемой точке.

Теория устойчивости решений дифференциальных уравнений развивается по крайней мере с XIX в. Выработаны соответствующие понятия - устойчивость по Ляпунову, корректность, доказаны глубокие теоремы. Для решения некорректных задач академиком АН СССР А.Н. Тихоновым в начале 1960-х годов был предложен метод регуляризации. Модели социально-экономических явлений и процессов, выражаемые с помощью дифференциальных уравнений, могут быть исследованы на устойчивость путем применения хорошо разработанного математического аппарата.

Вопросы устойчивости изучались практически во всех направлениях экономико-математических методов - и в математическом программировании, и в теории массового обслуживания (теории очередей), и в эколого-экономических моделях, и в различных областях эконометрики.

Прежде чем переходить к конкретным постановкам, обсудим "общую схему  устойчивости", дающую понятийную базу для обсуждения проблем устойчивости в различных предметных областях.

Определение 1. Общей схемой устойчивости называется объект

            Здесь - множество, называемое (и интерпретируемое) пространством исходных данных; - множество, называемое пространством решений. Однозначное отображение  называется моделью. Об этих трех составляющих общей схемы устойчивости уже шла речь выше.

Оставшиеся два понятия нужны для уточнения понятий близости в пространстве исходных данных и пространстве решений. Подобные уточнения могут быть сделаны разными способами. Самое "слабое" уточнение - на языке топологических пространств. Тогда возможны качественные выводы (сходится - не сходится), но не количественные расчеты. Самое "сильное" уточнение - на языке метрических пространств. Промежуточный вариант - используются показатели различия (отличаются от метрик тем, что не обязательно выполняются неравенства треугольника) или вводимые ниже понятия.

Пусть d -показатель устойчивости, т.е. неотрицательная функция, определенная на подмножествах У множества  и такая, что из  вытекает  Часто показатель устойчивости d(Y) определяется с помощью метрики, псевдометрики или показателя различия (меры близости)  как диаметр множества У, т.е.

Таким образом, говоря попросту, в пространстве решений с помощью показателя устойчивости вокруг образа исходных данных может быть сформирована система окрестностей. Но сначала надо такую систему сформировать в пространстве исходных данных.

Пусть  - совокупность допустимых отклонений, т.е. система подмножеств множества  такая, что каждому элементу множества исходных данных  и каждому значению параметра  из некоторого множества параметров  соответствует подмножество  множества исходных данных, называемое множеством допустимых отклонений в точке х при значении параметра, равном . Наглядно можно представить себе, что вокруг точки х взята окрестность радиуса .

            Определение 2. Показателем устойчивости в точке х при значении параметра, равном , называется число

            Другими словами, это - диаметр образа множества допустимых колебаний при рассматриваемом в качестве модели отображении. Очевидно, что этот показатель устойчивости зависит как от исходных данных, так и от диаметра множества возможных отклонений в исходном пространстве. Для непрерывных функций показатель устойчивости обычно называется модулем непрерывности.

Естественно посмотреть, насколько сузится образ окрестности возможных отклонений при максимально возможном сужении этой окрестности.

            Определение 3. Абсолютным показателем устойчивости в точке х  называется число

            Если функция f непрерывна, а окрестности - именно те, о которых идет речь в математическом анализе, то максимальное сужение означает сужение к точке и абсолютный показатель устойчивости равен 0. Но в главах 3 и 9 мы сталкивались с совсем иными ситуациями. В главе 3 окрестностью исходных данных были все те вектора, что получались из исходного путем преобразования координат с помощью допустимого преобразования шкалы, а допустимое преобразование шкалы бралось из соответствующей группы допустимых преобразований. В главе 9 под окрестностью исходных данных естественно было понимать - при описании выборки - куб с ребрами  и центром в исходном векторе. И в том, и в другом случае максимальное сужение не означает сужение к точке.

            Естественным является желание ввести характеристики устойчивости на всем пространстве. Не вдаваясь в математические тонкости (см. о них монографию [1]), рассмотрим меру  на пространстве такую, что мера всего пространства равна 1 (т.е.

            Определение 4. Абсолютным показателем устойчивости на пространстве исходных данных  по мере  называется число

            Здесь имеется в виду так называемый интеграл Лебега. Интегрирование проводится по (абстрактному) пространству исходных данных  по мере . Естественно, должны быть выполнены некоторые внутриматематические условия, думать о которых эконометрику ни к чему. Читателю, незнакомому с интегрированием по Лебегу, достаточно мысленно заменить в предыдущей формуле интеграл на сумму (а пространство  считать конечным, хотя и состоящим из большого числа элементов).

            Определение 5. Максимальным абсолютным показателем устойчивости называется

            Легко видеть, что  где супремум берется по всем описанным выше мерам.

            Итак, построена иерархия показателей устойчивости эконометрических и экономико-математических моделей. Она с успехом использовалась в исследованиях, подробно развивалась, в частности, в монографии [1]. В частности, полезным оказалось следующее определение.

            Определение 6. Модель f называется абсолютно -устойчивой, если  где  - максимальный абсолютный показатель устойчивости.

            Пример. Если показатель устойчивости формируется с помощью метрики, совокупность допустимых отклонений  - это совокупность всех окрестностей всех точек пространства исходных данных, то 0-устойчивость модели f 'эквивалентна непрерывности модели f на множестве .

            Основная проблема в общей схеме устойчивости - проверка -устойчивости данной модели f относительно данной системы допустимых отклонений .

            Часто оказываются полезными следующие два обобщения основной проблемы.

            Проблема А (характеризации устойчивых моделей). Даны пространство исходных данных , пространство решений , показатель устойчивости d, совокупность допустимых отклонений  и неотрицательное число . Описать достаточно широкий класс -устойчивых моделей f. Или: найти все -устойчивые модели среди моделей, обладающих данными свойствами, т.е. входящих в данное множество моделей.

            Проблема Б (характеризации систем допустимых отклонений). Даны пространство исходных данных , пространство решений , показатель устойчивости d, модель f и неотрицательное число . Описать достаточно широкий класс систем допустимых отклонений , относительно которых модель f является -устойчивой. Или: найти все такие системы допустимых отклонений  среди совокупностей допустимых отклонений, обладающих данными свойствами, т.е. входящих в данное множество совокупностей допустимых отклонений.

            Ясно, что проблемы А и Б можно рассматривать не только для показателя устойчивости , но и для других только что введенных показателей устойчивости, а именно,

Язык общей схемы устойчивости позволяет описывать конкретные задачи специализированных теорий устойчивости в различных областях исследований, выделять в основные элементы в них, ставить проблемы типа А и Б. На этом языке легко формулируются задачи теории устойчивости оеешений жифференциальных уравнений, теории робастности статистических процедур, проблемы адекватности теории измерений (см. главу 3), достигаемой точности расчетов в статистике интервальных данных (см. главу 11) и в логистике (см. монографию [1]), и т.д.

            Для примера рассмотрим определение устойчивости по Ляпунову решения  нормальной автономной системы дифференциальных уравнений  с начальными условиями  Здесь пространство исходных данных  - конечномерное евклидово пространство, множество допустимых отклонений  окрестность радиуса  точки , пространство решений - множество функций на луче  с метрикой

Модель f - отображение, переводящее начальные условия х в решение системы дифференциальных уравнений с этими начальными условиями  

В терминах общей схемы устойчивости положение равновесия а называется устойчивым по Ляпунову, если  Для формулировки определения асимптотической устойчивости по Ляпунову надо ввести в пространстве решений псевдометрику

Положение равновесия а называется асимптотически устойчивым, если  для некоторого  где показатель устойчивости  рассчитан с использованием  псевдометрики .

            Таким образом, общая схема устойчивости естественным образом включает в себя классические понятия теории устойчивости по Ляпунову. Вместе с тем стоит отметить, что эта схема дает общий подход к различным проблемам устойчивости, прежде всего в эконометрических и экономико-математических постановках, дает систему понятий, которые в каждом конкретном случае должны приспосабливаться к решаемой задаче.

            До настоящего момента для определенности речь шла о допустимых отклонениях в пространстве исходных данных. Часто оказывается необходимым говорить и об отклонениях от предпосылок модели. С чисто формальной точки зрения для этого достаточно расширить понятие "исходные данные" до пары (x, f), т.е. включив "прежнюю" модель в качестве второго элемента пары. Все остальные определения остаются без изменения. Теперь отклонения в пространстве решений вызываются не только отклонениями в исходных данных x, но и отклонениями от предпосылок модели, т.е. отклонениями f. Это соображение нам понадобится в следующем пункте настоящей главы, посвященном робастности статистических процедур.

            Различные асимптотические постановки в эконометрической теории (третий пункт настоящей главы) также естественно рассматривать как задачи устойчивости. Если при безграничном возрастании объема выборки некоторая величина стремится к пределу, то в терминах общей схемы устойчивости это означает, что она 0-устойчива в соответствующей псевдометрике (см. выше обсуждение асимптотической устойчивости по Ляпунову). С содержательной точки зрения употребление термина "устойчивость" в такой ситуации представляется вполне оправданным, поскольку рассматриваемая величина мало меняется при изменении объема выборки.

            Для стратегического менеджмента весьма важна проблема горизонта планирования (подробнее см. учебное пособие [2]). Очевидно, что вид оптимальных решений зависит от заранее заданной длины интервала, для которого строится оптимальных план (т.е. от горизонта планирования). Это означает, что необходимо обосновать выбор горизонта планирования. Принять его бесконечным нерационально, поскольку совершенно ясно, что через каких-нибудь 100 лет производительные силы и производственные отношения будут совсем иные, чем в настоящее время, и пытаться их учитывать для принятия решений в настоящее время нецелесообразно. Как же быть? Об этом - в четвертом пункте настоящей главы.

 

10.2. Робастность статистических процедур

 

            Термин "робастность" (robustness - англ.) образован от robust - крепкий, грубый (англ.). Сравните с названием одного из сортов кофе - robusta. Имеется в виду, что робастные статистические процедуры должны "выдерживать" ошибки, которые теми или иными способами могут попадать в исходные данные или искажать предпосылки используемых вероятностно-статистических моделей.

            Термин "робастный" стал популярным в нашей стране в 1970-е годы. Сначала он использовался фактически как сужение термина "устойчивый" на алгоритмы статистического анализа данных классического типа (не включая теорию измерений, статистику нечисловых и интервальных данных). Затем реальная сфера его применения сузилась.

            Пусть исходные данные - это выборка, т.е. совокупность независимых одинаково распределенных случайных величин с одной и той же функцией распределения F(x). Наиболее простая модель изучения устойчивости - это модель засорения

              (1)

Эта модель имеются также моделью Тьюки-Хубера. (Джон Тьюки - американский исследователь, П.Хубер, или Хьюбер - швейцарский ученый) Модель (1) показывает, что с близкой к 1 вероятностью, а именно, с вероятностью  наблюдения берутся из совокупности с функцией распределения  которая предполагается обладающей "хорошими" свойствами. Например, она имеет известный эконометрику вид (хотя бы с точностью до параметров), у нее существуют все моменты, и т.д. Но с малой вероятностью  появляются наблюдения из совокупности с "плохим" распределением, например, взятые из распределения Коши, не имеющего математического ожидания, резко выделяющиеся аномальные наблюдения, выбросы.

            Актуальность модели (1) не вызывает сомнений. Наличие засорений (выбросов) может сильно исказить результаты эконометрического анализа данных. Ясно, что если функция распределения элементов выборки имеет вид (1), где первое слагаемое соответствует случайной величине с конечным математическим ожиданием, а второе - такой, для которого математического ожидания не существует (например, если  H(x) - функция распределения Коши), то для итоговой функций распределения (1) также не существует математического ожидания. Исследователя обычно интересуют характеристики первого слагаемого, но найти их, т.е. освободиться от влияния засорения, не так-то просто. Например, среднее арифметическое результатов наблюдений не будет иметь никакого предела (это - строгое математическое утверждение, вытекающее из того, что математическое ожидание не существует [3]).

            Существуют различные способы борьбы с засорением. Эмпирическое правило "борьбы с засорениями" при подведении итогов работы команды судей найдено в фигурном катании: наибольшая и наименьшая оценки отбрасываются, а по остальным рассчитывается средняя арифметическая (см. главу 12). Ясно, что "засорение" окажется среди отброшенных оценок.

            Оценивать характеристики и параметры, проверять статистические гипотезы, вообще осуществлять эконометрический анализ данных все чаще рекомендуют на основе эмпирических квантилей (другими словами, порядковых статистик, членов вариационного ряда), отделенных от концов вариационного ряда. Речь идет об использовании статистик типа

Ценой небольшой потери в эффективности избавляемся от засоренности типа описанной в модели (1).

            Вариантом этого подхода является переход к сгруппированным данным. Прямая разбивается на интервалы, и вместо количественных значений эконометрик подсчитывает лишь, сколько наблюдений попало в те или иные интервалы. Особое значение приобретают крайние интервалы - к ним относят все наблюдения, которые больше некоторого верхнего порога и меньше некоторого нижнего порога. Любым методам анализа сгруппированных данных резко выделяющиеся наблюдения не страшны.

            Можно поставить под сомнение и саму опасность засорения. Дело в том, что практически все реальные величины ограничены. Все лежат на каком-то интервале - от и до. Это совершенно ясно, если речь идет о физическом измерении - все укладывается в шкалу прибора. По-видимому, и для эконометрических измерений наибольшие сложности создают не сверхбольшие помехи, а не засорения, что находятся "на грани" между "интуитивно возможным" и "интуитивно невозможным".

Что же это означает? Если элементы выборки по абсолютной величине не превосходят числа А, то все засорение может сдвинуть среднее арифметическое на величину  Если засорение невелико, то и сдвиг мал.

Построена достаточно обширная и развитая теория, посвященная разработке и изучению методов анализа данных в модели (1). С ней можно познакомиться по монографиям [4-6]. К сожалению, в теории обычно предполагается известной степень засорения , а на практике эта величина неизвестна. Кроме того, теория обычно направлена на защиту от воздействий, якобы угрожающих из бесконечности, а на самом деле реальные данные финитны (сосредоточены на конечных отрезках). Все это объясняет, почему теория робастности, исходящая из модели (1), популярна среди теоретиков, но мало интересна тем, кто анализирует реальные экономические данные.

Рассмотрим несколько более сложную модель. Пусть наблюдаются реализации независимых случайных величин  с функциями распределения  соответственно. Эта модель соответствует гипотезе о том, что в процессе наблюдения (измерения) условия несколько менялись. Естественной представляется модель малых отклонений функций распределений наблюдаемых случайных величин от некоторой "базовой" функции распределения . Множество возможных значений функций распределений наблюдаемых случайных величин описывается следующим образом:

            Следующий тип моделей - это введение малой (т.е. слабой) зависимости между рассматриваемыми случайными величинами (см., например, монографию [7]). Ограничения на взаимную зависимость можно задать разными способами. Пусть  - совместная функция распределения,  коэффициент корреляции между i-ой и j-ой случайными величинами. Множество возможных совместных функций распределения описывается следующим образом:

            Есть еще целый ряд постановок задач робастности. Если накладывать погрешности непосредственно на результаты наблюдений (измерений), то получаем постановки задач статистики интервальных данных (см. главу 11), поскольку каждый результат наблюдения превращается в интервал - исходное значение плюс-минус погрешность.

            Разработано много вариантов робастных методов анализа статистических данных (см. монографии [1,4-6]). Иногда говорят, что робастные методы позволяют использовать информацию о том, что реальные наблюдения лежат "около" тех или иных параметрических семейств, например, нормальных. В этом, дескать, их преимущество по сравнению с непараметрическими методами, которые предназначены для анализа данных из всех возможных распределений. Однако количественных подтверждений этих уверений любителей робастных методов обычно не удается найти.

 

10.3. Устойчивость по отношению к объему выборки

 

В настоящем пункте рассматривается проблема и методы оценки близости предельных распределений статистик и распределений, соответствующих конечным объемам выборок. При каких объемах выборок уже можно пользоваться предельными распределениями? Каков точный смысл термина "можно" в предыдущей фразе? Основное внимание уделяется переходу от точных формул допредельных распределений к пределу и применению метода статистических испытаний (Монте-Карло).

Асимптотическая математическая статистика и практика анализа статистических данных. Как обычно подходят к обработке реальных данных в конкретной эконометрической задаче? Первым делом строят статистическую модель. Если хотят перенести выводы с совокупности результатов наблюдений на более широкую совокупность, например, предсказать что-либо (см. главу 14), то рассматривают, как правило, вероятностно-статистическую модель. Например, традиционную модель выборки, в которой результаты наблюдений - реализации независимых (в совокупности) одинаково распределенных случайных величин. Очевидно, любая модель лишь приближенно соответствует реальности. В частности, естественно ожидать, что распределения результатов наблюдений несколько отличаются друг от друга, а сами результаты связаны между собой, хотя и слабо (см. предыдущий пункт).

            Итак, первый этап - переход от реальной ситуации к математической модели. Далее - неожиданность: на настоящем этапе своего развития математическая теория эконометрики и статистики зачастую не позволяет провести необходимые исследования для имеющихся объемов выборок. Более того, отдельные математики пытаются оправдать свой отрыв от практики соображениями о структуре этой теории, на первый взгляд убедительными. Неосторожная давняя фраза Б.В. Гнеденко и А.Н.Колмогорова: "Познавательная ценность теории вероятностей раскрывается только предельными теоремами" (см. классическую монографию [8], одну из наиболее ценных математических книг ХХ в.) взята на вооружение и более близкими к нам по времени авторами. Так, И.А. Ибрагимов и Р.З. Хасьминский пишут: "Решение неасимптотических задач оценивания, хотя и весьма важное само по себе, как правило, не может являться объектом достаточно общей математической теории. Более того, соответствующее решение часто зависит от конкретного типа распределения, объема выборки и т.д. Так, теория малых выборок из нормального закона будет отличаться от теории малых выборок из закона Пуассона" (см. напичканную формулами монографию [9, с.7]).

            Согласно цитированным и подобным им авторам, основное содержание математической теории статистики - предельные теоремы, полученные в предположении, что объемы рассматриваемых выборок стремятся к бесконечности. Эти теоремы опираются на предельные соотношения теории вероятностей, типа Закона Больших Чисел и Центральной Предельной Теоремы. Ясно, что сами по себе подобные утверждения относятся к математике, т.е. к сфере чистой абстракции, и не могут быть непосредственно применены для анализа реальных данных. Их практическое использование, о котором "чистые" математики предпочитают не думать, опирается на важное предположение: "При данном объеме выборки достаточно точными являются асимптотические формулы."

            Конечно, в качестве первого приближения представляется естественным воспользоваться асимптотическими формулами, не тратя сил на анализ их точности. Но это - лишь начало долгой цепи исследований. Как же обычно преодолевают разрыв между результатами асимптотической математической статистики и потребностями практики эконометрического и статистического анализа данных? Какие "подводные камни" подстерегают на этом пути? Обсуждению этих вопросов и посвящен настоящий пункт.

Точные формулы и асимптотика. Начнем с наиболее продвинутой в математическом плане ситуации, когда для статистики известны как предельное распределение, так и распределения при конечных объемах выборки.

            Примером является двухвыборочная односторонняя статистика Н.В.Смирнова. Рассмотрим две независимые выборки объемов m и n из непрерывных функций распределения F(x) и G(x) соответственно. Для проверки гипотезы однородности двух выборок (ср. главу 4)

H0: F(x) = G(x) для всех действительных чисел  x

в 1939 г. Н.В. Смирнов в статье [10] предложил использовать статистику

D+(m,n) = sup (Fm(x) - Gn(x)) ,

где Fm(x) - эмпирическая функция распределения, построенная по первой выборке, Gn(x) - эмпирическая функция распределения, построенная по второй выборке, супремум берется по всем действительным числам x. Для обсуждения проблемы соотношения точных и предельных результатов ограничимся случаем равных объемов выборок, т.е. m = n. Положим

В цитированной статье [10] Н.В. Смирнов показал, что при безграничном возрастании объема выборки n вероятность H(n, t) стремится к exp(- t 2).

В работе [11] 1951 г. Б.В. Гнеденко и В.С. Королюк показали, что при целом  (именно при таких t вероятность H(n, t) как функция t имеет скачки, поскольку статистика Смирнова D+(n,n) кратна 1/n ) рассматриваемая вероятность H(n, t) выражается через биномиальные коэффициенты, а именно,

                      (1)

            К сожалению, непосредственные расчеты по формуле (1) возможны лишь при сравнительно небольших объемах выборок, поскольку величина n!. (n-факториал) уже при n=100 имеет более 200 цифр и не может быть без преобразований использована в вычислениях. Следовательно, наличие точной формулы для интересующей нас вероятности не снимает необходимости использования предельного распределения и изучения точности приближения с его помощью.

Широко известная формула Стирлинга для гамма-функции и, в частности, для факториалов позволяет преобразовать последнее выражение в асимптотическое разложение, т.е. построить бесконечный степенной ряд (по степеням n ) такой что каждая следующая частичная сумма дает все более точное приближение для интересующей нас вероятности H(x, t) . Это и было сделано в работе А.А. Боровкова 1962 г. Большое количество подобных разложений для различных статистических задач приведено в работах В.М. Калинина и О.В. Шалаевского конца 1960-х - начала 1970-х годов. (Интересно отметить, что асимптотические разложения в ряде случаев расходятся, т.е. остаточные члены имеют нетривиальную природу.)

            Затем в работах конца семидесятых годов была сделана попытка теоретически оценить остаточный член второго порядка. Итоги подведены в монографии [1, § 2.2, с.37-45]. Справедливо равенство

H(n, t) =  exp ( - t 2 ).(1 + f(t)/n + g(n,t)/ n2 ),

где

f(t) = t2 (1/2 - t2/ / 6 ).

Целью последних из названных работ было получение равномерных по n, t оценок остаточного члена второго порядка g(n,t) сверху и снизу в области, задаваемой условиями

                       (2)

где  - некоторые параметры. С помощью длинных цепочек оценок остаточных членов в формулах, получаемых при преобразовании формулы (1) к предельному виду, сформулированная выше цель была достигнута, и для различных наборов параметров  получены равномерные по n, t оценки (сверху и снизу) остаточного члена второго порядка g(n,t) в области (2). Так, например, при А = 0,5, t max = 1,73, n0 = 8 нижняя граница равна (- 0,71), а верхняя есть 2,65.

Основными недостатками такого подхода являются, во первых, зависимость оценок от параметров , задающих границы областей, во-вторых, завышение оценок, иногда в сотни раз, обусловленное желанием получить равномерные оценки по области (оценкой реальной погрешности в конкретной точке является значение следующего члена асимптотического разложения).

            Поэтому при составлении рассчитанной на практическое использование методики [12] проверки однородности двух выборок с помощью статистики Смирнова было решено перейти на несколько другую методологию (назовем ее "методологией заданной точности"), которую кратко можно описать следующим образом.

1) выбирается достаточно малое положительное число р, например р = 0,05 или р = 0,20;

2) приводятся точные значения H(n, t) для всех значений n таких, что

| H(n, t) - exp ( - t 2 ) | > p exp ( - t 2 ) ;

3) если же последнее неравенство не выполнено, то предлагается пользоваться вместо H(n, t) предельным значением exp ( - t 2 ).

            Таким образом, принятая в методике [12] методология предполагает интенсивное использование вычислительной техники. Результатами расчетов являются граничные значения объемов выборок n(p,t) такие, что при меньших значениях объемов выборок рекомендуется пользоваться точными значениями функции распределения статистики Смирнова, а при больших - предельными. Описывается этот результат таблицей, а не формулой. Отметим, что при построении реальных таблиц не обойтись без выбора того или иного конкретного значения р, задающего объемы таблиц.

Оценки скорости сходимости. Теоретические оценки скорости сходимости в различных задачах эконометрики и прикладной математической статистики иногда формулируются в весьма абстрактном виде. Так, в 1960-1970-х годах была популярна задача оценки скорости сходимости распределения классической статистики омега-квадрат (Крамера-Мизеса-Смирнова). Для максимума модуля разности допредельной и предельной функций распределения этой статистики различные авторы доказывали, что для любого e>0 существует константа С(e) такая, что упомянутый максимум не превосходит С(e) n - w + e. Прогресс состоял в увеличении константы w. Сформулированный выше результат был доказан последовательно для w = 1/10, 1/6, 1/5, 1/4, 1/3, 1/2 и 1 (подробнее история этих исследований рассказана в §2.3 монографии [1]).

            Конечно, все эти исследования не могли дать конкретных практических рекомендаций. Однако необходимой исходной точкой является само существование предельного распределения. Представим себе, что некто, не зная, что у распределения Коши нет математического ожидания, моделирует выборочные средние арифметические результатов наблюдений из этого распределения. Ясно, что его попытки оценить скорость сходимости выборочных средних к пределу обречены на провал.

            Последовательное улучшение теоретических оценок скорости сходимости дает надежду на быструю реальную сходимость. Действительно, численные расчеты показали, что предельным распределением для статистики омега-квадрат (Крамера-Мизеса-Смирнова) можно пользоваться уже при объеме выборки, равном 4.

Использование датчиков псевдослучайных чисел. Если же предельное распределение известно, то возникает возможность изучить скорость сходимости численно методом статистических испытаний (Монте-Карло). Однако при этом обычно возникают две проблемы.

            Во-первых, откуда известно, что скорость сходимости монотонна? Если при данном объеме выборки различие мало, то будет ли оно мало и при дальнейших объемах? Иногда отклонения допредельного распределения от предельного объясняются довольно сложными причинами. Так, для распределения хи-квадрат они связаны с рядом до сих пор не решенных теоретико-числовых проблем о числе целых точек в эллипсоиде растущего диаметра. 

            Во-вторых, с помощью датчиков псевдослучайных чисел получаем допредельные распределения с погрешностью, которая может преуменьшать различие. Поясним мысль аналогией. Растущий сигнал измеряется с погрешностями. Когда можно гарантировать, что его величина наверняка превзошла заданную границу?

            Напомним, что проблема качества датчиков псевдослучайных чисел продолжает оставаться открытой (см. главу 11). Для моделирования в пространствах фиксированной размерности датчики псевдослучайных чисел решают поставленные задачи. Но для рассматриваемых нами задач размерность не фиксирована - мы не знаем, при каком конкретно объеме выборки можно переходить к предельному распределению согласно "методологии заданной точности".

            Нужны дальнейшие работы по изучению качества датчиков псевдослучайных чисел в задачах неопределенной размерности. Поскольку критиков датчиков обычно обвиняют в том, что они сами их не используют, отмечу, что мы применяли этот инструментарий при изучении помех, создаваемых электровозами (см. монографию [1]), при изучении статистических критериев проверки однородности двух выборок (см. работу [13]).

А нужна ли вообще асимптотика? В настоящее время развивается актуальное направление прикладной статистики, связанное с интенсивным использованием вычислительной техники для изучения свойств статистических процедур. Как уже отмечалось, математические методы в статистике обычно позволяют получать лишь асимптотические результаты, и для переноса выводов на конечные объемы выборок приходится применять вычислительные методы. В Новосибирском государственном техническом университете разработан и успешно применяется оригинальный подход, основанный на интенсивном использовании современной вычислительной техники. Основная идея такова: в качестве альтернативы асимптотическим методам математической статистики используется анализ результатов статистического моделирования (порядка 2000 испытаний) выборок конкретных объемов (200, 500, 1000). При этом анализ предельных распределений заменяется на анализ распределений соответствующих статистик при указанных объемах выборок.

            К достоинствам подхода относится возможность замены теоретических исследований расчетами. Разработанная программная система дает в принципе возможность численно изучить свойства любого статистического алгоритма для любого конкретного распределения результатов наблюдений и любого конкретного объема выборки. К недостаткам рассматриваемого подхода относится зависимость от свойств датчиков псевдослучайных чисел, а также - что более важно - неизвестность предельного распределения (и даже самого факта его существования), а потому невозможность обоснованного переноса полученных выводов на объемы выборок, отличные от исследованных. Поэтому с точки зрения теории математической статистики полученные рассматриваемым способом результаты следует рассматривать как правдоподобные (а не доказательные, как в классической математической статистике).

            Кроме того, они принципиально неточные. Даже в наиболее благоприятных условиях отклонение смоделированного распределения, построенного по 2000 испытаниям, от теоретического предельного распределения, по нашей оценке, может иметь порядок (1/2000 + 1/1000)1/2 = 0,038 (ср. главу 4). Это означает, в частности, что процентные точки, соответствующие уровням значимости 0,05 и особенно 0,01, могут сильно отличаться от соответствующих процентных точек предельных распределений. Очевидно, следующий этап работ - изучение точности полученных в рассматриваемом подходе выводов, прежде всего приближений и процентных точек.

            Однако сразу все не сделаешь. Поэтому новосибирцы совершенно правы, развивая новые компьютерные подходы к давним задачам эконометрики и прикладной математической статистики. В частности, весьма полезными и интересными являются результаты, касающиеся непараметрических критериев согласия. Весьма интересным и полезным представляется также метод построения оптимального группирования, в частности, при использовании  критериев типа хи-квадрат. Важен результат о неробастности (неустойчивости) оценок максимального правдоподобия по негруппированным данным. Надо поддержать идею использования одновременно двух оценок по группированным данным с использованием как оптимального, так и равновероятного группирования. Этот подход сибиряков соответствует современным идеям в области устойчивости (робастности) статистических выводов.

            Однако стоит сделать два замечания. В работе [14] сравниваются два плана контроля надежности технических изделий. Оказывается, что при объемах выборки, меньших 150, лучше первый план, а при объемах, больших 150 - второй. Значит, если бы по новосибирскому методу сравнивались эти планы при достаточно большом объеме выборки n=100, то лучшим был бы признан первый план, что неверно - наступит момент (объем выборки), когда лучшим станет второй план. 

            Другая относящаяся к делу ассоциация - из весьма содержательной монографии о прикладной математике [15]. Будем суммировать бесконечный ряд с членами zn= 1/n . Поскольку члены его убывают, то обычно используемые алгоритмы остановят вычисления на каком-то шагу. А сумма-то - бесконечна!

            Кажется, что компьютер дал универсальную отмычку ко всем проблемам вообще и в области эконометрики в частности. Но это только кажется.

            Итак, в Новосибирском государственном техническом университете предложен интересный эконометрический инструментарий и проделана полезная работа. Однако этот подход никоим образом не является панацеей.

 

10.4. Устойчивость по отношению к горизонту планирования

 

Продолжим начатое выше обсуждение влияние горизонта планирования на принимаемые решения. Отметим, что во многих реальных ситуациях продолжительность инвестиционного проекта не полностью определена либо горизонт планирования инвестора не охватывает всю продолжительность реализации проекта до этапа утилизации. В таких случаях важно изучить влияние горизонта планирования на принимаемые решения.

            Рассмотрим условный пример. Предположим, я являюсь владельцем завода. Если горизонт моего планирования - 1 месяц, то наибольший денежный доход я получу, продав предприятие (включая здания, сырье, технологическое оборудование, землю, на котором стоит предприятие - если, конечно, я имею право ее продать).  Если же планирую на год, то я сначала понесу затраты, закупив сырье и оплатив труд рабочих, и только затем, продав продукцию, получу прибыль. Если я планирую на 10 лет, то пойду на крупные затраты, закупив лицензии и новое оборудование, с целью увеличения дохода в дальнейшие годы. При планировании на 30 лет имеет смысл вложить средства в создание и развитие собственного научно-исследовательского центра, и т.д.

Подчеркнем - реальные инвестиции (в основные фонды - в здания, оборудование, в конструкторские разработки и т.д.), которые окупятся в следующие годы, в текущем году ухудшат многие финансово-хозяйственные показатели работы предприятия, сократят его прибыль, уменьшат показатели рентабельности, в итоги акционеры получат - в данном году - меньше.

            Таким образом, популярное утверждение "фирма работает ради максимизации прибыли" или "цель фирмы - максимизация прибыли" не имеет точного смысла. За какой период максимизировать прибыль - за месяц, год, 10 или 30 лет? От горизонта планирования зависят принимаемые решения. Понимая это, ряд западных экономистов отказываются рассматривать фирмы как инструменты для извлечения прибыли, предпочитают смотреть на них как на квазиживые существа, старающиеся обеспечить продолжение своего существования и дальнейшее развитие. Соответственно с этим стратегический менеджмент исходит из понятий "миссия фирмы", "стратегические цели" (например, стратегическая цель может иметь вид: "повысить долю рынка, контрлируемую фирмой"), которые невозможно непосредственно выразить в денежных единицах (подробнее об этом см., например, учебное пособие [2]).

            Прежде чем обсуждать непосредственно влияние горизонта планирования на принимаемые менеджером решения, рассмотрим классификацию используемых при принятии решепний оптимизационных моделей.

            Характеризация моделей с дисконтированием. Пусть для простоты изложения время принимает дискретные значения. Тогда развитие экономической ситуации описывается последовательностью  где переменные xj лежат в некотором пространстве Х, возможно, достаточно сложной природы. Надо отметитть также, что положение в следующий момент не может быть прооизвольным, оно связано с положением в предыдущий момент. Проще всего принять, что существует некоторое множество К такое, что  Результат экономической деятельности за j-ый период описывается величиной  Зависимость не только от начального и конечного положения, но и от номера периода объясняется тем, что через номер периода осуществляется связь с общей экономической ситуацией. Желая максимизировать суммарные результаты экономической деятельности, приходим к постановке стандартной задаче динамического программирования:

Таким образом, необходимо выбрать план (, удовлетворяющий приведенным ограничениям, на котором достигает максимума функционал Fm . Естественно, предполагается, что множество возможных переходов К таково, что область определения функционала Fm не пуста. ПРи обычных математических предположениях максимум достигается.

Как известно, задача (1) часто возникает во многих прикладных  экономических и эконометрических областях, в макроэкономике, в логистике (управлении запасами) (см., например, монографию [1]).

            Широко предлагаются, исследуются и применяются модели, приводящи5 к следующему частному случаю задачи (1):

Это - модели с дисконтированием (как известно,  - дисконт-фактор). Естественно попытаться выяснить, какими "внутренними" свойствами выделяются задачи типа (2) из всех задач типа (1). В частности, почему такой большой популярностью пользуется характеристика инвестиционного проекта NPV (Net Present Value - чистая текущая стоимость), относящаяся к характеристикам дисконтированного типа.

            Представляет интерес изучение и сравнение между собой планов возможного экономического поведения на k шагов  и . (Естественно, предполагаем, что все пары соседних элементов входят в множество К.) Естественно сравнение проводить с помощью описывающих результаты экономической деятельности функций, участвующих в задачах (1) и (2). Именно, будем говорить, что план Х1 лучше плана Х2  при реализации с момента i, если

                         

            (3)

Будем писать Х1 R(i)Х2 , если выполнено неравенство (3), где R(i) - бинарное отношение на множестве планов, задающее упорядочение планов отношением "лучше".

            Ясно, что упорядоченность планов на k шагов, определяемая с помощью бинарного отношения R(i), может зависеть от i, т.е. "хорошесть" плана зависит от того, с какого момента i он начинает осуществляться. С точки зрения реальной экономики это вполне понятно. Например, планы действий, вполне рациональные для периода стабильного развития, никуда не годятся в период гиперинфляции. И наоборот, приемлемые в период гиперинфляции операции не принесут эффекта в стабильной обстановке. 

            Однако, как легко видеть, в моделях с дисконтированием (2) все упорядочения R(i) совпадают, i = 1,2, …,m-k. Оказывается - это и есть основной результат настоящего подпункта - верно и обратное: если упорядочения совпадают, то мы имеем дело с задачей (2) - с задачей с дисконтированием, причем достаточно совпадения только при k=1,2. Сформулируем более подробно предположения об устойчивости упорядочения планов.

            (I). Пусть  Верно одно из двух: либо

для всех  либо

для всех

            (II). Пусть  Верно одно из двух: либо

для всех  либо

для всех

            Как впервые подробно показано в работе [16], при некоторых внутриматематических условиях регулярности  из условий устойчивости упорядоченности планов (I) и (II) следует существование констант  и таких, что

            Поскольку прибавление константы не меняет точки, в которой функция достигает максимума, то последнее соотношение означает, что условия устойчивости упорядоченности планов (I) и (II) характеризуют (другими словами, однозначно выделяют) модели с дисконтированием среди всех моделей динамического программирования.

            Как и в случае проблем устойчивости результата сравнения средних в теории измерений (см. главу 3), проблему характеризации моделей с дисконтированием нетрудно выразить на языке общей схемы устойчивости. Речь идет о проблеме Б. Подробности оставляем читателю (см. также монографию [1]).

            Математические условия, при которых доказывалась теорема о характеризации моделей с дисконтированием, постепенно ослаблялись на протяжении 1970-х годов (см. об этом в [1]), однако на экономическую сторону дела эти внутриматематические усовершенствования не влияли.

            Асимптотически оптимальные планы. Рассмотрим модель (2) с

При естественных математических предположениях, на которых не будем останавливаться, при каждом m существует оптимальный план  при котором достигает максимума оптимизируемая функция. Поскольку выбор горизонта планирования нельзя рационально обосновать, хотелось бы построить план действий, близкий к оптимальному при различных горизонтах планирования. Это значит, что целью является построение бесконечной последовательности  такой, что ее начальный отрезок длины m, т.е. , дает примерно такое же значение оптимизируемого функционала, как и значение для оптимального плана  Бесконечную последовательность  назовем асимптотически оптимальным планом.

Выясним, можно ли использовать для построения асимптотически оптимального плана непосредственно оптимальный план. Зафиксируем k и рассмотрим последовательность . Нетрудно построить примеры, показывающие, что, во-первых, элементы в этой последовательности будут меняться; во-вторых, они могут не иметь пределов. Следовательно, оптимальные планы могут вести себя крайне нерегулярно, а потому в таких случаях их нельзя использовать для построения асимптотически оптимальных планов.

Тем не менее можно доказать (соответствующая экономико-математическая теория развита в главе 5 монографии [1]), что асимптотически оптимальные планы существуют, т.е. можно указать такие бесконечные последовательности , что

Таким образом решается проблема горизонта планирования - надо использовать асимптотически оптимальные планы, не зависящие от горизонта планирования.  Интересно, что оптимальная траектория движения состоит из трех участков - начального, конечного и основного, а основной - это движение по магистрали. Полная аналогия с движением автотранспорта: чтобы попасть куда-либо, нужно сначала выехать на магистраль (шоссе), подъехать по хорошей дороге возможно ближе к цели, потом преодолеть заключительный участок.

            Обсуждение проблем устойчивости будет продолжено в дальнейших главах книги.

 

Цитированная литература

 

1. Орлов А.И. Устойчивость в социально-экономических моделях. - М.: Наука, 1979. -296 с.

2. Менеджмент. Учебное пособие / Под ред. Ж.В. Прокофьевой. - М.: Знание, 2000. -288 с.

3. Гнеденко Б.В. Курс теории вероятностей: Учебник. - Изд. 6-е, перераб. и доп. - М.: Наука, Гл. ред. физ.-мат. лит., 1988. - 448 с.

4. Смоляк С.А., Титаренко Б.П. Устойчивые методы оценивания: Статистическая обработка неоднородных  совокупностей. - М;: Статистика, 1980. - 208 с.

5. Хьюбер П. Робастность в статистике. - М.: Мир, 1984. - 304 с.

6. Хампель Ф., Рончетти Э., Рауссеу П., Штаэль В. Робастность в статистике. Подход на основе функций влияния. - М.: Мир, 1989. - 512 с.

7. Эльясберг П.Е. Измерительная информация. Сколько ее нужно, как ее обрабатывать? - М.: Наука, 1983. - 208 с.

8. Гнеденко Б.В., Колмогоров А.Н. Предельные распределения для сумм независимых случайных величин. - М.-Л.: ГИТТЛ, 1949. 264 с.

9. Ибрагимов И.А., Хасьминский Р.З. Асимптотическая теория оценивания. -М.: Наука, 1979. 528 с.

10. Смирнов Н.В. Оценка расхождения между эмпирическими кривыми распределения в двух независимых выборках. // Бюллетень. МГУ им. М.В. Ломоносова. Сер. А. 1939. Т.2. № 2. С.3-14.

11. Гнеденко Б.В., Королюк В.С.О максимальном расхождении двух эмпирических распределений. // Доклады АН СССР. 1951. Т.80. № 4. С.525-528.

12. Методика. Проверка однородности двух выборок параметров продукции при оценке ее технического уровня и качества. - М.: Всесоюзный научно-исследовательский институт стандартизации Госстандарта СССР, 1987. - 116 с. 

13. Камень Ю.Э., Камень Я.Э., Орлов А.И. . Реальные и номинальные уровни значимости в задачах проверки статистических гипотез // Заводская лаборатория. 1986. Т. 52. №. 12. С. 55-57.

14. Левин Б.Р., Демидович Н.О. Использование непараметрических методов при обработке результатов испытаний на надежность. // Надежность средств связи. - Киев: Технiка, 1976. - С.59-72.

15. Блехман И.И., Мышкис А.Д., Пановко Я.Г. Механика и прикладная математика: Логика и особенности приложений математики. - М.: Наука, 1983. - 328 с.

16. Orlov A. Sur la stabilite' dans les modeles economiques discrets et les modeles de gestion des stocks. // Publications Econometriques. 1977. Vol.X. F. 2. Pp.63-81.

Эконометрика   к теории и практике обработки информации   теория иерархий   к экон. информатике   к комп. моделированию  

Знаете ли Вы, что релятивистское объяснение феномену CMB (космическому микроволновому излучению) придумал человек выдающейся фантазии Иосиф Шкловский (помните книжку миллионного тиража "Вселенная, жизнь, разум"?). Он выдвинул совершенно абсурдную идею, заключавшуюся в том, что это есть "реликтовое" излучение, оставшееся после "Большого Взрыва", то есть от момента "рождения" Вселенной. Хотя из простой логики следует, что Вселенная есть всё, а значит, у нее нет ни начала, ни конца... Подробнее читайте в FAQ по эфирной физике.

НОВОСТИ ФОРУМА

Форум Рыцари теории эфира


Рыцари теории эфира
 10.11.2021 - 12:37: ПЕРСОНАЛИИ - Personalias -> WHO IS WHO - КТО ЕСТЬ КТО - Карим_Хайдаров.
10.11.2021 - 12:36: СОВЕСТЬ - Conscience -> РАСЧЕЛОВЕЧИВАНИЕ ЧЕЛОВЕКА. КОМУ ЭТО НАДО? - Карим_Хайдаров.
10.11.2021 - 12:36: ВОСПИТАНИЕ, ПРОСВЕЩЕНИЕ, ОБРАЗОВАНИЕ - Upbringing, Inlightening, Education -> Просвещение от д.м.н. Александра Алексеевича Редько - Карим_Хайдаров.
10.11.2021 - 12:35: ЭКОЛОГИЯ - Ecology -> Биологическая безопасность населения - Карим_Хайдаров.
10.11.2021 - 12:34: ВОЙНА, ПОЛИТИКА И НАУКА - War, Politics and Science -> Проблема государственного терроризма - Карим_Хайдаров.
10.11.2021 - 12:34: ВОЙНА, ПОЛИТИКА И НАУКА - War, Politics and Science -> ПРАВОСУДИЯ.НЕТ - Карим_Хайдаров.
10.11.2021 - 12:34: ВОСПИТАНИЕ, ПРОСВЕЩЕНИЕ, ОБРАЗОВАНИЕ - Upbringing, Inlightening, Education -> Просвещение от Вадима Глогера, США - Карим_Хайдаров.
10.11.2021 - 09:18: НОВЫЕ ТЕХНОЛОГИИ - New Technologies -> Волновая генетика Петра Гаряева, 5G-контроль и управление - Карим_Хайдаров.
10.11.2021 - 09:18: ЭКОЛОГИЯ - Ecology -> ЭКОЛОГИЯ ДЛЯ ВСЕХ - Карим_Хайдаров.
10.11.2021 - 09:16: ЭКОЛОГИЯ - Ecology -> ПРОБЛЕМЫ МЕДИЦИНЫ - Карим_Хайдаров.
10.11.2021 - 09:15: ВОСПИТАНИЕ, ПРОСВЕЩЕНИЕ, ОБРАЗОВАНИЕ - Upbringing, Inlightening, Education -> Просвещение от Екатерины Коваленко - Карим_Хайдаров.
10.11.2021 - 09:13: ВОСПИТАНИЕ, ПРОСВЕЩЕНИЕ, ОБРАЗОВАНИЕ - Upbringing, Inlightening, Education -> Просвещение от Вильгельма Варкентина - Карим_Хайдаров.
Bourabai Research - Технологии XXI века Bourabai Research Institution