1-23 RAR 0009-0001-0173-4992 Колотова Арина Александровна МФТИ kolotova.aa@phystech.edu Kolotova A.A. MIPT 8085-6000 0000-0002-1356-5137 Орлов Юрий Николаевич Институт прикладной математики им. М.В.Келдыша РАН ov31509f@yandex.ru Orlov Y.N. Keldysh Institute of Applied Mathematics RAS Моделирование предикторов разладок в нестационарном временном ряде Modeling of disorders predictors for non-stationary time-series Формулируется методика моделирования ансамбля траекторий временного ряда, в котором происходят случайные переключения между заданным набором состояний. Вводится промежуточный базис для прогнозирования направления перехода. Предложена модель предиктора перехода как минимального расстояния от текущего выборочного распределения до эталонов промежуточного базиса. Предложена структура программного комплекса, позволяющего проводить комплексный анализ нестационарных временных рядов, включая нахождение системы базисных эталонов в зависимости от длины окна сканирования. In this work a methodology for modeling an ensemble of time series trajectories with random switches between a given set of states is formulated. An intermediate basis is introduced to predict the direction of the transition. A model of the transition predictor is proposed as the minimum distance from the current sample distribution to the intermediate baseline standards. The structure of a software package is proposed that allows for a comprehensive analysis of non-stationary time series, including finding a system of reference patterns depending on the length of the scanning sample. Введение В настоящей работе описывается методика моделирования нестационарного временного ряда с помощью генерации ансамбля его возможных траекторий. Рассматривается определенный класс временных рядов, допускающих трактовку разладки как перехода между стационарными состояниями. Под состоянием мы будем понимать определенную функцию распределения практически измеряемых значений, характеризующих изучаемую систему. Статистический анализ разладок – одна из активно развивающихся областей математической статистики. Разладкой называется отклонение контролируемых параметров анализируемой системы от нормативных пределов. В статистическом смысле классической разладкой называется изменение одного стационарного распределения случайной величины на другое (тоже стационарное), произошедшее в случайный момент времени. Одним из основных подходов к обнаружению однократной разладки является метод кумулятивных сумм (см. [1-4]), который использует метод максимального правдоподобия. В нашей работе рассматриваются модели временных рядов, имеющих множественные разладки. Основной задачей работы является не поиск разладки, а моделирование временных рядов с переключениями. Такие модели в ряде практических примеров позволяют построить эффективный предиктор разладки, как это было сделано, например, в [5]. Напомним [6], что распределение называется стационарным в широком смысле, если среднее значение и дисперсия случайной величины не меняются во времени. Стационарность в узком смысле означает, что все конечномерные распределения не меняются во времени. Под нестационарными временными рядами мы будем понимать ряды, функция распределения которых нестационарна. Существуют разные модели нестационарного поведения случайной наблюдаемой величины. В статистической физике часто используются модели локально-равновесных распределений (см., напр., [7]), когда плотность распределения зависит от параметров, характеризующих систему в равновесии (например, от температуры и плотности), но сами эти параметры зависят от времени. В эконометрике применяются модели временных рядов, которые становятся стационарными после применения разностного дифференцирования (так называемые коинтегрированные временные ряды [8, 9]). В нашей работе рассматриваются ряды, выборочные распределения которых анализируются в рамках непараметрической статистики. Никаких особых ограничений на последовательность значений случайной величины не накладывается. Однако формулируется модель перехода системы из одного состояния в другое. Под состоянием, как сказано выше, подразумевается некоторая стационарная функция распределения параметров системы. По предположению модели, нестационарность порождается тем, что в случайные моменты времени, распределение которых не является стационарным, происходит разладка – спонтанное изменение вероятностных характеристик временного ряда, которое может сигнализировать о смене состояния системы. Непараметрический анализ нестационарных временных рядов направлен на изучение изменения выборочных распределений этих рядов с течением времени. Уравнения, описывающие эволюцию функций распределения, называются кинетическими. В таких уравнениях предполагается, что эволюционирует некоторая динамическая система с большим числом степеней свободы, а функция распределения вводится для сокращения описания. Если динамическая система в явном виде не дана, то задача становится обратной: по виду эволюции эмпирического распределения надо построить модель временного ряда как некоторой динамической системы. Этот подход был развит в [10]. Стандартный анализ временных рядов строится на предположении об их стационарности в том или ином смысле. Тогда анализ достаточно длинной выборки позволяет построить модель аппроксимации средних значений тех или иных функционалов, поскольку для стационарных случайных процессов выборочное распределение сходится по вероятности к теоретическому. Кроме того, отклонения выборочных моментов от их теоретических значений имеют асимптотически нормальное распределение. Еще одно преимущество стационарных рядов состоит в том, что для них можно строить прогнозы с использованием теоремы Вальда, которая говорит, что стационарный процесс можно разложить на детерминированную составляющую, для которой нетрудно составить прогноз на любое время вперед, и чисто случайную – регулярный белый шум. Последний является стационарным процессом с константным Фурье-разложением. Для анализа стационарных временных рядов широко используются как регрессионные и автокорреляционные модели, так и модели, основанные на методе скользящих средних [11]. Метод автокорреляции позволяет анализировать временные ряды, выявляя взаимосвязи между значениями последовательности на разных временных интервалах. Метод скользящих средних используется для сглаживания временных рядов с целью выявления долгосрочных трендов и сезонности, уменьшения влияния краткосрочных колебаний и шума на анализ данных. Также существует множество статистических тестов [12], которые помогают классифицировать случайный процесс и выбрать для него подходящую модель. В практических задачах часто используется критерий Колмогорова для проверки соответствия выборочного распределения стационарному. На его основе были разработаны и другие критерии, такие как критерий Колмогорова-Смирнова, Вальда-Волфовица, Вилкоксона, Манна-Уитни и другие, которые применяются для анализа распределений и выборочных моментов. Стационарные методы статистического анализа получили широкое применение, обладая такими достоинствами, как математическая обоснованность теории и применимость в различных задачах теории и практики управления. Эти методы активно используются в моделировании и прогнозировании процессов, рассматриваемых в различных областях науки. Среди достоинств этих методов также можно выделить сравнительную экономность по количеству оцениваемых параметров и доступность в реализации. Наиболее активно используемыми при моделировании сложных процессов являются регрессионные модели. Эти модели прогнозирования представляют собой функцию, которая связывает независимую переменную и параметры с добавленной случайной переменной, что позволяет учитывать случайные колебания. Одной из наиболее используемых статистических моделей прогнозирования является модель авторегрессии – проинтегрированного скользящего среднего (ARIMA, иногда называемая моделью Бокса-Дженкинса), cочетающая три компоненты: во-первых, в результате применения авторегрессии описывается зависимость текущего значения ряда от его предыдущих значений. Во-вторых, для устранения тренда вычисляются разности между последовательными значениями. В-третьих, метод скользящих средних сглаживает временной ряд путем замены каждого значения временного ряда на среднюю величину, рассчитанную по определенному числу соседних значений. Модели ARIMA и ее производные используются для сравнительной оценки эффективности новых разработок. Отметим также подходы к созданию статистических моделей как на основе синтеза новых классов из уже существующих, так и на основе декомпозиции [13]. Удачным примером является гибридная математическая модель, расмотренная в работе [14]. Она основана на совместном использовании двух классических методов с хорошим теоретическим обоснованием: это комбинация детерминированного метода «Гусеница»–SSA и статистического метода Бокса-Дженкинса, при подходящем подборе параметров показывающая высокую эффективность в сравнении с моделями SARIMA и SARIMAX на временных рядах потребления электроэнергии и природного газа. Еще одно актуальное направление разработки новых моделей сочетает модели ARIMA с нейронными сетями, что рассматривается в большом числе исследований [15-18]. Однако у классических методов прогнозирования есть существенные ограничения: они предназначены для работы с линейными и стационарными временными рядами. Очевидную проблему составляет то, что большинство процессов реальных физических систем не являются ни линейными, ни стационарными. Поэтому для анализа данных, которые не соответствуют регрессионным моделям, часто применяются различные адаптивные методы, предполагающие возможность описать определенный участок ряда стационарной моделью, параметры которой корректируются по мере поступления новой информации. Кроме того, длина участка, на котором ряд можно считать стационарным, неизвестна, и тренд может внезапно измениться. После момента разладки ранее рассчитанные характеристики распределения теряют свою точность и не могут надёжно предсказывать дальнейшее поведение временного ряда. Из-за нестационарности невозможно собрать достаточно данных временного ряда для построения полной генеральной совокупности. В серии работ [19, 20, 21] приведены непараметрические критерии оценки данных, основанные на методах моделирования Монте-Карло. Однако стоит отметить, что и эти методы применимы исключительно к стационарным распределениям и не позволяют корректно анализировать нестационарные временные ряды. Подробный обзор таких эвристических методов применительно к практическим задачам содержится в [22]. На основании упомянутого выше можно заключить, что поиск новых методов анализа динамики сложных систем и разработка альтернативных подходы для описания нестационарных временных рядов является необходимой задачей. Можно также сделать вывод, что моделирование временных рядов в настоящее время приобретает большое прикладное значение, требующее в то же время корректного теоретического обоснования. Предлагаемый нами в данном исследовании подход основан на кинетическом описании эволюции распределений случайных параметров. 1. Постановка задачи о моделировании нестационарного временного ряда Моделирование нестационарного временного ряда включает несколько направлений исследований. Во-первых, можно задать набор базисных паттернов в виде функций распределения и задать некоторую функцию от времени, которой будет определяться момент и длительность смены режима – с одного паттерна на другой. Цель моделирования в этой задаче состоит в том, чтобы переход между распределениями осуществлялся в виде динамической системы согласно уравнению Лиувилля. Численная реализация такого подхода была предложена в работе [23]. Во-вторых, можно расширить рамки первой задачи, задавая не просто некоторые паттерны, а классы паттернов, представляющих собой параметрические распределения. В этой постановке можно обсуждать эффективность функционала управления на случайной траектории в зависимости от реализации паттерна с тем или иным значением параметра. В-третьих, можно проанализировать практически наблюдаемый временной ряд и определить его типичные состояния (вышеупомянутые паттерны), а также времена перехода между состояниями и поток таких событий. Совокупность этих трех задач, решаемых в рамках единого подхода построения ансамбля траекторий случайного процесса с задаваемыми априори или определяемыми из эксперимента свойствами, составляет содержание данного исследовательского проекта по разработке инструментария для анализа временного ряда и оптимизации функционала стохастического управления на его траектории. Итак, рассматривается нестационарный временной ряд , т.е. такой, для которого его функция распределения не является стационарной. Время считается обычно дискретной величиной, меняющейся с шагом . Наблюдаемая величина имеет некоторую конечную размерность . В данной работе считаем, что . Сформулируем основные предположения о модели временного ряда. Предполагается, что этот ряд состоит из данных, которые производятся некоторой реальной системой, т.е. физическим объектом. Предполагается также, что идеальное функционирование системы отвечает ее пребыванию в некотором определенном состоянии, которое описывается стационарной функцией распределения. Число возможных состояний в общем случае заранее не известно, но считается, что каждому состоянию отвечает определенная стационарная функция распределения наблюдаемых данных. Во многих моделях разладка понимается как мгновенное изменение свойств системы. Мы, однако, будем исходить из предположения, что переход от одного состояния к другому в реальной физической системе происходит за некоторое конечное время. Собственно, это и дает возможность поставить задачу о предикторе разладки. Следуя [23], рассмотрим последовательность переходов между заданными состояниями. Обобщением предложенного ранее метода моделирования является возможность задания времени перехода как случайного процесса. Для моделирования предиктора разладки предлагается следующий подход, основанный на кинетическом описании эволюции распределений случайных параметров . Если предположить, что наблюдаемые случайные значения порождены некоторой динамической системой, то уравнение эволюции плотности распределения этих значений описывается уравнением Лиувилля: . (1) Эволюция состоит в том, что функция распределения меняется. Поэтому надо построить модель, в рамках которой такое изменение может быть количественно описано и, что также важно, приложено к практическим ситуациям, возникающим при анализе потоков случайных данных. Пусть система может находиться в одном из состояний, каждое из которых описывается стационарной функцией распределения . Плотность этого распределения обозначим . Пока система находится в определенном состоянии , ее наблюдаемые данные берутся из распределения . В основе алгоритмов генерации траектории из значений временного ряда с заданной непрерывной плотностью функции распределения , для которой есть ее функция распределения, лежит утверждение о равномерном распределении на отрезке функции распределения как случайной величины. При моделировании это реализуется следующим образом. Генерируется произвольная последовательность чисел , равномерно распределенных на , после чего по формуле обращения (2) получается набор чисел , имеющих нужное распределение. Если требуется сгенерировать ансамбль траекторий, то генерируется достаточно большое число выборок длины из равномерного распределения , для каждой из которых решается уравнение (2) и получается набор траекторий . Естественно, что перед генерацией траектории длины надо задать саму длину , которая тоже может быть случайной величиной с некоторой функцией распределения . Эти величины генерируются аналогично тому, как это описано в (2). Пусть задано полное время , в течение которого происходит процесс последовательного переключения между состояниями с распределениями . Тогда для моделирования траектории нам надо задать последовательность паттернов, т.е. последовательность номеров , времен , определяющих априорную длительность пребывания системы в состоянии , а также последовательность времен , определяющих время перехода между состояниями и . Ограничением является условие . Последовательности времен пребывания и времен перехода составляются до тех пор, пока сумма не будет равна заданной длине . Затем генерируется следующая траектория и т.д. В последующих разделах эти задачи будут рассмотрены более подробно. 2. Уравнение Лиувилля и промежуточный базис Пусть в начальный момент времени задана плотность распределения . Через некоторый промежуток времени, равный , плотность стала равной . Рассмотрим задачу с закрепленными концами относительно плотности функции распределения. Запишем уравнение (1) в разностной форме, аппроксимируя производные правыми разностями и считая для удобства шаги по времени и по пространству единичными. Пространственная область равномерно разбита на ячеек. Тогда уравнение (1) в таком разностном шаблоне имеет вид . (3) Пусть переход осуществился за единичное время: . Тогда, зная функции и , можно определить подходящую скорость , которая соответствует такому переходу. Для этого перепишем уравнение (3) в виде (4) и будем рекуррентно разрешать его относительно скоростей , считая известной скорость в нулевой граничной ячейке: . Тогда получаем для скорости в первой ячейке значение нулевое значение, а для скорости во второй ячейке имеем . Аналогично получаем для выражение . (5) Из (5) следует, что вычисления корректны, если во всех внутренних ячейках начальная плотность отлична от нуля. Далее будем предполагать, что это условие выполнено. Следуя [24], найденную скорость в (5) будем называть скоростью макроэволюции. В [24] также построена модель микроэволюции, когда переход между распределениями осуществляется за отсчетов. Опишем кратко эту схему, поскольку она лежит в основе генерации случайной траектории системы. Обозначим скорость изменения плотности в -м классовом интервале через . Целью моделирования является представление перехода от к в виде последовательно выполняемых шагов. В [24] показано, что скорость макроэволюции в правосторонней разностной схеме первого порядка аппроксимации уравнения Лиувилля в общем случае не может быть представлена как сумма скоростей микроэволюции, возникает эффект схемного случайного блуждания. В такой схеме найденное численно на шаге значение плотности не может служить начальным условием той же задачи, но продолжаемой для моментов времени Поскольку моделирование временного ряда представляет собой его аппроксимацию в виде динамической системы, надо построить такую схему, в которой полугрупповое свойство уравнения Лиувилля при численном воспроизведении выборочного распределения выполняется. Такая модель и была реализована в [24]. В этой модели аппроксимируется эволюция плотности распределения от начального момента времени до момента в рамках линейной по времени модели. Скорость в -й ячейке на шаге моделируется формулой . (6) Из (3) тогда следует, что (7) В [24] показано, что такой подход позволяет ввести некоторую новую скорость так, что она описывает полугрупповой (то есть в вычислительном плане – итерационный) переход от момента к моменту согласно (3), т.е. (8) Действительно, из (3), (6) получаем рекуррентно разрешаемую систему: (9) Знаменатель в выражениях (9) для всегда положителен, и тогда корректно определена скорость в уравнении Лиувилля (8). Построенная разностная схема позволяет получить аппроксимацию решения уравнения Лиувилля на заданном временном горизонте в задаче с закрепленными концами, то есть при заданных начальном и конечном распределениях. Это решение дается следующей аппроксимацией плотности функции распределения по времени в виде (10) Таким образом, плотность функции распределения в промежуточные времена в такой задаче известна, и ее эволюция сохраняет динамический поток. Далее, в соответствии с (7) заключаем, что значения временного ряда на промежутке от 0 до T, полученные как значения случайной величины с распределениями в каждый момент времени , образуют выборку из среднего распределения : . (11) Если , то вторым слагаемым в (11) можно пренебречь. Тогда на переходном процессе от до будет наблюдаться временной ряд значений с функцией распределения . Таким образом, если у нас имеется набор из базисных паттернов с распределениями , то переходный период характеризуется набором из распределений , (12) которые мы будем называть переходным или промежуточным базисом. Сравнение распределений текущих выборок с этими промежуточными паттернами позволит предположить, к какому новому состоянию эволюционирует система. 3. Алгоритм моделирования траектории временного ряда Предположим, что нам известны следующие априорные величины: - вероятности реализации каждого из возможных состояний с распределениями ; - функции распределения каждого состояния по длительности пребывания в нем; - условные вероятности того, что после состояния система переходит в состояние ; - распределения длительности переходного процесса. Тогда модель ансамбля из траекторий такой системы со случайными переключениями реализуется следующим образом. Шаг 1. Задается горизонт моделирования , равный полному планируемому количеству значений величины в моменты времени . Шаг 2. Генерируется случайное число из множества в соответствии с распределением вероятностей . Шаг 3. Из распределения , генерируется случайное число , определяющее длительность пребывания системы в данном состоянии. Шаг 4. Генерируется последовательность равномерно распределенных случайных чисел на длины . По формуле (1) определяется последовательность значений из распределения . В численной реализации это происходит следующим образом. Рассматривается M-мерный вектор эмпирических частот (гистограмма плотности распределения) значений, попадающих в -й классовый интервал при равномерном разбиении области определения переменной . Обозначим эти частоты через . При этом разбиение на классовые интервалы таково, что . Для генерации выборки из данного дискретного распределения используем описанный выше метод (2) обращения выборки из равномерного распределения на . Если есть выборка из равномерного распределения, то для получения выборки из непрерывного распределения с функцией надо найти номер классового интервала, которому соответствует данное число , и определить номер классового интервала решения уравнения . Исходный набор эталонных частот представляет собой ступенчатую гистограмму, определяемую формулой (13) Обозначим указанные классовые промежутки через . Непрерывная аппроксимация соответствующей функции распределения (интеграла от гистограммы) имеет вид . (14) Как видно, если все частоты положительны , функция (14) является строго монотонной. Тогда уравнение (2) имеет единственное решение. Для заданного случайного значения находим максимальное значение , которое меньше или равно . В результате получаем, что принадлежит классовому интервалу с номером . Таким образом, построена траектория длины из случайных величин, взятых из распределения . Если , процесс генерации переключений на этом заканчивается. Если же , то переходим к следующему шагу. Шаг 5. Генерируется случайное число из множества в соответствии с распределением вероятностей . Этим числом определяется состояние, в которое система перейдет из состояния . Шаг 6. Из распределения генерируется случайное число , которое определяет длительность переходного процесса. Плотность функции распределения при переходном процессе определяется формулой (7). В каждый момент времени строится случайное число из распределения с плотностью по аналогии с алгоритмом, описанным на шаге 4. Если , процесс генерации переключений на этом заканчивается. Если же , то переходим к следующему шагу. Шаг 7. Возвращаемся к шагу 3, в котором номер состояния определен в соответствии с шагом 5, после чего повторяем процедуру, описанную выше. В результате через конечное число шагов построена траектория случайного процесса со случайными переключениями. Для построения ансамбля таких траекторий описанная процедура повторяется раз. Наличие большого числа реализаций случайного процесса с определенными вероятностными свойствами переключений между состояниями позволит в дальнейшем провести построение предиктора разладки и оптимизировать какие-либо формализованные управляющие функционалы вдоль траекторий. 4. Идентификация текущего состояния и формирование паттернов Для полноты создаваемой методики опишем модель идентификации текущего состояния временного ряда, используя статистику согласованного уровня стационарности [10]. На практике требуется метод отбора фрагментов реального временного ряда для формирования базисных паттернов , а также для идентификации направления перехода от одного известного состояния к другому, пока еще неизвестному. Обе эти задачи – отбор фрагментов и распознавание текущей принадлежности фрагмента – однотипны. В стационарном случае задача о принадлежности двух выборок длины с выборочными функциями распределения (далее ВФР) и одной генеральной совокупности решается статистикой Колмогорова-Смирнова: . (15) Для статистики имеет место асимптотика: , (16) где – табулированная функция Колмогорова. Она представляется суммой ряда . Далее находится согласованный квантиль распределения как стационарная точка уровня значимости для выборок длины : . (17) Решение этого уравнения обозначим . Оно единственно, поскольку правая часть как функция монотонно возрастает с ростом от нуля до единицы, а левая монотонно убывает от единицы до нуля. Будем называть его согласованным уровнем стационарности (СУС). По смыслу решения стационарная точка уровня значимости критерия Колмогорова-Смирнова равна такому расстоянию между двумя выборками длины в смысле нормы C, вероятность превышения которого равна . Этот квантиль не зависит от вида стационарного распределения и потому, как и сам критерий (16), является непараметрическим индикатором однородности выборок. Численно определяемые решения уравнения (17) приведены на рис. 1 и в таблице 1. Рис. 1. Зависимость СУС от длины выборки Таблица 1. СУС для критерия Колмогорова-Смирнова Длина выборки NСУС 1000,181500,162000,142500,123000,104000,095000,0810000,0592620000,0436430000,0364140000,0322050000,02910100000,02135500000,010231000000,00834 Введенное понятие СУС отвечает современным потребностям статистического анализа данных. Если в «докомпьютерную» эпоху на практике анализировали лишь одну выборку, для чего и разрабатывались критерии значимости, то в настоящее время часто приходится проводить анализ в скользящем окне, что требует проверки стационарности и однородности данных в течение всего времени наблюдения. На этом основании построение эталонных распределений осуществляется следующим способом. Ряд разрезается на непересекающиеся сегменты длины . Затем отбираются те сегменты, которые отвечают, по мнению эксперта, определенным состояниям системы, имеющим значение для анализа. Эти сегменты образуют начальные элементы кластеров. После этого остальные сегменты сравниваются с отобранными в норме C. Если расстояние оказывается меньше СУС, то сравниваемый сегмент помещается в соответствующий кластер. Если есть несколько кластеров, удовлетворяющих данному условию, то выбирается тот, расстояние до которого минимально. После того, как все сегменты были перебраны, рассматриваются полученные из них кластеры. В каждом кластере строятся попарные расстояния между отобранными сегментами по формуле (15). Затем для этих расстояний строится их выборочная функция распределения и численно решается уравнение . Если полученное решение не превосходит , то все элементы кластера подобраны верно и из них можно построить эталон класса как среднее распределение элементов класса. Если же решение больше, чем СУС, то из класса исключаются сегменты, которые дают вклад в хвостовую часть распределения расстояний. Исключение происходит до тех пор, пока элементы кластера не будут удовлетворять условию СУС. Далее текущее выборочное распределение сравнивается с одним из эталонов библиотеки. Минимальное расстояние дает наиболее вероятного кандидата на роль текущего состояния. Однако, говоря об использовании метода ближайших соседей для задачи распознавания образов, следует представлять, каких практических результатов в смысле точности можно ожидать, если требуется распознать, из какой генеральной совокупности взята та или иная выборка. Сложность анализа связана с тем, что точность распознавания выборки из некоторого многомерного эталонного распределения зависит не только от того, как далеко она находится от своего эталона, но и от количества и вариантов расположения других эталонов. Поэтому, если требуется определить, с какой вероятностью некоторая выборка может быть правильно распознана среди заданной системы эталонных распределений, требуется провести вычислительный эксперимент именно для заданной системы эталонов. Важно, что результат такого тестирования будет иметь значение только для данной системы эталонов, поскольку точность распознавания зависит также и от взаимного расположения эталонов. Система из других эталонов будет обладать, вообще говоря, другой разрешающей способностью. Представляется необходимым снабдить компьютерную программу моделирования переходов во временном ряде, для которого задана или эмпирически построена система эталонов, подпрограммой тестирования этой системы на предмет точности распознавания выборок в зависимости от их длины. Модель создания соответствующего бенчмарка была описана в [25]. Мы используем ее как составную часть создаваемого программного комплекса для анализа и моделирования нестационарных временных рядов с переключениями. Пусть рассматривается случайный n-мерный вектор . При этом . Для генерации выборки из данного дискретного распределения используем описанный выше метод обращения выборки из равномерного распределения на . Как и ранее, для удобства численного решения уравнения (2) преобразуем набор эталонных частот в ступенчатую гистограмму, определяемую формулой (18) Обозначим указанные классовые промежутки через . Соответствующая функция распределения имеет вид . (19) Аналогичную гистограмму, составленную из частот второго эталона (альтернативы), обозначим , а функцию распределения – через . Формулы для них аналогичны формулам (18), (19). Далее для каждого элемента равномерной выборки определяем номер классового интервала так, что . В результате находим число попаданий элементов выборки в промежутки . Конкретные значения элементов находятся из (19) обращением линейной функции: . (20) Если мы хотим протестировать полученную выборку на предмет ее близости к другому распределению с функцией , , то следует проверить, насколько элементы близки к равномерному распределению. Если получаемая таким образом выборка элементов (21) оказывается ближе к равномерному распределению, чем выборка , то будет фиксироваться ошибка идентификации. Выборка как выборка из равномерного распределения имеет некоторые выборочные частоты, которые обозначим через . Получаемая обратным преобразованием выборка имеет частоты, обозначаемые . В норме L1 рассматриваем суммы (22) Если , то распознавание имеет правильный результат, а если наоборот, то ошибочный. Аналогично можно провести сравнение на близость и в норме C. Однако на практике для целей идентификации норма L1 оказывается эффективнее. 5. Оценка вероятности перехода между состояниями После того, как по наблюдаемому достаточно большому фрагменту ряда построен базис эмпирических эталонных распределений, которым можно поставить в соответствие отдельные сегменты этого ряда, надо провести вычислительный эксперимент по определению точности идентификации выборочных распределений в зависимости от длины выборки. Для этого генерируется достаточно большое количество выборок из каждого эталонного распределения и методом ближайшего соседа в норме L1 определяется наиболее вероятный эталон. Перебираются все практически актуальные длины выборок, и строится зависимость ошибки распознавания выборки в данном базисе от ее длины. Это тестирование позволит провести в дальнейшем распознавание состояния на заданном уровне значимости. Также по наблюдаемым данным строится распределение состояний по времени пребывания в них системы и определяется оптимальная ширина окна сканирования (параметр T) для идентификации локального состояния временного ряда. Пусть выяснено, что на выбранном промежутке времени система некоторое время находится в состоянии так, что ее эмпирическое распределение на этом промежутке представляет собой линейную комбинацию эталонных распределений с весами : . (23) Формула (23) определяет выборочную функцию распределения, построенную по данным . Наибольшая вероятность дает наиболее вероятное состояние системы на заданном промежутке времени. Понятно, что если задать слишком большой промежуток наблюдения , то все возможные состояния будут в нем представлены и мы определим не текущее состояние системы, а то, в котором система была самое продолжительное время. Сама же эмпирическая вероятность пребывания в состоянии будет мала для принятия управляющего решения. С другой стороны, если задать слишком короткий промежуток наблюдения, то самих данных для построения функции распределения может быть недостаточно для корректной его идентификации. Поэтому необходимо оптимизировать размер выборки для сканирования, что в условиях нестационарного поведения представляет задачу, решаемую регулярно, а не один раз в начале исследования. В модели эволюции в рамках уравнения Лиувилля относительно выборочной плотности функции распределения (ВПФР) изменение плотности по времени связано с изменением совместной плотности распределения случайных координат и их приращений , разностной формой которых является . Именно, уравнение Лиувилля для выборочного распределения в дифференциальной форме имеет вид . (24) При дискретизации производные по трактуются как сдвиги на единичный шаг, а по пространству как разности соответствующих функций в соседних классовых интервалах. Одномерная ВПФР определяется затем по двумерной совместной ВПФР формулой . (25) Скорость изменения ВПФР определяется по формуле . (26) Из (23) следует, что . Тогда производная ВПФР по времени запишется в виде . (27) Сравнивая (27) с (24), находим, что имеет место равенство . (28) Из (28) следует, что если вероятности перехода стационарны, то правая часть (28) равна нулю. Поскольку зависимость от входит в (28) только в стационарные базовые функции, то в этом случае и производная по времени ВПФР в (27) также равна нулю. Таким образом, целью моделирования разладки в таком временном ряде является модель изменения вероятностей . Заметим теперь, что скорость известна из (26). Тогда для моделирования правой части (28) можно поступить следующим образом. В численной схеме координата разбивается на классовых интервалов, так что базисная функция становится -мерным вектором , где меняется от 1 до . Таким же вектором является и правая часть (28). Формально можно ввести обычное скалярное произведение таких векторов, полагая . (29) В силу того, что это скалярное произведение между базисными функциями, полученная матрица (29) не вырождена. Обозначим ее . Далее определим скалярное произведение . (30) Тогда вероятности перехода в (28) могут быть определены: . (31) Следовательно, если известны базисные функции распределения и эмпирическая скорость , то может быть определена вероятность перехода в правой части уравнения (28), т.е. может быть построена модель переключений между состояниями. С другой стороны, если в результате анализа некоторой последовательности выборок длины из практически наблюдаемого ряда данных найдены вероятности переключений, т.е. поток событий типа «разладка», то формула (28) может быть использована для моделирования эволюции выборочных распределений. 6. Идентификация направления перехода и предиктор разладки Пусть в результате предыдущих исследований определены эталонные распределения состояний временного ряда (библиотека эталонов) , где – длина выборки, по которой собирались эталоны, нумерует состояние, а – измеряемая случайная величина. Также выбрана норма близости между распределениями – обычно это гистограммная норма L1 . (32) Для идентификации текущего состояния временной ряд сканируется окном длины , так что в каждый момент времени (или для каждого номера элемента ряда) известна выборочная функция распределения или, соответственно, гистограмма . Здесь аргумент отвечает номеру первого элемента выборки длины , по которой строится эта функция распределения. Также в каждый момент времени вычисляется расстояние от текущего фрагмента до эталонного распределения: . (33) Находится минимальное по всем расстояние, которое и определяет по методу ближайшего соседа, к какому состоянию относится текущий фрагмент. Однако если это расстояние больше, чем СУС, то считаем, что фрагмент находится в переходном состоянии. Чтобы определить, к какому другому эталону осуществляется переход, предлагается ввести переходный базис. Предположим, что в некоторый момент начинается переход (мгновенный) из состояния в состояние . Тогда в момент у нас фиксируется состояние в том смысле, что меньше, чем СУС . Далее будет наблюдаться ситуация, когда расстояния от текущей выборки до любых эталонных распределений будут больше, чем СУС. Но через время мы зафиксируем состояние . Следовательно, наблюдаемая выборка в течение времени перехода будет линейно переходить от к . Тогда текущая меняющаяся плотность функции распределения будет иметь вид (34) На практике, естественно, будет наблюдаться отклонение текущей выборочной плотности от комбинированного переходного эталона (34), т.е. расстояние до него в некоторые моменты времени может быть больше, чем СУС. Желательно определить направление перехода к состоянию с наилучшей точностью, но понятно, что такая точность будет достигнута постфактум. Поэтому более важным является как можно более раннее обнаружение правильного направления перехода, т.е. нахождение момента времени n, при котором на заданном уровне значимости будет спрогнозирован переход. В соответствии с (11, 12) переходным эталоном естественно назвать функцию (34), получающуюся при сдвиге на промежуток времени, равный половине длины выборки. Тогда введем . (35) Эти эталоны могут считаться идентификаторами перехода только в том случае, если расстояния от них до основных эталонов больше, чем СУС, т.е. если . (36) Если система допускает условие реализации (36), то предиктор перехода по близости именно к данному переходному эталону может тестироваться на предмет оценки точности предсказания. Дальнейшее развитие этой идеи предполагает построение модели временного ряда, которая могла бы использоваться в качестве тестирования управления таким случайным процессом. Например, можно было бы построить ансамбль траекторий, случайные переходы между состояниями которых отвечают найденным эмпирическим закономерностям. После этого на таком пучке траекторий можно тестировать некоторый управляющий функционал и получить распределение его премий и штрафов, после чего определить оптимальные параметры управления на том или ином уровне значимости. Заключение В данной работе представлена концепция разработки программного комплекса для тестирования управляющих функционалов, заданных на траектории нестационарного временного ряда. Программный комплекс состоит из следующих блоков. Основной блок – это библиотека эталонных функций распределения, снабженных распределениями длительности пребывания в каждом состоянии, распределениями времени перехода между состояниями и вероятностями перехода. Вспомогательный блок содержит алгоритмы формирования библиотеки эталонных функций распределения для заданных длин выборок, если анализируется эмпирический временной ряд. В комплекс также включен модуль тестирования системы эталонов на точность идентификации выборок из них. Блок прогноза содержит библиотеку эталонов промежуточного базиса и численные алгоритмы распознавания принадлежности текущей выборки либо заданному состоянию, либо переходному процессу. Для прогнозирования направления перехода используется предиктор разладки как минимальное расстояние между текущей выборкой и эталоном промежуточного базиса. Блок генерации траекторий использует распределения библиотеки эталонов для моделирования ансамбля с множественными разладками. Программный комплекс допускает использование машинного обучения для прогнозирования направления перехода в рамках численных экспериментов по генерации множественных разладок. Описанная методика реализует так называемые резервуарные вычисления, которые могут быть использованы для идентификации временного ряда как динамической системы. 519.246.8 LXLFJY нестационарный временной ряд выборочная функция распределения вероятность разладки распознавание состояния генерация траекторий non-stationary time-series sample distribution function disorder probability state recognition trajectories generation Ширяев А. Н. Статистический последовательный анализ. Оптимальные правила остановки. – М.: Наука, 1976. – 272 с. Ширяев А. Н. Минимаксная оптимальность метода кумулятивных сумм в случае непрерывного времени // Успехи математических наук, 1996. Т. 51, № 4. С. 173-174. Жиглявский А. А., Красковский А. Е. Обнаружение разладки случайных процессов в задачах радиотехники. – Л.: Изд-во ЛГУ, 1988. – 224 с. Бассвиль М. и др. Обнаружение изменения свойств сигналов и динамических систем (пер. с англ.) – М.: Мир, 1989. – 280 с. Кислицын А.А., Козлова А.Б., Корсакова М.Б., Орлов Ю.Н. Индикатор разладки для нестационарных случайных процессов // Доклады РАН, сер. математическая, 2019. Т. 484. № 4. С. 393-396. Королюк В.С., Портенко Н.И., Скороход А.В., Турбин А.Ф. Справочник по теории вероятностей и математической статистике. – М.: Наука, 1985. 640 с. - теория Н. Н. Боголюбов. Проблемы динамической теории в статистической физике. М. – Л.: ГИТТЛ, 1946. – 119 с. Бокс Дж., Дженкинс Г. Анализ временных рядов. Прогноз и управление. – М.: Мир, 1974, 608 с. Кремер Н.Ш., Путко Б.А. Эконометрика. – М.: ЮНИТИ-ДАНА, 2002. – 311 с. Орлов Ю.Н. Кинетические методы исследования нестационарных временных рядов. – М.: МФТИ, 2014. – 276 с. Кизбикенов К.О. Прогнозирование и временные ряды: учебное пособие. – Барнаул: АлтГПУ, 2017. – 115 с. Кобзарь А.И. Прикладная математическая статистика. – М.: Физматлит, 2006. – 816 с. Седов А.В. Моделирование объектов с дискретно-распределенными параметрами: декомпозиционный подход. – М.: Наука, 2010. – 438 с. Щелкалин В.Н. Гибридные модели и методы прогнозирования нестационарных временных рядов // Идентификация систем и задачи управления: Труды X Международной конференции. – М.: Институт проблем управления им. В.А. Трапезникова РАН, 2015. – С. 1395–1463. Sallehuddin R., Shamsuddin S. M., Hashim S.Z.M. Hybridization Model of Linear and Nonlinear Time Series Data for Forecasting // Second Asia International Conference on Modelling & Simulation: Conference Paper. 2008. P. 597-602. Hippert H.S., Pedreira C.E., Souza R.C. Combining Neural Networks and ARIMA Models for Hourly Tem-perature Forecast // Proceedings of the International Joint Conference on Neural Networks: Conference Paper. 2000. P. 1-6. Xuemei L., Lixing D., Ming Sh., Gang X., Jibin L. A Novel Air-conditioning Load Prediction Based on ARIMA and BPNN Model // Asia-Pacific Conference on Information Processing: Conference Paper. P. 51-54. Tian F.P., Ma L.L. Forecast of Cerebral Infraction Incidence Rate Based on BP Neural Network and ARIMA Combined Model // International Symposium on Intelligence Information Processing and Trusted Computing: Conference Paper. 2010. P. 216-219. Орлов Ю.Н., Шагов Д.О. Индикативные статистики для нестационарных временных рядов // Препринты ИПМ им. М.В. Келдыша. 2011. № 53. 20 с. https://library.keldysh.ru/preprint.asp?id=2011-53 Ермаков С.М., Михайлов Г.А. Статистическое моделирование. – М.: Наука, 1982. – 296 с. Кожевников А.С. Программное обеспечение для статистического моделирования и анализа случайных процессов со скачками, описывающих динамику цен акций предприятий авиационной отрасли // Труды МАИ. 2012. Вып. 59. С. 230-242. Андрианова Е.Г., Головин С.А., Зыков С.В., Лесько С.А., Чукалина Е.Р. Обзор современных моделей и методов анализа временных рядов динамики процессов в социальных, экономических и социотехнических системах // Российский технологический журнал. 2020. № 8 (4). С.7-45. Гогуев М.В., Кислицын А.А. Моделирование траекторий временных рядов с помощью уравнения Лиувилля // Компьютерные исследования и моделирование. – 2024. – Т. 16, № 3. – С. 585–598. Кислицын А.А., Орлов Ю.Н. Моделирование эволюции выборочных распределений случайных величин с помощью уравнения Лиувилля // Математическое моделирование. – 2020. – Т. 32, № 1. – С. 111–128. Кислицын А.А., Кислицына М.Ю. Распознавание выборочных распределений среди системы эталонов: метод ближайшего соседа // Препринты ИПМ им. М.В. Келдыша. 2023. № 29. С. 21. https://doi.org/10.20948/prepr-2023-29 https://library.keldysh.ru/preprint.asp?id=2023-29 https://keldysh.ru/papers/2025/prep2025_22.pdf