Геомагнетизм и аэрономия, 2023, T. 63, № 2, стр. 247-256

1. ВВЕДЕНИЕ

Долгосрочный прогноз солнечной активности является одним из важнейших факторов космической погоды [Bothmer and Daglis, 2007]. Как ключевой управляющий фактор, прогнозные данные солнечной активности (СА) в виде числа солнечных пятен (solar sunspot number – SSN) и потока солнечного радиоизлучения (solar radioflux – F10.7), входят в прогностические ионосферные модели, на основе которых, в частности, осуществляется долгосрочное планирование работы ионосферных радиокоммуникационных систем. Традиционно требуемый долгосрочный прогноз солнечной активности для условий прохождения радиоволн охватывает временнóй интервал от одного месяца до 2‒3 лет вперед. Наиболее известной его реализацией являются экстраполяционные методы, в частности, метод Вальдмайера [Bondar et al., 1995] и его современные версии (например, Combined Method [Podladchikova and Van der Linden, 2012]), используемые как официальный прогноз в мировом центре солнечных данных – SIDC (Solar Influences Data Analysis Center, Brussel). На рис. 1 в верхней части левой панели приведен пример применения данного подхода в ноябре 2019 г. к сглаженным среднемесячным данным числа пятен – Rm (представлены кривыми) и видно существенное расхождение с апостериорными экспериментальными данными (полые треугольники). В частности, прогнозируемый минимум СА для пятен (начало 25-го цикла) смещен примерно на один год вперед от его фактического значения (начало 2020 г.). И соответственно смещается максимум, который по прогнозу приходится на 2022 г. Однако, еще более непростая ситуация с другим индикатором СА – потоком радиоизлучения F10.7. Как видно из рис. 1 (нижняя часть левой панели), прогнозные значения F10.7 в системе контроля космической погоды SWPC (Space Weather Prediction Center, Boulder), по-видимому, единственном источнике долгосрочной прогнозной информации по солнечному радиоизлучению, уходят ниже минимально возможной величины для данного параметра. И, более того, отсутствует какая-либо видимая корреляция в поведении этих двух индикаторов одного процесса – вариаций СА (рис. 1, верхняя и нижние части левой панели). Т.е. традиционные методы прогнозирования могут в сложных ситуациях давать совершенно некорректные результаты.

Квазипериодический характер временнóй зависимости числа солнечных пятен дает возможность применить различные математические методы выделения базовой закономерности, как основы прогнозирования, в данных наблюдений. В частности, это может быть метод искусственной нейронной сети (ИНС) в анализе временны́х рядов данных. Первые попытки применения ИНС к долгосрочному прогнозированию солнечной активности были рассмотрены в работе [Macpherson, 1993]; в дальнейшем данный подход получил развитие в ряде работ (обзор в Pesnell, 2012) и активно развивается в настоящее время, например, [Бархатов и др., 2001; Pala and Atici, 2019; Benson et al., 2020], и может рассматриваться как применение элементов искусственного интеллекта в поиске скрытой закономерности во временнóм ряде экспериментальных данных. Другим направлением решения данной задачи является нелинейный динамический анализ в хаосе, например, работы [Sello, 2001; Sarp et al., 2018]. Также следует отметить исследования по возможности прогнозирования максимума SSN в цикле на основе прекурсоров в предыдущем цикле (циклах), в частности, основываясь на интенсивности геомагнитных возмущений [Thompson, 1993; Hathaway and Wilson, 2006; Wang and Sheeley, 2009] в данных дневного Ap-индекса.

С 2021 г. SWPC переходит на другую основу в долгосрочном прогнозировании солнечной активности (рис. 1, правая панель), по-видимому, опираясь на результаты применения нейросетевого подхода к целому циклу СА, как базовому объекту в данных временнóй периодической последовательности наблюдений.

В настоящей работе, на основе платформы рекуррентной ИНС, рассматривается возможность долгосрочного прогнозирования на масштабе цикла солнечной активности временнóй функции SSN, используя технологию нормализации исходного временнóго ряда данных. Оценивается эффективность предлагаемого метода прогнозирования на примере предыдущих четырех циклов солнечной активности, с 21-го по 24-й, и строится прогноз на текущий 25-й цикл.

2. ИНС ЭЛМАНА

В настоящее время существует более 20 платформ реализаций общей методологии ИНС для различных приложений. В применении к временны́м рядам данных часто используются рекуррентные нейронные сети (recurrent networks), характеризующиеся как прямым (feed forward), так и обратным (feed back) распространением информации и наличием обратных связей, по которым передаются результаты обработки сетью данных на предыдущем этапе. В результате этого входом рекуррентной нейронной сети в каждый фиксированный момент времени является вектор входных данных и результаты обработки информации сетью на предыдущем этапе. Обучение таких сетей базируется на алгоритме обратного распространения ошибки [Головко, 2001; Головко и Краснопрошин, 2017]. Так же, для задач предсказания временны́х рядов применяются алгоритмы глубокого (глубинного) обучения (deep learning) для многослойных персептронов прямого распространения, например, [Fessant et al., 1996; Pala and Atici, 2019].

В данной работе, как и в работе [Бархатов и др., 2001], использовалась рекуррентная нейронная сеть Элмана [Elman, 1990], разработанная для выявления внутренних закономерностей (структур) во временны́х рядах данных. Квазипериодическая структура солнечных данных является подходящей кандидатурой для такой платформы. Общая схема такой ИНС приведена на рис. 2. Рекуррентными нейронными сетями называются конфигурации, в которых выходы нейронных элементов последующих слоев имеют синаптические соединения (связи) с нейронами предшествующих слоев. Это приводит к возможности создания моделей ИНС, обладающих памятью, т.е. возможностью запоминать процесс. Т.о. строится ИНС, ответ которой зависит не только от входного сигнала, подаваемого в данный момент на вход ИНС, но и от тех сигналов, которые обрабатывались нейросетью в предшествующие моменты времени. Такая ИНС обладает нелинейной внутренней памятью, заключенной в петле обратной связи, что позволяет накапливать и использовать информацию о предыстории процесса. Рекуррентные сети могут использоваться как для решения задач прогнозирования, так и управления [Головко, 2001; Головко и Краснопрошин, 2017]. Временны́е ряды индексов солнечной активности представляют собой квазипериодические процессы, и, следовательно, для выделения главной части процесса и последующей экстраполяции на будущее необходима внутренняя память.

В ИНС Элмана выходы нейронных элементов промежуточного (скрытого или внутреннего) слоя соединяются с нейронами контекстного слоя, выходы которых снова подаются на входы нейронов внутреннего слоя. И т.о., нейроны скрытого слоя имеют помимо синаптических связей с нейронами входного слоя также и обратные связи с контекстными нейронами. Число нейронов скрытого слоя, как правило, совпадает с числом нейронов контекстного слоя. Тогда взвешенная сумма i-го нейронного элемента промежуточного слоя [Головко, 2001; Головко и Краснопрошин, 2017]:

где n – число нейронов входного слоя или размерность вектора входных данных x_j(t), w_ji – весовой коэффициент между j-м нейроном входного и i-м нейроном промежуточного слоев (его величина определяет силу синоптической связи между соответствующими нейронами); m – число нейронов промежуточного слоя, w_ki – весовой коэффициент между k-м контекстным нейроном и i-м нейроном промежуточного слоя, c_k(t – 1) – выходное значение k-го нейрона внутреннего (промежуточного или скрытого) слоя на предыдущем шаге вычисления его значения, которое сохраняется в k-ом контекстном нейроне; T_i – пороговое значение i-го нейронного элемента промежуточного слоя. Выходное значение i-го нейрона промежуточного слоя определяется следующим образом: где в качестве функции нелинейного преобразования F (или функции активации нейронов скрытого слоя) обычно используется гиперболический тангенс или сигмоидная функция. Применение обеих функций анализировалось в процессе численного моделирования и, в конечном счете, была выбрана функция гиперболического тангенса. В выходном слое сеть имеет один нейрон с линейной функцией активации, т.е. значением выходного нейрона является линейная комбинация значений нейронов скрытого слоя: где ν_k – весовой коэффициент между k-м нейроном скрытого слоя и выходным нейроном, c_k(t) – выходное значение k-го нейрона скрытого слоя, T – пороговое значение нейрона выходного слоя. Для обучения рекуррентной нейронной сети применяется алгоритм обратного распространения ошибки [Головко, 2001; Головко и Краснопрошин, 2017].

Общими моментами работы ИНС, помимо выбора рабочей платформы в применении к конкретной задаче, являются следующие необходимые этапы:

– подбор топологии нейронной сети (выбор оптимального соотношения чисел нейронов в каждом слое);

– нормализация исходных данных под выбранную нейросеть;

– обучение ИНС при помощи алгоритма обратного распространения ошибки;

– экспериментальный подбор управляющих параметров;

– тестирование на модельных задачах и реальных данных с известным результатом.

Следует отметить, что процесс обучения ИНС является итерационной процедурой нахождения глобального или приемлемого локального минимума целевой функции в многомерном пространстве весовых коэффициентов: w_ji, w_ki, ν_k, T_i, T (формулы (1), (2)) для всего набора тренировочных данных. Целевой функцией в данном случае является сумма квадратов отклонений значений SSN(t) от оценочных результатов y(t) на всем наборе тренировочных данных.

Топология нейросети была выбрана, как и в [Бархатов и др., 2001] в следующей конфигурации: число нейронов входного слоя равнялось 6, число нейронов скрытого слоя и число контекстных нейронов равнялось 10, выходной слой состоял из единственного нейрона с линейной функцией активации. Это означает, что для прогнозирования индекса Rm – значения сглаженного числа солнечных пятен на данный момент необходимо подать на вход обученной ИНС значения этого индекса за 6 предыдущих временны́х интервалов. Методика нормализации исходных данных и тестирование алгоритма рассмотрены в ходе численного моделирования и далее применены к реальным данным. Здесь отметим только, что в данной работе под нормализацией данных понимается не стандартная нормировка данных в теории ИНС, когда весь временнóй ряд, предназначенный для обучения ИНС, нормируется на единственный нормировочный коэффициент, а локальная нормировка при которой данные чисел солнечных пятен в каждом отдельном цикле солнечной активности (СА) нормировались на соответствующий максимум этого солнечного цикла, и в результате в каждом отдельном солнечном цикле максимум нормализованных значений SSN равнялся единице.

3. ЧИСЛЕННОЕ МОДЕЛИРОВАНИЕ

Особенностью нейросетевого подхода к прогнозированию временны́х рядов является проблема устойчивости построения решения – нахождения глобального или приемлемого локального минимума целевой функции в итерационном процессе обучения ИНС. Как правило, не удается выбрать постоянные управляющие параметры ИНС в итерационном процессе обучения в различных условиях (на различных временны́х интервалах) реальных данных или построить аналитическую адаптивную процедуру их подбора. Для сети Элмана такими параметрами являются скорость и инерция (момент) обучения в итерационном процессе поиска решения [Головко, 2001; Головко и Краснопрошин, 2017], интервалы изменения которых можно оценить в процессе численного моделирования для конкретной задачи. Для модельных задач в численных экспериментах с выбранной моделью ИНС в качестве базовой функции формирования цикла солнечной активности использовалось следующее представление

где ${{T}_{1}}$ и ${{T}_{2}}$ – длительности восходящей и спадающей ветвей в цикле (${{T}_{1}} \leqslant {{T}_{2}}$), ${{T}_{0}} = {{T}_{1}} + {{T}_{2}}$ – длительность всего цикла, ${{A}_{0}}$ – амплитуда индекса в цикле. Параметры ${{A}_{0}}$ и ${{T}_{0}}$ модулировались псевдослучайной последовательностью с ${{\delta {{A}_{0}}} \mathord{\left/ {\vphantom {{\delta {{A}_{0}}} {{{A}_{0}}}}} \right. \kern-0em} {{{A}_{0}}}}\sim 0.5,$ ${{\delta T} \mathord{\left/ {\vphantom {{\delta T} {{{T}_{0}}}}} \right. \kern-0em} {{{T}_{0}}}}\sim 0.1$ и сохранением соотношения ${{{{T}_{1}}} \mathord{\left/ {\vphantom {{{{T}_{1}}} {{{T}_{2}}}}} \right. \kern-0em} {{{T}_{2}}}} \sim 0.5$ для каждого цикла. Выбор параметров достаточно близок к усредненным значениям циклической последовательности SSN [Hathaway, 2015; Willamo et al., 2020], с интегральным коэффициентом асимметрии $\gamma \simeq 0.35,$ что близко к приведенному в [Willamo et al., 2020] значению для Солнца $\gamma \simeq 0.39.$ Пример временнóго ряда синтезированной последовательности циклов, моделирующей исторический ряд данных СА, представлен на рис. 3 (верхняя часть верхней панели), на которой различимы вариации амплитуды, длительности циклов и асимметрия функциональной зависимости индекса. Несмотря на достаточно высокую степень идеализации циклической последовательности исходных данных, прямое применение ИНС к прогнозированию конкретного цикла имеет довольно низкую устойчивость результата, который зачастую просто некорректен с точки зрения цикличности процесса с близким к нулю минимумом. На этапе нормализации исходных данных под ИНС был разработан метод введения абстрагированного представления цикла, имеющего единичную амплитуду и стандартную длительность в 132 условных единицы (месяца). Т.е., для каждого цикла вводились коэффициенты трансформации: ${1 \mathord{\left/ {\vphantom {1 {A_{0}^{i}}}} \right. \kern-0em} {A_{0}^{i}}}$ и ${{{{T}_{N}}} \mathord{\left/ {\vphantom {{{{T}_{N}}} {T_{0}^{i}}}} \right. \kern-0em} {T_{0}^{i}}},$ где i-индекс цикла, ${{T}_{N}}$ – нормализованная длительность цикла, т.е. ${{T}_{N}} = 132 = 11\,\,{\text{лет}} \times 12\,\,{\text{мес}}.$ Нижняя часть верхней панели на рис. 3 отображает такую нормализованную временнýю зависимость синтезированных данных (в условных месяцах). Кроме того, как и в работе [Бархатов и др. 2001], было применено прореживание данных с коэффициентом 5 (в [Бархатов и др., 2001] он равнялся 6) и, таким образом, были сформированы нормализованные данные для процесса обучения ИНС. В нижней части рис. 3 представлены результаты прогнозирования методом ИНС для 23-го синтезированного цикла СА. Базовый прогноз ИНС в форме идеализированного (абстрактного) цикла с прореженными данными отмечен пустыми кружочками на фоне исходной кривой (1) (левая нижняя панель). В обратной трансформации к реальному масштабу времени из прогноза ИНС с известными нормировочными коэффициентами получаем прогноз с реальными значениями R_m – правая нижняя панель.

Следует отметить кардинальное повышение устойчивости результата оценки функциональной зависимости SSN внутри цикла при уменьшении степеней свободы задачи – разделении общего процесса прогнозирования солнечного цикла на парциальные части: амплитуду, длительность и временнóй ход индекса внутри цикла. Исследовалась возможность работы с исходными данными в динамическом режиме, т.е. с фазовым сдвигом циклического интервала предсказания ${{T}_{0}},$ и погрешность прогнозирования в нормализованном пространстве оставалась на уровне статического режима. Была исследована принципиальная особенность ИНС Элмана – существование оптимальных значений для базовых параметров итерационного процесса обучения ИНС: скорости и инерции обучения, оцениваемых как 0.005 и 0.5, что соответствует общим интервалам изменений этих параметров: [0.001–0.01] для скорости обучения и [0.1–1.0] для инерции (момента) обучения, приведенными в [Головко, 2001].

4. НОРМАЛИЗАЦИЯ ДАННЫХ И ПРОГНОЗИРОВАНИЕ

Реальные данные SSN имеют сложную структуру, как в периодичности, так и в вариациях максимумов в периодах, в частности, имеет место слабовыраженный переход циклов со значительными вариациями индекса SSN в минимуме солнечной активности. Корректная работа ИНС требует строгого математического разделения циклов – определения начала и конца цикла и более отчетливо выраженного переходного процесса. Для этого применялась процедура аппроксимации данных в окрестности минимума на интервале ±12 мес. от текущего минимального значения SSN (близкого к астрономическому переходу), определялась квадратичная (параболическая) зависимость – ${{R}_{P}}(t)$ и далее само математическое положение минимума, которое приписывалось концу цикла. Следующая за минимумом точка ряда считалась началом нового цикла и характеризовалась положительной временнóй производной. Далее выполнялась регуляризация хода ${{R}_{m}}(t)$ в окрестности минимума

где $\Delta t$ = 6 мес., что позволяло выделить переход циклов и избежать скачков ${{R}_{m}}(t)$ в области стыковки во временнóм ходе цикла (рис. 4, верхняя панель). На следующем этапе нормализации данных выполнялось преобразование в последовательность абстрагированных циклов с коэффициентами трансформации: ${1 \mathord{\left/ {\vphantom {1 {A_{0}^{i}}}} \right. \kern-0em} {A_{0}^{i}}}$ и ${{{{T}_{N}}} \mathord{\left/ {\vphantom {{{{T}_{N}}} {T_{0}^{i}}}} \right. \kern-0em} {T_{0}^{i}}},$ где i-индекс цикла, которая и служила основой для обучения ИНС. Введение идеализированных циклов с общими краевыми значениями: положительная производная в начале и нулевая в конце цикла позволяет осуществить выбор решения в вариационном процессе нахождения глобального минимума целевой функции ИНС. Корректной оценкой функции будет рассматриваться решение, которое удовлетворяет общим свойствам нормализованных данных на концах прогнозируемого интервала (рис. 4, левая нижняя панель): положительная производная в начале, близкая к нулю в конце цикла и максимальное значение функции близко к единице. Устойчивость процесса нахождения такого решения демонстрируется на рис. 5, левая панель, где результирующая функция представлена жирной линией.

Как пример применения рассмотренного метода, результат предсказания функциональной зависимости SSN в 21-м цикле СА приведен на рис. 4, где также нанесена и усредненная временнáя зависимость по предыдущим циклам ряда данных (кривые 1). Усреднение на идеализированных циклах является корректной операцией, поскольку все нормализованные данные имеют одинаковый масштаб и размерность по координатам. Виден достаточно большой разброс временнóго хода нормализованных данных в циклах, что проявляется в величинах доверительных интервалов (рис. 4, правая нижняя панель), приведенных для нескольких точек на графике SSN. Сопоставление полученных методом ИНС и средних зависимостей для числа солнечных пятен показывает общую характерную асимметрию восходящей и спадающей ветвей цикла и синхронность кривых достаточно высокая, что говорит о достаточно корректном нахождении главной части в периодическом процессе. В то же время, прогноз ИНС отличается от средней кривой, что отражает индивидуальные свойства конкретного цикла – сравнение кривых в четырех последних циклах приведено на рис. 5, правая панель (жирной линией отмечен прогноз для 25-го солнечного цикла).

Таблица 1 иллюстрирует итоговые результаты анализа солнечных данных в последних четырех циклах: с 21-го по 24-й. Хорошо виден большой разброс параметров ИНС (скорости и инерции обучения) от цикла к циклу в полученном решении, что свидетельствует об очень значительной индивидуальности нахождения динамики SSN внутри цикла. Численная характеристика изменчивости приведена как показатель эффективности предсказания в цикле

где $R_{p}^{i}$ – прогнозное, $R_{m}^{i}$ – экспериментальное значения SSN. Более низкие значения эффективности предсказания для 23-го и 24-го циклов, по-видимому, связаны с “двугорбым” характером динамики ${{R}_{m}}$ внутри данных временны́х интервалов, что проявляется в прогнозе н на последующий – 25-й цикл (рис. 6). Прогнозная кривая ИНС в нормализованном представлении (рис. 6, левая панель) имеет выраженный перегиб на спадающей ветви, т.е. предсказывается возможность формирования слаборазвитого “двугорбого” распределения по циклу. Также, как и для 21-го цикла, видна близость кривой ИНС к усредненной зависимости за предыдущие периоды временнóго ряда данных. Следует отметить значительное отличие в прогнозных кривых: SWPC (кривая 0) и ИНС (кривая 1) в реальном масштабе времени (рис. 6, правая панель). Значение максимума для прогноза ИНС взято в 120 единиц и период в 132 мес. (официальный прогноз NOAA от января 2022 г. и прогноз SIDC от сентября 2022 г.). В первую очередь это касается положения максимального значения SSN в цикле – для функции прогноза рассмотренным методом ИНС это конец 2023 г., тогда как для базового прогноза CWPC – середина 2025 г. Экспериментальные данные (среднемесячные) отмечены полыми треугольниками и на октябрь 2022 г. имеет место существенная предпочтительность прогноза, построенного предложенным методом ИНС. Большое отклонение от официального прогноза CWPC отмечается и в бюллетенях NOAA (National Oceanic and Atmospheric Administration).

5. ОБСУЖДЕНИЕ РЕЗУЛЬТАТОВ

Рассмотренный в данной работе метод имеет своей целью прогноз временнóй зависимости SSN внутри цикла, основываясь на уменьшении степеней свободы предсказания солнечного цикла в целом на основе данных исторического ряда наблюдений. Это позволило повысить устойчивость и корректность нахождения решения в методике использования классической рекуррентной ИНС, в нашем случае, ИНС Элмана. В частности, введение нормализованного пространства представления данных, в отличие от других подходов в применении ИНС к долгосрочному предсказанию СА, позволило построить функцию, имеющую явную асимметрию восходящей и спадающей ветвей внутри цикла и, в какой-то степени, отражающей особенности хода предыдущих циклов. Сравнение прогнозных кривых SWPC (рис. 6, правая панель, кривая 0) и полученной в [Benson et al., 2020] методом глубинного обучения многослойной нейронной сети (с двумя скрытыми слоями нейронов, но без обратной связи, рис. 7) показывает их большое сходство, в частности, очень слабую асимметрию ветвей внутри цикла. Практически она отсутствует, что плохо согласуется с общими представлениями о периодическом характере солнечной активности [Hathaway et al., 1994; Hathaway, 2015; Willamo et al., 2020]. Что касается максимума в 25-м цикле, то результаты предсказаний сильно расходятся – от очень малых ~80 (применение методики [Thompson, 1993]) до больших значений в ~160, что отражает сложность связи внутрисолнечных процессов и наблюдаемых SSN [Nandy et al., 2021], и неоднозначность результатов прогнозирования на одних и тех же данных. Так метод глубинного обучения многослойной нейронной сети прямого распространения [Benson et al., 2020] дает оценку максимума СА представленной числом SSN в 106 единиц и локализацию этого максимума СА во времени на 2025 г. В работе [Sarp et al., 2018], на основе нелинейного динамического анализа данных, максимум оценивается в 154 и ожидается в начале 2023 г. (2023.02), что в, значительной мере, соответствует результату нашего анализа (2023.10) [Крашенинников и Чумаков, 2021] и рис. 6. В общем случае представляется, что для оценки максимума солнечного цикла более перспективным является анализ тонкой структуры процессов на Солнце, чем, по-видимому, нейросетевой подход к временнóму ряду наблюдений SSN.

Предлагаемый метод построения функциональной зависимости SSN в цикле на основе анализа методом ИНС имеет высокую степень математической формализации и может быть основой как для долгосрочного прогнозирования в масштабе цикла, в совокупности с независимым прогнозом максимума, так и для интервала в 2‒3 года, используя соотношение общего и частного. Как представляется, в обоих случаях имеется возможность подстраивания (адаптации) под ежемесячно поступающие данные регистрации индексов СА, варьируя значения амплитуды ${{A}_{0}}$ и длительности ${{T}_{0}}$ прогнозируемого цикла в небольших пределах изменений. Критерием является достижение минимальных отклонений расчетных и экспериментальных данных в общей области существования в статическом и динамическом режимах работы. Программная реализация рассматриваемого метода выполнена на независимой от коммерческих математических пакетов основе и может усовершенствоваться по мере практического применения.

7. ЗАКЛЮЧЕНИЕ

Таким образом, на основе рекуррентной ИНС Элмана показана возможность долгосрочного прогнозирования временнóй функции числа солнечных пятен на масштабе цикла, применяя метод нормализации исходного временнóго ряда данных. Предложенный подход, основанный на уменьшении размерности задачи, имеет достаточную устойчивость и эффективность прогнозирования, показанную на примере предыдущих четырех циклов, с 21-го по 24-й. Построенный прогноз на 25-й цикл солнечной активности характеризуется более высокой степенью соответствия текущим солнечным данным, имеющимися на вторую половину 2022 г., чем прогноз службы SWPC. В целом, метод можно рассматривать как основу для долгосрочного прогнозирования числа солнечных пятен в интервале 2–4 лет и на масштабе цикла в качестве индикаторов космической погоды, в частности, в задачах планирования работы радиотехнических систем, использующих ионосферное распространение радиоволн.