Доклады Российской академии наук. Математика, информатика, процессы управления, 2023, T. 514, № 2, стр. 385-394

1. ВВЕДЕНИЕ

Связь между фондовым рынком компании и относящимися к ней новостями и событиями всегда была одной из самых актуальных тем для обсуждения. Представленная в нашей работе область исследования применяется в самых разных социальных и экономических сферах. Например, состояние рынков крупных фармацевтических компаний зависит от последних анонсов клинических исследований, поскольку за ними пристально следит общественность [1]. Более того, рост популярности интернет-трейдинга в последние годы усилил потребность в обращении к информационному фону. Многие трейдеры стали использовать информацию о настроениях новостей, которую можно получить с помощью компьютерных алгоритмов, способных быстро определять, являются ли новостная статья или сообщение в Twitter позитивно или негативно окрашенными. Главный вопрос заключается в том, какие именно новости следует учитывать для лучшего понимания будущих рыночных тенденций компаний. В данном исследовании мы пытаемся понять, имеет ли смысл разделять новости на тематические группы при передаче их в качестве внешних данных в модель глубокого обучения для прогнозирования цен на акции. Мы оцениваем, дают ли некоторые тематические группы возможность добиться большей эффективности модели или все же лучше передавать модели всю информацию без какого-либо разделения. Для проведения экспериментов мы выбрали пять крупных технологических публичных компаний: Apple, Amazon, Google, Netflix и Tesla. Схема нашего исследования представлена на рис. 1.

Рис. 1.

Схема сравнения использования настроений всех новостей и настроений новостей определенной тематики в задаче прогнозирования цен на акции.

2. ОБЗОР ЛИТЕРАТУРЫ

Основным направлением исследований, описанных в нашей статье, является повышение качества прогнозирования цен на акции крупных компаний. Данное направление прогнозирования временных рядов рассматривается в большом количестве работ. В частности, в работе [2] сравнивается качество прогнозов цен на акции, сделанных различными алгоритмами. Для эксперимента выбраны четыре алгоритма ML (Machine learning) и DL (Deep learning). Среди них искусственные нейронные сети, модель Support Vector Regression, случайный лес и модель Long Short-Term Memory. Полученные результаты свидетельствуют о том, что лучшие метрики показывает модель LSTM, а значит, можно предположить, что глубокое обучение работает лучше, чем классическое машинное обучение. Основная идея другого исследования [3] заключается в сравнении 12 алгоритмов машинного обучения для классификации с использованием различных типов внешних данных в качестве дополнительной информации, а именно: новостей из средств массовой информации, финансовых новостей и двух упомянутых типов новостей одновременно. Результаты показывают, что на независимом тестовом наборе данных в качестве модели с информацией о новостях из средств массовой информации как дополнительным признаком лучше всего показал себя алгоритм Random Forest. При использовании информации только из финансовых новостей Random Forest также оказался лучшим. Необходимо отметить, что модель, в которой использовался весь новостной поток, показала наихудшие результаты по сравнению с другими моделями.

Категоризация новостных потоков является естественной проблемой, возникающей при работе с потоками новостей. В работе [4] представлен способ кластеризации новостей для моделирования их тематики. Основная идея заключается в использовании алгоритма иерархической агломерационной кластеризации. Построенное иерархическое дерево кластеров позволяет выбрать оптимальное количество кластеров на определенной высоте дерева, что удобно, когда мы заранее не знаем количество кластеров. Многие исследователи уделяют особое внимание влиянию настроения новостей, характерных для конкретной области, на финансовые активы. В исследовании [5] авторы изучают зависимость цен на акции от эмоциональной окраски новостей в конкретном домене. Они рассматривают два значимых рынка – рынок акций и нефти – и оценивают два важных финансовых актива: промышленный индекс Доу-Джонса (DJIA) и нефть марки West Texas Intermediate (WTI). Новости для проведения данного исследования собирались с веб-сайтов, блогов и онлайн баз данных. Вектор временного ряда настроений использовался в формуле модели векторной авторегрессии в качестве признака.

Кроме того, исследователи постоянно изучают возможности повышения эффективности прогнозирования цен на акции с использованием информации о настроении различного рода фоновой информации. В частности, в работе [6] авторы собирают информацию о сообщениях на форуме EastMoney, чтобы составить словарь настроений и рассчитать индексы настроений инвесторов. В статье [7] ученые рассматривают проблему прогнозирования трендов на фондовом рынке с учетом технических индикаторов и настроений текстов социальных сетей. В исследовании [8] также изучается использование настроений инвесторов из социальных сетей, для чего собирается информация из StockTwits, социальной медиаплатформы для инвесторов. Для анализа настроений в данном исследовании используется FinBERT – предварительно обученная языковая модель, предназначенная для анализа настроений финансовых текстов. В качестве задачи рассматривается прогнозирование будущего движения биржевого индекса SPDR S&P 500 Index Exchange Traded Funds. Их результаты показывают, что использование модели FinBERT для анализа настроений дает наилучшие результаты. Авторы статьи [9] строят модель прогнозирования цен на акции на основе сети долговременной памяти, основанной на внимании, используя исторические данные о ценах, технические индикаторы и информацию о настроениях в социальных сетях. Кроме того, они предлагают модель классификации настроений BERT с точной настройкой на определение эмоциональной окраски текста и лексикон настроений для оценки вероятностей принадлежности текстов из социальных сетей к классам позитивно или негативно окрашенных. Согласно полученным результатам, модель BERT с точной настройкой лучше справляется с задачей классификации текстов по настроению, а настроения, рассчитанные с помощью модели BERT, обеспечивают более высокую точность прогнозирования, чем рассчитанные с помощью лексикона настроений.

3. МЕТОДОЛОГИЯ

Цель нашей работы – определить, следует ли разделять поток новостей о крупных публичных компаниях на категории, и какая стратегия обработки новостного потока способствует более высокому качеству прогнозов цен на акции компаний. Результаты исследования помогут улучшить наше представление о зависимости тенденций рынка от различных видов и представлений внешней информации. Кроме того, полученные знания могут быть использованы для определения того, какую информацию следует учитывать при анализе и прогнозировании будущих изменений на рынках публичных компаний.

Схема нашего исследования, представленная на рис. 1, состоит из следующих этапов:

$ \bullet $ Извлечение данных. Для нашего исследования мы используем набор финансовых новостей, относящихся к 5 крупным публичным компаниям: Apple, Amazon, Google, Netflix и Tesla, а точнее, заголовки новостей и исторические данные о ценах на акции указанных компаний.

$ \bullet $ Тематическая разметка данных. Мы используем предварительно обученную модель для определения тематической направленности каждой новости в соответствии с ее текущим заголовком. В результате мы получаем несколько тематических групп.

$ \bullet $ Разметка данных по эмоциональной окрашенности. Для определения настроений новостных заголовков мы используем модель FinBERT, которая была обучена на финансовых текстах и настроена на предсказание меток настроений. Если по заголовку новости понятно, что она позитивная, ей присваивается метка “positive”, если заголовок имеет негативный окрас – метка “negative”, в противном случае новость считается нейтральной и получает метку “neutral”.

$ \bullet $ Передача внешней информации в модель. Для каждого дня мы рассчитываем отношение количества положительных новостей к общему количеству положительных и отрицательных новостей, вышедших в этот день, и называем эти значения “настроениями”. Временной ряд таких значений определим как временной ряд настроений новостей.

$ \bullet $ Модель прогнозирования цен на акции. Исторические цены акций с временными рядами настроений, построенными с использованием различных подходов, затем передаются в 4 различные модели: Темпоральная конволюционная сеть (Temporal Convolutional Network), D-Linear, трансформатор (Transformer) и трансформатор темпорального слияния (Temporal Fusion Transformer). Затем мы получаем прогнозы на N шагов вперед.

В этом подразделе мы рассмотрим значимые части алгоритма разбиения финансовых новостей на тематические группы и определения настроений в новостях.

Для разделения обширной коллекции новостей на тематические группы мы использовали алгоритм классификации. Первым делом мы нашли набор данных с размеченными финансовыми текстами. Это twitter-financial-news-topic [10] – англоязычный набор данных, включающий твиты, связанные с финансовыми темами и новостями. Документы в этом наборе разделены на 20 тем:

$ \bullet $ Обновления в аналитике

$ \bullet $ ФРС | Центральный банк

$ \bullet $ Новости о компании | продукте,

$ \bullet $ Казначейские облигации | Корпоративный долг

$ \bullet $ Дивиденды

$ \bullet $ Доходы

$ \bullet $ Энергетика | Нефть

$ \bullet $ Финансовые показатели

$ \bullet $ Валюты

$ \bullet $ Общие новости | Мнения

$ \bullet $ Золото | Металлы | Материалы

$ \bullet $ IPO

$ \bullet $ Слияния и поглощения | Инвестиции

$ \bullet $ Макроэкономика

$ \bullet $ Рынки

$ \bullet $ Политика

$ \bullet $ Кадровые изменения

$ \bullet $ Комментарии о фондовом рынке

$ \bullet $ Динамика изменения цен акций

Затем мы выбрали модель [11], обученную на описанном наборе размеченных данных. Она представляет собой модель на основе BERT (Bidirectional Encoder Representations from Transformers). Первоначально эта модель была обучена на корпоративных отчетах, расшифровках звонков о доходах, отчетах аналитиков, т.е. на текстах финансовой коммуникации. Затем она была обучена на 10 тыс. предложений из аналитических отчетов, которые были предварительно аннотированы метками позитивного, негативного и нейтрального настроений. Завершающим этапом стало обучение модели на ранее описанном наборе данных. Точность модели составила 0.911, что позволило сделать вывод о пригодности данной модели для задач тематической классификации. Наконец, мы применили описанную модель к нашим данным.

На предыдущем этапе мы получили 20 тематических групп финансовых новостей. Далее будет описано, как полученные тематические группы были аннотированы метками настроений. Для маркировки финансовых новостей мы использовали модель finbert-tone [12]. Мы применили эту модель к каждой группе новостей и в результате получили 20 тематических групп финансовых новостей с присвоенными каждой новости метками настроения (положительное, отрицательное, нейтральное).

На данном этапе исследования изучалось изменение качества прогнозирования после добавления внешних данных в модели глубокого обучения. В качестве моделей, которые мы использовали в наших экспериментах, были выбраны темпоральная конволюционная сеть (TCN) [13], D-линейная [14], трансформер [15] и темпоральный трансформер слияния (TFT) [16]. Среди них есть две модели с архитектурой на основе трансформеров. Одна из них – модель трансформатора темпорального слияния. По данным работы [16], модель TFT превосходит большинство существующих моделей Deep Learning для прогнозирования временных рядов. Она имеет архитектуру, основанную на внимании, которая обеспечивает высокопроизводительное прогнозирование на много шагов вперед, изучая временные связи. Основной особенностью, по которой модель TFT выделяется среди других решений, является ее способность эффективно строить представление признаков для каждого типа входных данных и обеспечивать качественное прогнозирование для широкого круга задач. Однако авторы исследования [14] пытаются оспорить успешность такой архитектуры и доказывают, что модель D-Linear превосходит существующие модели на основе трансформаторов. Модель TCN, которую мы также рассматриваем в нашем исследовании, согласно статье [13] и нашему собственному опыту, показывает самую высокую скорость обучения, конкурируя с другими моделями. Преимуществом всех описанных моделей является возможность построения широкогоризонтных прогнозов, что позволяет принимать решения, думая на несколько шагов вперед. Для реализации архитектуры указанных моделей мы использовали библиотеку Darts [17]. В модель прогнозирования передается 15 значений, соответствующих 15 предыдущим дням. Этот параметр называется длиной входного чанка. Чтобы проанализировать достаточное количество событий, в качестве такой длины мы взяли около двух недель. Горизонт прогнозирования для всех моделей был установлен равным 3. Остальные параметры моделей принимали значения по умолчанию. Все модели обучались 30 эпох с функцией потерь MSE (средняя квадратичная ошибка).

Общий алгоритм подготовки данных перед их передачей в модель:

$ \bullet $ Создание временного ряда из набора данных об исторических ценах. Периодичность временного ряда – рабочие дни

.$ \bullet $ Заполнение недостающих значений во временных рядах цен на акции.

$ \bullet $ Скалирование значений временного ряда цен на акции в диапазон [0, 1].

$ \bullet $ Создание временного ряда из набора данных о настроениях новостей, указав в качестве частоты временного ряда все дни.

$ \bullet $ Заполнение недостающих значений временных рядов с настроениями.

$ \bullet $ Скалирование временных рядов настроений

$ \bullet $ Преобразование набора данных о настроениях во временной ряд с периодичностью, соответствующей рабочим дням.

$ \bullet $ Усечение временных рядов цен акций и настроений таким образом, чтобы они охватывали одни и те же периоды.

Как уже было упомянуто в разделе 3.2.1, после этапа тематической разметки мы получили 20 тематических групп. Для наших экспериментов мы выбрали 5 из 20 групп, исходя из общего количества новостей, относящихся к конкретной теме, и степени важности данной темы для нашей задачи.

Мы рассматриваем три различных метода построения временных рядов с использованием внешних данных:

$ \bullet $ Использование только одной тематической группы новостей. Здесь мы фильтруем поток новостей компании по определенной тематической метке (например, Stock Commentary). Временной ряд представляет собой ежедневное соотношение между количеством положительных новостей по выбранной теме и общим количеством положительных и отрицательных новостей по данной теме.

$ \bullet $ Построение тематических векторов. Алгоритм формирования временного ряда здесь следующий: за каждый день мы берем новости из 5 выбранных тематических групп. Для каждой группы считается отношение между количеством положительных новостей из этой тематической группы и общим количеством положительных и отрицательных новостей, относящихся к данной группе. Таким образом, каждый день описывается вектором из 5 элементов, которые являются подсчитанными соотношениями.

$ \bullet $ Использование всех новостей. В этом методе мы берем все новости о компании, не разделяя их на группы, и рассчитываем ежедневную долю положительных новостей, как в предыдущих методах.

Все временные ряды настроений и цен акций обрезаются таким образом, чтобы охватить одни и те же временные периоды для одной компании.

В библиотеке Darts есть важный параметр, называемый ковариатами. Ковариаты – это внешние данные, передаваемые в модель для улучшения прогноза. Ковариаты могут относиться к будущему (future covariates), прошлому (past covariates) или являться константами (static covariates). Ковариаты, относящиеся к прошлому, известны только в прошлом, относящиеся к будущему известны только в будущем, а статические ковариаты постоянны во времени. Поскольку ежедневные доли положительных новостей о компании в реальной жизни известны только в прошлом, мы передаем их в модель в качестве параметра past covariates.

Для расчета прогнозов на несколько временных периодов вперед мы применили метод исторических прогнозов (historical forecasts). На первом шаге данный алгоритм берет окно от начала временного ряда до временной точки, которая передается в качестве параметра start. В качестве параметра start мы передаем начало тестовой части временного ряда. Горизонту прогноза задаем значение в 3 шага. Параметр stride равен горизонту прогноза, поэтому метод предсказывает 3 точки, затем конец обучающего набора сдвигается вперед на три временных шага, и метод предсказывает следующие 3 точки. Этот процесс повторяется до конца ряда.

4. РЕЗУЛЬТАТЫ

Данные для нашего финального набора были взяты из архива финансовых новостей [18]. Этот набор данных был собран с сайтов investing.com, bloomber.com, seekingalpha.com, 247wallst.com, zacks.com и cnbc.com. Данные были предварительно обработаны путем удаления изображений, графики, рекламных блоков и знаков препинания. В набор вошли финансовые новости о более 800 публичных компаниях. Общее количество новостей составляет 221 513. После сбора данных мы удалили ненужные поля, чтобы осталась информация только о тикерах компаний, заголовках новостей и датах публикации новостей. Поле Ticker мы использовали для фильтрации заголовков новостей, относящихся только к Apple, Amazon, Google, Netflix и Tesla, для дальнейшей разметки данных.

По результатам тематической классификации можно сделать вывод, что наиболее многочисленными группами являются Новости компании | продукта, Рынки, Комментарии о фондовом рынке, Изменения цен акций и Финансовые показатели. Чтобы убедиться в разумности разделения новостного потока, мы извлекли из набора данных финансовых новостей определенные группы, прочитали новости и попытались проанализировать, связаны ли они с конкретной темой и есть ли у них что-то общее. Мы заметили, что группы были определены разумно. Например, заголовок Акции с самым высоким рейтингом роста для покупки 15 июня был отнесен к группе Комментарии о фондовом рынке. Новости об экономических изменениях в различных странах, например, Экономика Китая замедляется, были определены к категории Макроэкономика. Группа Общие новости включает в себя новости, которые напрямую не связаны с экономикой, но могут косвенно влиять на экономику, повседневную жизнь и сознание людей. Например, Неконтролируемый рост лесных пожаров в Калифорнии вынуждает закрывать школы. Такие заголовки, как Сообщается, что Apple закупает оборудование для производства OLED, отражающие обновления, связанные с производством популярной продукции, относятся к категории Новости продукта. В группе Рынки представлены новости, описывающие общее состояние рынков разных стран, например, Фондовый рынок Бельгии вырос на момент закрытия торгов.

Для оценки качества работы модели, учитывающей различные тематические группы, мы подсчитывали процентное соотношение суммы положительных и отрицательных меток в общем количестве меток, так как нейтральные новости не представляют особого интереса. Результаты можно увидеть в табл. 1.

Мы начинаем с построения базовых предсказаний модели. Базовые прогнозы цен акций повторяют значения, полученные на предыдущих этапах. Таким образом, мы рассчитываем метрику MAPE для реальных значений и значений со сдвигом на 3 дня назад и считаем это базовым результатом. В результате мы заключили, что работа моделей TCN и Transformer могла бы быть более удовлетворительной, так как метрики, полученные по их прогнозам, не превзошли базовые результаты. В итоге, мы решили рассмотреть только метрики для моделей DLinear и TFT, поскольку их результаты в большинстве случаев превосходили базовые. Рассчитанные метрики для всех пяти компаний с различными стратегиями учета новостных настроений приведены в табл. 2, 3, 4, 5 и 6. Визуализация различий в прогнозировании, обусловленных разными способами учета новостных настроений, представлена на рис. 2.

Рис. 2.

Реальные цены на акции Amazon и предсказанные цены, полученные с помощью TFT модели с разными способами учета настроения новостей. Лучший запуск.

Согласно табл. 2–6, для компании Apple оптимальным является подход с использованием эмоционального наполнения одной тематической группы. То же самое справедливо для Amazon, Google и Tesla. Для Netflix, как показывают метрики, модель DLinear лучше использовать без настроений, а TFT по-прежнему лучше работает с учетом одной тематической группы. С точки зрения моделей, подход с учетом одной тематики также является лучшим в большинстве экспериментов. В целом полученные результаты подтверждают, что в большинстве случаев показывать нашей модели глубокого обучения только одну тематическую группу новостей лучше, чем рассматривать весь поток новостей или обучать модель без учета новостей. Кроме того, мы определили, какие тематические группы с большей вероятностью улучшают прогнозы. Мы заметили, что эффективнее всего работают группы Макроэкономика и Рынки, на втором месте – Комментарии о фондовом рынке, затем – Общие новости и Новости о компании и продукте. Здесь можно провести параллели с табл. 1 и сделать вывод, что чем больше процент позитивных и негативных новостей в данной тематической группе, тем больше вероятность того, что эта группа поможет повысить эффективность работы модели. Чем выше эмоциональная насыщенность, тем сильнее влияние на модель.

5. ЗАКЛЮЧЕНИЕ

В данном исследовании мы показали, что в задаче прогнозирования цен на акции полезно проводить тематическую классификацию потока новостей. В большинстве случаев оптимальной стратегией являются разбиение новостного потока на тематические группы и передача в модель настроений из одной конкретной тематической группы, а не учет настроений из всего потока новостей. Более того, мы обнаружили, что улучшение прогноза за счет настроений из определенной тематической группы новостей связано с эмоциональной насыщенностью этой группы. В целом наше исследование способствует получению более глубокого представления о рынке, его процессах и поведении. Данное исследование может оказаться полезным для специалистов, занимающихся анализом рынков, специалистов по изучению данных, а также людей, заинтересованных в более глубоком понимании рыночных тенденций.