금융 시계열 예측 신경망에서의 과적합 완화를 위한 임의 증강 기법

Random Augmentation Technique for Mitigating Overfitting in Neural Networks for Financial Time Series Forecasting

펼치기

과적합 현상은 금융 시계열 자료 예측 작업을 수행하기 위해 신경망 모형을 활용할 때 발생하는 주요 문제 중 하나이다. 금융 시계열 자료는 다른 분야에 비해 상대적으로 자료 개수가 적어 과적합 특징이 두드러지는 경향이 있다. 우리는 본연구를 통해 제시한 임의 증강 기법 알고리즘으로 신경망 기반 시계열 자료 예측 작업에서 과적합을 완화하는 방법을 제안하고자 한다. 본 연구의 신경망은 LSTM 순환 신경망 구조를 가지며, 제안 방법은 학습 과정에서 단계적으로 학습 기울기를 감소시키면서, 학습자료를 확률적으로 증강하는 방식을 따른다. 제안한 알고리즘의 성능을 검증하기 위해 가장 유명한 변동성 지수인 VIX 지수 시계열을 네 개의 구간으로 나누어 교차 검증을 진행하였다. 본 연구에서 진행한 실험 결과에 따르면 학습자료 증강 과정에서 임의선택영역 비중이 증가할수록 모형의 예측 성능이 향상되는 경향을 보이며, 알고리즘이 적용되지 않은 보편적인 LSTM 신경망과 비교하였을 때 네 개의 교차 검증 데이터에서 RMSE 수치가 각각 23%, 34%, 32%, 34% 감소하여 과적합 현상 완화에 효과적임을 확인하였다.

Overfitting is one of the major challenges encountered when using neural network models for financial time series forecasting tasks. The nature of financial time series data, often sparser than in other fields, tends to exacerbate the symptoms of overfitting. In this study, we propose a method to alleviate overfitting in neural network-based time series forecasting tasks through a novel data augmentation algorithm. The neural network structure employed in this research is a Long Short-Term Memory (LSTM) recurrent network. The proposed method gradually reduces the learning rate during the training process, whilst randomly augmenting the training data. To validate the performance of the proposed algorithm, we divided the VIX Index, into four sections and performed cross-validation. When compared to a standard LSTM network without the application of our algorithm, we confirmed that the Root Mean Square Error (RMSE) was reduced by 23%, 34%, 32%, and 34% in each cross-validation section respectively.