트랜스포머 기반 다변량 시계열 분류 모델에 대한 XAI 기법 비교

Comparison of XAI Methods for Transformer based Multivariate Time Series Classification Model

다변량 시계열 분류 문제는 많은 응용 분야에서 연구되고 있다. 인공지능 기반의 많은 모델이 최근 개발되었고 그 성능이 향상되고 있다. 현재 개발되고 있는 많은 인공지능 모델은 블랙박스 형태로 모델의 출력에 대한 설명가능성이 요구되고 있다. 의학, 금융, 군사 분야 등의 주요 의사결정 분야에서 이러한 요구사항이 증가되고 있으며, 이러한 요구에 따라 다양한 인공지능 모델에 대하여 설명가능한 인공지능 기술(XAI)들이 제시되었다. 본 연구에서는 탄도 미사일의 궤적을 다변량 시계열 데이터로 간주하고, 궤적을 입력으로 받아 탄도 미사일의 탄종을 분류하는 트랜스포머 기반의 모델에 대하여 XAI 기법들을 적용하였고 그 결과를 비교, 분석하였다. 트랜스포머 기반의 다변량 시계열 분류 모델에 적합한 XAI 기법으로 LIME 분석과 SHAP 분석, 기울기 기반(Gradient Based) 분석 방법 등을 적용하고 각 방법의 분석 결과를 비교하였다. 각 방법을 적용하여 모델에 사용된 여러 특징 변수 중에서 가장 중요한 변수를 식별하였고, 시계열 데이터의 특성을 고려하여 어느 구간에서 어떤 특징 변수가 중요한지를 추가 식별하였다. 또한 각 기법들에 대하여 검증 결과를 비교하였다. 다양한 XAI 기법을 적용하고 그 결과를 비교하여 모델의 설명 가능성을 제시할 수 있었으며, 이는 모델의 분류 결과에 대한 신뢰도를 높일 수 있을 뿐 아니라 향후 모델의 성능 향상에도 기여할 수 있을 것이다.

Multivariate time series classification problems are being studied in many application fields. Many AI-based models have been developed recently, and their performances are improving. Many AI models being developed require the explainability of the model output in the form of a black box. This requirement is increasing in major decision-making fields such as medicine, finance, and military, and various AI technologies (XAI) that can explain AI models have been proposed in response to this demand. In this study, we considered the trajectory of a ballistic missile as a multivariate time series data, applied XAI techniques to a transformer-based model that receives the trajectory as input and classifies the type of ballistic missile. We applied LIME, SHAP, and gradient- based analysis methods as XAI techniques suitable for the transformer-based multivariate time series classification model, and compared the analysis results of each method. By applying each method, we identified the most important variable among the various feature variables used in the model, and additionally identified which feature variable is important in which section by considering the characteristics of the time series data. We also compared the verification results for each technique. By applying various XAI techniques and comparing the results, we were able to present the explainability of the model, which will not only increase the reliability of the model’s classification results, but also contribute to improving the model’s performance in the future.