Model 최적화를 위한 Pertubation/Gradient 기반 양방향 방법론의 XAI 제안

XAI Proposal of a Pertubation/Gradient-based Bidirectional Methodology for Model Optimization

점점 더 많은 기업 또는 조직이 중요한 비즈니스 의사 결정 프로세스에 AI와 ML을 도입하기 시작하고 있다. 딥러닝 모델의 장점은 다양한 작업에 매우 높은 정확도를 보여주며, 노이즈(noise)와 데이터의 변화에도 매우 강한 장점과 대용량 데이터 처리를 위한 확장이 가능하다. 또한, 딥러닝의 단점으로는 데이터 종속성, 계산 비용, 그리고 편향성과 해석의 어려움 등이 존재한다. 본 연구에서는 딥러닝의 단점인 데이터 종속성, 편향성 문제와 해석의 어려움에 추가적인 정보를 제공하는 방법을 제안하고자 한다. 제안하는 XAI 방법론은 학습 데이터(training data) 측면과 ML 모델 측면을 고려하는 사전 예방 분석 단계(precautionary analysis step)와 Perturbation-based 방법과 Gradient-based 방법을 활용한 양방향의 설명 가능성을 제안한다.

More and more enterprises or organizations are starting to introduce AI and ML into their critical business decision-making processes. Despite the many advantages of deep learning models, drawbacks of deep learning include data dependency, computational costs, bias, and difficulty in interpretation. In this study, we propose a method to provide additional information on the shortcomings of deep learning, such as data dependency, bias problems, and difficulty of interpretation. The proposed XAI methodology proposes a precautionary analysis step that considers both the training data and ML model aspects, and bidirectional explainability utilizing Perturbation-based and Gradient-based methods.