의료 이미지의 도메인 특성을 활용한 다중 작업 적대적 학습 기반 적대적 강건성 향상 방법

Enhancing Adversarial Robustness via Multi-task Adversarial Training Leveraging Domain Characteristics of Medical Image

심층신경망 기반 의료 진단 시스템의 성능은 크게 향상되었으나, 보안 측면에서는 여전히 충분한 신뢰성을 제공하지 못한다. 특히 의료 도메인에서의 적대적 취약성은 심각한 인명 및 재산 피해로 직접적으로 이어지므로, 이를 방지하기 위한 강건한 시스템 설계가 필수적이다. 본 연구에서는 의료 이미지 데이터가 자연 이미지 데이터보다 적대적 탐지가 용이하다는 특성과 클래스 불균형이 빈번하다는 특성을 활용하여 의료 진단 시스템의 적대적 강건성을 향상시키고자 한다. 제안하는 방법은 다중 작업 학습과 적대적 학습을 활용하여 진단과 탐지, 그리고 그룹핑 작업을 모델에 학습시킨다. 세 가지 의료 데이터셋에 대한 실험을 통해, 제안하는 방법이 다양한 의료 진단 시스템의 적대적 강건성을 효과적으로 향상시킬 수 있으며, 결과적으로 적대적 학습의 accuracy gap 및 trade-off 문제를 크게 완화할 수 있음을 보였다.

While the performance of deep neural network-based medical diagnosis systems has significantly improved, they still fail to provide sufficient reliability from a security perspective. Particularly in the medical domain, adversarial vulnerabilities can directly lead to serious harm to human life and property, making the design of robust systems essential for preventing such consequences. This study aims to enhance the adversarial robustness of medical diagnosis systems by leveraging two characteristics of medical image: the ease of adversarial detection compared to natural image, and the frequent occurrence of class imbalance. The proposed method employs multi-task learning and adversarial training to simultaneously train the model on diagnosis, detection, and grouping tasks. Through experiments on three medical datasets, we demonstrate that the proposed method can effectively enhance the adversarial robustness of various medical diagnosis systems, and consequently significantly alleviate the accuracy gap and trade-off problem in adversarial training.