머신러닝 기반 클라우드 웹 애플리케이션HTTP DoS 공격 탐지

Machine Learning-based Detection of HTTP DoS Attacks for Cloud Web Applications

최근 기업 및 공공기관 정보시스템의 클라우드 전환이 가속화되면서 클라우드 환경에서 운영되는 웹 애플리케이션이 증가하고 있다. 클라우드 웹 애플리케이션에 대한 전통적인 네트워크 공격은 대량의 패킷으로 네트워크 자원을 고갈시키는 DoS(Denial of Service) 공격이 대표적이지만, 최근에는 애플리케이션 자원을 고갈시키는 HTTP DoS 공격도 증가하고 있어 이에 대응하기 위한 보안기술 마련이 필요하다. 특히, HTTP DoS 공격 중, 저대역폭으로 수행되는 공격은 네트워크 자원을 고갈시키지 않기 때문에 네트워크 메트릭을 모니터링 하는 전통적인 보안 솔루션으로 탐지하는 것이 어렵다. 본 논문에서는 클라우드 웹 애플리케이션에 HTTP DoS 공격을 주입하면서 웹 서버의 애플리케이션 메트릭을 수집하고, 이를 머신러닝 기반으로 학습하여 공격을 탐지하는 새로운 탐지 모델을 제안한다. 애플리케이션 메트릭으로는 아파치 웹 서버의 18종을 수집하였고, 5종의 머신러닝 모델과 2종의 딥러닝 모델을 사용하여 수집한 데이터를 학습하였다. 또한, 6종의 네트워크 메트릭을 추가로 수집 및 학습하고, 제안된 애플리케이션 메트릭 기반 모델과 성능을 비교함으로써 애플리케이션 메트릭 기반 머신러닝 모델의 우수성을 검증한다. HTTP DoS 공격 중, 저대역폭으로 수행되는 RUDY 공격과 고대역폭으로 수행되는 HULK 공격을 제안된 모델로 탐지한 결과, 두 공격 탐지에 있어서 애플리케이션 메트릭 기반 머신러닝 모델의 F1-Score가 네트워크 메트릭 기반의 모델보다 각각 약 0.3, 0.1 높은 것을 확인하였다.

Recently, the number of cloud web applications is increasing owing to the accelerated migration of enterprises and public sector information systems to the cloud. Traditional network attacks on cloud web applications are characterized by Denial of Service (DoS) attacks, which consume network resources with a large number of packets. However, HTTP DoS attacks, which consume application resources, are also increasing recently; as such, developing security technologies to prevent them is necessary. In particular, since low-bandwidth HTTP DoS attacks do not consume network resources, they are difficult to identify using traditional security solutions that monitor network metrics. In this paper, we propose a new detection model for detecting HTTP DoS attacks on cloud web applications by collecting the application metrics of web servers and learning them using machine learning. We collected 18 types of application metrics from an Apache web server and used five machine learning and two deep learning models to train the collected data. Further, we confirmed the superiority of the application metrics-based machine learning model by collecting and training 6 additional network metrics and comparing their performance with the proposed models. Among HTTP DoS attacks, we injected the RUDY and HULK attacks, which are low- and high-bandwidth attacks, respectively. As a result of detecting these two attacks using the proposed model, we found out that the F1 scores of the application metrics-based machine learning model were about 0.3 and 0.1 higher than that of the network metrics-based model, respectively.