의미론적 분할을 위한 범용 온디바이스 AI 프레임워크

Generalized On-Device AI Framework for Semantic Segmentation

복잡한 의미론적 분할 작업은 주로 GPU, TPU와 같은 고성능 그래픽 하드웨어를 갖춘 서버 환경에서 수행된다. 이러한 클라우드 기반 AI 추론 방식은 처리된 결과를 클라이언트에 전송하는 방식으로 작동한다. 그러나 이 방식은 네트워크 통신에 의존적이며, 사용자 데이터를 서버로 전송하는 과정에서 개인정보 침해 우려가 존재한다. 따라서 본 논문에서는 사용자 접근성이 높은 모바일 환경에서 동작할 수 있는 의미론적 분할을 위한 범용 온디바이스 AI프레임워크를 제안한다. 제안된 프레임워크는 다양한 의미론적 분할 모델을 지원하며, 모델 변환과 효율적인 메모리 관리 기법을 통해 모바일 환경에서 직접 추론을 수행할 수 있게 한다. 본 연구의 접근 방식을 통해 클라우드 컴퓨팅 환경이 아닌 IoT 장치, 자율 주행 차량, 그리고 산업용 로봇과 같이 자원이 제약된 환경에서도 의미론적 분할 알고리즘을 효과적으로 수행할 수 있을 것으로 기대된다. 이는 실시간 영상 처리, 개인정보 보호, 그리고 네트워크 독립적인 AI 응용 분야의 발전에 기여할 것으로 예상된다.

Complex semantic segmentation tasks are primarily performed in server environments equipped with high-performance graphics hardware such as GPUs and TPUs. This cloud-based AI inference method operates by transmitting processed results to the client. However, this approach is dependent on network communication and raises concerns about privacy infringement during the process of transmitting user data to servers. Therefore, this paper proposes a Generalized On-Device Framework for Semantic Segmentation that can operate in mobile environments with high accessibility to people. This framework supports various semantic segmentation models and enables direct inference in mobile environments through model conversion and efficient memory management techniques. It is expected that this research approach will enable effective execution of semantic segmentation algorithms even in resource-constrained situations such as IoT devices, autonomous vehicles, and industrial robots, which are not cloud computing environments. This is expected to contribute to the advancement of real-time image processing, privacy protection, and network-independent AI application fields.