LDA 모형의 모형평가 및 잠재집단 해석 방법론에 대한 고찰

Review of evaluation and interpretation method for LDA model

LDA 모형은 문서 또는 단어의 주제를 파악하기 위해 이용되는 모형으로, 대용량의 데이터를분석할 수 있어 다양한 분야에서 널리 이용되고 있다. 다양한 LDA 모형의 비교를 위해 복잡도(perplexity)가 이용되고 있으나, 이는 오직 적합도만을 나타내 각 문서의 군집화가 얼마나 잘 이루어졌는지 파악하기 어려운 한계점이 있다. 이러한 문제를 해결하기 위해 일관성 척도(coherence measure)들이 제안되었다. 복잡도 및 일관성 척도를 이용한 모형 선택 이후, 군집화된 각 주제의관계 및 의미를 파악하기 위한 도구로 LDAvis가 널리 이용되고 있다. 많은 선행 연구에서 LDA모형에 대한 소개는 충분히 이루어져 왔으나, 모형평가 도구인 일관성 척도와 모형 해석을 위한LDAvis에 대한 소개는 불충분하다. 본 논문에서는 먼저 LDA 모형 및 미니배치 학습방법을 소개하고, 모형평가 도구인 일관성 척도를 소개하도록 한다. 또한 LDAvis에서 주제 간 관계를 파악하기 위해 유사도 측정 방법 및 차원 축소 방법을 소개하고, 각 주제별 상위단어를 파악하기 위해관련성 척도(relevance)를 설명한다. 마지막으로 이미지 주석 데이터에 다양한 초모수에서의 LDA모형을 적합한 후, 일관성 척도를 통해 모형을 비교하고, LDAvis를 통해 각 주제를 해석하였다.

LDA model has been widely used to investigate the subject of documents or words in various fields because it can analyze large amounts of data. Although perplexity is used to compare various LDA models, it only presents the goodness of fit, and it is not possible to consider how well each document is clustered. To resolve this problem, coherence measures have been proposed. After model selection using complexity and coherence measures, LDAvis is widely used to understand the relationship and meaning of each topic. Although LDA model has been introduced in many preceding studies, the introduction of the model evaluation method, coherence measure, and LDAvis for model interpretation is not sufficient. In this paper, we first introduce the LDA model and the mini-batch learning method, and introduce the coherence measure. We also introduce LDAvis including similarity measures and dimension reduction method to investigate the relationship between topic. Relevance is also explained to present the top words for each topic. Finally, after fitting the LDA model at various hyper-parameters to the image annotation data, the models were compared through coherence measures, and each subject was interpreted using LDAvis.