연관성 규칙 평가를 위한 대칭적 균형화 교차 엔트로피 측도

A Proposal of Symmetrically Balanced Cross Entropy for Association Rule Evaluation

여러 가지 엔트로피 기반 측도들 중에서 연관성 규칙을 평가하는 데 의미 있는 측도에는 결합 엔트로피, 조건부 엔트로피, 상호정보량, 교차 엔트로피, 그리고 균형화된 교차 엔트로피 등이 있다(Park, 2016b). 이들 중에서 균형화된 교차 엔트로피는 모든 가능한 연관성의 강도를 동시에 고려한 평가 기준이기는 하나 한쪽 방향으로만 측정하는 측도이다. 이에 반해 대칭적 J 측도는 기존의 교차 엔트로피에 방향성만을 추가한 측도라고 할 수 있다. 본 논문에서는 연관성 규칙의 평가 기준으로 사용하기 위해 대칭적 J 측도와 균형화된 교차 엔트로피의 장점을 동시에 고려한 대칭적 균형화 교차 엔트로피를 제안하고 예를 통해 그 유용성을 살펴보았다. 그 결과, 측도 균형화된 교차 엔트로피와 대칭적 균형화 교차 엔트로피는 양의 값 또는 음의 값으로 나타나므로 연관성의 방향을 알 수 있으나, 교차 엔트로피와 대칭적 J 측도는 항상 양의 값을 취하고 있어서 이 측도만으로는 연관성의 방향을 알 수가 없는 것으로 나타났다. 또한 균형화된 교차 엔트로피와 대칭적 균형화 교차 엔트로피의 변화하는 양상을 살펴보면 그들의 부호가 다르게 나타나는 사례를 찾아볼 수 있는데 그 이유는 전자가 한 방향만을 고려하는 측도인 반면에 후자는 양 방향을 고려하기 때문으로 해석된다.

Among the various entropy-based measures, meaningful measures for evaluating association rules are joint entropy, conditional entropy, mutual information, cross entropy, and balanced cross entropy. The balanced cross entropy is a measure that measures only one direction, although it is an evaluation criterion that simultaneously considers the strength of all possible association rules (Park, 2017a). In addition, the symmetric J measure is a measure that adds only directionality to the existing cross entropy (Park, 2017b). In this paper, we proposed a symmetrically balanced cross entropy considering the advantages of symmetric J measure and balanced cross entropy for evaluation of association rules. As a result, the symmetrically balanced cross entropy had a positive or a negative value, so we could know the direction of association. In the case of the balanced cross entropy and a symmetrically balanced cross entropy, we could see that their signs were different because the former was considered as one direction only, while the latter was considered as considering both directions.