분류 결정을 수반하는 준거참조검사의 신뢰도와 타당도를 점검하는 주요한 방법으로 분류 일관성 및 정확성 분석이 권장된다. 단일 이분문항검사의 분류 일관성 및 정확성을 추정하는 방법 중 선행연구에서 높은 빈도로 사용된 방법을 네 유형으로 나누고, 각 유형별 대표적 방법인 Hanson & Brennan 방법, 확장 Subkoviak 방법, IRT 분포 방법, IRT 개별 추정 방법을 이론적으로 고찰하고, 실제 이항 분류 검사 자료를 사용하여 네 방법의 가정 충족 정도와 자료 적합도를 점검하고 주변 분류 일관성 및 정확성과 조건부 분류일관성 및 정확성을 추정하여 제시․비교하였다. 연구의 결과와 추가 동형검사 개발 없 이 현재 검사를 장기간 사용하고자 하는 검사 사용 계획 그리고 집단 수준에서 분류 일관성 및 정확성 분석의 필요성에 기초하여 IRT 분포 방법의 사용을 제안하였다.
This paper described four procedures developed for estimating classification consistency and accuracy for a dichotomously-scored test. These procedures are based upon different psychometrical models; beta-binomial model for Hanson & Brennan procedure, binomial model for extended Subkoviak procedure, and IRT model for IRT distributional & individual procedures. Estimates from four procedures using real data from high school students were compared. No critical problems were found for assumptions and model fit of the four estimation procedures. Based upon study results, followings were suggested: because current form is to be used over a long period of time, IRT distributional & individual procedures would be recommended; because test developer s main interest is in examination of group-level consistency & accuracy of classification decision, IRT distributional procedure would be preferred; and if a test developer doesn t consent to using IRT, Hanson & Brennan procedure could be applied.
(0)
(0)