Lee, B.H., Kim, T.H. and Choi, Y.S.(2021). Discriminant analysis for unbalanced data using HDBSCAN, The Korean Journal of Applied Statistics, 50th Anniversary Special Issue, 34(4), 599-609 (2021.08)

Data with large differences in population proportions are called unbalanced data. In the discriminant analysis of unbalanced data, it is more important to classify x-x-x-x-x-objects in minority categories than to classify x-x-x-x-x-objects in majority categories. However, x-x-x-x-x-objects in minority categories are often misclassified into majority categories. This study proposes a method of combining HDBSCAN and SMOTE to solve this problem. Using HDBSCAN, it eliminates noise from minority categories and majority categories. Then it applies SMOTE to create new data. AUC and F1 score were used to compare performance with existing methods. Therefore we showed that in most cases the combined HDBSCAN and SMOTE method showed high performance indicators and were excellent methods for classifying unbalanced data.

군집간의 개체 수의 차이가 큰 자료들을 불균형자료라고 한다. 불균형자료의 판별분석에서 다수 범주의 개체를 잘 분류하는 것 보다 소수 범주의 개체를 잘 분류하는 것이 더 중요하다. 그러나 개체 수가 상대적으로 작은 소수 범주의 개체를 개체 수가 상대적으로 많은 다수 범주의 개체로 오분류하는 경우가 많다. 본 연구에서는 이를 해결하기 위해 HDBSCAN과 SMOTE를 결합한 방법을 제안한다. HDBSCAN을 이용하여 소수 범주의 노이즈와 다수 범주의 노이즈를 제거하고 SMOTE를 적용하여 새로운 자료를 만들어낸다. 기존의 방법들과 성능을 비교하기 위하여 AUC와 F1 점수를 이용하였고 그 결과 대부분의 경우에 HDBSCAN과 SMOTE를 결합한 방법이 높은 성능 지표를 보였고, 불균형자료를 분류하는데 있어 뛰어난 방법으로 나타났다.