Data Skew란?

결제팀이 1년치 카드 거래로 사기 탐지 모델을 학습합니다. 사기 거래는 전체 레코드의 작은 일부에 불과하고, 거래 금액도 대부분 소액이며 고액 거래는 몇 건뿐입니다. 첫 모델은 정확도가 높게 나오지만 사기 거래 대부분을 놓칩니다.

데이터 스큐(data skew)는 데이터셋의 값이 고르게 분포하지 않고 일부 클래스, 범주, 값 범위에 크게 치우친 상태입니다. 이 때문에 모델 학습과 평가 결과가 한쪽으로 기울 수 있습니다.

NIST/SEMATECH 통계 방법 핸드북은 왜도와 첨도 항목에서 왜도(skewness)를 분포의 대칭이 깨진 정도를 재는 척도로 설명합니다. 오른쪽 꼬리가 긴 거래 금액 컬럼이 대표적인 예입니다.

레이블 쪽 치우침은 Google 머신러닝 단기집중과정의 클래스 불균형 데이터셋 가이드가 다룹니다. 한 레이블(다수 클래스)이 다른 레이블(소수 클래스)보다 훨씬 많은 경우입니다. 가이드는 이런 데이터로 학습한 모델에는 정확도가 적절한 지표가 아닌 경우가 많다고 설명합니다. 다수 클래스만 예측해도 대부분 맞힐 수 있기 때문입니다.

데이터 스큐는 클래스 불균형과 어떻게 다른가요?

  • 클래스 불균형은 예측 대상 레이블에 나타나는 스큐입니다. 한 결과가 다른 결과보다 압도적으로 많습니다. 대응 방법은 클래스 불균형 보정에서 다룹니다.
  • 데이터 스큐는 더 넓은 개념입니다. 소득이나 구매 금액처럼 치우친 입력 변수, 어느 컬럼에서든 범주별 빈도가 고르지 않은 경우까지 포함합니다.
  • 분산 데이터 처리에서 말하는 데이터 스큐는 일부 파티션에 레코드가 몰려 병렬 작업이 느려지는 현상입니다. 모델 품질이 아니라 처리 시간의 문제입니다.

AI 업무에서 데이터 스큐는 어디서 문제를 일으키나요?

업무에서 중요한 사례가 드문 쪽일 때 문제가 커집니다.

  • 지표 착시: 늘 흔한 클래스만 예측하는 모델도 정확도는 높게 나옵니다. 정작 잡아야 할 사례는 놓칩니다.
  • 부족한 사례: 드문 집단의 예시가 너무 적어 모델이 그 집단의 특징을 배우지 못하고, 오류가 그쪽에 몰립니다.
  • 대표성 없는 평가: 무작위로 나누면 평가 세트에 소수 클래스가 거의 남지 않을 수 있습니다. 층화 추출로 나누면 각 세트에서 집단별 비율을 유지할 수 있습니다.
  • 과보정: 리샘플링을 과하게 하면 팀이 검토할 수 있는 양보다 훨씬 많은 사례를 모델이 표시하거나, 다른 업무에 필요한 드문 패턴이 사라질 수 있습니다.

데이터 스큐는 어떻게 확인하고 다루나요?

먼저 데이터 프로파일링으로 레이블과 주요 변수의 분포를 집단별, 기간별로 확인하고, 업무에서 다뤄야 할 상황과 비교합니다. 흔히 쓰는 대응으로는 꼬리가 긴 숫자형 변수의 로그 변환, SMOTE나 업샘플링 같은 리샘플링, 학습 시 클래스 가중치 조정이 있습니다.

스큐를 보정할지는 업무에 따라 정합니다. 실제로도 사기 거래는 드물기 때문에, 학습 데이터의 비율을 조정하더라도 평가 세트는 실제 비율을 유지하는 경우가 많습니다. 무엇을 조정했는지 기록하고 원본 데이터셋을 보존한 뒤, 같은 평가 세트에서 조정 전후 결과를 비교합니다. 이때 전체 정확도만 보지 않고 드문 클래스의 재현율 같은 지표를 함께 봅니다.

관련 항목: 데이터 증강, 골든 데이터셋, AI-ready 데이터.

자주 묻는 질문

데이터 스큐는 왜 생기나요?

드물게 일어나는 사건, 집단별로 고르지 않은 데이터 수집, 표본 편향, 특정 결과가 훨씬 자주 나오는 업무 프로세스가 주된 원인입니다.

데이터 스큐는 어떻게 측정하나요?

숫자형 변수는 왜도 통계량을 계산하거나 분포를 그려 확인합니다. 레이블과 범주는 클래스별, 범주별 빈도를 집단과 기간에 따라 비교합니다.

데이터 스큐는 항상 보정해야 하나요?

아닙니다. 사기 거래가 드문 것처럼 현실을 그대로 반영한 스큐도 있습니다. 보정 방법은 해당 업무에 맞게 고르고, 실제 사용 환경을 반영한 평가 세트로 확인해야 합니다.