정도관리 이상점 판정은 눈으로 튀어 보이는 값을 빼는 작업이 아니라, 정규성 전제 확인 → 검정통계량 계산 → 유의수준 구분 → OOL 연계 판정의 순서를 따르는 통계 절차다. Grubbs 검정은 단일 이상점 검출에, Dixon Q 검정은 n이 작은 소표본에, 사분위수 기반 이상범위법은 분포 가정이 약한 상황에 각각 적합하다. ISO 16269-4는 이상점이 반드시 오류 데이터는 아니며 조사 대상 정보일 수 있다고 규정하므로, 검정 결과는 제거 근거가 아니라 조사 착수 신호로 다루는 것이 원칙이다.
목차
정도관리 이상점 판정의 전제 — 검정 이전에 확인할 것
정도관리 이상점 판정은 통계 검정을 돌리는 작업이 아니라, 그 데이터가 검정을 받을 자격이 있는지부터 확인하는 절차다. 전사 오류, 기기 알람 로그, 시약·로트 교체 기록처럼 명백한 원인이 남아 있다면 통계 검정 이전에 원인 기반으로 처리하는 것이 순서다.
NIST/SEMATECH 핸드북은 Grubbs 검정을 “근사적으로 정규분포를 따르는 단변량 데이터에서 단일 이상점을 검출하는” 방법으로 규정하고, 적용 전에 정규확률도 등으로 정규성을 시각적으로 확인할 것을 권고한다. 정규성이 무너진 분포에서는 정상적인 꼬리값이 기계적으로 이상점으로 걸려 나온다.
ISO 16269-4:2010은 이상점의 원인으로 측정 오류, 시료채취 오류, 기록 오류, 분포·모형 가정의 오류, 그리고 드물게 발생하는 정상 관측을 함께 열거한다. 같은 표준은 이상점이 반드시 나쁘거나 잘못된 값은 아니며 때로는 본질적 정보를 담고 있어 추가 조사가 필요하다고 명시한다.
이 관점이 실무에서 중요하다. 검정이 유의하다는 결과는 “이 값을 지워도 된다”는 허가가 아니라 “이 값의 발생 경위를 조사하라”는 신호로 해석해야 한다.
1단계: 데이터 집합 정의와 정규성·추세 사전 확인
첫 단계는 검정 대상 집합의 경계를 정하는 일이다. 동일 QC 시료 로트, 동일 기기, 동일 분석법, 동일 농도 수준으로 묶어야 하며, 서로 다른 조건을 섞으면 조건 간 차이가 이상점으로 오인된다.
표본 수 n을 확정하고 시간순으로 정렬한 뒤 산점도와 관리도를 먼저 본다. 시간에 따라 단조 증가·감소하는 형태가 보이면 이는 이상점 문제가 아니라 드리프트 진단 문제이므로, Grubbs나 Dixon을 적용하기 전에 추세 원인을 분리해야 한다.
정규성은 정규확률도로 확인하고, 필요하면 Shapiro-Wilk 같은 검정을 보조로 쓴다. 로그정규 형태가 뚜렷하면 변환 후 검정하거나 분포 가정이 덜한 이상범위법으로 우회하는 편이 안전하다.
이 사전 확인을 생략한 정도관리 이상점 판정은 결론의 방향이 통계가 아니라 데이터의 형태에 의해 결정된다. 사전 확인 결과와 판단 근거는 판정 기록에 함께 남긴다.
2단계: Grubbs 검정으로 단일·쌍 이상점 판정
Grubbs 검정통계량은 G = |max(Yi − Ȳ)| / s로, 평균에서의 최대 절대편차를 표준편차로 나눈 값이다. 양측 검정의 기각역은 자유도 N−2의 t 분포 임계값을 이용해 (N−1)/√N × √[t²/(N−2+t²)] 형태로 계산되며, 계산된 G가 이 값을 넘으면 해당 극값을 이상점 후보로 본다.
한쪽 방향만 문제 삼는 상황이라면 최대값 또는 최소값에 대한 단측 변형을 쓴다. 어느 쪽을 쓸지는 데이터를 본 뒤가 아니라 검정 설계 시점에 정해야 하며, 결과를 보고 방향을 바꾸면 실제 유의수준이 왜곡된다.
영국 왕립화학회 AMC 기술 브리프 69는 Grubbs 검정을 반복측정값의 이상점 식별에, Cochran 검정을 분산이 튀는 그룹 식별에 대응시켜 설명하면서, 유의성 검정 방식이 여러 표준에서 채택되어 여전히 가장 널리 쓰이지만 알려진 단점도 있다는 점을 함께 지적한다. 정밀도 공동실험을 다루는 ISO 5725-2 계열의 관행에서는 5% 수준 초과를 준이상점(straggler), 1% 수준 초과를 이상점으로 구분해 대응 강도를 달리하는 방식이 널리 쓰인다.
NIST 핸드북은 Grubbs 검정이 단일 이상점만 검출한다는 한계를 명시하고, 다중 이상점이 의심되면 Tietjen-Moore나 일반화 극단 스튜던트화 편차(GESD) 검정을 쓰도록 안내한다. 인접한 두 값이 같은 방향으로 함께 튀면 표준편차가 부풀어 어느 것도 유의하지 않게 나오는 마스킹이 발생하므로, 이 경우 쌍(pair) 변형이나 GESD로 전환한다.
3단계: Dixon Q 검정 — 소표본에서의 정도관리 이상점 판정
Dixon Q 검정은 의심값과 인접값의 간격을 전체 범위로 나눈 비율을 검정통계량으로 쓴다. 표준편차를 추정하지 않으므로 n이 작아 s의 신뢰도가 떨어지는 상황에서 유리하고, 통상 3~30개 범위의 소표본에서 유효한 것으로 소개된다.
실무에서 가장 잦은 실수는 검정표 선택이다. Dixon 통계량은 r10, r11, r21, r22 등 여러 변형이 있고 n 구간에 따라 권장 변형이 달라지므로, 출처가 다른 임계값표를 섞어 쓰면 같은 데이터에서 판정이 뒤집힌다. 사용한 변형과 표의 출처를 SOP에 고정해 두는 것이 안전하다.
또 하나의 원칙은 반복 적용 금지다. 한 값을 제거한 뒤 남은 데이터에 같은 검정을 다시 돌리는 방식은 실제 오류율을 누적시키므로, 원칙적으로 한 데이터 집합에 한 번만 적용한다.
따라서 정도관리 이상점 판정에서 Grubbs와 Dixon은 경쟁 관계가 아니라 표본 크기와 분포 조건에 따른 선택지다. n이 충분하고 정규성이 확인되면 Grubbs를, n이 매우 작으면 Dixon을 우선 검토하는 식으로 SOP에 분기 조건을 명시한다.
4단계: 이상범위법과 관리도 연계로 OOL 확인
이상범위법은 사분위수를 이용해 Q1 − 1.5×IQR 미만, Q3 + 1.5×IQR 초과를 이상 구간으로 보는 박스플롯 계열 접근이다. 평균과 표준편차를 쓰지 않아 이상점 자체에 의한 통계량 오염이 적고, 정규성 가정이 약할 때 특히 유용하다.
ISO 16269-4:2010은 정규분포 데이터의 이상점 검출을 위한 검정통계량 산출 알고리즘과 임계값, 수정 박스플롯을 위한 표와 통계 이론, 그리고 절차 선택을 돕는 흐름도를 함께 제공한다. 어떤 절차를 언제 쓸지에 대한 근거를 외부 표준에 걸어 두면 감사 대응이 단순해진다.
이상범위법 결과는 관리도의 관리한계와 겹쳐 읽어야 의미가 산다. 관리한계 밖(OOL)이면서 통계 검정에서도 유의하면 조사 우선순위가 높고, OOL이지만 검정에서 유의하지 않으면 산포 자체가 넓어진 정밀도 문제일 가능성이 크며, 반대로 관리한계 안이지만 검정에서 유의하면 한계값이 과도하게 느슨한지 점검한다.
판정 후 처리는 제거·재측정·조사 착수 중 하나로 귀결되며, 어느 경우든 원자료는 삭제하지 않고 플래그와 사유를 남긴다. 데이터 무결성 관점에서 정도관리 이상점 판정의 최종 산출물은 제거된 값이 아니라 판정 근거의 감사증적이다.
관련해서 정도관리 이상점 처리 판정 4단계 — 제거·재측정·조사 기준 글도 참고할 만하다.
정리 — 정도관리 이상점 판정 체크포인트
첫째, 검정 이전에 원인 기록을 먼저 뒤진다. 명백한 오류는 통계가 아니라 원인으로 처리하고, 통계 검정은 원인이 불명확할 때의 도구로 위치시킨다.
둘째, 집합의 동질성과 정규성, 추세 유무를 확인한다. 조건이 섞여 있거나 드리프트가 있으면 이상점 검정 자체가 잘못된 질문이다.
셋째, 검정 방법을 사전에 고정한다. n과 분포 조건에 따른 Grubbs/Dixon/이상범위법 분기, 단측·양측 여부, 유의수준(5%와 1%의 역할 구분), 사용할 임계값표의 출처를 SOP에 명시하고 결과를 보고 바꾸지 않는다.
넷째, 다중 이상점과 마스킹을 경계한다. 반복 적용 대신 쌍 변형이나 GESD 같은 다중 이상점 절차로 전환한다.
다섯째, 결과를 OOL 판정 및 후속 조치와 연결하고, 정도관리 이상점 판정의 전 과정을 기록으로 남긴다. 표준의 취지대로 이상점은 폐기 대상이 아니라 조사 대상이며, 조사 결과가 다음 주기의 관리한계와 QC 설계를 개선하는 입력이 된다.
