반복 QC 측정값으로 표준편차를 구하는 목적은 거의 언제나 측정 과정의 산포를 추정해 앞으로 나올 값을 판정하는 데 있다. 그래서 관리한계선, 반복성(RSD), Type A 표준불확도, 다중 배치의 합동 표준편차에는 모두 n-1(합동이면 N-k)로 나눈 표본표준편차 s를 쓴다. n으로 나눈 값은 손에 쥔 데이터의 흩어짐만 기술하는 값이다. QC 판정에 쓰면 한계가 좁아지고 불확도가 작게 나온다. 실무에서 생기는 오류는 대개 일부러 n을 골라서가 아니라, 엑셀 STDEV.P·NumPy 기본값·계산기의 σn 키처럼 도구 기본값을 확인하지 않아서 생긴다.
목차
결론: QC 데이터에서는 n-1이 원칙이고, n은 판정에 쓰지 않는다
QC 반복측정값은 측정 과정이 낼 수 있는 결과 전체에서 일부를 뽑은 표본이다. 이 표본으로 구한 표준편차는 앞으로 측정할 값을 판정(관리한계)하거나, 결과에 붙일 불확도를 평가하거나, 방법의 반복성을 주장하는 데 쓰인다. 셋 다 '모집단 산포를 추정하는' 작업이다.
편차는 참값이 아니라 같은 데이터에서 계산한 평균을 기준으로 잰다. 데이터 자신의 평균은 편차 제곱합을 가장 작게 만드는 점이므로 제곱합이 실제보다 작게 나온다. 그래서 n이 아니라 n-1로 나눠 보정한다. NIST/SEMATECH e-Handbook은 분산을 s² = Σ(Yᵢ − Ȳ)²/(N − 1)로, 표준편차를 그 제곱근으로 정의한다. 또 n-1로 나눈 표본분산이 모분산 σ²의 불편추정량이라고 명시한다.
n으로 나눈 값(이 글에서는 σₙ으로 쓴다)이 맞는 경우는 관심 대상이 지금 가진 데이터 그 자체이고, 그 바깥으로 일반화하지 않을 때뿐이다. 예를 들어 '이번 달 보고서에 실린 12개 값은 이 정도로 흩어져 있었다'고 기술만 하는 경우다. 그 숫자로 다음 달 한계선을 긋거나 불확도를 계산하는 순간 추정이 되므로 다시 n-1이 맞다. 정도관리 실무에서 σₙ을 따로 고를 이유는 사실상 없다.
두 값은 얼마나 다르고, 틀리면 무엇이 달라지나
같은 데이터에서 σₙ/s = √((n−1)/n)이다. 차이는 n에만 달려 있고 데이터 값과는 무관하다. 아래 표(그림 1)처럼 n=10이면 σₙ이 약 5% 작고, n=20이면 약 2.5% 작다. n=3처럼 작은 표본이면 거의 18% 작아진다.
방향은 항상 같다. σₙ은 s보다 작다. 그래서 σₙ을 잘못 쓰면 다음 결과가 생긴다.
– 관리한계: 한계선이 안쪽으로 좁아져 정상 결과가 이탈로 판정되는 거짓 경보가 늘어난다.
– 반복성(RSD): 방법의 정밀도가 실제보다 좋게 보고된다.
– 불확도: Type A 성분이 작게 들어가 확장불확도가 과소평가된다. 고객과 인정기관에 내는 숫자이므로 가장 위험한 방향의 오류다.
차이가 몇 %라 무시해도 된다고 보기 쉽다. 하지만 관리한계 설정 초기처럼 데이터가 적을 때 차이가 가장 크고, 바로 그때 정한 한계가 이후 판정 전체의 기준이 된다.
단계별 판정표: 무엇을 계산할 때 어떤 분모와 자유도를 쓰나
| 계산 목적 | 쓰는 값 | 분모 | 자유도(ν) | 비고 |
|---|---|---|---|---|
| 관리한계(평균 ±2s, ±3s) 설정 | 표본표준편차 s | n−1 | n−1 | Westgard QC 계산 해설의 방식 |
| 반복성 평가, RSD 산출 | s, s/평균 | n−1 | n−1 | 보고서에 n을 함께 적는다 |
| Type A 표준불확도(단일 측정결과 보고) | u = s | n−1 | n−1 | 결과가 한 번의 측정이면 √n으로 나누지 않는다 |
| Type A 표준불확도(n회 평균을 결과로 보고) | u = s/√n | n−1 | n−1 | 반복성 성분에만 적용 |
| 여러 배치(일자) 합동 반복성 | 합동 표준편차 s_p | N−k | Σ(nᵢ−1) = N−k | 배치마다 평균을 따로 빼므로 배치 수만큼 자유도가 줄어든다 |
| 보유 데이터 자체의 흩어짐 기술(추론 없음) | σₙ | n | 해당 없음 | 판정·불확도에 재사용 금지 |
자유도는 분모와 같은 값이 된다. 계산서를 검토할 때는 분모만이 아니라 자유도 칸도 같이 본다. NIST TN 1297 부록 B는 반복측정 평균에서 얻은 Type A 성분의 자유도를 νᵢ = n − 1로 둔다. 유효자유도가 작으면 k=2 대신 t 분포에 근거한 더 큰 포함인자가 필요하다. 같은 부록은 νeff = 8일 때 k₉₅ = 2.3인 예를 든다. 그래서 n을 분모로 써 놓고 자유도만 n−1로 적는 식의 혼용은 계산서 안에서 앞뒤가 맞지 않는다.
계산 예제: 같은 10개 값, 분모만 바꿔 보기
아래는 가상(교육용) 데이터다. 어떤 QC 시료를 10회 측정한 값(mg/L)이다: 10.12, 10.05, 9.98, 10.20, 10.03, 9.95, 10.10, 10.08, 9.92, 10.07 (그림 2).
1) 평균: 합 100.50 / 10 = 10.050 mg/L
2) 편차 제곱합: Σ(xᵢ − x̄)² = 0.0634 (mg/L)²
3) n−1로 나눈 표본표준편차: s = √(0.0634/9) = 0.0839 mg/L, RSD = 0.84 %
4) n으로 나눈 값: σₙ = √(0.0634/10) = 0.0796 mg/L. s보다 약 5% 작다.
관리한계를 s로 그으면 ±2s 경고한계는 9.882~10.218 mg/L, ±3s 관리한계는 9.798~10.302 mg/L이다. σₙ으로 그으면 ±3σₙ 한계가 9.811~10.289 mg/L로 좁아진다. 다음 QC 값이 9.80 mg/L로 나왔다고 하자. s 기준으로는 관리한계 안이지만 σₙ 기준으로는 이탈로 판정된다. 분모 하나가 판정을 뒤집는다.
불확도에서도 마찬가지다. 시험 결과가 1회 측정값이면 반복성 성분은 u = s = 0.0839 mg/L, 자유도 9다. 결과가 이 10회 측정의 평균이면 u = s/√10 = 0.0265 mg/L이고 자유도는 여전히 9다. 감도계수는 결과와 같은 양이라 1 (mg/L)/(mg/L)이다. 포함인자는 다른 성분과 합친 뒤의 유효자유도로 정한다.
다중 배치 데이터: N−1이 아니라 N−k인 이유
여러 날(배치)에 걸쳐 모은 QC 데이터를 하나로 이어 붙여 n−1로 나누면, 배치 평균끼리의 차이까지 산포에 섞인다. 배치 내 반복성만 보려면 배치마다 자기 평균으로 편차를 구해야 한다. 그러면 배치 수 k만큼 평균을 추정했으므로 자유도는 Σ(nᵢ−1) = N−k가 된다. NIST/SEMATECH e-Handbook은 합동분산을 s²ₚ = Σ(Nᵢ−1)s²ᵢ/(N−k)로 정의한다.
NIST의 측정 과정 특성화 예제는 두 값을 구분한다. 하루 6회씩 25일 측정한 일별 표준편차(각 자유도 5)를 합동한 반복성 추정치는 자유도 K(J−1) = 125다. 일 평균들로 구한 일간(level-2) 표준편차는 자유도 K−1 = 24다. 어느 경우든 n으로 나누는 선택지는 없다. 합동 계산 절차는 기존 글 '여러 배치 QC 데이터의 표준편차는 어떻게 합치나'에서 다뤘다. 여기서는 분모와 자유도가 무엇을 묻느냐에 따라 달라진다는 점만 확인한다.
n−1로 나눠도 s는 σ를 정확히 맞추지 않는다 — c₄는 언제 신경 쓰나
n−1 보정이 불편성을 보장하는 대상은 분산 s²이다. 표준편차 s 자체는 아니다. NIST/SEMATECH e-Handbook은 s가 σ의 불편추정량이 아니고, 정규분포에서는 c₄·σ를 추정한다고 설명한다. c₄는 표본 크기에 따른 상수이며 n=10이면 0.9727이다. NumPy 문서도 Bessel 보정 뒤의 표준편차가 '여전히 편향되어 있지만 보정하지 않았을 때보다 덜하다'고 적는다.
이 사실을 'n−1도 틀리니 n을 써도 된다'로 읽으면 안 된다. 편향 방향은 둘 다 과소 추정이고, σₙ은 s보다 더 작다. c₄ 보정은 부분군 표준편차의 평균으로 σ를 추정하는 Shewhart 관리도(x̄–s 관리도)에서 쓰는 장치다. Westgard의 QC 계산 해설은 관리물질 결과의 평균과 n−1로 나눈 s로 평균 ±2s, ±3s 관리한계를 계산한다. 실험실 절차서가 어느 방식을 택했는지 명시해 두면 된다.
실무에서 n이 섞여 들어오는 경로: 도구 기본값
사람이 일부러 n을 고르는 일은 드물다. 대부분 도구의 기본값에서 섞여 들어온다.
– 엑셀: STDEV.S는 'n−1 방법', STDEV.P는 인수 전체를 모집단으로 가정한 'n 방법'이다. 마이크로소프트 문서는 데이터가 모집단의 표본이면 STDEV(.S)를 쓰라고 안내한다. 이름만 보고 P를 '정밀도(precision)'로 오해하는 경우가 있다.
– Python NumPy: numpy.std의 기본 ddof는 0이라 분모가 N이다. 표본표준편차를 얻으려면 ddof=1을 지정해야 한다.
– Python pandas: DataFrame.std의 기본 ddof는 1(분모 N−1)이다. NumPy와 기본값이 다르다. 같은 데이터를 두 라이브러리로 계산하면 값이 다르게 나온다.
– 공학용 계산기: σn 키와 σn−1(또는 sx) 키가 따로 있다.
– LIMS·장비 소프트웨어: 통계 모듈이 어느 분모를 쓰는지 밸리데이션 문서나 매뉴얼에서 확인한다. 공개 문서가 없으면 손계산 값과 비교하는 검증 기록을 남긴다.
데이터 무결성 관점에서는 계산 도구가 바뀔 때가 위험 시점이다. 스프레드시트에서 스크립트로, 구 LIMS에서 신 LIMS로 옮길 때 같은 데이터의 표준편차가 달라지지 않는지 확인한다.
내부감사·계산서 검토 체크리스트
– 절차서에 표준편차 계산식(분모 n−1)과 자유도가 명시되어 있는가.
– 스프레드시트 셀 수식이 STDEV.S 또는 STDEV인가(STDEV.P가 아닌가). 스크립트는 ddof=1인가.
– LIMS·장비 소프트웨어의 표준편차 분모를 확인한 기록이나 손계산 대조 기록이 있는가.
– 관리한계 설정 데이터의 n, 수집 기간, 사용한 s가 기록되어 한계값을 재현할 수 있는가.
– 다중 배치 데이터에서 반복성(N−k)과 전체 산포(N−1) 중 무엇을 계산했는지 구분되어 있는가.
– 불확도 예산의 Type A 성분에서 u = s인지 u = s/√n인지가 결과 보고 방식(1회 측정인지 n회 평균인지)과 일치하는가.
– Type A 성분의 자유도가 분모와 일치하고, 포함인자 결정에 반영되었는가.
– 보고서의 ±값 옆에 n과, 그것이 표준편차인지 다른 값인지 적혀 있는가.
이 글은 ISO/IEC 17025 조항 원문을 인용하지 않는다. 감사 시에는 실험실 절차서가 위 항목을 어떻게 규정하는지를 기준으로 확인한다.
이어서 볼 글: 정도관리 관리한계선, 평균과 표준편차로 계산하는 법
근거 자료
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(현행 공개본)) — 1.3.5.6 Measures of Scale – Variance, Standard Deviation
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(현행 공개본)) — 6.3.2 What are Variables Control Charts? – c4 factor
- NIST Technical Note 1297 (1994 Edition (NIST 웹 HTML판)) — Appendix B, B.3
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(현행 공개본)) — 2.5.3.1.1 Type A evaluations of time-dependent effects
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(현행 공개본)) — 1.3.5.7 Bartlett’s Test – Definition
- Microsoft Support (현행 온라인 도움말) — STDEV.S function – Remarks
- Microsoft Support (현행 온라인 도움말) — STDEV.P function – Remarks
- NumPy documentation (stable 판(2026년 10월 확인)) — numpy.std – Parameters(ddof), Notes
- pandas documentation (stable 판(2026년 10월 확인)) — DataFrame.std – Parameters(ddof), Notes
- NIST Technical Note 1297 (1994 Edition (NIST 웹 HTML판)) — 3. Type A Evaluation of Standard Uncertainty
- NIST/SEMATECH e-Handbook 2.6.2.2 Analysis and interpretation
- Westgard QC – QC: The Calculations