여러 배치 QC 데이터의 표준편차는 어떻게 합치나 — 합동 표준편차와 배치 간 분산 계산

합동 표준편차 개념 그림

같은 측정 시스템과 같은 QC 품목으로 모은 여러 배치를 합칠 때는 먼저 배치마다 n, 평균, 분산을 따로 구한다. 배치 내 제곱합을 모두 더해 배치 내 자유도의 합(N−k)으로 나누면 합동(가중) 분산이 되고, 그 제곱근이 배치 내 반복성을 나타내는 합동 표준편차다. 배치 평균끼리의 차이는 배치 간 제곱합으로 따로 계산한다. 두 제곱합을 더해 N−1로 나누면 배치 간 이동까지 포함한 전체 표준편차가 나온다. 배치별 표준편차를 단순 평균하면 배치 크기 차이와 배치 간 평균 이동이 모두 빠진다.

결론: 배치별로 나눠 구한 뒤 제곱합 단위로 더한다

여러 배치의 QC 데이터를 하나의 표준편차로 묶을 때 더하는 단위는 표준편차가 아니라 제곱합(분산 × 자유도)이다. 계산 순서는 다음과 같다.

1. 각 배치는 n_i ≥ 2여야 하며, 배치 i마다 측정 개수 n_i, 평균 x̄_i, 표본분산 s_i² = Σ(x − x̄_i)² / (n_i − 1)을 구한다.
2. 배치 내 제곱합 SS_within = Σ(n_i − 1)·s_i²를 구한다. 배치마다 자기 평균을 기준으로 잰 흩어짐이다.
3. 합동 분산 s_p² = SS_within / (N − k)를 구한다. N은 전체 측정 개수, k는 배치 수이고, N − k는 배치 내 자유도의 합이다. s_p = √s_p²가 합동 표준편차다.
4. 전체 평균 x̄ = Σ n_i·x̄_i / N을 구한다. 배치 평균을 단순 평균하지 않고 측정 개수로 가중한다.
5. 배치 간 제곱합 SS_between = Σ n_i·(x̄_i − x̄)²를 구한다. 배치 평균이 서로 얼마나 벌어져 있는지를 나타낸다.
6. 전체 표준편차 s_total = √[(SS_within + SS_between) / (N − 1)]을 구한다. 모든 원자료를 한 묶음으로 보고 계산한 표본표준편차와 같은 값이다.

NIST/SEMATECH e-Handbook은 반복성 표준편차를 측정자·런·관리시료에 걸쳐 합칠 수 있고, 그렇게 합친 값이 가중 분산의 평균이라고 설명한다. 이 글은 하나의 배치나 하나의 기간으로 초기 한계를 정하는 방법(관리한계선 계산법)을 다루지 않는다. 여러 시기에 걸쳐 모은 배치를 합치는 절차만 다룬다.

적용 범위: 통합해도 되는 데이터와 안 되는 데이터

다음 경우에는 이 절차를 그대로 쓰지 않는다.

– 시스템 변경이나 관리한계 개정 이후의 데이터를 이전 데이터에 소급해 합치는 경우. 장비 교체, 방법 변경, 한계 개정 전후는 서로 다른 모집단이다. 변경 전후의 차이부터 판정해야 한다. 로트 전환 직후의 편차 진단은 배치 효과 진단에서 다룬다.
– 원인이 규명된 이상치를 빼고 다시 계산하는 경우. 이 글은 정상 통합 절차만 다룬다. 이상치를 뺄 때는 제외 근거를 기록하는 별도 절차가 필요하다.
– 배치 평균 사이에 뚜렷한 이동(점프)이 있는 경우. 아래 예제처럼 배치 간 분산을 먼저 확인한다. 이동이 크면 단순 통합보다 원인 분석이 먼저다.

배치별 표준편차를 단순 평균하면 안 되는 이유

흔히 배치마다 표준편차를 구한 뒤 산술평균을 낸다. 이 방식에는 두 가지 문제가 있다.

첫째, 배치 크기가 반영되지 않는다. 측정값 4개짜리 배치와 30개짜리 배치가 같은 무게로 섞인다. 표준편차는 분산의 제곱근이므로 표준편차끼리 평균을 내면 산술적으로도 분산 평균의 제곱근과 다르다. 자유도로 가중한 분산 평균만이 모든 배치 내 정보를 비율대로 반영한다.

둘째, 배치 간 평균 이동이 사라진다. 배치마다 자기 평균을 기준으로 잰 흩어짐만 평균하므로 배치 A는 높게, 배치 B는 낮게 나온 차이가 결과에 전혀 남지 않는다. 장기 관리차트에 실제로 찍히는 산포가 이보다 클 수 있다.

예외도 있다. NIST/SEMATECH e-Handbook의 Shewhart 관리도는 크기가 같은 예비 부분군들의 표준편차 평균에 c4 보정계수를 적용해 σ를 추정한다. 부분군 크기가 모두 같고 그 목적이 부분군 내 변동 추정일 때는 표준편차 평균도 정해진 방법이다. 배치 크기가 서로 다르고 배치 간 변동까지 보려는 통합 상황에는 이 방식을 그대로 옮기지 않는다.

계산 예제: 크기가 다른 3개 배치 통합 (가상 데이터)

아래 값은 계산 순서를 보이기 위한 가상(교육용) 데이터다. 실제 측정 결과가 아니다. 같은 QC 시료를 세 시기에 나눠 측정했다고 가정한다. 배치 A는 6회, 배치 B는 10회, 배치 C는 8회이고 단위는 mg/L이다.

1단계: 배치별 통계
– 배치 A: n = 6, 평균 10.30, 제곱합 0.10, 분산 0.10/5 = 0.0200, s = 0.1414
– 배치 B: n = 10, 평균 10.50, 제곱합 0.12, 분산 0.12/9 = 0.01333, s = 0.1155
– 배치 C: n = 8, 평균 10.40, 제곱합 0.28, 분산 0.28/7 = 0.0400, s = 0.2000

2~3단계: 합동 표준편차
– SS_within = 0.10 + 0.12 + 0.28 = 0.50
– 배치 내 자유도 = 5 + 9 + 7 = 21 (= N − k = 24 − 3)
– s_p² = 0.50 / 21 = 0.02381, s_p = 0.1543 mg/L

4~5단계: 전체 평균과 배치 간 제곱합
– 전체 평균 = (6×10.30 + 10×10.50 + 8×10.40) / 24 = 250.0 / 24 = 10.4167. 배치 평균의 단순 평균인 10.40과 다르다.
– SS_between = 6×(10.30 − 10.4167)² + 10×(10.50 − 10.4167)² + 8×(10.40 − 10.4167)² = 0.0817 + 0.0694 + 0.0022 = 0.1533

6단계: 전체 표준편차
– SS_total = 0.50 + 0.1533 = 0.6533, 자유도 23
– s_total = √(0.6533 / 23) = √0.02841 = 0.1685 mg/L

배치 간 변동 확인
일원분산분석 형식으로 정리하면 배치 간 평균제곱 MS_between = 0.1533 / 2 = 0.0767이고, 배치 내 평균제곱 MS_within = 0.02381이다. 비 F = 3.22를 선택한 유의수준에서 자유도 (2, 21)의 F 분포표 값과 비교해 배치 간 차이가 우연 범위를 넘는지 판단한다. 이 예제에서는 전체 변동(제곱합 0.6533) 가운데 약 23 %가 배치 간 성분이다.

네 가지 방식 비교
같은 데이터에서 표준편차 단순 평균은 0.1523, 분산 단순 평균의 제곱근은 0.1563, 합동 표준편차는 0.1543, 전체 표준편차는 0.1685가 나온다. 이 예제는 배치 크기가 비슷해서 앞의 세 값 차이가 작다. 배치 크기 차이가 크거나 분산이 큰 배치가 작을수록 단순 평균은 합동 값에서 더 멀어진다. 배치 간 이동을 담은 전체 표준편차는 다른 세 값과 항상 별개로 봐야 한다.

합동 표준편차와 전체 표준편차, 어디에 쓰나

두 값은 서로 다른 변동원을 나타내므로 목적에 맞게 고른다.

구분 합동(배치 내) 표준편차 전체 표준편차
담는 변동 같은 배치 안 반복 측정의 흩어짐 배치 내 흩어짐 + 배치 평균 간 이동
자유도 N − k N − 1
주 용도 반복성 평가, 배치 내 QC 반복의 허용 폭 배치마다 QC 값을 찍는 장기 관리차트의 산포
주의점 배치 간 이동을 반영하지 않아 장기 차트에 쓰면 한계가 좁아질 수 있음 배치 간 이동이 원인 있는 점프라면 정상 산포로 흡수해 버림

관리차트에 찍는 값과 같은 변동원을 담은 표준편차를 쓴다는 원칙으로 고르면 된다. 매 배치의 QC 결과 하나를 시간 순으로 찍는 차트라면 그 점들 사이에는 배치 간 변동이 들어 있다. 합동 표준편차로 한계를 그리면 정상적인 배치 간 차이도 신호로 잡힐 수 있다. 반대로 배치 간 성분이 크다면 그것이 정상적인 일간 변동인지 로트 전환 같은 원인이 있는 이동인지를 먼저 가린다.

배치 간 성분만 따로 떼어 보려면 NIST/SEMATECH e-Handbook의 2수준 분석 방식을 쓸 수 있다. 각 배치의 반복 횟수 J가 같을 때 배치(일) 효과 표준편차는 √(s_2² − s_1²/J)로 구한다. s_1은 합동 반복성 표준편차이고 s_2는 배치 평균들의 표준편차다. 근호 안이 음수면 배치 효과가 무시할 만한 수준이라는 뜻이다. 다만 자유도가 작으면 이 추정이 불안정하다.

관리한계를 다시 그릴 때는 고른 표준편차를 중심선 ±k·s에 넣는다. Shewhart 관리도에서는 k = 3이 산업계의 관행으로 자리 잡았다. 경고·관리한계를 구체적으로 긋는 방법은 관리한계선 계산법에 정리되어 있다.

통합 전 점검표와 데이터 무결성

ISO/IEC 17025:2017 7.7.1은 결과 유효성 모니터링 데이터를 추세가 드러나도록 기록하고, 실행 가능한 경우 통계 기법으로 검토하라고 요구한다. 모니터링 데이터는 분석해 실험실 활동의 관리에 쓰고, 사전에 정한 기준을 벗어나면 잘못된 결과가 보고되지 않도록 조치해야 한다. 여러 배치를 합쳐 계산하는 일은 이 추세 검토의 기초 자료를 만드는 작업이다. 따라서 어떤 배치를 어떤 근거로 넣고 뺐는지가 추적 가능해야 한다. 정보보안 통제 카탈로그인 NIST SP 800-53 Rev. 5의 AU-9는 감사 정보와 감사 로그 도구를 무단 접근·수정·삭제로부터 보호하고, 그런 행위를 감지하면 지정된 담당자에게 알리도록 규정한다. QC 데이터베이스에 같은 원칙을 적용하면 통합 계산에 쓴 배치 목록과 원자료가 사후에 몰래 바뀌는 일을 막을 수 있다.

통합 전 점검표
– [ ] 모든 배치가 같은 측정 시스템, 같은 방법, 같은 QC 품목인가
– [ ] 통합 기간 안에 장비 교체, 방법 변경, 관리한계 개정이 없었는가. 있었다면 그 전후를 나눴는가
– [ ] QC 시료나 CRM의 로트가 바뀐 시점을 기록했고, 로트별로 배치를 구분할 수 있는가
– [ ] 배치 ID·측정일·n이 원자료와 함께 남아 있는가
– [ ] 제외한 값이 있다면 제외 사유와 승인 기록이 있는가. 사유 없이 뺀 값은 없는가
– [ ] 배치별 n, 평균, 분산 → 배치 내 제곱합 → 배치 간 제곱합 순서로 계산했고, 계산식(스프레드시트 수식 등)을 재현할 수 있게 보관했는가
– [ ] 배치 간 평균제곱과 배치 내 평균제곱을 비교해 배치 간 이동이 큰지 확인했는가
– [ ] 관리차트의 점과 같은 변동원을 담은 표준편차(합동 또는 전체)를 골랐고, 그 선택 이유를 기록했는가
– [ ] 원자료와 계산 결과에 변경 이력이 남고, 무단 수정·삭제가 감지되도록 접근 권한이 관리되는가

이어서 볼 글: 표준편차와 상대표준편차(RSD) — 정밀도를 수치로 표현하기

근거 자료

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다