같은 날 반복측정은 반복성 조건이다. 그날의 교정곡선, 시약·표준용액 로트, 분석자, 장비 상태, 환경은 그날 측정한 모든 값에 같은 방향으로 실린다. 그래서 반복값끼리의 산포에는 드러나지 않고, 날이 바뀔 때 비로소 날짜별 평균의 흔들림, 곧 날간 변동으로 나타난다. 날짜×반복 QC 자료를 일원분산분석으로 나누면 반복성 표준편차 s_r, 날간 표준편차 s_between, 둘을 합친 중간정밀도 s_I를 구할 수 있다. 관리차트 한계와 측정불확도에는 s_I(또는 차트에 찍는 값에 맞춘 조합)를 쓴다. s_r로 한계를 잡으면 한계가 너무 좁아 거짓 경보가 잦아진다. 날간 성분이 크면 날마다 바뀌는 요인을 체크리스트로 하나씩 대조해 원인을 좁힌다.
목차
답: 하루 동안 고정되는 요인은 반복 산포에 보이지 않고 날간 변동으로 나타난다
같은 날 연달아 측정한 반복값은 반복성 조건에서 얻은 값이다. VIM은 반복성 조건을 같은 측정 절차, 같은 작업자, 같은 측정 시스템, 같은 운영 조건, 같은 장소에서 짧은 시간 안에 반복하는 조건으로 정의한다.
이 조건에서는 그날 만든 교정곡선, 그날 쓴 시약과 표준용액 로트, 그날의 분석자, 그날의 장비 상태와 실험실 환경이 모든 반복값에 똑같이 적용된다. 그날 교정곡선 기울기가 조금 높게 잡혔다면 그날 결과는 모두 같은 비율만큼 높게 나온다. 반복값끼리 빼면 이 공통 편차는 사라진다. 그래서 반복 산포가 작아도 이런 요인이 없다는 뜻은 아니다.
다음 날 교정곡선을 새로 만들고 로트나 분석자가 바뀌면 공통 편차의 크기와 방향도 달라진다. 이 차이가 날짜별 평균의 흔들림, 곧 날간 변동이다. 하루 안에서는 편향이던 것이 시간 축에서 보면 정밀도 문제가 되는 것이다.
대응은 세 단계다. 첫째, 날짜×반복 자료를 일원분산분석으로 나눠 반복성 표준편차 s_r과 날간 표준편차 s_between을 따로 구한다. 둘째, 둘을 합친 중간정밀도 s_I를 관리차트 한계와 측정불확도에 쓴다. 셋째, 날간 성분이 크면 날마다 바뀌는 요인을 하나씩 대조해 원인을 좁힌다.
범위: 이 글은 같은 시험소에서 같은 방법으로 안정하고 균질한 같은 QC 시료(또는 CRM)를 여러 날 측정한 정량 결과만 다룬다. 다음은 다루지 않는다. 시료가 불안정하거나 균질하지 않은 경우, 기준값과의 고정 편향만 있는 경우, 시험소 간 재현성, 개선조치 전후 판정, 실내공기처럼 측정 대상 자체가 실제로 변하는 경우.
반복성 조건과 중간정밀도 조건에서 고정되는 것과 바뀌는 것
VIM은 중간정밀도 조건을 같은 측정 절차와 같은 장소에서 같거나 비슷한 대상을 긴 기간에 걸쳐 반복측정하되, 다른 조건의 변화도 포함할 수 있는 조건으로 정의한다. 주석에서는 바뀌는 요소의 예로 새 교정, 교정용 물질, 작업자, 측정 시스템을 든다. 화학 분야에서는 반복성 조건을 계열 내(intra-serial) 정밀도 조건, 중간정밀도 조건을 계열 간(inter-serial) 정밀도 조건이라고도 부른다.
| 구분 | 반복성 조건(같은 날 반복) | 중간정밀도 조건(여러 날) |
|---|---|---|
| 측정 절차·장소 | 같음 | 같음 |
| 기간 | 짧은 시간 | 긴 기간 |
| 작업자 | 같음 | 바뀔 수 있음 |
| 측정 시스템·장비 상태 | 같음 | 바뀔 수 있음(정비, 소모품 교체 포함) |
| 교정·교정용 물질 | 그날 교정 하나로 고정 | 새 교정, 새 교정용 물질 포함 가능 |
| 시약·표준용액 로트, 전처리 배치 | 대개 같음 | 바뀔 수 있음 |
| 이 조건의 표준편차 | s_r | s_I |
| 이 조건에서 보이지 않는 성분 | 하루 동안 고정된 요인의 효과 | 기간 내내 바뀌지 않은 요인의 효과(예: 계속 같은 CRM 로트를 쓴 경우의 그 편차) |
표의 마지막 행이 핵심이다. 어떤 정밀도든 그 조건에서 바뀐 요인만 담는다. VIM 주석도 중간정밀도 조건을 쓸 때는 가능한 범위에서 어떤 요인이 고정되고 어떤 요인이 바뀌었는지 명시하라고 한다. 따라서 결과표에 '중간정밀도'라고만 적지 말고, 그 기간에 교정을 몇 번 새로 했는지, 분석자와 로트가 바뀌었는지를 함께 기록한다. 그래야 그 값을 어디까지 대표값으로 쓸 수 있는지 판단할 수 있다.
날짜×반복 자료로 s_r, s_between, s_I를 나눠 계산한다
아래 예제는 가상(교육용) 데이터다. 안정한 QC 시료를 6일 동안 하루 3회씩 측정했다고 가정한다(단위 mg/L). 날 수를 p, 하루 반복 수를 n으로 둔다.
계산식(일원분산분석, 날짜를 변량 요인으로 본다):
– 군내 제곱합 SS_within = Σ_i Σ_j (x_ij − x̄_i)², 자유도 p(n−1), 평균제곱 MS_within = SS_within / [p(n−1)]
– 군간 제곱합 SS_between = n × Σ_i (x̄_i − x̄)², 자유도 p−1, 평균제곱 MS_between = SS_between / (p−1)
– 반복성 분산 s_r² = MS_within
– 날간 분산 s_between² = (MS_between − MS_within) / n
– 중간정밀도 s_I = √(s_r² + s_between²)
NIST/SEMATECH e-Handbook의 표현으로는 날짜별 평균의 표준편차를 s_2, 합동 반복성 표준편차를 s_1, 하루 반복 수를 J라 할 때 s_days = √(s_2² − s_1²/J)이다. 위 식과 같은 계산이다. 반복성은 날마다 구한 표준편차를 제곱합과 자유도로 합동해 구한다.
가상 예제 결과:
– 날짜별 평균: 50.3, 49.7, 50.9, 49.9, 50.5, 49.5 mg/L, 전체 평균 50.13 mg/L
– SS_within = 0.200, 자유도 12, MS_within = 0.01667
– SS_between = 4.180, 자유도 5, MS_between = 0.836
– s_r = 0.129 mg/L(상대 0.26 %)
– s_between = √[(0.836 − 0.01667)/3] = 0.523 mg/L(상대 1.04 %)
– s_I = √(0.129² + 0.523²) = 0.538 mg/L(상대 1.07 %)
이 예제에서는 중간정밀도가 반복성의 약 4배다. 분산으로 보면 대부분이 날간 성분에서 나온다. 같은 날 반복값만 보고 '정밀도가 좋다'고 판단하면 실제 날마다 흔들리는 폭을 크게 과소평가하게 된다.
18개 값을 날짜 구분 없이 한꺼번에 넣어 표본표준편차를 구하면 0.508 mg/L가 나온다. 이 값은 s_I와 같지 않다. 날짜 구조를 무시한 값이고, 날간 성분과 반복 성분이 각각 얼마인지도 알려 주지 않는다. 그래서 원인 조사와 한계 설정에 쓸 수 없다. 반드시 날짜를 군으로 둔 분산분석으로 나눈다.
MS_between이 MS_within보다 작으면 s_between²이 음수로 계산된다. 이것은 이 자료에서 날간 성분이 반복 산포에 묻혀 검출되지 않았다는 뜻이다. 음수 분산을 그대로 쓰지 말고, 날 수를 늘려 다시 추정할지 검토한다. Eurachem의 방법 밸리데이션 가이드도 정밀도 연구에 쓰는 분산분석을 부록으로 따로 다룬다.
관리한계를 같은 날 반복 산포로 잡으면 너무 좁아 거짓 경보가 잦아진다
관리차트는 시간에 따른 변화를 감시하는 도구다. 날마다 한 번 이상 QC를 측정해 찍는다면, 차트에 찍히는 값은 그날의 반복 오차뿐 아니라 그날의 교정·로트·분석자 효과까지 담는다. 그러니 한계도 같은 변동을 담은 표준편차로 잡아야 한다. NIST 핸드북의 체크 스탠더드 관리차트도 과거 기간의 체크 스탠더드 값으로 기준선과 표준편차를 구하고, 3-표준편차 한계를 쓴다.
가상 예제에서 같은 기준선(전체 평균 50.13 mg/L)에 s_r과 s_I로 각각 3-표준편차 한계를 잡아 비교한다.
같은 6일의 '그날 첫 측정값'(50.2, 49.6, 50.9, 50.0, 50.6, 49.3 mg/L)을 두 한계에 대 보면 차이가 분명하다. s_r 한계에서는 6일 중 4일이 한계를 벗어난다. s_I 한계에서는 모두 한계 안에 있다. 시료와 방법은 그대로인데 s_r로 잡은 한계는 정상적인 날간 변동까지 이상으로 판정한다. 이렇게 경보가 잦아지면 분석자가 경보를 무시하기 쉽고, 진짜 이상을 놓치는 결과로 이어진다.
차트에 그날 n회 반복의 평균을 찍는다면 표준편차는 √(s_between² + s_r²/n)이다. 예제에서 n = 3이면 0.528 mg/L이고, 3-표준편차 한계는 48.55 ~ 51.72 mg/L다. 흔한 실수는 s_I를 √n으로 나누는 것이다(0.538/√3 = 0.311 mg/L). 하루 안에서 반복을 늘려도 그날 공통으로 실린 날간 효과는 평균되지 않는다. 따라서 √n으로 줄일 수 있는 것은 반복성 성분뿐이다.
같은 날 반복 산포 자체를 감시하는 차트(예: 반복값의 범위 차트)에는 s_r이 맞다. NIST 핸드북도 매 측정 단위의 단기 표준편차를 장비 정밀도 관리의 기준으로 쓴다. 결국 차트마다 감시하는 변동이 다르므로, 평균·개별값 차트에는 s_I 계열을, 반복 산포 차트에는 s_r을 짝지어 쓴다.
여기서는 계산을 보이려고 6일 자료만 썼다. 실제 한계는 교정, 로트, 분석자 교체가 충분히 포함된 더 긴 기간의 자료로 정한다. Nordtest TR 569는 방법 성능에서 나온 통계적 한계 외에, 측정불확도 요구에 근거한 목표 관리한계(target control limits)를 가능하면 쓰라고 권한다. 이렇게 하면 통계적 한계가 목적 적합성 요구보다 넓거나 좁은 경우도 함께 점검할 수 있다.
측정불확도 버짓에는 반복성 대신 중간정밀도를 넣는다
보고하는 결과는 어느 하루에 측정한 값이다. 그날의 교정·로트·분석자 효과가 그 결과에 그대로 실려 있다. 같은 날 반복으로 구한 s_r만 버짓에 넣으면 이 성분이 빠져 불확도가 작게 나온다. Nordtest TR 569도 시험방법의 측정불확도를 추정할 때 내부 정도관리에서 얻은 시험소 내 재현성(중간정밀도)이 필수라고 설명한다.
가상 예제의 정밀도 성분은 다음과 같다(감도계수는 1 (mg/L)/(mg/L)).
– 결과가 단일 측정값이면: u_prec = s_I = 0.538 mg/L
– 결과가 같은 날 3회 반복의 평균이면: u_prec = √(s_between² + s_r²/3) = √(0.523² + 0.0745²) = 0.528 mg/L
두 번째 경우 √3으로 나누는 것은 반복성 성분(0.129 → 0.0745 mg/L)뿐이다. 날간 성분 0.523 mg/L는 그대로 남는다. 같은 날 반복을 늘려도 정밀도 성분이 거의 줄지 않는 이유가 여기에 있다. 정밀도 성분을 줄이려면 하루 안의 반복보다 여러 날에 나눠 측정하거나, 날간 변동의 원인을 줄이는 편이 효과적이다.
중간정밀도는 기간 중에 실제로 바뀐 요인만 담는다. 기간 내내 같은 CRM 로트와 같은 표준용액 원액을 썼다면 그 값의 편차는 s_I에 들어 있지 않다. 이런 성분과 기준값 대비 편향은 별도 성분(B형 평가, 편향 평가)으로 버짓에 더한다. 이때 s_I에 이미 포함된 요인을 다시 넣어 이중으로 계산하지 않았는지도 확인한다.
날간 성분이 클 때 원인을 좁히는 체크리스트
s_between이 s_r보다 뚜렷하게 크면 '하루 동안은 고정되고 날마다 바뀌는 요인'이 원인 후보다. 날짜별로 아래 항목을 기록하고, 날짜별 평균(또는 그날 QC 값)과 나란히 놓고 대조한다.
1. 교정: 교정곡선을 매일 새로 만드는가? 날짜별 기울기·절편, 교정 표준 농도 범위, 교정 확인 시료 결과가 QC 평균과 같은 방향으로 움직이는가?
2. 교정 표준용액·원액: 희석 표준을 날마다 새로 조제하는가? 원액·중간 표준용액의 로트와 조제일, 개봉 후 경과 시간이 바뀐 날에 QC가 이동하는가?
3. 시약·용매·이동상 로트: 바뀐 날을 표시했을 때 QC 평균이 계단처럼 바뀌는가?
4. 분석자: 분석자별로 날짜 평균을 묶었을 때 그룹 간 차이가 있는가? 피펫팅, 희석, 적분 방식이 같은가?
5. 장비 상태: 램프·검출기 사용시간, 컬럼·콘·라이너 교체, 정비, 튜닝, 예열 시간이 QC 변화와 겹치는가?
6. 환경: 실험실 온도·습도, 시료와 표준용액의 온도 평형 시간이 날마다 다른가?
7. 전처리 배치: 분해·추출·농축을 배치로 하는가? 배치별 바탕시험값과 회수율 QC가 같이 움직이는가?
8. QC 시료 취급: 해동, 혼합, 분취 방법, 바이알 개봉 후 사용 기간이 날마다 같은가? 시료 자체가 변한다는 의심이 들면 이 글의 범위를 벗어나므로 안정성·균질성 평가로 넘긴다.
9. 계산·데이터 처리: 적분 파라미터, 바탕 보정, 희석배수 입력이 날마다 같은 규칙으로 적용되었는가?
대조할 때 주의할 점이 있다. 여러 요인이 같은 날 함께 바뀌면 자료만으로는 어느 요인 때문인지 가를 수 없다. 예를 들어 분석자가 바뀌는 날마다 시약 로트도 바꿨다면 두 효과가 섞인다. 후보가 좁혀지면 다른 요인은 고정하고 그 요인만 바꾼 비교 측정(예: 같은 날 두 분석자가 같은 교정곡선으로 측정)을 따로 설계한다. 그래야 그 요인의 기여를 분리해 확인할 수 있다. ISO 5725 시리즈의 3부가 이런 요인별 중간정밀도 측정을 다루는 문서다.
자료를 모을 때 정해 둘 것
– 날 수를 반복 수보다 우선한다. s_between 추정의 바탕이 되는 MS_between의 자유도는 날 수에서 1을 뺀 값뿐이다. 예제처럼 6일이면 자유도 5로 추정이 불안정하다. 하루 반복을 늘리는 것보다 측정일을 늘리는 쪽이 날간 성분 추정에 도움이 된다. NIST 핸드북에서도 날짜 평균으로 구한 표준편차의 자유도는 날 수에 따라 정해지고(L개 런, K일이면 L(K−1)), 반복성의 자유도는 LK(J−1)이다.
– 날마다 바뀌어야 할 요인은 실제로 바뀌게 둔다. 측정 기간 내내 같은 분석자, 같은 교정곡선만 쓰면 중간정밀도가 아니라 '긴 기간의 반복성'에 가까운 값이 나온다. 어떤 요인이 바뀌었는지는 날짜별로 기록한다.
– 이상치는 원인을 확인한 경우에만 제외한다. NIST 핸드북도 기준선 자료에서 잘못된 관측을 제거한 뒤 한계를 다시 계산하라고 하지만, 단지 크게 벗어났다는 이유로 날짜를 빼면 날간 변동이 과소평가된다. 제외 사유와 원자료는 남긴다.
– 장비 교체, 방법 변경, 새 CRM 로트 도입처럼 공정이 바뀌면 이전 자료로 만든 s_I와 한계가 여전히 맞는지 다시 확인한다.
– 계산 예제의 수치는 모두 가상(교육용) 데이터이며 어떤 항목의 합격 기준도 아니다. 실제 판정 기준은 적용 시험법, 고객 요구, 시험소가 정한 목적 적합성 요구에서 가져온다.
근거 자료
- JCGM 200:2012 International Vocabulary of Metrology (VIM 3판) (JCGM 200:2012 온라인 HTML판) — 2.20 repeatability condition of measurement, 정의 및 Note 2
- JCGM 200:2012 International Vocabulary of Metrology (VIM 3판) (JCGM 200:2012 온라인 HTML판) — 2.21 measurement repeatability
- JCGM 200:2012 International Vocabulary of Metrology (VIM 3판) (JCGM 200:2012 온라인 HTML판) — 2.22 intermediate precision condition of measurement, 정의 및 Note 1–3
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(2026-11 확인)) — 2.4.4.1 Analysis of repeatability
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(2026-11 확인)) — 2.4.4.2 Analysis of reproducibility
- NIST/SEMATECH e-Handbook of Statistical Methods (온라인판(2026-11 확인)) — 2.2.2.3 Monitoring bias and long-term variability
- Nordtest NT TR 569 Internal Quality Control Handbook (Trollboken) English edition 6
- Eurachem Guide: The Fitness for Purpose of Analytical Methods