모든 항목에 통하는 ‘CV 몇 % 이하면 합격’이라는 숫자는 없다. 기준은 적용 시험법의 정도관리 목표에서 먼저 찾고, 없으면 실험실이 방법검증에서 확정한 정밀도 기준을 쓴다. 두 기준이 모두 없을 때만 Horwitz식으로 계산한 기대값과 임시로 비교한다. 이때 계산 근거와 ‘임시 판정’이라는 사실을 기록에 남긴다. 반복 횟수가 적으면 CV 추정값 자체가 크게 흔들리고, 저농도에서는 CV가 커지는 것이 정상이다. 또 표준액의 CV와 시료의 CV를 비교하면 기기 문제인지 시료 문제인지 가늠하는 데 도움이 된다. 판정할 때는 이 세 가지를 함께 본다.
목차
CV 하나로 합격을 가르는 공통 숫자는 없다
같은 시료를 반복 측정해 얻은 CV(상대표준편차)의 허용 한도는 시험 항목, 농도 수준, 매질, 반복 횟수에 따라 달라진다. 그래서 판정은 '몇 % 이하면 괜찮다'는 통념에서 시작하지 않는다. 지금 적용할 기준이 어디에 적혀 있는지 찾는 일에서 시작한다. 찾는 순서는 다음과 같다.
| 순서 | 기준의 출처 | 판정 방법 | 기록에 남길 것 |
|---|---|---|---|
| 첫째 | 적용 시험법(공정시험기준 등)의 정도관리 목표 | 시험법이 정한 반복 횟수·시료 종류·농도 조건에서 계산한 CV를 목표와 직접 비교 | 시험방법 번호, 고시 판본, 목표값 |
| 둘째 | 실험실이 방법검증(밸리데이션)에서 확정한 정밀도 기준(SOP) | 지금 결과가 검증 범위(농도·매질·반복 횟수) 안인지 확인한 뒤 비교 | 검증 보고서 번호, 적용 범위 |
| 셋째 | 농도 수준을 반영한 참고치(Horwitz식 등) | 정식 기준이 생길 때까지 쓰는 임시 비교값 | '임시 판정'이라는 표시, 계산식과 입력값 |
윗단계 기준이 있으면 아랫단계 참고치로 바꿔 판정하지 않는다. 참고치가 더 너그럽다는 이유로 시험법 목표를 넘은 결과를 합격으로 돌릴 수 없다. 반대로 참고치가 더 엄격하다는 이유로 시험법 목표를 통과한 결과를 불합격으로 만들 필요도 없다.
먼저 이 CV가 판정 대상인지 확인한다
아래 조건에 맞지 않는 CV는 반복성 기준과 비교하면 판정이 틀어진다.
– 반복성 조건에서 얻은 값인가. 국제계량용어집(VIM)은 반복성 조건을 이렇게 정의한다. 같은 측정 절차, 같은 측정자, 같은 측정 시스템, 같은 운영 조건, 같은 장소에서 같거나 유사한 대상을 짧은 기간 안에 반복 측정하는 조건이다. 날짜나 분석자가 다른 결과가 섞였다면 그 산포는 반복성보다 크게 나오는 것이 정상이다. 그런 값을 반복성 기준과 비교하면 안 된다.
– 평균이 양수인 비율척도 값인가. CV는 표준편차를 평균으로 나눈 값이다. 그래서 0점이 임의로 정해진 섭씨온도 같은 구간척도 값에는 의미가 없다. 농도나 질량처럼 0이 '없음'을 뜻하는 값에만 쓴다.
– 개선조치 전후 값을 한데 묶지 않았는가. 조치 전후의 평균 차이가 산포에 섞여 들어가 CV가 부풀려진다. 조치 전과 후를 따로 계산하고 따로 판정한다.
– 검출한계·정량한계 근처의 결과가 아닌가. 이 농도 영역에서는 CV가 구조적으로 커지므로 이 글의 절차와 따로 다룬다.
CV 계산 방법(표본표준편차 n−1 사용, 어떤 반복값을 넣을지)은 반복 측정값의 변동계수 계산에 정리해 두었다. 이 글은 계산이 끝난 CV를 판정하는 단계부터 다룬다.
첫째: 적용 시험법의 정도관리 목표를 찾는다
환경 분야라면 첫 번째로 볼 곳은 공정시험기준이다. 수질의 경우 현행 수질오염공정시험기준은 국립환경과학원고시 제2025-53호이며 2025년 12월 26일부터 시행됐다. 정도보증/정도관리 공통 사항은 ES 04001에 있다. 이번 개정에서는 방법검출한계·정량한계 등을 계산할 때 연속된 결과를 쓰도록 명시해 계산 방법이 명확해졌다. 정밀도 목표는 개별 시험방법(ES 번호) 본문의 정도보증/정도관리 항목에서 찾는다. 목표가 어떤 지표(상대표준편차 등)로 제시되는지, 어떤 시료로 몇 회 측정해 구하도록 되어 있는지를 확인한다. 대기·실내공기질 등 다른 분야도 해당 공정시험기준의 시험방법 본문에서 같은 방식으로 찾는다.
목표값을 찾았으면 비교 조건을 맞춘다.
– 반복 횟수: 시험법이 정한 횟수로 계산한 CV인지 본다. 목표는 그 횟수를 전제로 정해진 값이다.
– 시료 종류: 표준물질, 첨가시료, 실제 시료 가운데 무엇에 대한 목표인지 본다.
– 농도 수준: 목표가 정해진 농도와 지금 측정한 농도가 같은 수준인지 본다.
– 판본: 개정 고시 시행일 이후에 낸 결과라면 현행 판본의 목표를 적용한다.
CV가 목표를 넘으면 그 시험법과 실험실 SOP가 정한 절차(재분석, 원인 조사, 결과 처리)를 따른다. 통과할 때까지 반복값을 추가해 다시 계산하거나 특정 값을 빼는 것은 판정이 아니라 데이터 선택이다. 이상값을 제외해야 한다면 SOP에 정한 통계 검정을 적용하고, 제외 사유와 원래 값을 모두 기록에 남긴다.
둘째: 방법검증에서 확정한 실험실 기준을 쓴다
다음과 같은 경우에는 실험실이 방법검증에서 확정한 정밀도 기준이 판정 기준이 된다. 시험법에 정밀도 목표가 없는 경우, 비표준 방법이나 실험실이 개발한 방법을 쓰는 경우, 표준 방법을 원래 적용 범위 밖에서 쓰는 경우다. KS Q ISO/IEC 17025:2017 7.2.2는 이런 방법을 밸리데이션하도록 요구한다. 방법의 성능 특성을 결정한 내용, 그 결과, 방법의 유효성에 대한 진술도 기록으로 남겨야 한다. 7.7은 결과의 유효성을 모니터링하는 절차를 갖추도록 요구한다. 데이터는 경향을 알아볼 수 있게 기록하고, 실행 가능한 경우 통계 기법을 적용해 검토한다.
검증 기준을 꺼내 쓰기 전에 세 가지를 확인한다.
– 검증 보고서의 정밀도가 어느 농도·매질·반복 횟수에서 얻은 값인지 본다.
– 지금 결과가 그 범위 안에 있는지 본다. 범위 밖이라면 검증 기준을 그대로 적용하지 않는다. 셋째 단계의 임시 판정으로 처리하고, 검증 범위를 넓히는 계획을 세운다.
– 검증 이후 기기·시약 로트·분석자가 바뀌었는지 본다. 바뀌었다면 기준이 지금의 측정 시스템을 여전히 대표하는지 재검토가 필요하다.
검증 설계 자체를 다시 짜야 한다면 Eurachem의 'The Fitness for Purpose of Analytical Methods'를 참고할 수 있다. 2025년 3판은 2014년 판을 전면 개정했고, 부속서에서 정밀도 연구를 위한 분산분석을 설명한다. 다만 기준을 새로 설계하는 절차는 이 글의 범위가 아니다.
셋째: 두 기준이 모두 없을 때만 Horwitz식으로 임시 비교한다
Horwitz식은 실험실 간 재현성 상대표준편차의 기대값(PRSDR)을 농도의 함수로 예측한다. 식은 PRSDR(%) = 2C^(−0.15)이고, C는 질량분율로 나타낸 농도다. 관측한 재현성 RSDR을 PRSDR로 나눈 값이 HorRat이며, 0.5~2가 일반적으로 수용 가능한 범위로 제시된다. 이 식에서는 농도가 100배 낮아질 때마다 기대 RSD가 약 2배가 된다.
이 지표는 원래 실험실 간 재현성을 평가하려고 만든 것이다. 한 실험실의 반복성 CV에 쓰려면 환산이 필요하다. 반복성 RSDr은 일반적으로 재현성 RSDR의 1/2~2/3 수준이라는 경험칙이 있다. 그래서 PRSDR에 이 비율을 곱한 범위를 반복성의 대략적 기대 수준으로 삼는다.
이 비교에는 분명한 한계가 있다. 2025년 J AOAC Int에 실린 Ehling 등의 분석은 2011~2017년 다기관 식품분석 연구 20건의 데이터 961개를 검토했다. 그 결과 46%가 HorRat 0.5 미만이었고, 62%는 RSDr/RSDR 비가 0.50 미만이었다. 현대 분석법의 정밀도는 Horwitz 예측보다 훨씬 좋은 경우가 많다는 뜻이다. 따라서 CV가 Horwitz 기대 수준 이하라는 사실은 '큰 이상 신호는 없다' 정도의 약한 근거일 뿐이다. 이 방법이 목적에 맞는다는 증명이 되지는 못한다. 반대로 CV가 기대 수준을 크게 넘으면 시료 불균질, 전처리 문제, 기기 문제를 먼저 의심한다.
AOAC 등의 농도 구간별 RSD 참고치와 HORRAT 판정은 반복 측정 허용기준 설정에 정리해 두었으므로 여기서 반복하지 않는다. 임시 비교를 했다면 기록에 다섯 가지를 남긴다. 시험법·검증 기준이 없어서 Horwitz 기반 임시 비교를 했다는 사실, 사용한 농도 C와 단위 환산 근거, 계산식, 비교 결과, 정식 기준을 수립할 일정이다.
계산 예제: 기준이 없는 항목에서 임시 판정하기
아래는 가상(교육용) 데이터다. 수질 시료 하나를 반복성 조건에서 5회 측정해 0.512, 0.498, 0.507, 0.521, 0.495 mg/L를 얻었다고 하자. 적용 시험법에도, 실험실 검증 기준에도 이 항목·농도의 정밀도 기준이 없다고 가정한다. 실제 업무에서는 앞의 첫째·둘째 단계를 먼저 확인해야 한다.
1. CV 계산: 평균은 0.5066 mg/L, 표본표준편차(n−1)는 0.01055 mg/L다. 따라서 CV는 0.01055 ÷ 0.5066 × 100 = 2.08%다.
2. 농도를 질량분율로 환산: 묽은 수용액이라 밀도를 1 kg/L로 보면 0.5066 mg/L ≈ 0.5066 mg/kg = 5.066×10^-7이다. 이 가정은 기록에 남긴다.
3. Horwitz 기대값: PRSDR = 2 × (5.066×10^-7)^(−0.15) = 17.59%다.
4. 반복성 기대 범위: 17.59% × (1/2 ~ 2/3) = 8.80% ~ 11.73%다.
5. 비교: CV 2.08%는 8.80%보다 작으므로 임시 비교에서 이상 신호는 없다.
6. 반복 횟수에 따른 흔들림 점검: 카이제곱 분포로 모표준편차의 95% 신뢰구간을 구하면 0.00632~0.03032 mg/L다. 측정값이 정규분포를 따르고 평균을 고정값으로 근사한다고 가정했다. CV로 바꾸면 1.25%~5.98%다.
이 예제에서 CV는 Horwitz 기대 수준보다 훨씬 낮다. 앞에서 본 대로, 이 결과로 방법이 목적에 맞는다고 확인할 수는 없다. 이상 신호가 없다는 데까지만 말할 수 있다.
판정을 흔드는 세 가지: 반복 횟수, 저농도, 기기 한계
반복 횟수. 반복 횟수가 적으면 계산된 표준편차 s가 참값에서 크게 벗어날 수 있다. 정규분포를 가정하면 모표준편차의 95% 신뢰구간 상한은 n=3에서 s의 6.29배, n=5에서 2.87배, n=10에서 1.83배, n=20에서 1.46배다. 시험법이 정한 횟수가 있으면 그 횟수로 판정하고, 반복 횟수가 적어 생기는 흔들림은 정도관리 차트로 추세를 관리해 보완한다. 반복 횟수는 결과를 보기 전에 정한다. 결과를 본 뒤 횟수를 늘리거나 줄이면 판정이 데이터 선택으로 바뀐다.
저농도. Horwitz식에서는 농도가 100배 낮아질 때마다 기대 RSD가 약 2배가 된다. 같은 CV라도 높은 농도에서는 문제가 될 수 있고, 낮은 농도에서는 정상일 수 있다. 그래서 기준과 비교할 때는 같은 농도 수준의 기준과 비교한다. 정량한계 근처라면 이 글의 절차가 아니라 별도 기준으로 다룬다.
기기 한계. 제조사가 제시하는 반복성 사양을 확인하되, 사양이 측정된 조건(표준액 농도, 주입량, 측정 모드)도 함께 본다. 조건이 다르면 수치를 직접 비교하지 않는다. 같은 분석 회차에서 표준액을 반복 측정한 CV와 시료 CV를 나란히 놓으면 원인을 가르는 데 도움이 된다.
– 표준액의 CV도 크다면 기기나 측정 조건 쪽 문제일 가능성이 크다. 기기를 점검한 뒤 재측정한다.
– 표준액은 안정적인데 시료 CV만 크다면 전처리나 시료 균질성 쪽을 조사한다.
판정 후 처리와 기록 체크리스트
| 상황 | 처리 |
|---|---|
| 적용 기준 이내 | 합격. 기준의 출처(시험방법 번호·판본 또는 검증 보고서)를 함께 기록 |
| 기준 초과, 표준액 CV도 큼 | 기기·측정 조건 점검 후 SOP에 따라 재측정 |
| 기준 초과, 표준액 CV는 안정 | 전처리·시료 균질성 조사 후 SOP에 따라 재측정 |
| 기준 없음, 임시 비교만 가능 | 임시 판정으로 기록하고 검증 범위 확장 또는 기준 수립 계획 수립 |
| 정량한계 근처 결과 | 이 절차로 판정하지 않고 별도 기준으로 처리 |
점검 순서:
– [ ] 반복성 조건(같은 절차·측정자·장비·조건·장소, 짧은 기간)에서 얻은 값인가
– [ ] 평균이 양수인 비율척도 값이며, 정량한계 근처가 아닌가
– [ ] 개선조치 전후 값을 섞지 않았는가
– [ ] 적용 시험법(ES 번호 등)의 정도관리 목표와 현행 고시 판본을 확인했는가
– [ ] 목표의 반복 횟수·시료 종류·농도 조건이 내 측정과 같은가
– [ ] 시험법 목표가 없다면, 검증 기준의 적용 범위 안에 있는가
– [ ] 임시 비교를 했다면 계산식·입력값·환산 가정·'임시' 표시를 기록했는가
– [ ] 반복 횟수와 그에 따른 신뢰구간 폭을 기록했는가
– [ ] 같은 회차의 표준액 CV와 비교해 기기 원인과 시료 원인을 구분했는가
– [ ] 기준을 넘었을 때 SOP 절차를 따랐고, 모든 반복값과 제외 사유를 보존했는가
같은 판정을 정확도(편향·회수율) 쪽까지 이어서 할 때는 정확도와 정밀도 판정처럼 정밀도 판정과 기준값 비교 판정을 따로 적는다.
근거 자료
- 국가법령정보센터 행정규칙 – 수질오염공정시험기준 (국립환경과학원고시 제2025-53호, 2025.12.26. 시행) — 행정규칙 표제부(고시번호·시행일)
- 인천광역시 자료실 – 수질오염공정시험기준 개정 안내 (국립환경과학원고시 제2025-53호(2025.12.26. 일부개정·시행) 안내) — 주요 개정 내용 중 ES 04001 정도보증/정도관리 항목
- ISO/IEC 17025:2017 Clause 7 요약(17025store) (ISO/IEC 17025:2017(KS Q ISO/IEC 17025:2017 부합)) — 7.2.2 Validation of methods
- JCGM 200 국제계량용어집(VIM3) (VIM 3판(JCGM 200)) — 2.20 repeatability condition of measurement, 2.21 measurement repeatability
- JCGM VIM3 2.21 measurement repeatability
- Horwitz W, Albert R. The Horwitz ratio (HorRat): A useful index of method performance with respect to precision. J AOAC Int 2006 (PubMed)
- Benchmarking for Analytical Methods: The Horwitz Curve (LCGC/Chromatography Online)
- Ehling S et al. A Contemporary Look at the Precision of Modern Analytical Methods in Food Analysis and the Relevance of the Horwitz Equation. J AOAC Int 2025
- NIST/SEMATECH e-Handbook – Chi-Square Test for the Standard Deviation
- Eurachem – The Fitness for Purpose of Analytical Methods (3rd ed., 2025)
