변동계수(CV)는 표준편차를 평균으로 나눈 상대 산포다. 표준편차가 비슷하게 유지되면 평균이 작아질수록 CV가 커진다. 상대 산포가 커졌다는 해석은 맞지만, 절대 산포 증가나 측정 과정의 성능 저하까지 뜻하지는 않는다. 평균·표본표준편차·CV를 함께 보고, 같은 농도와 매질에서 확인한 성능과 비교해야 한다.
목차
평균이 줄어드는 속도가 표준편차보다 빠르면 CV가 커진다
저농도에서 CV가 커지는 가장 직접적인 이유는 분모인 평균이 작아지기 때문이다. 백분율로 나타낸 변동계수는 CV(%) = 100 × s/x̄다. 표준편차 s가 같다면 평균 x̄가 작아질수록 CV는 커진다. s가 줄어들더라도 평균이 더 큰 비율로 줄면 CV는 증가한다. 이는 CV의 정의에서 바로 따라오는 산술적 관계다.
NIST는 CV를 평균에 대한 상대적인 산포로 설명하며, 평균이 0에 가까우면 평균의 작은 변화에도 CV가 민감해진다고 명시한다. 따라서 CV가 증가했다는 사실과 절대적인 측정 산포가 증가했다는 판단을 구분해야 한다. NIST CV 기술 문서
이 글은 의미 있는 영점을 가진 농도를 같은 단위로 반복 측정하고, 산술평균이 양수인 경우를 다룬다. 섭씨온도처럼 비율척도가 아닌 자료에는 CV를 사용하지 않는다.
가상 데이터에서 분모 효과와 절대 산포 증가를 비교한다
비교할 자료는 같은 분석물과 매질을 대상으로 만든 가상(교육용) 데이터다. 각 묶음은 독립적인 시료 조제와 측정을 같은 조건에서 반복했다고 가정한다. 값은 크기순으로 제시했으며 측정 순서를 뜻하지 않는다. 반복 수는 계산 설명을 위한 설정이며 시험법의 권장 반복 횟수가 아니다.
낮은 농도 B의 값은 0.8, 0.9, 1.0, 1.1, 1.2 μg/L다. n = 5, 평균은 1.000 μg/L이며 평균으로부터의 편차 제곱합은 0.100 (μg/L)²다. 표본표준편차는 s = √[0.100/(5−1)] ≈ 0.158 μg/L, CV는 반올림 전 s를 사용하면 15.81%다. 표준편차는 모든 묶음에서 n−1로 나누어 계산했다. NIST 표본표준편차 산식
가상 데이터 A와 B는 표준편차가 같고 평균만 다르다. B의 평균은 A의 10분의 1이므로 CV는 10배다. C는 A보다 표준편차가 작지만 CV는 더 크다. 따라서 CV 증가만으로 절대 산포 증가를 알아낼 수 없다.
반면 B와 D는 평균이 같고 D의 표준편차가 더 크다. 이때 CV 증가에는 관측된 절대 산포 증가가 반영되어 있다. 다만 이 가상 예제는 산술적 차이를 보여줄 뿐, 실제 측정 과정의 변화에 대한 통계적 증거를 제공하지 않는다.
저농도에서는 바탕 잡음의 상대적인 영향이 커질 수 있다
실제 기기에서는 분석물 신호가 작아져도 바탕 잡음이 같은 비율로 작아진다고 보장되지 않는다. 잡음의 절대 크기가 비슷하게 남는다면 작은 신호에서 그 영향이 상대적으로 커진다. 이것이 저농도에서 표준편차가 농도에 비례해 줄지 않고 CV가 증가할 수 있는 한 가지 설명이다.
LC-UV의 구체적인 사례로, Waters는 이동상 조성의 불균일성이 바탕 잡음을 높이고 검출 성능과 정량 정밀도에 영향을 줄 수 있다고 설명한다. 이 자료는 바탕 잡음이 피크 적분과 정량값의 산포에 영향을 줄 수 있음을 보여준다. 모든 기기의 표준편차가 저농도에서 일정하다는 근거로 일반화할 수는 없다. Waters 제조사 기술 자료
크로마토그래피 결과라면 잡음과 함께 피크 적분 상태도 확인할 항목이다. Shimadzu는 잡음이 포함된 피크가 잘못 적분될 수 있으며, 적분 조건과 바탕선 설정이 피크 면적의 재현성에 영향을 준다고 설명한다. CV가 커졌을 때 장비 고장을 추정하기에 앞서 원자료의 피크와 적분 상태를 함께 살펴볼 근거가 된다. Shimadzu 피크 적분 안내
정밀도 악화는 같은 농도에서 확인한 성능과 대조한다
CV가 커졌다면 관측된 평균 대비 산포는 커진 것이다. 상대정밀도를 논할 때 이 변화를 무시해서는 안 된다. 다만 농도가 다른 시료 사이에서 예상되는 상대 산포 증가와 측정 과정의 성능 저하는 별개의 판단이다.
실무에서는 먼저 평균·s·CV를 나란히 놓는다. 평균만 감소하고 s가 비슷하다면 CV 증가를 분모 효과로 설명할 수 있다. s도 증가했다면 관측된 절대 산포 증가가 함께 있다. 이 결과를 성능 저하로 판단하려면 같은 농도 수준과 매질에서, 같은 반복 범위로 얻은 기존 유효성 확인 자료나 QC 성능과 대조하는 것이 적절하다. 이는 정밀도 평가에서 측정 조건을 명확히 정해야 한다는 EPA 지침을 농도별 비교에 적용한 실무 권고다. EPA 지침의 정밀도 설명
반복 범위도 맞춰야 한다. 같은 용액의 반복 주입에서 구한 CV와 시료 조제부터 독립적으로 반복한 결과의 CV는 포함하는 변동이 다르다. 전처리를 포함한 시험법의 정밀도를 평가하려면 그 범위를 반영한 자료가 필요하다.
표본표준편차 자체에도 추정의 불확실성이 있다. 표준편차의 차이를 곧바로 공정 변화로 단정하지 말고 반복 수와 자료의 분포를 살펴야 한다. 필요하면 가정에 맞는 분산 비교나 표준편차의 구간 추정을 사용한다. NIST도 표준편차의 신뢰구간과 기준 분산에 대한 검정을 별도로 다룬다. NIST 분산 검정과 구간 추정
정량한계 부근에서는 그 농도의 성능 자료를 확인한다
CV 증가를 분모 효과로 설명할 수 있어도 그 결과가 정량 목적에 충분하다는 뜻은 아니다. 절대 산포가 작아도 평균에 대한 상대 산포가 커서 사용 목적에 필요한 정밀도를 충족하지 못할 수 있다.
EPA의 비규제 화학·방사화학 시험법 유효성 확인 지침은 검출능과 정량능을 구분한다. 정량한계는 정해진 상대정밀도 또는 불확도 수준을 충족하는 정량능과 연결되며, 평가 절차는 프로그램마다 달라질 수 있다고 설명한다. 이 지침은 법적 의무나 모든 시험에 공통인 CV 허용치를 정하는 문서가 아니다. EPA 지침의 검출능·정량능 설명
이를 적용한 실무 권고는 해당 시험법의 정량한계 설정 방법과 저농도 성능 확인 자료를 대조하는 것이다. 매질, 전처리, 반복 범위가 현재 시료에 맞는지 확인하고, 그 농도에서 요구되는 정밀도 기준으로 평가한다. 신호가 검출되었다는 사실이나 반복 CV만으로 정량 성능 전체를 판정하지 않는다.
검토 기록에는 농도 수준과 매질, 반복한 절차의 범위, n·평균·s·CV, 대조한 시험법 성능기준을 함께 남긴다. 그러면 상대 산포가 커진 이유와 성능기준 충족 여부를 구분해 설명할 수 있다.
이어서 볼 글: 반복 측정값의 변동계수는 어떻게 계산하나? 표본표준편차를 평균으로 나눈다
근거 자료
- NIST Dataplot Reference Manual — Coefficient of Variation (2017-01-24 최종 갱신) — Description의 CV 정의, 비율척도 적용 조건, 섭씨온도의 간격척도 예시 및 비율척도가 아닌 자료에 대한 사용 제한; Note의 relative standard deviation 산식
- NIST/SEMATECH e-Handbook — Measures of Scale (온라인판, 개정일 미표시; 2026-11-04 확인) — 1.3.5.6 Definitions of Variability — variance 및 standard deviation
- Waters — Instrument Mixer Considerations to Improve Assay Reproducibility and Sensitivity (문서 720007011, 2020-09) — Benefits; Introduction; Conclusion
- US EPA — Guidelines on Validation of Non-Regulatory Chemical and Radiochemical Methods (EPA/600/B-22/001, 2022-01) — 4.2 Detection Capability and Quantification Capability; Appendix B — Quantitation (Quantification), 인쇄면 B-3; Disclaimer
- Shimadzu — Confirming Peak Integration
- NIST/SEMATECH e-Handbook — Chi-Square Test for the Variance
