반복 측정값의 변동계수는 어떻게 계산하나? 표본표준편차를 평균으로 나눈다

반복 측정값의 평균 x̄와 표본표준편차 s를 구한 뒤 CV = (s/x̄) × 100%로 계산한다. 평균이 양수이고 CV 해석에 적절한 자료에서는 CV가 작을수록 평균 대비 산포가 작다. 적합 여부는 측정 조건과 적용 시험법 또는 실험실에서 정한 기준을 확인해 판단한다.

CV는 표본표준편차를 평균으로 나눈 값이다

변동계수(CV)는 평균에 대한 상대적인 산포를 나타낸다. 반복 측정값에서는 표본표준편차 s를 평균 x̄로 나누며, 이 글에서는 백분율로 표시한다.

x̄ = Σxᵢ/n

s = √[Σ(xᵢ − x̄)²/(n − 1)]

CV(%) = (s/x̄) × 100

n은 계산에 포함한 측정값의 개수다. 표본표준편차의 분모는 n − 1이므로 측정값이 2개 이상이어야 한다. 이는 계산이 가능한 조건이며, 적용 시험법의 반복 횟수를 충족한다는 뜻은 아니다. 평균과 표준편차에는 같은 단위를 사용하므로 CV에는 원래 측정 단위가 남지 않는다. 세르비아 표준화기관 ISS의 ISO 3534-1 공개 용어

여기서 계산하는 대상은 개별 반복값의 산포다. 식의 s를 평균의 표준오차로 대체하지 않는다.

어떤 반복값을 계산에 넣을지 정한다

같은 측정량과 단위로 얻은 자료 중 평가하려는 조건에 해당하는 반복값을 정한다. 반복성 정밀도로 해석하려면 같은 방법으로 동일한 시험·측정 대상을 같은 시설에서, 같은 작업자와 장비로 짧은 기간에 독립적으로 측정한 결과여야 한다. ISO 5725-1:2023 공개 원문 미리보기, 반복성 조건

실무에서는 실제로 반복한 절차의 범위도 적는다. 전처리부터 각각 수행했는지, 이미 준비된 용액의 기기 측정만 반복했는지를 구분하면 계산한 CV가 어느 과정의 산포를 나타내는지 알 수 있다. 서로 다른 조건의 결과를 임의로 합쳐 반복성 CV로 해석하지 않는다.

가상 데이터로 평균·표본표준편차·CV를 계산한다

다음은 가상(교육용) 데이터다. 동일한 시료를 같은 작업자·장비·방법으로 짧은 기간에 독립적으로 측정했다고 가정한다. 농도 반복값은 9.8, 10.0, 10.1, 9.9, 10.2 mg/L이며 n = 5다. 이 반복 횟수는 계산 예제를 위한 설정이다.

평균은 x̄ = (9.8 + 10.0 + 10.1 + 9.9 + 10.2)/5 = 10.00 mg/L다. 평균에서 각 측정값을 뺀 편차의 제곱합은 0.10 (mg/L)²다.

표본표준편차는 s = √[0.10/(5 − 1)] ≈ 0.1581 mg/L다. 이를 평균으로 나누면 CV = (s/10.00) × 100% ≈ 1.58%다. 계산식은 NIST의 CV 정의를 적용했다.

중간 계산값은 반올림하지 않았다. 최종 표시에서 평균은 소수 둘째 자리, 표준편차는 넷째 자리, CV는 둘째 자리로 반올림했다. 이 자릿수는 예제의 표시 방식이다.

CV 1.58%는 표준편차가 평균의 약 1.58%라는 뜻이다. 각 측정값의 최대 편차나 합격 확률을 뜻하지 않는다. 이 예제에는 판정 기준을 설정하지 않았으므로 적합 여부는 판단하지 않는다.

평균이 0에 가깝거나 비율 해석이 맞지 않으면 적용을 멈춘다

평균이 0이면 분모가 0이 되어 CV가 정의되지 않는다. 평균이 0에 가까우면 평균의 작은 변화에도 CV가 크게 달라질 수 있다. 이런 자료는 이 글의 CV 평가 대상에서 제외하고, 원래 단위의 표준편차와 개별 측정값을 확인한다.

CV는 의미 있는 영점을 갖는 비율척도에서 사용한다. 섭씨 온도처럼 영점이 임의로 정해진 척도에서는 비율 해석이 적절하지 않다. 평균이 음수인 자료도 적용 가능성을 별도로 검토하며, 평균에 절댓값만 씌워 같은 의미의 CV로 해석하지 않는다. NIST의 적용 조건과 평균이 0에 가까울 때의 주의사항

상대 산포의 크기와 적합 판정을 구분한다

평균이 양수이고 CV 해석에 적절한 반복값에서는 CV가 작을수록 평균 대비 산포가 작다. 기준값에 얼마나 가까운지는 이 계산으로 판단하지 않는다. ISO 5725-1은 CV 사용에 주의를 요구하고 분산이나 표준편차를 선호한다고 명시하므로, CV와 함께 평균과 s도 남긴다. ISO 5725-1:2023, 정밀도와 반복성 표준편차의 설명

적합 여부를 평가할 때는 적용 시험법이나 실험실에서 정한 기준을 확인한다. 그 기준의 대상 시료·농도 범위·반복 횟수·측정 조건·계산법이 현재 자료에 맞는지 확인한 뒤 대조한다. 이는 정해진 측정 조건과 방법에 맞춰 결과를 해석하기 위한 실무 권고다. ISO 5725-1:2023, 측정방법과 평가 조건

계산 결과와 함께 확인할 점검표

ISO/IEC 17025의 요구사항에는 기술기록과 결과의 유효성 확보가 포함된다. A2LA의 공개 해설은 계산과 데이터 전송을 점검해야 한다는 요구도 설명한다. IAS의 시험기관 인정 안내, A2LA의 기술기록 관련 해설

다음은 CV 계산을 재현하고 해석 범위를 확인하기 위한 실무 점검표다. 각 항목을 그대로 요구하는 표준 조항 목록은 아니다.

– 측정량·단위·시료와 계산에 포함할 자료 범위를 정했는가.
– 방법·작업자·장비·장소·측정 기간과 실제 반복한 절차의 범위를 확인했는가.
– 표본표준편차를 계산할 자료 수와 적용 절차의 반복 횟수를 각각 확인했는가.
– 표본표준편차를 사용하고, 평균·s·CV·n 및 표시 자릿수를 함께 남겼는가.
– 평균과 척도가 CV 해석에 적절한지 확인했는가.
– 판정에 사용한 기준의 문서명·판본·해당 구간·적용 대상을 남겼는가.
– 원자료, 계산 과정, 측정 조건과 검토 기록을 연결해 다시 확인할 수 있는가.

이어서 볼 글: 측정 편향은 어떻게 계산하나

근거 자료

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다