측정값 5개로 반복성 표준편차를 손으로 계산하는 순서: 평균 → 편차 제곱합 → n-1로 나누기 → 제곱근

ryumanual
가상 예제: 5개 값으로 표를 채운다 — 반복성 표준편차 계산

반복값 5개의 평균 x̄를 구한다. 각 값에서 평균을 뺀 편차를 적고, 편차의 합이 0인지 검산한다. 편차를 제곱해 더하면 편차 제곱합이 된다. 이를 n-1=4로 나누면 분산 s², 그 제곱근이 반복성 표준편차 s이다. 계산 중간에는 반올림하지 않는다. 엑셀 STDEV.S 결과와 맞춰 본 뒤, 실험실 절차가 정한 자릿수로 마지막에 한 번만 반올림해 보고한다. 예제 수치는 가상(교육용) 데이터다.

목차

답: 다섯 칸을 순서대로 채우면 된다

측정값 5개로 반복성 표준편차를 손계산할 때는 다음 다섯 칸을 순서대로 채운다.

1. 평균 x̄ = (x₁+…+x₅)/5
2. 각 값의 편차 dᵢ = xᵢ − x̄. 다 적은 뒤 편차의 합이 0인지 확인한다.
3. 편차 제곱 dᵢ²를 구하고 모두 더한다. 이것이 편차 제곱합 SS다.
4. 분산 s² = SS/(n−1) = SS/4
5. 반복성 표준편차 s = √s²

이 식은 NIST/SEMATECH e-Handbook의 표본 분산·표준편차 식과 같다. 분모가 N−1인 이유는 n-1과 n의 차이를 다룬 글에 정리돼 있다. 짧게 말하면, 평균을 같은 데이터에서 구했기 때문에 독립적인 편차는 n−1개뿐이다(자유도 4). 분산과 표준편차의 개념 차이는 표준편차와 분산의 차이를 참고한다. 이 글은 계산 순서와 기록 방법만 다룬다.

계산 전에: 이 5개가 반복성 조건의 값인지 확인한다

VIM(JCGM 200) 2.20은 반복성 조건을 이렇게 정의한다. 같은 측정 절차, 같은 조작자, 같은 측정 시스템, 같은 운영 조건, 같은 장소에서 같은 대상이나 비슷한 대상을 짧은 기간 안에 반복 측정하는 조건이다. 측정 반복성(VIM 2.21)은 이 조건에서의 측정 정밀도다. 날짜, 조작자, 장비가 바뀐 값이 섞여 있으면 계산 결과는 반복성이 아니라 다른 정밀도 조건의 산포가 된다.

계산에 들어가기 전에 워크시트에 다음을 적는다.

– 시료 ID, 시험법(절차 번호와 판), 조작자, 장비 ID, 측정 일시. 반복성 조건을 충족했다는 근거가 된다.
– 반복값 5개의 원자료. 장비 출력이나 원기록에서 옮긴 자릿수 그대로 적는다. 여기서 미리 반올림하지 않는다.
– 단위
– 5개 중 뺀 값이 있으면 그 사유. 이상값 판정은 이 글에서 다루지 않는다. 시험법이나 실험실 절차가 정한 방법을 따른다.

원자료를 옮겨 적은 값과 계산에 쓴 값이 같아야 데이터 무결성 측면에서 추적할 수 있다. 원기록 위치(파일명, 출력물 번호)도 함께 남긴다.

계산 전에: 이 5개가 반복성 조건의 값인지 확인한다 — 반복성 표준편차 계산

가상 예제: 5개 값으로 표를 채운다

아래 예제는 가상(교육용) 데이터다. 실제 시험 결과가 아니고, 판정 기준을 나타내지도 않는다. 같은 시료를 같은 조건에서 5회 측정해 10.12, 10.08, 10.15, 10.10, 10.05 mg/L를 얻었다고 가정한다.

1단계 평균: 합계는 50.50 mg/L, x̄ = 50.50/5 = 10.100 mg/L이다.

2단계 편차: 10.12−10.100 = +0.020, 10.08−10.100 = −0.020, 10.15−10.100 = +0.050, 10.10−10.100 = 0.000, 10.05−10.100 = −0.050 (mg/L). 편차의 합은 +0.020−0.020+0.050+0.000−0.050 = 0.000이다. 검산을 통과했다.

3단계 편차 제곱과 합: 0.000400, 0.000400, 0.002500, 0.000000, 0.002500 (mg/L)². 합계 SS = 0.005800 (mg/L)²이다. 제곱하면 단위도 제곱이 된다는 점을 표에 함께 적어 둔다.

4단계 분산: s² = 0.005800/4 = 0.001450 (mg/L)²

5단계 제곱근: s = √0.001450 = 0.038079… mg/L. 워크시트에는 0.03808 mg/L처럼 여유 자릿수를 남겨 기록한다. 보고값은 실험실 절차가 정한 자릿수로 마지막에 한 번만 반올림한다(예: 0.038 mg/L).

각 단계 값을 한 표에 모으면 [표 1]과 같다. 표의 열 순서를 '값 → 편차 → 편차 제곱'으로 고정해 두면, 다른 사람이 검토할 때 어느 단계에서 틀렸는지 바로 찾을 수 있다.

손계산을 쉽게 하는 방법이 하나 있다. 모든 값에서 같은 상수를 빼도 편차와 s는 변하지 않는다. 예를 들어 10.00을 빼면 0.12, 0.08, 0.15, 0.10, 0.05가 된다. 이 값들의 평균은 0.100이고 편차는 위와 똑같다. 숫자가 작아져 제곱 계산에서 실수가 줄어든다. 단, 평균을 보고할 때는 뺀 상수를 다시 더한다.

검산: 편차 합 0, 다른 계산식, 엑셀 함수로 세 번 맞춘다

첫째, 편차의 합이 0인지 본다. 평균을 잘못 구했거나 뺄셈 부호를 틀리면 여기서 바로 드러난다. 평균을 반올림해 썼다면 합이 0에서 조금 벗어날 수 있다. 그런데 벗어난 정도가 크면 평균을 다시 계산한다.

둘째, 다른 계산식으로 SS를 다시 구한다. SS = Σxᵢ² − (Σxᵢ)²/n이다. 예제에서 Σxᵢ² = 510.0558, (Σxᵢ)²/5 = 2550.25/5 = 510.05이므로 SS = 0.0058 (mg/L)²다. 편차 방식과 일치한다. 다만 이 식은 거의 같은 큰 수 둘을 빼기 때문에 자릿수가 부족하면 쉽게 틀어진다. 예를 들어 각 xᵢ²를 소수 둘째 자리로 반올림해 102.41, 101.61, 103.02, 102.01, 101.00으로 쓰면 합이 510.05가 되어 SS = 0, 즉 s = 0이 나온다. 그래서 기록용 계산은 편차 방식으로 하고, 이 식은 검산에만 쓴다.

셋째, 엑셀로 대조한다. 원자료를 B2:B6에 넣고 다음 수식으로 손계산 값과 비교한다.

– =AVERAGE(B2:B6) → 평균
– =DEVSQ(B2:B6) → 편차 제곱합. Microsoft는 DEVSQ를 '표본 평균에서 벗어난 편차 제곱의 합'으로 설명한다.
– =VAR.S(B2:B6) → 분산(n−1)
– =STDEV.S(B2:B6) → 표본표준편차(n−1)

STDEV.P나 VAR.P는 분모가 n이므로 이 목적에 쓰지 않는다. 엑셀 값과 손계산 값이 반올림 자릿수 범위 안에서 같으면 워크시트에 '엑셀 STDEV.S 대조 일치'라고 적고 수식 셀 위치를 남긴다. 다르게 나오면 범위 지정(빈 셀이나 텍스트 셀 포함 여부)부터 확인한다. STDEV.S는 논리값과 텍스트를 무시하기 때문에, 숫자가 텍스트로 저장돼 있으면 n이 줄어든 채 계산된다.

검산: 편차 합 0, 다른 계산식, 엑셀 함수로 세 번 맞춘다 — 반복성 표준편차 계산

자주 틀리는 곳과 중간 반올림의 영향

– 분모를 n=5로 나눈다. 예제에서 0.005800/5 = 0.001160이므로 s = 0.03406 mg/L가 되어 실제보다 작게 나온다.
– 분산에서 멈추고 제곱근을 빠뜨린다. 분산 0.001450 (mg/L)²를 표준편차 자리에 적는 실수다. 단위가 제곱인지 보면 구별된다.
– 계산 중간에 반올림한다. 분산 0.001450을 0.0015로 줄인 뒤 제곱근을 취하면 0.03873 mg/L가 된다. 원래 값 0.03808 mg/L와 비교하면 마지막 자리가 달라진다. 평균, 편차, 제곱합, 분산은 모두 계산기나 시트의 전체 자릿수로 들고 가고, 반올림은 보고 단계에서 한 번만 한다.
– 편차 제곱에서 부호를 잘못 다룬다. 음수 편차를 제곱해도 결과는 양수다. 편차 제곱 열에 음수가 있으면 어딘가 틀린 것이다.
– 단위를 섞는다. μg/L와 mg/L가 섞인 원자료는 단위를 통일한 뒤 계산한다.

워크시트 기록 체크리스트

계산을 마친 워크시트에 다음 항목이 모두 남아 있는지 확인한다.

– 반복성 조건 정보: 시료, 시험법과 판, 조작자, 장비, 일시
– 원자료 5개(원기록 자릿수 그대로)와 단위, 원기록 위치
– 제외한 값이 있으면 그 사유와 근거 절차
– 평균 x̄(단위 포함)
– 편차 5개와 편차 합 검산 결과
– 편차 제곱 5개와 SS(제곱 단위)
– 자유도 n−1과 분산 s²(제곱 단위)
– s(원래 단위, 여유 자릿수)와 보고용 반올림 값, 반올림 규칙의 출처
– 엑셀 STDEV.S 대조 결과와 수식 위치
– 계산자와 검토자 서명란, 날짜(실험실 양식에 따름)

ISO/IEC 17025:2017은 측정불확도 평가(7.6)와 결과의 유효성 보장(7.7)을 요구한다. 반복성 표준편차는 그 두 작업의 입력값으로 자주 쓰인다. 위 항목이 남아 있어야 나중에 어떤 값으로 어떻게 계산했는지 다시 따라갈 수 있다.

워크시트 기록 체크리스트 — 반복성 표준편차 계산

s를 구한 뒤 이어지는 계산

이 글에서 구한 s는 개별 측정값 하나의 반복성 산포다. 이후 용도에 따라 계산이 갈라진다.

– 평균 대비 상대 산포가 필요하면 → 반복 측정값의 변동계수 계산
– 5회 평균을 결과로 보고하고 그 불확도를 구하려면(s/√n) → 반복측정값 표준불확도 계산법, 표준편차와 표준오차
– 여러 날, 여러 배치의 반복성 s를 합치려면 → 합동 표준편차

자유도가 4인 s는 표본이 작아 불안정하다. NIST/SEMATECH e-Handbook도 소표본의 반복성 표준편차는 여러 그룹에 걸쳐 합동해 쓰는 방식을 설명한다. 한 세트의 s를 정밀도 판정에 쓸지, 그 기준을 무엇으로 할지는 적용 시험법과 실험실 절차를 따른다.

이어서 볼 글: 반복 측정값의 변동계수는 어떻게 계산하나? 표본표준편차를 평균으로 나눈다

근거 자료

Related Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다