반복측정값 표준불확도 계산법은 실험표준편차 s를 n-1로 구하고, 이를 제곱근n으로 나눠 평균값의 표준불확도를 구하는 것이 핵심이다. 여기에 확장불확도와 k값, 관리도와 데이터 무결성까지 함께 알아두면 반복측정 표준불확도 계산에서 흔한 실수를 피할 수 있다.
핵심 계산식 먼저
반복측정값이 서로 독립적이라는 전제에서 평균값의 표준불확도를 구하는 기본식은 u=s/제곱근(n)이다. n번 측정한 값의 평균을 구하고, 각 측정값이 평균에서 떨어진 정도를 보여주는 실험표준편차 s를 계산한 다음, 이 s를 반복측정 횟수 n의 제곱근으로 나누면 된다. 식으로 쓰면 u=s/제곱근(n)이며, 이것이 GUM이 정의하는 A형 평가의 결과값이다.
이 공식에서 틀리기 쉬운 지점은 두 군데다. 하나는 s를 구할 때 분모를 n이 아니라 n-1로 나눠야 한다는 점이고, 다른 하나는 s 자체를 표준불확도로 착각해 제곱근 나누기를 빠뜨리는 실수다. 두 지점만 바로 잡아도 반복측정 표준불확도 계산의 절반은 해결된다.
실험표준편차 구하기
실험표준편차 s는 각 측정값과 평균의 차이를 제곱해 더한 뒤 n-1로 나누고, 그 값에 제곱근을 씌워 구한다. 측정값이 10개라면 편차 제곱을 모두 더하고 9로 나누는 식이며, 이렇게 구한 s는 측정 시스템이 가진 산포, 즉 흩어짐 정도를 보여준다. 이 값 자체는 아직 표준불확도가 아니라 개별 측정값의 산포일 뿐이다.
반복측정 횟수가 10회 미만이면 s 추정값의 신뢰도가 떨어진다. 이런 경우 국가기술표준원의 불확도추정 지침은 관리도처럼 과거에 쌓인 표준편차 데이터를 함께 활용하도록 권고한다.
왜 n-1로 나누나
s를 구할 때 n이 아니라 n-1로 나누는 이유는 평균값 자체를 이미 같은 자료에서 계산했기 때문이다. 평균을 구하는 순간 n개의 편차 가운데 자유롭게 움직일 수 있는 값은 n-1개로 줄어드는데, 통계학에서는 이를 자유도라고 부른다. n으로 나누면 산포를 실제보다 작게 추정하게 되므로 n-1을 쓰는 쪽이 표준으로 자리 잡았다.
자유도는 n-1로 표기하며, 반복측정 횟수가 많을수록 자유도가 커지고 s 추정값의 신뢰도도 높아진다. 실무에서 반복측정 횟수를 늘리라고 권하는 이유도 이 자유도를 확보하기 위해서다.
왜 제곱근n으로 나누나
실험표준편차 s는 개별 측정값 하나의 산포를 나타낼 뿐, 보고하려는 평균값의 불확도와는 다르다. 평균값은 여러 측정값을 평균 내는 과정에서 흩어짐이 줄어들기 때문에, 평균값의 불확도인 표준오차는 s를 반복측정 횟수의 제곱근으로 나눈 값으로 구해야 한다. 표준편차가 곧 표준불확도라는 인식은 흔한 오해이며, 이 나누기를 빠뜨리면 실제보다 큰 값을 표준불확도로 보고하게 된다.
다만 반복횟수를 늘린다고 모든 불확도 성분이 줄어들지는 않는다. 측정기 분해능이나 교정 불확도 같은 일부 B형 성분은 반복횟수를 늘려도 그대로 남을 수 있다.
확장불확도와 예외 상황
실무에서 보고하는 값은 표준불확도가 아니라 확장불확도인 경우가 많다. 합성표준불확도는 A형으로 구한 값과 B형 성분들을 제곱해 더한 뒤 제곱근을 취해 합치고, 여기에 포함인자 k를 곱한 값이 확장불확도다. 실무에서는 자유도가 충분히 클 때 95% 신뢰수준에 k=2를 관행적으로 쓰지만, 정규분포를 가정한 95%에서는 k=1.96이고 k=2는 근사값이라는 점은 구분해둘 만하다.
자유도가 작을 때는 목표 신뢰수준과 자유도를 고려해 t분포 기반 포함인자를 검토해야 한다. ISO/IEC 17025 7.6절은 교정기관은 모든 교정 결과에, 시험기관은 관련이 있고 적용 가능한 경우에 측정불확도를 평가하도록 규정한다.
자주 하는 계산 실수
표준물질이나 내부표준물질을 반복 측정해 관리도를 운영한다면, 한 묶음만 측정해 구한 병행정밀도 표준편차보다 여러 날 쌓인 재현성 표준편차가 실제 불확도를 더 현실적으로 반영한다고 보는 시각이 일반적이다. 짧은 기간의 반복측정만으로 표준불확도를 산출하면 실제보다 낙관적인 값이 나올 수 있다.
반복측정 원자료를 평균값만 남기고 지우는 것도 흔한 실수다. 데이터 무결성 원칙은 기록이 기인성과 동시성을 갖추고 원본대로 보존돼야 한다고 보므로, 전자기록시스템에 원자료를 남겨두는 편이 안전하다. 계산식은 간단하지만 n-1과 제곱근n, 원자료 보존까지 챙겨야 실수 없는 표준불확도 보고가 완성된다.