자유도는 표준불확도 추정값을 얼마나 믿을 수 있는지 나타내는 수치다. 반복 횟수가 적은 A형 성분이 합성표준불확도의 대부분을 차지하면 유효자유도가 작아진다. 이때 k=2를 쓰면 실제 포함확률이 표기한 ‘약 95 %’보다 낮아진다. 성분마다 자유도를 정하고(A형 n−1, 회귀 n−2, B형 ∞ 또는 GUM G.4.2 식), Welch–Satterthwaite 식으로 ν_eff를 구한 다음 t분포표에서 k를 고른다. 가상 예제에서 반복 5회 성분이 지배적이면 ν_eff≈5.8이 되고 k=2.571이 나온다. 이때 k=2를 쓰면 확장불확도가 약 22 % 작게 표기된다. 반대로 B형이 지배적이고 그 자유도가 무한대이면 k=2를 그대로 써도 차이가 거의 없다.
목차
결론: k=2를 써도 되는지는 유효자유도로 판단한다
'k=2이면 약 95 %'라는 말에는 두 가지 전제가 있다. 출력량 분포가 정규분포에 가까워야 하고, 합성표준불확도 u_c 자체가 믿을 만한 추정값이어야 한다(NIST 불확도 안내 페이지). 반복이 3~5회뿐인 A형 성분이 버짓의 대부분을 차지하면 두 번째 전제가 무너진다. 작은 표본으로 추정한 u_c는 그 값 자체가 크게 흔들린다.
그래서 다음 순서로 판단한다. 성분마다 자유도 ν_i를 정한다. Welch–Satterthwaite 식으로 유효자유도 ν_eff를 구한다. t분포표에서 ν_eff에 해당하는 t값을 찾아 k로 쓴다. NIST TN 1297 부록 B에 따르면 ν_eff가 약 11보다 작을 때 k=2로는 95 %에 가까운 구간을 얻기에 부족할 수 있다. 같은 부록은 ν_eff=8이면 k95가 2.0이 아니라 2.3이라는 예를 든다. ν_eff가 충분히 크면 t값이 2에 가까워지므로 k=2를 그대로 써도 차이가 작다.
이 글은 GUM 불확도 전파법칙(1차 테일러 근사)으로 u_c를 구하고 출력량을 정규분포나 t분포로 근사할 수 있는 경우만 다룬다. 표준·합성·확장불확도의 기본 계산과 A형·B형 평가 방법은 다른 글에서 다뤘다. 여기서는 'k를 몇으로 할 것인가' 한 가지만 다룬다.
자유도는 ‘불확도 추정값을 얼마나 믿을 수 있는가’를 나타낸다
표준편차 s는 표본에서 구한 추정값이어서 그 자체에도 불확실성이 있다. 자유도 ν는 이 불확실성의 크기를 나타낸다. ν가 작을수록 s가 참값에서 멀리 떨어져 있을 가능성이 크다. Farrance와 Frenkel(2012)은 GUM G.4.2의 관계식 ν ≈ ½(u/Δu)²를 소개하면서, n=10(ν=9)이면 Δu/u가 약 24 %라는 예를 든다. 같은 식에 ν=4(n=5)를 넣어 계산하면 Δu/u = 1/√(2ν) ≈ 35 %다. 반복 5회로 구한 표준불확도는 값 자체가 35 % 안팎으로 흔들릴 수 있다는 뜻이다.
성분별 자유도는 다음과 같이 정한다.
– A형, 반복측정 평균: ν = n − 1. 결과가 n회 평균이어서 u = s/√n을 썼더라도 자유도는 n − 1이다.
– A형, 회귀(검량선 등): 모수 m개를 맞춘 곡선이면 ν = n − m이다. 기울기와 절편을 맞추는 직선은 m=2이므로 ν = n − 2다(NIST TN 1297 B.3).
– A형, 정도관리·밸리데이션 데이터를 합동(pooled)한 반복성: 각 군의 (n_j − 1)을 모두 더한 값이 자유도다. 기준은 이번 측정의 반복 횟수가 아니라 s를 추정하는 데 쓴 데이터의 수다.
– B형, 과소평가를 피하도록 한계를 정한 경우: NIST TN 1297 B.3은 B형 평가를 과소평가가 없도록 수행하는 것이 일반적인 관행이라고 하고, 그렇게 한계를 정했다면 ν_i → ∞로 취급할 수 있다고 설명한다.
– B형, 추정 자체에 확신이 없는 경우: GUM G.4.2 식 ν ≈ ½(Δu/u)⁻²로 정한다. 판단한 u가 25 % 정도 틀릴 수 있다고 보면 ν ≈ 8이고, 10 % 정도라고 보면 ν ≈ 50이다.
B형 성분에 무한대를 줄지 유한한 값을 줄지는 계산서 검토에서 자주 지적받는 부분이다. 무한대로 두려면 한계를 넉넉하게 잡았다는 근거를 남긴다. 인증서나 사양서의 해당 문구, 허용차의 출처가 그런 근거다. 근거가 약하면 G.4.2 식으로 유한한 자유도를 준다.
Welch–Satterthwaite 식으로 유효자유도 구하기
성분별 자유도를 정했으면 합성표준불확도 u_c의 유효자유도를 구한다.
ν_eff = u_c⁴(y) / Σ [ u_i⁴(y) / ν_i ], u_i(y) = |c_i|·u(x_i)
c_i는 감도계수이고, u_i(y)는 각 성분을 출력량 단위로 바꾼 기여량이다. 단위가 다른 성분은 반드시 감도계수(단위 포함)를 곱해 출력 단위로 맞춘 뒤 식에 넣는다. ν_i = ∞인 성분은 분모 항이 0이 되어 빠진다. 따라서 ν_eff는 자유도가 작은 성분이 u_c에서 얼마나 큰 비중을 차지하는지에 따라 정해진다.
엑셀에서는 셀 하나에 식 하나로 계산된다. 출력 단위 기여량이 B2:B4에, 자유도가 C2:C4에 있다고 하자. 무한대는 빈칸으로 두지 말고 1E+99 같은 큰 수를 넣는다.
– u_c: =SQRT(SUMSQ(B2:B4))
– ν_eff: =SQRT(SUMSQ(B2:B4))^4/SUMPRODUCT(B2:B4^4/C2:C4)
ν_eff는 대개 정수가 아니다. 표에서 k를 읽을 때 더 작은 정수(또는 표에 있는 더 작은 행)로 내려 읽으면 k가 조금 커지므로 보수적인 쪽이 된다. 내림 처리 여부는 계산서에 적어 둔다.
이 식은 분산 추정값들이 서로 독립이라는 가정 위에 선 근사식이다. 상관계수를 넣어 u_c를 구한 버짓에는 그대로 쓰면 안 된다.
계산 예제: 반복 5회는 같아도 버짓 구성에 따라 k가 달라진다
아래 숫자는 모두 가상(교육용) 데이터다. 측정모델은 C = C_rep + δ_std + δ_vol(단위 mg/L)로 단순화했다. 세 입력량이 모두 mg/L 단위이므로 감도계수는 모두 1 (mg/L)/(mg/L)이다.
공통 성분은 두 가지다.
– 반복성(A형): 같은 시료를 독립적으로 5회 측정해 10.12, 10.25, 10.08, 10.31, 10.19 mg/L를 얻었다(가상 데이터). 가상 데이터의 평균은 10.19 mg/L, 표본표준편차(n−1 기준) s는 0.0935 mg/L, RSD는 0.92 %다. 보고값이 5회 평균이므로 u_A = s/√5 = 0.0418 mg/L이고 ν = 4다.
– 부피 성분(B형): 가상 예제에서 ±0.02 mg/L 상당의 한계를 직사각형 분포로 보아 u = 0.02/√3 = 0.0115 mg/L, ν = ∞로 둔다.
교정용 표준용액(B형) 성분만 사례마다 다르게 둔다.
사례 1 — A형 지배: 표준용액 인증서의 U = 0.030 mg/L(k=2)에서 u = 0.015 mg/L를 얻는다. 인증서에 자유도가 충분히 크다고 적혀 있다고 가정하고 ν = ∞로 둔다.
u_c = √(0.0418² + 0.015² + 0.0115²) = 0.0459 mg/L
ν_eff = 0.0459⁴ / (0.0418⁴/4) ≈ 5.8이므로 5로 내린다.
k = t95(5) = 2.571이고 U = 0.118 mg/L다. 관행대로 k=2를 쓰면 U = 0.092 mg/L가 되어 약 22 % 작게 표기된다.
사례 2 — B형 지배: 표준용액 성분이 u = 0.100 mg/L(인증서 U = 0.20 mg/L, k=2), ν = ∞인 경우다.
u_c = 0.109 mg/L이고 ν_eff ≈ 184다.
표의 ν=100 행으로 보수적으로 읽어도 t95 = 1.984로 2와 거의 같다. 이 경우 k=2를 써서 U = 0.218 mg/L로 보고해도 실질적인 차이가 없다.
사례 3 — B형 지배이지만 그 B형 값이 불확실한 경우: 사례 2와 같지만 표준용액의 u = 0.100 mg/L가 인증서 값이 아니라 판단으로 정한 값이다. 이 값이 25 % 정도 틀릴 수 있다고 보고 G.4.2 식으로 ν = 8을 준다.
ν_eff = 0.109⁴ / (0.0418⁴/4 + 0.100⁴/8) ≈ 10.6이므로 10으로 내린다.
k = t95(10) = 2.228이고 U = 0.243 mg/L다. k=2로 구한 0.218 mg/L보다 약 11 % 크다.
세 사례를 비교하면 판단 기준이 드러난다. 반복 횟수가 같아도 그 성분이 u_c에서 차지하는 비중이 작으면 k는 2에 가깝다. 거꾸로 B형이 지배적이어도 그 B형에 유한한 자유도를 주면 k가 커진다. '반복 5회니까 k를 키운다'거나 'B형이 크니까 k=2'처럼 한 가지만 보고 정하지 말고 ν_eff를 직접 계산한다.
ν_eff별 t95 값 — 공개 t분포표의 95 % 열
비교표는 NIST/SEMATECH 통계 핸드북의 t분포 임계값 가운데 누적확률 0.975 열이다. 양측 95 % 구간에 해당하는 t값이다. ν=4에서 2.776, ν=10에서 2.228, ν=30에서 2.042, ν=100에서 1.984이고, ν=∞에서 1.960이 된다. 정규분포에서 k=2는 약 95.45 %에 해당한다. 따라서 성적서에 'k=2, 약 95 %'라고 쓰는 관행은 ν_eff가 충분히 크다는 것을 전제로 한다.
ν_eff가 10~20이면 t95는 2.228에서 2.086 사이다. 이 구간에서 k를 정하는 방식은 기관 절차서에 미리 정해 둔다. t값을 그대로 쓰면 설명하기가 가장 쉽다.
이 글의 수치 예제는 공개 원문으로 확인한 95 % 열(누적확률 0.975)만 사용했다.
계산서와 성적서에 남길 것 — 점검표
1. 성분마다 ν_i와 그 근거: A형은 n−1 또는 n−m(회귀)과 사용한 데이터 범위를 적는다. 합동 표준편차를 썼다면 자유도를 합산한 방식도 적는다.
2. B형 성분의 자유도를 정한 근거.
3. 감도계수와 그 단위, 출력 단위로 환산한 기여량 u_i(y).
4. Welch–Satterthwaite 식으로 계산한 ν_eff와 내림 처리 방식.
5. 포함확률과 사용한 t값의 출처.
6. k와 U. NIST TN 1297 7.1의 방침은 U를 계산에 쓴 k와 함께 보고하거나 u_c를 보고하는 것이다. 같은 절은 보고에 성분별 표준불확도와 (해당되는 경우) 그 자유도, 각 성분의 평가 방법, k를 2로 두지 않았을 때 k를 정한 방법을 포함하라고 한다.
7. 입력량끼리 상관이 없다는 가정과 그 근거. 상관이 있다면 Welch–Satterthwaite 식을 그대로 쓰지 않았다는 사실을 표시한다.
8. 성적서에는 U, k, 포함확률을 함께 적는다. '약 95 %'처럼 근사값임을 드러내고, 포함확률의 근거를 계산서에서 추적할 수 있게 한다.
인정평가에서 포함인자의 근거를 질문받으면 4~6번 항목을 보여 주면 된다. ISO/IEC 17025, ILAC P14, KOLAS 지침의 해당 조항 문구는 기관이 보유한 최신판에서 직접 확인한 뒤 불확도 절차서에 인용한다.
이 방법을 쓰지 말아야 할 경우
– 지배적인 성분이 직사각형 분포인 경우: 출력량 분포가 정규분포보다 평평해져 t분포 근사가 맞지 않는다. 이때 ν_eff로 k를 키우는 것은 근거가 없다.
– 분포가 비대칭이거나 측정모델이 강한 비선형이어서 1차 테일러 근사가 맞지 않는 경우: 몬테카를로법(GUM Supplement 1, JCGM 101)으로 포함구간을 직접 구한다.
– 입력량끼리 상관이 있는 경우: Welch–Satterthwaite 식의 독립 가정이 성립하지 않는다.
– 출력량이 여러 개인 다변량 측정: 이 글이 다루는 범위가 아니다.
위 경우에는 ν_eff로 k를 정한 결과를 쓰지 않는다. 해당 방법을 다룬 문서를 따로 검토한다.
근거 자료
- NIST/SEMATECH e-Handbook of Statistical Methods, 1.3.6.7.2 Critical Values of the Student’s t Distribution (온라인판(2026-11 확인)) — t 분포 임계값 표, 0.975 열
- NIST TN 1297: Appendix B. Coverage Factors
- NIST TN 1297: 7. Reporting Uncertainty
- NIST Reference on Constants, Units, and Uncertainty — Expanded uncertainty and coverage factor
- Farrance I, Frenkel R. Uncertainty of Measurement: A Review of the Rules for Calculating Uncertainty Components through Functional Relationships. Clin Biochem Rev 2012
- ISOBudgets — What are degrees of freedom for Type B uncertainty
- ISOBudgets — What is a coverage factor (k)
- Welch–Satterthwaite equation (Wikipedia)
