측정값 평균의 신뢰구간은 어떻게 계산하나? t분포와 표준오차 적용법

ryumanual

모표준편차를 모르는 독립 반복 측정값에서 평균의 양측 95% 신뢰구간은 x̄ ± t(0.975,n−1)·s/√n으로 계산한다. 이 구간은 모집단 평균을 추정하는 통계적 구간이며, 측정결과에 영향을 주는 여러 성분을 평가한 측정불확도나 CRM 인증불확도, 관리도 한계와 같은 의미가 아니다.

목차

계산 전에 반복 측정값의 범위를 고정한다

이 공식은 같은 측정대상에 같은 측정절차를 적용해 얻은 정량적 반복값이 하나의 모집단을 대표한다는 전제에서 사용한다. VIM의 반복성 조건은 같은 측정절차, 조작자, 측정시스템, 운전조건과 장소에서 같은 종류의 대상을 짧은 기간에 반복 측정하는 조건이다. ISO 5725 계열에서 다루는 반복성과 재현성도 조건을 구분해 정밀도를 평가한다.

서로 다른 시료, 측정지점 또는 로트의 결과를 단순히 한 묶음으로 합치면 이 공식이 답하는 모집단 평균 자체가 불명확해진다. 시간 순서에 따른 드리프트나 자동보정 때문에 값들이 상관되어 있어도 독립 반복값으로 취급할 수 없다. 계산 전에는 측정대상, 반복 조건, 원자료의 시간 순서, 제외값과 제외 사유를 먼저 확인해야 한다.

평균의 양측 95% 신뢰구간 공식

측정값을 x₁,…,xₙ이라 하면 표본평균은 x̄=Σxᵢ/n이고, 표본표준편차는 s=√[Σ(xᵢ−x̄)²/(n−1)]이다. 평균의 표준오차는 SE(x̄)=s/√n이다.

모표준편차를 모르는 경우 양측 95% 신뢰구간은 x̄ ± t(0.975,n−1)·s/√n으로 계산한다. 유의수준 α는 0.05이고 양쪽 꼬리에 α/2씩 배분하므로 0.975 분위수를 사용한다. 자유도는 n−1이다.

핵심은 s가 아니라 s/√n에 t값을 곱하는 것이다. s는 개별 반복값의 산포를 나타내고, s/√n은 그 반복값으로 계산한 평균의 표준오차다. 반대로 개별 미래 측정값이 위치할 범위를 구하려는 경우에는 평균의 신뢰구간이 아니라 예측구간 등 목적에 맞는 절차가 필요하다.

가상 교육용 데이터 계산

가상(교육용) 농도 반복값은 10.1, 10.4, 9.9, 10.2, 10.3, 10.0 mg/L이다. 계산에는 반올림하지 않은 값을 유지하고 마지막 보고 단계에서 자릿수를 정리한다.

측정 횟수 n은 6, 평균은 10.15 mg/L, 표본표준편차는 0.1871 mg/L, 상대표준편차는 1.84%, 표준오차는 0.07638 mg/L이다. 자유도 5에서 양측 95% 구간에 사용하는 t값은 2.571이고, 구간의 반폭은 0.1963 mg/L이다. 따라서 신뢰구간은 반올림 전 9.9537∼10.3463 mg/L이며 보고 자릿수에 맞추면 9.95∼10.35 mg/L이다. 계산 과정과 결과는 ‘가상 데이터의 평균 신뢰구간 계산표’에 구조화했다.

95%라는 표현은 단일 구간의 확률이 아니다

계산된 한 구간을 놓고 ‘참평균이 이 안에 있을 확률이 95%’라고 해석하지 않는다. 같은 표본추출과 계산 절차를 반복했을 때 만들어지는 구간 중 장기적으로 약 95%가 참평균을 포함한다는 절차의 포괄 성능을 뜻한다.

이 해석은 자료가 하나의 분포에서 나오고, 시간적으로 상관되지 않으며, 정규분포 가정에서 크게 벗어나지 않는다는 조건에 의존한다. 특히 소표본에서 심한 비대칭, 두 개 이상의 군집, 큰 이상값 또는 검출한계 미만 결과가 있으면 t구간을 기계적으로 계산하지 않는다. 원자료와 시간순서도, 측정방법의 검출한계 처리 규정을 검토하고 필요한 경우 변환, 강건 통계, 재표본화 또는 해당 시험방법의 별도 절차를 선택한다.

신뢰구간과 측정불확도를 같은 ±값으로 보고하지 않는다

평균의 신뢰구간은 현재 반복 자료로 모집단 평균을 추정한 구간이다. 측정불확도는 반복성뿐 아니라 교정, CRM 인증값, 분해능, 환경, 전처리, 보정과 같은 유의한 성분을 측정모델에 따라 평가한 결과다. 반복 측정의 표준오차는 측정불확도 예산의 한 성분이 될 수 있지만, 그 하나만으로 전체 측정불확도가 되지는 않는다.

확장불확도 U는 합성표준불확도 u_c에 포함인자 k를 곱해 산출한다. k=2를 사용했다고 언제나 정확히 95%라고 단정할 수 없다. 분포 가정과 u_c의 신뢰성, 유효 자유도에 따라 포함확률의 해석이 달라질 수 있다.

CRM을 기준값으로 사용했다면 인증서의 인증값뿐 아니라 인증불확도, 추적성, 포함인자와 사용 조건을 확인한다. CRM 인증불확도를 표본평균의 신뢰구간으로 대체해서는 안 된다. 관리도 한계도 현재 평균의 추정 구간이 아니라 과거 공정 성능과 비교해 통계적 관리상태를 감시하기 위한 경계다. 차이는 ‘평균 신뢰구간과 관련 구간의 구분표’에 정리했다.

보고서와 검토 기록에 남길 내용

결과는 예를 들어 ‘평균 10.15 mg/L, 양측 95% 신뢰구간 9.95∼10.35 mg/L, n=6, 표본 SD=0.1871 mg/L, t=2.571, 자유도=5’처럼 구간의 종류와 계산 조건이 드러나게 쓴다. 이어서 ‘이 구간은 독립 반복값에서 추정한 평균의 통계적 신뢰구간이며 측정불확도가 아니다’라고 구분하면 ±값의 오해를 줄일 수 있다.

ISO/IEC 17025 품질시스템에서는 평균 신뢰구간 계산을 7.6의 측정불확도 평가 자체로 대체하지 않는다. 시험방법, 고객 요구와 결과의 용도에 따라 평가한 측정불확도를 7.8의 보고 절차에 연결하고, 적합성 진술을 한다면 문서화된 결정규칙을 적용한다.

검토 체크리스트는 다음과 같다.

□ 동일한 측정대상과 정의된 반복 조건의 값인가
□ 반복값이 서로 독립적이며 시간순서상 드리프트가 없는가
□ 표본표준편차 계산에서 분모 n−1을 사용했는가
□ 신뢰구간에 s가 아닌 s/√n을 사용했는가
□ 양측 또는 단측 구간과 신뢰수준을 사전에 정했는가
□ 사용한 t 분위수와 자유도를 기록했는가
□ 중간 계산값을 조기에 반올림하지 않았는가
□ 제외값, 재측정, 자동보정과 소프트웨어 설정을 추적할 수 있는가
□ 검출한계 미만 결과의 처리 방법이 적용 시험법과 일치하는가
□ 해당 법정 시험방법이나 KS·ISO·ASTM 방법이 반복 횟수와 계산법을 별도로 정하는지 확인했는가
□ CRM을 사용했다면 인증서의 값, 불확도, 포함인자, 추적성과 사용 조건을 확인했는가
□ 평균 신뢰구간, 편향 평가, 측정불확도와 관리도 한계를 서로 다른 필드로 식별했는가

이어서 볼 글: 측정 편향은 어떻게 계산하나

근거 자료

Related Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다