반복 측정값의 평균을 구한 뒤 상대오차(%) = (평균 − 기준값) / 기준값 × 100으로 계산한다. 기준값이 양수이면 양수는 평균이 기준값보다 높고 음수는 낮다는 뜻이다. 절댓값은 방향을 지우며, 상대오차만으로 적합 여부나 측정불확도를 판단할 수는 없다.
목차
분모는 반복 측정값의 평균이 아니라 기준값이다
유효한 반복 측정값을 x₁, …, xₙ, 기준값을 x_ref라고 하면 평균과 상대오차를 다음과 같이 계산한다.
x̄ = (x₁ + … + xₙ) / n
상대오차(%) = (x̄ − x_ref) / x_ref × 100
분자에는 평균과 기준값의 차이를, 분모에는 기준값을 넣는다. 같은 단위끼리 나누므로 비는 무차원이며, 백분율로 표시할 때 100을 곱한다. 평균을 사용한 이 계산은 기준값 대비 상대편향을 추정할 때 사용하는 형태이기도 하다. 타르투 대학교의 상대편향 설명
뺄셈 순서는 VIM 제3판의 측정오차 정의인 ‘측정값에서 기준값을 뺀 값’과 같다. 여기서는 개별 측정값 대신 반복군의 평균을 비교한다. VIM 측정오차 정의
평균을 내기 전에 반복군과 기준값을 확정한다
같은 대상과 정해진 조건에서 얻은 유효한 반복값을 묶는다. 장비 조정이나 개선 조치 전후처럼 상태가 달라진 값은 별도 반복군으로 계산한다. 원하는 결과를 얻기 위해 일부 값을 임의로 빼지 말고, 제외가 필요한 값은 적용 시험법이나 절차서에 따라 처리하고 사유를 남긴다. 반복 조건을 구분하는 근거는 VIM의 반복성 조건 정의에서 확인할 수 있다. VIM 반복성 조건
CRM을 기준으로 쓰면 해당 물질·로트의 인증서에서 측정 대상에 맞는 인증값과 단위, 인증불확도, 사용·보관 조건을 확인한다. 인증값과 비인증 참고값도 구별한다. 평균과 기준값은 같은 단위뿐 아니라 같은 측정 대상과 시료 상태를 나타내야 한다. NIST의 공개 설명도 인증값과 불확도, 사용 목적과 취급 조건을 인증서의 주요 정보로 제시한다. NIST SRM 정의와 인증서 설명
이는 분모에 따른 수학적 제한이며, 모든 시험에 공통으로 적용할 ‘0에 가까움’의 수치 경계를 정한 것은 아니다.
가상 반복값으로 평균과 상대오차를 계산한다
다음은 가상(교육용) 데이터다. 실제 CRM 인증값이나 현장 측정 결과가 아니다. A와 B는 각각 정해진 조건에서 얻은 별도의 반복군이며, 두 군을 합쳐 평균하지 않는다. 각 군의 3회 반복은 산술 설명용으로, 시험법에서 요구하는 반복 횟수를 뜻하지 않는다.
A의 반복값은 101.0, 102.0, 103.0 mg/L다.
평균 = (101.0 + 102.0 + 103.0) / 3 = 102.0 mg/L
상대오차 = (102.0 − 100.0) / 100.0 × 100 = +2.0%
B의 반복값은 97.0, 98.0, 99.0 mg/L다.
평균 = (97.0 + 98.0 + 99.0) / 3 = 98.0 mg/L
상대오차 = (98.0 − 100.0) / 100.0 × 100 = −2.0%
평균은 원자료에서 계산하고 중간 계산값을 반올림하지 않았다. 예제의 평균과 최종 백분율은 소수 첫째 자리까지 표시했다.
| 반복 순서 (회) | 측정값 (mg/L) |
|---|---|
| 1 | 101 |
| 2 | 102 |
| 3 | 103 |
| 반복 순서 (회) | 측정값 (mg/L) |
|---|---|
| 1 | 97 |
| 2 | 98 |
| 3 | 99 |
부호를 남기면 방향을 읽을 수 있다
B의 −2.0%는 같은 비율만큼 낮다는 뜻이다. 기준값이 음수이면 분모의 부호 때문에 이러한 방향 해석이 뒤집히므로, 차이 x̄ − x_ref를 함께 확인한다.
부호·절댓값 비교표에서 두 군의 상대오차 절댓값은 모두 2.0%다. 벗어난 크기는 같지만 방향은 서로 다르다. 따라서 절댓값으로 보고할 때에는 ‘상대오차 절댓값’이라고 표시하고, 방향을 검토할 기록에는 부호 있는 값을 보존한다. 절댓값 사용 여부에 따라 결과의 정보가 달라진다는 점은 NIST의 상대오차 함수 설명에서도 확인할 수 있다. NIST Dataplot RELERR
이 글의 계산 대상은 평균의 상대오차다. 개별 상대오차마다 절댓값을 취한 뒤 평균하는 계산은 다른 지표이므로 구분한다.
| # | 상대오차 또는 그 절댓값 (%) |
|---|---|
| 1 | 2 |
| 2 | 2 |
| 3 | -2 |
| 4 | 2 |
사용할 식과 적합 판정 기준은 시험법에서 따로 확인한다
상대오차라는 이름만 보고 계산식을 확정하지 않는다. NIST Dataplot의 RELERR은 이 글과 반대 순서로 기준값에서 관측값을 빼며, 다른 자료에서는 절댓값을 쓰기도 한다고 설명한다. 적용 시험법이나 실험실 절차서에서 뺄셈 순서, 분모, 절댓값 사용 여부, 반복값 처리와 판정 기준을 확인하고 해당 규정을 따른다. NIST Dataplot의 정의 차이 설명
CV는 반복값의 산포를 평균과 비교하는 지표다. 평균과 기준값의 차이를 기준값으로 나누는 상대오차와 계산 대상이 다르다. 또한 상대오차 하나만으로 측정불확도를 알아낼 수 없다. 기준값의 불확도와 측정 과정의 여러 불확도 성분은 별도로 검토한다. VIM 측정정밀도, VIM 측정불확도
ISO/IEC 17025와 연결해 이 값을 정도관리에 사용할 때에도 계산값과 판정을 구분한다. EA의 공개 해설은 결과 유효성 모니터링을 활동에 적절하게 선택하는 문제와, 적합성을 진술할 때 측정불확도를 어떻게 반영하는지 정하는 의사결정 규칙을 각각 설명한다. 이 글의 가상 예제에는 허용기준과 불확도 평가를 부여하지 않았으므로 적합·부적합을 판정하지 않는다. EA 공개 FAQ의 결과 유효성 및 의사결정 규칙 해설
계산 기록에 원자료, 반복군의 조건, 기준값의 출처와 단위, 사용한 식, 부호 있는 상대오차, 적용한 판정 기준을 함께 두면 계산과 판단의 근거를 추적할 수 있다.
이어서 볼 글: 반복 측정값의 변동계수는 어떻게 계산하나? 표본표준편차를 평균으로 나눈다
근거 자료
- BIPM·JCGM VIM3 (VIM 제3판 공개 HTML판, 2026-11-13 확인) — 2.16 measurement error — 정의
- PTB OIML G18 Controlled Vocabulary — relative error #01639 (용어 레코드 등록·채택 2022-12-19; VIM:1993, 3.12 인용) — Definition note; reference R125:1998 T.22.2
- NIST Dataplot — RELERR (구현일 2010-12; 공개 설명 2026-11-13 확인) — Description 및 차이를 설명하는 항목 1·2
- BIPM·JCGM VIM3 (VIM 제3판 공개 HTML판, 2026-11-13 확인) — 2.15 measurement precision — 정의 및 Note 1
- BIPM·JCGM VIM3 (VIM 제3판 공개 HTML판, 2026-11-13 확인) — 2.26 measurement uncertainty — 정의 및 Notes 1·3
- European co-operation for Accreditation — EA FAQs (관련 FAQ 게시일 2025-10-24; ISO/IEC 17025:2017 관련 해설) — 37.2 Question on Ensuring the validity of results; 47.1 Question on 7.8.6 Reporting statements of conformity for accredited laboratories
- University of Tartu — 5.1 Bias and its constituents
- BIPM·JCGM VIM3 — 2.20 repeatability condition of measurement
- NIST — SRM Definitions
