표준편차와 표준오차는 개별 측정값이 얼마나 흩어지는지를 말하는지, 그 값들로 낸 평균이 얼마나 흔들리는지를 말하는지에 따라 갈린다. 정도관리 차트의 관리한계와 반복성 평가에는 표준편차를 쓴다. 반복 측정의 평균을 결과로 보고하면서 불확도나 신뢰구간을 붙일 때는 표준편차를 √n으로 나눈 표준오차를 쓴다. ±값 옆에는 그것이 SD인지 SE인지, n이 얼마인지를 함께 적어야 오해가 생기지 않는다.
목차
표준편차와 표준오차, 한 줄로 갈리는 기준
측정값 하나하나가 얼마나 흩어지는지 말할 때는 표준편차(SD)를 쓰고, 그 측정값들로 낸 평균을 얼마나 믿을 수 있는지 말할 때는 표준오차(SE)를 쓴다. 정도관리 차트의 관리한계나 반복성·재현성 같은 정밀도 지표는 개별 측정값의 흩어짐을 다루므로 표준편차를 쓴다. 표준오차는 반복 측정의 평균값을 결과로 보고하면서 그 평균의 불확도나 신뢰구간을 붙일 때 쓴다.
표준편차는 데이터가 평균 주위에 얼마나 퍼져 있는지를 나타내는 값이다. 표준오차는 같은 조건에서 표본을 다시 뽑아 평균을 내면 그 평균이 얼마나 달라질지를 추정한 값이며, 보통 평균의 표준오차(SEM)를 가리킨다. Altman과 Bland는 둘의 차이를 데이터를 기술하는 것과 추론하는 것의 차이로 설명한다.
이 글은 정규분포에 가깝고 서로 독립인 반복 측정값을 다루는 일반적인 실험실 정도관리 상황을 전제로 한다. 측정값끼리 상관이 크거나 분포가 심하게 치우친 데이터에는 아래 공식을 그대로 적용하지 않는다.
표준편차와 표준오차 비교
| 구분 | 표준편차(SD) | 표준오차(SE) |
|---|---|---|
| 무엇을 보나 | 개별 측정값의 흩어짐 | 평균의 흔들림 |
| 계산 | s | s/√n |
| n이 늘면 | 거의 그대로 | 작아짐 |
| 정도관리 쓰임 | 관리한계·반복성 | 평균 보고·Type A 불확도 |
두 값의 계산 방식과 n의 역할
표본표준편차 s는 각 측정값에서 평균을 뺀 차이를 제곱해 모두 더하고, 이를 (n−1)로 나눈 뒤 제곱근을 취해 구한다. n이 아니라 n−1로 나누는 이유는 평균을 같은 데이터에서 이미 추정했기 때문이다. 그만큼 자유도가 하나 줄어든다. 측정 횟수를 늘려도 s는 모집단의 실제 흩어짐에 가까워질 뿐, 계속 작아지지는 않는다.
평균의 표준오차는 s를 √n으로 나눈 값이다. 측정 불확도 지침서인 GUM(JCGM 100:2008)도 반복 관측의 Type A 평가에서 평균의 분산을 s²/n으로 두고, 그 제곱근을 '평균의 실험 표준편차'라고 부른다. GUM은 이 값이 평균이 기댓값을 얼마나 잘 추정하는지를 나타낸다고 설명한다. Type A 평가란 반복 측정 데이터를 통계적으로 분석해 불확도 성분을 구하는 방법이다.
그래서 n이 4배가 되면 표준오차는 절반이 된다. 측정값 자체의 흩어짐은 그대로이고 평균의 흔들림만 줄어든다. 같은 데이터라도 SE로 표시하면 n이 2 이상인 한 SD보다 늘 좁아 보이는 것도 이 때문이다.
관리한계에는 표준편차를 쓴다
정도관리 차트가 묻는 것은 '이번에 측정한 QC 시료 한 개의 값이 평소 흩어짐 범위 안에 있는가'이다. 비교 대상이 평균이 아니라 개별 측정값이므로 관리한계는 표준편차로 그린다. 흔히 쓰는 Shewhart 방식의 평균 ±2s 경고한계와 ±3s 조치한계가 이런 구조다.
가상의 예시로 확인해 본다. QC 시료를 20회 측정해 평균 10.0 mg/L, 표준편차 0.40 mg/L를 얻었다고 하자. 그러면 ±2s 경고한계는 9.2~10.8 mg/L, ±3s 관리한계는 8.8~11.2 mg/L이다.
같은 데이터로 표준오차를 구하면 0.40/√20 ≈ 0.089 mg/L이다. 이 값을 관리한계 계산에 잘못 넣으면 ±3SE 범위가 약 9.73~10.27 mg/L로 좁아진다. 그러면 평소 흩어짐 안에 있는 10.5 mg/L도 이탈로 판정되고, 불필요한 재측정과 원인 조사가 반복된다.
예외도 있다. 여러 번 측정한 평균을 한 점으로 찍는 평균 관리도(X-bar 차트)에서는 점 자체가 평균이므로 한계 폭에 √n 보정이 들어간다. 그래서 차트에 찍는 점이 개별값인지 평균인지를 먼저 확인해야 한다.
SD 한계와 SE 오용 비교
| 구분 | 계산 | 범위(mg/L) |
|---|---|---|
| ±2s 경고한계 | 10.0 ± 2×0.40 | 9.2~10.8 |
| ±3s 관리한계 | 10.0 ± 3×0.40 | 8.8~11.2 |
| ±3SE 잘못된 한계 | 10.0 ± 3×0.089 | 약 9.73~10.27 |
※ 가상의 예시: n=20, 평균 10.0 mg/L, s=0.40 mg/L
표준오차가 필요한 경우: 평균 보고와 불확도
표준오차가 쓰이는 대표적인 경우는 평균값을 결과로 내보낼 때다. 방법서가 시료 하나를 같은 조건에서 4회 반복 분석해 그 평균을 보고하도록 정해 두었다면, 반복성에서 오는 불확도 성분은 개별 측정의 s가 아니라 s/√4가 된다. GUM의 Type A 평가가 바로 이 경우다.
앞의 가상의 예시를 이어 간다. 개별 측정의 표준편차가 0.40 mg/L이고 결과를 4회 평균으로 보고하면 표준오차는 0.40/2 = 0.20 mg/L이다. 평균에 신뢰구간을 붙일 때는 표준오차를 추정하는 데 사용한 데이터에 맞는 자유도의 t값을 사용한다.
반대로 결과를 단일 측정값으로 보고한다면 √n으로 나눌 이유가 없다. 표준편차를 추정하는 데 과거 데이터 20개를 썼더라도, 나누는 n은 보고 결과에 들어간 반복 횟수다. 표준편차를 추정할 때 쓴 데이터 수와 평균에 들어간 반복 수는 따로 본다.
방법 비교나 두 평균의 차이를 검정할 때도 표준오차를 쓴다. 이때도 어느 평균의 표준오차인지, 반복 측정이 서로 독립인지부터 확인하고 계산한다.
표준편차와 표준오차를 헷갈리는 지점
가장 흔한 실수는 결과표에 '평균 ± 값'만 쓰고 그 값이 SD인지 SE인지 밝히지 않는 것이다. 읽는 사람은 대개 ±값을 측정값의 흩어짐으로 받아들인다. 그래서 SE를 써 두면 방법이 실제보다 정밀해 보인다. Lee 등은 데이터의 변동을 기술할 때는 SD를, 평균 추정의 정확도를 말할 때는 SE를 써야 한다고 정리한다.
두 번째는 같은 날 같은 분석가가 연속으로 측정한 값으로 SE를 구한 뒤, 날짜·분석가·검량선이 바뀌는 조건의 불확도로 쓰는 경우다. 연속 반복에는 일간 변동이 빠져 있어서 s부터 작게 나온다. 여기에 √n까지 나누면 불확도가 두 번 작아진다. s/√n은 반복 측정이 서로 독립이라는 전제에서만 성립한다.
세 번째는 n이 3~5 정도로 작은데도 SE에 1.96이나 2를 곱해 신뢰구간을 내는 것이다. 표본이 작을수록 t값이 커지므로 이때는 t분포를 쓴다.
표준편차로 그린 관리한계는 그 QC 시료와 같은 농도·매트릭스 범위에서만 의미가 있다. 농도 수준이 다른 시료나 다른 기기의 데이터에 같은 s를 그대로 가져다 쓰지 않는다.
이어서 읽을 글: 정도관리 관리한계선, 평균과 표준편차로 계산하는 법
내 데이터에 표준편차와 표준오차 중 무엇을 붙일지 확인하는 순서
먼저 방법서에서 보고 결과가 단일 측정값인지 반복 측정의 평균인지 확인한다. √n으로 나눌지는 여기서 정해진다.
다음으로 관리 차트에 찍는 점이 개별값인지 평균값인지 확인한다. 개별값 차트라면 관리한계는 표준편차로 계산해야 하므로, 기존 한계가 표준오차로 잘못 계산된 적은 없는지 변경 이력을 살펴본다.
불확도 예산을 검토할 때는 반복성 성분이 어떤 조건에서 나온 데이터인지, 나눈 n이 보고 결과의 반복 수와 같은지를 대조한다. 보고서와 논문에는 ±값 옆에 SD인지 SE인지와 n을 함께 적는다.
관리한계를 실제로 계산하는 절차는 '정도관리 관리한계선, 평균과 표준편차로 계산하는 법'에서 이어서 확인할 수 있다.
SD·SE 적용 점검 항목
- ✓보고 결과가 단일값인지 반복 평균인지 확인
- ✓관리 차트의 점이 개별값인지 평균값인지 확인
- ✓기존 관리한계가 SE로 계산되지 않았는지 확인
- ✓나눈 n이 보고 결과의 반복 수와 같은지 대조
- ✓반복성 데이터에 일간 변동이 포함되는지 확인
- ✓±값 옆에 SD·SE 구분과 n 표기