표준편차와 분산은 어떻게 다른가: 산포 설명에는 표준편차, 변동 성분 계산에는 분산

ryumanual
같은 산포를 원래 단위와 제곱 단위로 나타낸다 — 표준편차와 분산의 차이

분산은 평균에서 벗어난 편차를 제곱해 산포를 나타내고, 표준편차는 그 분산의 제곱근이다. 표준편차는 측정값과 단위가 같아 산포 설명에 편리하다. 분산은 변동 성분 합성과 분산분석에 유용하며, 성분을 합칠 때는 측정모델의 감도계수와 공분산을 함께 검토한다.

목차

같은 산포를 원래 단위와 제곱 단위로 나타낸다

표준편차와 분산은 같은 반복 측정값의 흩어짐을 서로 다른 척도로 나타낸다. 표본분산 s²은 각 측정값과 표본평균의 차이를 제곱해 더한 뒤 n−1로 나눈 값이다. 표본표준편차 s는 그 분산의 제곱근이다.

s² = Σ(xᵢ−x̄)² / (n−1)
s = √s²

측정값의 단위가 mg/L이면 분산의 단위는 (mg/L)²이고, 표준편차의 단위는 mg/L이다. 분산에서 제곱근을 취하면 산포를 원래 측정값과 같은 단위로 설명할 수 있다. NIST의 산포 지표 정의

VIM의 측정정밀도 정의는 정해진 조건에서 반복 측정한 값들의 일치 정도를 다루며, 주석에서 표준편차와 분산 등을 정밀도를 수치로 표현하는 수단으로 제시한다. 따라서 두 값을 비교할 때도 어떤 시료와 측정 조건에서 얻은 산포인지 함께 보아야 한다. VIM 측정정밀도 정의와 주석

가상 반복값에서 분산과 표준편차를 함께 계산한다

다음은 가상(교육용) 데이터다. 균질한 QC 시료를 같은 장비·방법·분석자 아래 짧은 시간에 독립적으로 반복 측정했다고 가정한다. 값은 9.80, 9.80, 10.00, 10.20, 10.20 mg/L이다.

측정 횟수 n은 5이고 평균은 10.00 mg/L이다. 평균에서 벗어난 편차는 −0.20, −0.20, 0.00, 0.20, 0.20 mg/L이며, 편차제곱합은 0.1600 (mg/L)²이다.

표본분산 s² = 0.1600 / (5−1) = 0.0400 (mg/L)²
표본표준편차 s = √0.0400 = 0.20 mg/L

이 계산은 NIST에 제시된 표본분산과 표본표준편차 식을 적용했다. 비교표는 같은 데이터에서 두 값의 계산 관계와 용도를 연결한다.

0.0400과 0.20의 숫자 크기를 서로 비교해 어느 쪽이 더 정밀하다고 해석하지 않는다. 단위가 다른 두 수치가 같은 산포를 나타내기 때문이다. 이 예제의 측정 횟수와 산포는 계산 관계를 설명하기 위한 설정이며, 관리한계 설정이나 적합 판정의 근거로 제시한 값이 아니다.

가상 반복값에서 분산과 표준편차를 함께 계산한다 — 표준편차와 분산의 차이

산포를 설명하고 측정값 차트의 한계 폭을 표현할 때는 표준편차가 편리하다

반복성 검토 기록에서 산포를 전달하려면 표준편차가 읽기 쉽다. 앞 예제는 ‘평균 10.00 mg/L, 표본표준편차 s=0.20 mg/L, n=5’로 기록하고 반복 측정 조건을 붙일 수 있다. 원자료와 표준편차가 같은 단위이므로 측정값의 규모와 산포를 함께 파악하기 쉽다. NIST의 표준편차 단위 설명

측정값 자체를 표시하는 관리차트에서도 한계 폭은 측정값과 같은 단위여야 한다. ISO 7870-2의 Shewhart 차트 설명은 표시하는 통계량의 표준편차를 기준으로 관리한계의 거리를 다룬다. 표준편차가 들어갈 자리에 분산을 그대로 넣으면 단위가 맞지 않는다. ISO 7870-2:2023 공개 원문 미리보기

다만 표준편차를 쓴다는 사실만으로 관리한계에 넣을 값이 정해지지는 않는다. NIST의 확인용 표준시료 관리차트 설명은 시간에 따른 공정 변동과 짧은 시간의 반복 변동을 구분한다. 장기 변동을 감시하는 차트에 단기 반복값의 표준편차를 그대로 적용할 수 있는지는 별도로 검토해야 한다. NIST의 측정공정 Shewhart 차트 설명

산포를 설명하고 측정값 차트의 한계 폭을 표현할 때는 표준편차가 편리하다 — 표준편차와 분산의 차이

변동 성분을 합성하거나 분산분석을 할 때는 분산을 계산의 중심에 둔다

서로 다른 원인이 만드는 변동을 합성할 때는 각 성분이 결과에 어떻게 영향을 주는지 측정모델로 나타낸다. GUM의 분산 전파식은 입력량의 표준불확도를 감도계수로 가중하고, 상관이 있으면 공분산 항도 포함한다. 같은 일반식은 NIST의 공식 HTML 원문에서도 확인할 수 있다.

출력 y=f(x₁,…,xₘ), 감도계수 cᵢ=∂f/∂xᵢ일 때 일차 근사식은 다음과 같다.

u_c²(y) ≈ Σᵢ cᵢ²u²(xᵢ) + 2Σᵢ<ⱼ cᵢcⱼCov(xᵢ,xⱼ)
u_c(y) = √u_c²(y)

여기서 u(xᵢ)는 각 입력량에 부여한 표준불확도다. 감도계수의 단위는 ‘출력량 단위/입력량 단위’이므로 cᵢu(xᵢ)는 출력량 단위가 된다. 서로 다른 단위의 성분은 이 과정을 거쳐 출력량에 대한 분산 기여량으로 바꾼 뒤 합성한다. 비선형성이 커서 일차 근사가 충분하지 않은 모델에는 이 식만으로 평가를 끝내지 않는다.

성분이 독립이면 공분산은 0이다. 독립이 아니더라도 공분산이 0인 경우에는 공분산 항이 사라진다. 같은 단위의 가산 성분을 계수 1로 합치고 성분 사이의 공분산이 0인 경우에는 분산을 단순히 더하는 형태가 된다. 표준편차 자체를 더하는 방식과 구분해야 한다. NIST의 분산 전파식과 감도계수 설명

상관된 입력량에서는 공분산도 고려한다. VIM의 합성표준불확도 정의 주석도 이 점을 명시한다. 따라서 성분 이름이 다르다는 이유만으로 독립이라고 놓지 말고, 상관 여부를 검토한 근거를 계산서에 남긴다. VIM 합성표준불확도 정의와 주석

분산분석에서는 그룹 사이와 그룹 안의 변동을 제곱합과 평균제곱으로 다루고 비교한다. 이런 계산에는 분산 척도가 유용하다. 계산 결과의 산포를 측정값 단위로 설명할 때는 해당 분산의 제곱근인 표준편차로 연결할 수 있다. NIST의 분산분석 표 설명

변동 성분을 합성하거나 분산분석을 할 때는 분산을 계산의 중심에 둔다 — 표준편차와 분산의 차이

이어서 볼 글: 여러 배치 QC 데이터의 표준편차는 어떻게 합치나 — 합동 표준편차와 배치 간 분산 계산

근거 자료

Related Posts

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다