HorRat 값 평가는 Horwitz 식으로 예측한 상대표준편차와 실제 측정한 상대표준편차를 비교해 분석법 정밀도가 타당한지 판단하는 방법이다. 계산은 PRSDR = 2C^(-0.15)로 예측값을 구하고 실측 RSDR을 나눠 HorRat을 얻는 단순한 구조지만, 판정 기준과 적용 한계를 알아야 오독을 피한다. 이 글은 계산부터 판정, 이탈 원인 진단까지 실무 순서로 정리한다.
목차
HorRat 값 평가가 필요한 이유
분석법의 정밀도를 상대표준편차(RSD) 하나로만 보고하면, 그 값이 큰지 작은지 판단할 기준이 없다. 농도가 낮을수록 RSD는 자연히 커지기 때문에, 절대적인 RSD 수치만으로 정밀도의 좋고 나쁨을 말할 수 없다.
HorRat 값 평가는 이 문제를 해결한다. William Horwitz가 수천 건의 실험실 간 공동 시험 자료에서 관찰한 경험식을 기준선으로 삼아, 해당 농도에서 기대되는 정밀도와 실제 정밀도를 비교하는 것이다.
즉 HorRat 값 평가는 ‘이 농도라면 이 정도 산포가 정상’이라는 벤치마크를 제공한다. 그래서 AOAC INTERNATIONAL, EU 등 여러 기관이 화학 분석법의 정밀도 적합성 판정 기준으로 HorRat을 채택하고 있다.
Horwitz 식으로 예측 RSD 계산하기
Horwitz 식은 실험실 간 재현성 상대표준편차를 농도의 함수로 표현한다. 예측 재현성 상대표준편차는 PRSDR(%) = 2 × C^(-0.15)로 계산하며, 여기서 C는 질량분율로 나타낸 분석 농도다.
예를 들어 농도가 1 ppm이면 C = 1×10^(-6)이고, 이를 대입하면 예측 RSDR은 약 16%가 된다. 농도가 100 ppm(C = 1×10^(-4))이면 예측 RSDR은 약 8%로 줄어든다.
핵심은 C를 반드시 질량분율(예: 1% = 0.01, 1 ppm = 10^(-6))로 환산해 넣어야 한다는 점이다. 단위를 잘못 넣으면 예측값 자체가 틀어져 이후 HorRat 값 평가가 모두 무의미해진다.
HorRat 값 평가 계산과 판정 기준
HorRat 값 평가의 계산은 단순하다. 실측한 재현성 상대표준편차(RSDR)를 앞서 구한 예측값(PRSDR)으로 나누면 된다. HorRat = RSDR(관측) ÷ PRSDR(예측)이다.
판정 기준은 출처마다 다소 폭이 있다. 다수 실험실 공동 검증에서는 경험적으로 0.5~2.0을 허용 범위로 보며, 일부 문헌은 0.5~1.5를 정상 범위로 제시한다.
HorRat이 1에 가까우면 실측 정밀도가 예측과 일치하는 것이고, 1보다 크면 기대보다 산포가 크다는 뜻이다. 반대로 0.5보다 작으면 예측보다 지나치게 정밀한 경우로, 데이터가 실제보다 좋게 나온 것은 아닌지 확인이 필요하다. 이렇게 상한과 하한을 함께 보는 것이 HorRat 값 평가의 기본이다.
반복성과 재현성 — HorRat_r과 HorRat_R 구분
HorRat은 원래 실험실 간 재현성(Reproducibility)을 대상으로 만든 지표다. 단일 실험실 내부 데이터로 계산할 때는 이 점을 유의해야 한다.
한 실험실 안에서 얻는 반복성(repeatability) 상대표준편차는 재현성보다 작기 때문에, 그대로 재현성 예측값과 비교하면 HorRat이 과소평가된다. 실무에서는 반복성 예측값을 재현성 예측값의 약 0.66배로 잡는 관행이 있으며, 이를 HorRat_r로 구분해 표기한다.
따라서 자신의 데이터가 반복성인지 재현성인지 먼저 확정하고, 그에 맞는 예측값으로 나눠야 한다. 이 구분을 놓치면 단일 실험실의 HorRat 값 평가 결과를 과신하게 된다.
HorRat 값이 벗어날 때 원인 진단
HorRat이 허용 범위를 크게 벗어나면 값 자체보다 원인 추적이 중요하다. HorRat이 2를 넘는 경우, 시료의 불균질, 전처리 편차, 분석자 숙련도 부족, 또는 정량한계 부근에서의 측정 등이 흔한 원인이다.
반대로 HorRat이 0.5 미만으로 지나치게 낮으면, 데이터 처리 과정에서 산포가 인위적으로 줄었거나 반복 측정의 독립성이 확보되지 않았을 가능성을 살펴야 한다. 최근 연구에서는 현대 기기분석의 발전으로 0.5 미만 값이 흔히 관찰되어, Horwitz 식의 적용 한계를 지적하는 견해도 있다.
또한 Horwitz 식은 농도가 매우 낮은 극미량 영역이나 매우 높은 영역에서는 잘 맞지 않는다. 그래서 HorRat 값 평가 결과는 단독 합격·불합격 판정보다, 정밀도가 상식적 범위에 있는지 점검하는 참고 지표로 다루는 것이 안전하다.
관련해서 표준편차와 상대표준편차(RSD) — 정밀도를 수치로 표현하기 글도 참고할 만하다.
정리 — HorRat 값 평가 체크포인트
HorRat 값 평가는 다음 순서로 정리된다. 첫째, 분석 농도를 질량분율 C로 환산한다. 둘째, PRSDR = 2C^(-0.15)로 예측 상대표준편차를 구한다.
셋째, 실측 RSD를 예측값으로 나눠 HorRat을 산출한다. 넷째, 데이터가 반복성인지 재현성인지에 맞춰 0.5~2.0(또는 0.5~1.5) 기준으로 판정하고, 이탈 시 원인을 추적한다.
마지막으로 HorRat은 만능 판정 도구가 아니라 정밀도의 타당성을 가늠하는 벤치마크임을 기억한다. 극미량·고농도 영역과 단일 실험실 데이터에서는 해석에 신중을 기하고, 결과는 반드시 계산 근거와 함께 기록으로 남겨 추적성을 확보한다.
