방법검출한계 산정은 첨가농도와 배치를 정하는 반복측정 설계, 표본표준편차 계산, 자유도 n−1의 단측 99% t값 적용, 주기적 재검증의 네 단계로 완결된다. 7개 이상의 첨가시료와 공시험을 서로 다른 날짜·3개 이상 배치로 나누어 측정한 뒤, 표준편차에 t값 3.143을 곱해 값을 얻고 첨가농도가 산출 MDL의 2~10배 범위인지 역으로 검증한다. 산정값은 13개월 주기 재산정과 분기 검증으로 유지되며, 감도에 영향을 주는 변경이 있으면 주기 전이라도 다시 산정한다.
목차
방법검출한계 산정의 정의와 적용 범위
방법검출한계(MDL)는 분석 대상 물질이 존재한다고 99% 신뢰수준에서 말할 수 있는 최소 측정 농도다. 미국 EPA는 40 CFR Part 136 부속서 B(Revision 2)에서 MDL을 측정 농도가 공시험 결과와 구별된다고 99% 신뢰도로 보고할 수 있는 최소 농도로 정의한다.
중요한 점은 MDL이 검출 가능성의 한계이지 정량 신뢰성의 한계가 아니라는 것이다. MDL 근처 값은 검출 여부 판단에는 쓰이지만 정량값으로 보고하기에는 불확도가 크다. 정량한계(LOQ)는 별도로 산정해 보고 하한으로 쓴다.
국내에서는 수질오염공정시험기준 등 공정시험기준 총칙이 7개 시험용액의 반복측정 표준편차에 t분포값 3.14를 곱해 MDL을, 10을 곱해 정량한계를 구하도록 규정한다. EPA 절차와 계수의 통계적 근거는 같지만 공시험 시료 요건과 재검증 주기에서 차이가 있으므로, 어느 기준을 적용하는지 방법서에 명시해야 한다.
ISO/IEC 17025 관점에서 MDL은 방법 유효성 확인 기록에 해당한다. 산출 근거가 된 원자료와 계산 과정이 그대로 감사추적 가능해야 하며, 결과 수치만 남은 산정서는 부적합 지적 대상이 된다.
1단계: 반복측정 설계 — 첨가농도와 시료 개수
첨가농도가 산정 품질을 좌우한다. EPA Revision 2는 추정 MDL의 2~10배를 첨가 수준으로 제시한다. 너무 높으면 상대표준편차가 작아져 MDL이 비현실적으로 낮게 나오고, 너무 낮으면 일부 시료가 미검출돼 표준편차가 왜곡된다.
추정 MDL은 검량선 최저점, 기기 신호대잡음비(S/N 약 3), 또는 직전 산정값에서 잡는다. 예를 들어 추정 MDL이 0.5 µg/L이면 첨가농도 후보는 1~5 µg/L이며, 실무에서는 중간 수준인 2 µg/L를 쓴다.
시료 개수는 최소 7개다. EPA는 첨가시료 7개와 공시험 7개를 요구하고, 서로 다른 날짜에 걸쳐 최소 3개 배치로 나누어 분석하도록 한다. 하루에 연속 7회 측정하면 일 내 반복성만 반영돼 실제 운영 변동을 과소평가한다.
전처리를 건너뛰고 표준액만 7회 주입하는 것은 기기검출한계(IDL) 산정이지 MDL이 아니다. 용기 준비부터 추출·농축·희석까지 실제 시료와 동일한 전 과정을 거쳐야 한다.
반복측정 설계 절차
- 추정 MDL 확보
검량선 최저점 또는 S/N 약 3 - 첨가농도 결정
추정 MDL의 2~10배 - 시료 준비
첨가시료 7개, 공시험 7개 - 배치 분산
서로 다른 날짜, 3개 이상 배치 - 전처리 포함
용기 준비부터 희석까지 전 과정
2단계: 표준편차 계산과 입력 예시
표준편차는 n−1로 나누는 표본표준편차(엑셀 STDEV.S)를 쓴다. 모표준편차(STDEV.P)를 쓰면 값이 작아져 MDL이 과소 산정된다.
따라 할 수 있는 입력 예시는 다음과 같다. 첨가농도 2 µg/L에서 측정값 7개가 1.82, 2.05, 1.94, 2.11, 1.88, 2.02, 1.97 µg/L라고 하자. 평균은 1.97 µg/L, 편차제곱합은 0.0600, 자유도는 6이므로 표준편차는 √(0.0600/6) = 0.10 µg/L이다.
흔한 오류는 두 가지다. 첫째, 측정값을 보고용 유효숫자로 반올림한 뒤 계산해 표준편차가 실제보다 작아지는 경우다. 원자료의 전체 자릿수로 계산하고 최종 MDL만 반올림한다.
둘째, 눈에 거슬리는 값을 임의로 제외하는 경우다. EPA 절차는 문서화된 명백한 실패(gross failure)만 제외를 허용하며, 제외 후에도 첨가시료 7개와 공시험 7개가 남아 있어야 한다. 제외로 7개 미만이 되면 추가 측정으로 개수를 채운다.
공시험에서 수치가 나오는 항목은 공시험 기반 값도 함께 계산한다. 공시험 평균에 t값과 공시험 표준편차의 곱을 더한 값이며, 최종 MDL은 첨가시료 기반 값과 공시험 기반 값 중 큰 쪽을 택한다.
표준편차 계산 입력 예시
| 구분 | 값 |
|---|---|
| 반복수 | 7개 |
| 첨가농도 | 2 µg/L |
| 평균 | 1.97 µg/L |
| 편차제곱합 | 0.0600 |
| 자유도 | 6 |
| 표본표준편차 | 0.10 µg/L |
3단계: t값 적용과 정량한계 연계
t값은 단측 99% 신뢰수준에서 자유도 n−1로 읽는다. n=7이면 자유도 6에서 3.143이고, 국내 공정시험기준이 쓰는 3.14와 같은 값이다.
앞의 예시를 대입하면 MDL = 3.143 × 0.10 = 0.31 µg/L다. 정량한계는 같은 표준편차에 10을 곱해 1.0 µg/L가 된다.
검증 단계가 하나 남았다. 첨가농도를 산출된 MDL로 나눠 2~10배 범위에 들어오는지 확인한다. 예시는 2 ÷ 0.31 ≈ 6.4배로 범위 안이다. 이 비가 10배를 넘으면 첨가농도를 낮춰 재산정하고, 2배 미만이면 첨가농도를 올려 다시 측정한다.
반복수를 늘리면 t값은 작아진다. 자유도 7(n=8)은 2.998, 자유도 9(n=10)는 2.821이다. 다만 반복수를 늘리는 목적은 t값을 낮춰 MDL을 작게 만드는 것이 아니라 표준편차 추정을 안정시키는 것이다. 더 낮은 MDL을 얻을 의도로 조건을 바꾸고 유리한 회차만 채택하면 데이터 무결성 위반으로 해석된다.
반복수별 t값(단측 99%)
| 반복수 n | 자유도 | t값 |
|---|---|---|
| 7 | 6 | 3.143 |
| 8 | 7 | 2.998 |
| 10 | 9 | 2.821 |
※ 국내 공정시험기준의 3.14와 같은 값이다
4단계: 연차 재검증과 분기 검증 주기
MDL은 한 번 정하고 끝나는 값이 아니다. EPA Revision 2는 13개월에 한 번 이상 재산정하고, 재산정에는 최근 24개월 데이터를 동일한 첨가 수준에서 사용하도록 한다.
분기 검증도 병행한다. 시료 분석이 이뤄진 분기마다 기기별로 최소 2개의 첨가시료를 가능하면 서로 다른 배치에서 분석해 축적한다. 이 데이터가 다음 연차 재산정의 입력이 된다.
재산정 결과가 기존 MDL보다 커지면 새 값으로 갱신한다. 반대로 작아졌을 때 즉시 낮추는 것은 신중해야 한다. 보고 하한이 내려가면 과거 불검출로 보고한 결과의 해석이 달라질 수 있으므로, 인하는 검량선 저농도 구간과 정량한계 검증을 함께 확인한 뒤 승인 절차를 거친다.
주기 도래 전이라도 재산정 사유가 되는 사건이 있다. 기기 교체, 검출기·컬럼 교환, 전처리 방법 변경, 시약 공급처 전환처럼 감도에 직접 영향을 주는 변경이다. 기기별로 감도가 다르므로 이중화 운영 중이면 기기마다 따로 산정한다.
한계와 예외도 명확히 해 둔다. 회수율이 낮거나 매트릭스 간섭이 큰 항목은 시약수 기반 MDL이 실제 시료에서 재현되지 않는다. 이런 항목은 대표 매트릭스에서 별도 산정하거나, 산정값이 시약수 기준임을 방법서에 명시한다.
관련해서 저농도 정도관리 한계 설정 4단계 — LOQ 근처 신뢰성 확보 글도 참고할 만하다.
방법검출한계 산정 체크포인트
방법검출한계 산정 결과를 승인하기 전에 설계부터 되짚는다. 첨가농도가 산출 MDL의 2~10배 범위인지, 첨가시료와 공시험이 각각 7개 이상인지, 3개 이상 배치와 서로 다른 날짜에 분산됐는지 확인한다.
계산 측면에서는 표본표준편차(n−1) 사용 여부, 원자료 자릿수 유지 여부, t값이 자유도 n−1의 단측 99% 값인지, 공시험 기반 값과 비교해 큰 쪽을 택했는지를 본다.
기록 측면에서는 원자료와 계산 시트, 승인자, 산정일이 남아야 하고 다음 재검증 예정일이 관리대장에 등록돼야 한다. MDL을 변경하면서 보고 하한과 LIMS 플래그 설정을 함께 갱신하지 않으면 현장에서는 예전 하한으로 계속 보고된다.
마지막으로 MDL은 이 농도부터 정량한다는 값이 아니다. 보고 하한은 정량한계이며, MDL과 정량한계 사이 구간은 검출·정량한계 미만으로 구분해 보고하는 규칙을 방법서에 명시한다.
산정 승인 전 점검
- ✓첨가농도가 산출 MDL의 2~10배
- ✓첨가시료·공시험 각 7개 이상
- ✓3개 이상 배치, 서로 다른 날짜
- ✓표본표준편차(n−1)로 계산
- ✓공시험 기반 값과 비교해 큰 값 채택
- ✓재검증 예정일 관리대장 등록