정도관리 음수값은 내부 통계(관리도, 공시험 추이, 검출한계 계산)에는 측정된 숫자 그대로 포함하고, 고객 보고서에서는 방법서와 보고 규칙에 따라 '정량한계 미만' 같은 표기로 바꾸는 것이 기본 원칙이다. 음수를 0으로 바꾸거나 제외하면 평균과 표준편차가 달라져 관리한계와 검출한계가 왜곡될 수 있다. 다만 피크가 아예 없는 불검출(ND)은 숫자가 아니므로 음수와 구분해 다룬다.
목차
정도관리 음수값, 내부 기록에는 남기고 보고서에서는 규칙대로 바꾼다
결론부터 말하면 공시험이나 저농도 QC에서 나온 음수값은 버리지 않고 원자료와 내부 통계에 그대로 포함한다. 음수는 측정의 우연오차가 0 근처에서 아래쪽으로 나타난 정상적인 결과이고, 이를 지우면 통계가 한쪽으로 쏠린다.
반면 고객에게 내보내는 시험성적서에서는 '-0.3 mg/L' 같은 음의 농도를 그대로 쓰지 않는 경우가 대부분이다. 이때는 시험방법서나 실험실 보고 규칙이 정한 대로 '정량한계(LOQ, 신뢰할 만한 정밀도로 수치를 매길 수 있는 최저 농도) 미만' 또는 '불검출'로 표기한다.
이 원칙은 연속된 숫자로 결과가 나오는 화학 분석(크로마토그래피, 분광, 전극 측정 등)을 기준으로 한다. 집락 계수나 양성/음성 판정처럼 결과가 연속값이 아닌 시험에는 해당하지 않는다.
용도별 음수값 처리 원칙
| 용도 | 음수값 처리 | 이유 |
|---|---|---|
| 원자료 기록·LIMS | 측정값 그대로 보존 | 재계산·감사 추적 |
| 관리도·공시험 추이 | 그대로 포함 | 평균·표준편차 왜곡 방지 |
| 검출한계(MDL) 계산 | 그대로 포함 | 검출한계 과소평가 방지 |
| 고객 시험성적서 | <LOQ·불검출 등으로 변환 | 방법서·보고 규칙 따름 |
| 불검출(ND, 피크 없음) | 숫자로 채우지 않음 | 수치 결과가 아님 |
측정값에 음수가 나오는 이유
기기는 시료 신호에서 바탕 신호를 빼고 검량선으로 농도를 환산한다. 실제 농도가 0이거나 0에 가까우면 바탕 신호와 시료 신호의 차이는 잡음 수준이 되고, 그 차이는 양수와 음수로 고르게 흩어진다.
검량선 절편도 원인이 된다. 검량선(농도와 신호의 관계식)의 절편이 양수로 잡히면 신호가 아주 작은 시료는 계산상 음의 농도가 나온다. 공시험값 차감 후 시료값이 공시험보다 낮게 측정된 경우도 같은 결과를 낸다.
따라서 음수 하나만으로 기기 이상이나 오류를 뜻하지는 않는다. 다만 음수가 반복해서 크게 나오거나 한 방향으로 쌓이면 바탕선 설정, 공시험 오염, 검량선 절편 문제를 의심하는 신호가 된다.
정도관리 음수값을 0으로 바꾸면 생기는 왜곡
음수를 0으로 바꾸는 처리를 흔히 '절삭' 또는 '0 처리'라고 한다. 겉보기에는 무해해 보이지만 평균은 올리고 흩어짐은 줄여, 통계가 실제와 다른 그림을 그린다.
가상의 예시로 같은 날 이틀에 걸쳐 측정한 공시험 7개가 -0.4, -0.1, 0.2, 0.3, -0.2, 0.1, 0.5 µg/L였다고 하자. 그대로 계산하면 합계 0.4, 평균 약 0.06, 표준편차 약 0.31이다. 음수 세 개를 0으로 바꾸면 합계 1.1, 평균 약 0.16, 표준편차 약 0.19가 된다.
이 값으로 '평균 + t × 표준편차'(자유도 6, 단측 99% t값 3.143) 형태의 공시험 기반 검출한계를 구하면 원자료는 약 0.057 + 3.143 × 0.310 ≈ 1.03 µg/L, 0 처리한 자료는 약 0.157 + 3.143 × 0.190 ≈ 0.75 µg/L이다. 0 처리만으로 검출한계가 약 4분의 1 낮게 잡혀, 실제로는 구분되지 않는 농도를 '검출'로 판정할 위험이 생긴다.
관리도에서도 같은 일이 일어난다. 표준편차가 작아지면 관리한계가 좁아지고, 평균이 올라가면 중심선이 위로 이동해 이후의 정상 데이터가 아래쪽 한계 근처에서 부적합처럼 보일 수 있다.
0 처리 전후 통계 비교
| 항목 | 원자료 | 0 처리 후 |
|---|---|---|
| 평균(µg/L) | 약 0.06 | 약 0.16 |
| 표준편차(µg/L) | 약 0.31 | 약 0.19 |
| 공시험 기반 검출한계(µg/L) | 약 1.03 | 약 0.75 |
※ 공시험 7개 가상의 예시, t값 3.143(자유도 6, 단측 99%) 적용
미국 EPA MDL 절차는 음수 공시험값을 어떻게 다루나
참고할 만한 공식 절차로 미국 연방규정 40 CFR Part 136 부록 B(방법검출한계 정의와 절차, Revision 2)가 있다. 이 부록은 미국 수질오염 규제(Clean Water Act)에 쓰이는 시험방법에 적용되며, 연속 분포를 갖는 결과를 내는 방법이 대상이다. 독성시험, 존재/부재 시험, 집락 계수 같은 미생물 시험에는 적용하지 않는다고 명시한다.
이 부록은 최소 7개의 첨가 시료와 7개의 방법바탕시료를 3개 이상의 배치로 나누어 서로 다른 날에 처리·분석하도록 한다. 모든 바탕시료가 수치 결과를 낸 경우 공시험 기반 검출한계(MDLb)를 '평균 + t × 표준편차'로 구하고, 평균이 음수일 때만 평균 자리에 0을 쓰도록 한다. 개별 음수값을 지우라는 규정이 아니라 계산을 마친 평균이 음수일 때만 0으로 바꾸라는 것이어서, 개별 음수는 계산에 그대로 들어가는 것으로 읽힌다.
일부 바탕시료만 수치 결과를 내고 나머지가 불검출이면 MDLb를 가장 높은 바탕시료 결과로 정하고, 어느 바탕시료도 수치 결과를 내지 않으면 MDLb를 적용하지 않는다. 국내 공정시험기준이나 다른 분야 기준이 이와 같은 방식을 택하는지는 해당 기준 원문에서 확인한다.
방사능 분석 분야의 다기관 지침인 MARLAP도 결과를 양수·음수·0을 가리지 않고 얻은 그대로 불확도와 함께 보고할 것을 권고하고, 음수나 0 근처 결과를 잘라 내는 처리는 권하지 않는다. 이 분야는 저준위 결과를 평균 내는 일이 많아 절삭 편향이 특히 문제가 되기 때문이다.
고객 보고서에는 어떻게 표기하나
내부 통계와 외부 보고는 목적이 다르다. 내부 통계는 측정 과정의 성능을 정확히 보기 위한 것이고, 외부 보고는 고객이 결과를 오해 없이 판단하게 하기 위한 것이다.
그래서 일반적인 화학 분석 보고서에서는 음의 계산값을 정량한계 또는 검출한계와 비교해 '<LOQ', '<0.5 mg/L', '불검출' 같은 형식으로 바꾼다. 어떤 표기를 쓸지, 한계값을 함께 적을지는 시험방법서, 규제 기준, 고객과의 계약에서 정한다.
중요한 것은 보고용 변환이 원자료를 덮어쓰지 않아야 한다는 점이다. LIMS나 기록지에는 계산된 원래 수치(음수 포함)를 남기고, 보고값 필드를 따로 두어 변환 결과를 저장해야 나중에 재계산과 감사 추적이 가능하다.
방사능 분석처럼 고객이 음수를 포함한 원래 값과 불확도를 요구하는 분야도 있다. 이때는 음수를 그대로 보고하는 것이 오히려 규칙에 맞는 처리이므로, 분야별 보고 관행을 먼저 확인한다.
음수 계산값의 보고 처리 순서
- 원자료 보존
계산된 음수값을 LIMS 원자료 필드에 그대로 저장 - ND 구분
피크 없음 등 수치가 없는 결과는 별도로 표시 - 한계값 비교
계산값을 정량한계·검출한계와 비교 - 보고 표기
방법서·계약이 정한 <LOQ·불검출 형식으로 보고값 작성
흔히 틀리는 지점과 이 설명이 맞지 않는 경우
첫째, 불검출(ND)과 음수를 같은 것으로 취급하는 실수다. 크로마토그램에서 피크 자체가 없어 숫자가 나오지 않은 결과는 음수가 아니라 수치가 없는 결과이며, 0이나 음수로 채워 넣어 통계에 넣으면 안 된다.
둘째, 공시험 차감 뒤의 음수를 다시 0으로 맞추고 그 값으로 회수율이나 평균을 계산하는 경우다. 저농도 시료를 여러 번 평균 내는 모니터링 자료에서는 이런 처리가 쌓여 평균이 체계적으로 높아진다.
셋째, 음수가 크게 반복되는데 '어차피 보고서에서는 미만으로 나간다'며 넘기는 경우다. 공시험보다 시료가 체계적으로 낮게 나온다면 공시험 오염, 바탕선 설정 오류, 검량선 절편 문제 같은 원인을 조사해야 한다.
넷째, 이 글의 원칙이 맞지 않는 경우도 있다. 시험방법서가 음수 처리 방법을 따로 정해 두었다면(예: 공시험 차감 결과가 음수면 0으로 기록) 그 규정을 따르고, 그 처리가 통계에 주는 영향은 별도로 기록해 둔다. 양성/음성 판정, 계수형 시험처럼 결과가 연속값이 아닌 방법에는 이 논의 자체가 해당하지 않는다.
이어서 읽을 글: 공시험값 보정 적용 기준 4단계 — 방법서·배치·차감·음수 처리
방법서와 품질매뉴얼에서 음수 처리 규정부터 확인하기
실무에서 바로 확인할 것은 세 곳이다. 시험방법서에 공시험 차감과 음수 처리 규정이 있는지, 실험실 품질매뉴얼이나 데이터 처리 절차서에 내부 통계용 값과 보고값을 구분하는 규칙이 있는지, LIMS가 음수를 자동으로 0으로 바꾸거나 잘라 내고 있지 않은지다.
특히 LIMS나 엑셀 서식이 입력 단계에서 음수를 0으로 바꾸도록 설정되어 있으면, 담당자가 모르는 사이에 관리도와 검출한계 계산이 모두 절삭된 자료로 이루어진다. 설정을 확인하고 원자료 필드와 보고값 필드를 분리하는 것이 첫 조치다.
규정이 없다면 '원자료는 측정값 그대로 보존하고 통계에 포함, 보고값은 정량한계 기준으로 변환'이라는 원칙을 절차서에 명문화하고, 이미 0 처리된 과거 자료로 계산한 관리한계와 검출한계가 있다면 원자료로 다시 계산해 차이를 비교한다.
음수 처리 규정 점검 항목
- ✓시험방법서에 공시험 차감·음수 처리 규정이 있는가
- ✓원자료 필드와 보고값 필드가 분리되어 있는가
- ✓LIMS·엑셀이 음수를 자동으로 0 처리하지 않는가
- ✓관리도·MDL 계산에 원래 음수가 포함되는가
- ✓과거 0 처리 자료로 만든 한계값을 재계산했는가