정량범위 판정은 기기 신호 대 노이즈 비(S/N)를 근거로 저농도 영역의 측정 신뢰성을 확정하는 절차다. ICH Q2(R2)는 검출한계를 S/N 약 3:1, 정량한계를 약 10:1로 제시하며, 정량범위 하한은 정확도와 정밀도가 확보되는 농도로 규정한다. 노이즈 정의, S/N 산출, LOQ 검증, 저농도 시료 보고의 4단계로 나누어 실무 판단 기준을 세운다.
목차
정량범위 판정이 저농도 신뢰성을 좌우하는 이유
저농도 영역에서는 목적 성분의 신호가 기기의 바탕 노이즈에 근접하기 때문에, 측정값이 실제 농도인지 배경 변동인지 구분하기 어렵다. 이 경계를 수치로 다루는 지표가 신호 대 노이즈 비(S/N)다.
S/N은 목적 신호의 크기를 바탕 노이즈의 크기로 나눈 값으로, 값이 클수록 신호가 노이즈 위로 뚜렷하게 드러난다. ICH Q2(R2)는 검출한계(LOD)를 S/N 약 3:1, 정량한계(LOQ)를 약 10:1 수준으로 제시한다.
정량범위 판정은 이 S/N 지표를 근거로 정량 하한을 확정하고, 그 아래 구간의 결과를 어떻게 취급할지 규칙화하는 작업이다. 하한을 근거 없이 낮게 잡으면 노이즈를 농도로 보고하게 되고, 반대로 지나치게 높게 잡으면 유효한 저농도 시료를 버리게 된다.
1~2단계 — 노이즈 정의와 S/N 산출
1단계는 노이즈를 무엇으로 볼지 정의하는 일이다. 크로마토그래피에서는 피크가 없는 구간의 바탕선을 대상으로, 피크 앞뒤 일정 시간의 최대–최소 폭(peak-to-peak)이나 표준편차를 노이즈로 삼는다.
ASTM E685 방식은 대개 1분 길이의 바탕 구간 여러 곳을 취해 평균하며, 회귀선 잔차의 6배(6SD)를 노이즈로 환산하는 방법도 쓰인다. 노이즈 구간을 목적 피크 근처에서 일관되게 잡는 것이 재현성의 관건이다.
2단계는 저농도 표준물질을 반복 측정해 신호 높이를 구하고, 이를 노이즈로 나누어 S/N을 산출하는 단계다. S/N이 약 3:1에 이르는 농도를 검출한계, 약 10:1에 이르는 농도를 정량한계로 추정한다.
다만 실무에서는 매트릭스가 복잡하거나 바탕 변동이 큰 경우 LOQ 기준을 S/N 10~20:1로 강화해 적용하기도 한다. 산출값은 단회 측정이 아니라 여러 회 반복으로 안정성을 확인한 뒤 확정한다.
정량범위 판정 3단계 — LOQ에서 정확도·정밀도 확인
S/N으로 추정한 LOQ는 아직 후보값일 뿐이며, 실제 정량이 가능한지 검증해야 정량범위 판정이 완결된다. 3단계는 추정 LOQ 농도의 시료를 반복 측정해 정확도와 정밀도를 확인하는 단계다.
LOQ는 허용 가능한 정확도와 정밀도로 정량할 수 있는 최저 농도로 정의되며, 일반적으로 이 농도의 반복측정 상대표준편차(%RSD)가 10% 이내일 것을 요구한다. 회수율도 함께 확인해 편향이 없는지 점검한다.
검증 결과가 기준을 만족하면 그 농도를 정량범위의 하한으로 확정한다. 만족하지 못하면 LOQ 후보를 한 단계 높은 농도로 올려 재검증하며, 이 반복이 곧 정량범위 판정의 핵심 절차다.
확정된 하한은 검량선의 최저 표준점, 정도관리(QC) 저농도 관리시료의 농도 설정과도 연결되므로 문서에 근거와 함께 남긴다.
4단계 — 저농도 시료 판정과 보고
4단계는 확정된 정량범위를 실제 시료 결과에 적용해 판정과 보고 규칙을 세우는 단계다. LOQ 이상 값은 수치로 보고하고, LOD 이상 LOQ 미만은 ‘검출되었으나 정량 불가’ 구간으로 구분한다.
LOD 미만은 ‘검출한계 미만’ 또는 불검출로 처리하며, 단순히 0으로 기재하지 않는다. 보고서에는 적용한 LOD·LOQ 값과 그 근거가 된 S/N 기준을 함께 제시해 판정의 소급성을 확보한다.
저농도 시료가 정량범위 하한 부근에 몰릴 때는 희석 배수를 줄이거나 농축 전처리를 검토해 신호를 노이즈 위로 끌어올린다. 이런 대응 이력과 판정 근거를 기록으로 남기면, 사후 감사에서도 저농도 결과의 신뢰성을 방어할 수 있다.
관련해서 측정 정량범위(Working Range) 설정과 검증 글도 참고할 만하다.
정리 — 정량범위 판정 체크포인트
저농도 신뢰성은 감이 아니라 S/N이라는 수치와 그에 기반한 정량범위 판정 절차로 확보된다. 노이즈 정의 → S/N 산출 → LOQ 검증 → 저농도 보고의 4단계가 하나로 이어져야 한다.
핵심 점검 항목은 다음과 같다. 노이즈 구간과 산출 방식을 일관되게 정의했는가, LOD는 S/N 약 3:1·LOQ는 약 10:1 기준을 명시했는가, LOQ 농도에서 %RSD와 회수율로 정확도·정밀도를 확인했는가, LOD·LOQ 미만 결과의 보고 규칙을 문서화했는가.
이 네 가지가 갖춰지면 저농도 결과에 대한 판정이 일관되고 방어 가능해진다. 기준값과 근거를 정기적으로 재검토해 기기 상태 변화나 매트릭스 변경을 정량범위 판정에 반영하는 것으로 마무리한다.
