검량선 외삽 위험성은 정량범위 밖의 신호를 직선식에 그대로 대입해 정량값을 산출할 때 오차가 정량 불가능하게 커지는 데 있다. 외삽 구간은 직선성이 검증되지 않았으므로 값의 신뢰를 보증할 수 없다. 정량범위를 이탈한 시료는 원칙적으로 희석 후 재분석하거나 정량범위 안으로 다시 들여와 처리해야 한다.
목차
검량선 외삽 위험성이 실무에서 문제 되는 이유
검량선은 표준물질로 만든 농도 구간, 즉 정량범위 안에서만 응답과 농도의 관계가 검증된 모델이다. 이 구간 밖으로 회귀식을 연장해 값을 읽는 것이 외삽이며, 검증되지 않은 영역에서 값을 산출한다는 점에서 검량선 외삽 위험성의 핵심이 여기에 있다.
외삽 구간은 직선성이나 모델 적합성이 확인되지 않았기 때문에 오차의 크기를 정량할 수 없다. 회귀선이 겉으로는 곧게 이어져 보여도 상한을 넘어서면 응답이 포화되거나 곡선으로 휘는 경우가 흔하다.
Eurachem 지침은 정량한계(LoQ)조차 외삽으로 정하지 말라고 명시하며, 회귀 계산만으로 직선성을 단정할 수 없고 잔차와 육안 검토가 필요하다고 본다. 즉 외삽으로 얻은 값은 불확도 예산에 반영조차 어려운, 근거가 빈 숫자가 된다.
정량범위와 외삽의 경계 — 무엇이 외삽인가
외삽에는 상한을 넘는 고농도 외삽과 하한(정량한계) 아래로 내려가는 저농도 외삽이 있다. 실무에서는 상한 초과가 눈에 잘 띄지만, 최저 표준점보다 낮은 신호를 직선식으로 계산하는 저농도 외삽도 똑같이 검량선 외삽 위험성에 해당한다.
경계를 판단하는 기준은 최고·최저 표준점의 농도이지 R²이 아니다. R²이 0.999라도 그것은 표준점들이 놓인 구간 안에서의 적합도일 뿐, 구간 밖의 거동을 보증하지 않는다.
따라서 보고 가능한 범위는 검량선의 양 끝점 사이로 한정하는 것이 원칙이다. 상한을 확장하려면 희석한 시료의 값이 정량범위 안의 값과 일치함을 입증해 참값을 증명한 뒤에만 허용된다.
검량선 외삽 위험성을 줄이는 시료 희석과 재분석
정량범위 상한을 넘은 시료의 표준 처리법은 희석 후 재분석이다. 신호가 정량범위 안으로 들어오도록 배수를 정해 희석하고, 산출값에 희석배수를 곱해 원 농도를 복원한다.
이때 희석 자체가 새로운 오차원이 되므로 배수는 과도하지 않게 정하고, 부피측정기구의 정확성과 희석 단계 수를 함께 관리해야 한다. 희석배수가 커질수록 오차가 누적되어 검량선 외삽 위험성을 피하려다 정밀도를 잃는 역설이 생긴다.
하한 아래로 떨어진 시료는 희석으로 해결되지 않는다. 이 경우 농축, 주입량 증대, 더 민감한 조건으로의 전환을 검토하되, 부득이하면 정량한계 미만(<LoQ)으로 보고하고 외삽값을 산출하지 않는 것이 원칙이다.
정량범위 이탈 상한·하한별 처리 절차
먼저 이탈이 참인지 확인한다. 기기 이상, 오염, 입력 오류로 인한 겉보기 이탈을 배제하기 위해 바탕시료와 검량선 검증(CCV)을 함께 점검한다.
상한 초과가 확정되면 희석 재분석을 우선한다. 다만 검량선 자체를 고농도 표준점까지 확장해 재작성하는 방안도 있으며, 이 경우 확장 구간의 직선성과 잔차를 새로 검증해야 한다.
하한 미만이 확정되면 전처리 농축이나 감도 향상을 검토하고, 개선이 불가능하면 <LoQ로 보고한다. 어떤 경로를 택하든 이탈 사실, 취한 조치, 희석배수, 재분석 근거를 기록에 남겨 추적성을 확보한다.
병행성 확인과 매트릭스 점검
희석으로 시료를 정량범위 안에 들여왔다고 해서 값의 정확성이 자동으로 보장되지는 않는다. 희석계열의 응답이 표준곡선과 같은 기울기로 겹치는지, 즉 병행성(parallelism)을 확인해야 한다.
병행성이 깨지면 매트릭스 효과나 간섭이 개입한 신호로 보아야 하며, 이때는 표준첨가법이나 내부표준물질로 보정 경로를 바꾸는 편이 안전하다. 매트릭스가 심한 시료일수록 검량선 외삽 위험성과 매트릭스 오차가 겹쳐 값이 크게 왜곡될 수 있다.
회수율 시험이나 첨가시료로 희석 후에도 참값 근처가 회복되는지 점검하면 처리의 타당성을 뒷받침할 수 있다. 이 확인 과정을 생략하면 외삽을 피했더라도 결국 편향된 값을 보고하게 된다.
관련해서 측정 정량범위(Working Range) 설정과 검증 글도 참고할 만하다.
정리 — 실무 체크포인트
검량선 외삽 위험성은 정량범위 밖의 신호를 직선식에 대입하는 순간 오차를 정량할 수 없게 된다는 데 있으므로, 보고값은 언제나 최고·최저 표준점 사이로 한정한다.
상한 초과는 희석 재분석 또는 검증된 구간 확장으로, 하한 미만은 농축·감도 향상 또는 <LoQ 보고로 처리한다. 희석 시에는 배수에 따른 오차 누적과 병행성을 반드시 함께 확인한다.
마지막으로 이탈 여부의 진위 확인, 조치 내용, 희석배수, 재분석 근거를 기록에 남긴다. 이렇게 하면 검량선 외삽 위험성을 회피하면서도 정량범위 이탈 시료를 방어 가능한 절차로 처리했음을 문서로 증명할 수 있다.
