검량선 가중회귀는 농도별 응답 분산에 맞는 가중치를 선택하고, 저농도 역산 편차와 독립 QC 성능으로 검증한다. 동일한 데이터와 회귀 조건에서 무가중·1/x·1/x²를 비교한 뒤, 전체 범위의 정확도와 정밀도를 확인해 모델을 고정한다. R²가 높거나 최저 표준의 편차가 작다는 이유만으로 가중치를 확정하지 않는다.
목차
검량선 가중회귀 선택 전: 비교 대상과 판정 기준을 고정한다
이 절차는 농도 x와 응답 y의 관계를 직선식 y=a+bx로 표현할 수 있는 검량선을 대상으로 한다. a는 절편, b는 기울기이며, 응답은 분석물질 신호 또는 방법서에서 정한 내부표준 대비 응답비이다.
가중회귀는 각 관측값이 회귀계수에 미치는 영향을 조절한다. 농도에 따라 응답 분산이 달라지는 경우 분산의 역수에 비례하는 가중치가 통계적 근거가 되지만, 실제 분산을 추정해 사용한다는 한계가 있다. NIST 가중최소제곱 회귀 설명에 이 원리와 제한이 제시되어 있다.
비교 전에 사용 범위, 최저 정량수준, 표준별 역산 편차 한계, 독립 QC의 편차·정밀도 한계와 경계값 처리 규칙을 문서화한다. 동일한 원자료, 농도 단위, 응답 정의와 절편 조건에서 가중치만 바꿔 비교해야 선택 근거가 명확해진다.
허용기준은 해당 시험방법과 사용 목적에서 가져온다. ICH M10의 크로마토그래피 기반 생체시료 분석에서는 교정표준 역산 농도의 정확도를 최저정량한계에서 명목농도 대비 ±20%, 나머지 수준에서 ±15%로 평가하지만, 이를 환경·식품·재료 시험에 그대로 적용하지 않는다. 해당 수치는 ICH M10의 3.2.4절의 적용 맥락 안에서 사용한다.
1단계 — 농도별 반복 데이터로 분산 구조를 확인한다
검량 범위 전체에서 농도별 반복 응답을 확보하고, 저농도 구간에는 실제 보고 범위의 하단을 포함한다. 동일 용액의 반복 주입은 기기 반복성을, 독립 조제와 날짜를 달리한 측정은 조제·운영 변동을 평가하므로 데이터에 반복 유형을 구분해 기록한다.
입력 항목은 측정일, 배치, 표준액 식별자, 명목농도 x, 개별 응답 y, 반복 유형과 제외 사유로 구성한다. 농도별 응답 평균, 표준편차와 분산을 계산하되, 평균값만 남기고 개별 응답을 덮어쓰지 않는다.
응답 분산이 대체로 일정하면 무가중, 분산이 x에 비례하면 1/x, 분산이 x²에 비례하면 1/x²가 후보가 된다. 이는 분산 역수 원리에서 도출한 대응이며, 응답이 농도에 거의 비례하는 조건에서 일정한 응답 CV는 1/x² 후보를 검토할 근거가 된다.
적은 반복수에서 얻은 표본분산의 역수를 곧바로 가중치로 쓰면 우연히 작은 분산이 나온 수준에 과도한 영향력이 생길 수 있다. NIST도 이 문제를 설명하므로, 농도별 분산의 전체 경향과 추가 배치에서의 재현성을 함께 확인한다. NIST 비일정 분산의 처리를 근거로 삼되, 반복수가 부족한 상태에서는 분산 형태를 확정하지 않는다.
응답 분산과 가중치 후보
| 응답 분산 경향 | 회귀 후보 | 확인 사항 |
|---|---|---|
| 대체로 일정 | 무가중 | 저농도 역산 편차 |
| 농도에 비례 | 1/x | 분산 경향 재현성 |
| 농도 제곱에 비례 | 1/x² | 최저 표준 영향 |
2단계 — 검량선 가중회귀 세 후보를 같은 조건에서 계산한다
각 후보는 Σwᵢ[yᵢ−(a+bxᵢ)]²를 최소화하도록 적합한다. 무가중은 wᵢ=1, 1/x는 wᵢ=1/xᵢ, 1/x²는 wᵢ=1/xᵢ²이며, 여기서 xᵢ는 역산 농도가 아닌 교정표준의 명목농도이다.
회귀 프로그램의 가중치 입력 정의를 먼저 확인한다. 목적함수에 직접 곱하는 w를 받는 프로그램과 표준편차 또는 다른 형태의 값을 받는 프로그램은 같은 숫자를 입력해도 결과가 달라질 수 있다.
절편을 자유롭게 추정하는 조건과 원점 통과 조건도 구분한다. 저농도 편차를 줄이기 위해 가중치와 절편 조건을 동시에 바꾸면 어느 변경이 결과를 개선했는지 판단하기 어려우므로, 원점 통과는 별도의 방법 검증 근거가 있을 때 검토한다.
후보마다 기울기, 절편, 원응답 잔차 rᵢ=yᵢ−(a+bxᵢ)와 가중잔차 √wᵢ·rᵢ를 저장한다. 가중회귀의 잔차 진단에는 가중잔차를 사용한다는 설명이 NIST 비일정 분산의 처리에 제시되어 있다.
가중잔차의 농도별 퍼짐과 곡선 패턴을 확인하고, 원응답 잔차도 실제 신호 오차를 파악하는 데 사용한다. 가중치마다 목적함수와 R²의 정의·계산 방식이 달라질 수 있으므로, 서로 다른 후보의 R² 또는 가중 잔차제곱합 크기만으로 우열을 정하지 않는다.
동일 조건의 회귀 비교
- 입력 조건 고정
원자료·단위·응답·절편 조건을 통일한다. - 세 후보 적합
무가중·1/x·1/x²의 계수를 저장한다. - 잔차 확인
원응답 잔차와 가중잔차를 확인한다. - 역산 검증으로 연결
동일한 허용기준으로 농도별 편차를 비교한다.
3단계 — 저농도 역산 편차를 개별값과 독립 QC에서 판정한다
직선식의 역산 농도는 x̂ᵢ=(yᵢ−a)/b이며, 역산 편차는 100×(x̂ᵢ−xᵢ)/xᵢ로 계산한다. 양수는 과대평가, 음수는 과소평가를 뜻하며, 판정에는 반올림 전 계산값을 사용한다.
다음은 계산 절차를 설명하기 위한 가상 입력이며 실제 시험 결과가 아니다. 농도 단위를 mg/L로 통일하고 x=[1, 2, 5, 10, 20, 50], 대응 응답 y=[1.30, 2.20, 5.10, 9.80, 20.80, 48.00]을 입력해 절편을 자유롭게 추정한다.
계산 결과 무가중의 a와 b는 각각 약 0.482790과 0.957992, 1/x는 0.311139와 0.969695, 1/x²는 0.317371과 0.967753이다. 표에 표시한 편차는 표시용으로 반올림했으며, 재현 계산에는 회귀계수의 전체 정밀도를 사용한다.
설명용으로 모든 교정수준과 저농도 QC에 ±15%라는 사전 한계를 가정하면, 세 후보 모두 이 입력의 여섯 교정수준에서 한계 안에 든다. 최저 표준의 편차는 무가중 −14.70%, 1/x +1.98%, 1/x² +1.54%이므로, 최저 표준만 보면 1/x²가 가장 좋아 보인다.
추가로 회귀에 넣지 않은 명목농도 1 mg/L의 가상 QC 응답을 1.16으로 두면 편차는 무가중 −29.31%, 1/x −12.46%, 1/x² −12.93%이다. 이 예에서는 무가중이 QC 한계를 벗어나며, 최저 표준의 편차가 가장 작은 후보와 QC 편차가 가장 작은 후보도 일치하지 않는다.
평균 편차만 확인하면 양·음 편차가 상쇄될 수 있으므로 개별 반복값, 농도별 평균 편차, 정밀도와 최대 절대편차를 함께 검토한다. 이 가상 입력은 수준당 교정 응답과 QC가 각각 하나이므로, 분산 구조·정밀도 또는 최종 모델의 적합성을 검증하는 자료로 사용할 수 없다.
가상 데이터의 저농도 편차
| 회귀 후보 | 최저 표준 | 독립 저농도 QC | QC 판정 |
|---|---|---|---|
| 무가중 | −14.70% | −29.31% | 부적합 |
| 1/x | +1.98% | −12.46% | 한계 이내 |
| 1/x² | +1.54% | −12.93% | 한계 이내 |
※ 본문의 가상 입력과 설명용 ±15% 한계를 적용한 결과이다. 단일 QC 결과로 최종 모델을 승인하지 않는다.
4단계 — 독립 검증에서 재현성을 확인하고 모델을 고정한다
회귀에 사용하지 않은 QC를 저·중·고농도에 배치하고, 저농도는 실제 보고 하단을 포함하도록 설계한다. 가능한 경우 검량표준과 다른 원액 또는 독립 조제 경로를 사용하고, CRM을 사용할 때는 매트릭스·인증값의 적용 조건과 불확도를 확인한다.
후보 선택에 사용한 QC와 최종 확인용 데이터를 구분한다. 후보를 선택한 뒤 추가 독립 배치에서 편차와 정밀도를 확인해야 특정 데이터에만 잘 맞는 모델을 채택할 위험을 줄일 수 있다.
판정 순서는 사전 기준 충족 여부, 농도별 편향과 정밀도, 잔차 구조, 배치 간 재현성이다. 저농도 개선과 함께 중·고농도 성능도 유지되는 후보를 선택하고, 모두 기준을 충족하면 분산 구조와 검증 결과가 지지하는 모델을 채택한다.
ICH M10을 적용하는 크로마토그래피 기반 생체시료 분석에서는 회귀모델과 가중 방식 등을 방법 검증 중 결정하고, 여러 날에 걸친 최소 3개의 독립 런에서 검량선 자료를 보고하도록 한다. 이 요구는 해당 지침의 적용 대상에 한정하며, 다른 시험에서는 자체 방법서의 검증 설계를 따른다. ICH M10의 3.2.4절에 근거한다.
채택 기록에는 사용 범위, 가중식, 절편 조건, 응답 정의, 데이터 포함 규칙, 허용기준, 계산 프로그램 버전과 검토자를 남긴다. 최초 계산과 후보별 결과를 보존하고, 운영 배치가 실패할 때마다 가중치를 바꾸는 방식은 중단한다.
실패와 예외 — 영농도·이상점·곡률은 별도로 처리한다
x=0에는 1/x와 1/x²가 정의되지 않는다. 계산 오류를 피하려고 공시험 농도를 임의의 작은 양수로 바꾸면 모델이 달라지므로, 공시험의 역할과 회귀 포함 여부를 방법서에 명시한다.
ICH M10의 크로마토그래피 기반 검량선에서는 공시험과 내부표준만 첨가한 영시료를 회귀식 산정에 포함하지 않는다. 다른 시험법에서 영농도 교정점을 요구한다면 해당 방법의 모델과 가중치 정의를 별도로 검증한다. 이 제외 규칙의 출처는 ICH M10의 3.2.4절이다.
1/x²는 저농도 관측의 상대적 영향력을 크게 높이므로, 최저 표준의 조제 오류나 오염이 전체 회귀를 좌우할 수 있다. 가중회귀가 이상점의 영향을 오히려 키울 수 있다는 제한은 NIST 가중최소제곱 회귀 설명에 제시되어 있다.
저농도에서만 편차가 커지면 원자료의 피크 적분, 공시험 신호, 표준 조제, 내부표준 응답과 주입 순서를 조사한다. 확인된 원인에 따라 재조제·재측정을 수행하고, 원인과 처리 전후 결과를 남긴 뒤 사전 절차에 따라 회귀를 다시 평가한다.
모든 후보에서 체계적인 곡률이 남으면 가중치 변경만으로 해결하려 하지 않는다. 검량 범위 축소, 고농도 희석, 검출기 포화 또는 다른 회귀모델의 필요성을 조사하고 별도 검증한다.
명목농도가 0이면 상대 편차도 계산할 수 없으므로 공시험 응답 등 목적에 맞는 별도 기준을 사용한다. 양의 저농도에서 상대 편차가 불안정하더라도 절대 농도 차이를 사후 대체 기준으로 도입하지 않으며, 범위 밖 역산값을 그대로 정량 보고하지 않는다.
관련해서 표준액 QC 독립성 검증 4단계 — 동일 원액 공통 오류 차단 글도 참고할 만하다.
정리 — 검량선 가중회귀 승인 체크포인트
검량선 가중회귀의 승인 근거는 농도별 분산, 동일 조건의 후보 비교, 개별 역산 편차와 독립 검증 결과가 연결된 기록이다. 예시처럼 교정표준이 모두 한계 안에 있어도 독립 저농도 QC는 실패할 수 있으므로, 검량선 내부 적합성과 실제 시료 정량 성능을 함께 확인한다.
최종 문서에는 선택한 후보의 장점뿐 아니라 탈락 후보의 실패 농도와 실패 유형도 기록한다. 후보 간 차이가 작거나 검증 자료가 부족하면 우열을 단정하지 않고, 판단에 필요한 추가 농도 또는 배치를 확보한다.
운영 중 저농도 편향이 지속되거나 검량 범위·전처리·응답 정의가 변경되면 영향평가를 거쳐 모델 재검증 여부를 결정한다. 변경 전후 원자료와 계산 결과를 연결해 보존하고, 변경된 모델이 기존 보고값에 미치는 영향도 검토한다.
가중회귀 승인 전 확인
- ✓범위·역산 편차·QC 허용기준을 사전에 정한다.
- ✓농도별 반복 응답과 분산 경향을 확인한다.
- ✓동일 원자료·절편 조건에서 세 후보를 비교한다.
- ✓개별 역산 편차와 가중잔차를 검토한다.
- ✓독립 배치에서 저·중·고농도 QC를 검증한다.
- ✓선택 근거·원자료·변경 이력·검토자를 보존한다.