온도계 보정값은 성적서에 정의된 부호, 교정점, 사용 조건을 확인한 뒤 원표시값에 대수적으로 적용해야 한다. 측정점 사이 값은 승인된 보간 규칙이 있을 때만 계산하며 교정 범위 밖으로 외삽하지 않는다. 원표시값·보정값·보정 결과와 성적서 식별정보를 함께 남겨 계산 재현성과 감사추적성을 확보한다.
목차
온도계 보정값 적용 전 성적서 확인
교정성적서를 받으면 먼저 기기 식별번호, 센서와 표시기의 조합, 교정일, 성적서 번호와 개정 상태를 확인한다. 분리형 센서라면 같은 표시기에 다른 프로브를 연결한 결과에 기존 보정값을 그대로 적용할 수 있는지 검토해야 한다.
교정 결과가 조정 전 상태인 ‘입고 상태’인지, 조정 후 상태인 ‘출고 상태’인지도 구분한다. 조정 후 사용 중인 기기에 조정 전 보정값을 적용하면 이미 변경된 특성에 과거 값을 더하는 오류가 발생한다.
표의 기준 온도가 공칭 교정점인지 실제 기준온도인지, 기기 표시값과 오차·편차·보정값 가운데 무엇이 보고되었는지도 읽는다. 단위, 분해능, 침적 깊이, 안정화 조건, 사용한 채널과 교정 결과의 유효 범위를 작업절차서에 옮기기 전에 성적서 원문과 대조한다.
성적서 사전 확인
| 확인 항목 | 판단 기준 |
|---|---|
| 기기 식별 | 센서·표시기 조합 일치 |
| 결과 상태 | 조정 전·조정 후 구분 |
| 열 정의 | 표시값·기준값·오차 확인 |
| 사용 조건 | 단위·침적·채널 확인 |
1단계: 온도계 보정값 부호를 확정한다
성적서가 오차를 E = 표시값 I − 기준값 R로 정의했다면 보정값 C는 R − I이므로 C = −E이다. 최종 보정온도는 T보정 = I + C로 계산하며, NIST 온도계 교정 자료의 예시도 보정값을 표시값에 대수적으로 더하는 방식으로 제시한다.
예를 들어 오차가 +0.30 °C이면 온도계가 기준보다 0.30 °C 높게 표시한 것이므로 보정값은 −0.30 °C이다. 반대로 오차가 −0.20 °C이면 보정값은 +0.20 °C이며 표시값에 0.20 °C를 더한다.
다만 ‘편차’라는 열 이름만으로 부호를 추정해서는 안 된다. 성적서에 계산식이나 열 정의가 없으면 교정기관에 표시값−기준값인지 기준값−표시값인지 확인하고 그 회신을 성적서 검토 기록에 연결한다.
오차와 보정값 부호
| 성적서 오차 | 보정값 | 적용 |
|---|---|---|
| 양(+)의 오차 | 음(−) 보정값 | 표시값에서 차감 |
| 음(−)의 오차 | 양(+) 보정값 | 표시값에 가산 |
※ 오차가 표시값−기준값으로 정의된 경우이다.
2단계: 측정점 사이 보정값을 보간한다
실제 측정값이 교정점과 정확히 일치하면 해당 점의 보정값을 그대로 적용한다. 두 교정점 사이에서는 성적서, 교정기관 지침 또는 내부 검증된 절차가 선형 보간을 허용할 때만 Cx = C1 + (x−x1)×(C2−C1)/(x2−x1) 식을 사용한다.
예를 들어 표시값 기준 0.00 °C의 보정값이 +0.20 °C이고 50.00 °C의 보정값이 −0.10 °C라면, 표시값 20.00 °C의 선형 보간 보정값은 +0.08 °C이다. 따라서 보정 결과는 20.00 °C + 0.08 °C = 20.08 °C가 된다.
계산 과정에서는 성적서가 제공한 자릿수를 유지하고 최종 보고 단계에서만 승인된 반올림 규칙을 적용한다. 계산식의 x가 표시값인지 기준온도인지도 성적서 표의 독립변수와 일치시켜야 하며, 서로 다른 정의를 혼용하면 작은 차이가 반복적으로 누적될 수 있다.
선형 보간은 센서 반응이 해당 구간에서 충분히 연속적이고 선형이라는 근거가 있을 때의 실무 모델이다. 열전대의 구간별 다항식, 제조사가 제공한 계수식 또는 교정기관의 회귀식이 있으면 임의의 직선 보간보다 그 모델을 우선하며, 보간 모델에서 생기는 불확도 기여도 별도로 평가한다.
선형 보간 순서
- 구간 선택
측정값을 사이에 둔 두 교정점을 고른다. - 보정값 계산
승인된 선형 보간식에 교정점과 보정값을 입력한다. - 결과 산출
표시값에 보간한 보정값을 대수적으로 더한다. - 검산
구간·부호·자릿수와 외삽 여부를 확인한다.
3단계: 적용 범위와 불확도를 판단한다
보정값은 원칙적으로 가장 낮은 교정점과 가장 높은 교정점 사이에서만 적용한다. 교정 범위 밖 외삽은 끝점 보정값을 그대로 복사하는 행위까지 포함해 별도 검증 없이는 허용하지 않으며, 필요한 사용 범위가 벗어나면 교정점을 추가하거나 사용 범위를 제한한다.
수치 범위 안에 있더라도 교정과 실제 사용 조건이 달라지면 적합성을 다시 판단한다. 센서 삽입 깊이, 표시기 채널, 연장선과 보상도선, 분리 가능한 프로브의 조합, 매질, 자기발열, 주변 환경 및 안정화 시간이 달라지면 교정 결과를 그대로 이전하기 어려울 수 있다.
성적서의 확대불확도를 보정값에 더하거나 빼서 또 하나의 보정값으로 만들면 안 된다. 보정값은 측정결과를 이동시키는 값이고 불확도는 그 결과에 대한 의심의 범위이므로, 성적서 불확도와 반복성·분해능·보간·환경 등 사용 단계의 기여량을 내부 불확도 산정 절차에 따라 결합한다.
4단계: 보정 계산과 변경 이력을 기록한다
기록에는 최소한 원표시값, 적용한 보정값, 보정 결과, 단위, 성적서 번호와 개정번호, 적용한 교정점 또는 보간 구간, 계산식 버전, 측정 일시와 작업자를 포함한다. 원표시값을 보정 결과로 덮어쓰지 않아야 제3자가 동일한 성적서와 계산식으로 결과를 재현할 수 있다.
엑셀이나 LIMS에서 자동 보정한다면 입력 열과 계산 열을 분리하고 수식 셀을 보호하며 대표값·경계값·양수와 음수 보정값으로 독립 검산한다. 성적서 갱신 시 유효 시작일, 승인자, 이전 계수의 사용 종료일을 남기고 이미 확정된 결과를 새 계수로 소급 변경할지 여부는 영향평가와 승인 절차로 결정한다.
NATA의 ISO/IEC 17025 평가 워크시트는 6.4.11과 관련해 기준값과 보정계수가 적절히 갱신·적용되어야 함을 제시한다. 같은 자료의 6.4.13 장비 기록 항목을 참고해 교정 결과, 조정 결과, 합격 기준, 차기 교정일 또는 주기와 고장·수리 이력도 보정 기록에 추적 가능하도록 연결한다.
보정 기록 필수항목
- ✓원표시값과 보정 결과를 분리 보존한다
- ✓성적서 번호와 개정번호를 연결한다
- ✓교정점 또는 보간 구간을 기록한다
- ✓계산식 버전과 승인자를 남긴다
- ✓계수 변경일과 이전 값 종료일을 추적한다
- ✓대표값과 경계값으로 자동 수식을 검산한다
이중 보정과 비선형 구간의 예외 처리
표시기 내부에 교정계수나 오프셋을 입력한 경우 화면값이 이미 보정된 값인지 확인한다. 내부 보정을 마친 화면값에 같은 성적서 보정값을 다시 더하면 이중 보정이 되므로, 소프트웨어 설정값·변경일·봉인 상태와 성적서의 조정 전후 결과를 함께 검토한다.
보정값의 방향이 인접 점에서 급격히 바뀌거나 반복 교정 이력과 맞지 않으면 보간 계산부터 진행하지 않는다. 전사 오류, 센서 위치 영향, 히스테리시스, 배선 변경, 드리프트 또는 교정 후 충격 가능성을 조사하고 중간점 검증이나 재교정으로 적용 가능성을 확인한다.
보정 결과가 공정 허용범위 안에 들어왔다는 사실만으로 기기 적합성이 자동 확정되는 것도 아니다. 허용오차, 측정불확도, 적용 중인 판정규칙과 고객 요구를 함께 검토하며, 교정기한 경과나 성능 이상이 있으면 영향받은 이전 결과의 범위도 소급 평가한다.
관련해서 시험결과 엑셀 검증 4단계 — 독립 계산·경계값·수식 보호·재검증 글도 참고할 만하다.
정리: 보정값 적용 체크포인트
핵심 순서는 성적서 정의로 부호를 확정하고, 허용된 모델로 교정점 사이 값을 계산한 뒤, 교정 범위와 실제 사용 조건을 확인하고, 원자료부터 승인 이력까지 보존하는 것이다. 어느 단계든 근거가 없으면 가장 가까운 교정점의 값을 임의 적용하지 말고 교정기관 질의, 추가 검증 또는 재교정을 선택한다.
최종 검토자는 T보정 = I + C 계산이 성적서의 정의와 일치하는지, 외삽이나 이중 보정이 없는지, 불확도가 보정값과 혼동되지 않았는지를 확인한다. 새 성적서가 발행되면 현장 라벨만 바꾸는 데 그치지 않고 엑셀, LIMS, 작업절차서와 교육자료의 계수 및 버전을 동시에 갱신한다.
이 구조를 표준 작업서에 고정하면 부호 반전, 잘못된 보간, 범위 밖 적용과 원자료 소실을 하나의 검토 흐름에서 차단할 수 있다. 계산 오류를 발견했을 때는 수정값만 남기지 말고 최초 입력, 변경 사유, 변경자, 검토자와 영향받은 결과 목록을 감사추적에 보존한다.