AI 모델을 SOP에 포함시키기 위한 최소 조건

 실험 도구가 아니라 “검증된 시스템”이 되기 위해

AI 모델을 SOP에 포함시키기 위한 최소 조건

1️⃣ 모델의 역할 정의: “보조”인지 “결정”인지

SOP에 포함되기 위해 가장 먼저 명확해야 할 것:

모델 역할 분류

역할	설명	규제 부담
보조 도구	QC flag, 이상치 탐지	낮음
의사결정 지원	재분석 권고, batch reject 제안	중간
자동 결정	결과 승인/거부	매우 높음

👉 대부분의 조직은 보조 도구 단계에서 시작해야 현실적입니다.

2️⃣ 입력 데이터 범위와 전처리 고정

AI 모델은 입력이 달라지면 결과가 달라집니다.

SOP에 포함되려면 다음이 고정되어야 합니다.

• 허용 데이터 형식 (raw, centroid, mzML 등)
• 전처리 방법 (smoothing, baseline correction)
• feature extraction 방식
• normalization 방법

👉 “데이터가 조금 달랐다”는 변명은 SOP 환경에서 허용되지 않습니다.

3️⃣ 모델 버전 관리(Model versioning)

SOP 환경에서는 모델이 “변하지 않는 것”이 아니라
변화를 추적할 수 있는 것이 중요합니다.

필수 요소:

• 모델 버전 ID
• 학습 데이터 버전
• feature set 정의
• 변경 이력(log)

감사 시 자주 묻는 질문

• 이 결과는 어떤 모델 버전으로 생성되었는가?
• 이전 버전과 차이는 무엇인가?

4️⃣ 성능 검증 기준 정의 (Validation, not accuracy)

PoC에서는 accuracy, F1-score를 사용합니다.
SOP에서는 다른 질문이 필요합니다.

SOP 관점의 검증 질문

• false positive rate는 허용 가능한가?
• false negative가 임상/품질 리스크를 초래하는가?
• worst-case 시나리오는 무엇인가?
• 모델 실패 시 fallback 절차는?

👉 “정확하다”가 아니라
👉 “실패해도 안전하다”가 핵심입니다.

5️⃣ Explainability: 결과를 설명할 수 있는가

규제 환경에서 black-box 모델은 큰 저항에 부딪힙니다.

필수 설명 요소:

• 어떤 변수(피크, feature)가 결정에 기여했는가
• 왜 anomaly로 판단했는가
• 사람이 검증 가능한 근거 존재 여부

좋은 설명의 예

• 특정 RT 구간에서 baseline drift 패턴 감지
• IS response deviation이 기준 초과
• historical batch 대비 intensity 분포 이상

6️⃣ 허용 범위(Operating envelope) 정의

모델은 특정 조건에서만 신뢰할 수 있습니다.

SOP에는 반드시 포함되어야 합니다.

• 적용 가능한 장비 모델
• 적용 가능한 매트릭스
• 농도 범위
• 분석 조건

👉 모델이 학습하지 않은 조건에서 사용되면 결과는 “무효”로 간주되어야 합니다.

7️⃣ Human-in-the-loop 구조 설계

AI가 SOP에 들어가더라도
최종 책임은 사람에게 있습니다.

필수 구조:

• AI 결과 검토 단계
• override 절차
• override 사유 기록
• 교육된 인력만 승인 가능

👉 “AI가 그렇게 판단했다”는 설명은 감사에서 인정되지 않습니다.

8️⃣ 데이터 무결성(Data integrity) 보장

AI 모델이 생성한 결과도 규제 대상 데이터입니다.

요구 사항:

• audit trail 기록
• 결과 생성 시간 기록
• 사용자 접근 제어
• 변경 불가 로그

특히 다음이 중요합니다.

AI 결과가 수정되었는가?
수정되었다면 누가, 언제, 왜 수정했는가?

 

9️⃣ 재현성(Reproducibility) 확보

같은 입력 → 같은 결과
이 원칙은 SOP에서 필수입니다.

위험 요소:

• stochastic model
• 랜덤 초기화
• floating point 차이
• 라이브러리 버전 차이

해결 방법:

• seed 고정
• 환경(container) 고정
• dependency 버전 관리

🔟 변경 관리(Change control) 프로세스

AI 모델은 업데이트가 필요합니다.
하지만 SOP 환경에서는 변경 자체가 리스크입니다.

필수 절차:

1. 변경 사유 문서화
2. 영향 평가
3. 재검증
4. QA 승인
5. 교육 업데이트

👉 모델 업데이트는 소프트웨어 패치가 아니라 공정 변경(change control)으로 취급됩니다.

SOP 포함을 위한 최소 체크리스트

AI 모델이 SOP에 포함되기 위한 최소 조건:

✔ 역할 정의 완료
✔ 입력 데이터 범위 고정
✔ 모델 버전 관리 체계 구축
✔ 성능 검증 기준 정의
✔ 설명 가능성 확보
✔ 적용 범위 명시
✔ human review 절차 존재
✔ audit trail 기록 가능
✔ 재현성 확보
✔ 변경 관리 프로세스 마련

현실적인 도입 전략 (권장 단계)

1단계: QC 보조 도구

• anomaly detection
• trend monitoring

2단계: 의사결정 지원

• batch review recommendation
• 재분석 권고

3단계: 제한적 자동화

• 명확한 규칙 기반 승인

👉 대부분의 조직은 1–2단계에서 안정화가 필요합니다.

마지막 문장

AI가 SOP에 포함되는 순간,
그것은 ‘똑똑한 도구’가 아니라
‘설명 가능하고 통제 가능한 시스템’이 되어야 한다.