모든 프로세스에는 표준 경로와, 그 경로를 벗어나는 사례가 있습니다. 어떤 예외는 정책에 명시되어 있습니다. 또 어떤 예외는 표준 경로가 맞지 않는 때를 아는 숙련된 담당자가 적용합니다. 사람이 직접 프로세스를 운영하는 팀이라면 이런 지식으로 충분합니다. 그러나 AI 업무에서는 데이터, 규칙, 지시문에 기록되지 않은 예외는 보이지 않습니다.
AI 업무에서 확인해야 할 예외는 다음과 같습니다.
- 유예 기간처럼 조건이 정해진 정책 예외
- 표준 계약 밖에서 합의한 고객별 조건
- 프로세스 운영 방식의 계절별, 지역별 차이
- 표준 규칙이 적용되지 않아 담당자에게 넘기는 사례
업무 예외 처리는 소프트웨어의 예외 처리와 어떻게 다른가요?
- 소프트웨어의 예외 처리는 호출 실패, 파일 누락, 잘못된 입력처럼 프로그램에서 발생하는 오류를 다룹니다.
- 업무 예외 처리는 다른 규칙을 따르는 정상 사례를 다룹니다. 고장 난 곳은 없고, 단지 표준이 아닌 사례일 뿐입니다.
- AI 업무가 소프트웨어 예외를 모두 올바르게 처리하더라도, 업무 예외가 데이터나 테스트에 한 번도 들어간 적이 없다면 업무 예외는 틀리게 처리할 수 있습니다.
AI 업무에서 업무 예외 처리는 어디서 문제가 되나요?
보험 청구를 분류하는 에이전트를 일반적인 청구 표본으로 테스트했고, 결과도 좋았습니다. 하지만 실제 사용에서는 기한 이후에 접수된 청구를 거절했습니다. 여기에는 청구 담당 팀이 직접 적용해 온 규제 기관의 유예 기간 대상 청구도 포함되었습니다. 이 예외는 무시할 수 없을 만큼 흔했지만, 표본에서 빠질 만큼 드물기도 했습니다. Why AI misses business rules and exceptions에서 이런 예외가 어디에 있는지, 어떻게 테스트하는지 차례로 설명합니다.
예외는 평가 세트에 별도 사례로 넣고, 업무가 예외를 제대로 처리하는지 확인할 만큼 예시를 충분히 확보해야 합니다. 업무가 학습하는 데이터에 예외가 너무 적다면 DTS로 빠진 사례를 채우고 분포를 조정한 뒤, 같은 평가 조건에서 결과를 확인합니다. 규칙이 기록된 뒤에는 비즈니스 규칙 검증으로 결과가 그 규칙을 따르는지 확인합니다.