AI 어슈어런스는 AI 시스템이 의도한 대로 동작한다는 증거를 만드는 활동을 통칭합니다. 이 용어는 안전·감사 분야에서 왔고, 여기서 어슈어런스는 약속이 아니라 독립적이고 문서화된 증명을 뜻합니다. AI에서는 테스트와 평가, 모니터링은 물론 제3자가 결정 과정을 확인할 수 있게 하는 기록까지 포함합니다.
어슈어런스는 한 번의 평가와 다릅니다. 평가는 검사한 날 시스템이 기준을 충족했는지를 확인합니다. 어슈어런스는 데이터와 모델, 프롬프트, 정책이 바뀌는 동안에도 같은 질문에 계속 답을 내놓습니다. 예를 들어 분기마다 신용 모델을 다시 학습하는 은행이라면, 버전마다 그 데이터가 해당 업무에 맞았다는 증명이 필요하고 운영 실행마다 어떤 버전을 썼는지 연결해 둔 기록도 있어야 합니다.
실무에서 어슈어런스가 기대는 것은 운영 증거입니다. 어떤 데이터 상태로 실행했는지, 검증 이후 무엇이 바뀌었는지, 영향받은 범위를 다시 확인했는지가 그 증거입니다. 이 기록이 없으면 테스트를 통과한 모델이 운영에서 어긋나도 왜 그런지 설명할 길이 없습니다.