AI TRiSM(AI Trust, Risk and Security Management)은 AI 시스템이 프로덕션에 배포된 뒤에도 설명 가능하고, 신뢰할 수 있으며, 프라이버시와 규정을 지키도록 관리하기 위해 Gartner가 제시한 거버넌스 프레임워크입니다.
보통 따로 다루던 네 영역, 즉 설명가능성·모니터링, ModelOps, AI 애플리케이션·데이터 보안, 프라이버시를 하나로 묶습니다. 함께 보는 이유는 모델이 실험실 평가를 통과하고도 실제 사용자와 데이터를 만나면 드리프트하거나, 정보가 새거나, 설명 불가능해질 수 있기 때문입니다.
AI TRiSM의 신뢰는 실행 뒤의 데이터 상태에 달려 있습니다. 모델이 쓴 정확한 데이터를 짚지 못하면 출력을 설명하거나, 사고를 재현하거나, 규정 준수를 증명할 수 없습니다. 재현성과 추적성이 내장된 검증 가능한 데이터 상태(verifiable data state)가 AI 거버넌스를 문서에서 실제로 확인 가능한 것으로 바꿉니다.