AI 에이전트 관측성은 AI 관측성의 생각을 여러 단계로 움직이는 에이전트에 적용한 것입니다. 실행마다 남는 추적 기록(trace)에는 프롬프트와 모델 호출, 에이전트가 부른 도구와 그 인자, 가져온 문서나 행, 중간 판단, 마지막 동작이 담깁니다. 팀은 같은 기록에 지연 시간, 비용, 오류 정보도 더합니다. 생성형 AI용 OpenTelemetry 시맨틱 컨벤션 같은 공개 표준을 쓰면 서로 다른 도구가 같은 형식으로 이 기록을 남길 수 있습니다.
추적 기록은 에이전트가 왜 특정 결과를 냈는지 답하는 데 쓰입니다. 고객지원 에이전트가 잘못된 환불을 처리했다면, 기록을 보고 오래된 정책을 읽었는지, 엉뚱한 도구를 불렀는지, 맞는 기록을 잘못 해석했는지 구분할 수 있습니다. 모델 호출 하나하나를 보는 LLM 관측성과 달리, 에이전트 관측성은 실행 전체의 흐름을 따라갑니다. 에이전트가 읽은 데이터 버전까지 기록해 두면 지난 실행을 다시 재현하기도 쉬워집니다.