마이크로소프트, 코파일럿·애저 AI 보안 사고를 재구성하는 조사 플레이북 공개

마이크로소프트가 마이크로소프트 365 코파일럿과 애저 AI 서비스에서 일어난 활동을 조사하기 위한 새로운 조사관용 플레이북을 공개했다. AI 시스템이 일상 업무의 일부가 된 만큼, 그 안에서 무슨 일이 벌어졌는지 일관되게 재구성할 방법이 필요하다는 문제의식에서 출발했다.

보안팀은 이미 마이크로소프트 365 코파일럿과 애저 AI 서비스와 관련된 활동을 조사하고 있다. 프롬프트 인젝션 시도부터 예기치 않은 데이터 접근까지 그 신호 자체는 관측이 가능하지만, 구조가 없으면 무슨 일이 일어났는지에 대한 일관된 설명으로 이어지지 못한다는 것이 회사의 진단이다.

AI 상호작용은 마이크로소프트 퍼뷰, 디펜더, 센티넬 전반에 걸쳐 텔레메트리를 생성한다. 이 텔레메트리는 누가 상호작용을 시작했는지, 언제 일어났는지, 어떤 리소스가 관련됐는지를 포착해 기업 환경에서 AI 활동을 재구성하는 기반이 된다.

플레이북은 범위-맥락-신호(scope–context–signal) 순서의 방법론을 따른다. 먼저 누가 언제 어떤 서비스와 상호작용했는지를 식별하고, 이어 시스템이 무엇에 접근했고 어떤 데이터가 노출됐을 수 있으며 그 활동이 기대 동작과 어떻게 맞물리는지 리소스 맥락으로 확장한다. 그다음 프롬프트 인젝션 시도, 비정상 사용 패턴, 자격증명 노출 경보 같은 탐지 신호를 이 넓은 활동 흐름 안에서 평가한다.

이 접근법은 필요한 구성 설정, 쿼리, 탐지 패턴을 하나의 작동 모델로 묶는다. 스키마 레퍼런스, KQL 쿼리, 탐지 로직을 함께 담아 조사관이 여러 도구를 오가며 임시방편으로 우회하는 일을 줄이고 AI 활동을 추적할 수 있게 했다.

모델은 에이전트 기반 시스템으로도 확장된다. 어떤 에이전트가 배포돼 있고, 어떻게 구성됐으며, 어떤 데이터에 접근할 권한이 있고, 그 권한이 기대대로 사용됐는지까지 조사 범위가 넓어진다.

결과적으로 대응팀은 고립된 신호에서 벗어나, 관측된 활동을 재구성한 설명으로 옮겨 갈 수 있다. AI 사용 범위를 좁히고, 상호작용 중 어떤 데이터가 접근됐는지 파악하며, 관측된 행동이 정상 사용인지 정책 위반인지 능동적 위협의 징후인지를 평가하는 식이다.

마이크로소프트는 AI가 일상적인 업무 흐름의 일부가 되면서, 대응팀이 엔드포인트와 신원, 클라우드 인프라에 적용해 온 것과 같은 수준의 조사 엄정성을 AI에도 적용해야 한다고 강조했다. 무슨 일이 일어났고 어떤 데이터가 관련됐으며 그 활동이 인가된 것이었는지를 가려내는 능력이 사고 대응의 핵심 역량으로 빠르게 자리 잡고 있다는 것이다.