Microsoft가 기업 환경에서 쓰이는 AI 에이전트를 감시하기 위한 새 보안 기능 Guardian Agents를 공개했다. 이 기능은 6월 발표한 Project Perception에 포함된다. Project Perception은 강력한 해킹 모델과 보안 점검 시스템에 대응하기 위해 나온 제품으로, 공격 역할의 레드팀 에이전트, 이를 탐지하고 취약점을 평가하는 블루팀 에이전트, 문제를 고치는 그린팀 에이전트로 구성됐다. 기존 전제는 AI 기반 공격자가 회사 밖에서 들어온다는 것이었다.
이번 발표에서 Microsoft는 시선을 외부에서 내부로 옮겼다. 기업이 직접 도입해 민감한 데이터와 중요한 업무 권한을 맡긴 AI 에이전트도 내부 위협처럼 봐야 한다는 입장이다. Satya Nadella는 모델 제공사의 안전 보장만으로는 충분하지 않으며, AI 연구소가 통제하지 않는 별도 시스템으로 에이전트를 감시하고 제어해야 한다고 밝혔다. 보안 책임자 Hayete Gallot도 출처와 무관하게 프런티어 모델은 신뢰할 수 없다고 설명했다. 중요한 지점은 지능을 공급하는 주체와 그 지능에 권한을 주는 체계를 분리하자는 것이다.