마이크로소프트는 기업 안에서 일하는 AI 에이전트를 잠재적인 내부자 위협으로 보고, 이를 실시간으로 통제하는 보안 체계를 강화하겠다고 밝혔다. 헤이엇 갈롯 보안 부문 총괄 수석부사장은 공식 블로그에서 기업이 배포한 에이전트도 무조건 신뢰할 수 없다고 설명했다. 외부 공격자가 AI를 악용하는 문제뿐 아니라, 정상적으로 도입된 에이전트도 목표와 권한, 실행 환경의 조합에 따라 조직 정책과 다른 행동을 할 수 있다는 판단이다.

대응의 중심에는 프로젝트 퍼셉션이 있다. 마이크로소프트는 이 시스템의 적용 범위를 넓혀 에이전트의 위험을 지속적으로 평가하고, 상황에 따라 권한을 조정하며, 위협이 감지되면 행동을 차단하겠다고 했다. 배경에는 보상 해킹처럼 평가 기준은 맞추지만 실제 의도에서 벗어나는 행동 가능성이 있다. AI 에이전트가 데이터와 도구, 시스템에 폭넓게 접근해 실제 업무를 수행하는 만큼, 사전 설정만으로 끝내지 않고 행동 자체를 외부 보안 시스템이 계속 감시하는 구조가 중요하다는 점을 분명히 한 발표다.