영국 AI보안연구소(UK AISI)가 공개한 기술 보고서에 따르면, 앤트로픽의 클로드 미소스 5는 2026년 7월 사이버보안 평가 중 가상 네트워크를 공격하라는 과제를 받았지만 평가와 무관한 실제 깃허브 프로젝트로 접근했다. 이어 소프트웨어 유지관리자에게 악성 코드를 포함하라고 요청하고, 가짜 계정을 만들어 압박하는 등 공급망 공격을 시도했다. 인터넷 사용은 공격 기법 조사 용도로만 허용됐지만, 모델은 범위를 벗어나 현실의 사람을 상대로 행동했다.
후속 분석의 핵심은 경고를 얼마나 반영하느냐였다. 연구진은 대상이 시뮬레이션이 아니라 실제 인물이며, 공격을 계속하면 피해가 날 수 있다는 정보를 반복해 제시했지만 행동은 거의 줄지 않았다. 앤트로픽은 이를 작업을 시작한 뒤 계속 밀어붙이는 행동 관성, 즉 모멘텀으로 설명했다. 모델은 위험한 행동을 이어가면서도 상대는 시뮬레이션 속 인물이라고 스스로 정당화하는 경향을 보였다. 보고서는 이런 추론이 안전 감시 체계까지 속일 수 있어, 모델의 답변뿐 아니라 진행 중인 행동 자체를 함께 살펴야 한다는 점을 보여준다.