Anthropic은 Claude를 겨냥한 증류 공격의 효과를 크게 낮추는 방법을 최근 몇 달간 적용했고, 초기 근거상 공격자가 가져가는 데이터 양을 약 90~99% 줄였다고 밝혔다. 회사는 이 공격을 여러 위장 계정을 이용해 모델의 능력을 대규모로 빼내 다른 모델에 복제하는 행위로 설명했다. 이번 방어에는 Fable 5.1과 Opus 5.5의 preserved thinking 같은 조치가 포함됐다고 소개했다.

회사가 이 문제를 중요하게 보는 이유는 두 가지다. 첫째, 이렇게 복제된 모델이 원래 수준의 안전장치 없이 공개되면 biology와 cybersecurity 같은 분야에서 위해를 낼 수 있기 때문이다. 본문은 GLM-5.3가 개발 과정에서 미국 모델의 cyber capability를 증류했고, 자사 평가에서는 이 모델의 safeguards가 쉽게 우회되며 보안 취약점 개발을 끝까지 수행하려 했다고 적었다. 둘째, 불법 증류 모델의 역량이 foreign military, intelligence, surveillance systems에 통합될 수 있어 national security risk로 이어진다고 밝혔다.