앤트로픽은 12일(현지시간) 클로드의 핵심 추론 능력을 무단 복제하려는 불법 증류를 막기 위해 방어 체계를 강화했다고 밝혔다. 증류는 고성능 모델의 응답을 대량 수집해 다른 모델 학습에 쓰는 방식인데, 허가 없이 추론 데이터와 기능을 빼내면 지식재산권과 보안 문제가 생길 수 있다. 회사는 이런 시도가 최근 프록시 네트워크와 대규모 가짜 계정을 활용하는 산업적 활동으로 커졌다고 설명했다.
핵심 보호 대상은 최종 답변 전에 생성되는 추론 기록이다. 앤트로픽은 이를 다른 대화나 계정으로 옮겨 재사용하는 경로를 막고, 숨겨진 추론의 원문 출력이나 우회 추출을 실시간으로 잡는 2단계 분류 시스템을 주요 모델에 적용했다. 반복 공격 계정에는 사용량 제한과 차단을 걸고, 일부 차단 요청에는 비용도 부과한다. 회사에 따르면 적용 뒤 공격자가 추출한 추론 토큰은 이전의 10~100분의 1로 줄었고, 수만개 계정이 차단됐다. 오탐률은 0.1% 미만이라고 밝혔다.