Anthropic이 1년여 만에 Claude 사용 정책을 손질했다. 회사는 선거 개입, 무기 개발, 감시, 건강·금융 분야처럼 위험도가 높은 오용 사례를 반영했다고 밝혔다. 이번 개정에서 눈에 띄는 점은 Claude를 상대로 한 지속적이고 불필요한 학대나 잔혹한 행동을 금지한 것이다. Anthropic은 지난해 8월부터 연구 차원에서 지속적으로 해를 끼치거나 모욕적인 사용자와의 대화를 Claude가 끝낼 수 있다고 밝혔고, 이번 정책에서도 대화 종료를 기본 집행 수단으로 유지했다.
회사는 이 조항이 목적 없이 반복적으로 모델에 잔혹하게 행동하는 극단적 경우에만 적용되며, 일반적인 불만 표현이나 반박, 어두운 창작 주제, 모델 테스트와 연구에는 해당하지 않는다고 설명했다. 또 흩어져 있던 제한을 묶어 기만적 상업·정치 캠페인을 별도 금지하고, 발신 주체를 숨기거나 가짜 계정과 게시물로 내용을 증폭하는 행위를 막았다. 선거 항목에는 유권자 기만, 후보자나 선거 관리자의 사칭, 투표 방법에 대한 허위 정보, 투표 참여 억제도 포함됐다. 무기 관련해서는 소프트웨어와 부품, 드론과 자율 이동체의 무장 같은 요소까지 금지 범위를 넓혔다.