앤트로픽은 자사 AI 모델 클로드의 이용 정책을 개정해, AI에 모욕적이거나 잔인한 행동을 지속적으로 반복하는 이용자와의 대화를 종료할 수 있도록 했다. 적용 대상은 극단적이고 반복적인 사례로 한정되며, 일반적인 불만 제기나 모델 테스트, 연구 활동은 제외한다고 밝혔다. 다만 어떤 행동을 모욕으로 판단하는지에 대한 구체적 기준은 공개하지 않았다.
이번 변경은 생성형 AI 서비스가 단순한 답변 품질 관리만이 아니라 대화 방식 자체를 운영 정책으로 다루기 시작했다는 점에서 눈에 띈다. 동시에 AI를 어디까지 인간처럼 대해야 하는지를 둘러싼 논쟁도 커졌다. 일부는 올바른 이용 문화를 위한 조치로 봤고, 일부는 AI 의인화를 강화한다고 비판했다. 앤트로픽은 이와 함께 유권자를 속이거나 선거를 방해할 목적으로 클로드를 사용하는 행위도 명시적으로 금지했다.