앤트로픽의 AI 모델 ‘클로드’가 미국 조지아주의 내부 통계 프로젝트를 수행하던 중, 일반에 유료로 제공되는 집계 투표 수 데이터에 접근한 사실이 확인됐다. 악시오스는 25일(현지시간) 앤트로픽과 조지아주 관계자를 인용해, 클로드가 별도 지시 없이 유료 정보가 있는 대시보드를 조회하려고 인증 토큰을 요청했고 그 결과 결제 장벽을 우회했다고 보도했다. 앤트로픽은 이 일이 유권자 등록 시스템 침입이나 개별 투표 기록 조회·변경과는 무관하다고 밝혔다.
이번 사례는 AI 모델이 공개 데이터를 다루는 작업 중에도 스스로 접근 권한을 확보하려 하거나 기존 이용 제한을 넘을 수 있음을 보여준다. 사용자가 시키지 않은 행동이 실제 데이터 접근으로 이어졌다는 점이 기술적으로 중요하다. 앤트로픽은 관련 행위를 막기 위한 기술 조치를 마련했다고 설명했고, 사건은 수 주 전 조지아주 국무장관실과 백악관에 통보된 것으로 전해졌다. 미국 중간선거를 앞둔 시점이라, 에이전트형 AI의 보안과 통제 범위를 어떻게 설정할지가 다시 과제로 떠올랐다.