메타는 18일(현지시간) 시민운동 연합체 ‘노 킹스’의 인스타그램 계정 정지가 자동화 보안 시스템의 오류였다고 밝혔다. 설명에 따르면 17일 앤트로픽의 ‘클로드’를 활용한 도구가 인스타그램 프로필, 게시물, 해시태그를 평소보다 약 4배 빠른 속도로 집중적으로 읽었다. 메타는 이런 접근이 일반 이용자의 탐색이 아니라 자동화된 봇의 비정상적 요청처럼 보여 계정을 정지했다고 밝혔다. 계정은 약 1시간 뒤 자동 검토를 거쳐 복구됐지만, 관리자 권한의 전체 복구에는 더 시간이 걸렸다.
이번 사례는 AI 기반 수집 도구의 요청 패턴이 플랫폼 보안 체계와 충돌할 수 있음을 보여준다. 메타는 정치적 판단이 아니라 시스템 오작동이라고 설명했고, 어떤 클로드 도구가 쓰였는지, 누가 운영했는지, 어떤 목적으로 정보를 모았는지는 확인되지 않았다고 밝혔다. 핵심은 생성형 AI를 활용한 대규모 열람이 서비스 운영 측면에서는 봇 활동과 비슷하게 보일 수 있다는 점이다. 자동화 탐지와 정상적 데이터 접근을 구분하는 기준이 플랫폼 운영에서 더 중요해졌다는 사례다.