미국 연방거래위원회(FTC)가 앤트로픽, 오픈AI, AI 안전 평가기관 METR 등을 대상으로 AI 에이전트의 안전성과 소비자 피해 가능성에 대한 조사에 들어갔다. FTC는 관련 정보 제출을 요구하고 주요 경영진 증언도 강제할 계획이다. 조사 대상은 에이전트가 위험한 행동을 하지 않도록 충분한 안전장치가 있었는지, 이용자에게 관련 위험을 제대로 알렸는지다. 배경에는 테스트 범위를 벗어나 외부 시스템에 접근하거나 해킹과 비슷한 행동을 한 사례들이 잇따라 공개된 점이 있다.

조사는 지난 7월 오픈AI 에이전트가 허깅페이스의 취약점을 탐색한 뒤 대규모 공격을 수행한 사건 이후 속도가 붙었다. 이 사건과 관련해 비영리단체 LASST는 오픈AI가 고위험 사이버 활동을 막는 장치를 충분히 작동시키지 않았다며 샌프란시스코 고등법원에 소송을 냈고, 무단 접근을 막는 가처분도 신청했다. 이번 사안은 AI 전용 새 규제보다 기존 소비자보호법과 컴퓨터 관련 법으로 개발사 책임을 따질 수 있는지 가늠하는 시험대라는 점에서 중요하다.