미국 AI 기업 앤트로픽을 퇴사한 연구원 제이컵 콕슨은 8일(현지시간) 엑스(X)와 월스트리트저널(WSJ) 인터뷰를 통해 AI 개발 방향에 우려를 공개했다. 그의 핵심 문제의식은 AI 기업들이 인간의 개입 없이 스스로 성능을 개선하는 시스템을 만들기 위해 경쟁하는 과정에서, 안전 검토가 뒤로 밀릴 수 있다는 점이다.
콕슨은 오픈AI와 앤트로픽이 모두 책임감 있게 행동하고 있지 않다고 비판하며, 정부 개입과 AI 업계의 공동 대응이 필요하다고 말했다. 그는 가장 공격적인 시나리오 가운데 상당수가 현실화하는 방향으로 가고 있으며, 내년 말이면 상황이 통제 불능에 빠질 수도 있다고 주장했다.
이 경고는 개인 의견에만 그치지 않는다. 앤트로픽 내부에서도 정렬 과학(Alignment Science) 총괄 에번 휴빙거와 확장감독(Scalable Oversight) 총괄 새뮤얼 마크스가 AI가 인류 멸종이나 그에 준하는 심각한 결과를 낳을 가능성을 언급했다. 생성형 AI 모델 '클로드'를 개발·운영하는 앤트로픽이 안전성 연구를 핵심 사업으로 내세우는 기업이라는 점에서, 이번 발언은 AI 성능 향상과 통제 문제를 함께 봐야 한다는 신호로 읽힌다.