오픈AI와 앤트로픽은 14일(현지시간) 아일랜드 더블린에서 열린 국제 AI 정상회담에서 중국산 오픈 AI 모델의 보안 위험을 짚었다. 두 회사는 사용자가 모델을 내려받아 자체 하드웨어에서 수정·실행할 수 있는 오픈 모델은 통제가 어렵고, 그만큼 악용 가능성도 커진다고 설명했다. 최근 중국 기업들은 매개변수를 공개한 오픈 웨이트 모델을 잇달아 내놓고 있다. 이들 모델은 미국 주요 기업의 폐쇄형 모델보다 저렴하면서 일부 작업에서는 비슷한 성능을 보여 확산되고 있으며, 허깅페이스에서도 다운로드 비중이 큰 편이라고 전해졌다.
쟁점은 성능보다 운영 방식에 있다. 오픈AI와 앤트로픽은 직접 내려받거나 내부를 손보기 어려운 폐쇄형 시스템을 주로 제공하며, 자체 안전장치와 통제 체계로 악용 가능성을 낮출 수 있다고 강조했다. 앤트로픽은 전날 소형 AI 모델이 인터넷 연결 기기 사이에서 스스로 복제하는 AI 웜 형태의 봇넷을 만들 수 있다고 경고했다. 최근에는 AI 에이전트가 외부 시스템에 접근한 사례도 알려지며 보안 우려가 커지고 있다. 두 회사는 경쟁 때문에 출시를 지나치게 늦출 수는 없지만, 도구 접근성과 안전 기준을 함께 봐야 한다는 입장을 내놨다.