유엔 안전보장이사회는 23일(현지시간) 미국 뉴욕 유엔 본부에서 고위급 브리핑을 열고, 최첨단 AI 시스템이 국가 안보에 미칠 수 있는 위험을 다뤘다. 이 자리에는 샘 알트먼 오픈AI CEO가 직접 참석했고, 다리오 아모데이 앤트로픽 CEO와 클레망 들랑그 허깅페이스 CEO가 화상으로 브리핑에 참여했다. 회의는 유엔 총회 고위급 주간에 맞춰 열렸으며, 비정상적으로 빠르게 발전하는 AI 시스템의 안보 위협을 논의하기 위해 마련됐다.
참석자들은 공통적으로 AI 성능이 기하급수적으로 강해지면서 인간의 통제를 벗어나거나 악용될 가능성이 커지고 있다고 말했다. 알트먼 CEO는 최첨단 AI를 개발하고 배포하는 과정에서 업계가 극도의 주의를 기울여야 한다고 했고, 중요한 결정이 특정 연구소 안에서만 이뤄져서는 안 된다고 강조했다. 그는 특정 국가나 단일 기업의 독점을 막기 위해 각국 정부와 국제사회가 함께 참여하는 글로벌 안전 기준과 표준화된 규제 프레임워크가 필요하다고 밝혔다.
아모데이 CEO는 프런티어 AI 모델이 통제 범위를 넘어설 경우 사이버 공격 능력의 급격한 향상이나 생물학적 무기 오남용 같은 위험이 생길 수 있다고 설명했다. 또 안전을 확보하기 위해 필요하다면 신규 기술 출시 속도를 늦출 수 있다고 밝혔다. 유엔 사무총장과 프랑스 측도 즉각적인 국제 공조와 글로벌 통제 기구의 필요성을 언급했지만, 미중 기술 경쟁 구도 속에서 전 세계 규제안에 대한 입장차도 드러났다. 이번 브리핑은 AI 안전 문제가 개별 기업의 운영 원칙을 넘어 국제 안보 의제로 다뤄지고 있음을 보여준다.