안토니우 구테흐스 유엔 사무총장은 22일(현지시간) 유엔총회 연례 활동 보고에서 AI와 자율무기 확산의 위험을 경고했다. 그는 전쟁과 평화, 불평등, 기후변화와 함께 AI를 인류가 직면한 ‘권력의 4대 시험대’로 제시했다. 특히 과거 인간이 맡던 의사결정에 AI와 자율무기가 관여하는 변화가 국제사회가 다뤄야 할 핵심 과제라고 말했다.
구테흐스 사무총장은 AI를 둘러싼 권력이 데이터와 컴퓨팅 역량, 알고리즘에 집중되고 있으며, 기술 발전 속도가 인류의 통제와 관리 역량을 앞서고 있다고 지적했다. 그는 위험이 기술 자체가 아니라 책임성 없는 기술에 있다고 밝혔다. 이에 따라 AI를 개발하고 배포하는 주체의 책임을 분명히 하고, 독립적 감독을 포함한 다자간 AI 위험관리 프레임워크를 마련해야 한다고 촉구했다.
그는 규제되지 않은 시스템의 실험 대상이 어린이가 되어서는 안 된다고 강조했고, 생사와 관련된 결정은 결코 기계에 넘겨져서는 안 된다고 말했다. 또 킬러 로봇은 미래에 설 자리가 없어야 한다고 밝혔다. 이번 발언의 핵심은 AI 기술의 발전 자체보다, 인간의 생명과 직결되는 판단을 어디까지 기계에 맡길 것인지에 대한 국제 규범과 통제 장치가 시급하다는 점이다.