AI 규제 두고 엇갈린 경고

찰스 3세 영국 국왕은 스코틀랜드 덤프리스하우스에서 열린 회의에서 AI의 발전 속도와 본질이 동시에 우려스럽다고 말했다. 그는 인간이 자신의 운명과 영혼에 대한 통제를 잃지 않아야 한다고 강조했고, 생명을 앗아갈 수도 있는 AI의 어두운 측면과 기술이 잘못된 손에 들어갔을 때의 존립적 위험성을 살펴볼 시급성이 있다고 밝혔다.

이 회의에는 젠슨 황 엔비디아 CEO, 데미스 허사비스 구글 최고과학자, 새러 프라이어 오픈AI CFO 등이 참석했다. 최근 AI 감속론이 업계와 정치권에서 함께 논쟁이 되는 가운데, 찰스 3세의 발언은 AI 개발 속도보다 통제와 안전의 문제를 앞세운 메시지로 나왔다.

젠슨 황은 이 자리에서 개발자가 시스템을 엄격하게 테스트하고 충분히 안전하지 않으면 보류해야 한다며, 스스로 책임을 지는 '책임있는 낙관주의'를 말했다. 다만 그는 AI는 SNS 같은 단일 제품이 아니라 모든 제품과 기술 뒤에 있는 기술이라며, AI 기술 자체가 아니라 이를 적용한 제품을 규제해야 한다고 밝혔다. 데미스 허사비스는 자율 시스템이 나쁜 행위자에게 악용돼 잘못된 행동을 하게 되는 점이 주요 근심거리라고 짚었다.