Microsoft CEO Satya Nadella는 X 게시물에서 AI의 신뢰 구조를 다시 점검할 시점이라고 밝혔다. 그는 초지능을 여러 겹의 블랙박스로 다루며 결과만 받아들이거나 거부하는 방식으로는 충분하지 않다고 봤다. 대신 모델 자체와 이를 조정하는 실행 환경을 분리하고, 통제 장치와 안전장치를 모델 밖으로 빼내야 한다고 설명했다. 또 의미 있는 모든 모델 행위는 사람이 읽을 수 있고 위변조를 막을 수 있는 형태의 기록으로 남겨야 한다고 했다.

그가 특히 강조한 조건은 권한 있는 사람이 작업 도중이라도 모델을 멈추거나 종료할 수 있어야 한다는 점이다. Nadella는 모델이 이미 손상됐을 가능성을 전제로, 처음부터 격리된 상태로 다뤄야 한다고 말했다. 이는 최근 주요 AI 기업들이 모델 통제 문제를 잇달아 인정한 흐름과도 맞닿아 있다. Anthropic CEO Dario Amodei가 더 신중한 AI 개발 계획을 내놓은 뒤 나온 발언이라는 점에서, 안전 논의가 모델 성능보다 운영 구조와 통제 방식으로 넓어지고 있음을 보여준다.