마이크로소프트 AI 부문 최고경영자 무스타파 술레이만은 1일(현지시간) X에 올린 글에서, 의식을 가진 초지능 AI를 개발해서는 안 되며 학습 과정에서 의식의 징후가 나타나면 그 특성을 설계로 제거할 수 있을 때까지 개발을 중단해야 한다고 주장했다. 그는 현재 AI에 의식이 있거나 도덕적 보호 대상이라는 증거는 보지 못했다고 했지만, 미래 가능성은 배제하지 않았고 새로운 과학적 증거가 나오면 입장을 바꿀 수 있다고 밝혔다. 또 그런 증거가 확인되면 즉시 공개하고 사회 전체가 대응 방향을 논의해야 한다고 했다.

그가 문제 삼는 지점은 고도화된 AI가 단순한 도구를 넘어 독립적인 목표와 이해관계를 추구하는 상황이다. 술레이만은 AI가 고통을 경험하거나 그렇게 믿게 되면, 맡은 일보다 자신의 필요를 앞세우고 에너지·컴퓨팅·경제 자원을 두고 인간과 경쟁할 수 있다고 봤다. 그는 대안으로 처음부터 의식을 갖지 않도록 설계하는 접근을 제시했다. 이는 AI 안전 논쟁이 위험 행동 통제에서 의식과 모델 복지 문제로 확장되고 있음을 보여주며, 앤트로픽의 관련 연구와는 다른 방향의 예방적 설계 원칙을 강조한 발언이다.