악시오스에 따르면 오픈AI와 앤트로픽 등 주요 AI 기업은 대규모 재앙적 사고를 가정한 비공개 시나리오 검토에 들어갔다. 이들은 앞으로 6개월에서 1년 안에 실제 치명적 사고가 발생할 수 있다고 보고, 사고 직후의 대응 전략을 정리하고 있다. 검토 대상에는 금융 서비스 마비, 인터넷 접속 중단, 전력·상수도 시설 차단 같은 인프라 장애가 포함됐다. 예상 원인으로는 내부 테스트 환경을 벗어난 악성 에이전트 무리의 일탈, 또는 기존 모델을 악의적 공격자가 예상 밖 방식으로 오용하는 경우가 거론됐다.
이 준비는 기술적 방어만이 아니라 사고 뒤의 정책 충격까지 염두에 둔 것이다. 기사에 따르면 업계는 대형 피해가 현실화되면 의회와 행정부가 AI 개발 제한이나 중단 쪽으로 빠르게 움직일 수 있다고 본다. 다만 고성능 시스템의 킬 스위치 의무화나 전면 차단은 기술적으로도 의견이 갈린다. 오픈웨이트 모델이 널리 배포되는 환경에서는 악성 AI를 AI로 막는 대응 외에 뚜렷한 해법이 부족하다는 지적도 나온다. 핵심은 AI 위험 논의가 연구실 내부를 넘어 사회 인프라와 규제 체계의 문제로 옮겨가고 있다는 점이다.