Anthropic는 수정된 S-1A 문서의 위험 요인 항목에서 자사 연구개발에 AI를 활용하고 있으며, 이 과정이 재귀적 자기개선(RSI)으로 불리는 단계에 가까워질 수 있다고 적었다. RSI는 AI가 더 나은 AI를 만드는 데 스스로 기여해 성능 향상 속도가 크게 빨라지는 상태를 뜻한다. 회사는 이미 AI를 이용해 새 모델 개발을 진행해 왔고, 그 과정에서 당시에는 인지하지 못한 성능 도약이 있었다고 밝혔다.

문서에서 Anthropic는 이런 개발 방식이 안전, 정렬, 보안 대책을 만들고 검증해 적용하는 속도보다 모델 능력이 더 빨리 앞설 수 있다고 경고했다. 그래서 이 주제를 Responsible Scaling Policy의 관리 대상에 넣고, RSI에 접근할수록 위험을 감시하고 완화하겠다고 설명했다. 핵심은 AI가 연구개발 도구를 넘어 다음 세대 AI 개발 속도를 높이는 단계에 들어서면, 기술 진보와 안전 통제가 같은 속도로 움직이지 않을 수 있다는 점이다.