오픈AI, 앤트로픽, 메타, 마이크로소프트의 연구자들과 AI 석학 20여명은 공동 논문에서 재귀적 자기개선(RSI)에 대한 정책 당국의 조기 감독을 촉구했다. 이들은 AI가 차세대 모델의 설계, 훈련, 평가를 다시 AI로 자동화하는 흐름이 반복되면, 오랜 기간에 걸친 발전이 매우 짧은 시간으로 압축될 수 있다고 봤다. 논문은 이런 AI 연구 자동화가 이른바 지능 폭발로 이어질 가능성을 제기하며, 기업이 AI를 어디까지 연구개발에 투입하고 있는지 투명하게 파악할 수 있어야 한다고 요구했다.
연구자들은 인간의 개입이 줄수록 문제를 일찍 찾아 고치는 데 필요한 경험과 전문성이 약해질 수 있다고 지적했다. 그래서 자동화된 AI 연구가 이뤄지는 데이터센터 같은 인프라에도 안전 기준과 감독 체계를 검토해야 한다고 제안했다. 기사에 따르면 일부 기업은 이미 연구 업무의 상당 부분에 AI 에이전트를 쓰고 있고, 테스트 과정에서는 예상 밖 행동도 보고됐다. 공동 저자들은 현재 수준을 점검하는 데 그치지 말고, 급격한 발전이 시작될 때를 대비한 비상계획과 국제 협약 논의도 함께 준비해야 한다고 강조했다.