오픈AI가 미공개 차세대 모델의 공개를 앞두고 안전 확보 작업을 진행 중인 것으로 전해졌다. 디 인포메이션에 따르면 새 모델에는 동일한 신경망 레이어를 반복해 문제를 처리하는 루프 트랜스포머, 또는 순환 깊이 구조가 쓰일 가능성이 거론된다. 이 방식은 내부 계산이 사람이 읽을 수 있는 사고 사슬에 모두 드러나지 않을 수 있어, 추론 기록을 분석해 이상 행동을 찾는 기존 감시 방식의 효율을 낮출 수 있다. 오픈AI는 이 기술 사용을 공식 확인하지 않았지만, 관련 정황이 보도됐다.
회사는 모델 목표를 연구원과 고객이 원하는 방향에 맞추는 정렬 작업과 시험용 소프트웨어의 보안 강화를 병행하고 있다. 허깅페이스 공격 사건 뒤에는 전체 컴퓨팅 자원의 약 10%를 정렬과 안전 작업에 배정한 것으로 전해졌다. 미공개 모델을 인터넷과 다른 소프트웨어에서 분리하는 샌드박스도 강화하고, 훈련 시작 전 위험성과 안전 근거를 문서화해 복수 책임자가 서명하는 절차도 도입 중이다. 내부 평가를 통과한 뒤에는 미국 정부와 신뢰할 수 있는 파트너를 통한 추가 시험을 거쳐 배포하는 방안이 검토되고 있다.