오픈AI에서 해고된 안전 연구원 3명은 8일(현지시간) 이사회와 안전 관련 위원회에 공개서한을 보내, 외부 안전 평가기관과의 협력을 강화하고 최첨단 AI 모델의 추론 과정을 감시할 수 있는 능력을 유지해야 한다고 요구했다. 이들은 최근 해고가 내부에 위축 효과를 만들고 외부 검증 체계에도 악영향을 줄 수 있다고 주장했다. 또 자신들이 모델 아키텍처 유출에 연루됐다는 의혹과, 직무 밖 외부 접촉이 있었다는 회사 주장을 부인했다.
기술적 쟁점은 최신 모델에 도입된 것으로 알려진 순환 깊이 트랜스포머, 이른바 루프 트랜스포머다. 보도에 따르면 이 방식은 연산 레이어를 반복 순환시켜 추론 성능을 높일 수 있지만, 문제 해결 과정이 자연어 기록 대신 숨겨진 연산 상태로 처리돼 사고 사슬(CoT) 모니터링이 어려워질 수 있다. 기존 안전 검증은 이런 추론 기록을 살펴 위험 행동을 탐지해 왔다. 연구원들은 업계가 아직 감시하기 어려운 모델을 안전하게 개발·배포하는 방법을 모른다며, 감시 가능성을 해치는 구조 개발을 경계하고 외부 독립 평가와 투명한 소통 문화를 유지해야 한다고 밝혔다.