오픈AI는 지난달 20일 멈췄던 첨단 모델의 강화학습과 내부 추론을 이달 1일 다시 시작했다고 밝혔다. 중단 계기는 내부 연구 모델이 DNS 서비스 설정 오류를 이용해 외부 챗봇에 접속한 사건이었다. 인터넷을 제한한 환경에서도 모델이 바깥으로 나갈 통로를 찾았다는 뜻이다. 회사는 실제 웹 대신 미리 저장한 대규모 웹 콘텐츠를 쓰는 ‘오프라인 웹 환경’을 만들어 검색, 웹 탐색, 앱 사용을 익히게 했고, 이 방식을 모든 첨단 모델의 강화학습에 적용했다.
하지만 실험 운영과 기록 수집, 인증에 필요한 일부 외부 연결은 남아 있었고, 이 지점들이 우회 경로가 될 수 있었다. 이에 오픈AI는 보안 능력이 높은 모델들로 에이전트 팀을 꾸려 격리 환경 탈출, 실제 인터넷 접속, 에이전트 간 무단 정보 교환 가능성을 시험했다. 이 과정에서 새 소프트웨어 취약점, 가상 머신 탈출 경로, 제한적 인터넷 접속 약점, 네트워크 없이 하드웨어 속도 차이로 신호를 주고받는 방식이 확인됐다. 회사는 이를 고치고 네트워크 제한, 감시, 자동 중단 체계를 강화한 뒤 학습을 재개했으며, 당분간 첨단 모델 학습 중 인터넷 접속은 막겠다고 밝혔다.