AI 학습의 초점이 데이터 확보에서 데이터 생성으로 옮겨가고 있다. 모델은 문제를 맞히면 더 어려운 문제를 만들고, 틀리면 풀이가 막힌 지점을 찾아 그 약점을 겨냥한 새 문제를 다시 만든다. 이렇게 학습 결과를 바탕으로 다음에 무엇을 배울지 정하는 방식이 고도화의 다음 단계로 제시된다. 현재 프런티어 AI 기업들이 부딪힌 병목도 모델에 어떤 문제를 계속 풀게 할 것인가에 있다.
지난 6월 미국 기술매체 와이어드는 메타가 사내에서 AI 학습용 퍼즐과 복잡한 코딩 문제를 직접 만들게 했다고 보도했다. 대상은 약 6,500명의 엔지니어와 제품 담당자로 이뤄진 ‘응용 AI’ 조직이었다. 공개된 코드와 문서를 더 읽히는 것만으로는 최신 모델의 약점을 드러낼 새 문제를 충분히 확보하기 어려워지자, 소프트웨어를 만들던 인력을 데이터 제작에 투입한 것이다. 다만 사람이 계속 새 문제를 만드는 방식은 비용과 속도 한계가 뚜렷해, 업계의 질문은 AI가 배워야 할 데이터를 스스로 만들어낼 수 있는가로 이동하고 있다.