OpenAI는 Dev Day에서 새 Decisions API를 언급했다. 이 API는 미리 정한 선택지 중 하나를 모델이 고르도록 설계된 도구로 소개됐다. Sam Altman의 설명에 따르면 Luna 모델에 이미지 분류 항목이나 에이전트 행동처럼 정해진 옵션을 주고 그 안에서 판단하게 하는 방식이다. 이렇게 범위를 좁히면 이미지 이해, 다양한 언어 지원, 안전 장치를 유지하면서도 매우 빠르게 동작할 수 있다고 했다. 현재는 제한된 미리보기로 공개돼 실제 사용 사례나 성능 평가는 아직 널리 확인되지 않았다.

기사는 이 제품이 TypeSafe AI가 이달 공개한 Jev와 유사한 성격이라고 전했다. Jev는 LLM 위에 얹는 고속·저비용 분류형 모델로, 개발자가 정한 여러 선택지에 대해 확률 형태의 출력을 제공하도록 설계됐다. 이런 접근은 일반적인 LLM이 많은 소프트웨어 작업에서 느리고 비용이 큰 점을 보완하려는 흐름과 맞닿아 있다. 이미 비슷한 API를 내놓는 스타트업들이 있고, 앞으로도 대형 기술 기업의 유사한 시도가 이어질 가능성이 제기된다. 관건은 이런 결정형 모델의 출력이 현실에 얼마나 잘 맞게 보정되느냐는 점이다.