타입세이프 AI(TypeSafe AI)가 지난 15일(현지시간) 공개한 '제브(Jev)'는 일반적인 생성 AI와 다르게 문장을 쓰지 않는다. 비구조화 데이터와 사전 정의된 질문을 넣으면, 단어를 순서대로 생성하는 과정 없이 선택지와 확률 분포, 신뢰도 점수만 한 번에 반환한다. 기사에 따르면 이 모델은 데이터 분류, 위험도 평가, 에이전트의 다음 행동 결정처럼 백엔드에서 자주 쓰이는 판단 작업을 겨냥했다.

이 방식은 기존 LLM이 문장을 만들다가 JSON 형식을 벗어나거나 존재하지 않는 메서드를 지어내는 문제를 줄이기 위한 설계다. 제브는 자유 텍스트를 생성하지 않고 미리 정한 타입 범위 안에서만 값을 반환하기 때문에, 이런 종류의 형식 오류가 구조적으로 나오지 않도록 했다. 응답 속도는 70~500밀리초(ms) 수준이며, 입력 비용은 100만 토큰당 0.042달러로 제시됐다. 출력 토큰 과금도 없다.

개발자들은 이를 백엔드 조건 판단을 위한 '스마트한 if문'에 가깝게 받아들이고 있다. 기사에는 자율형 AI 에이전트의 중간 의사결정 단계를 제브로 바꿨더니 전체 지연이 수 초에서 수백 밀리초로 줄고 비용도 수백분의 일로 감소했다는 사례가 소개됐다. 공개 48시간 안에 X와 깃허브에는 제브의 구조를 본뜬 오픈소스 클론 프로젝트가 6개 이상 등장했고, 로컬 실행 모델과 게임 실시간 제어 데모도 이어졌다.

다만 타입 안전성과 판단의 정확성은 같은 뜻이 아니라는 지적도 함께 나온다. 제브도 잘못된 선택을 할 수 있으므로, 반환된 신뢰도 점수를 기준으로 임계값을 두는 설계가 필요하다는 것이다. 기사에서는 이런 흐름을 빠른 판단을 담당하는 '시스템 1'과 깊은 추론·창작을 맡는 '시스템 2'의 분리로 설명했다. 실시간 라우팅과 모니터링은 가벼운 판단 모델이 처리하고, 복잡한 작업에만 LLM을 호출하는 구조가 새로운 개발 방식으로 논의되고 있다.