OpenAI 출신 연구자 Diogo Almeida가 세운 TypeSafe AI는 이번 주 새 트랜스포머 기반 모델 Jev를 공개했다. Jev는 일반적인 대규모 언어 모델처럼 문장을 생성하지 않는다. 대신 확률값, 즉 회사 표현으로는 ‘calibrated decisions’를 출력한다. Almeida는 기존 AI가 사람의 언어에는 강하지만 자동화에는 맞지 않았다고 보고, 컴퓨터가 쓰는 방식에 더 가까운 모델을 만들려 했다고 말했다.
이 접근은 몇 가지 차이를 만든다. 텍스트를 생성하지 않기 때문에 Jev는 매우 저렴하고 빠르다고 회사는 설명했다. 또 사용자가 출력값을 미리 정의하기 때문에 환각이 발생하지 않는다고 밝혔다. 출력 토큰은 무료이고, 입력 토큰은 백만 단위가 아니라 십억 단위로 과금된다는 점도 함께 제시됐다.
초기 반응은 특히 소프트웨어 자동화 영역에서 나타났다. 수요가 몰리며 한때 API로 사용자를 처리하지 못할 정도였다고 한다. Vercel의 소프트웨어 엔지니어 Pranit Sharma는 명령의 안전성을 검토하는 분류기에 Jev를 적용했을 때, 기존에 쓰던 OpenAI의 ChatGPT Luna 5.6보다 5배에서 18배 더 빠르고 정확도도 높았다고 말했다. Bryo AI CTO Nikhil Mudholkar는 비즈니스 이메일 분류 테스트에서 Gemini가 약간 더 정확했지만 비용은 10배에서 20배 더 높았다고 전했다.