본문으로 건너뛰기
TypeSafe Jev는 답변 대신 판단을 돌려준다: 분류와 라우팅에 쓰는 AI
AI

TypeSafe Jev는 답변 대신 판단을 돌려준다: 분류와 라우팅에 쓰는 AI

로
김로이 게재 · 업데이트 · 읽는 시간 4분 · 조회 40
  1. 문장을 생성하지 않고 선택과 점수, 확률을 돌려주는 Jev의 용도를 설명합니다.
  2. Vercel AI Gateway는 9월 25일까지 한시 무료 프로모션을 안내합니다.
복잡한 자유형 입력이 하나의 AI 처리 장치를 거쳐 세 갈래의 구조화된 판단으로 정리되는 생성 개념 이미지
AI로 제작한 설명용 이미지입니다. 실제 현장 사진이 아닙니다.

TypeSafe의 Jev는 긴 답변을 쓰는 대신 프로그램이 읽을 수 있는 선택과 점수, 확률을 반환합니다. 9월 15일 공식 발표는 이를 System One 모델이라고 소개하며 얼리 액세스를 알렸습니다. 발표 가격은 입력 100만 토큰당 0.042달러이며 출력 토큰은 별도로 과금하지 않는다는 설명입니다.

답의 모양을 먼저 정해놓고 묻습니다

공식 개념 문서는 텍스트 상태를 읽은 뒤 정해진 형태의 값을 돌려준다고 설명합니다. Choice는 여러 선택지, Score는 점수, Noul은 명제의 확률을 다룹니다. 자유로운 답변 문장이나 코드, 긴 추론 설명을 생성하는 용도로 소개된 모델은 아닙니다.

이를 문의 분류에 적용한다고 생각해보세요. “이 고객에게 답장을 써줘”는 문장 생성 작업이고, “이 문의를 결제팀, 기술팀, 계정팀 중 어디로 보낼까”는 선택지가 정해진 판단입니다. 후자의 결과를 코드가 읽고 다음 처리 경로를 고르게 만들 수 있습니다. 아래는 브레이킹로그의 설계 예시이며 실제 API 호출 결과가 아닙니다.

낮은 확신의 결과를 그대로 자동 처리하기보다 재검토 경로로 넘기는 것도 설계의 일부입니다. 어떤 확률부터 자동 처리할지는 업무별 오류 비용과 실제 검증 자료로 정해야 합니다. 모델이 숫자를 반환한다는 이유만으로 임의의 기준을 정답처럼 사용해서는 안 됩니다.

형식이 맞는 답도 내용은 틀릴 수 있습니다

회사 발표의 “환각 없음”은 출력 형식과 타입을 제한한다는 설명과 함께 읽어야 합니다. 공식 문서도 확률 보정이 개별 답의 정확성을 보장하지 않는다고 밝힙니다. 문의가 “결제팀”이라는 유효한 값으로 나왔어도 실제로는 기술팀이 처리해야 할 수 있다는 뜻입니다.

TypeSafe가 공개한 속도와 비용 비교는 회사가 설계한 작업과 측정 조건에 따른 결과입니다. 자신의 서비스에서는 오분류율과 재검토 비율, 응답 지연을 함께 확인해야 채택 여부를 판단할 수 있습니다. 현재 발표만으로 모든 AI 작업에서 더 빠르거나 정확하다고 결론 내리기는 어렵습니다.

지금은 Vercel AI Gateway에서도 접근할 수 있습니다

출시 당시 TypeSafe 자체 API는 얼리 액세스였지만, 9월 16일 Vercel AI Gateway에도 Jev가 추가됐습니다. AI SDK 7.0.105 이상은 실험적 evaluate API를 제공하며 모델 ID는 typesafe-ai/jev입니다. 자체 SDK의 Noul에 대응하는 판단은 Vercel 인터페이스에서 Boolean이라는 이름으로 표시됩니다.

9월 19일 밤 다시 확인한 Vercel 모델 페이지는 입력과 출력을 무료로 표시하며 프로모션 종료일을 9월 25일로 안내합니다. 이 한시 조건은 TypeSafe 직접 경로의 0.042달러 안내와 구분해야 합니다. 종료 뒤 가격과 정확한 종료 시각은 호출 전에 해당 제공자의 안내를 다시 확인하세요. 구현할 때는 먼저 문의 몇 건과 사람이 정한 분류를 준비하고, 모델의 분류와 비교한 뒤 자동 전달 범위를 정하는 편이 좋습니다. 정답 자료 없이 신뢰도 숫자만 보고 업무 전체를 연결하면 잘못된 분류도 빠르게 반복될 수 있습니다.

대표 이미지는 자유형 입력을 구조화된 판단으로 바꾸는 Jev의 개념을 표현한 Breakinglog 생성 이미지입니다. 실제 TypeSafe 제품 화면이나 성능 측정 자료가 아닙니다.

출처 · 참고
  1. https://typesafe.ai/blog/introducing-system-one-models-and-jev
  2. https://docs.typesafe.ai/concepts/system-one
  3. https://vercel.com/changelog/typesafe-ai-jev-now-available-on-ai-gateway
  4. https://vercel.com/ai-gateway/models/jev
기사의 편집과 수정에 대한 책임은 breakinglog에 있습니다. 오류나 추가로 확인할 내용은 알려 주세요. 정정 요청
이 기사, 어땠나요?

의견 남기기