본문으로 건너뛰기
퍼플렉시티, Decisions API 출시…답변 대신 확률 반환, 입력 100만 토큰 0.04달러
AI

퍼플렉시티, Decisions API 출시…답변 대신 확률 반환, 입력 100만 토큰 0.04달러

로
김로이 게재 · 읽는 시간 3분 · 조회 1
  1. 퍼플렉시티가 텍스트 답변 대신 선택지별 확률을 반환하는 Decisions API를 공개했습니다.
  2. pplx-decider-v1-27b를 사용하며 입력 가격은 100만 토큰당 0.04달러입니다.
이미지 입력이 AI 판단 모델을 거쳐 세 개의 예시 확률 선택지로 나뉘는 구조를 표현한 3D 개념 이미지

퍼플렉시티가 자유로운 문장을 생성하는 대신, 미리 정한 선택지의 확률을 돌려주는 Decisions API를 공개했습니다. 공식 문서 기준 가격은 입력 100만 토큰당 0.04달러이며 출력 토큰은 무료입니다. 분류, 라우팅, 평가처럼 “무엇을 쓸지”보다 “어느 쪽인지”를 정해야 하는 작업을 겨냥한 API입니다.

대표 이미지의 0.72, 0.19, 0.09 값은 구조를 설명하기 위한 예시이며 실제 API 호출이나 벤치마크 결과가 아닙니다.

채팅 답변이 아니라 바로 쓸 수 있는 확률을 반환합니다

퍼플렉시티 공식 문서는 Decisions API를 “텍스트 대신 확률로 답하는” API로 설명합니다. 입력인 state에는 텍스트, JSON, 이미지를 넣을 수 있고, 같은 입력에 여러 질문을 붙여 한 번에 판단할 수 있습니다.

질문 유형 돌려주는 값 예시 용도
noul 예/아니오 확률 정책 위반 여부처럼 이진 판단
choice 각 선택지 확률과 가장 유력한 선택지 문의 라우팅이나 카테고리 분류
score 순서가 있는 단계별 확률과 기대 점수 심각도나 품질 등급 평가

현재 API에서 쓰는 모델은 pplx-decider-v1-27b 하나입니다. 엔드포인트는 POST https://api.perplexity.ai/v1/decisions이며 기존 Perplexity API 키를 Bearer 방식으로 보냅니다. 한 요청에는 최대 128개 질문을 넣을 수 있고, 전체 입력은 262,144토큰 미만이어야 합니다.

Jev와 같은 ‘결정 모델’ 흐름, 퍼플렉시티 API에 들어왔습니다

이 방식은 기존 채팅 모델에게 “셋 중 하나를 골라 JSON으로 답해”라고 시킨 뒤 문자열을 다시 파싱하는 것과 다릅니다. 모델 자체가 정해진 답 공간의 확률을 반환하므로 애플리케이션이 임계값을 걸거나 두 번째 후보까지 비교하기 쉽습니다. 반대로 답변 문장 작성, 코드 생성, 판단 이유 설명이 목적이라면 Decisions API가 아니라 일반 생성 모델이 맞습니다.

비슷한 접근은 앞서 TypeSafe Jev에서도 등장했습니다. 이번 변화의 핵심은 퍼플렉시티가 같은 종류의 판단 작업을 자사 API 제품군에 직접 추가했다는 점입니다.

공개 모델 카드의 종합 점수는 85.71%입니다

퍼플렉시티가 공개한 모델 카드에 따르면 pplx-decider-v1-27b는 Qwen3.8-27B를 미세조정한 모델이며 Apache-2.0 라이선스로 공개됐습니다. 퍼플렉시티 API로 측정한 11개 벤치마크 종합 점수는 85.71%로, 같은 표의 Jev 84.51%, 원본 Qwen3.8-27B 74.76%보다 높았습니다.

다만 모든 항목에서 앞선 것은 아닙니다. 예를 들어 WinoGrande와 BBH, JevBench public hard 등에서는 Jev 점수가 더 높습니다. 따라서 85.71%는 퍼플렉시티가 공개한 특정 11개 벤치마크의 종합 수치로 읽어야 하며, 모든 판단 작업에서 우월하다는 뜻은 아닙니다.

가격은 입력 100만 토큰당 0.04달러

공식 문서상 Decisions API는 입력 100만 토큰당 0.04달러이고 출력 토큰에는 별도 비용이 없습니다. 조직당 요청 제한은 모든 플랜에서 초당 10회이며, 큰 버스트에는 별도의 토큰 제한도 적용됩니다.

결국 이번 API는 “좋은 문장을 써주는 모델”을 하나 더 내놓은 것이 아니라, 기존 서비스 안에서 분류, 라우팅, 점수화처럼 반복되는 판단을 확률값으로 바로 받는 선택지를 추가한 변화입니다. 같은 입력을 여러 기준으로 동시에 판정해야 하는 서비스라면 특히 차이가 분명합니다.

출처 · 참고
  1. https://x.com/yulmu_coffee/status/2105815446524219459
  2. https://docs.perplexity.ai/docs/decisions/quickstart
  3. https://huggingface.co/perplexity-ai/pplx-decider-v1-27b
기사의 편집과 수정에 대한 책임은 breakinglog에 있습니다. 오류나 추가로 확인할 내용은 알려 주세요. 정정 요청
이 기사, 어땠나요?

의견 남기기