본문으로 건너뛰기
OpenAI Decisions API 퍼블릭 베타…GPT-6 Luna 판단을 Responses API보다 최대 10배 빠르게
AI

OpenAI Decisions API 퍼블릭 베타…GPT-6 Luna 판단을 Responses API보다 최대 10배 빠르게

로
김로이 게재 · 읽는 시간 7분 · 조회 0
  1. OpenAI가 Decisions API를 모든 개발자에게 퍼블릭 베타로 공개했습니다.
  2. GPT-6 Luna 기반으로 텍스트와 이미지를 Predicate, Choice, Score 형태로 판단하며, OpenAI는 Responses API보다 최대 10배 빠르다고 설명합니다.
문서와 이미지 입력이 하나의 판단 처리 장치를 거쳐 확률 판단, 선택 분기, 점수 결과의 세 갈래로 나뉘는 모습을 표현한 3D 개념 이미지

OpenAI가 Decisions API를 제한 프리뷰에서 퍼블릭 베타로 확대해 모든 개발자에게 공개했습니다. OpenAI Developers는 한국시간 10월 7일 오전 5시 47분 공개를 알리며, GPT-6 Luna를 Responses API로 호출해 같은 종류의 판단을 시킬 때보다 최대 10배 빠르게 결과를 돌려준다고 설명했습니다.

9월 29일 DevDay에서는 일부 개발자만 들어갈 수 있는 limited preview였습니다. 이번 변화로 선별 접근 단계가 끝났고, POST /v1/decisions 엔드포인트와 gpt-6-luna를 사용해 텍스트와 이미지를 정해진 답 형태로 바로 분류하거나 점수화할 수 있습니다.

DevDay의 제한 프리뷰가 일주일 만에 퍼블릭 베타로 바뀌었습니다

OpenAI 공식 발표 기준 Decisions API 공개 상태 변화
시점 상태 개발자 영향
9월 29일 DevDay Limited preview 선별된 개발자 대상
10월 6일 미국 기준 Public beta 모든 개발자에게 공개

DevDay 발표 당시 안내는 Decisions API를 GPT-6 Luna의 지능을 미리 정한 질문과 유한한 답에 집중시키는 기능으로 소개했습니다. 10월 6일 API 변경 기록에는 이제 v1/decisions가 beta로 출시됐다고 올라왔습니다.

긴 답변 대신 Predicate, Choice, Score를 돌려줍니다

Decisions API는 일반 채팅처럼 자유로운 문장을 쓰는 용도가 아닙니다. 같은 입력을 보고 “이 조건이 맞는가”, “여러 후보 중 무엇을 고를까”, “단계별로 어느 정도인가”처럼 애플리케이션이 바로 사용할 수 있는 값을 반환하는 데 맞춰져 있습니다.

OpenAI API Reference의 세 가지 질문 유형
유형 주요 반환값 예시 용도
predicate 확률 손상 신고인지, 정책 조건에 맞는지 같은 이진 판단
choice 선택값, confidence, 후보별 확률 문의 라우팅, 모델이나 도구 선택
score 점수, confidence, 단계별 확률 심각도, 품질 등급처럼 순서가 있는 평가

공식 API Reference에 따르면 여러 질문을 한 요청에 넣으면 같은 입력을 공유하고, 답은 질문 순서대로 돌아옵니다. 개별 질문은 모델이 답변을 거부하면 refusal을 반환할 수도 있습니다.

실제 호출은 POST /v1/decisions입니다

예를 들어 고객 문의를 결제팀, 기술팀, 계정팀 가운데 어디로 보낼지 고르는 요청은 아래처럼 구성할 수 있습니다. 이 예시는 공식 요청 형식을 한국어 문의에 맞춰 바꾼 입력 예시이며, 실제 호출 결과 수치를 만들어 넣지는 않았습니다.

curl https://api.openai.com/v1/decisions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "model": "gpt-6-luna",
    "input": "결제가 두 번 됐어요. 한 번 취소해 주세요.",
    "questions": [
      {
        "type": "choice",
        "name": "route",
        "instructions": "이 문의를 담당할 팀을 고르세요.",
        "choices": [
          {"value": "billing"},
          {"value": "technical"},
          {"value": "account"}
        ]
      }
    ]
  }'

정상 응답의 answers에는 선택된 값과 confidence, 후보별 확률이 들어갑니다. 자유형 문장을 다시 JSON으로 파싱하는 단계를 줄일 수 있기 때문에 고객 문의 분류, 에이전트의 다음 행동 선택, 여러 모델 중 라우팅처럼 답 공간이 이미 정해진 작업에 직접 맞습니다.

이미지는 받을 수 있지만 파일, 오디오, 함수 호출은 입력이 아닙니다

현재 API 계약은 문자열 또는 사용자 메시지 형태의 텍스트와 인라인 이미지를 받습니다. 이미지 전체 한도는 요청당 128개이며 data URL로 넣어야 합니다. 외부 이미지 URL이나 OpenAI 파일 ID를 바로 넘기는 방식은 지원하지 않습니다.

반대로 비사용자 역할 메시지, 함수 호출과 그 결과, 파일, 오디오, item reference는 Decisions 입력으로 지원되지 않습니다. 일반 Responses API 전체 기능을 더 빠른 엔드포인트로 바꾼 것이 아니라, 분류와 점수화라는 좁은 작업을 별도 API로 잘라낸 것에 가깝습니다.

“최대 10배”는 모든 GPT-6 Luna 작업이 빨라졌다는 뜻이 아닙니다

OpenAI Developers의 발표와 공식 변경 기록은 Decisions API가 같은 판단 작업을 GPT-6 Luna의 Responses API보다 최대 10배 빠르게 처리한다고 설명합니다. 현재 공개 자료에는 이 수치를 재현한 독립 벤치마크나 모든 입력 길이에서의 지연시간 표가 붙어 있지 않습니다.

따라서 이를 “Luna 자체가 10배 빨라졌다”거나 일반 답변 생성, 코딩, 도구 호출까지 10배 빨라졌다는 의미로 넓히면 안 됩니다. 정해진 답 중 하나를 고르거나 점수를 매기는 Decisions API의 전용 경로에 대한 OpenAI의 성능 주장으로 읽는 편이 정확합니다.

가격은 Decisions 전용 표를 확인한 뒤 운영에 넣는 편이 안전합니다

이번 퍼블릭 베타 공지와 Decisions API Reference에는 별도의 Decisions 전용 가격표가 명시돼 있지 않습니다. GPT-6 Luna의 일반 API 가격은 표준 기준 입력 100만 토큰당 0.10달러, 출력 100만 토큰당 0.50달러지만, 이 숫자를 Decisions 호출에도 그대로 적용된다고 단정할 근거는 현재 공개 문서에서 확인하지 못했습니다.

요청 응답의 usage에는 입력 토큰과 전체 토큰, 선택적으로 compute units가 포함될 수 있습니다. 실제 운영 전에는 Platform의 사용량과 청구 내역을 확인하는 편이 안전합니다. 요청 제한도 조직과 프로젝트, 모델별로 달라지며 OpenAI의 rate limits 안내처럼 현재 계정의 Limits 화면에서 확인해야 합니다.

비슷한 “결정 모델”이 늘어나는 가운데 OpenAI도 본격 공개했습니다

답변 문장을 만들지 않고 선택, 점수, 확률을 반환하는 방식 자체는 처음이 아닙니다. Breakinglog가 앞서 다룬 TypeSafe Jev도 같은 종류의 작업을 겨냥했고, 이후 퍼플렉시티와 AWS, Cloudflare에서도 비슷한 접근이 이어졌습니다.

이번 OpenAI 발표의 변화는 GPT-6 Luna 기반 Decisions API가 더 이상 선별 프리뷰에 머물지 않는다는 점입니다. 이미 답 후보가 정해진 라우팅이나 분류를 Responses API의 자유형 출력으로 처리하고 있었다면, 같은 입력으로 Decisions API의 지연시간과 오분류율, confidence 분포를 나란히 비교해 볼 수 있는 단계가 됐습니다.

이 기사, 어땠나요?

의견 남기기