본문으로 건너뛰기
마이크로소프트, ‘선택만 하는 AI’ Decision-1 출시…입력 100만 토큰 0.042달러
AI

마이크로소프트, ‘선택만 하는 AI’ Decision-1 출시…입력 100만 토큰 0.042달러

로
김로이 게재 · 읽는 시간 6분 · 조회 0
  1. 마이크로소프트가 대답을 생성하는 대신 정해진 선택지에 확률 점수를 주는 Decision-1을 출시했습니다.
  2. Foundry 출시와 OpenRouter 제공 상태, 가격, 자체 벤치마크와 실제 사용 시 주의점을 정리했습니다.
Microsoft Decision-1 결정 모델의 개념 이미지. 미리 정한 세 가지 선택지에 76%, 18%, 6%의 가상 확률 점수를 보여주는 설명용 그래픽.

마이크로소프트가 10월 9일, AI 에이전트의 다음 행동을 빠르게 고르도록 설계한 ‘Microsoft-Decision-1’을 공개했습니다. 일반 챗봇처럼 답변 문장을 생성하지 않고 미리 정한 선택지에 확률 점수를 매기는 모델입니다. Microsoft Foundry와 OpenRouter에서 제공됩니다. 마이크로소프트의 10월 9일 공식 발표에는 두 플랫폼의 시작 경로가 연결돼 있으며, OpenRouter 모델 페이지에도 실제 제공자(Azure)의 가동률이 표시돼 있습니다. 공식 발표 가격은 입력 100만 토큰당 0.042달러, 출력 토큰 무료입니다.

AI 에이전트를 만드는 개발자에게는 작은 결정마다 큰 언어 모델을 부르지 않아도 되는 새로운 선택지가 생겼습니다. 다만 마이크로소프트가 제시한 속도와 정확도 수치는 자사 평가 결과이므로 실제 서비스에서는 따로 측정해야 합니다.

무엇이 달라졌나: 답변 생성 대신 ‘정해진 보기’를 평가합니다

예를 들어 고객 문의를 처리하는 에이전트가 “환불 규정을 검색할지, 배송 상태를 조회할지, 상담원에게 넘길지”를 결정해야 한다고 가정해 보겠습니다. 기존 방식에서는 대형 언어 모델에 상황을 설명하고 다음 행동을 문장으로 답하게 할 수 있었습니다.

Decision-1은 보기 자체를 먼저 전달합니다. 그러면 각 보기에 확률 점수를 매겨 구조화된 결과를 돌려줍니다. ‘환불 정책 검색 0.75, 배송 조회 0.20, 상담원 연결 0.05’와 같은 결과는 동작 원리를 설명하기 위한 가상 예시이며, 실제 모델에서 측정한 출력이 아닙니다.

개발자는 점수가 높은 선택지를 자동 실행할 수도 있고, 점수가 충분하지 않으면 사람에게 넘기도록 규칙을 만들 수도 있습니다. 이때 무엇을 자동으로 실행할지와 사람이 검토할 기준은 애플리케이션이 정합니다. 모델의 확률이 실제 정답을 보장하는 것은 아닙니다.

기존 모델과 다른 점: Qwen3.5-9B를 결정용으로 추가 학습

마이크로소프트에 따르면 Decision-1은 알리바바의 오픈 웨이트 모델 Qwen3.5-9B를 추가 학습해 만들었습니다. 한 번의 모델 처리로 고정된 선택지들을 평가하도록 최적화했으며, 예 또는 아니요 판단, 여러 보기 분류, 점수 평가, 다른 AI의 답변 검토 등에 사용할 수 있습니다.

지원 입력은 텍스트이며 Microsoft Foundry 모델 카탈로그의 컨텍스트 창은 32,768토큰, 출력 형식은 JSON으로 표시됩니다. 이미지, 오디오, 영상은 직접 입력받지 않으며, 대화, 요약, 번역, 자유로운 설명 생성용 모델도 아닙니다.

이런 ‘의사결정 모델’은 앞서 등장한 TypeSafe의 Jev 모델과 같은 문제를 겨냥합니다. 두 모델이 완전히 동일하다는 뜻은 아닙니다. 어떤 선택지를 평가하고 어느 지점에서 사람이 개입할지를 제품별로 따져야 합니다.

가격과 이용 위치: Microsoft Foundry와 OpenRouter에서 확인

항목 10월 10일 확인 내용
이용 위치 Microsoft Foundry와 OpenRouter에서 모델 제공. 지역과 계정별 배포 조건은 별도 확인
입력 요금 100만 토큰당 0.042달러(공식 발표 기준)
출력 요금 무료(공식 발표 기준)
입출력 형식 텍스트 입력, 구조화된 JSON 출력
사용 목적 분류, 우선순위, 에이전트 다음 행동 선택 및 결과 평가

마이크로소프트의 Foundry 모델 카탈로그에는 일반 제공(GA)로 표시돼 있지만, 회사의 별도 소개 글은 공개 미리보기(public preview)라고 안내합니다. OpenRouter 모델 페이지에는 Azure 제공자와 실제 가동률이 표시돼 있어 모델 목록만 존재하는 상태와는 다릅니다. 다만 저희가 특정 이용자의 API 키로 직접 호출해 본 것은 아닙니다. 이용하려면 각 플랫폼의 계정과 서비스 설정이 필요하며, 사용 가능 지역과 계약 조건, 실제 청구 항목은 본인 계정에서 확인해야 합니다.

“GPT-6 Sol보다 35배 빠르다”는 무엇을 뜻할까?

마이크로소프트는 자체 평가에서 36개 벤치마크, 약 15만 개 문항을 비교했다고 밝혔습니다. 이 평가에서 Decision-1이 가장 높은 정확도를 기록하고, 중앙값 지연 시간(P50)은 GPT-6 Sol보다 약 35배, 다른 결정 모델인 H2O-Lightning-4B v1.1보다 2.5배 빨랐다고 주장했습니다.

이는 일반 대화나 코딩에서 GPT-6 Sol보다 35배 빠르다는 뜻이 아닙니다. 정해진 보기에 점수를 매기는 특정 작업에서 마이크로소프트가 측정한 비교입니다. 벤치마크와 테스트 구성에 따라 결과가 달라질 수 있고, 독립 기관이 같은 수치를 재현했는지는 확인되지 않았습니다.

실제로 어디에 쓰고, 무엇을 주의해야 할까?

대화형 AI가 질문을 이해하고 답을 만든 뒤, 에이전트가 검색 도구를 다시 호출할지 사람에게 넘길지 결정하는 지점이 대표적인 적용 사례입니다. 고객 문의 분류, 검색 결과 관련성 평가, AI가 생성한 답변의 기준 충족 여부 검사에도 사용할 수 있습니다.

다만 Foundry 안내는 신용, 채용, 주거, 보험, 교육, 의료, 법적 권리처럼 사람에게 중대한 영향을 주는 판단의 유일한 자동 결정자로 이 모델을 사용하지 말라고 명시합니다. 개발자는 선택지의 적절성, 신뢰도 기준, 오류 발생 시 처리와 사람의 감독 절차를 별도로 설계해야 합니다.

결국 이번 출시의 변화는 AI가 모든 답을 더 잘 쓰게 됐다는 데 있지 않습니다. AI 에이전트가 작업 중 반복하는 작은 선택을 별도 모델에 맡길 수 있다는 것입니다. 개발자는 자신의 업무에서 속도와 비용 절감이 실제로 나타나는지, 낮은 확신의 결정을 안전하게 처리할 수 있는지부터 확인하는 편이 좋습니다.

자료: Microsoft 공식 발표(2026년 10월 9일), Microsoft Foundry 모델 카탈로그, OpenRouter 모델 페이지. 가격과 제공 범위는 2026년 10월 10일 확인 기준입니다.

이 기사, 어땠나요?

의견 남기기