본문으로 건너뛰기
마이크로소프트 AI 칩 Maia 300 공개…2027년 코파일럿 주력 인프라로 전환
AI

마이크로소프트 AI 칩 Maia 300 공개…2027년 코파일럿 주력 인프라로 전환

로
김로이 게재 · 읽는 시간 5분 · 조회 2
  1. 마이크로소프트가 자체 AI 칩 Maia 300을 공개하고 2027년부터 AI 서비스의 주력 추론 인프라로 확대합니다.
  2. 전력당 토큰 처리량 40% 향상과 랙 처리량 7배는 회사 측 전망이며 지금 이용자 요금이나 속도가 바뀌는 것은 아닙니다.
마이크로소프트 Maia 300 AI 칩 2027년 배치 계획과 랙당 가속기 96개, 167킬로와트, 전력당 토큰 처리량 40% 향상이라는 회사 자체 전망을 요약한 그래픽

마이크로소프트가 차세대 자체 AI 칩 ‘Maia 300’을 공개하고, 2027년부터 코파일럿을 비롯한 자사 AI 서비스의 핵심 추론 인프라로 확대하겠다고 발표했습니다. 회사는 주요 GPU 기반 시스템과 비교해 같은 전력으로 처리하는 토큰이 40% 많을 것으로 예상합니다. 다만 지금 코파일럿이 새 칩으로 전환됐다는 뜻은 아닙니다.

이번 발표는 2026년 10월 12일 나온 계획입니다. 마이크로소프트는 공식 블로그에서 2027년부터 Azure Maia를 수 기가와트 규모로 확장하고, Maia 제품군을 자사 제품과 서비스의 주력 AI 추론 시스템으로 삼겠다고 설명했습니다. 추론은 AI 모델을 새로 학습하는 작업이 아니라, 사용자의 질문을 받아 답변을 만들어 내는 과정입니다.

지금 쓰는 코파일럿도 바로 바뀌나요?

아닙니다. 마이크로소프트가 현재 실제 서비스에 배치했다고 밝힌 제품은 이전 세대인 Maia 200입니다. 이 칩은 마이크로소프트 코파일럿과 내부 모델 개발 작업을 처리하고 있고, GitHub Copilot과 Microsoft Foundry 등으로 사용 범위를 넓히는 단계입니다.

반면 Maia 300은 2027년부터 실제 운영 환경에 배치할 예정입니다. 개인 사용자가 칩을 구매하거나 별도의 설정을 바꾸는 신제품이 아닙니다. 서비스 뒤편의 데이터센터가 바뀌는 것이어서 코파일럿, GitHub Copilot 사용자는 향후 제공자가 실제로 적용할 때 영향을 받게 됩니다. 일반 이용자의 요금, 메시지 한도, 답변 속도가 언제 얼마나 달라지는지는 아직 발표되지 않았습니다.

‘40%’와 ‘7배’는 무엇을 비교한 숫자인가요?

마이크로소프트가 제시한 두 숫자는 비교 기준부터 다릅니다. 40%는 주요 GPU 기반 시스템에 비해 전력 1메가와트당 생성하는 토큰의 예상 증가율입니다. 특정 코파일럿 질문의 답변 속도가 40% 빨라진다는 주장이 아닙니다. 회사는 비교에 사용한 개별 GPU 시스템과 워크로드별 상세 조건을 공개하지 않았습니다.

최대 7배는 Maia 300 칩 96개를 넣은 전체 랙에서 처리하는 토큰량을 Maia 200 랙과 비교한 회사 측 수치입니다. Maia 300 랙은 가속기 수가 이전 세대보다 두 배이므로, 이 결과를 칩 한 개가 7배 빨라졌다는 뜻으로 읽으면 안 됩니다. 마이크로소프트 기술 설명은 랙 전체의 성능과 전력 효율을 구분해 제시하고 있습니다.

항목 마이크로소프트 발표 내용
실서비스 도입 2027년부터 Maia 300 배치 예정
전력 효율 주요 GPU 기반 시스템 대비 토큰/메가와트 40% 증가 예상
랙 처리량 96개 가속기 구성에서 Maia 200 랙 대비 최대 7배
칩 메모리 HBM4 288GB, 최대 18TB/s 대역폭
랙 구성 가속기 96개, 랙 전체 전력 167kW

표의 수치는 10월 12일 공개된 마이크로소프트 자료를 기준으로 합니다. 독립 기관이 같은 조건에서 모든 시스템을 비교한 성능 평가 결과는 아닙니다.

왜 AI 칩에 메모리와 전력 이야기가 중요한가요?

긴 문서 여러 개를 읽거나 여러 도구를 연속으로 호출하는 AI 에이전트는 계산 능력만큼 메모리 용량과 데이터 이동 속도의 영향을 받습니다. 이전 대화 내용을 유지하는 데 필요한 정보를 저장하고 불러오는 시간이 커지기 때문입니다. 마이크로소프트는 Maia 300을 긴 컨텍스트 추론, 빠른 대화 응답, 오랫동안 이어지는 다단계 에이전트 작업에 맞췄다고 설명합니다.

Maia 300의 가속기 한 개에는 HBM4 메모리 288GB와 최대 18TB/s 대역폭이 제공되며, 칩의 열설계전력은 950W입니다. 계산 담당 칩렛에는 TSMC N2P 공정을 활용하고 메모리 제어와 입출력 역할을 분리했습니다. 메모리에 있는 데이터를 계산 장치로 옮기는 비용을 줄여 같은 전력에서 더 많은 AI 요청을 처리하려는 설계입니다.

랙 한 대에는 가속기 96개와 약 27.6TB의 HBM 메모리가 들어갑니다. 마이크로소프트는 여러 랙을 묶어 최대 1만 2,288개 가속기를 하나의 고속 연결 영역에서 운영하는 구상도 공개했습니다. 다만 로이터도 보도했듯, 이는 클라우드 운영에 필요한 전력과 장비 비용을 줄이려는 전략이지 사용자의 AI 구독료 인하를 확정한 발표는 아닙니다.

엔비디아 GPU를 이제 사용하지 않는다는 뜻인가요?

마이크로소프트가 자체 칩의 비중을 높이려는 것은 맞지만, 엔비디아와 AMD의 GPU를 전면 교체한다고 발표한 것은 아닙니다. 실제 서비스에는 서로 다른 모델과 작업이 존재하고, 마이크로소프트 역시 다양한 칩과 모델을 함께 사용하는 인프라 전략을 설명하고 있습니다.

따라서 현재 사용자가 확인할 핵심은 새 칩의 성능 수치보다 실제 배치가 2027년에 시작된다는 일정입니다. 이후 코파일럿이나 Azure 상품의 요금, 이용 가능 지역, 제공 한도, 서비스별 성능 변화가 별도로 발표되는지 확인해야 합니다.

이 기사, 어땠나요?

의견 남기기