breakinglog
독일 Aleph Alpha가 10월 3일 새 언어 모델 ‘Kolibri’를 오픈웨이트로 공개했습니다. 영어와 독일어에 맞춘 Mixture-of-Experts 모델로 전체 78.1B 파라미터 가운데 토큰당 3.46B가 활성화되며, 최대 100만 토큰 컨텍스트와 none, low, medium, high 네 단계 reasoning을 지원합니다. 전체 가중치는 Hugging Face에서 내려받을 수 있고 라이선스는 Apache 2.0입니다.
개발자에게 중요한 변화는 API로만 쓰는 폐쇄형 모델이 아니라 자체 인프라에 올릴 수 있는 모델이 하나 더 생겼다는 점입니다. 다만 ‘토큰당 3B대만 활성화된다’는 설명을 3B급 로컬 모델로 받아들이면 안 됩니다. Aleph Alpha가 제시한 모델 메모리 요구량은 FP8 기준 약 78GB이고, 공식 최소 하드웨어도 H200, B200, B300 한 장 또는 A100 80GB, H100 SXM5 두 장급입니다.
78B 전체, 토큰당 3.46B 활성…100만 토큰은 ‘지원’ 범위입니다
| 항목 | Kolibri |
|---|---|
| 구조 | Mixture-of-Experts, 전체 78.1B |
| 토큰당 활성 파라미터 | 3.46B |
| 언어 | 독일어, 영어 |
| 컨텍스트 | 최대 1,048,576 토큰 지원, 공식 권장은 262,144 토큰 |
| Reasoning | none, low, medium, high |
| 도구 호출 | 지원 |
| 지식 기준일 | 영어와 독일어 모두 2026년 6월 18일 |
| 라이선스 | Apache 2.0 |
Aleph Alpha의 기술 공개 글에는 100만 토큰을 쓸 수 있다고 적혀 있지만, 학습 길이와 운영 권장값은 구분해서 볼 필요가 있습니다. 표에 따르면 사전학습 기본 컨텍스트는 16,384 토큰, 가장 긴 학습 길이는 262,144 토큰이며 100만 토큰으로 서빙하려면 별도 max_position_embeddings 설정을 사용합니다. 따라서 ‘100만 토큰으로 학습한 모델’이라고 표현하는 것보다는 최대 100만 토큰까지 확장해 사용할 수 있는 모델이라고 보는 편이 정확합니다.
오픈웨이트지만 일반 PC용 경량 모델은 아닙니다
Kolibri 공식 모델 페이지와 Hugging Face FP8 모델 카드는 모델 메모리 요구량을 약 78GB로 안내합니다. 최소 구성으로는 2×A100 80GB, 2×H100 SXM5, 1×H200, 1×B200 또는 1×B300을 제시합니다. 즉 MoE 구조에서 매 토큰에 3.46B만 활성화되더라도 전체 가중치를 메모리에 올리는 비용까지 3B 모델 수준으로 줄어드는 것은 아닙니다.
공식 설치 경로는 Aleph Alpha의 vLLM 플러그인을 포함한 aleph-alpha-inference 패키지를 쓰는 방식입니다. 회사가 공개한 최소 명령은 다음과 같습니다.
pip install "aleph-alpha-inference>=1.0"
vllm serve Aleph-Alpha/Kolibri-1 --kv-cache-dtype fp8 \
--reasoning-parser kolibri1 \
--tool-call-parser kolibri1 \
--enable-auto-tool-choice262,144 토큰을 넘겨 100만 토큰까지 쓰려면 --max-model-len 1048576과 Hugging Face 설정 오버라이드를 추가해야 합니다. 실제 메모리 사용량과 처리 속도는 하드웨어, KV 캐시, 컨텍스트 길이에 따라 달라지므로 ‘3B 활성’ 숫자만으로 운영 비용을 판단하기는 어렵습니다.
Aleph Alpha가 강조한 건 성능보다 ‘소버린 AI’입니다
Aleph Alpha는 Kolibri를 공공 행정과 산업처럼 규제가 강한 환경을 겨냥한 모델로 설명합니다. 회사는 데이터 수집과 정제부터 사전학습과 후학습, 최종 평가까지 자체 파이프라인을 통제했으며, 고객이 내부 데이터를 제3자 추론 서비스로 보내지 않고 자체 인프라에서 운용할 수 있다는 점을 강조합니다.
이 때문에 이번 공개는 단순히 ‘독일산 새 LLM’보다 가중치를 직접 내려받아 규제 환경의 자체 인프라에 배치할 수 있는 독일어 중심 모델이라는 점에서 의미가 있습니다. Apache 2.0은 상업적 사용과 수정에 비교적 넓은 권한을 주지만, 실제 조직 배포에서는 모델 라이선스 외에도 데이터 처리, 보안, 현지 규정을 별도로 확인해야 합니다.
벤치마크는 아직 회사 측 수치로 봐야 합니다
Aleph Alpha는 자사 페이지에서 Qwen3.6 35B-A3B, Mistral Small 4, Nemotron 3 Super 등과 Kolibri를 비교했습니다. 결과는 한쪽으로만 기울지 않습니다. 예를 들어 Tau2 Telecom과 Retail, BFCL에서는 Qwen3.6이 더 높고, Tau2 Airline과 Tau3 Banking에서는 Kolibri가 더 높게 제시됩니다. 수학과 독일어 평가에서도 Kolibri가 앞서는 항목과 뒤지는 항목이 섞여 있습니다.
현재 공개된 숫자는 Aleph Alpha가 제시한 평가 결과이므로 독립 재현 결과와 구분해야 합니다. 반대로 지금 바로 확인할 수 있는 것은 더 명확합니다. 전체 가중치와 Apache 2.0 라이선스가 공개됐고, 공식 vLLM 실행 경로와 하드웨어 요구사항이 문서화됐으며, 모델은 10월 3일부터 내려받을 수 있습니다.
