breakinglog
Bloomberg가 9월 18일 보도한 미 국방부 내부 조사 내용에서, 지난 2월 이란 미나브의 샤자레 타예베 초등학교를 타격한 사건에 낡은 정보와 AI 시스템에 대한 과신이 함께 영향을 줬다는 분석이 나왔습니다. 당시 학교에는 미군 토마호크 미사일이 떨어졌고, Bloomberg 보도 기준 150명 이상이 숨졌으며 어린이 123명이 포함됐습니다.
중요한 점은 이번 보도가 “AI가 스스로 학교를 골라 미사일을 발사했다”는 뜻은 아니라는 것입니다. Bloomberg 보도를 인용한 Anadolu Agency에 따르면 일부 미 중부사령부 인력은 Palantir의 Maven Smart System이 오래되거나 서로 충돌하는 정보를 자동으로 걸러낼 것으로 기대했습니다. 하지만 미군 데이터베이스에는 이미 학교로 쓰이던 건물이 여전히 이란 혁명수비대 시설로 남아 있었고, 오래된 위성 자료도 문제로 지목됐습니다.
문제는 AI 하나보다 ‘AI가 잡아주겠지’라는 절차였습니다
미 국방부가 공개한 Maven 설명을 보면 이 시스템은 센서 데이터를 모으고 알고리즘을 적용해 군사 표적 식별과 타격 판단을 돕고, 지휘 체계의 승인 과정도 지원합니다. 즉 단순 검색 도구가 아니라 실제 타격 의사결정 흐름에 들어가는 AI 기반 지원 시스템입니다.
그렇다고 사람 검증이 빠지는 구조로 설명돼 있지는 않습니다. 미 국방부가 공개한 2025년 연구 자료는 Maven 사용자가 AI가 잡아낸 이미지를 직접 확인하고, 다른 센서와 정보원을 교차 확인해 표적을 검증해야 한다고 설명합니다. 이 자료는 오탐이 발생할 수 있다는 점도 명시합니다.
| 확인된 내용 | 확대하면 안 되는 해석 |
|---|---|
| 낡은 정보와 AI 시스템에 대한 과도한 신뢰가 내부 조사에서 문제로 지목됨 | AI가 독자적으로 타격을 결정했다는 뜻은 아님 |
| Maven은 표적 식별과 타격 의사결정을 지원하는 시스템 | Palantir 소프트웨어 자체 결함이 확인됐다는 뜻은 아님 |
| 사람이 최종 자료를 확인하고 교차 검증해야 하는 절차가 존재 | AI 결과가 자동으로 사실 검증을 끝낸다는 뜻은 아님 |
학교가 왜 표적 목록에 남았는지도 이전부터 문제였습니다
Washington Post는 지난 3월 해당 학교 건물이 미군 표적 목록에서 공장 또는 무기 저장소로 잘못 분류됐을 가능성을 보도했습니다. 학교는 과거 이란 혁명수비대 해군 시설 일부였지만 수년 전 벽과 별도 출입구가 생겨 민간 학교로 분리됐고, 당시 보도에서도 오래된 표적 데이터가 현실 변화를 따라가지 못했을 가능성이 제기됐습니다.
Palantir는 Bloomberg에 자사가 기초 정보 자체나 정보 결함을 찾아내는 책임을 지는 것은 아니며, Maven 소프트웨어가 이번 타격에서 오작동했다는 증거는 없다고 밝혔습니다. 따라서 지금 확인된 문제를 “Palantir AI가 학교를 폭격했다”로 줄이면 정확하지 않습니다.
AI가 빨라질수록 오래된 데이터도 더 빨리 실행될 수 있습니다
이번 사건이 보여주는 위험은 AI가 틀린 답을 냈다는 한 문장보다 더 구체적입니다. 표적 목록을 만드는 시간이 몇 시간에서 몇 분으로 줄어들수록, 입력 데이터가 오래됐거나 사람이 “시스템이 알아서 걸러주겠지”라고 믿으면 잘못된 정보가 훨씬 빠른 속도로 실제 결정에 연결될 수 있습니다.
Bloomberg는 사건 뒤 Maven이 기초 정보를 다시 검토해 표적 제외 사유나 정보 불일치를 찾는 기능을 강화했다고 보도했습니다. 다만 국방부의 전체 내부 조사 보고서는 공개되지 않았고, 미국 정부가 이번 타격의 책임을 공식적으로 인정한 것도 아닙니다. 현재 단계에서 가장 정확한 결론은 AI의 자동 판단 자체보다 오래된 데이터, 사람의 검증 실패, AI에 대한 과도한 신뢰가 한꺼번에 겹친 사례로 조사됐다는 것입니다.
