breakinglog
미국 플로리다에서 Claude에 입력된 폭력 위협 문구가 자동 안전 시스템에 잡힌 뒤 사람 검토팀을 거쳐 경찰에 전달됐다는 사건이 확인됐습니다. 현지 수사당국에 따르면 보니타스프링스의 Carli Michelle Heller(30)는 9월 26일 Lee County Sheriff’s Office를 상대로 폭력을 예고하는 내용을 Claude에 입력한 혐의로 체포됐습니다.
이 사건에서 독자에게 중요한 점은 Claude 대화가 직원에게 상시 공개된다는 뜻은 아니지만, 비공개 일기처럼 누구에게도 보이지 않는 공간도 아니라는 것입니다. Anthropic의 현행 Privacy Center는 기본적으로 직원이 소비자 대화에 접근할 수 없다고 설명하면서도, Usage Policy 집행을 위한 안전성 검토가 필요하면 지정된 Trust & Safety 인력이 제한적으로 볼 수 있다고 명시합니다.
자동 탐지 뒤 사람 검토팀이 경찰에 알렸습니다
WBBH의 10월 1일 현지 보도는 체포 보고서를 인용해 Heller가 Claude 채팅에서 폭력 위협으로 해석될 수 있는 문구를 입력했고, AI가 이를 표시한 뒤 사람 검토팀으로 넘겼으며 검토팀이 법 집행기관에 알렸다고 전했습니다. 9월 26일 첫 위협성 입력 뒤 다음 날에도 총기와 관련된 추가 문구가 있었다고 수사당국은 설명했습니다.
TechSpot의 10월 4일 후속 보도에 따르면 Heller는 이후 Claude를 일종의 “diary”처럼 사용했다고 설명한 것으로 전해졌습니다. 현재 그녀는 플로리다주의 서면 폭력 위협 혐의를 받고 있으며, 이는 체포와 기소 단계의 주장으로 유죄 확정과는 다릅니다.
“직원이 기본적으로 읽지 않는다”와 “절대 사람 검토가 없다”는 다른 말입니다
Anthropic의 소비자 데이터 보호 안내는 기본적으로 Anthropic 직원이 Claude.ai 대화에 접근할 수 없다고 설명합니다. 다만 사용자가 피드백을 명시적으로 공유했거나, Usage Policy를 집행하기 위한 검토가 필요한 경우에는 예외가 있습니다. 안전성 검토 때는 지정된 Trust & Safety 인력만 필요 범위에서 접근한다고 명시돼 있습니다.
| 상황 | Anthropic이 공개한 처리 | 독자가 알아둘 점 |
|---|---|---|
| 일반 대화 | 직원은 기본적으로 대화에 접근할 수 없음 | 상시 사람이 읽는 구조라고 볼 근거는 없음 |
| Usage Policy 안전성 검토 | 지정된 Trust & Safety 인력이 필요 범위에서 접근 가능 | 자동 탐지 뒤 사람 검토 경로가 존재함 |
| 긴급한 신체 위해 우려 | 긴급 상황에서 정보 제공이 위해를 막을 수 있다고 판단하면 정부 요청의 일반 원칙에 예외를 둘 수 있음 | 법적 절차만이 유일한 정보 제공 경로는 아님 |
Anthropic의 정부 정보 요청 정책도 일반적으로는 유효한 소환장이나 영장 같은 법적 절차를 요구하지만, 즉각적인 공개가 임박한 신체 위해나 사망을 막을 수 있다고 믿는 긴급 상황에는 예외를 둘 수 있다고 설명합니다. 이번 사건의 구체적인 내부 판단 기준이나 어떤 정보가 경찰에 전달됐는지는 공개 자료만으로 확인되지 않았습니다.
안전성에 걸린 대화는 보관 기간도 달라질 수 있습니다
현재 Anthropic의 소비자 데이터 보관 정책에 따르면 일반적으로 사용자가 대화를 삭제하면 기록에서 즉시 사라지고 백엔드에서는 30일 안에 삭제됩니다. 하지만 Trust & Safety 분류기가 Usage Policy 위반으로 표시한 입력과 출력은 최대 2년, Trust & Safety 분류 점수는 최대 7년 보관할 수 있다고 명시돼 있습니다.
이 숫자가 Heller 사건에 실제로 어떤 식으로 적용됐다는 뜻은 아닙니다. 다만 “채팅에서 지우면 어떤 상황에서도 즉시 모든 기록이 사라진다”는 가정은 현재 공개 정책과 맞지 않습니다. 법적 요구나 Usage Policy 집행에 필요한 경우에도 별도의 보관 예외가 있을 수 있습니다.
모델 학습 동의를 꺼도 안전성 검토 예외는 별개입니다
이번 사건은 최근 추가된 Claude 음성 데이터 모델 학습 동의와도 구분해야 합니다. 음성과 일반 채팅을 모델 개선에 사용할지 선택하는 Privacy 설정은 학습 동의 문제이고, 위험 콘텐츠를 탐지해 Usage Policy를 집행하는 안전성 검토는 다른 경로입니다.
Anthropic의 현행 모델 학습 안내는 Free, Pro, Max 같은 소비자 제품에서 사용자가 일반 모델 개선을 허용한 경우뿐 아니라, 대화가 안전성 검토 대상으로 표시된 경우에도 정책 위반 탐지와 집행 개선을 위해 해당 대화를 사용하거나 분석할 수 있다고 설명합니다. 즉 일반 모델 개선을 꺼두었다는 이유만으로 안전성 검토까지 사라지는 것은 아닙니다.
Claude를 “오프라인 일기”처럼 전제해서는 안 됩니다
이번 사건이 보여주는 범위는 명확합니다. 모든 Claude 대화를 사람이 읽는다는 증거도 아니고, 모든 위험한 표현이 자동으로 경찰 신고로 이어진다는 공개 규칙도 아닙니다. 반대로 자동 안전성 탐지 → 제한된 사람 검토 → 긴급성이 있다고 판단될 때 법 집행기관에 정보가 전달될 수 있는 경로는 실제 사건과 Anthropic의 공개 정책에서 확인됩니다.
개인적인 기록이나 민감한 내용을 AI 채팅에 남길 때는 서비스 사업자가 절대 볼 수 없는 로컬 일기와 같은 수준의 비공개 공간으로 가정하지 않는 편이 안전합니다. 특히 폭력 위협처럼 Usage Policy와 긴급 위해 기준에 닿을 수 있는 내용은 일반 대화와 다른 검토와 보관 경로가 적용될 수 있습니다.
