오픈AI, EU ChatGPT와 Codex 텍스트에 ‘보이지 않는 워터마크’…API는 전세계 선택 적용

오픈AI가 유럽연합(EU)에서 생성되는 대상 ChatGPT와 Codex 텍스트에 보이지 않는 워터마크를 넣습니다. 기술 이름은 textGrain이며, 앞으로 몇 주에 걸쳐 EU의 대상 출력에 적용됩니다. 반면 API 고객은 10월 5일부터 전 세계에서 일부 모델에 이 기능을 선택해 켤 수 있고, API에서는 기본값이 꺼진 상태입니다.

한국 이용자에게 중요한 구분도 있습니다. 이번 발표는 EU의 ChatGPT와 Codex 텍스트를 대상으로 한 지역 적용이며, 오픈AI는 출시 시점에 텍스트 워터마킹을 전 세계 기본값으로 만들지 않는다고 밝혔습니다. 따라서 EU 밖의 일반 ChatGPT와 Codex 텍스트가 이번 발표와 동시에 모두 워터마크된다고 보면 안 됩니다.

숨은 문자 대신 ‘단어 선택’에 통계적 신호를 넣습니다

오픈AI의 10월 5일 공식 발표에 따르면 textGrain은 모델이 다음 단어나 단어 조각을 고르는 과정에 보이지 않는 통계적 신호를 넣습니다. 화면에 숨은 문자, 보이지 않는 공백이나 특수 문장부호를 붙이는 방식이 아닙니다.

워터마크가 문구 자체의 선택 패턴에 들어가므로 복사해 다른 문서에 붙여도 신호가 남을 수 있습니다. 다만 텍스트를 많이 고치거나 번역하면 탐지가 약해질 수 있어, 오픈AI도 이를 ‘AI가 쓴 글을 완벽하게 판별하는 도구’로 설명하지 않습니다.

긴 글일수록 잘 잡히지만, 조금만 고쳐도 탐지율이 크게 떨어질 수 있습니다

오픈AI 자체 평가에서 목표 오탐률을 1%로 맞췄을 때, 심리학처럼 표현 선택의 자유가 있는 내용은 200토큰 문단에서 약 80%, 400토큰 문단에서 약 95%의 워터마크를 탐지했습니다. 반대로 수학처럼 표현 선택이 제한된 내용은 탐지율이 훨씬 낮았습니다.

편집의 영향은 더 큽니다. 400토큰 영어 문단 실험에서 원문 탐지율은 약 92%였지만, 단어의 10%를 동의어로 바꾸자 약 66%로 떨어졌고 25%를 바꾸면 약 17%까지 내려갔습니다. 이 수치는 특정 실험 조건의 결과이므로 모든 언어와 모든 문장에 그대로 적용되는 보장 수치가 아닙니다.

textGrain 기술 보고서는 비밀 키와 문맥에서 만든 난수를 이용해 토큰 선택에 통계적 의존성을 만들고, 탐지기가 텍스트와 키만으로 그 신호를 검사하는 구조를 설명합니다. 오픈AI는 향후 이 기술을 오픈소스로 제공할 계획도 밝혔습니다.

워터마크가 검출돼도 ‘누가 썼는지’는 알 수 없습니다

오픈AI는 워터마크가 알려주는 범위를 명확히 제한했습니다. 신호가 검출되면 OpenAI 시스템이 문장의 일부를 생성하거나 처리했을 가능성을 보여줄 수 있지만, 사용자의 신원, 계정, 프롬프트나 대화 내용을 연결하지는 않습니다.

또 워터마크는 글의 소유권이나 책임 소재를 판정하지 않고, 내용이 사실인지도 검증하지 않습니다. 사람이 얼마나 고쳤는지도 측정하지 못합니다. 반대로 워터마크가 검출되지 않았다고 해서 사람이 직접 썼다는 뜻도 아닙니다. 글이 너무 짧거나 많이 수정되거나 번역됐거나, 지원하지 않는 모델에서 만들어졌을 수 있기 때문입니다.

일반 사용자는 지금 워터마크를 직접 검사할 수 없습니다

오픈AI는 이미지와 오디오의 공개 검증 도구와 달리, textGrain 탐지기는 출시 시점에 공개하지 않습니다. 오탐과 미탐 위험 때문에 승인된 연구자와 전문기관이 신청하는 방식으로 먼저 운영하고 실제 환경에서 신뢰도를 평가하겠다는 설명입니다.

OpenAI 도움말에서도 텍스트 워터마크는 EU의 ChatGPT 텍스트에 적용되는 출처 신호로 구분합니다. EU 사용자는 앞으로 몇 주 동안 적용 범위가 넓어지는지를 확인하면 되고, API 개발자는 자신이 쓰는 모델이 선택 적용 대상인지 공식 API 안내에서 확인해야 합니다.

이번 변화는 ‘ChatGPT 글이면 어디서든 완벽하게 잡아낼 수 있다’는 발표가 아닙니다. EU 규정에 맞춰 기계 판독 가능한 출처 신호를 넣되, 편집과 짧은 글에서 탐지가 무너질 수 있다는 한계를 함께 공개한 것이 핵심입니다.