샘 올트먼 “AI에 종교적 권위 부여와 판단 위임은 안전 문제”…앤트로픽 논의 직후 경고

오픈AI CEO 샘 올트먼이 10월 3일 AI 모델에 종교적 권위를 부여하거나 인간의 판단을 모델에 넘기는 일을 “실질적 안전 문제”라고 공개 경고했습니다. 제품 기능이나 요금제가 바뀐 것은 아니지만, 사람이 AI를 얼마나 권위 있는 판단 주체로 대해야 하는지를 프론티어 AI 회사 최고경영자가 안전 문제로 직접 규정했다는 점이 새롭습니다.

올트먼은 X 게시물에서 사람들이 AI 모델에 “religious force”를 부여하거나 인간 판단을 넘기려는 데 매우 불편함을 느낀다고 밝혔습니다. Axios와 NDTV도 같은 게시물을 확인했습니다.

올트먼이 직접 문제 삼은 것은 ‘종교’ 자체보다 판단을 AI에 넘기는 일입니다

게시물의 핵심은 특정 종교나 종교인을 비판한 것이 아닙니다. 올트먼은 AI 모델에 종교적 힘이나 권위를 부여하는 태도와 사람이 자신의 판단을 모델에 넘기는 행위를 함께 묶어 안전 문제라고 설명했습니다.

이 구분은 중요합니다. 모델이 의식이 있는지, 종교적 전통에서 AI 윤리를 무엇이라고 보는지 토론하는 것과, 실제 사용자가 AI 답변을 인간의 판단보다 높은 권위로 받아들이는 것은 다른 문제입니다. 올트먼의 게시물은 후자까지 포함한 위험을 직접 지적한 것으로 읽힙니다.

앤트로픽을 직접 지목하지 않았지만, 보도는 ‘우회 비판’으로 해석했습니다

올트먼의 게시물에는 앤트로픽이나 다리오 아모데이의 이름이 나오지 않습니다. 다만 Axios는 이 발언을 앤트로픽의 최근 행보를 겨냥한 우회적 비판으로 해석했고, NDTV도 같은 맥락에서 보도했습니다. 따라서 “올트먼이 앤트로픽을 비판했다”는 문장은 언론의 맥락 해석이고, 게시물에 경쟁사 이름이 직접 적힌 것은 아닙니다.

보도에 따르면 앤트로픽은 가톨릭, 유대교, 시크교, 힌두교, 복음주의를 포함한 여러 전통의 종교 지도자와 철학자들을 만나 강력한 AI가 어떻게 도덕적으로 행동해야 하는지, 모델의 의식 가능성을 어떻게 다뤄야 하는지 논의해 왔습니다. 이 논의 자체와 “AI를 종교적 권위로 받아들인다”는 행동은 같은 것이 아니므로 둘을 섞어 단정할 필요는 없습니다.

사용자에게 당장 달라지는 설정은 없지만, AI를 대하는 선은 더 분명해졌습니다

이번 발언은 ChatGPT의 새 기능이나 안전 필터 변경 공지가 아닙니다. 하지만 프론티어 모델이 사람처럼 말하고 장기 기억과 에이전트 기능까지 넓어지는 상황에서, 모델의 답변을 인간 판단을 대체하는 권위로 받아들이는 문제를 오픈AI CEO가 명시적인 안전 이슈로 올렸다는 점은 사용자 관점에서도 의미가 있습니다.

특히 가치 판단, 종교, 인간관계처럼 하나의 정답이 없는 영역에서는 모델이 자신감 있게 말한다는 이유만으로 판단 책임까지 넘기지 않는 것이 이번 발언의 직접적인 함의입니다. 이는 모델에 의식이 있는지를 둘러싼 철학적 논쟁과 별개로, 실제 사용 과정에서 누가 최종 판단을 맡는지에 관한 문제입니다.

Axios는 보도 시점까지 오픈AI와 앤트로픽이 별도 논평 요청에 즉시 답하지 않았다고 전했습니다. 이후 양사가 이 문제를 제품 정책이나 공식 안전 원칙으로 구체화하는지가 다음 확인 지점입니다.