수학자 테렌스 타오(Terence Tao)가 인공지능이 수학 문제를 대량으로 풀 수 있는 시대에는 ‘얼마나 많이 증명했는가’만으로 연구 성과를 판단해서는 안 된다고 주장했습니다. 타오는 10월 9일(현지시간) 미국 캘리포니아공과대학(Caltech)에서 진행한 공개 강연의 자료를 10월 10일 개인 연구 블로그에 공개하고, AI와 사람이 함께 수학의 이해를 발전시키는 ‘Math 2.0’이라는 방향을 제시했습니다.
핵심은 AI가 수학자를 대체한다는 선언이 아닙니다. 문제의 정답이나 증명 개수에 집중하면 정작 수학이 왜 중요한지, 발견한 결과를 어디에 써야 하는지를 놓칠 수 있다는 경고입니다. 이번 자료는 타오의 연구 방향과 문제 제기를 설명한 공개 강연이지, 새로운 AI 모델 출시나 성능 검증 결과를 발표한 논문은 아닙니다.
‘증명이 부족한 시대’에서 ‘증명이 넘치는 시대’로
타오는 오랫동안 수학 연구가 ‘증명 부족(proof scarcity)’이라는 환경에 있었다고 설명합니다. 연구자가 풀 수 있는 문제와 작성할 수 있는 증명에는 시간과 인력의 한계가 있었기 때문에, 어려운 문제를 해결했다는 사실 자체가 연구의 진전을 보여주는 비교적 좋은 지표였습니다.
AI와 계산 도구로 증명을 훨씬 빠르게 만들어 낼 수 있는 ‘증명 풍요(proof abundance)’ 시대에는 사정이 달라진다고 봤습니다. 증명의 수는 증가해도 수학자들이 새로운 방법을 이해하거나 기존 지식을 서로 연결하는 속도가 같은 비율로 커지는 것은 아니기 때문입니다.
타오는 강연 슬라이드 9쪽에서 문제 풀이를 수학의 장기적 목표를 대신하는 지표라고 설명하고, 문제 풀이만을 최적화하는 접근이 수학의 장기적 건전성에 오히려 해가 될 수 있다고 경고했습니다. 동시에 AI로 연구의 최전선을 넓히는 일 자체는 계속해야 한다고 강조했습니다.
AI가 작성한 증명과 사람이 이해한 수학은 다릅니다
수학에서는 어떤 증명이 논리 규칙을 충족하는지 확인하는 작업과 그 증명이 다른 연구에 어떤 의미를 갖는지 판단하는 작업이 다릅니다. 형식 증명 도구는 주어진 규칙에 따라 증명의 타당성을 검사할 수 있지만, 어떤 문제를 우선 풀고 어떤 설명을 연구 공동체에 남길지는 별도의 판단이 필요합니다.
강연 자료의 그림은 순수수학의 문제와 답, 사람이 이해하는 과정, 현실의 응용 문제를 따로 구분합니다. 타오는 AI를 정답 생성에만 투입하기보다 사람의 이해를 깊게 하는 연결고리 전반에 활용하는 방향이 더 지속가능하다고 제안했습니다. 이는 인간만 수학을 이해할 수 있다는 실험 결과가 아니라, 앞으로 무엇을 연구 목표로 삼을지에 관한 그의 견해입니다.
Math 2.0에서 AI가 맡을 수 있는 일
타오의 제안은 AI로 수학 문제 풀이를 멈추자는 뜻이 아닙니다. 기존 증명과 연구를 더 쉽게 이해하고 활용할 수 있도록 작업의 범위를 넓히자는 것입니다.
-
어려운 증명을 설명하기: 이미 증명이 있는 정리라도 전문가가 아닌 연구자가 이해하기 어렵다면, 핵심 아이디어와 왜 그런 접근이 통하는지 풀어쓰는 데 AI를 활용합니다.
-
연구 사이의 관계 찾기: 서로 다른 논문에서 반복되는 개념이나 수학적 구조를 연결하고, 연구자가 필요한 선행 결과를 찾도록 돕습니다.
-
검증 가능한 지식으로 정리하기: 기존 결과를 형식화하고 오류나 누락을 점검해 장기적으로 재사용할 수 있는 연구 기반을 늘립니다.
-
새로운 방법을 찾기: 특정 문제의 정답 하나보다 여러 문제에 다시 쓸 수 있는 도구, 설명, 원리를 개발하는 데 초점을 둡니다.
타오는 이런 방향을 27쪽 분량의 공개 강연 자료에 정리했습니다. 수학의 연구 목표와 연구 환경에 대한 제안이므로, 각 항목의 효과가 일정한 수치로 실증됐다고 해석해서는 안 됩니다.
AI 수학 성과를 볼 때 어떤 숫자를 확인해야 하나요?
AI 기업이나 연구소가 ‘증명을 수백 개 만들었다’고 발표할 때는 결과의 개수 외에 세 가지를 확인하는 편이 좋습니다. 기존에 해결된 문제인지 미해결 문제인지, 제시한 증명이 전문가나 형식 검증을 통과했는지, 시도에 실패한 문제와 투입한 계산 자원이 함께 공개됐는지입니다.
타오는 강연에서 성공 사례만 골라 공개하는 보고 편향을 경계하고, 실패한 시도와 비용을 함께 공개하는 기준이 필요하다고 지적했습니다. 개수만 비교할 경우 서로 다른 난도와 검증 수준을 같은 성과로 취급할 수 있기 때문입니다.
실제 사례로 OpenAI의 최근 수학 원고 공개에서도 후속 검증에 따라 일부 원고의 철회와 수정이 이뤄졌습니다. 이는 AI 수학 연구 전체를 부정한다는 뜻이 아니라, 최초 발표 수치보다 각 결과의 검증 상태와 수정 이력을 함께 확인해야 하는 이유를 보여줍니다.
수학을 연구하는 사람뿐 아니라 AI로 코드를 작성하거나 자료를 분석하는 사용자에게도 같은 질문이 적용됩니다. AI가 결과물을 얼마나 빨리 만들어 냈는지와 그 결과를 사람이 이해하고 책임 있게 사용할 수 있는지는 별도로 평가해야 합니다. 타오가 말한 Math 2.0은 그 둘을 다시 연결하자는 제안입니다.



