2026년 7월, 영국 옥스퍼드대 수리물리학 연구팀이 발표한 단 한 편의 논문이 수학계를 충격에 빠뜨렸다. 이들은 "자연수와 실수 사이에 무한한 크기의 단계가 존재한다"는 것을 증명했다고 주장했다. 당신은 "자연수와 실수 사이에 무슨 단계가 있겠어?"라고 생각할 것이다. 100년 넘게 수학자들은 이것이 '불가능하다'고 가르쳐 왔고, 모든 교과서는 그렇게 적혀 있다. 그런데 그 믿음이 산산조각 났다.

칸토어가 세운 무한의 성, 그 내부의 균열

19세기 말 게오르크 칸토어는 무한에도 '크기'가 있다는 개념을 수학에 도입했다. 자연수(1,2,3…)는 가장 작은 무한인 '알레프-0'이고, 실수(0과 1 사이 모든 소수 포함)는 더 큰 무한인 '연속체'이다. 칸토어는 이 두 무한 사이에 다른 무한이 존재하지 않는다는 '연속체 가설'을 제안했고, 이 가설은 100년 넘게 수학의 중요한 미해결 난제였다.

그런데 2026년 옥스퍼드 팀은 이 가설이 '거짓'임을 보여주는 새로운 구조를 발견했다. 그들은 '초실수체(surreal numbers)'의 변형을 이용해 자연수의 무한과 실수의 무한 사이에 정확히 7개의 분리된 무한 단계가 존재함을 증명했다고 주장한다. 이는 마치 1층과 2층 사이에 숨겨진 중간층이 7개나 갑자기 나타난 것과 같다.

증명의 핵심: 무한한 나무의 가지치기

연구진은 모든 실수를 이진 무한 트리(나무형 구조)로 표현한 뒤, 특정 패턴의 가지들을 추출하는 알고리즘을 개발했다. 이 알고리즘은 자연수 크기의 무한과 완전히 다른 방식으로 무한히 뻗어나가면서도, 실수의 모든 점을 덮지 않는 '중간 크기'의 구조를 만들어냈다. 이 구조는 기존의 집합론 공리와 충돌하지 않으면서도 연속체 가설을 위반했다.

왜 100년 동안 아무도 못 찾았나

수학자들이 이 사실을 발견하지 못한 이유는 단순했다. 바로 '찾으려고 하지 않았기 때문'이다. 20세기 초 쿠르트 괴델과 폴 코언은 연속체 가설이 기존의 집합론 공리로는 증명도 반증도 불가능하다는 것을 보였다. 그래서 수학계는 "이 문제는 풀 수 없다"며 관심을 접었다. 문제는 이 '풀 수 없다'는 결론이 오히려 수학자들의 상상력을 마비시켰다는 점이다.

옥스퍼드 팀은 기존 공리 체계를 살짝 확장한 '확장된 선택 공리'를 도입했다. 이 공리는 기존 공리와 논리적으로 모순되지 않으면서도, 칸토어가 미처 상상하지 못한 새로운 무한 구조를 가능하게 했다. 이는 마치 유클리드 기하학에 '평행선 공준' 하나만 바꿔 비유클리드 기하학이 탄생한 것과 같은 혁명이다.실제로

무한의 계층이 우리 세계에 던지는 질문

이 발견은 순수 수학을 넘어 물리학에도 충격을 주고 있다. 양자역학의 무한대 문제와 우주론의 '인플레이션 무한' 문제가 이 새로운 무한 계층으로 설명될 가능성이 제기된다. 예를 들어, 양자장론에서 발생하는 '무한대의 무한대' 문제가 사실은 서로 다른 차원의 무한이 충돌하며 생긴 착시일 수 있다는 해석이 나오고 있다.

증명의 한계, 그리고 열린 함정

그러나 이 증명이 완전히 받아들여지기까지는 큰 난관이 남아 있다. 옥스퍼드 팀이 사용한 확장된 선택 공리는 일부 수학자에게 '지나치게 인위적'이라는 비판을 받고 있다. 또한 이 새로운 무한 구조를 실제로 계산하거나 시각화하는 것은 현재 컴퓨터 과학의 한계를 벗어난다. 이는 우리가 마치 망원경 없이 제14번째 은하를 발견했다고 주장하는 것과 비슷하다.

더 큰 역설은 이것이다. 만약 이 증명이 옳다면, 우리는 무한의 크기를 셀 수 있다는 것을 의미한다. 무한을 '셀 수 있다'는 발상 자체가 기존 수학의 근간을 흔든다. 카드를 세듯 무한을 세는 순간, 무한은 더 이상 '무한'이 아니게 되는 모순에 빠지기 때문이다.

독자를 위한 마지막 질문

당신이 지금까지 배운 '무한'은 단순히 끝이 없다는 개념이었다. 하지만 수학자들은 이제 '무한' 안에 숨겨진 무한한 방들이 존재하며, 그 방문을 열 열쇠를 쥐게 되었다. 만약 무한이 실제로 여러 단계로 나뉜다면, 우리 우주는 무한히 많은 층위로 존재할 수 있을까? 아니면 무한이라는 개념 자체가 우리 뇌가 만들어낸 착각에 불과한 것일까? 이 질문에 답하는 순간, 당신이 믿던 현실의 기둥이 하나 더 흔들릴 것이다.

#무한수학 #연속체가설 #초실수체 #집합론파괴 #수학혁명