35년간 수학의 난제였던 'ABC 추측(또는 추론)'(ABC conjecture)이 증명됐다고 일본 교토(京都)대가 발표했다.
아사히(朝日)신문과 니혼게이자이(日本經濟) 신문(닛케이) 등 일본 언론에 따르면 모치즈키 신이치(望月新一·51) 교토대 수리해석연구소 교수가 ABC 추측을 증명했다며 쓴 논문이 올바르다는 것이 확인돼 학술지 '피림스'(PRIMS) 게재가 결정됐다고 교토대가 전날 기자회견을 열어 밝혔다.
ABC 추측은 1985년 스위스와 프랑스의 수학자가 제창한 정수의 덧셈과 곱셈의 관계에 관한 설명으로 이를 증명하는 것은 '페르마의 마지막 정리'에 맞먹는 난제로 꼽혔다.
보도에 따르면 1 이외의 공약수가 없는 자연수(서로 소) A, B와 이 둘을 합한 C가 있을 때(A+B=C) A, B, C를 소인수 분해해 나온 소수들을 곱한 값을 D라고 하면 대부분 D가 C보다 크며(D＞C), 반대로 C가 D보다 큰 경우(D＜C)는 드물다는 게 ABC 추측의 골자다.
예를 들어 A를 4, B를 9라고 가정하면 C는 13(4+9=13)이 된다.
A, B, C를 소인수 분해하면 소인수 2, 3, 13이 각각 얻어지므로 D는 78(2×3×13=78)이 돼 C보다 크다. ABC 추측에 의하면 이런 사례는 매우 많다.
반면 A를 1, B를 8이라고 하면 C는 9가 된다.
1은 소인수가 없고 8과 9에서 2와 3을 각각 소인수로 얻을 수 있으므로 D는 6(2×3=6)이 된다.
이 경우 C가 D보다 커지는데 이는 일종의 드문 사례라는 것이다.
ABC 추측은 직관적으로 보면 당연한 설명 같지만 A, B, C 조합이 무수히 많아서 이를 증명하기 쉽지 않다.
모치즈키 교수는 2000년 ABC 추측 증명에 본격적으로 나섰고 2012년 8월에 이를 증명했다며 자신의 홈페이지에 600여쪽 분량의 논문 4편을 공개하고 피림스에 투고했다.
피림스 편집위원회는 복수의 수학자에게 의뢰해 논문 검증을 시작했고 약 7년 반만인 올해 2월 논문이 게재를 결정했다.
피림스는 교토대 수리해석연구소가 편집하고 유럽수학회가 발행한다.
요미우리(讀賣)신문에 따르면 모치즈키 교수가 편집위원장이지만 자신의 논문 심사에는 관여하지 못하도록 특별편집위원회를 열어 심사했다
특별편집위원장인 다마가와 아키오(玉川安騎男) 교토대 수리해석연구소 교수는 "학문적 관점에서 신중한 논의를 거듭해 증명이 올바르다는 것을 인정했다"고 설명했다.
통상 논문은 50∼60쪽에 심사에 수개월∼2년 정도 걸리는데 모치즈키 교수의 논문은 600쪽이 넘고 심사도 이례적으로 오래 걸렸다고 교도통신은 전했다.
교토대가 공식 발표에도 모치즈키 교수의 논문이 학계에서 완전한 증명으로 인정받을지는 아직 명확하지 않아 보인다.
도쿄신문에 따르면 2018년 수학계의 노벨상인 필즈상을 받은 페터 숄체 독일 본대 교수(정수론)는 "이전에 교토대를 방문했을 때 모치즈키 교수와 논의한 후 이론에 중대한 문제가 있으며 간단히 바로잡을 수 없을 것 같다고 지적했다"고 밝혔다.
그는 모치즈키 교수의 논문에 관해 "증명이 되지 않았으며 ABC 추측은 지금도 추측인 채로 있다. 그 입장은 변하지 않았다. 이번에 논문이 받아들여졌다는 이야기를 듣고 놀랐다"고 덧붙였다.
모치즈키 교수는 5살 때 미국으로 건너갔고 고등학교를 2년 만에 마치고 16살에 프린스턴대학에 입학했으며 19살에 프린스턴대 대학원 수학과를 졸업해 일본의 천재 수학자로 알려진 인물이다.
27세에 교토대 조교수로 임용됐고 32세에 교수로 취임했다.
그는 자신의 방에 틀어박혀 연구에 몰두하며 많은 사람이 모이는 학회나 간담회에 참가한 경우가 매우 드물고 외국에서 온 강연 의뢰 등도 거절하는 것으로 알려졌다고 아사히는 소개했다.
일본 언론은 모치즈키 교수가 이번 논문과 관련해 전혀 취재에 응하지 않았고 회견장에도 나오지 않았다고 그의 독특한 대응을 전했다.
ABC 추측 (ABC conjecture)
수론에서 abc 추측은 고차 거듭제곱을 인자로 갖는 두 수의 합은 보통 고차 거듭제곱 인자를 갖지 않는다는 추측
이 추측을 엄밀히 표현할 때 세 정수 a, b, c의 통상적인 기호 때문이 이 이름
조금 더 자세하게 설명면,
양의 정수 n의 근기(영어: radical)
는 그 서로 다른 소인수들의 곱
즉,
예를 들어,
수학계 '초전도체급 스캔들'
일본의 한 천재 수학자가 발표한 수학 증명으로 수학계가 12년째 내분을 겪고 있다. 증명 내용을 이해한 수학자가 거의 없는 데다 그조차 동료 수학자들을 이해시키려는 소통에 나서지 않으면서 소수의 지지자들을 제외하고 수학계의 외면을 받고 있어서다. 수학자들은 "수학적 증명을 검증하는 과정에서 소통은 필수"라고 비판하며 '진정한 수학적 증명이란 무엇인가'에 대해 묵직한 화두를 던지고 있다.
여전히 검증 불가
수학계에 따르면 모치즈키 신이치 일본 교토대 수학과 교수의 'ABC 추측‘ 증명에서 오류를 밝히는 논문이 3월 발표된 데 이어 모치즈키 교수도 이에 반박하는 글을 공개하며 논란이 일고 있다.
논란은 시작은 2012년 8월이다. 모치즈키 교수가 세계적인 정수론 난제인 ABC 추측에 대한 약 500쪽 분량의 논문 4편을 논문 공개사이트 '아카이브'에 공개했다. ABC 추측은 1 이외의 공약수가 없는 '서로소' A, B, C가 A+B=C의 관계를 만족할 때 세 수의 소인수의 곱에 0에 가까운 작은 양수를 더한 수는 C보다 언제나 크다는 내용이다.
1985년 영국 수학자 데이비드 매서가 처음 제시했다. ABC 추측을 증명할 경우 가장 유명한 수학 정리인 ‘페르마의 마지막 정리’를 쉽게 증명할 수 있다고 알려져 많은 수학자가 도전했다.
당시 네이처를 비롯한 과학저널이 "모치츠키 교수가 그동안 남긴 성과를 미루어 볼 때 상당한 기대를 걸어도 좋을 것"이라며 떠들썩하게 보도하며 관심이 더욱 쏠렸다. 모치즈키 교수는 고등학교를 2년 만에 마치고 16살에 미국 프린스턴대에 입학했으며 32세에 교토대 교수로 취임한 명망있는 수학자였다.
문제는 그의 논문이 다른 수학자들의 검증을 받지 못했다는 것이다. 어떤 수학자도 이 논문이 맞다, 또는 오류가 없다고 인정하지 않았다. 보통 수학 논문은 발표된 뒤 1, 2년 동안 오류가 없다고 검증이 되면 학계에서 인정받는다. 수학에서 엄밀함과 논리를 중요하게 생각하기 때문에 충분한 검증을 거친다. 모치즈키 교수 논문은 12년이 지난 지금까지도 검증되지 않았다.
검증이 힘든 이유는 분량이 너무 방대하고 내용 또한 난해하기 때문이다. 모치츠키 교수는 공간 이론을 정수론에 적용한 혁신적인 'IUT(Inter-Universal Teichmüller)' 이론을 만들어 ABC 추측을 해결했다고 주장했다. 이규환 미국 코네티컷대 수학과 교수는 "모치츠키 교수의 방법은 '새로운 언어'를 창조한 것과 다름없다"면서 "하지만 그 언어를 완전히 이해한 사람이 수학계에 거의 없었다"고 말했다.
급기야 유망한 젊은 수학자들로부터 모치츠키 교수 논문에 오류가 있다는 주장이 제기됐다. 2018년 '수학계 노벨상' 필즈상을 수상한 페터 숄체 독일 본대 교수와 제이콥 스틱스 독일 프랑크푸르트 괴테대 교수가 논문을 발표해 모치츠키 교수 증명의 핵심 부등식에 문제가 있다고 지적한 것이다.
이후 마사키 카사와라 교토대 수리해석연구소 교수, 이반 페센코 중국 웨스트레이크대 교수 등 모치츠키 교수를 지지하는 세력과 반대하는 세력으로 나뉘며 수학계가 혼란에 휩싸였다.
그러던 중 2020년 모치츠키 교수 논문이 교토대 수리해석연구소가 편집하고 당시 모치츠키 교수가 편집위원장이었던 수학 저널 '피림스'(PRIMS)에 갑작스럽게 실렸다. 이를 주도한 일본 수학계를 향해 서구 수학계가 "피림스가 완전 검증까지 시간이 필요한 논문을 실은 건 이해 충돌이 있다고 볼 수밖에 없다"면서 비난했다.
논란이 계속되자 지난해 7월 일본 통신기업 '도완고'가 모치츠키 교수의 증명이 옳다고 증명하거나 반증하는 논문을 발표한 수학자에게 상금 약 100만 달러(13억6000만원)를 주는 대회를 열기도 했다.
소통을 거부하는 모치츠키 교수
이같은 논란에도 모치츠키 교수는 자신을 향한 지적에 한결같이 "내 논문을 샅샅이 읽어라'는 식의 방어적인 태도를 취해왔다. 그는 논문 발표 후 일본을 벗어나 타국에서 열리는 학회에 참여해 이론을 발표해달라는 요구에 거부했다. 자신의 이론을 소개하고 설명하는 인터뷰 혹은 토론에도 거의 응하지 않았다.
결국 숄체와 스틱스가 2018년 3월 교토대를 찾아가 모치츠키와 토론을 했을 때도 지적을 받아들이지 않고 "논문을 근본적으로 잘못 이해했다"는 완강한 입장을 고수했다고 전해진다.
올 3월 커티 조쉬 미국 애리조나대 교수가 이들의 논문 내용을 확장해 모치츠키 교수 증명에 반론을 제기하는 논문을 공개하자 며칠 뒤 모치츠키 교수는 자신의 홈페이지에 반박 글을 실었다. "(조쉬의 논문이) 수학적으로 의미가 없다"면서 "ChatGPT와 같은 인공지능 알고리즘이 만들어낸 환각을 연상시킨다"고 했다.
수학계는 ABC 추측 증명을 받아들일 수 없는 이유가 모치츠키 교수의 이같은 태도에 있다고 본다. 나날이 어려워지는 현대 수학에서 소통은 중요하기 때문이다.
김완수 KAIST 수리학과 교수는 "수학계에서 논문을 발표한다고 끝이 아니다"라면서 "학회에서 이론을 동료들에게 설명하고 끊임없이 토론하고, 또 지적을 받으면 수정하기도 하면서 증명을 완성시켜 나간다"고 했다. 페르마의 마지막 정리를 증명한 영국 수학자 앤드루 와일스도 1993년 첫 증명을 발표했지만 오류가 발견돼 다시 증명을 수정한 끝에 2년 뒤에 완벽히 증명했다.
ABC 추측과 관한 논란을 계기로 수학계에 '진정한 수학 증명이란 무엇인가'에 대한 논의가 활발해졌다. 정수론 분야의 권위자인 앤드류 그랜빌 캐나다 몬트리올대 교수는 2018년 '수학적 증명의 본질'을 주제로 논문을 발표했다.
그는 당시 '콴타매거진'에 모치츠키 교수에 대해 언급하며 "수학자가 순수한 생각만으로 위대한 진리에 도달한다고 생각하기 쉽지만 수학자는 타인과 소통하며 단계적으로 배운다"면서 "증명의 핵심은 독자를 설득하는 것"이라고 말했다. 또 "증명은 사회적 계약, 저자와 수학 커뮤니티간의 일종의 상호 합의"라며 "모치츠키 교수처럼 극단적으로 자신만의 방식을 고수해서는 안 된다"고 했다.
이 교수는 "모치츠키 교수가 아무리 어마어마한 업적을 남겼어도 수학은 '언어'이기 때문에 타인이 이해하지 못하고 객관적으로 검증되지 않으면 옳은 수학적 증명이라고 받아들여질 수 없다"고 설명했다. 자신만의 이론 속에서 완벽할지라도 다른 구성원들을 설득하지 못하면 소용없다는 말이다. 현재 수학계에서 거의 '사망 선고'를 받은 모치츠키 교수의 증명은 일본 수학계를 중심으로만 옹호받고 있다.
모치즈키 신이치
望月新一
일본의 수학자
1969년 3월 29일 일본에서 태어나고 5살 때 아버지를 따라 미국 뉴욕으로 이주하여 30여년 세월을 미국에서 보냈다. 2002년에는 교토대학의 교수가 되었다.
IUT(우주 간 타이히뮐러 이론, Inter-Universal Teichmüller theory)라는 이론을 만들었으며, 이를 통해 abc 추측이라는 수학계의 난제를 풀었다고 주장한다. IUT는 수학계에서 10년째 검토 중이며, 그만큼 이해하기 난해한 듯하다. 또 다른 수학자이자 2018년 필즈상 수상자 페터 숄체는 IUT가 abc 추측을 해결한다는 근거가 부족하다며 그의 IUT 논문을 비판했다.
2020년 2월, 8년 여의 심사 끝에 모치즈키의 ABC 추측에 관한 논문이 수리되었다는 기사가 나왔다. 그러나 해당 논문을 심사한 저널이 모치즈키가 편집장으로 있는 저널이며 아직 학계의 주류 수학자들에게 인정받지 못하는 상태이다.
2018년도 필즈상 수상자인 페터 숄체의 경우 모치즈키 교수의 설명을 들은 뒤에 "오류가 너무 심각해 약간의 조정 정도로 증명을 구해낼 순 없어보인다"고 한 바 있다. 게다가 모치즈키 교수는 자신의 논문에 대한 강연과 다른 수학자들의 피드백조차 거부하고 있어서, 다른 수학자들이 반박논문을 쓰면 논문을 잘못 이해했다라는 억지를 부리며 해당 오류 논문을 무시하고 있을 정도다. 따라서 정상적인 수학적 증명이 아닌, 자신의 직위를 남용하여 일어난 단순한 헤프닝이며 ABC추측은 아직 증명되지 않았다고 보는것이 타당하다.