냅킨에 적은 아이디어가 5년 뒤 논문으로…"수학연구의 시작은 대화"

작성일 07-30

<div id="layerTranslateNotice" style="display:none;"></div> 삼성호암상 물리·수학부문 수상 신석우 고등과학원 석학교수 
 <div class="article_view" data-translation-body="true" data-tiara-layer="article_body" data-tiara-action-name="본문이미지확대_클릭"> 
 <section dmcf-sid="3RO2oilonZ">
 <figure class="figure_frm origin_fig" contents-hash="06d2f4f9a4a09a7d135cdf8df88234d521f501071f640bd5624b6453f41325f4" dmcf-pid="0tQT7pe7nX" dmcf-ptype="figure">
 <img alt="신석우 미국 버클리 캘리포니아대(UC버클리) 교수 겸 고등과학원 석학교수. 이채린 기자" class="thumb_g_article" data-org-src="https://t1.daumcdn.net/news/202507/30/dongascience/20250730134753282lqvv.jpg" data-org-width="680" dmcf-mid="FAxyzUdzi5" dmcf-mtype="image" height="auto" src="https://img4.daumcdn.net/thumb/R658x0.q70/?fname=https://t1.daumcdn.net/news/202507/30/dongascience/20250730134753282lqvv.jpg" width="658">
 <figcaption class="txt_caption default_figure">
 신석우 미국 버클리 캘리포니아대(UC버클리) 교수 겸 고등과학원 석학교수. 이채린 기자
 </figcaption>
 </figure>
 2011년 미국 프린스턴 고등연구소. 학회가 끝나고 정수론을 연구하는 수학자들이 식탁에 둘러앉아 차를 마실 때였다. 이야기를 하던 피터 사낙 미국 프린스턴대 교수가 '아!' 하는 소리와 함께 정신없이 냅킨 위에 무언가를 적기 시작했다. 사낙 교수는 정수론의 대가로 불리는 수학자다.
 냅킨에는 수학에서 특정 변환을 해도 성질이 변하지 않는 함수인 '보형형식'에 관한 수학적 아이디어가 담겼다. 동료들과 대화를 나누던 사낙 교수가 아이디어를 떠올린 것이다. 이 자리에 있던 신석우 미국 버클리 캘리포니아대(UC버클리) 교수 겸 고등과학원 석학교수는 사낙 교수와 시간 가는 줄 모르고 아이디어에 대해 이야기를 나눴다. 냅킨에 적혀 있던 아이디어는 5년 후 논문으로 세상에 나왔다. 
 지난 4월 삼성호암상의 과학상 물리·수학부문 수상자로 선정된 신석우 교수를 최근 서울 고등과학원에서 만났다. 신 교수는 "현대수학에서는 강의실을 벗어난 장소에서 수학자들이 자유롭게 나누는 대화 속에서 새로운 수학적 아이디어가 나오며 이때 수학은 한 발짝씩 발전한다"고 말했다.
 보형형식, 대칭성과 수론 정보가 담긴 기하학적 대상인 '시무라 다양체', '랭글랜즈 프로그램' 등을 연구하는 신 교수는 한국을 대표하는 정수론 수학자다. 랭글랜즈 프로그램은 대수기하, 조화해석, 정수 등 수학의 중요 주제를 통합해 하나의 이론으로 설명하는 이론이다. 신 교수는 랭글랜즈 프로그램에 기여한 공로로 호암상 수상 영예를 안았다.  
 신 교수의 삶은 '수학' 그 자체다. 신 교수는 1995년 서울과학고 재학 시절 국제수학올림피아드에서 한국인 최초로 만점을 받아 학창시절부터 유명인사였다. 고등학교 1학년 학생이 국제수학올림피아드에 출전한 첫 사례다. 서울대 수학과를 졸업하고 미국 하버드대에서 수학과 박사 학위를 받았다. 미국 시카고대, 프린스턴 고등연구소, 미국 메사추세츠공대(MIT)를 거쳐 UC버클리에 자리잡았다. 
 신 교수는 "고등학교 때부터 수학자가 되겠다고 마음 먹은 뒤로 꿈이 한 번도 바뀐 적 없다"며 "서울대 졸업 후 2년 동안 군대를 다녀온 뒤 유학을 갔을 때 '복학생'처럼 남들보다 수학실력이 뒤쳐져 있다는 생각에 공백을 메우려고 더 열심히 수학공부를 했다"고 말했다. 하버드대는 프린스턴대와 함께 현대수학의 메카로 불린다. 
 현재 신 교수는 랭글랜즈 추측의 다양한 사례들을 확립하고 이론적 토대를 구축하며 현대 정수론 발전에 기여한 세계적인 수학자로 평가받는다. 신 교수는 "트레이스 포뮬라(trace formula)와 시무라 다양체를 이용해 랭글랜즈 추측의 토대를 쌓는 작업을 하고 있다"고 설명했다.
 트레이스 포뮬라는 보형형식을 연구·분류하고 그 성질을 밝히는 강력한 도구다. 신 교수는 2011년 시무라 다양체와 보형형식, 갈루아표현을 잇는 핵심 연결고리를 만들었다. 갈루아표현은 ‘방정식 해의 대칭성(갈루아 군)’을 행렬로 바꿔 이해하는 방법이다. 
 또 신 교수는 리만 제타 함수라는 특별한 수학식의 해(0이 되는 지점)들이 어떻게 늘어서 있는지 살펴봤다. 신 교수는 2012년 그 간격이 마치 무작위 숫자로 가득한 랜덤 행렬에서 나온 숫자들의 간격과 닮아 있다는 걸 더 많은 수학 문제로 확장해 설명하는 논문을 발표해 학계의 큰 주목을 받았다. 
 신 교수는 이런 성과가 자유로운 대화 덕분이라고 강조했다. 신 교수는 "수학 논문은 다른 과학 분야에 비해 길기도 하고 저자가 아니면 이해하기 어려운 경우가 많다"며 "학회나 강연이 끝나고 수학자들은 서로의 연구내용에 대해 이야기를 많이 나누면서 이해의 폭을 넓힌다"고 설명했다. 
 수학 논문은 증명을 하나하나 엄밀히 적어야 하기 때문에 수백쪽에 달하기도 한다. 기호, 보조정리(lemma), 정의(definition) 같은 내용이 누적되면서 논문이 길어지는 것이다. 수학자 앤드류 와일즈의 페르마 마지막 정리 증명 논문도 100쪽이 넘는다. 신 교수는 "식사, 산책 등 목적성이 희미해지는 상황에서 수학자들이 이야기를 나눌 때 재밌고 기발한 수학적 아이디어가 나와 공동연구를 시작하기도 한다"고 말했다. 
 2011년 프린스턴 고등연구소 티타임에서 신 교수가 사낙 교수와 나눈 아이디어는 5년 뒤 논문이 됐다. 신 교수는 대학원생 시절 2003년 캐나다 토론토대에서 열린 여름학교에 참석해 얻은 아이디어를 현재까지 연구하고 있으며 연구 여정의 중요한 주제로 삼았다.
 여름학교, 겨울학교는 수 주 동안 전 세계 수학자가 모여 서로 연구 내용에 대한 강연을 듣고 함께 다양한 활동을 하며 자유롭게 수학 이야기를 나누는 프로그램이다. 수학 연구로 잘 알려진 많은 명문대들은 적극적으로 이런 프로그램을 개최하며 공동연구가 일어날 수 있도록 돕는다. 
 신 교수는 "수학 연구내용은 실험이나 특정 장비가 아닌 수학자의 머릿속 생각에 기반하는 경우가 대부분이다"며 "이야기를 나누다가 글로 적기 위해 칠판을 찾아 뛰어다닌 적이 자주 있다"고 했다.  
 인공지능(AI)의 발전으로 수학자가 연구하는 방식이 바뀔 수 있다는 전망에 대해 신 교수는 "동의한다"고 말했다. 신 교수는 "증명을 할 때 필요한 특정 사례에 관한 경우의 수를 검토하거나 사소하지만 푸는 데 시간이 많이 걸리는 문제를 해결할 때 AI를 이용할 수 있을 것"이라고 밝혔다. 
 신 교수는 "연구의 주도권은 사람이 계속 갖게 될 것"이라고 강조했다. 신 교수는 "AI가 어느 수준까지 이를지는 모르겠지만 무한히 많은 연구 주제 중에서 어떤 주제가 의미 있는지, 어떤 주제가 더 시급히 풀어야 하는 문제인지 등을 선도하고 정하는 것은 사람이 해야 수학이 옳은 방향으로 발전해 나갈 것이다"며 "연구의 주도권은 사람이 갖는 게 자연스럽기도 하고 맞기도 하다"고 말했다. 
 [이채린 기자 rini113@donga.com]
 </section> 
 </div> 
 Copyright © 동아사이언스. 무단전재 및 재배포 금지.

등록된 댓글이 없습니다.

로그인한 회원만 댓글 등록이 가능합니다.

먹튀폴리스

냅킨에 적은 아이디어가 5년 뒤 논문으로…"수학연구의 시작은 대화"

멤버랭킹

관련자료

멤버랭킹