“초고체(supersolid)가 다이아몬드보다도 단단한 고체냐고 물어보는 분들도 있더군요.”
초고체 연구로 최근 국내외에서 주목받고 있는 KAIST 물리학과 김은성 교수(39세)는 연구실을 찾은 기자가 “초고체라는 이름이 잘못 붙여진 것 같다”고 말하자 사실 좀 문제가 있다고 대답했다. ‘초유체(superfluid)’와 ‘고체(solid)’를 합친 조어인데 가운데 유체(fluid)가 빠지다 보니 ‘초’가 ‘고체’를 꾸민 꼴이 돼 버렸기 때문이다.
초유체란 액체가 절대영도(0K(켈빈)=영하 273.15℃)에 가까운 극저온에서 점성이 사라지면서 벽을 타고 위로 흐르거나 사방으로 흩어지는 특성을 지닌 마술 같은 물질이다. 말 그대로 유체 가운데 흐르는 특성이 가장 뛰어난(super) 셈이다. 초유체 현상은 1937년 액체헬륨( 4He, 원자핵이 양성자 2개, 중성자 2개로 이뤄짐)에서 처음 관찰됐다.
초고체는 고체의 일부가 초유체가 된 상태로 고체헬륨( 4He)을 극저온인 0.2K까지 냉각시킬 때 나타난다. 김 교수는 미국 펜실베니아주립대 물리학과 박사과정 시절인 2004년 처음 초고체의 존재를 밝힌 논문을 과학저널 ‘네이처’에 발표한 주인공이다. 그런데 초유체와는 달리 초고체의 모습은 도무지 상상이 가지 않는다.
보즈-아인슈타인 응축의 결과?
“고체란 물질을 구성하는 원자가 제자리에 고정된 상태인데 이 가운데 일부가 점성도 없이 흐른다는 건 말이 안 되는것 같죠.”
사실 김 교수도 초고체를 맨눈으로 직접 본 건 아니다. 대신 ‘비틀림 진동자’라는 장치를 이용한 교묘한 실험을 통해 초고체의 개념을 끌어들이지 않으면 해석할 수 없는 결과를 얻어낸 것이다.



[➋ 극저온에서 액체헬륨의 점성이 사라지는 초유체 역시 원자가 BEC를 이룬 결과다. 초유체 헬륨에 열을 약간 가하면 초유체가 분수처럼 솟아오른다.]

스승의 스승이 반대
그 뒤 전 세계 10여 곳 실험실에서 김 교수의 실험을 재현했고 그 결과 초고체의 존재가 받아들여지는 듯 했다. 하지만 몇몇 물리학자들이 이의를 제기하고 나섰다. 고체헬륨이 들어있는 진동자의 온도를 낮출 때 진동주기가 짧아지는 건 초고체 같은 괴상한 실체를 끌어들이지 않고도 설명할 수 있다는 것.

아이러니컬하게도 이런 주장을 가장 강하게 펴는 물리학자는 챈 교수의 스승인 미국 코넬대 물리학과 존 레피 교수다. 1970년대 비틀림 진동자를 발명한 레피 교수는 1980년대 이를 이용해 초고체의 존재를 밝히는 실험을 했지만 실패했다. 2004년 73세로 명예교수 자리도 내놓고 막 은퇴를 하려던 그는 제자팀의 논문을 보고 다시 열정이 불타올랐다.
그는 어렵게 ‘초빙한’ 박사과정 학생 한 명과 함께 약간 변형한 장치로 초고체 실험을 했고 초고체는 없다는 확신을 얻었다. 학위를 마친 뒤 학생이 떠나 혼자가 된 뒤에도 79세인 현재까지 실험을 계속하고 있다. 올해 6월 권위있는 물리학저널인 ‘피지컬리뷰레터스(PRL)’에 낸 논문에서는 온도를 낮출 때 진동주기가 짧아지는 원인을 고체헬륨의 탄성변화로 설명해 주목받았다.

고체헬륨은 묵처럼 탄성이 있어 진동 운동에 저항한다. 만일 온도를 더 낮추면 탄성이 줄어들면서, 즉 고체가 단단해지면서 저항이 줄어들어 진동주기가 짧아진다는 것. 그런데 과학저널 ‘사이언스’ 2010년 12월 10일자에 레피 교수의 주장을 뒤집은 논문이 실렸다. 챈 교수의 제자인 김 교수팀의 연구결과다.
“이 실험은 일본 이화학연구소(이하 리켄)에 있는 장비를 쓸 수 있었기 때문에 가능했습니다. 며칠 뒤 리켄에 가는데 관심이 있으시면….”
12월 12일 기자는 김 교수와 인천공항에서 재회했다.
초고체를 증명한 결정적인 실험
“중국속담에 ‘청출어람 청어람(靑出於藍 靑於藍)’이라는 말이 있습니다. 제가 남(藍)이고 김은성 교수가 청(靑)이죠. 허허!”
겨울비가 부슬부슬 내리는 12월 13일 아침 일본 와코에 위치한 리켄의 저온물리연구실에는 김 교수의 스승인 챈 교수가 먼저 자리를 잡고 있었다. 김 교수팀의 이번 연구결과에 감명을 받아 공동연구를 하기 위해 태평양을 건너온 것. 옆에는 저온물리연구실을 이끌고 있는 코노 키미토시 박사와 함께 현재 김 교수와 협력하고 있는 일본 게이오대 물리학과 시라하마 게이야 교수도 있다.
“아이디어는 간단합니다. 비틀림 진동자를 진동시킬 때 동시에 장치 자체를 천천히 회전시키는 것이죠. 장치가 회전해도 고체헬륨의 탄성에는 거의 영향을 주지 않기 때문에 레피 교수의 주장이 맞다면 온도를 낮출 때 진동주기가 짧아지는 정도는 변화가 없어야 합니다.”
그러나 초고체 같은 양자역학의 현상이라면 고체헬륨이 들어있는 진동자의 회전이 고체헬륨 내부에 양자 소용돌이를 일으켜 BEC가 일어나는 걸 방해할 것이다. 그 결과 회전하는 진동자에서는 온도를 낮출 때 진동주기가 짧아지는 정도가 약해져야 한다. 실험결과는 김 교수의 손을 들어줬다. 진동자가 빨리 회전할수록 초고체에서 초유체가 차지하는 비율이 줄어들었던 것. 반면 진동자의 회전은 고체헬륨의 탄성에 거의 영향을 주지 않았다. 레피 교수의 주장과는 달리 고체헬륨의 탄성과 진동주기는 별 관련이 없다는 뜻이다.
“1초에 한 바퀴 정도 속도로 진동자를 돌리는 게 뭐 그리 어렵냐고 생각할지 모르지만 초저온에서 이게 가능한 장치는 전 세계에 3대밖에 없습니다. 그 중 하나가 여기 있습니다!”
코노 박사의 말에 잔뜩 기대를 하고 ‘크리오스텟(cryostat)’이란 장치를 본 순간 실망할 수밖에 없었다. 지름이 50cm쯤 되는 길쭉한 드럼통이 약 4m 높이의 천정에 매달려 있는 게 전부였기 때문이다. 그러나 이 드럼통은 내부에 진동자와 진동 속도 측정기 등 각종 장치를 포함한 냉각 시스템으로 통 자체가 돌아간다고. 절대 영도에 가까운 극저온 실험이기 때문에 1초에 한 바퀴 정도인 비교적 느린 회전조차도 정교하게 조절되지 않으면 측정을 교란시킨다.


“김 교수에게서 공동연구를 제안받고 초고체의 연구현황을 살펴보니 무척 흥미롭더군요. 그래서 같이 해보기로 했죠.”
김 교수는 박사후연구원으로 있는 최형순 박사를 리켄에 파견했고 코노 박사팀에서도 연구원 한명이 참여해 8개월에 걸쳐 실험을 진행했다. 그리고 그림 같은 데이터를 얻었다.
“저희 장비로 김 교수를 도와 의미있는 결과를 얻었다는데 만족합니다. 앞으로도 같이 할 연구가 더 있고요.”
보통 공동연구에서 실험에 결정적인 장비를 제공하면 논문을 쓸 때 공동 제1저자나 공동 교신저자를 요구하기 마련인데 코노 박사는 어느 쪽도 요구하지 않았다고. 그런데 이들 네 사람은 앞으로 어떤 연구를 하려고 이 자리에 모인 것일까.
“현재 가장 중요한 과제는 초고체 현상이 극저온에서 고체헬륨이 보이는 본질적인 현상인지 아니면 결정의 결함 때문에 일어나는 것인지를 밝히는 일입니다.”
챈 교수의 말이다. 고체헬륨은 원자가 일정하게 배열된 결정이다. 그런데 결정의 상태가 초고체성에 영향을 주느냐 여부도 논란거리다. 1977년 노벨물리학상 수상자인 미국 프린스턴대 물리학과 필립 앤더슨 교수는 초고체가 고체헬륨의 고유한 성질이라고 믿고 있다. 만일 이 주장이 맞다면 초고체 현상은 물리학적으로 의미가 아주 크다.
그러나 프랑스 고등사범학교의 세바스티앙 발리바 교수 같은 물리학자들은 고체헬륨에 결함이 있어야 초고체 현상이 일어난다고 믿고 있다. 즉 결정격자에 원자가 비어 있거나 결정을 이루는 원자의 한 열이 통째로 없어진 경우 (칼날 전위라고 부른다) 이런 결함을 따라 초유체가 생길 수 있다는 것. 챈 교수팀은 최근 단결정, 즉 결함이 없는 고체헬륨을 만들어 여기에서도 여전히 초고체 현상을 보인다는 사실을 확인했지만 초고체에서 초유체가 차지하는 비율이 실험을 할 때마다 워낙 들쭉날쭉해 당혹스러워하고 있다고. 이러던 차에 제자의 멋진(beautiful) 실험결과 소식을 듣고 이제는 대등한 파트너로 공동연구를 하기 위해 리켄을 찾은 것이다.
“사실 초고체 현상은 아직까지 이론으로 명쾌하게 설명하지 못하고 있습니다. 따라서 여러 가설을 세우고 이를 입증하는 실험을 계속해 나가야지요.”
김 교수의 말에 챈 교수는 스승답게 멋진 멘트를 날렸다.
“몇몇 사람들은 초고체가 (이론의 관점에서) ‘지저분하다(messy)’고 말하지만 저는 오히려 ‘풍부하다(rich)’고 말하고 싶습니다. 물리학의 다양한 측면을 늘 고려해야 하니까요.”