수학의 함정

- 이 책에서 이야기하는 '이론'은 수학적 이론을 의미하기 때문에 제목 부터 수학이 등장한다. 17세기 이후로, 그리고 시간이 지날수록 물리학 이론은 점점 더 고등한 수학적 언어로 기술되었다. 따라서 물리학자들 에게 이론 선택 문제는 '이 현상은 어떤 수학적 구조로 설명해야 할까?' 로 귀결된다. 가령 아인슈타인은 일반상대성이론을 기술하기 위해서 가우스와 리만이 개발한 '내면기하'를 사용했고, 양자역학의 창시자들은 복소수, 선형대수, 확률론, 연산자이론 등을 기본 도구로 택했다. 지금 현재 양자중력이론을 찾으려는 학자들 또한 그에 맞는 수학을 새로 개 발해야 하는가의 문제로 고민한다. 현상을 설명하는 데 가장 적절한 수 학적 이론이 무엇인가는 항상 구체적이고 중요한 과학적 질문이 아닐 수 없다. 호젠펠더는 세계적인 물리학자들과의 인터뷰, 그리고 과거 물리학 거 장들의 글을 근거로 이론 선택에 있어서 미학적인 기준이 지배적임을 보여준다. 물리학자들은 우주의 원리가 아름다운 수학으로 기술되어야 만 한다는 믿음이 강하고, 그런 믿음을 실현하기 위해 때로는 수십 년간 노력하기도 한다. 호젠펠더 자신은 이러한 미학적 원리에 대해서 회의 적이다. 현실이 우리의 감정적인 기준을 존중해줄 하등의 이유가 없기 때문이다.
- 새로운 자연법칙의 발명, 즉 이론 개발은 교실에서 배울 수 있는 것이 아니다. 물리학자들은 과학의 역사를 공부하면서 그 일부를 배우지만, 대부분은 선배, 친구와 스승, 멘토와 동료 검토자들에게서 습득한다. 한 세대는 다음 세대에게 무엇이 제대로 작동하는 것인지를 포착할 수 있 는, 어렵사리 얻은 직관과 경험을 전달한다. 물리학자들은 검증되지 않은 새 이론의 전망을 평가할 때면 자연스러움, 단순함, 우아함, 아름다움 같은 개념에 의존한다. 물리학의 근본 바탕에는 이런 숨은 규칙이 존재한다. 이 숨은 규칙은 매우 유용하다. 그리고 객관성이라는 과학의 요건과 정면충돌한다.
- 이 세상이 돌아가는 것이 무엇 때문인지, 우주는 어떻게 만들어졌는 지, 우리의 존재를 지배하는 규칙이 무엇인지 알고 싶은가? 그 답에 다 가가려면 먼저 사실의 흔적을 따라 과학의 지하실로 내려가야 한다. 그 렇게 계속 내려가면, 자신의 이론이 아름답다고 우기는 이론물리학자들 이 길을 막고 서 있는 것을 발견한다. 바로 그때가 물리학의 기반에 도 달했음을 알게 되는 순간이다. 물리학의 기반은 현재 우리가 아는 한 그보다 더 간단한 것으로부터 파생될 수 없는, 이론의 구성요소이다. 이 밑바닥에서 우리가 현재 손에 쥐고 있는 것은 공간과 시간, 25개의 입자고, 이 요소들 사이의 관계는 이 요소들의 행동을 기술하는 방정식을 통해 서로 얽혀 있다. 내 연구 주제는 공간과 시간을 가로지르고, 서로 충돌하거나 결합해서 합성 물 질을 만드는 입자들이다. 입자를 작은 구슬처럼 생각하면 안 된다. 양자 역학의 지배를 받는 입자들은 그렇게 생기지 않았다. 입자를 머릿속에 떠올리려면 아무 모양이나 취할 수 있는 구름을 생각하는 편이 더 낫다. 물리학의 기반 이론은 더 이상 분해할 수 없는 입자들만 다룬다. 그런 입자들을 기본 입자'라고 부른다. 현재 우리가 아는 한 이런 입자들은 하위 구조가 없다. 그러나 기본 입자들이 결합하면 원자, 분자, 단백질 을 만들 수 있고, 그렇게 함으로써 매우 다양한 구조를 만들어낸다. 지 금 이 책을 읽고 있는 당신과 나, 이 우주 안의 모든 것은 25개의 입자 로 만들어져 있다. 입자 그 자체는 전혀 흥미롭지 않다. 우리가 흥미를 갖는 대상은 입자 들의 관계, 입자들의 상호작용을 결정하는 원리, 우주를 탄생시키고 우 리가 존재할 수 있게 하는 규칙의 구조이다. 우리의 관심은 규칙에 있지 입자에 있는 것이 아니다. 우리가 배운 가장 중요한 사실은 자연이 수학 규칙에 따라 움직인다는 것이다.
- 과학 이론은 언제나 논리적 일관성을 요구하지 만, 수학적 모델링이 모든 분야에 도움이 되는 것은 아니다. 엄격함과 맞지 않는 데이터를 다룰 때, 언어를 엄격하게 사용하면 앞뒤가 맞지 않 게 된다. 모든 과학 원리 가운데 물리학은 가장 단순한 시스템을 다루 고, 이런 특성 때문에 수학적 모델링에 이상적이다. 물리학의 연구 주제들은 재현 가능성이 대단히 크다. 우리는 실험 환 경을 통제하는 방법을 알고, 정확성을 지키면서도 환경의 영향을 받지 않을 수 있다. 반면 심리학에서는 연구 결과를 재현하기가 무척 어렵다. 인간은 모두 달라 비슷한 사람을 찾기가 불가능에 가깝고, 인간의 변덕 이 연구 결과에 어떤 영향을 미치는지도 정확히 알 수 없기 때문이다. 그러나 물리학에서는 그런 문제가 없다. 헬륨 원자는 배가 고파서 괴로워하지 않고, 월요일이든 금요일이든 언제나 헬륨 원자답게 행동한다. 이 정확성 때문에 물리학은 큰 성공을 거둘 수 있었지만, 그래서 어렵 기도 하다. 물리학을 잘 모르는 사람들은 수많은 방정식이 도저히 이해 할 수 없는 것으로 보이겠지만, 배우고 계속 접하다 보면 결국에는 능숙 하게 다룰 수 있다. 수학 때문에 물리가 어려운 것은 아니다. 진짜 어려 운 문제는 정확한 수학을 찾는 것이다. 수학처럼 보이는 것을 아무거나 갖다 놓고 그것을 이론이라고 부를 수는 없다. 물리학이 어려운 이유는 새로운 이론이 내적 일관성을 갖추면서 실험 결과와도 일관성을 가져야 한다는 조건 때문이다.
- 우리는 이 세상이 무엇으로 만들어졌는지 알아내기 위해 탐사하던 중 25개의 기본 입자를 발견했다. 초대칭은 이미 알려진 입자들, 그 밖의 몇몇 입자의 짝꿍 입자를 예측하며 기본 입자 컬렉션을 완성시킨다. 초대칭 입자들은 아직 발견되지 않았지만, 초대칭적 완성 은 상당한 매력이 있다. 우리가 아는 입자들은 페르미온fermion과 보손 boson(각각 엔리코 페르미Enrico Fermi와 사티엔드라 보스Satyendra Bose의 이름에 서 딴 것이다)으로 나뉘는데, 초대칭이 두 유형의 입자들 사이의 관계를 설명해주기 때문이다. 페르미온은 극도로 개인적이다. 온갖 수를 동원하더라도 두 개의 페 르미온이 같은 위치에서 같은 행동을 하게 만들 수는 없다. 둘 사이에는 언제나 차이가 있어야 한다. 반면 보손은 결합하는 데 제약이 없고, 행복하게 단체로 춤을 추게 할 수도 있다. 그래서 페르미온인 전자들은 원자핵 주위를 에워싼 껍질 안에서 서로 별개의 껍질을 차지한다. 만일 전자가 보손이었다면 같은 원자껍질 위에 함께 자리 잡을 수 있었을 테고, 우주에는 화학이 존재하지 않았을 것이며, 화학자들도 존재하지 못했을 것이다. 어차피 우리의 존재 자체가 그 작은 페르미온들이 공간 공유를 거부하는 성질을 바탕으로 한 것이니까. 초대칭은 보손과 페르미온이 맞교환되더라도 자연법칙들은 동일하다고 가정한다. 다시 말해 알려진 보손들은 모두 페르미온 짝꿍을 가져야 하고, 알려진 페르미온들도 모두 보손 짝꿍을 가져야 한다. 이 짝꿍 입자들, 즉 초대칭 입자들은 각각 보손과 페르미온 그룹에 속해 있다는 점 외에는 완전히 동일해야 한다. 발견된 입자들 가운데 이런 식으로 짝지어지는 것은 없다. 우리가 내 린 결론은 현재 알려진 입자 중에는 초대칭 입자가 없고, 새로운 입자들 이 어딘가에서 발견되기를 기다리고 있다는 것이다. 이는 짝이 안 맞는 냄비와 뚜껑들을 들고 있으면서 어딘가에 맞는 짝이 반드시 있을 거라 고 믿는 것과 비슷하다. 안타깝게도 초대칭 방정식은 초대칭 입자의 질량이 얼마인지 알려주지 않는다. 더 무거운 입자를 만들려면 에너지가 더 많이 필요하기 때문에 입자의 질량이 클수록 발견하기가 더 어렵다. 초대칭 입자에 대해 지금까지 우리가 배운 것은 초대칭 입자가 존재한다면, 현재 우리가 도달 할 수 있는 에너지로 만들 수 없다는 것이다. 초대칭에는 밝혀야 할 내용이 많다. 보손과 페르미온이 동일한 동전 의 양면임을 보여주는 것 외에도, 초대칭은 기본 힘의 통합을 돕고 몇 가지 숫자의 일치를 설명할 잠재력을 가지고 있다. 뿐만 아니라 초대칭입자 중 일부는 암흑물질을 구성할 수 있는 특성이 있는 것도 있다.
- 은퇴를 앞둔 연구자들의 마음속에는 20세기에 거둔 승리가 생생히 새겨져 있고, 그들이 강조하는 아름다움은 이후 세 대, 즉 내가 속한 별 볼 일 없는 세대에게 지대한 영향을 미쳤다. 우리는 공식이 된 과거의 미적 이상들, 그러니까 대칭이나 통합, 자연스러움을 토대로 연구한다. 경험에 의지하고, 과거에 성공했던 연구를 다시 시도하는 것은 합리 적인 것처럼 보인다. 우리를 앞서갔던 사람들에게서 교훈을 얻지 않는 다면 우리는 바보가 될 것이다. 그러나 그 안에만 갇혀 있어도 마찬가지 로 바보가 될 것이다. 나는 무가치한 결과를 얻을 때마다 경계심이 커진다. 아름다움은 신뢰할 수 없는 안내자이며, 이전에도 여러 번 물리학자 들을 잘못된 길로 이끌었다. 원자를 구성하는 요소 들이 그렇게 많은데, 왜 이런 복잡한 원자 구조가 복잡한 행동으로 이어 지지 않을까? 왜 원자들은 모두 비슷한가? 원자를 구성하는 수많은 입 자가 각자 행동하고 있는데, 정작 원자들이 따르는 법칙은 굉장히 단순 하다. 너무 단순해서 전자껍질 구조만 가지고도 그 많은 종류의 원자를 주기율표로 깔끔하게 정리할 수 있을 정도다. 자연은 자연을 알고 싶어 하는 인간의 욕구를 대단히 친절하게 충족 시켜주고 있다. 핵 안에서 무슨 일이 일어나는 그 일은 핵 내부에 국한되 고, 우리가 보는 것은 그 순효과일 뿐이다. 어떤 원자는 수소와 결합하고 어떤 원자는 결합하지 않는다. 그러나 핵 안에서 일어나는 일은 이 결합과는 아무 상관없다. 어떤 원자는 규칙적인 패턴의 격자를 형성하고 어 떤 원자는 형성하지 않는다. 그리고 핵 안에서 일어나는 일은 이 격자구 조에 영향을 미치지 않는다. 이런 상황이 원자에만 해당하는 것은 아니다. 중성자와 양성자 같은 합성 입자들도 이들을 구성하는 쿼크와 글루온의 행동으로부터 거의 영 향을 받지 않는다. 그리고 물에 뜬 꽃가루 알갱이의 움직임(브라운 운동) 을 원자들이 꽃가루를 밀고 있기 때문이라고 설명한다면, 이때 원자를 구성하는 더 작은 것들은 무시하고 원자를 독립적인 입자로 가정하는 것으로 충분하다. 더 큰 규모에서도 마찬가지다. 행성이 그리는 궤도는 행성의 구조와는 상관없고, 나아가 우주의 은하도 구성 요소가 전혀 없는 입자처럼 다룰 수 있다. 미시계에서 일어나는 일이 거시계에 아무 영향도 미치지 않는다는 말이 아니다. 단지 세부적인 사항은 중요하지 않다는 것이다. 큰 물체는 작은 물체로 만들어져 있고, 큰 물체의 법칙은 작은 물체의 법칙으로부터 생겨난다. 놀라운 것은 큰 물체의 법칙도 아주 단순하다는 것이다. 작은 것들의 정보 대부분은 큰 것을 이해하는 데 그리 중요하지 않 다. 이를 미시계의 물리학과 거시계의 물리학이 '분리되어 있다 decouple 또는 눈금이 분리되어 있다separation of scale'라고 말한다. 눈금이 분리되어 있기 때문에 여러분은 쿼크나 힉스 보손이나 양자장이론에 대해 전혀 몰라도 잘 살 수 있는 것이다.
- 더 나은 분해능을 구현하기 위해, 우리는 양자역학의 가장 중요한 교훈에 의지한다. 그 교훈은 진짜 파동도 없고 진짜 입자도 없다는 것이다. 그 대신 우주 안의 모든 것은 (우리가 아는 한에서는 우주 자체도 포함 해서) 파동함수로 설명되고, 파동함수는 입자와 파동의 성질을 모두 갖 는다. 이 파동함수가 어떨 때는 좀 더 파동에 가까워 보이고, 또 어떨 때 는 입자처럼 보인다. 그러나 기본적으로 파동함수는 아무것도 아니며, 그 자체로 새로운 카테고리다. 따라서 엄밀하게 말하자면 기본 입자'라는 용어를 쓰지 말아야 한다. 나를 지도했던 교수님은 기본 입자라는 말 대신 '기본적인 것'이라고 불 러야 한다고 제안하기도 했다. 그러나 누구도 기본적인 것'이라는 표현 은 사용하지 않고, 나도 생소한 용어로 독자 여러분을 괴롭히고 싶지 않 다. 물리학자들이 말하는 입자는 사실상 파동함수라는 수학적인 대상을 의미한다. 파동함수는 정확히 입자도 파동도 아니며, 둘의 성질을 모두 가지고 있다. 파동함수 자체는 그것에 부합되는 관측할 수 있는 양이 없지만, 파동 함수의 절댓값으로 물리적으로 관측 가능한 대상의 측정 확률을 계산 할 수 있다. 양자이론에서는 이 정도가 우리가 할 수 있는 최선이다. 특별한 환경을 제외하고 단일 측정 결과를 예측할 방법은 없다.
- 양자이론으로 현미경의 분해능을 개선할 수 있는 이유는 입자가 (또 는 그것이) 더 무겁고 더 빠르게 움직일수록 파장은 더 짧다는 것을 알 려주기 때문이다. 그러므로 빛 대신 전자빔을 사용하는 전자현미경은 광학현미경보다 훨씬 높은 분해능에 도달할 수 있다. 전기장과 자기장 을 이용해 전자를 움직이게 하는 현미경으로는 원자 크기 수준의 구조 까지 판독할 수 있다. 원칙적으로 전자의 속도를 높이면 현미경의 분해 능을 마음대로 증가시킬 수 있다. 이런 이유로 현대 물리학은 계속해서 더 큰 입자 가속기를 지으려고 추진하고, 입자 가속기에 힘입어 현대 물 리학은 전진하는 것이다. 충돌 에너지가 더 높으면 결국 더 작은 세계를 탐색한다는 의미가 된다.  거울과 렌즈를 사용하는 빛 현미경과는 달리, 입자 가속기는 전기적 으로 대전된 입자들의 빔을 전기장과 자기장으로 가속시키고 초점을 맞춘다. 그러나 입자의 속도를 높이면, 측정 행위에서 정보를 추출하기가 어려워진다. 탐색을 목적으로 사용되는 입자들이 탐색 과정 자체를 변형시키기 때문이다. 양파 슬라이스 위에 쪼이는 가시광선은 기껏해야 양파를 아주 약간 데우는 정도 외에는 영향을 미치지 않는다. 그러나 목 표물에 고속으로 쏘아진 전자빔은 그 에너지로 목표물을 파괴할 수 있 다. 그렇다면 아주 짧은 거리에서 나타나는 현상의 정보는 잔해에 파묻 히게 된다. 결국 고에너지 물리학이란 충돌 잔해에서 정보를 추출하는 학문이다.