책정리

- 그렇다면 물결이란 무엇일까? 간단히 말해서 물결이란 사회에 중대한 영향을 미치는 하나 또는 여러 개의 새로운 범용 기술을 기반으로 일련의 기술이 한꺼번에 등장하는 현상을 말한다. 여기 서 '범용 기술'이란 인간이 할 수 있는 일을 비약적으로 발전시킬 수 있는 기술을 의미한다.*' 사회는 이러한 기술 도약과 함께 발전 해 나간다. 우리는 내연 기관과 같은 새로운 기술이 확산되면서 주 변의 모든 것을 변화시키는 것을 계속해서 봐 왔다.
이러한 변화의 물결을 통해 사바나에서 겨우 삶을 이어 나가던 연약한 영장류에서 좋든 싫든 지구를 지배하는 존재로 진화한 인 류에 대해서도 설명할 수 있다. 인간은 선천적으로 기술적 성향을 갖고 있다. 태초부터 우리는 우리가 만들어 낸 기술의 물결과 분 리돼 있어 본 적이 없다. 우리 인간은 기술과 공생하며 함께 진화 한다.
- 도구가 많아질수록 더 많은 작업을 할 수 있고 그 도구를 넘어서는 새로운 도구와 프로세스를 더 많이 구상할 수 있다. 하버드 대학교의 인류학자 조지프 헨릭Joseph Henrich이 지적한 바와 같이 바퀴는 인류 역사에 놀라울 정도로 늦게 등장했다.13 하지만 일단 발명이 되자 바퀴는 전차에서 마차, 방앗간, 인쇄기, 플라이휠fly- wheel에 이르는 많은 것의 기본 구성 요소가 됐다. 문자에서 항해 하는 선박에 이르기까지 모든 기술은 상호 연결성을 높여 기술 그 자체의 흐름과 확산을 촉진한다. 따라서 각 물결은 연속적인 물결 을 일으킬 수 있는 토대를 제공해 준다.
- 세세한 내용에 매몰되면 길을 잃기 쉽지만 한 발짝 물러나서 살펴보면 속도, 범위, 접근성, 영향력이 점점 더 커지는 물결을 발 견할 수 있다. 물결은 한 번 추진력을 얻고 나면 웬만해서는 잘 멈 추지 않는다. 대량 확산, 즉 아무런 통제 없이 무분별하게 이뤄지 는 확산은 기술 역사를 볼 때 가장 자연스러운 상태이자 기본값 이라 할 수 있다. 농업, 청동 세공, 인쇄기, 자동차, 텔레비전, 스마 트폰 등을 생각해 보자. 그 안에는 고유한 특성, 즉 시간이 지나도 변하지 않는 창발성과 같은 기술의 법칙이 존재한다.
인류 최초의 모닥불에서 새턴 V로켓Saturn V rocket의 연소까지, 최초로 휘갈겨 쓴 문자에서 끝없이 이어지는 인터넷의 텍스트에 이르기까지 기술은 결국 거의 모든 곳으로 퍼져 나간다는 사실을 역사가 말해 준다. 인센티브는 상당한 영향력을 발휘한다. 역량은 축적되고 효율성은 높아진다. 물결은 점점 더 거세지고 그 파급력 은 더 커진다. 기술 비용이 낮아질수록 기술에 대한 접근성이 높 아진다. 기술이 확산되고 그 이후에 새로운 물결이 이어질 때마다 그 확산은 더욱 가속화되고 그 기술이 더욱 강력해짐에 따라 더 깊숙이 침투한다.
이것이 바로 기술의 역사적 표준이다. 즉 우리가 미래를 내다볼 때 기대할 수 있는 역사적 패턴이다.

- 중세 시대에 교황 우르바노 2세Pope Urban II는 석궁을 금지하려고 했다. 엘리자베스 1세 여왕은 길드를 혼란에 빠뜨릴 수 있다는 이유로 16세기 후반 새로운 종류의 편물기를 사용하지 못하게 했다. 길드들은 뉘른베르크, 단치히, 네덜란드, 영국에서 새로운 종류 의 직기와 선반lathe을 때려 부수고 망가뜨렸다. 직조 효율을 높이 고산업 혁명의 핵심 기술 중 하나였던 플라잉 셔틀flying shuttle을 발명한 존 케이 John Kay는 폭력적인 보복이 두려워 영국에서 프랑 스로 도망쳤다.
역사를 통틀어 사람들은 생계와 삶의 방식이 파괴될 것이라는 위협과 걱정 때문에 새로운 기술에 저항하려 했다. 그들은 가족의 미래를 위해 싸웠고, 필요하다면 앞으로 다가올 것들을 물리적으 로 파괴할 용의도 있었다. 평화적 조치가 실패하자 산업 기계라는 물결을 해체시키려고 했다.

- 17세기 도쿠가와 막부 치하에서 일본은 거의 300년 동안 외부 세계, 더 나아가 그 세계의 야만적인 발명품들을 차단했다. 역사 를 통틀어 대부분의 사회가 그랬듯이 일본 역시 새롭고 다르고 파 괴적인 것을 불신했다. 마찬가지로 중국은 18세기 후반 영국의 외 교사절단이 서구 기술을 전수하겠다는 제안을 거절했다. 당시 중 국 청나라의 제6대 황제인 건륭제는 다음과 같이 말했다. "우리 천 조Celestial Empire는 모든 것을 풍부하게 보유하고 있으며 우리 영토 안에는 부족한 것이 없다. 따라서 외부 야만인들이 만든 제품들을 들여올 필요가 없다."
그러나 그 어떤 금지 조치도 효과적이지 못했다. 석궁은 총에 그 자리를 내어 주기 전까지 건재했다. 엘리자베스 여왕의 편물기 는 수 세기 후 대규모 기계식 직기라는 보다 더 강력한 형태로 돌아와 산업 혁명을 촉발했다. 오늘날 중국과 일본은 지구상에서 기술적으로 가장 진보하고 세계적으로 통합된 국가들이다. 러다이 트들은 말 소유주와 마차 제작자들이 자동차를 막지 못한 것처럼 산업 기술을 막는 데 실패하고 말았다. 수요가 있는 곳에서는 언 제나 기술이 발전하고, 주목을 받으며, 사용자를 모아들이게 마련 이다.
한번 시작된 물결을 멈추기란 불가능에 가깝다. 오스만 제국 이 인쇄술을 통해 발견한 바와 같이 저항은 시간이 지남에 따라 약화되는 경향이 있다. 기술의 본질은 장벽과 관계없이 확산되는 데 있다.
- 수많은 기술이 나타나고 사라진다. 페니파딩(penny-farthing, 앞바퀴는 아주 크고 뒷바퀴는 아주 작은 초창기 자전거_옮긴이)이나 세그웨이(Segway, 두 바퀴로 달리는 전동 이륜 평행차 옮긴이)는 보 기 힘들고 카세트나 미니디스크 역시 자취를 감춘 지 오래다. 하 지만 그렇다고 해서 개인의 기동성이나 음악이 보편화되지 않았 다는 의미는 아니다. 오래된 기술이 보다 더 효율적인 새로운 형태 로 대체됐을 뿐이다. 우리는 증기 기관차를 타거나 타자기로 글을 쓰지는 않지만, 그 기능을 계승한 신칸센이나 맥북MacBook에는 그 흔적이 고스란히 남아 있다.
연속적인 물결의 한 예로 불, 양초, 석유 램프가 가스 램프로, 그다음에는 전구로, 이제는 LED 조명으로 발전해 온 과정을 생각 해보자. 이러한 기술 변화를 거치면서 인공조명은 기반 기술이 변화하는 동안에도 계속 확장돼 왔다. 새로운 기술은 과거의 여러 기술을 대신한다. 전기가 양초와 증기 기관을 대체한 것처럼 스마 트폰은 내비게이션, 카메라, PDA, 컴퓨터, 전화기를 대체했으며, 완 전히 새로운 경험을 선사하는 앱을 선보였다. 더 적은 비용으로 더 많은 기능을 구현할 수 있게 하는 기술이 등장하면서 그 매력이 점점 더 커지고 있다.
- 최근까지도 기술의 역사는 원자를 조작하려는 인류의 노력이 라는 한 구절로 요약할 수 있었다. 불에서 전기, 석기에서 공작 기 계, 탄화수소에서 의약품에 이르기까지 2장에서 설명한 여정은 본질적으로 우리 인류가 원자에 대한 통제력을 서서히 확장해 온 광범위한 전개 과정을 보여 준다. 이 같은 통제가 더욱 정교해지면 서 기술은 계속해서 더 강력하고 복잡해져 공작 기계, 전기 공정, 열기관, 플라스틱과 같은 합성 물질, 무서운 질병을 퇴치할 수 있 는 복잡한 분자의 탄생을 가져왔다. 이러한 모든 신기술의 근본적 인 원동력은 물질, 즉 물질의 원자 구성 요소를 지속적으로 조작하는 데 있다.
기술은 20세기 중반부터 더 높은 수준의 추상적 개념에서 기 능하기 시작했다. 이러한 변화의 중심에는 정보가 우주의 핵심 속 성이라는 인식이 자리 잡고 있었다. 정보는 이진 형식으로 인코딩 될 수 있고, 이는 DNA 형태로 생명체가 작동하는 방식의 핵심이 다. 1과 0으로 이뤄진 문자열이나 DNA의 염기쌍은 단순한 수학적 호기심이 아니다. 그 둘은 기초적이면서도 강력하다. 이러한 정보 흐름을 이해하고 제어하면 새로운 가능성의 세계를 꾸준히 개척 해 나갈 수 있다. 처음에는 비트(bit, 데이터를 나타내는 최소 기본 단 위_ 옮긴이)가, 그다음에는 점점 더 많은 유전자가 발명의 구성 요 소로서 원자를 대체했다.

- AI는 이제 더 이상 '떠오르는' 기술이 아니다. AI는 여러분이 매일 사용하는 제품, 서비스, 기기 등에 이미 탑재돼 있다. 삶의 모 든 영역에서 사용되는 수많은 애플리케이션이 10년 전에는 불가능 했던 기술에 의존하고 있다. 이러한 기술은 치료비가 크게 늘어나 고 있는 난치성 질병 치료의 신약 발견에도 도움을 준다. 딥 러닝 은 수도관의 균열을 감지하고, 교통 흐름을 관리하고, 새로운 청정 에너지원을 얻기 위한 핵융합 반응을 모델링하고, 운송 경로를 최 소화하고, 보다 지속 가능한 다목적 건축 자재를 설계하는 데 도 움을 줄 수 있다. 또 자동차, 트럭, 트랙터를 구동하는 데에도 사 용되고 있어 잠재적으로 더 안전하고 효율적인 운송 인프라를 구 축할 수 있다. 전력망과 상수도 시스템에서는 과부하가 발생하는 시점에 부족한 자원을 효율적으로 관리하기 위해 딥 러닝을 사용 한다.
- AI 시스템은 소매 물류 창고를 운영하고, 이메일 작성법이나 여 러분이 좋아할 만한 노래를 추천하고, 부정행위를 적발하고, 기사 를 작성하고, 희귀 질환을 진단하고, 기후 변화가 미칠 영향을 시 뮬레이션한다. AI 시스템은 상점, 학교, 병원, 사무실, 법원, 가정에 서 중요한 역할을 하고 있다. 여러분은 이미 하루에도 몇 번씩 AI 와 상호 작용을 하고 있으며, AI는 곧 더 많은 곳에서 더 효율적이 고, 더 빠르고, 더 유용하고, 더 편리한 경험을 제공하게 될 것이다. AI는 이미 우리 곁에 와 있다. 하지만 아직 갈 길이 멀다.

- LLM은 언어 데이터가 순차적으로 제공된다는 점을 이용한다. 각 정보 단위는 어떤 식으로든 한 시리즈의 앞부분에 있는 데이터 와 관련이 있다. 이 모델은 상당히 많은 양의 문장을 읽고 그 안에 담긴 추상적 표현을 학습한 다음, 학습한 내용을 기반으로 다음에 나올 내용을 예측한다. 문제는 주어진 문장 '어디에서 시그널을 찾 아야 하는지 아는' 알고리즘을 설계하는 데 있다. 문장에서 가장 눈에 띄는 요소인 핵심 단어가 무엇이고, 그 단어들은 서로 어떤 연관이 있을까? AI에서는 이 같은 개념을 보통 '어텐션'(attention, '주목'이라는 뜻을 가진 단어_옮긴이)이라고 한다.
LLM은 문장을 수집할 때 '어텐션 맵attention map'이라고 생각할 수 있는 것을 구성한다. 우선 먼저 자주 발견되는 문자 그룹이나 구두점을 음절과 같은 '토큰'(token, 한 개의 단어나 구두점을 지칭하 는 말뭉치의 최소 단위 옮긴이)으로 구성하지만, 실제로는 자주 발 견되는 문자들을 덩어리로 묶어 모델이 정보를 더 쉽게 처리할 수 있도록 한다. 물론 인간은 단어를 사용해 이러한 작업을 수행하지 만, LLM은 인간의 어휘를 사용하지 않는다는 점에 주목할 필요 가 있다. 대신 이 모델은 수십억 개의 문서에서 패턴을 발견하는 데 도움이 되는 일반적인 토큰의 새로운 어휘를 만들어 낸다. 어텐션 맵에서 각 토큰은 그 앞에 있는 모든 토큰과 특정 관계를 맺고 있으며, 정보를 담고 있는 주어진 문장에서 이 관계의 강도는 해당 문장에서 해당 토큰이 갖는 중요도를 설명해 준다. 사실상 LLM은 어떤 단어에 주목해야 하는지를 학습한다고 할 수 있다.
따라서 "There is going to be a fairly major storm tomorrow in Brazil 내일 브라질에 상당히 큰 폭풍이 몰아칠 것이다"라는 문장을 예로 들면, LLM은 'there'라는 단어의 'the'와 'going'이라는 단어의 'ing'가 다른 언어에서도 흔히 발견되기 때문에 이 두 글자에 대한 토큰을 생성할 가능성이 높다. 전체 문장을 분석할 때, 이 모델은 'storm', 'tomorrow', 'Brazil'이 중요한 요소임을 학습해 브라질은 장소를 뜻하고, 앞으로 폭풍이 일어날 것이라는 사실 등을 추론할 수 있다. 이를 바탕으로 이 모델은 다음 순서로 어떤 토큰이 나올 지, 또 입력한 정보에 따라 논리적으로 이어질 결과는 무엇인지를 제안한다. 다시 말해서, 그다음에 따라 나올 수 있는 내용을 자동 으로 완성해 준다.
이러한 시스템을 트랜스포머(transformer, '변환기'라고도 부른 다_ 옮긴이)라고 한다. 2017년 구글 연구원들이 트랜스포머에 관 한 첫 번째 논문을 발표한 이후, 그 발전 속도가 놀라울 정도로 빨 라졌고, 얼마 지나지 않아 오픈AI는 GPT-2를 출시했다. 

- 위해, 오용, 잘못된 정보의 가능성이 존재하는 것이 사실이다. 하지만 긍정적인 소식은 이러한 문제 중 상당수가 더 크고 강력한 모델을 통해 개선되고 있다는 점이다. 전 세계 연구자들이 미세 조 정과 제어에 필요한 새로운 기술을 개발하기 위해 경쟁하고 있으며, 이러한 기술은 불과 몇 년 전만 해도 불가능했던 수준의 안정 성과 신뢰성을 제공하면서 이미 변화를 일으키고 있다. 아직 더 많 은 노력이 필요하겠지만, 적어도 이렇게 문제가 일어날 수 있는 가 능성을 해결하는 데 우선순위를 두고 있고, 이러한 발전은 환영받 아 마땅한 일이다.
매개 변수 수십억 개가 수조 개 이상으로 늘어나고, 비용은 낮 아지며, 접근성은 높아진다. 이에 따라 인류의 핵심이자 역사상 가 장 강력한 도구인 언어를 쓰고 사용하는 능력이 기계의 영역으로 넘어가면서 AI가 가진 잠재력은 점점 더 분명해지고 있다. 더 이상 공상 과학 소설이 아닌 현실에서 수십억 명이 사용할 실용적인 도 구이자 세상을 바꿀 도구가 곧 우리 곁에 다가올 것이다.

- 노벨상 수상자인 프랜시스 아널드Frances Arnold와 같은 과학자 들은 실리콘과 탄소를 결합하는 방법을 포함해 새로운 화학 반 응을 일으키는 효소를 만들어 냈다. 이는 일반적으로 전자 제품 과 같은 분야에서 광범위하게 사용되는 까다롭고 에너지 집약적 인 공정에 속한다. 아널드의 작업 방식은 기존의 표준 산업 대안 에 비해 에너지 효율이 15배나 높다.3" 다음 단계는 생물학적 물질 biological material과 공정의 생산 규모를 확대하는 것이다. 이렇게 하 면 전통적인 제조 방식이 아닌 재배하는 방식으로 육류 대체품 이나 대기 중 탄소를 흡수하는 신소재와 같은 중요한 제품을 생 산해 낼 수 있다. 방대한 석유화학 산업은 탄소 네거티브(carbon negative, 탄소 배출량보다 더 많은 양을 흡수해 탄소를 줄여 나가는 것 옮긴이) 공장을 건설하려는 솔루젠solugen과 같은 신생 스타트업 의 도전을 받을 수도 있다. 이러한 공장은 대기 중에 탄소를 배출 하지 않으면서 세정제부터 식품 첨가물, 콘크리트에 이르는 다양 한 화학 물질과 상품을 생산해 낼 수 있다. 그리고 이와 같은 공정 은 기본적으로 AI와 생명 공학 기술을 기반으로 한 산업 규모의 저에너지, 저폐기물 바이오 제조에 속한다.
또 다른 회사인 란자테크LanzaTech는 제철소에서 발생하는 이 산화탄소 폐기물을 유전자 변형 박테리아를 활용해 광범위하게 사용되는 산업용 화학 물질로 전환한다. 이 같은 유형의 합성 생물학은 보다 더 지속 가능한 '순환' 경제를 구축하는 데 도움이 되고있다. 차세대 DNA 프린터는 점점 더 정밀하게 DNA를 만들어 낼 것이다. DNA를 효율적으로 발현할 뿐만 아니라 이를 이용해 다양하고 새로운 유기체를 유전 공학적으로 설계하고 프로세스를 자동화해 확장할 수 있다면, 이론적으로는 몇 가지 기본 입력만으 로 엄청난 범위의 생물학적 물질과 구조물을 생산할 수 있다. 세탁 세제 혹은 새 장난감을 만들거나 집을 가꾸고 싶은가? 그렇다면 '레시피'를 다운로드하고 '실행'을 누르기만 하면 된다. 엘리엇 허쉬 버그Elliot Hershberg가 말한 것처럼, "우리가 원하는 것을 현지에서 바로 재배할 수 있다면 어떨까? 공급망이 전적으로 생물학적 프로 세스에 기반하고 있다면 어떨까?"34

- 간단히 말해서, '현실 세계'에서의 혁신은 마찰을 줄이고 의존성을 낮추면서 거의 실시간에 가까운 디지털 속도로 움직이기 시 작할 것이다. 소규모의 빠르고 유연한 영역에서 실험하여 완벽에 가까운 시뮬레이션을 만든 다음 이를 실제 제품으로 구현해 낼 것 이다. 그리고 과정을 계속 반복해 비용이 많이 들고 정적인 원자의 세계에서는 불가능했던 속도로 학습하고 진화하고 개선해 나갈 것 이다.
물리학자 세자르 히달고César Hidalgo는 물질의 구성이 중요한 이 유는 그것이 담고 있는 정보 때문이라고 주장한다. 10 페라리Ferrari 는 원재료가 아닌 정교한 구조와 형태에 저장된 복합적인 정보 때 문에 가치가 있으며, 원자의 배열을 특징짓는 정보가 페라리를 매력적인 자동차로 만드는 것이다. 연산 기반이 강력할수록 이러한 정보를 더 잘 활용할 수 있다. 여기에 AI와 정교한 로봇 공학, 그리 고 3D 프린팅과 같은 제조 기술을 결합하면 실제 제품을 더욱 빠 르고 정밀하고 창의적인 방식으로 설계하고 조작하고 제조할 수 있다.

- 중국은 달의 어두운 면에 탐사선을 착륙시킨 최초의 국가다. 그 어떤 국가도 이러한 시도를 하지 못했다. 중국은 다른 어느 나 라보다 많은 세계 상위 500대 슈퍼컴퓨터를 보유하고 있다. 선전 에 본사를 둔 거대 유전자 분석 기업인 BGI 그룹BGI Group은 탁월 한 DNA 염기 서열 분석 능력으로 유명한데, 그 기반에는 민간과 국가의 지원, 수천 명의 과학자, 방대한 DNA 데이터와 컴퓨팅 능 력이 자리 잡고 있다. 시진핑 주석은 '로봇 혁명'을 노골적으로 요 구했고, 그 결과로 중국은 전 세계 로봇 수를 모두 합친 것에 맞먹 는 수의 로봇을 설치하고 있다." 중국은 미국이 몇 년 후에나 가 능할 것으로 생각했던 극초음속 미사일을 개발했고, 6G 통신부터 태양광 발전에 이르는 다양한 분야에서 세계를 선도하고 있으며 텐센트Tencent, 알리바바, DJI, 화웨이, 바이트댄스ByteDance와 같은 기술 대기업들의 본거지다.
양자 컴퓨팅은 주목할 만한 중국의 전문 분야다. 에드워드 스노든Edward Snowden이 미국 정보 감시 프로그램의 기밀 정보를 공개하자 중국은 특히 더 보안에 신경을 곤두세우며 안전한 통신 플 랫폼을 구축하는 데 열을 올렸다. 또 하나의 '스푸트니크 모멘트'였 던 셈이다. 2014년 중국은 미국과 같은 수의 양자 기술 특허를 출 원했으며, 2018년에는 그 두 배에 달하는 특허를 출원했다. '5
2016년 중국은 세계 최초의 '양자 위성'인 묵자(Micius, '미시우 스'라고도 부른다_ 옮긴이)를 발사했고, 이 양자 위성은 새로운 보 안 통신 인프라의 일부로 알려져 있다. 하지만 묵자는 해킹이 불가 능한 양자 인터넷을 구축하기 위한 노력의 시작에 불과했다. 일 년 후 중국은 상하이와 베이징 간에 금융과 군사 정보를 안전하게 전 송하기 위한 2000킬로미터의 양자 통신망을 구축했다. 또 중국 은 허페이에 세계 최대 규모의 국립 양자 정보 과학 연구소National Laboratory for Quantum Information Sciences를 설립하는 데 100억 달러 이상을 투자하고 있다." 이 연구소는 양자 얽힘을 통해 큐비트를 서로 연결한 기록도 보유하고 있으며, 이는 완전한 양자 컴퓨터를 만드는 데 있어 중요한 단계 중 하나다. 허페이 과학자들은 구글의 혁신적인 시카모어sycamore보다 1014배 빠른 양자 컴퓨터 구축에 성공했다고 주장하기도 했다."

- 현대 기술과 국가는 지속적인 대화를 통해 공생하며 발전해 왔다. 기술이 국가의 핵심 업무에 어떻게 활용돼 국가 정체성과 행정의 토대를 구축하는 데 기여했는지 생각해 보자. 글쓰기는 부채, 상속, 법률, 세금, 계약, 소유권 기록을 추적하기 위한 행정 및 회계 도구로 발명됐다. 시계는 처음에 수도원과 같은 제한된 공간에 서 일정한 시간을 만들어 냈고, 중세 후기 상업 도시와 국가 전체 에 기계적인 형태로 보급돼 표준화된 시간을 도입하고 점점 더 큰 사회적 단위를 형성하는 데 기여했다.20 인쇄기는 방언의 혼돈 속 에서 국가 언어를 표준화하는 데 도움을 주었고, 그 결과 국민 국 가를 지탱하는 단일 민족인 '상상된 공동체'를 만들어 내는 데 기 여했다." 인쇄술은 보다 유동적인 구전 전통을 대체해 지리, 지식, 역사를 공고히 하고 확립된 법규와 이념을 전파했다. 라디오와 TV 는 이 과정을 더욱 가속화해 프랭클린 루스벨트 대통령의 노변담 화나 월드컵과 같이 국가적, 심지어는 국제적 공감대를 동시에 경 험하는 순간을 만들어 냈다.

- 무기 역시 국민 국가가 행사하는 권력에 결정적인 역할을 하는 핵심 기술이다. 실제로 국가 이론가들은 전쟁이 전차와 금속 갑옷 에서부터 레이더와 정밀탄약을 유도하는 첨단 칩에 이르기까지 새로운 기술의 발전을 이끈 원동력이었던 것처럼 전쟁 자체가 국 가 탄생의 토대였다고 말한다. (정치학자 찰스 틸리Charles Tilly의 표현 을 빌리자면, "전쟁이 국가를 만들고 국가가 전쟁을 만들었다.") 13세기 유럽에 소개된 화약은 중세 성곽의 전통적인 방어 패턴을 깨뜨렸 다. 요새화된 정착지는 포격에 취약해지면서 가만히 앉아서 기다 리는 오리 신세가 됐다. 영국과 프랑스가 백 년 전쟁을 치르는 동 안 공격 능력은 자본집약적인 대포를 구입, 건설, 유지, 이동, 배치 할 수 있는 국가에 유리하게 작용했다. 시간이 지남에 따라 국가는 점점 더 강력한 힘을 축적해 합법적인 무력 사용에 대한 독점권을 주장했다.
간단히 말해서, 기술과 정치 질서는 밀접하게 연결돼 있다. 새 로운 기술의 도입은 정치적으로 큰 영향을 미친다. 대포와 인쇄기 가 사회를 혼란에 빠뜨렸던 것처럼 AI, 로봇 공학, 합성 생물학과 같은 기술에서도 같은 결과가 나타날 수 있다는 것을 염두에 둬야 한다.
- 다가오는 물결을 관리하려면 국민을 책임지고, 전문 지식이 풍부하고, 이해관계와 인센티브의 균형을 맞추는 데 능숙하고, 신속 하고 단호한 입법 조치를 취할 수 있고, 무엇보다 긴밀한 국제 공 조를 이끌어 낼 수 있는 자신감 있고 민첩하며 일관된 국가가 필 요하기 때문에 어느 쪽이든 위험은 도사리고 있다. 지도자는 전례 없는 과감한 조치를 취하고 단기적인 이익과 장기적인 이익을 절 충할 수 있어야 한다. 역사상 가장 광범위하고 변혁적인 사건 중 하나에 효과적으로 대응하려면 성숙하고 안정적이며 무엇보다도 최적의 수준으로 운영되는 신뢰할 수 있는 정부가 필요하다. 다가 오는 물결이 약속하는 실질적인 혜택을 제공하기 위해서는 탁월한 역량을 발휘하며 제대로 작동하는 국가가 필요하다. 그러나 이러 한 전제 조건을 충족하기란 매우 어렵다.
앞서 살펴본 것과 같은 저렴하고 보편화된 로봇은 2부에서 살 펴본 다른 여러 혁신 기술과 함께 향후 20년, 어쩌면 그보다 훨씬 더 빠른 시일 내에 피할 수 없는 현실이 될 것이다. 이러한 맥락에 서 우리는 경제, 국가, 그리고 그에 수반되는 모든 것에 상당한 변 화가 있을 것이라는 점을 미리 염두에 둬야 한다. 대합의는 이미 위기에 빠졌다. 대홍수가 시작되면 새로운 스트레스 요인이 연속 적으로 발생해 그 기반이 불안정해질 것이다.

- 권력은 "어떤 일을 하거나 특정한 방식으로 행동할 수 있는 능력 또는 역량, 타인의 행동이나 사건의 진행을 지시하거나 영향을 미칠 수 있는 능력"이다." 권력은 문명을 뒷받침하는 기계적 또는 전기적 에너지이며, 국가의 기반이자 중심 원리다. 그러나 이러한 권력 역시 곧 변하고 말 것이다.
기술은 권력의 한 형태이기 때문에 결국 정치적이다. 그리고 다 가오는 물결의 가장 중요한 특징은 아마도 권력에 대한 접근의 민 주화일 것이다. 2부에서 살펴본 바와 같이 기술은 사람들이 현실 세계에서 무언가를 할 수 있도록 지원할 것이다. 내 생각은 다음 과 같다. 소비자 인터넷 시대에 정보를 처리하고 전달하는 데 드는 비용이 획기적으로 감소한 것처럼 다가오는 물결은 실제로 무언가 를 하고, 행동을 취하고, 힘을 투사하는 비용을 크게 낮춰 줄 것이 다. 지식도 가치가 있지만, 실질적인 행동을 취할 수 있는 능력이 훨씬 더 큰 영향력을 발휘한다.
- 그런데 강화 학습을 통해 스스로를 개선하고, 네트워크와 상호작용할 때마다 코드를 실험적으로 업데이트해 사이버 취약점을 더 효율적으로 악용할 수 있는 방법을 찾아내는 웜이 있다면 어떨 까? 알파고와 같은 시스템이 수백만 번의 자가 대국을 통해 예상 치 못한 전략을 학습하는 것처럼 AI를 이용한 사이버 공격도 그와 비슷한 학습 능력을 발휘할 것이다. 모든 상황에 대비해 기동 훈련 을 한다고 해도 집요한 AI라면 결국 발견해 낼 수밖에 없는 사소 한 취약점이 존재하기 마련이다.
자동차부터 비행기, 냉장고, 데이터 센터에 이르는 모든 것이 광범위한 코드 기반에 의존하고 있기 때문에 앞으로의 AI는 그 어느 때보다 더 쉽게 취약점을 식별하고 악용할 수 있게 될 것이 다. 심지어 기업이나 다른 여러 기관에 피해를 입힐 수 있는 법적 수단, 재정적 수단, 금융 규제, 기술 안전 프로토콜의 숨겨진 허점 을 찾아낼 수도 있다. 사이버 보안 전문가인 브루스 슈나이어Bruce Schneier가 지적했듯이, AI는 전 세계의 법률과 규정을 분석해 법적 허점을 교묘하게 악용하는 공격 방법을 찾아낼 수 있다." 한 기업 의 방대한 문서 캐시(cache, 중앙 처리 장치의 성능을 향상시키기 위 해 사용하는 보조 기억 장치_ 옮긴이)가 유출됐다고 상상해 보자. 법 률 AI는 이 문서 캐시를 여러 법률 시스템과 비교 분석해 가능한 모든 위반 사항을 파악한 다음 전 세계에서 동시에 여러 건의 소송을 제기해 해당 기업을 공격할 수 있다. AI는 경쟁사들의 입지 를 파괴하도록 설계된 자동화된 거래 전략을 개발하거나, 허위 정 보 캠페인(이에 대해서는 다음 섹션에서 자세히 설명하겠다)을 기획해 은행 예금 인출 쇄도나 제품 불매 운동을 촉발시켜 경쟁사가 해당 기업을 공격적으로 인수하거나, 단순히 회사가 무너지는 것을 지 켜보게 할 수도 있다.
금융, 법률, 통신 시스템뿐만 아니라 인간의 심리, 약점, 편견까 지 악용하는 데 능숙한 AI가 곧 등장할 것이다. 메타의 연구원들 은 시세로CICERO라는 프로그램을 만들었는데 이는 속임수와 배 신을 중심으로 길고 정교한 전략을 짜야 하는 복잡한 보드 게임 디플로머시Diplomacy를 마스터한 프로그램이었다." 메타의 시세로 개발은 우리가 어떻게 계획하고 협력하도록 AI가 도울 수 있는지 보여줄 뿐만 아니라, 그들이 어떻게 신뢰와 영향력을 얻기 위한 심 리적인 속임수를 개발할 수 있는지 암시한다. 이렇듯 AI는 놀라운 수준으로 인간의 감정과 행동을 자세히 분석해 조작할 수 있으며, 이러한 능력은 외교에서 우위를 차지하고, 선거에서 승리하고, 정 치 운동을 전개하는 데 도움이 될 수 있다.
AI를 강력하고 매력적으로 만드는 기능, 즉 스스로 학습하고 적응하는 능력이 악의적 행위자에게 힘을 실어 주면서 국가의 핵 심 기능을 공격할 가능성이 점점 더 커지고 있다.

- 얼핏 보기에 등자(stirrup, 말안장에 달린 받침대_ 옮긴이)는 별로 혁신적이지 않은 것처럼 보일 수 있다. 가죽끈과 말안장에 부착 된 삼각형 모양의 아주 기본적인 금속일 따름이다. 하지만 자세히 살펴보면 또 다른 모습을 볼 수 있다.
등자가 등장하기 전에는 기병대의 전장 영향력이 의외로 제한 적이었다. 잘 조직된 방어벽이라면 기병이 이끄는 돌격을 막아낼 수 있었다. 기병은 말에 고정돼 있지 않았기 때문에 취약했고, 긴 창과 큰 방패로 무장한 병사들이 촘촘히 진을 치고 서 있으면 아 무리 중무장한 기병대라도 낙마시킬 수 있었다. 결과적으로 말의 주된 기능은 기사를 전장으로 수송하는 것이었다.
등자는 그 모든 것에 급격한 변화를 가져왔다. 등자는 창과 기사를 돌진하는 말에 고정시켜 하나의 단일체로 만들었고, 창병 부대는 말과 기사의 힘을 모두 합쳐 강력한 힘을 발휘할 수 있게 되었다. 방패에 부딪혀도 기사는 낙마하지 않았고 오히려 방패와 방 패를 든 병사가 박살났다. 기병이 말에 단단히 고정된 상태로 창 을 내민 채 돌진하는 기병대는 그야말로 압도적인 충격 전술shock tactic이었다. 아무리 견고한 보병 전선일지라도 단번에 무너뜨릴 수 있었다.
이 작은 혁신으로 인해 힘의 균형이 순식간에 공격에 유리한 쪽으로 기울었다. 등자가 유럽에 도입된 직후 프랑크족Franks의 지 도자 샤를 마르텔Charles Martel은 등자의 잠재력을 한눈에 알아보 고 이를 활용해 사라센족Saracens을 프랑스에서 몰아냈다. 그런데 이러한 중기병 부대의 도입은 프랑크 사회에 엄청난 변화를 요구했다. 말은 많이 먹어야 했고 가격은 비쌌으며 중기병 역시 오랜 기 간 훈련이 필요했다. 그에 대응하기 위해 마르텔과 그의 후계자들 은 교회 땅을 몰수해 군사 엘리트를 양성하는 데 사용했다. 새로 얻은 부를 통해 말을 관리하고, 자유롭게 훈련을 하고, 부대를 왕 국에 귀속시키고, 나중에는 갑옷을 구입할 자금도 확보할 수 있었 다. 새로운 부와 지위에 대한 대가로 엘리트들은 무기를 들고 왕을 위해 싸우겠다고 서약했고, 이렇게 또 한 번의 사회적 대합의가 이 뤄졌다.
시간이 지나면서 이 즉흥적인 서약은 봉건 영주에 대한 의무 네트워크와 거대한 농노 계층을 갖춘 정교한 봉건 제도로 발전했 다. 영지와 작위, 마상시합과 도제 제도, 대장장이와 장인, 갑옷과 성, 기사의 용맹함을 나타내는 전령 이미지와 낭만적인 이야기로 가득한 문화의 세계가 만들어졌다. 그리고 이러한 사회 구조는 중 세 시대 전체의 지배적인 정치 형태로 자리 잡았다.
등자는 단순해 보이는 혁신이었지만, 수억 명의 삶에 영향을 미치는 사회 혁명으로 이어졌다. 거의 천 년간 유럽인의 삶을 구성 했던 정치, 경제, 전쟁, 문화 체계는 부분적으로 이 작은 삼각형 모 양의 금속에 기반을 두고 있었다. 등자와 봉건 제도의 이야기는 새 로운 기술이, 새로운 사회 인프라를 통해, 새로운 권력의 중심을 만들고 이를 뒷받침한다는 중요한 진실을 보여준다. 

- 과도한 감시와 통제가 이뤄지는 사회는 이미 존재하고 있으며, 이제 이러한 추세는 중앙에 권력이 집중되는, 한 단계 더 높은 수 준으로 확대될 것이다. 하지만 이를 단순히 중국이나 권위주의 국 가의 문제로만 치부하는 것은 실수다. 우선 먼저 이 기술은 베네수 엘라, 짐바브웨, 에콰도르, 에티오피아와 같은 국가에 대규모로 수 출되고 있다. 미국도 예외가 아니다. 2019년 미국 정부는 연방 기 관과 그 계약 업체가 화웨이, ZTE, 하이크비전Hikvision 등 여러 중 국 공급업체에서 판매하는 통신과 감시 장비를 구매할 수 없도록 금지했다." 그럼에도 불구하고 일 년 만에 연방 기관 세 곳에서 금지된 공급업체의 장비를 구입한 것으로 밝혀졌다. 심지어 미국내 100개가 넘는 도시에서 신장의 위구르족을 감시하고 통제하기 위해 개발된 기술을 도입하기도 했다.23 이는 명백한 억제 실패다.
서구 기업과 정부도 이러한 기술을 개발하고 배포하는 데 앞장 서고 있다. 앞서 런던을 언급한 것도 런던이 '세계에서 가장 많이 감시를 받는 도시'라는 타이틀을 놓고 중국의 선전시와 경쟁하고 있기 때문이다. 정부가 국민을 감시하고 통제하는 것은 공공연한 사실이지만, 이 같은 경향은 서구 기업에도 깊이 뿌리내려 있다. 스마트 물류 창고에서는 모든 근로자의 체온과 화장실 사용 시간까 지 일거수일투족이 추적된다. 24 비질런트 솔루션스Vigilant Solutions 와 같은 회사는 번호판 추적을 기반으로 이동 데이터를 집계한 다 음주 정부나 지방자치단체와 같은 관할 구역 기관에 판매하기 도 한다.25 심지어 테이크아웃 피자까지 감시당하고 있다. 그 일례 로 도미노피자는 AI 기반 카메라를 사용해 피자를 검사한다. 26 서 양인들도 일상생활에서 방대한 양의 데이터를 남기고 있고, 중 국과 마찬가지로 그 데이터가 수집되고 처리되고 운영되고 판매 된다.
- 하지만 영원히 지속되는 것은 없다. 고대 메소포타미아에서 로마,마야, 이스터 섬에 이르기까지 역사적으로 사회가 붕괴된 사 례는 수없이 많다. 이는 단순히 문명이 지속되지 않았다는 사실뿐 아니라 그 안에 지속 불가능성이 내재돼 있다는 것을 보여 준다. 문명의 붕괴는 예외가 아니라 일반적인 현상이다. 60개 문명을 대 상으로 한 조사에 따르면, 문명은 평균 400년 정도 지속되다가 붕 괴한다고 한다." 새로운 기술이 없는 문명은 에너지, 식량, 사회적 복잡성 등에서 발전의 한계에 부딪혀 결국 붕괴하고 만다.
한 가지 달라진 것이 있다면, 수 세기 동안 끊임없는 기술 발전 으로 사회가 그러한 역사의 굴레에서 벗어난 것처럼 보였다는 것 이다. 하지만 그러한 역학 관계가 끝났다고 생각하면 오산이다. 물론 21세기 문명은 마야 문명과는 거리가 멀지만, 거대하고 탐욕스러운 상부 구조, 증가하는 인구, 에너지와 문명 역량의 한계라는 압박은 마법처럼 사라진 것이 아니라 그저 억제된 것일 뿐이다.