책정리

- 사람이 하고 있는 일을 인공지능과 로봇이 대신하는 추세는 앞으로 점점 강해질 것임. 이 때문에 생기은 일자리 문제를 어떻게 해결해야 할까? 그렇다고 어떤 나라에서 무턱대고 인공지능과 로봇을 제한하거나 금지하면, 인공지능과 로봇을 잘 활용하는 다른 나라의 경쟁업체에 밀려 그 나라의 모든 사업이 망할 수도 잇다. 그렇게 되면 일자리가 어 빨리, 더 많이 없어질지도 모른다. 즉, 로봇이 내 일자리를 대체해서 내가 실업자가 되는 일보다, 인공지능을 더 잘 활용하는 경쟁사 때문에 회사가 망해서 내가 실업자가 되는 일이 일어날 가능성이 더 크다.

- 미래사회는 잘못된 정보로 사기를 치거나 범죄를 저지를 수 있는 위험의 크기도 점점 커질 것이고, 반대로 정부가 정보를 철저히 통제할 경우 정부에 저항하는 사람을 추적해서 탄압하기도 훨씬 쉬워질 것이다. 그렇다면 어느 선에서 자신을 드러내지 않는 인터넷을 자유롭게 활용할 수 있다고 정해두는 것이 옳을까? 어떤 식의 관리방법이 가장 좋을까?

- 어떤 사람이 어떤 절차를 밟았을 때 우주의 어느 지역을 그 사람의 땅, 그 사람의 것으로 인정해 줄 수 있을까? 그 권리를 영원히 인정해줘야할까, 일정한 기한을 두는 것이 좋을까? 이런 문제에 관해서는 어떤 원칙을 택해서 어떤 절차에 따라 규정을 정하는 것이 옳은 방법일까?
신항로 개척시대에 신대륙을 발견했다거나 새로운 섬을 발견했다고 주장하던 유럽의 탐험가들은 자칫 잔인한 침략행위를 저지르던 때가 많았기 때문에 그 시절의 규정을 그대로 본받아 활용하는 것은 좋은 방법은 아닐 것이다.

- 신경과 호르몬에 관한 연구, 뇌의 화학적 반응에 대한 연구가 진행될수록 사람의 기분, 행복감에 대한 이해는 깊어질 것이고 이것을 인위적으로 조종하는 방법도 개발될 것임. 그렇다면 누구나 행복하게 해줄 수 있는 약은 과연 허용되어도 좋을까? 이런 약을 금지해야 하는 근거를 찾아낼 수 있을까? 과거에는 전 세계적으로 금지되는 추세였던 대마초 등의 약물에 대해 해외 일부 지역에서 그 허용폭을 넓히는 정책이 추진되고 있다. 혹시 효과가 어느 수준 이상으로 평가되고 부작용이 어느 수준 미만으로 제거된다면 비슷한 부류의 약물을 허용해도 괜찮을까?

 

- 최초의 마이크로프로세서 4000시리즈 이후 인텔의 히트작이 된 8086 프로세서에 맞서 모토로라는 68000 프로세서를, 자이로그는 Z8000을 출시. 후발주자들은 성능면에서 인텔 8086보다 앞섰고 사용자 편의성 측면까지 고려해 인텔의 약점을 파고들었다. 이런 상황 속에서 인텔은 경쟁전략에 대해 고민했고 일명 크러쉬 전략을 시행. 크러쉬 작전은 고객들에게 마이크로프로세서의 기술적 우수성만을 홍보하는 것이 아니라 고객들이 가진 문제에 대해 포괄적인 솔루션을 제공하겠다는 캠페인이었다. 성능사양을 제시했던 카탈로그도 고객들에게 어떤 도움이 되는지를 제시하는 것으로 바꿈. 

- 트랜스포머 기반 알고리즘을 구동하는 것은 매우 고된 단순반복 작업이다. 의미를 알 수 없는 수십만권의 책이 있는데 그 책을 꼼꼼이 읽으며 단어와 단어가 어떤 식으로 연결이 되는지를 보고 가장 많이 연결된 단어로 문장을 구성한다고 생각해보자. 인간이 수행한다는 것은 불가능이다. 상상이야 할 수 있지만 엄청난 성능의 수퍼 컴퓨터가 없으면 실제로 실험해 볼 수조차 없다. 전문가 방식의 인공지능 알고리즘은 정확하지 않지만 주제에 크게 벗어나지 않는 대답을 내놓는다. 트랜스포머 기반 알고리즘은 적당히 학습하면 얼토당토 않은 답을 내놓는다. 모델이 엄청 커지기 전까지는 터무니 없이 낮은 정확성을 보인다. 그러다 일정 규모 이상의 파라미터를 갖게 되면 다른 알고리즘과는 비교할 수 없는 정확성을 보인다.

- 트랜스포머 모델의 특징은 범용성. 이미지 인식, 언어 인식 등 개별적 목적을 가진 다양한 인공지능 알고리즘이 있다. 파라미터값이 작은 모델부터 수조개의 파라미터를 갖는 초거대언어모델까지 사이즈별로도 종류가 다양하다. 사용하는 목적에 따라 라벨이 붙은 데이터를 사용하는 모델도 있고 라벨이 없는 데이터를 사용하는 모델도 있다. 지도학습, 비지도학습 등 학습방식도 다양.
트랜스포터는 무작위 데이터를 입력해 정답을 찾아내는 방식이기 때문에 데이터의 성격을 따지지 않음. 초거대언어 모델을 만들어 목적에 따라 적당히 파인튜닝하면 이미지, 언어, 추천 등 어떤 서비스라도 제공가능. 어떤 데이터가 입력되던디 처리방식은 그저 행렬곱이다. 더하기 곱하기만 반복한다. 더하기 곱하기로 모든 답을 찾아내고 모든 솔류션을 제시한다. 이는 모든 인공지능 서비스의 기반이 된다고 해서 파운데이션 모델이라고도 한다.

- 앞으로의 반도체 성능을 나타내는 기준으로 트랜지스터 집적도나 전력당 성능이 주요 후보로 거론되고 있음. 트랜지스터 집적도를 강조하는 주요 기업은 인텔이다. 인텔은 TSMC, 삼성전자에 비해 공정노드는 뒤처지지만 같은 공정노드에서 트랜지스터 집적도는 높았다. 인텔의 마크 보어는 "일부 기업들이 집적도를 높이지 못하면서 20나노에서 14나노, 10나노 등으로 노드 이름을 바꾸고 있다"며 절대적인 트랜지스터 집적도로 측정을 해야한다고 주장.
트랜지스터 집적도가 높아야 한다는 인텔의 주장도 일리가 있다. 하지만 선폭개선을 지속적으로 진행한 TSMC나 삼성전자는 결국 인텔보다 더 뛰어난 성능을 보여줬다. 같은 노드에서 성능은 인텔이 뛰어날지 몰라도 TSMC, 삼성전자는 인텔보다 앞선 노드를 성공시켰다. 게다가 인텔의 공정은 면적은 줄일 수 있을지 몰라도 트랜지스터끼리 연결하는 배선이 더 복잡해지기도 한다. 배선이 들어가야 할 자리를 줄여서 트랜지스터 면적을 줄인것인지도 노드를 비교할 때 살펴보아야 할 점이다. 

- 냉각장치에 필요한 공간 확보여부에 따라 반도체가 사용할 수 있는 전력 사용량이 정해짐. 냉각장치를 달 수 없는 디바이스에는 고성능 반도체를 쓸 수 없다. TV에는 5와튼 전력을 소비하는 반도체를, 노트북은 10와트, 모바일폰은 2와트 수준을 사용하는 반도체가 한계. 더 좋은 성능의 반도체가 있어도 전력사용량이 많으면 사용할 수 없는 것이다.

- 공랭식으로 온도를 낮출 수 있는 한계 전력량은 GPU카드당 약 400와트. 400와트보다 더 많은 전력을 사용하는 반도체는 수냉식 냉각장치를 사용함. 
A100은 400와트의 전력을 사용하기 때문에 공랭식 냉각이 가능. 하지만 H100은 700와트를 사용하므로 수냉식 냉각장치를 달 수 밖에 없음. 데이터센터를 구성하는 데는 100-150와트 반도체가 가성비가 좋음. GPU이전의 서버용 CPU들이 그 정도 전력을 사용해왔고, 그에 맞게 냉각설비가 발전되어 온 추세가 있기 때문. 
그렇다고 100와트를 사용하는 AI반도체를 많이 사용하는 것이 정답은 아님. 반도체는 내부에서 데이터 처리를 할 때는 전력을 많이 사용하지 않는데, 다른 칩과 데이터를 주고받을 통신을 하면 전력을 많이 사용하기 때문. 성능이 낮은 반도체를 여러개 달면 오히려 전성비가 떨어진다. 

- 쿠다를 개발할 때 고성능 인터페이스와 컨트롤러를 개발할 때 딥러닝 시대를 예상하고 개발한 것은 아니다. 딥러닝의 연산방식이 그래픽 연산방식과 유사하다는 의도치 않은 운이 작용. 이에 더해 엔비디아는 그들이 잘하는 부분을 AI시대에 어떻게 활용할 수 있는지에 대해 빠르게 캐치하고 그 방향으로 빠르게 강화시켜 나갔다. 반도체업의 특성상 미래를 내다보며 사용자가 필요할 것을 예측하고 하드웨어에 녹여내는 것이 임무다. 이를 위해 어떤 반도체는 실제사용자와 밀접한 관계를 유지하며 요구사항을 기준으로 차세대 설계를 구상한다. 특정 고객사가 없는 경우는 다목적으로 사용할 수 있는 범용적인 반도체를 설계하거나 고객사의 수준을 웃도는 연구를 통해 미래를 예측할 수밖에 없다. 

 

 

- 선함은 공짜로 가질 수 있는 것이 아니다. 우리는 그 비용을 감당할지, 아니면 다른 이기적인 대안을 선택할지 결정해야 한다.

- 긍정적 자아상을 갖고 싶은 마음, 그리고 다른 사람에게 좋은 이미지로 남고 싶은 마음은 선행을 장려함. 우리는 인정과 칭찬받기를 좋아하고, 그래서 도덕적 가치에 따라 행동하기 때문. 하지만 바로 이 마음 때문에 우리는 사실을 대면하지 않으려하고, 모르는 척 행동하고, 외면하고, 눈을 질끈 감기도 함. 그리고 이마음 때문에 우리는 도덕적 요구를 받은 상황을 적극적으로 회피하기도 한다. 순간적으로 이기적인 행동을 하면서도 좋은 이미지를 유지하기 위한 시도들이다. 이렇게 하면 몰랐다는 변명이나 비도덕적인 행동을 하지 않았다는 변명 뒤에 자신을 감출 수 있다. 눈을가리고 원래 나는 괜찮은 사람이야, 라고 설득하는 것이다. 그리고 이 과정을 돕는 또 하나의 장치가 있다. 바로 잊어버리는 능력이다.

- 30년대 후반에 나는 GE에서 일했다. 회사는 직원들이 아무것도 훔쳐가지 못하도록 도구와 예비부품을 지키는 데 특히나 열심이었다. 회사의 노골적인 불신을 직면한 직원들은 가져갈 수 있는 모든 것을 도둑질함으로써 불신을 정당화하기 시작했다. ... 휴렛패커드를 시작할 당시 나는 GE에서의 기억을 생생하게 간직하고 있었다. 이에 나는 도구와 예비부품을 넣어둔 창고를 항상 열어두기로 했다. 이 결정은 두 가지 측면에서 휴렛패커드에 유리했다. 첫째, 쉬운 접근은 제품디자이너나, 집에서 혹은 주말에 새로운 아이디어를 시도해보고 싶은 직원에게 매우 편리한 제도였다. 둘째, 열려 있는 창고는 직원들에 대한 신뢰의 표현이었고, 이는 중요한 장점이었다. (데이비드 패커드)

- 원칙적으로 우리는 모두 협력적인 행동을 할 수 있다. 하지만 협력적인 행동에 대한 의지는 근본적으로 우리의 이웃이 어느 정도까지 협력할 것인가에 대한 우리의 기대에 달려 있다. 그 누구도 혼자만 바보가 되고 싶어 하지는 않기 때문이다. 협력에 대한 우리의 의지는 협력하지 않는 사람들을 처벌할 수 있을 때, 그리고 우리 주변의 사회적 규범이 온전할 때, 더 나아가 그것이 실제로 시행될 때 높아진다.

- 위임은 도덕적 궁지에서 빠져나오는 데 도움이 된다. 하지만 이와 동시에위임은 부도덕하거나 불공정한 겨로가가 나올 가능성을 높인다. 심지어 임시관리자의 고용을 사업모델로 활용하는 기업도 있다. 물론 이들이 훌륭한 경험을 갖춘 전문가인 것은 맞다. 하지만 이들을 고용하면 인기 없는 결정에 대한 책임까지도 이들에게 전가할 수 있다. 이로서 기업은 임시 관리 서비스업체들이 광고하는 효과를 얻는다. "변화는 어렵고 인기없는 결정을 요구할 때가 많습니다. 위임관리자를 고용하는 것은 이러한 결정의 구현과 진행을 가능하게 합니다. 위임관리자를 통해 여루분은 손을 더럽히지 않고, 여러분의 전임자가 만들어냈을지도 모르는 부정적인 감정들로부터 부담을 느끼지 않고, 새로운 지속적인 리더십을 이어갈 수 있을 것입니다."

- 위임은 한 사람의 책임을 다른 사람에게 전가함. 대표나 위임자는 자신이 직접 한 일은 하나도 없다고 발뺌할 수 있다. 실행자는 그저 지시에 따랐을 뿐 결과적으로 책임은 대표 혹은 위임자에게 있다고 주장할 수 있기 때문이다. 임무를 위임할 때 언급하는 타당한 근거는 무수히 많다. 예컨대 경제학적 관점에서 보면, 전문화나 정보균형의 장점을 들 수 있다. 하지만 자신의 잘못이아 수치심을 다른 사람에게 전가할 수 있다는 것 또한 이들이 생각하는 위임의 장점일 것이다.

- 위임, 권위, 명령은도덕에 불리한 환경을 만든다. 상사가 부하에게 일부 부도덕한 절차의 수행을 지시할 경우, 도덕성이 쉽게 사라지는 것이다. 일단 행동을 취하고 나면 상사는 자신은 한 것이 없고, 전부 부하가 한 것이라고 주장할 수 있다. 반면 부하는 자신은 지시를 따랐을 뿐 도덕적 책임은 상사에게 있다고 주장할 것이다.


- 과거 축산업을 많이 하던 지역 출신 사람들에게서는 부당한 행동을 처벌하고 보복하려는 의지가 더 큰 것을 발견할 수 있었다. 그러니까 산업화 이전 시대를 살았던 선조들의 생업이 오늘을 사는 현대인의 부정적 호혜성의 정도에도 영향을 끼치고 있는 것이다. 가축 사육을 주로 하던 민족의 후예들은 더 부정적인 호혜성을 발휘할 뿐만 아니라 오늘날에도 싸움과 갈등에 더 쉽게 휘말리는 경향을 보임. 그리고 이 싸움과 갈등은 국가가 주도하는 전쟁부터 지역 갱단 혹은 투쟁적 단체의 폭력에까지 이른다. 다른 사람을 살해하고 죽을때까지 때리는 것은 과거 선조들의 생산방식에서 비롯된 결과인 것이다.

- 선한 사람이 되는 게 어려움에도 불구하고 가 아니라 어렵기 때문에 우리는 인간으로서 할 수 있는 것들을 시도해야 한다.