빅나인

- 알파벳(Alphabet 구글의 모회사)의 비즈니스 유닛인 딥마인드에는 700 명의 직원이 있으며, 그중 일부는 가능한 빠른 속도로 상용 제품을 개발하는 임무를 부여받았다. 2018년 3월, 구글의 클라우드 사업 부문은 딥마인드 엔진을 탑재한 문자 음성 지원 서비스를 텍스트 100만 자 처 리당 16달러에 제공한다고 발표했다. 구글의 2018년 I/O 콘퍼런스에서 주목받은 발표 중 하나는 고객을 대신해 자동으로 전화를 걸어 “음” 이나 “아하”소리까지 넣어 가며 인간에게 말을 걸고 식당이나 미용실을 예약하는 음성인식 비서인 듀플렉스(Duplex)였다. 이 상품은 딥마인드의 일부인 AI 기반 발성 장치인 웨이브넷(WaveNet 텍스트를 읽어 음성으로 재생하는 딥 러닝 네트워크)을 이용한다. 그동안 알파벳 산하 또 다른 부문의 AI 연구 그룹 구글 브레인(Google Brain AI의 심층 학습 연구 팀)은 AI를 만드는 AI를 만들었다고 공개했다. 오토ML(AutoML)로 불린 이 시스템은 강화 학습이라는 기술을 이용한 기계 학습 모델을 자동화했다. 오토ML은 일종의 '부모' 같은 최 고위층 관리자인 DNN으로서 특정 임무를 맡을 '자녀' AI 네트워크 생성 여부를 결정한다. 오토ML은 요청 없이도 나스넷(NASNet)이라 불리는 자녀를 생성해 비디오로 사람, 자동차, 교통 신호등, 지갑 등을 알 아볼 수 있도록 가르친다. 자아, 의심, 자신감 부족 최고의 컴퓨터 과학자에게서도 발견되는 특징이다 같은 인간적 결함 없이 나스넷은 82.7퍼센트의 확률로 이미지를 예측했다. 이는 이 시스템이 오리지널 부모 컴퓨터를 창조했던 사람을 포함한 인간 코딩 담당자를 능가한다는 이야기다.
- 그렇다. 기계는 생각할 수 있다. 튜링 테스트나 보다 최근인 2011년 헥터 레브스크가 제안한, 상식적인 추론에 초점을 맞춰 AI에게 애매모호한 대명사가 들어 있는 간단한 질문에 대답을 하도록 하는 위노그래드 도식(Winograd schema) 같은 대화체 시험이 다른 영역에서의 AI력을 측정하기 위해 반드시 필요한 게 아니다. 이는 기계가 인간처럼 언어 구조를 이용해 생각할 수 있음을 증명한 것이다. 아인슈타인이 천재라는 점에는 모두가 동의한다. 아인슈타인은 당시 자신을 담당한 교사들이 이해할 수 없는 방식으로 생각했으며, 이에 따라 그들은 당연히 아인슈타인이 지능이 낮다고 여겼다. 사실은 당시 아이슈타인의 강력한 사고력을 측정할 수 있는 의미 있는 방법이 없었다. AI도 그러하다. 생각하는 기계는 현실의 결과물에 영향을 끼치는 결정이나 선택을 할 수 있으며, 이를 위해서는 의도와 목적이 필요하다. 결국 그들은 판 단 감각을 개발했다. 철학자와 신학자 양측에 따르면 이런 것은 영혼 을 만드는 본질이다. 각각의 영혼은 신의 통찰력이자 의도의 표현으로, 유일한 창조주에 의해 만들어지고 부여되었다. 생각하는 기계도 창조주가 있다. 그들은 AI의 새로운 신인데, 대부분 남성이고, 압도적으로 미국과 서유럽 그리고 중국에 거주하며, 어떤 점에서는 빅 나인으로 연결돼 있다. AI의 영혼은 미래에 대한 그들의 통찰력이자 의도의 표현이다.
- AI와 한참 먼 분야에서 사례를 빌자면, 1970년대와 80년대, 샘 키 니슨, 앤드루 다이스 클레이, 짐 캐리, 마크 마론, 로빈 윌리엄스, 리처 드 프라이어는 모두 전설적인 코미디 스토어(미국 캘리포니아주 웨스트 할 리우드의 웨스트 선셋 불러바드에 있는 유명한 코미디 클럽) 바로 아래에 있는 크 레스트힐 로드에 살았다. 그들은 밥 호프(미국의 전설적인 코미디언)가 TV 에 나와 “나는 한 여자를 두고 두 번 생각한 적이 없어. 한 번이면 충분 하잖아” 같은 농담을 터트리는 시대에 무대에 올라갈 기회를 얻으려고 노력하면서 한 집에 살던 젊은이에 불과했다. 하지만 그들의 가치는 급진적으로 달랐다. 터부를 깨뜨리고, 사회적 불의에 맞서고, 관객의 피드백을 반영해 가며 초현실적인 이야기를 해댔다.
그들은 서로 특성과 관찰 내용을 공유했다. 그들은 무대에서 썰렁한 반응을 접하게 되면 서로 안타까워했다. 그들은 서로 실험했고 서로 배웠다. 이 획기적이고 재기 넘치는 희극배우로 이루어진 그룹이 미국 엔터테인먼트 미래의 초석을 놓았다. 이들의 영향력은 아직까지는 살아 있다. 마찬가지로, AI도 동일한 가치와 아이디어, 목적을 공유한 현재이 개발자 그룹 덕분에 비슷한 급진적 변화를 겪게 되었다. 앞에서 말했 던 세 명의 심층 학습 선구자 제프 힌턴, 얀 르꿩 그리고 요슈아 벤지오는 심층 신경망 초기 AI 세계의 샘 키니슨이고 리처드 프라이어다. 르꿩은 캐나다 고등 연구소(CIFAR)가 요슈아 벤지오를 포함한 소그룹의 연구자를 가르친 토론토 대학교 힌턴 밑에서 공부했다. 이들은 많은 시간을 함께 보냈고, 아이디어를 이리저리 궁리했으며, 이론을 시험했고, 차세대 AI를 만들어 나갔다.
- 개발자 그룹의 강력한 유대는 사람들이 밀접하게 함께 일하고 좌절을 겪고 성공을 축하하면서 형성된다. 그들은 일련의 경험을 공유하 고, 이는 공통의 어휘로 기록되며, 공통의 아이디어와 행동 그리고 목 표로 귀결된다. 수많은 스타트업 스토리, 정치적인 운동, 문화적인 거대한 흐름이 바로 이런 방식으로 시작된다. 몇 명의 친구, 기숙사 방이나 집이나 창고의 공유, 프로젝트에 집중하기 등이다. 현대 AI의 비즈니스 진앙은 실리콘밸리, 베이징, 항저우 그리고 선전이지만, 대학이야말로 AI 개발자 그룹의 원동력이다. 그 허브는 몇 개 안 된다. 미국에서는 카네기 멜런대, 스탠퍼드대, UC 버클리대, 워 싱턴대, 하버드대, 코넬대, 듀크대, MIT, 보스턴대, 맥길대 그리고 캐 나다의 몬트리올대를 포함한다. 이 대학은 산업과 강력한 유대를 맺고 활발한 학술적 연구를 진행하는 거점이다. 이들에겐 특유의 규칙과 관습이 있는데, 이는 가혹한 대학 교육에서 시작된다. 북미에선 대학이 R이나 파이선 같은 프로그래밍 언어 숙달, 자연어 처리, 응용 통계학, 컴퓨터 시각 장치, 컴퓨터 생명공학 그리고 게임이론 같은 고난도 기술을 강조한다. 밖에서 '마음의 철학이나 문학 속 무슬림 여성' 또는 '식민주의에 대한 강의를 듣는 것을 못마땅한 눈으로 바라본다. 만일 우리가 인간처럼 생각하는 능력을 갖춘 생각하는 기계를 만들려고 노력하면서 인간의 조건에 대해 배우는 것을 배제한다면 이는 직관에 어긋나는 일로 간주될 것이다. 하지만 이런 과목은 교과과정에서 의도적으로 배제되고 있는데, 전공 외의 분야에서 선택과목을 수강할 여지는 거의 없다고 할 수 있다.
- 페이스북은 아마 세계 최대의 소셜네트워크이겠지만, 텐센트 기술 은 여러 면에서 훨씬 우위에 있다. 텐센트는 샤오웨이(Xiaowei)라는 이 름의 휴대용 정보 단말기, 모바일 결제 시스템(텐페이 TenPay), 클라우드 서비스(웨이윈 Weiyun), 최근에는 무비 스튜디오(텐센트 픽처스 Tencent Pictures)를 내놨다. 텐센트의 유튜 연구소(YouTu Lab)는 안면과 사물 인식 분야에서 전 세계를 주도하면서 50개 이상의 다른 기업에 기술을 제공하고 있다. 이 역시 건강 산업 분야로 진출하고 있는데 영국의 헬스케어 업체로 원격의료 스타트업인 바빌론 헬스(Babylon Health)와 AI를 원격 환자의 모니터링에 이용하는 메도패드(Medopad) 두 업체와 파트너 관계다. 2018년 텐센트는 두 군데의 유망한 미국 스타트업인 아톰와이즈(Atomwise)와 엑스탈피(Xtalpi)에 큰 투자를 했는데, 이들은 AI를 의약품에 적용하는 데 초점을 맞추고 있다. 2018년 텐센트는 시장가치 5,500억 달러를 웃돈 최초의 아시아 기업이 되었고, 페이스북을 누르고 전 세계에서 가장 가치 있는 소셜미디어 기업에 올라섰다. 그중에서도 가장 놀라운 일은 텐센트 매출에서 온라인 광고가 차지하는 비율이 20퍼센트가 되지 않는다는 사실로, 이는 페이스북이 98퍼센트에 이르는 것과 비교된다.
- 중국에서 자본 투자의 대가로 지적 소유권을 요구하는 것은 기묘한 문화적 관습도, 투자자가 더 많은 걸 얻기 위한 탐욕도 아니다. 그것 은 정부에 대한 조직적인 협력의 일부다. 중국은 경제적, 지정학적, 군 사적으로 가까운 미래에 세계를 지배한다는 분명한 비전을 갖고 있다. 그래서 AI를 그 목표로 가는 통로로 여긴다. 이 목적을 위해선 정보의 절대적인 통제가 국가 지도자의 최고 관심사일 수밖에 없다. 따라서 중국은 미국 기업으로부터 중국의 사업 파트너로 지적 소유권을 이전 하도록 설계된 산업 정책을 채택했다. 그 사례에는 특정 데이터세트, 알고리즘 그리고 공정 디자인이 포함된다. 중국에서 사업을 하려는 수 많은 미국 기업은 반드시 자신이 소유한 기술부터 먼저 중국에 넘겨야 한다. 그 외에도 외국 기업이 연구와 개발을 중국 내에서 현지화하고, 현지에서 사용한 데이터를 저장하도록 강제하는 새로운 규제가 있다. 데이터를 현지에서 저장하게 하는 것은 외국 기업에는 어려운 요구다. 왜냐하면 중국 정부가 언제라도 데이터를 조사하고 암호를 해제할 수 있는 권한을 갖게 되기 때문이다. 베이징은 신중하게 장기 계획을 짜고 있다. 정부 지도자와 공산당 간부가 전략적인 전망을 총괄하면서 중국을 몇 십 년 뒤 미래까지 뻗어 나갈 종합적인 경제적, 정치적, 군사적 그리고 사회적인 계획과 설계를 하는 지구상에 몇 안 되는 나라로 만들기 위해서 말이다. 중국 정부는 어떤 계획을 이행하고 어떤 비용을 치르더라도 중국을 2030년까지 세계 최고의 AI 혁신 센터로 전환해 자국 경제에 1,500억 달러 규모의 산업을 창출할 2030 계획을 포함한 국가 전략을 실행할 굉장한 능력을 갖추고 있다. 이 계획은 정권이 바뀌어도 계속될 것으로 전망 되고 있다. 2018년 3월 중국은 임기 제한을 폐지해 시진핑이 권좌에 종신으로 머물 수 있는 길을 터주었기 때문이다. 시진핑 주석의 통치 아래 중국은 인상적인 권력 강화를 경험했다. 그는 공산당을 대담하게 만들었으며, 정보 흐름에 대한 통제를 강화하였고, 열매를 다음 세대에서 누릴 수 있을 것으로 기대하는 숱한 장기 계획을 진척시킬 새로운 정책을 수립했다. 중국 정부의 최상층에, AI는 최일선이자 가장 중심에 자리 잡고 있다. '능력을 숨기고 때를 기다 린다'라는 뜻의 도광양회(韜光養晦)를 정부 철학으로 삼았던 전 중국 공 산당 지도자 덩샤오핑(鄧小平)과 달리 시진핑 주석은 중국의 능력을 전 세계에 보여줄 준비가 되었으며, 글로벌 선두를 달리고 싶어 한다. 중국이 지도자들은 미래를 내다보며 대담하고 통합된 계획을 실행에 옮기고 있다. 이 같은 정책적 배경은 BAT에 슈퍼 파워를 안긴다.
- 명시된 규칙과 지시 사항이 없을 경우 팀이 선택한 선택 사항은 해 당 집단의 암묵적인 가치를 반영하는 경향이 있다고 주장하는 것이 콘웨이의 법칙이다. 1968년 컴퓨터 프로그래머이자 고등학교 수학 및 물리학 교사였던 멜빈 콘웨이는 시스템이 그것을 설계한 사람의 가치를 반영하는 경향이 있음을 알아냈다. 콘웨이는 조직이 내부적으로 소통하는 방식을 구체적으로 살펴보았지만 나중에 하버드와 MIT에서 진행된 연구를 통해 더욱 그의 주장에 힘이 실렸다. 하버드 비즈니스 스쿨은 동일한 목적을 위해 구축되었지만 다른 유형의 집단, 즉 엄격하게 통제된 소프트웨어와 보다 특별하고 개방적인 소프트웨어를 검토하면서 다양한 코드베이스를 분석했다. 위 연구의 주요 성과 중 하나는 집단의 설계방식은 집단이 어떻게 구성되어 있는지와 밀접한 관련이 있으며, 이것이 야기하는 편견이나 행사하는 영향력이 집단 내에서는 간과되는 경향이 있음을 알아낸 것이다. 결과적으로 집단에 속한 소수의 사람들의 초월적인 네트워크-그것이 무엇이건 간에는 집단 전체에 엄청난 영향력을 미친다. 콘웨이의 법칙은 AI에도 적용된다. 초창기 철학자, 수학자 그리고 오토마타 발명가가 마음과 기계를 논했을 당시 도구에 대한 인류의 동기와 목적을 설명하는 가치 알고리즘은 존재하지 않았다. 토대 연구 및 응용 프로그램에 대한 접근 방식에는 차이가 있었으며, 마찬가지로 현재에도 중국과 서구의 AI 개발 단계에도 간극이 존재한다. 콘웨이의 법칙은 집단의 신념, 태도, 행동이 숨겨진 편견이라고 확신하기 때문 에 중요하다. 콘웨이의 법칙의 맹점은 빅 나인이다. 왜냐하면 AI에 있어서 유전 성은 일정하기 때문이다. 현재 인류는 AI를 개발한 모든 단계를 그대 로 반복하고 있다. 그들의 개인적인 아이디어와 집단 이데올로기는 AI 생태계, 코드베이스, 알고리즘, 프레임 워크, 하드웨어 및 네트워크 설계에 고스란히 반영된다. 언어, 성별, 인종, 종교, 정치 및 문화가 개 인을 반영하지 않는다면, 그것들로 구축된 모든 부산물이 반영하는 것 은 아무것도 없을 것이다. 현실은 우리가 전문가가 아니기 때문에 AI 에만 국한되는 이야기는 아니다. 이는 업계와 상관없이 자금과 판매, 대담한 새로운 제안 사이의 지속되는 연결 고리다.
- 현재 AI의 발달로 자동화 및 효율성이 우선시되고 있는데, 이는 우리의 수천 가지 일상에 대한 통제와 선택의 폭이 그만큼 작다는 것을 의미한다. 만약 당신이 새로운 차를 운전한다면, 당신의 스테레오는 당신이 후진할 때마다 볼륨을 낮춰 줄 가능성이 있고, 그 결정을 거부 할 방법이 없다. 인간의 실수는 자동차 사고의 가장 큰 원인이다. 비 록 내가 차고로 후진할 때 어떤 것에 부딪히거나 넘어뜨리는 일은 결 코 없었지만 차고로 들어가는 순간 더 이상 '사운드가든'의 록 음악을 가장 큰 소리로 들을 수가 없다. AI 개발자 그룹은 내가 선택할 수 있 는 능력을 무시했고, 그들이 개인적인 결점으로 인식하는 것을 최적화했다. 아직 다루지 않은 것은 G-MAFIA나 BAT에선 공감을 위해 최적화하고 있다는 사실이다. 의사 결정 과정에서 공감대를 없애면 우리 인간성을 빼앗는 것이며, 때로 논리적으로 전혀 이해가 되지 않을 수 있 는 것도 어떤 특정 순간에는 우리에게 최선의 선택이 될 수 있다. 아픈 가족 구성원과 시간을 보내기 위해 일을 그만두거나 불타는 차에서 누 군가를 돕는 것처럼, 그 행동이 당신 자신의 삶을 위험에 빠뜨릴지라도 말이다. AI로 살아가는 우리의 미래는 작은 것에 대한 통제력 상실에서 시작된다. 내가 차고로 차를 몰고 들어가면서 크리스 코넬이 '블랙홀 태 양을 큰 소리로 듣지 못하는 것, 온라인 광고에 체포 기록과 연관된 당 신 이름이 나오는 것을 보는 것, 당황스러운 챗봇 사고 이후 주가가 하 락하는 것을 지켜보는 것, 종이에 베이는 것 같은 이 작은 사고는 현재 에는 별로 중요해 보이지 않지만, 앞으로 50년 동안 우리에게 많은 고통을 줄 수 있다. 우리는 하나의 재앙을 향해 가는 것이 아니라 오늘날 우리가 당연하게 여기는 인간성의 지속적인 침식을 향해 나아가고 있는 것이다.